Возрождение социальной инженерии во благо

«Социальная инженерия» звучит как что-то из конспирологического триллера, пронизанного тоталитарным контролем и паранойей маргинальных кругов. В более обыденном смысле это понятие стало ассоциироваться с фишингом и другими мошенническими схемами, в которых мошенники манипулируют людьми, заставляя их раскрывать личную информацию.

Однако сама концепция старше и безобиднее: это целенаправленное формирование поведения человека, часто в больших масштабах. Она существовала задолго до появления кремниевых технологий — и стала повсеместной и неконтролируемой, особенно после того, как её сторонники научились её скрывать. Авторитарные режимы, а в последнее время и мошенники, и крупные компании извлекали из этого выгоду. Чтобы защитить себя от злоумышленников и извлечь выгоду из положительных сторон социальной инженерии, нам необходимо вернуть ей прежнее название и разумно её использовать.

Истоки инженерного дела

В 1894 году голландский предприниматель Жак ван Маркен призвал компании нанимать «социальных инженеров» для управления такими человеческими системами, как страхование, образование и распределение прибыли среди рабочих, с той же тщательностью, с какой они управляли механическими системами. Пятнадцать лет спустя реформатор Уильям Х. Толман опубликовал книгу «Социальная инженерия», в которой описал, как американские промышленники оптимизировали условия труда рабочих наряду с методами производства. Если промышленники могли производить сталь и электричество по требованию, почему бы не сделать то же самое с самим обществом?

К 1920-м годам эта уверенность распространилась. Архитектор Ле Корбюзье заявил, что жилища — это «машины для жизни», представляя города как упорядоченные решетки, где люди движутся подобно деталям на конвейерной ленте. Цивилизация будет функционировать как швейцарские часы.

Идея вскоре померкла. Авторитарные режимы довели её до крайности, обещая создать «нового человека». В нацистской Германии инженер Фриц Тодт основал Организацию Тодта, крупное государственное инженерное предприятие, возникшее из системы автобанов, а позже управлявшее концентрационными лагерями с использованием рабского труда.

В Советском Союзе руководители переняли американские методы научного управления для планирования перемещений рабочих на заводах и классификации населения на основе централизованных записей, что способствовало как стремительной индустриализации, так и системе принудительного труда в ГУЛАГе. Те же инструменты и методы управления, которые использовались для строительства автомагистралей и принятия пятилетних планов, применялись для репрессий и контроля над массами.

К 1950-м годам термин «социальная инженерия» стал оскорбительным. Разоблачения злоупотреблений нацистов и советских властей, а также критика масштабного социального планирования в период холодной войны превратили этот термин из прогрессивного лозунга в предупреждающий знак. Запрет на использование этого слова загнал практику в подполье, что затруднило её распознавание при появлении в новых формах — например, в организационной психологии и системном управлении, которые по-прежнему опирались на методы классификации и поведенческого воздействия, но под более мягкими, менее предвзятыми названиями.

Более изощренное распространение социальной инженерии

В послевоенные годы в лексикон социальной инженерии вошли такие понятия, как «человеческий фактор» и «градостроительство», обещавшие интеграцию, а не командование. С развитием вычислительной техники язык снова изменился: «картирование пути клиента» для отслеживания взаимодействий, «пользовательский опыт» для их описания. Инженерия, которая начиналась как средство преобразования физического пространства, теперь сосредоточилась на формировании поведения. Цифровые элементы дизайна, встроенные в наши смартфоны, теперь нацелены на наше внимание и желания.

Язык помогает скрыть эти современные формы социальной инженерии. «Анализ данных» звучит нейтрально рядом с «наблюдением». «Персонализация» подчеркивает индивидуальность, при этом разделяя пользователей на предсказуемые категории. «Поведенческие подсказки» направляют решения без ощущения вторжения в частную жизнь. Мы используем слово «социальный» как благоприятный определений для науки, капитала и СМИ, но испытываем отвращение, когда оно встречается со словом «инженерия».

Этот дискомфорт — ключ к разгадке. Инженерное дело подразумевает контроль, а контроль побуждает нас задаваться вопросом, кто кем руководит, к каким целям и с чьего разрешения.

В наши дни не вся социальная инженерия скрыта. Хакеры не нуждаются в взломе брандмауэра, если кто-то передает им свой пароль. Мошенники, занимающиеся романтическими аферами, культивируют близость так же, как фермеры выращивают урожай. Они добиваются успеха не силой, а эксплуатируя доверие. Если даже эти очевидные атаки срабатывают, то невидимые, основанные на социальной инженерии, — это беспроигрышный вариант.

Большая часть методов социальной инженерии, с которыми мы сталкиваемся, являются конфиденциальными и находятся вне нашего контроля. Компании создают алгоритмы рекомендаций, настроенные на повышение вовлеченности и прибыли, без каких-либо слушаний или права на обжалование. Настройки браузера и cookie по умолчанию определяют, какие данные мы предоставляем. Один-единственный переключатель автовоспроизведения может стоить пользователям часов и привести к формированию вредных привычек. Это действия инженеров, столь же преднамеренные, как прокладка дороги или перераспределение избирательных округов. Они создают своего рода «заказное» удовольствие, от которого никогда не проходит скука и никогда не приходит удовлетворение. Результаты предсказуемы — пользователи кликают на целевую рекламу, совершают покупки, формируют привычки и закрепляют свои мнения.

Вместе с этим изменилось и само понятие согласия. Когда-то простое и отзываемое, теперь оно стало тонким и настойчивым, скрытым в настройках по умолчанию или непрозрачных условиях предоставления услуг, которые принимаются слишком быстро. Вы по-прежнему свободны отказаться, как и от дорог или электричества. Согласие стало предопределенной реальностью современной жизни.

Когда социальная инженерия действовала более открыто, граждане могли ей противостоять, по крайней мере, в обществах с подотчетным правительством. Сегодняшняя невидимая версия настолько размывает ответственность, что контролировать ее становится трудно. Несмотря на недавние слушания в Конгрессе о влиянии социальных сетей на психическое здоровье молодежи и согласие присяжных с тем, что компании сознательно разрабатывают алгоритмы, причиняющие вред, установить виновных по-прежнему сложно. Когда механизм скрыт внутри системы, используемой миллиардами людей, нам трудно указать на конкретного человека, принимающего решения, или отследить точный момент манипуляции.

Современная социальная инженерия менее очевидна и театральна, чем её предшественницы. Ранние версии появлялись на публичных плакатах и громкоговорителях для массовой аудитории. Сегодняшняя версия более интимна, она распространяется через личные устройства и постоянные потоки информации, адаптированные под конкретного человека. Модель успешна, потому что участие ощущается как свобода, а не как контроль.

Не вся социальная инженерия — это антиутопия. Ухоженные парки способствуют формированию сообщества, доступные здания повышают чувство собственного достоинства, вакцины и ремни безопасности спасают жизни. Даже в цифровой сфере существуют позитивные примеры: расширения для браузеров, которые автоматически блокируют скрытые трекеры, поисковые системы, которые отказываются создавать персонализированные профили слежки, и децентрализованные социальные платформы, которые предоставляют пользователям больший контроль над своими данными и лентами новостей.

Термин «социальная инженерия» по-прежнему вызывает опасения. Но «асоциальная» инженерия, которая полностью игнорирует человеческие последствия, еще хуже. Признание человеческого измерения в инженерии — это начало восстановления. Только ясно увидев механизм и честно назвав его, мы сможем решить, кто что проектирует и почему. Механизм сам себя не разберет. Как только он назван, он становится объектом выбора. Это согласование цели, власти и процесса — определяющие политические вопросы любой подлинной демократии. Мы не можем гарантировать, что социальная инженерия будет служить и поддерживать общество, пока мы уклоняемся от прямого упоминания этого термина.