«Ложь более привлекательна в сети, чем правда», — говорит бывший аналитик ЦРУ, дипломат и сотрудник Facebook Яэль Айзенштат. «До тех пор, пока алгоритмы социальных сетей будут стремиться удержать нас, они будут кормить нас ядом, который играет на наших худших инстинктах и человеческих слабостях». В этой смелой речи на конференции TED в августе 2020 года Айзенштат исследует, как компании социальных сетей, такие как Facebook, поощряют подстрекательский контент, способствуя формированию культуры политической поляризации и недоверия, и призывает правительства призвать эти платформы к ответственности, чтобы защитить гражданскую дискуссию и демократию.
Около пяти лет назад меня поразило, что я теряю способность общаться с людьми, которые не являются моими единомышленниками. Идея обсуждения острых вопросов с моими соотечественниками-американцами стала вызывать у меня больше изжоги, чем те случаи, когда я общалась с предполагаемыми экстремистами за границей. Это начинало вызывать у меня чувство озлобленности и разочарования. И вот так я полностью переключила свое внимание с глобальных угроз национальной безопасности на попытки понять, что вызывает этот толчок к крайней поляризации внутри страны. Как бывший офицер ЦРУ и дипломат, много лет занимавшийся вопросами борьбы с экстремизмом, я начала опасаться, что это становится гораздо большей угрозой для нашей демократии, чем любой иностранный противник. Поэтому я начала копать и высказывать свое мнение, что в конечном итоге привело меня на работу в Facebook и, в конечном итоге, привело меня сюда сегодня, чтобы продолжить предупреждать вас о том, как эти платформы манипулируют и радикализируют многих из нас, и говорить о том, как вернуть нашу общественную площадь.
Я была сотрудником дипломатической службы в Кении через несколько лет после терактов 11 сентября и руководила кампаниями, которые некоторые называют «сердцами и умами», вдоль границы с Сомали. Важной частью моей работы было установление доверия с общинами, которые считались наиболее восприимчивыми к экстремистским сообщениям. Я часами пила чай с откровенно антизападными клерикалами и даже вела диалог с некоторыми подозреваемыми террористами, и хотя многие из этих встреч начинались с взаимных подозрений, я не помню, чтобы хоть одна из них закончилась криками или оскорблениями, а в некоторых случаях мы даже работали вместе в областях, представляющих взаимный интерес. Самыми мощными инструментами, которыми мы располагали, были просто слушать, учиться и развивать эмпатию. В этом и заключается суть работы сердца и разума, потому что я снова и снова обнаруживала, что большинство людей хотят чувствовать себя услышанными, признанными и уважаемыми. И я верю, что большинство из нас хотят именно этого.
Поэтому то, что я вижу сегодня в Интернете, особенно душераздирающе, и решить эту проблему гораздо сложнее. Нынешняя информационная экосистема манипулирует нами, укореняя многих из нас в абсолютизме настолько, что компромисс стал грязным словом. Потому что сейчас компании социальных сетей, такие как Facebook, наживаются на том, что сегментируют нас и снабжают персонализированным контентом, который как подтверждает, так и эксплуатирует наши предубеждения. Их прибыль зависит от провоцирования сильных эмоций, чтобы удержать нас, часто поощряя самые подстрекательские и поляризующие голоса, до такой степени, что найти общий язык уже не представляется возможным. И несмотря на растущий хор людей, взывающих к платформам с требованием измениться, очевидно, что сами по себе они не смогут это сделать. Поэтому правительства должны определить ответственность за реальный вред, причиняемый этими бизнес-моделями, и назначить реальную цену за пагубное воздействие, которое они оказывают на наше здоровье, общественную площадь и нашу демократию. Но, к сожалению, это не произойдет к президентским выборам в Штатах, поэтому я продолжаю бить тревогу, потому что даже если однажды у нас появятся сильные правила, для исправления ситуации потребуются все мы.
Когда я начала переключать свое внимание с угроз за рубежом на развал гражданского дискурса внутри страны, я подумала, не можем ли мы использовать некоторые из этих кампаний «сердец и умов» для преодоления наших разногласий. Наш более чем 200-летний эксперимент с демократией работает во многом потому, что мы можем открыто и страстно обсуждать наши идеи для поиска лучших решений. Но хотя я по-прежнему глубоко верю в силу гражданского дискурса лицом к лицу, сейчас он просто не может конкурировать с поляризующим воздействием и масштабами социальных сетей. Людям, которых затягивает в кроличьи норы возмущения социальных сетей, зачастую гораздо труднее избавиться от своих идеологических установок, чем тем уязвимым сообществам, с которыми я когда-либо работала.
Поэтому, когда в 2018 году мне позвонили из Facebook и предложили должность руководителя отдела по обеспечению честности выборов в сфере политической рекламы, я почувствовала, что должна согласиться. У меня не было иллюзий, что я смогу все исправить, но когда мне предложили возможность помочь направить корабль в лучшую сторону, я должна был хотя бы попытаться. Я не работала непосредственно над поляризацией, но я изучала, какие вопросы вызывают наибольшие разногласия в нашем обществе и, следовательно, наиболее удобны для использования в попытках вмешательства в выборы, что было тактикой России перед 2016 годом. Поэтому я начала с вопросов. Я хотела понять основные системные проблемы, которые позволяют всему этому происходить, чтобы понять, как это исправить.
Сейчас я по-прежнему верю в силу Интернета, способного принести больше голосов, но, несмотря на заявленную цель создания сообщества, крупнейшие компании социальных сетей в их нынешнем виде противостоят концепции аргументированного обсуждения. В бизнесе, где оптимизация вовлеченности и рост числа пользователей являются двумя наиболее важными показателями успеха, нет возможности поощрять слушание, стимулировать гражданские дебаты и защищать людей, искренне желающих задать вопрос. Нет никакого стимула, чтобы помочь людям замедлиться, создать достаточное трение, чтобы людям пришлось остановиться, осознать свою эмоциональную реакцию на что-то и подвергнуть сомнению свои собственные предположения, прежде чем вступать в разговор. Прискорбная реальность такова: ложь более привлекательна в сети, чем правда, а сальности побеждают странные, основанные на фактах рассуждения в мире, оптимизированном для вирусности без тесного контакта. До тех пор, пока целью алгоритмов будет поддержание нашего интереса, они будут продолжать кормить нас ядом, который играет на наших худших инстинктах и человеческих слабостях.
И да, гнев, недоверие, культура страха, ненависть: все это не ново для Америки. Но в последние годы социальные сети использовали все это и, как мне кажется, резко перевесили чашу весов. И Facebook знает об этом. В недавней статье «Wall Street Journal» была опубликована внутренняя презентация Facebook от 2018 года, которая конкретно указывает на собственные алгоритмы компании за рост присутствия экстремистских групп на своей платформе и за поляризацию пользователей. Но держать нас вовлеченными — это то, как они зарабатывают свои деньги. Современная информационная среда кристаллизуется вокруг профилирования нас, а затем сегментирования нас на все более узкие категории для совершенствования процесса персонализации. Затем нас бомбардируют информацией, подтверждающей наши взгляды, укрепляющей наши предубеждения и заставляющей нас чувствовать, что мы к чему-то принадлежим. Это та же тактика, которую вербовщики террористов применяют к уязвимой молодежи, хотя и в меньших масштабах, более локализованно, до появления социальных сетей, с конечной целью убедить их в своем поведении.
К сожалению, Facebook не дал мне возможности влиять на ситуацию. Фактически, уже на второй день работы моя должность и описание работы были изменены, и меня исключили из совещаний по принятию решений. Мои самые большие усилия — попытки разработать планы по борьбе с дезинформацией и подавлением избирателей в политической рекламе — были отвергнуты. И так я продержалась чуть меньше шести месяцев. Но вот мой главный вывод из моего пребывания там. В Facebook работают тысячи людей, которые с энтузиазмом работают над продуктом, который, по их мнению, делает мир лучше, но до тех пор, пока компания продолжает возиться с политикой и модерацией контента, а не задумывается о том, как устроена и монетизирована вся машина, она никогда не сможет по-настоящему решить проблему того, как платформа способствует ненависти, расколу и радикализации. И это единственный разговор, который я так и не услышала за время своей работы в компании, потому что для этого нужно в корне признать, что то, что ты создал, возможно, не является лучшим для общества, и согласиться изменить весь продукт и модель прибыли.
Что же мы можем с этим поделать? Я не хочу сказать, что социальные сети несут единоличную ответственность за то состояние, в котором мы находимся сегодня. Очевидно, что у нас есть глубоко укоренившиеся социальные проблемы, которые нам необходимо решить. Но ответ Facebook, что он является лишь зеркалом общества, — это удобная попытка снять с себя ответственность за то, как их платформа усиливает вредный контент и подталкивает некоторых пользователей к крайним взглядам.
И Facebook мог бы, если бы захотел, исправить некоторые из этих проблем. Они могли бы прекратить усиливать и рекомендовать теории заговора, группы ненависти, распространителей дезинформации и, да, в некоторых случаях даже нашего президента. Они могли бы прекратить использовать те же методы персонализации для передачи политической риторики, которые они используют для продажи кроссовок. Они могли бы переучить свои алгоритмы, чтобы они ориентировались не на вовлеченность, а на другие показатели, и они могли бы встроить ограждения, чтобы остановить вирусное распространение определенного контента до того, как он будет рассмотрен. И все это они могут сделать, не становясь, как они говорят, арбитрами истины.
Но они дали понять, что не пойдут на то, чтобы поступать правильно без принуждения, и, честно говоря, почему они должны это делать? Рынки продолжают вознаграждать их, и они не нарушают закон. Потому что в настоящее время в США не существует законов, обязывающих Facebook или любую компанию социальных сетей защищать наше общественное пространство, нашу демократию и даже наши выборы. Мы уступили право принимать решения о том, какие правила писать и какие применять, руководителям коммерческих интернет-компаний. Этого ли мы хотим? Мир постправды, где токсичность и трайбализм преобладают над наведением мостов и поиском консенсуса? Я не теряю оптимизма по поводу того, что у нас все еще больше общего друг с другом, чем это представляется в нынешних СМИ и интернет-среде, и я верю, что наличие большего количества перспектив на поверхности делает демократию более надежной и инклюзивной. Но не так, как это происходит сейчас.
И стоит подчеркнуть, что я не хочу убивать эти компании. Я просто хочу, чтобы они придерживались определенного уровня подотчетности, как и остальные члены общества. Настало время для наших правительств сделать шаг вперед и выполнить свою работу по защите наших граждан. И хотя нет такого волшебного закона, который бы все это исправил, я верю, что правительства могут и должны найти баланс между защитой свободы слова и привлечением этих платформ к ответственности за их влияние на общество. И они могут сделать это, в частности, настаивая на фактической прозрачности того, как работают эти рекомендательные системы, как происходит курация, усиление и таргетирование.
Понимаете, я хочу, чтобы эти компании несли ответственность не за то, что человек публикует дезинформацию или экстремистскую риторику, а за то, как их рекомендательные системы распространяют ее, как их алгоритмы направляют людей к ней и как их инструменты используются для ее распространения. Я пыталась изменить ситуацию внутри Facebook и потерпела неудачу, поэтому последние несколько лет я снова использую свой голос, чтобы продолжать бить тревогу и, надеюсь, вдохновить больше людей требовать такой ответственности.
Мое обращение к вам простое: окажите давление на представителей вашего правительства, чтобы они сделали шаг вперед и прекратили уступать нашу общественную площадь коммерческим интересам. Помогайте просвещать своих друзей и близких о том, как ими манипулируют в Интернете. Побуждайте себя к общению с людьми, которые не являются вашими единомышленниками. Сделайте этот вопрос приоритетным. Нам нужен подход всего общества, чтобы исправить ситуацию.
И мое послание руководителям моего бывшего работодателя Facebook таково: прямо сейчас люди используют ваши инструменты именно так, как они были разработаны, чтобы сеять ненависть, разделение и недоверие, и вы не просто позволяете это, вы позволяете это. И да, есть много замечательных историй о позитивных событиях, происходящих на вашей платформе по всему миру, но это не делает все это нормальным. И это становится только хуже, поскольку мы приближаемся к выборам и, что еще более тревожно, сталкиваемся с самым большим потенциальным кризисом, если результатам не поверят и если вспыхнет насилие. Поэтому, когда в 2021 году вы снова скажете: «Мы знаем, что должны работать лучше», я хочу, чтобы вы запомнили этот момент, потому что это уже не просто несколько голосов извне. Лидеры в области гражданских прав, ученые, журналисты, рекламодатели, ваши собственные сотрудники кричат с крыш, что ваша политика и ваша деловая практика вредят людям и демократии. Вы несете ответственность за свои решения, но вы больше не можете сказать, что не могли этого предвидеть.
Яэль Айзенштат
