Страх и ненависть в Facebook. Соцсеть обвинили в поощрении конфликтов ради прибыли
Информатор, которая стояла за утечкой документов Facebook в Wall Street Journal, раскрыла новые внутренние механизмы платформы.
Информатор Френсис Хоген раскрыла свою личность по телевидению и описала алгоритмы соцсети, которые, усиливают разжигание ненависти.
«Он платит за свою прибыль нашей безопасностью», — сказала Хоген ведущему американского шоу 60 Minutes Скотту Пелли.
Согласно ранее удаленному профилю LinkedIn, Хоген была менеджером по продукту в Facebook, входящим в группу Civic Integrity. Она решила покинуть компанию в 2021 году после роспуска группы.
Вскоре после этого она слила тайные данные внутренних исследований в Комиссию по ценным бумагам и биржам в надежде улучшить регулирование компании. Она отметила, что работала в нескольких компаниях, включая Google и Pinterest, но что «в Facebook было значительно хуже» из-за желания компании ставить прибыль выше благосостояния пользователей.
«Был конфликт … между тем, что было хорошо для общества, и тем, что было хорошо для Facebook, и Facebook снова и снова выбирал оптимизацию для своих собственных интересов — например, зарабатывал больше денег», — сказала Хоген Пелли.
Хотя компания неоднократно заявляет, что помогает остановить разжигание ненависти, по крайней мере, в отношении ее собственных продуктов, в одном внутреннем документе Facebook, опубликованном Хоген, говорится: «По нашим оценкам, мы можем принять меры лишь в 3−5% случаев ненависти и ~ 0,6% случаев V&I [Насилие и подстрекательство] в Facebook».
Другой документ был еще более резким. «У нас есть доказательства из различных источников, что ненавистнические высказывания, вызывающие разногласия политические высказывания и дезинформация в Facebook влияют на сообщества по всему миру».
Хоген утверждает, что корень проблемы — это алгоритмы, разработанные в 2018 году, которые определяют то, что вы видите на платформе. По ее словам, они предназначены для стимулирования взаимодействия, и компания обнаружила, что лучшее взаимодействие — это тот вид взаимодействия, который вызывает у пользователей страх и ненависть.
«Легче вызвать гнев людей, чем другие эмоции», — сказала Хоген.
В то время Марк Цукерберг представил изменения в алгоритме как положительные: «Мы чувствуем ответственность за то, чтобы наши услуги не только приносили удовольствие, но и приносили пользу людям».
Хоген закончила интервью, призвав к более широкому регулированию социальных сетей, к чему сам Facebook призывал в более ограниченной форме. Планируется, что она появится перед комиссией Сената по коммерции во вторник, 5 октября.
Ранее НВ писал, что, пока западные соцсети стараются очистить свои платформы от пропаганды, российские пропагандисты придумывают новые способы ее распространять. В частности, они используют комментарии на сайтах западных СМИ.
С 2017 года крупнейшие западные социальные сети пытались ужесточить политику в отношении пропаганды и дезинформации на своих платформах. Facebook заявил, что удалил за это время больше 6 тысяч учетных записей, страниц и групп, связанных с Россией, со своего основного сайта и из Instagram.
Twitter заявил, что с 2018 года заблокировал более 5 тысяч российских аккаунтов, а, по данным YouTube, с этой платформы было удалено больше 2 млн российских видео.
Многие из забаненных постов и аккаунтов были связаны с Агентством интернет-исследований — поддерживаемой Кремлем группой, которую обвиняли в использовании социальных сетей, чтобы попытаться повлиять на исход президентских выборов в США в 2016 году, или с ГРУ, российской военной разведкой.
Подписаться на ежедневную email-рассылку материалов раздела Техно Ежедневная рассылка о том как технологии изменяют мир подписаться Ежедневно в 17:00