От детской тревоги до торговли людьми. В чём обвиняют Facebook и к чему это может привести

Обвинение №1

VIP-пользователи защищены от модерации

Глава Facebook* Марк Цукерберг утверждает, что все пользователи соцсети равны. Однако, как пишет WSJ со ссылкой на документы компании, внутри FB построена особая система модерации для VIP-пользователей. Эта система защищает миллионы аккаунтов.

Система называется «перекрёстная проверка» (cross check или XCheck). Она предусматривает повышенное качество контроля для некоторых аккаунтов. На деле она защищает миллионы VIP-пользователей от санкций, которым бы подвергли обычные аккаунты за те же нарушения.

Если запрещённый контент публикует обычный пользователь, соцсеть блокирует материалы. Если такой контент выкладывает аккаунт из белого списка, система помечает публикацию, а решение об удалении принимают люди-модераторы через некоторое время. По данным WSJ, в 2020 году в промежутке между тем, как система пометила запрещённый контент, и между тем, как она удалила его, такие записи посмотрели 16 миллиардов раз.

XCheck позволяет пользователям нарушать правила. Например: размещать призывы к насилию или материалы, дискредитирующие жертв сексуальных домогательств. Так, в 2019 году футболист Неймар опубликовал фото обнажённой женщины, которая до этого обвинила его в изнасиловании. Прежде чем Facebook* удалил фото, их увидели миллионы фанатов Неймара. Это произошло потому, что Неймар входит в белый список VIP-пользователей.

Несмотря на множество скандалов вокруг этой системы, соцсеть только расширяет белый список. В 2021 году он насчитывает шесть миллионов знаменитостей со всего мира. По утверждениям WSJ, защищая XCheck, руководство Facebook* вводит в заблуждение акционеров, а также Наблюдательный совет, призванный контролировать деятельность корпорации.

Обвинение №2

Instagram* опасен для подростковой психики, и Facebook** скрывал это

Внутренние исследования, которые Facebook** провёл в 2019–2021 годах, показали, что Instagram* может вредить подростковой психике. Агрессивные рекомендации соцсети формируют у юных пользователей неправдоподобные представления о жизни и завышенные, нереалистичные стандарты красоты. Результат — расстройства пищевого поведения, повышенная тревожность и депрессии.

Так, в исследовании американских и британских подростков более 40% пользователей соцсети сообщили, что чувствуют себя непривлекательными. Это чувство появилось у них после использования Instagram*. 25% сказали, что ощущают себя некомфортно из-за этой социальной сети. Чаще всего страдают девочки-подростки, которые склонны критически оценивать свою внешность, но такие проблемы возникают и у мальчиков.

Facebook** пытался устранить эту проблему, скрыв возможность посмотреть количество лайков в Instagram*, но это не сработало. Как пишет WSJ, в публичных выступлениях руководство компании приуменьшает значимость этих исследований.

В отдельной статье WSJ обращает внимание, что долгосрочная цель Facebook** — создание продуктов для пользователей до 13 лет. Это Instagram* Kids и Messenger Kids. Соцсеть делает это, несмотря на то, что знает об опасности своих продуктов для подростков.

Обвинение №3

Алгоритмы Facebook* раздирают общество на части

С 2009 года в социальной сети развивают умную ленту: она показывает пользователям то, что им должно быть интересно. Изменения, о которых идёт речь в материалах WSJ, произошли в 2018 году. Новая версия ленты должна была вместо профессионального новостного контента показывать больше информации от друзей и семьи. Говоря языком Facebook*, поддержать «значимые социальные взаимодействия».

На деле изменения 2018 года привели к тому, что лента рекомендаций стала продвигать контент, создающий самые длинные ветки комментариев. Оказалось, что это самые скандальные, противоречивые, провокационные и злые публикации. По данным WSJ, этот алгоритм не просто заставил людей чаще спорить в комментариях, он ещё и негативно повлиял на поведение политических партий по всему миру.

В статье упоминаются партии из Польши, Испании, Тайваня и Индии. Чтобы поддерживать популярность в Facebook*, им пришлось стать грубее, эмоциональнее и чаще использовать риторику вражды. Таким образом, американская соцсеть могла спровоцировать политические конфликты не только в США, но и в других странах.

Документы, оказавшиеся в распоряжении WSJ, показывают, что у перестройки системы рекомендаций была ещё одна причина. В 2017 году соцсеть зафиксировала снижение активности пользователей по всем основным метрикам. В компании пришли к заключению, что причиной потери интереса стали рекомендательные алгоритмы, продвигающие качественный, но скучноватый профессиональный контент от СМИ.

Обвинение №4

FB — площадка для преступников в странах третьего мира

Facebook* тратит много ресурсов на модерацию контента, но делает это весьма выборочно. Согласно документам, лишь 13% всех усилий на модерацию контента тратятся на страны за пределами США. При этом американские пользователи составляют лишь 11% аудитории соцсети.

Из-за этой выборочной модерации в развивающихся странах Facebook** используют преступники. Так, мексиканский наркокартель «Новое поколение Халиско» вербовал в Facebook** будущих наёмных убийц прямо на своих страницах, а в Instagram* публиковал фотографии оружия и видеозаписи убийств. Ближневосточные торговцы людьми использовали соцсеть, чтобы заманивать будущих рабынь-уборщиц из Африки, а страницы, связанные с эфиопским правящим режимом, призывали сторонников к этническому насилию против народа тыграй.

Когда о проблеме стало известно, Facebook* заявил, что будет активнее удалять опасный контент, но так и не перенастроил свои алгоритмы. Механизм для борьбы с торговлей людьми проработал всего три месяца, после чего был деактивирован.

Ещё одна проблема — ограниченные языковые возможности компании. Для некоторых языков — к примеру, языков эфиопских меньшинств — у Facebook* просто нет ни алгоритмов, ни модераторов. Есть проблемы и с распространёнными языками. Большинство модераторов арабоязычного сегмента Facebook* — марокканцы, и у них могут возникать проблемы с другими диалектами арабского языка.

Кроме того, Facebook* не смог поддержать вакцинацию, сторонником которой является сам Марк Цукерберг. Под любым постом о вакцинации появлялось большое число комментариев от её противников, и это, по мнению журналистов, сбивало людей с толку.

Инсайдер из группы «гражданской порядочности»

Весь массив сведений журналисты WSJ получили от информатора, бывшей сотрудницы Facebook*, 37-летней Фрэнсис Хоуген. Она работала продакт-менеджером в Facebook* с 2019 по 2021 год. Инсайдер входила в состав группы «гражданской порядочности» (civic integrity). Это подразделение Facebook* занималось решением проблем, связанных с выборами. В первую очередь оно отвечало за противостояние дезинформации.

Хоуген специализировалась на «алгоритмическом управлении продуктами» и участвовала в разработке механизмов ранжирования, которые Facebook* использует для организации ленты. Девушка впервые появилась на публике 3 октября в интервью телеканалу CBS News.

Хоуген рассказала, что пришла в Facebook* «для того, чтобы делать мир лучше». Однако, проработав какое-то время и познакомившись с соцсетью изнутри, осознала, что компания действует против общественных интересов. Перед уходом она скопировала архив внутренних аналитических записок, отчётов и других документов, а затем передала эти сведения властям и журналистам WSJ.

По словам Хоуген, серьёзным ударом по Facebook* стали беспорядки в Вашингтоне 6 января 2021 года. Тогда группа сторонников Трампа попыталась захватить Капитолий, где Сенат проводил заседание по одобрению результатов президентских выборов. Она рассказала, что Facebook* включил системы безопасности, чтобы бороться с дезинформацией во время выборов, но выключил почти сразу после завершения голосования. То есть в день штурма Капитолия алгоритмы уже не работали. Хоуген назвала это решение «предательством демократии».

Во вторник 5 октября Фрэнсис Хоуген выступила на слушаниях подкомитета Сената по торговле, посвящённым защите детей в интернете.

Хоуген повторила тезисы о том, что компания знала о негативном влиянии алгоритмов на детей, но не только ничего с этим не делала, но и продолжала разработку продуктов для аудитории до 13 лет. Инсайдер предложила относиться к Facebook* как к табачной компании, которая скрыла от правительства вред своей продукции. А сами соцсети она сравнила с сигаретами, которые быстро вызывают привыкание у подростков.

«Обвинения без смысла». Как защищается Facebook*

В прошлом компания Цукерберга уже оказывалась в центре скандалов. Например, в сентябре 2021 года выяснилось, что алгоритмы Facebook* рекомендуют пользователям, просматривающим видео с чернокожими мужчинами, «больше видео с приматами». Руководство принесло извинения и внесло изменения в рекомендательный механизм.

Однако в этот раз в Facebook* обвинили СМИ и инсайдера в том, что они неправильно интерпретировали информацию. Комментируя первое интервью Хоуген для журналиста BBC, директор Facebook* по политическим коммуникациям Лена Пич заявила: «[Если обвинения верны, то] получается, что мы закрываем глаза на обратную связь и игнорируем труд 40 тысяч человек, работающих над безопасностью в Facebook*, и наши инвестиции в размере 13 миллиардов долларов с 2016 года».

После слушаний в Конгрессе Пич сказала, что Хоуген занимала низкую должность в компании, и подчеркнула, что полномочия инсайдера не касались тем, о которых говорится в переданных документах. Спикер привела этот довод, несмотря на то, что расследование WSJ было основано на материалах, а не на личных показаниях Хоуген.

Слушания прокомментировал и сам Цукерберг. Он назвал обвинения в адрес Facebook* не имеющими смысла. Глава корпорации обратил внимание, что если компания хотела бы игнорировать научные данные, то не финансировала бы ведущую в отрасли исследовательскую программу. Кроме того, добавил Цукерберг, если Facebook* не собирался бы бороться с вредным контентом, то не стал бы нанимать на это направление больше людей, чем любая другая социальная сеть.

Вот другие аргументы создателя Facebook*:

• изменения алгоритма пошли пользователям на пользу, что было доказано исследованиями;
• Facebook* проводит множество исследований, но слитые материалы были вырваны из контекста. Их использовали для создания картины, искажающей деятельность корпорации;
• компания привержена безопасности детей, и многим подросткам соцсети помогают переживать трудные времена;
• Facebook* последовательно выступает за обновление правил работы интернет-компаний.

Публично высказались и другие представители соцсети. Директор по безопасности Натаниэль Глейхер напомнил, что соцсеть тщательно отслеживает и пресекает попытки преследовать людей в интернете и постоянно предотвращает кибершпионаж.

Вице-президент Facebook* по международным отношениям Ник Клегг (кроме прочего, депутат британского парламента) признал несовершенство системы XCheck. Он предложил Наблюдательному совету Facebook* разработать рекомендации по её улучшению.

Мейнстримная наука уже десять лет говорит об опасности соцсетей

В 2010-х годах эксперты из общественных наук, прежде всего психологи, многократно говорили о негативном влиянии соцсетей на ментальное здоровье пользователей и агрессию в политических дискуссиях. Внутренние исследования Facebook* только подтвердили эти обвинения.

Так, за последние десять был опубликован ряд исследований о влиянии социальных сетей на ментальное здоровье подростков. Общий вывод: современные подростки тратят на соцсети по несколько часов в день и поэтому растут более тревожными и депрессивными, чем предыдущие поколения. Считается доказанной корреляция между временем, проводимым в соцсетях, и риском депрессии, СДВГ и нарушений сна.

Количество депрессивных эпизодов и тревожных расстройств среди американских подростков было стабильным в 1990-х и 2000-х. Но примерно с 2011 года цифры стали быстро расти. Для мальчиков показатель увеличился с 5 до 7%, а для девочек рост оказался даже выше — с 12% в 2011–2012 годах до 20% в 2017-м.

У студентов цифры выросли ещё стремительнее — с 6 до 14% у девушек и с 2 до 7% у парней. Также растёт число инцидентов с нанесением ран самому себе и самоубийств. Американский социальный психолог Джонатан Хайдт, как и многие его коллеги, напрямую связывает эту тенденцию с соцсетями.

Психологи называют несколько факторов влияния соцсетей на ментальное здоровье. Соцсети не могут заменить личное общение, поэтому социальные навыки детей ухудшаются. Подростки ориентируются на неестественные модели коммуникации, привыкают к потреблению информации, а не к обмену мнениями.

Социальные сети формируют завышенные стандарты красоты — что повышает уровень тревоги и неприятия себя у подростков, прежде всего девочек. При этом в социальных сетях процветает безнаказанный буллинг.

Что дальше?

По мнению Хоуген, одна из главных проблем компании — абсолютная непрозрачность механизмов её работы. Инсайдер рекомендует Конгрессу добиться того, чтобы Facebook* позволил регуляторам подробно изучить алгоритмы своих соцсетей.

Это предложение не ново — мы уже писали о том, как именно американские и европейские политики хотят регулировать компании Big Tech и важнейшие соцсети. Требование открытости и подотчётности алгоритмов — одно из основных. Главная проблема, о которой говорят и законодатели, и представители Big Tech, в том, чтобы не передать слишком много власти государственным регуляторам.

Вице-президент Facebook* по международным отношениям Ник Клегг заявляет, что корпорация готова раскрыть властям свои алгоритмы. Он отметил, что так люди смогут сопоставить, что должна делать система, с тем, что она на самом деле делает.

На заседании Конгресса законодатели также обсудили следующие меры:

• отмену раздела 230 Закона о порядочности в коммуникациях, который снимает с соцсетей ответственность за контент, публикуемый пользователями;
• принятие национального закона о конфиденциальности и защите данных;
• принятие закона об усилении защиты детей в интернете.

Все эти предложения давно обсуждают. Кроме того, Instagram* могут отделить от Facebook** по антимонопольным искам. Хоуген выступила против такой меры, заметив, что она не решит проблему.

Возможно, Республиканская и Демократическая партии смогут объединиться для принятия мер по регулированию Facebook*. Во время выступления Хоуген в Конгрессе сенатор-республиканец Джерри Моран из Канзаса обратился к своему коллеге — демократу Ричарду Блюменталю из Коннектикута. Он предложил отбросить в сторону партийные разногласия для того, чтобы сделать Facebook* более подконтрольным. Блюменталь согласился.

Не исключено, что в Facebook* предпримут внутренние контрмеры, чтобы защититься от подобных скандалов и утечек информации. Так, 14 октября издание The New York Times сообщило, что корпорация объявила работникам об ограничении доступа к особо важным внутренним материалам.