CTO Meta: «Слабая модерация — угроза для метавселенной»

Компания будет работать над строгой фильтрацией на платформе.

Екатерина Соколова

Редактор новостей о бизнесе и EdTech. Скроллить новостную ленту — и работа, и хобби.

Технический директор Meta Эндрю Босуорт в письме сотрудникам заявил, что слабая модерация контента может стать угрозой для «онлайн-мира» и планов компании по реформированию интернета, сообщает The Verge со ссылкой на Financial Times. Из-за оскорблений, угроз и другого неприемлемого контента платформа рискует потерять пользователей.

Босуорт хочет, чтобы компания добилась «безопасности уровня Disney», при этом CTO отмечает, что контролировать поведение пользователей в масштабах метавселенной практически невозможно.

В письме Босуорт призвал Meta ужесточить модерацию — в частности, стать менее терпимой к неприемлемому контенту и чаще блокировать нарушителей. И уже сейчас начать применять эти меры в VR-пространстве Horizon Worlds.

Помимо этого, Босуорт напомнил, что пользователи также могут помогать компании в фильтрации контента — сообщать модераторам Meta о неприемлемых материалах и жаловаться на аккаунты, которые их распространяют.

В сентябре Meta объявила о создании фонда в размере 50 млн долларов. Эти средства компания направит на проведение исследований, которые поспособствуют безопасности платформы. Фонд будет сотрудничать с общественными организациями и научными сообществами по вопросам конфиденциальности, равенства, экономических возможностей.

Существующие продукты Meta — Facebook** и Instagram* — неоднократно подвергались критике из-за слабой модерации. В частности, компанию обвиняли в том, что она не реагирует на торговлю наркотиками и людьми в соцсети Facebook**. А также в том, что она не предпринимала никаких действий в отношении вооружённой группировки, которая призывала на своей странице в Facebook** к насилию против этнических меньшинств.

Помимо этого, соцсеть не препятствовала распространению случаев плагиата на платформе. Например, в 2018 году около 40% трафика на страницы Facebook* пришлось на профили, которые скопировали чужой контент и выдали его за свой.

Эксперты полагают, что развитие метавселенной заставит Meta столкнуться с совершенно новыми проблемами с модерацией, помимо существующих недоработок в этой области.

Кадр: Recode / YouTube

* Решением суда запрещена «деятельность компании Meta Platforms Inc. по реализации продуктов — социальных сетей Facebook* и Instagram* на территории Российской Федерации по основаниям осуществления экстремистской деятельности».