Facebook обучит ИИ предотвращать конфликты

А также находить дипфейки.

Екатерина Соколова

Редактор новостей о бизнесе и EdTech. Скроллить новостную ленту — и работа, и хобби.

Компания начнёт тестировать систему для модерации комментариев. ИИ будет анализировать сообщения пользователей в сообществах, говорится в блоге Facebook*. Если алгоритм обнаружит в комментариях возможные конфликтные ситуации, он проинформирует администраторов. Помимо этого, ИИ считывает нецензурную лексику: он снабжает сообщения отметкой Moderation alert и отправляет их модераторам.

Это делается для того, чтобы вовремя уведомить администраторов о конфликтах и дать им возможность оперативно отреагировать на них. Например, модераторы могут закрыть доступ к комментариям для некоторых пользователей.

Кроме этого, Facebook* запустил систему для отслеживания дипфейков. Технология анализирует изображения, помогая выявить мошенников, распространяющих подделки.

В 2020-м Facebook* вводил цензуру на публикации, связанные с COVID-19. Все посты и комментарии на эту тему помечали специальной плашкой, которая рекомендовала пользователям ознакомиться с официальной информацией о пандемии, а критику предпринимаемых во время пандемии мер со стороны правительства удаляли. Однако с мая 2021 года Facebook* отключил цензуру для подобных публикаций.

* Решением суда запрещена «деятельность компании Meta Platforms Inc. по реализации продуктов — социальных сетей Facebook* и Instagram* на территории Российской Федерации по основаниям осуществления экстремистской деятельности».