Роскомнадзор будет искать запрещённый контент с помощью ИИ

Раньше это делали вручную.

Екатерина Соколова

Редактор новостей о бизнесе и EdTech. Скроллить новостную ленту — и работа, и хобби.

Главный радиочастотный центр (ГРЧЦ) ищет подрядчика, который разработает систему поиска нарушений в визуальном интернет-контенте на основе ИИ-технологии. Тендер стоимостью 15 млн рублей опубликовали 15 сентября, заметил «Коммерсантъ».

Работу над системой, которой уже дали название «Окулус», должны закончить в декабре. Подведомственный Роскомнадзору ГРЧЦ планирует запустить технологию в 2022 году.

Алгоритмы «Окулуса» будут искать противоправные изображения и видео. К таким относят экстремистские материалы, порнографию, пропаганду наркотиков, призывы к массовым беспорядкам и самоубийству. Прежде такой контент выявляли вручную.

По словам главы Роскомнадзора Андрея Липова, к концу 2021 года благодаря технологии регулятор сможет вычислять в интернете в 14 раз больше нарушений.

Название «Окулус» дублирует товарный знак, принадлежащий Facebook*. ИТ-гигант работает над VR-системой Oculus с 2019 года. Причём написание названия кириллицей тоже зарегистрировано на Facebook*. По словам экспертов, ГРЧЦ имеет право использовать аналогичное название до тех пор, пока это не связано с коммерческой деятельностью.

Сейчас за размещение противоправного контента владельцам площадок грозит от административной до уголовной ответственности. Весной 2021 года из-за запрещённых публикаций оштрафовали ряд соцсетей.

Так, в мае на администрацию «ВКонтакте» составили протокол по ч. 2 ст. 13.41 КоАП об отказе удалять контент, доступ к которому подлежит ограничению в соответствии с законодательством. Речь шла о постах, посвящённых январским массовым акциям протеста. Соцсеть обязали выплатить штраф в размере 1,5 млн рублей. По этой же статье оштрафовали TikTok (на 2,5 млн), Telegram (на 5 млн), Twitter (на 8,9 млн) и Facebook* (на 26 млн).

* Решением суда запрещена «деятельность компании Meta Platforms Inc. по реализации продуктов — социальных сетей Facebook* и Instagram* на территории Российской Федерации по основаниям осуществления экстремистской деятельности».