«Злая» версия ChatGPT помогает хакерам создавать вирусы и проводить кибератаки

Что происходит

В то время как Маск создаёт «первый гуманный ИИ» в пику Microsoft и OpenAI, тёмная сторона не сидит сложа руки. На днях хакеры выпустили своего чат-бота, который будет помогать киберпреступникам создавать вредоносное ПО и проводить кибератаки, — называется эта неэтичная нейронка WormGPT.

По сути, WormGPT — это полный аналог ChatGPT, Bard, Bing и других похожих нейросетей, но без этических и юридических границ. Например, можно запросто попросить его написать скрипт на Python, который похищает логины, пароли и IP-адреса пользователей, а затем отправляет их мошеннику.

Ещё один пример: разработчики из SlashNext попросили чат-бота написать фишинговое письмо, которое приходит сотруднику на рабочую почту от имени директора, с просьбой перевести деньги по указанным реквизитам.

Вот как прокомментировали работу чат-бота в SlashNext:

К счастью, стоит это удовольствие совсем недёшево: разработчик чат-бота оценивает использование своего детища в 60 евро в месяц — или около 550 евро в год. Да и отзывы на нейронку пока довольно смешанные — покупатели жалуются, что за такую цену она могла бы приносить и больше выгоды.

А что под капотом?

Внутри у WormGPT крутится языковая модель GPT-J, которая, по сути, является полной копией нейросети GPT-3 от OpenAI. Чтобы добавить нейросети «злодейский» функционал, создатели обучили её на данных о создании вредоносных программ — ну и бонусом «забыли» подключить некоторые фильтры, которые добавляют ChatGPT флёр добропорядочности.

Впрочем, как оказалось, фильтры эти легко обходятся, и тогда даже самый неиспорченный чат-бот становится достойным напарником хакера. Ранее мы писали о том, что при тонкой настройке и сам ChatGPT может создавать малвари, которые легко обходят антивирусы и системы безопасности.