В репозиториях Hugging Face обнаружили вредоносные модели машинного обучения

Исследователи компании JFrog нашли на платформе Hugging Face репозитории с вредоносными моделями машинного обучения. Встроенная система защиты не выявляет их, поэтому пользователи даже могут не знать, что скачивают на компьютер что-то подобное.

Вирусы на Hugging Face

Чаще всего проблема встречается в моделях формата pickle. Они могут содержать сериализированные объекты на Python и код, который выполняется во время загрузки файла. В этот момент на компьютер жертвы попадает софт для захвата доступа к устройству.

Исследователи отмечают, что такие модели могут запускать стороннее ПО, просматривать и изменять файлы.

Всего удалось обнаружить около сотни заражённых моделей на портале Hugging Face. Из них 95% направлены на пользователей фреймворка PyTorch, оставшиеся 5% — Tensorflow. Отмечается, что множество даже с виду опасных репозиториев на Hugging Face загружают исследователи. Таким образом они изучают новые виды угроз и способы борьбы с ними.

К примеру, один из репозиториев во время загрузки пытается получить доступ к калькулятору. Это просто проверка концепции и попытка провести атаку без вреда для пользователя, но настоящие хакеры могут получать доступ к особо важным файлам на компьютере. Именно поэтому исследователи советуют сохранять бдительность.

Как обезопасить себя

Hugging Face использует собственную систему сканирования репозиториев, которая проверяет их на наличие вирусов. Но даже если угроза будет обнаружена, то система не закроет доступ к файлам. Пользователи всё равно смогут просматривать их и загружать на свои устройства. Исследователи рекомендуют обращать внимание на баннеры с предупреждениями.

Не во всех случаях система Hugging Face обнаруживает вредоносные программы. В таких случаях следует использовать сторонние приложения для сканирования загрузок. Они помогают находить не только потенциально опасные пакеты, но и возможные уязвимости.