Илон Маск открыл код нейросети Grok-1

Компания Илона Маска X AI (подразделение социальной сети X) открыла код модели машинного обучения Grok-1. Теперь сторонние разработчики могут использовать его для создания собственных сервисов и чат-ботов.

Ушёл в опенсорс

В марте 2024 года Илон Маск начал резко высказываться в сторону OpenAI. Бизнесмен отмечал, что проекты компании закрыты, хотя изначально планировалось создавать открытый искусственный интеллект. Илон Маск стоял у истоков создания OpenAI и напомнил про цели основателей. Кроме того, он подчеркнул, что сейчас компания представляет собой дочернюю структуру Microsoft, которая финансирует все разработки и пользуется услугами по льготным условиям.

На замечания Маска ответили представители OpenAI. Они опубликовали письма Илона, в которых он выбивал себе место генерального директора в молодой компании, хотел объединения с Tesla и не был против закрытия исходного кода GPT. Кроме того, бизнесмену указали, что его модель машинного обучения Grok-1 до сих пор закрыта. Теперь Маск объявил о том, что нейросеть ушла в опенсорс.

Технические детали

Код Grok-1 опубликовали на GitHub и продублировали на Hugging Face. Архив весов модели на 300 ГБ можно скачать по отдельной магнитной ссылке. В репозитории есть всё необходимое для запуска нейросети, включая инструкцию и рекомендации. Исходный код доступен по лицензии Apache 2.0.

У нейросети 314 миллиардов параметров. Если сравнивать с GPT, то у версии 3.5 всего 175 миллиардов параметров. Такую большую модель не получится запустить на рабочем ноутбуке или домашнем ПК. Для этого понадобится система с довольно мощными графическими ускорителями.

Публикация исходных кодов в первую очередь будет полезна стартапам, которые занимаются созданием чат-ботов и языковых моделей. Разработчики смогут брать за основу Grok-1. Кроме того, так Илон Маск демонстрирует открытость своей компании, ставя в противовес OpenAI.