Meta* выпустила ИИ-модель Llama 3.1 с 405 миллиардами параметров

Корпорация Meta* (запрещена в России и признана экстремистской) выпустила самую большую в мире ИИ-модель с открытым исходным кодом Llama 3.1. В компании утверждают, что нейросеть превосходит GPT-4o и Claude 3.5 Sonnet от Anthropic по ряду показателей. Llama 3.1 включает в себя 405 миллиардов параметров, её обучали на более чем 16 тысячах графических процессоров H100 от Nvidia.

Open-source ИИ-модель

Meta* анонсировала работу над Llama 3.1 ещё в апреле 2024 года. Тогда в компании заявили, что это уникальный для ИИ-индустрии проект — модель с открытым исходным кодом, которая сможет потягаться с лучшими закрытыми моделями компаний вроде OpenAI.

Нейросеть Llama 3.1 оказалась значительно сложнее предшествующей Llama 3, которая вышла несколько месяцев назад. Новую ИИ-модель обучали более чем на 16 тысячах чипов Nvidia H100. Она содержит в себе 405 миллиардов параметров. Компания не раскрывает данные о стоимости разработки Llama 3.1, однако, учитывая стоимость процессоров, можно предположить, что речь идет о сотнях миллионов долларов.

Несмотря на подобные затраты, Meta* изначально сделала исходный код своей модели открытым. Глава корпорации Марк Цукерберг считает, что ИИ-модели, работающие по принципу open source, в будущем превзойдут проприетарные. В качестве примера он привел ОС Linux, которая, являясь системой с открытым исходным кодом, сегодня управляет большинством серверов и гаджетов. Цукерберг также заявил, что выход Llama 3.1 станет переломным моментом в ИИ-индустрии, после которого многие разработчики сделают выбор в пользу open source.

В компании утверждают, что эксплуатация Llama 3.1 примерно вдвое дешевле, чем GPT-4o от OpenAI. Meta также предоставляет доступ к весам модели, что позволяет бизнесу обучать её на собственных данных и настраивать под конкретные задачи.

Читайте также:

OpenAI представила GPT-4o — свою самую мощную языковую модель

Обновления Meta AI

Помимо выпуска новой ИИ-модели, Meta* сообщила о новых обновлениях ИИ-ассистента Meta AI, основанного на Llama. Так, сервис стал доступен в 22 странах мира, включая Аргентину, Чили, Колумбию, Эквадор, Мексику, Перу и Камерун. Meta AI теперь общается не только на английском, но и на французском, немецком, хинди, итальянском, португальском и испанском языках.

Кроме того, у ассистента появилась функция Imagine Me, которая сканирует лицо пользователя через камеру телефона, чтобы затем вставить его изображение в генерируемые картинки. Достаточно ввести в сервисе текстовый запрос вроде «Представь меня сёрфингистом» или «Представь меня на пляже», и сервис выдаст необходимое изображение.

Ещё в ближайшее время Meta AI получит новые инструменты для редактирования изображений — они позволяют удалять и изменять объекты на картинке с помощью текстовых запросов. В августе разработчики обещают добавить кнопку «Edit with AI» для более тонкой настройки. Позднее в сервис добавят ярлыки для быстрой публикации изображений, созданных ИИ, в лентах, историях и комментариях приложений Meta*.

Сервис Meta AI вышел в сентябре 2023 года — тогда он работал на основе LLM-модели Llama 2. Ассистент способен предоставлять нужную информацию пользователю, генерировать текст, переводить его на разные языки и выполнять другие задачи с помощью ИИ.

* Решением суда запрещена «деятельность компании Meta Platforms Inc. по реализации продуктов — социальных сетей Facebook и Instagram на территории Российской Федерации по основаниям осуществления экстремистской деятельности».