Компания OpenAI провела презентацию DevDay, на которой представила новые инструменты для пользователей ChatGPT. Среди новинок — API для разработки собственных приложений на базе технологий компании, более быстрая модель GPT-4 Turbo и конструктор ботов.
GPT-4 Turbo
Главная особенность новой модели — расширенные знания о реальном мире. Теперь нейросеть в курсе событий до апреля 2023 года, что положительно сказывается на генерации ответов. Кроме того, GPT-4 Turbo может работать с контекстным окном до 128 тысяч токенов, что соответствует 300 страницам текста. Это помогает нейросети учитывать больший объём текста во время генерации ответа.
OpenAI уделила особое внимание функциям для разработчиков. Например, если попросить GPT-4 Turbo всегда генерировать ответы в формате XML, то модель будет придерживаться этого правила, не пытаясь отвечать произвольным текстом. Кроме того, компания гарантирует, что нейросеть теперь возвращает валидные JSON-файлы, что особенно полезно для передачи результатов работы GPT в веб-приложения.
Ещё одним нововведением стала функция параллельного вызова действий. Например, с помощью одного запроса можно узнать погоду сразу в трёх городах и вернуть ответ пользователю. Раньше для этого надо было отправлять три отдельных запроса и хранить промежуточные ответы.
Вместе с флагманской моделью выпустили обновление версии GPT-3.5 Turbo. Нейросеть умеет работать с контекстным окном до 16 тысяч токенов, поддерживает параллельный вызов действий и режим работы с JSON.
Assistants API
OpenAI запустила бета-версию Assistants API, позволяющего разработчикам создавать агентов для решения специфических задач. В официальной документации приводится пример создания приложения для решения задач по математике. В этом случае чат-боту задаётся роль и описываются его задачи, а пользователи получают агента исключительно для обработки математических выражений.
К таким приложениям можно подключать дополнительные источники данных, которых нет в GPT. При этом разработчикам не надо думать о том, как хранить информацию и выполнять поиск по ней. Все эти задачи берёт на себя модель машинного обучения. OpenAI отмечает, что не использует пользовательские данные для обучения.
Assistants API включает в себя интерпретатор Python для решения более сложных задач. С его помощью можно обрабатывать большие файлы, рисовать диаграммы на основе сгенерированных ответов или проводить большие вычисления с использованием сторонних библиотек.
Доступ к API могут получить все пользователи, а эксперименты можно проводить в песочнице. Разработчики оплачивают Assistants API по отдельному тарифу.
Конструктор чат-ботов GPTs
Для менее продвинутых пользователей OpenAI выпустила конструктор чат-ботов GPTs. С его помощью можно настроить агента для решения класса задач без навыков программирования. Например, с помощью обычного диалога можно создать бота для службы технической поддержки.
Для настройки пользователь должен рассказать чат-боту о его роли и задачах, передать доступ к специальным данным, которых нет в модели GPT, и выбрать режим доступа к информации в интернете. После этого можно пользоваться агентом самому или поделиться ссылкой на него.
В ближайшее время OpenAI запустит площадку, на которой можно будет публиковать чат-ботов, созданных с помощью конструктора. На платформе будет функция поиска по агентам и таблица популярных агентов. Создатели чат-ботов смогут монетизировать свои разработки.
OpenAI уже начала развёртывать обновление. В ближайшее время функция станет доступна всем пользователям. Специально к релизу компания подготовила несколько собственных чат-ботов:
- Game Time — поможет разобраться в правилах настольной игры и объяснит их даже ребёнку.
- The Negotiator — предназначен для защиты интересов и точки зрения пользователей во время переговоров.
- Creative Writing Coach — тренер письма.
- Tech Support Advisor — технический консультант, предлагает пошаговые решения проблем.
- Laundry Buddy — подскажет, как постирать вещи.
- Sous Chef — посоветует рецепт из продуктов, которые есть дома.
- Sticker Whiz — позволяет сгенерировать стикеры и заказать их печать с доставкой до двери.
- Math Mentor — учитель математики для детей.
Больше интересного про код — в нашем телеграм-канале. Подписывайтесь!