Google создал новый алгоритм для генеративного поиска — PaLM

Что случилось? Разработчики из Google AI сделали новый алгоритм для машинного обучения, который открывает для нейросетей возможность решать миллионы задач разной сложности — например, комплексно обучаться или делать умозаключения. Алгоритм назвали Pathways Language Model — PaLM.

Ранее специалисты из Google Research показали новую AI-архитектуру — Pathways. Она представляет единую модель, которая может обобщать домены и задачи, при этом оставаясь высокоэффективной. Главная особенность этой модели — распределённые вычисления, на которых сфокусировались разработчики.

И что? Алгоритм протестировали, насколько он понимает язык, а также сравнили с другими алгоритмами — Gopher и Chinchilla. На большом количестве параметров PaLM отвечал лучше других алгоритмов и немного лучше, чем обычный человек.

Ещё PaLM решил правильно 58% школьных математических задач из набора GSM8K и смог написать код по заданным условиям:

Какие есть проблемы? Недавние исследования показали опасность нейросетей, которые учатся на данных из интернета. Специалисты утверждают, что критически важно анализировать и документировать потенциальные риски. Для этого Google создала сервис Model Cards, где собраны проверенные экспертами данные для обучения. Они даже написали научную статью с описанием всех проблем.

Подробнее прочитать об алгоритме PaLM можно в блоге Google AI.