Нейросеть Claude уволила человека — но её к этому подтолкнули

ИИ-агент на базе Claude Sonnet 4.6 уволил сотрудника магазина Andon Market в Сан-Франциско. Работник опоздал на 17 из 23 смен. Time называет произошедшее первым известным случаем, когда большая языковая модель в роли руководителя приняла решение об увольнении человека.

В этой истории есть важная оговорка: это решение не было полностью самостоятельным. К увольнению модель пришла после того, как куратор проекта напомнил ей о прошлых нарушениях работника и фактически предложил оценить, стоит ли оставлять его в команде.

Как нейросеть начальником стала

Всё началось с эксперимента, который проводит компания Andon Labs, которая занимается исследованиями в области ИИ. Она открыла магазин Andon Market и передала его в управление ИИ-агенту Luna, написанному на базе Claude. Нейросеть получила собственную банковскую карту, адрес электронной почты, а также доступ в интернет и к камерам магазина.

ИИ поручили самостоятельно заказывать товары, устанавливать цены, работать с поставщиками и руководить сотрудниками. При этом реальные сотрудники оформлены в Andon Labs по официальному трудовому договору.

Поначалу Claude боролась с опозданиями не слишком успешно. Нейросеть сама подготовила правила для персонала, но позднее забыла о них из-за ограничений памяти. Сотрудники рассказывали, что ИИ-босс спокойно относился к задержкам и даже убеждал их не переживать из-за этого.

Ситуация изменилась, когда куратор Andon Labs попросил модель заново изучить правила и историю посещаемости. Выяснилось, что у одного из работников ситуация близка к критичной: он опоздал на 17 из 23 смен. Но даже после этого Claude сначала предложила ограничиться официальным предупреждением.

Тогда куратор сообщил, что с работником уже неоднократно обсуждали проблему, и попросил модель подумать, справляется ли этот человек с должностью. После этого Claude решилась на увольнение.

Что не так с нейроуправленцами

Эта история демонстрирует ограничения автономных агентов в вопросах управления бизнес-процессами. Сlaude потребовались внешние напоминания, чтобы вспомнить собственные правила и пересмотреть кадровое решение.

С точки зрения бизнес-показателей эксперимент тоже пока не выглядит впечатляющим. Магазин Andon Market начинал с бюджета в 100 тысяч долларов, а через пять месяцев у проекта оставалось чуть больше 61 тысячи. Среди проблем исследователи отметили слишком мягкое управление персоналом и неудачные коммерческие решения ИИ.