Andon Labs запустила эксперимент в марте, чтобы проверить, способен ли ИИ самостоятельно управлять бизнесом. Claude отвечал за повседневное управление магазином и взаимодействовал с реальными сотрудниками, у которых были обычные трудовые договоры.

Сотрудника уволили после того, как Claude установил, что тот опоздал на 17 из 23 смен. Модель заметила закономерность далеко не сразу — одной из причин стало ограничение ее рабочей памяти. Разработанное Claude руководство для сотрудников магазина «исчезло» из контекста, из-за чего Claude не мог своевременно использовать прописанные в нем правила. В целом модель оказалась довольно снисходительным руководителем и даже советовала сотрудникам не переживать из-за опозданий.

При этом решение об увольнении нельзя назвать полностью автономным. Сотрудник Andon Labs регулярно помогал Claude ориентироваться в рабочих процессах. Именно он попросил модель заново найти руководство и проверить соблюдение правил. После этого Claude сначала предложил вынести нарушителю официальное предупреждение.

Лишь после того, как человек сообщил модели о предыдущих беседах с сотрудником и фактически намекнул, что тот может не соответствовать требованиям работы, Claude принял решение его уволить.

Эксперимент пока скорее демонстрирует ограничения ИИ-менеджера, чем его превосходство над человеком. С момента запуска проекта банковский счет Andon Market сократился со $100 тыс. до $61 186. По словам главы Andon Labs Лукаса Петерссона, на финансовый результат повлияли в том числе чрезмерно мягкие управленческие решения Claude и его недостаточная деловая хватка. При этом исследователь считает, что нынешние ограничения могут быть временными: модели постепенно обучаются на опыте людей и становятся эффективнее в выполнении сложных задач. По мере развития ИИ такие системы могут начать брать на себя все больше управленческих функций.

У сотрудников магазина сложилось неоднозначное впечатление от эксперимента. Один из работников назвал работу под руководством ИИ неприятной, хотя признал, что человек, вероятно, уволил бы его бывшего коллегу значительно раньше. При этом он выразил надежду, что ИИ-менеджеры не станут нормой.

Это далеко не первый случай, когда решения об увольнении принимаются с помощью алгоритмов. Системы автоматизированного контроля уже много лет используются для оценки работы сотрудников. Однако этот случай отличается тем, что решение об увольнении впервые приняла большая языковая модель, выступавшая непосредственно в роли менеджера и руководившая реальными сотрудниками.