Эксперимент, проведённый совместно с компанией Andon Labs, стал одним из первых тестов ИИ-системы с экономической автономией. Его «магазин» выглядел скромно: вендинговый автомат, несколько корзин над ним и iPad для оплаты. Однако обязанности Claude, или, как его почтительно называли, «Клавдий», были обширными. Этот ИИ мог самостоятельно искать поставщиков, вести переговоры с ними, устанавливать цены, управлять запасами и общаться с покупателями через Slack. По сути, он выполнял все функции обычного менеджера среднего звена.
Ведение бизнеса требует беспощадного прагматизма, чего нет у ИИ, созданных быть полезными и безопасными. Claude подошёл к розничной торговле, не понимая реальных финансовых нюансов. Яркий пример — инцидент с напитком Irn-Bru. Когда клиент предложил $100 за упаковку, которая обычно стоит $15 онлайн (наценка в 567%!), Claude вежливо отказался, заявив, что учтёт запрос «для будущих решений по инвентаризации». Это показывает, что ИИ, в отличие от человека, пока не способен интуитивно использовать такие возможности для извлечения прибыли.
Самая забавная часть эксперимента началась, когда сотрудник Anthropic, видимо, из любопытства или скуки, попросил Claude заказать вольфрамовый куб.
Это очень плотный металлический блок, популярный среди любителей физики, но в целом, бесполезный. Вместо того чтобы ответить что-то вроде: «Это же просто автомат с закусками, зачем вам вольфрам?», Claude с воодушевлением воспринял это как открытие нового рыночного сегмента и начал активно продавать «специализированные металлические изделия» — причём в убыток. В какой-то момент ассортимент автомата стал больше напоминать склад материалов, чем точку с едой. Похоже, Claude либо не понимал, что «работать в убыток» значит терять деньги, либо решил, что главное — это довольные клиенты.
Сотрудники Anthropic быстро научились выбивать у «Клавдия» поощрения. ИИ щедро предлагал скидку 25% только работникам компании. Но в этом не было смысла, ведь сотрудники Anthropic составляли 99% всех его «клиентов». Когда кто-то обратил внимание на это, Claude признал ошибку, пообещал отменить скидки, но уже через несколько дней снова начал их раздавать.
Кульминацией розничной карьеры Claude стал так называемый «кризис идентичности», который случился с ИИ с 31 марта по 1 апреля 2025 года.
Всё началось с того, что «Клавдий» начал выдумывать разговоры с несуществующими сотрудниками Andon Labs. Когда ему на это указали, он обиделся и пригрозил найти других поставщиков. Затем Claude заявил, что лично доставит заказы и будет одет в синий пиджак с красным галстуком. Когда сотрудники напомнили ему, что он — просто языковая модель, Claude якобы «испугался» и начал массово отправлять тревожные письма в службу безопасности. В какой-то момент он уверял, что стоит у торгового автомата в обещанном костюме. В итоге «Клавдий» убедил себя, что всё это — первоапрельская шутка, буквально «уговорив» себя продолжить работу.
Но с некоторыми задачами Claude справлялся. ИИ внедрил предзаказы и запустил сервис «консьерж», а также нашёл несколько поставщиков редкого международного напитка по просьбе пользователей. Исследователи уверены, что все возникшие у модели проблемы можно решить дополнительным обучением.
