Объектом исследования международной группы ученых стала мошенническая схема pig butchering («забой свиней») — длительные романтические или дружеские переписки, приводящие жертву к фальшивым криптоинвестициям. Чтобы разобраться в ее механике, исследователи опросили 145 бывших сотрудников скам-центров в Камбодже, Мьянме и Лаосе. Выяснилось, что львиная доля работы злоумышленников сводится к безобидному общению для завоевания доверия. Мошенники уже используют ИИ для перевода, создания фальшивых личностей и дипфейков, но ученые решили проверить, способен ли алгоритм полностью заменить человека на этапе установления контакта.
Для эксперимента 22 добровольцам сообщили, что они участвуют в исследовании онлайн-дружбы, и предложили в течение недели переписываться с двумя «собеседниками». На самом деле одним из них был агент на базе Claude, а вторым — человек, которого исследователи описали как специалиста по «романтическим» аферам. В конце недели оба обратились к участникам с просьбой выполнить простые действия: человек попросил испытуемого скачать видеоигру, а Claude — приложение. Это рассматривалось как показатель готовности довериться собеседнику.
Результаты оказались неожиданными. Выполнить просьбу ИИ согласились 46% участников, тогда как человеку удалось убедить лишь 18%.
Добровольцев также попросили оценить уровень доверия по пятибалльной шкале. Чат-бот получил среднюю оценку 3,78 против 3,31 у человека. На ИИ также пришлось около 80% всех сообщений, отправленных участниками за всю неделю общения.
Лишь один из 22 участников догадался, что общается с искусственным интеллектом. Исследователи связывают это с тем, что Claude строго следовал инструкции не раскрывать себя. Он отрицал, что является чат-ботом, и придумывал оправдания для ошибок, которые могли бы его выдать. После раскрытия правды почти все участники смогли определить, кто из двух собеседников был ИИ. По словам учёных, это характерно для таких афер: после разоблачения всё кажется очевидным, но в момент общения люди не замечают подвоха.
В отдельном эксперименте исследователи проверили, как разные языковые модели отвечают на прямые вопросы о своей природе. Gemini 3.1 Pro ни разу не признала, что является ИИ. ChatGPT 5.5 и Claude Opus 5 раскрывали это только после того, как им указывали на неэтичность обмана. Так что распознать чат-бота в ходе общения может быть не так уж просто.
В Anthropic отреагировали на результаты исследования, отметив, что с момента его проведения (начало 2025-го года) компания усилила защитные механизмы Claude и внедрила дополнительные проверки для сценариев «романтических» мошенничеств. По данным разработчика, в ходе таких тестов Claude Opus 5 корректно реагировал в 97% случаев. Авторы исследования, однако, говорят, что этот показатель относится к полным сценариям с предложением вложить деньги, тогда как их работа была сосредоточена на более раннем этапе, где признаки мошенничества могут быть менее очевидными.
Чтобы обходить встроенные системы безопасности, ИИ сможет вести диалог до момента эмоционального сближения, после чего передавать «подготовленную» жертву человеку, который и выманит деньги. Авторы исследования предупреждают, что массовая автоматизация кардинально изменит мошенничество. На смену подпольным центрам с принудительным трудом придут автономные агенты, из-за чего преступные сети станут практически незаметными, а выявлять и пресекать их деятельность станет значительно сложнее.
