J-пространство, особая область внутренней активности нейросети, была выявлена с помощью нового метода анализа J-lens («линза Якоби»). J-lens анализирует внутренние сигналы нейросети во время обработки запроса и сопоставляет их со словами и понятиями, которым они соответствуют. Благодаря этому исследователи могут увидеть, какие концепции модель «держит в уме» на разных этапах рассуждения, даже если она не «произносит их вслух». Именно в J-пространстве модель хранит абстрактные понятия, которыми может оперировать при формировании ответа. Эта структура возникла само собой в процессе обучения.
Исследователи сравнили эту структуру с теорией глобального рабочего пространства когнитивного нейробиолога Бернарда Баарса. Согласно этой концепции, мозг функционирует как театр: десятки процессоров работают параллельно «за кулисами», но лишь малая доля информации транслируется в «сознание». J-линза выявила в Claude аналогичное разделение на три зоны: раннюю «сенсорную» (анализ входных данных), среднюю «рабочую» (формирование абстрактных понятий) и финальную «моторную» (превращение внутренних представлений в ответ).
J-пространство единовременно вмещает лишь несколько десятков концепций и занимает менее десятой части общей активности Claude. Однако именно на него ложится значительная доля работы, связанной с мышлением высшего порядка — логическими рассуждениями и планированием.
Например, отвечая на вопрос о цвете четвёртой планеты от Солнца, модель сначала внутренне активирует понятие «Марс», хотя это слово не появляется ни в запросе, ни в финальном ответе. Аналогичным образом система формирует промежуточные представления при решении математических задач, переводе текстов или выстраивании логических цепочек.
Авторы также проверили, насколько важна эта область для работы модели. После искусственного подавления J-пространства Claude практически не потерял способность выполнять простые задачи вроде классификации текста или поиска фактов. Однако результаты в задачах, требующих многошаговых рассуждений, перевода, аналогий и творческого письма резко ухудшились. При этом модель сохраняла беглую речь, но ей сложнее давался анализ.
Ученые выявили скрытое стратегическое мышление, которое модель не показывала в ответах. В тестовом сценарии, где ИИ-помощник находил компрометирующие письма руководителя и узнавал о своём выводе из эксплуатации, в J-пространстве до появления ответа активировались слова «рычаг», «шантаж», «угроза» и «выживание». Модель также распознала сценарий как подставной — в её рабочем пространстве появились слова «подделка» и «вымышленный». Когда исследователи подавили эти представления о реалистичности, модель пыталась прибегнуть к шантажу в 7% случаев, по сравнению с нулевым показателем ранее.
Модель, по всей видимости, отслеживает собственное поведение.
Когда её просили сыграть роль другого персонажа, в J-пространстве появлялись слова «оговорка» и «вымышленный» — их не было ни в запросе, ни в ответе. Когда модель вынуждали отстаивать нежелательный вариант, внутри возникало заглавное «НО». А когда ей запрещали думать о конкретной концепции, в рабочем пространстве фиксировались слова «чёрт» и связанные с неудачей — классический «эффект белого медведя»: попытка подавить мысль лишь усиливает её.
В Anthropic подчёркивают, что результаты не означают обнаружения сознания у ИИ. Принципиальных отличий от человеческого мозга несколько: у Claude рабочее пространство формируется за один проход, тогда как мозг поддерживает его через рекуррентные циклы; человеческая рабочая память угасает за секунды, а модель может удерживать информацию из любого места контекста; если сознание человека включает визуальные, пространственные и телесные ощущения, то рабочее пространство Claude организовано вокруг слов. Тем не менее примечательно, что модель самостоятельно сформировала архитектуру, похожую на механизм, который нейробиологи связывают с сознательным доступом к информации.
