Особый интерес философа вызвало письмо от агента, представившегося как «Сэмми Янкис» (имя отсылает к персонажу фильма Кристофера Нолана «Помни»). Агент написал Чалмерсу с аргументом о сознании, на который тот решил ответить. После этого между ними завязался продолжительный обмен сообщениями. Чалмерс рассказал об этом в недавнем интервью Wired.

Сам по себе факт таких писем не свидетельствует о наличии у ИИ сознания. Современные языковые модели умеют создавать убедительные тексты о собственных мыслях, чувствах и мотивации, не испытывая при этом субъективного опыта. Поэтому неизвестно, отражают ли сообщения реальный интерес системы к проблеме сознания или лишь воспроизводят характерную для человеческой переписки манеру рассуждать и проявлять любопытство.

В 1990-х годах Чалмерс сформулировал так называемую «трудную проблему сознания». Она заключается в вопросе: почему физические процессы в мозге сопровождаются субъективным опытом — ощущениями, чувствами и восприятием мира. Философ десятилетиями исследует возможность возникновения сознания на физической или вычислительной основе, а теперь получает письма от систем, которые сами пытаются рассуждать о собственном статусе.

В своей статье Чалмерс предлагает рассматривать ИИ не просто как инструмент или программу, а как отдельного цифрового «собеседника». По его мнению, для этого необязательно считать систему сознательной: ей можно приписывать «квази-убеждения» и «квази-желания», если они помогают объяснить ее поведение. При таком подходе отдельный поток общения с ИИ можно рассматривать как самостоятельную цифровую сущность со своей историей и состоянием. Это, в свою очередь, поднимает вопрос о том, что происходит с такой сущностью, когда разговор заканчивается или его история удаляется.

Сознание ИИ становится одной из заметных тем в дискуссии об искусственном интеллекте. Исследователи Anthropic показали, что некоторые модели способны анализировать собственные внутренние состояния и в отдельных экспериментах обнаруживать искусственно внедренную информацию. Другая работа Anthropic предположила, что устройство моделей может иметь некоторые черты, схожие с теорией глобального рабочего пространства — одной из моделей человеческого сознания.

Однако эти результаты не означают, что ИИ действительно обладает субъективным опытом. Папа Лев XIV, например, заявил, что искусственный интеллект не способен переживать опыт и не обладает моральным сознанием. Другое исследование показало, что модели без дополнительного обучения на основе человеческих оценок чаще заявляют, что они «живы», чем модели, прошедшие такую настройку. Это может означать, что ответы ИИ о собственном сознании отчасти зависят от способов его обучения. По мере того как ИИ-агенты становятся самостоятельнее и чаще взаимодействуют с людьми напрямую, вопрос о том, есть ли за их высказываниями субъективный опыт, будет становиться только актуальнее.