В препринте, написанном 19 специалистами из нейробиологии, философии и информатики, утверждается, что нейробиология может быть лучшим способом исследования сознания в искусственном интеллекте. Ученые предлагают сопоставлять ответы искусственного интеллекта с теориями человеческого сознания, используя список «индикаторов» сознания. Но соблюдение определенного количества критериев не является признаком наличия сознания у искусственного интеллекта. Это, скорее, шкала: чем больше критериев соответствует, тем больше вероятность, что машина способна иметь сознание.
Нейробиологические теории сознания многочисленны и запутаны. Но в их основе лежат нейронные вычисления: то, как наши нейроны соединяются и обрабатывают информацию, чтобы она достигла сознательного разума. Другими словами, сознание — это результат вычислений мозга. Этот практический подход к сознанию позволяет применять теории из области человеческого сознания к искусственному интеллекту. Гипотеза, названная вычислительным функционализмом, исходит из того, что определенные вычислительные процессы могут создавать сознание, независимо от того, где они происходят — в мягких мозговых клетках или на холодных микросхемах, управляющих искусственным интеллектом. Это предполагает, что сознание в ИИ в принципе возможно.
Исследователи изучили основные теории человеческого сознания, включая популярную теорию глобального рабочего пространства (Global Workspace Theory, GWT), чтобы найти признаки сознания у существующих ИИ-систем. Например, GWT предполагает, что сознательный разум обладает несколькими специализированными системами, которые работают одновременно; мы можем слушать, видеть и обрабатывать информацию одновременно. Однако в обработке информации существует узкое место, требующее механизма внимания.
Теория рекуррентной обработки предполагает, что информация должна циркулировать внутри себя в нескольких циклах для появления сознания. Другие теории подчеркивают важность наличия «тела» или какой-то формы взаимодействия с окружающей средой, которое позволяет использовать полученные знания для лучшего восприятия и регулирования реакций на изменчивый мир вокруг. Это называется «воплощением».
Опираясь на разные теории сознания, команда сформулировала некоторые основные правила и 14 индикаторов. Ученые протестировали этот список критериев на нескольких системах искусственного интеллекта, включая большие языковые модели, которые используются в ChatGPT, и алгоритмы, создающие изображения, такие как DALL-E 2. Результаты оказались неоднозначными: некоторые системы искусственного интеллекта соответствовали части критериев, но не соответствовали другим.
Каждая из систем проявила некоторые из характеристик теории GWT, например, внимание. Система PaLM-E от Google, которая использует данные с датчиков роботов, соответствовала критериям воплощения. Однако ни одна из современных систем ИИ не удовлетворяла более чем нескольким критериям. Это привело авторов к выводу, что мы еще не вступили в эпоху разумного искусственного интеллекта. При этом нет очевидных технических препятствий для создания систем ИИ, удовлетворяющих этим показателям.
Этот доклад далек от окончательного вердикта по данной теме. По мере того, как нейронаука будет точнее определять корреляты сознания в мозге, этот список вероятно будет корректироваться, некоторые критерии исчезнут, а другие добавятся. На данный момент этот проект в разработке, и авторы приветствуют другие точки зрения из разных областей, таких как нейронаука, философия, компьютерные и когнитивные науки, чтобы улучшить этот список.
