Проблема возникает с самого начала: мы точно не знаем, почему мы обладаем сознанием. Согласно одной из точек зрения, сознание — это продукт того, чем является мозг, то есть биологической ткани. Другая точка зрения гласит, что сознание зависит от того, что мозг делает, а именно от обработки информации. В последнем случае искусственная система теоретически могла бы воспроизвести ключевые характеристики сознательного опыта.
Улисс Клатцман из Университета Монреаля и его немецкий коллега Адриен Дёриг из Свободного университета Берлина обходят вопрос о том, сознательны ли современные модели ИИ, и сосредотачиваются на более фундаментальной проблеме: что биология может сказать нам о возможности искусственного сознания?
Но сначала, указывают они, нужно договориться о том, что такое сознание. Этот термин может означать многое: бодрствование, наличие восприятий, способность к саморефлексивному мышлению. Клатцманн и Дёриг фокусируются на феноменальном сознании — обладании субъективным опытом. Видеть голубое небо, слышать песню, чувствовать боль: мы знаем, что эти переживания существуют, потому что мы их проживаем. Но мозг их производит, мы не знаем, пишет Techxplore.
«Мы, люди, интуитивно понимаем, что такое сознание, — говорит Клатцманн. — Мы спонтанно приписываем сознание людям и другим животным, но не скамейке или машине». Искусственный интеллект усложняет эту задачу. Существующие модели могут генерировать связные тексты, решать математические задачи, распознавать изображения и вести беседы, иногда создавая впечатление, что мы взаимодействуем с человеком, который понимает, что мы говорим. Но если машина ведет себя так, как будто она сознательна, означает ли это, что она действительно сознательна?
Биологический натурализм — точка зрения, согласно которой биология незаменима для сознательного опыта — набирает силу в дебатах о сознании.
Согласно этому взгляду, живые системы обладают чем-то незаменимым — тем, чего искусственным системам не хватает и что необходимо для сознания. Все известные нам сознательные существа — живые организмы. Но это не доказывает, что биология необходима. Тот факт, что в прошлом явление всегда возникало в одном контексте, не означает, что оно не может появиться в другом. Чтобы доказать обратное, нужно выяснить, что такого вносит биология, что нельзя получить другим способом?
Предположим, машина в точности воспроизвела бы все функции человеческого мозга — стала бы она сознательной? Например, часть мозга человека заменили компьютерным чипом, который выполняет идентичные функции. Человек продолжает видеть, говорить и вести себя точно так же, как раньше. Будет ли у него то же самое сознание? Биологический натурализм отвечает «нет», потому что часть его мозга — не биологическая. Однако судя по наблюдаемым признакам, поведение человека, его реакции и самоощущения не изменились. Это, утверждают авторы, критическая слабость данной теории, которая не дает проверяемых предсказаний и не может быть экспериментально подтверждена.
Исследователи также описывают альтернативную теорию — функционализм, который утверждает, что сознание возникает в процессе выполнения мозгом определенных задач по обработке информации. В этом смысле биология может играть ключевую роль, но не быть сама по себе необходимым условием для сознания.
В таком случае, для функционирования сознания могут иметь значение такие особенности мозга, как непрерывный характер нейродинамики, саморегуляция организмов, особенности интеграции информации у нейронов или взаимодействие между разными уровнями мозговой активности. Мозг работает иначе, чем компьютер в этих отношениях, но вовсе не обязательно, что именно эти различия порождают сознание.
Возьмем, к примеру, непрерывность: мозг работает через непрерывные, динамические процессы, тогда как компьютеры дискретны. Но погодные системы тоже непрерывны и хаотичны — и, тем не менее, компьютеры могут эффективно их моделировать. Возможно, они могли бы аналогичным образом захватить существенные черты человеческого познания. Для любой функции мозга, которую считают незаменимой для сознания, необходимо будет продемонстрировать, как именно она играет роль в сознании.
Многие аргументы против искусственного сознания построены на интуитивных суждениях.
Например: все известные сознательные существа обладают биологической природой, следовательно, сознание должно быть биологическим. Но эта логика не работает, утверждают нейробиологи. Все известные нам люди живут на Земле, однако не обязательно жить на Земле, чтобы быть человеком. Другое распространенное заблуждение: большие языковые модели обучены всего лишь предсказывать следующее слово, поэтому они не обладают истинными когнитивными способностями. Но сведение сложного процесса к чему-то внешне простому может не исчерпывать всех его свойств. По той же логике можно сказать, что люди — всего лишь биологические машины для передачи генов.
Клатцман призывает с осторожностью относиться к поспешным суждениям: «История науки показывает, что вещи, которые кажутся самоочевидными, могут оказаться ложными. Материя кажется твёрдой, но мы теперь знаем, что она в основном состоит из пустого пространства. Время кажется универсальным, но теория относительности показывает, что это не так. Почему наши интуитивные представления о сознании должны быть безошибочными?»
Итак, могут ли модели ИИ стать сознательными в будущем? В своей статье соавторы не дают окончательного ответа. «Я был бы удивлен, если бы современные модели ИИ развили сознание, — говорит Клатцман, — но мы не можем полностью исключить это».
По мере развития технологий вопрос, возможно, придется переформулировать. Даже если биология действительно необходима для сознания, возможно, что люди когда-нибудь смогут создавать искусственные системы с биологическими свойствами. С другой стороны, если сознание зависит от определенных функций, а не от биологии, нужно будет определить, что это за функции. И вопрос тогда будет не в том, может ли машина стать биологической, а в том, какие свойства мозга существенны для сознательного опыта и может ли машина их воспроизвести.
