Hitech logo

искусственный интеллект

Дэвид Вайнбергер: «ИИ никогда не обретет настоящего сознания»

TODO:
Георгий ГоловановСегодня, 02:35 PM

Согласно философии функционализма, сознание определяется тем, что объект делает, а не тем, из чего он состоит. Таким образом, если искусственный интеллект достигнет уровня, на котором он сможет рассуждать, проявлять любопытство, испытывать эмоции, то совершенно неважно, создан ли он из плоти, кремния или пластилина. Отказывать такому существу в наличии сознания — значит проявлять предвзятость. Тем не менее, философ и писатель Дэвид Вайнбергер утверждает, что большие языковые модели не обладают сознанием — просто потому, что, на его взгляд, само это понятие в таком контексте лишено смысла.

Самые интересные технологические и научные новости выходят в нашем телеграм-канале Хайтек+. Подпишитесь, чтобы быть в курсе.

Вайнбергер начинает свои рассуждения с известного мысленного эксперимента в области теории сознания «Китайская комната», предложенного философом Джоном Сёрлом в 1980 году: представьте, что мы оказались в изолированной комнате. Через прорезь в стене нам передают записки с вопросами на китайском языке, которого мы не знаем. В комнате есть инструкции, как составлять ответы, но нет информации о значении иероглифов. Мы следуем инструкциям: находим нужные знаки, выписываем те символы, которые предписывает книга, и просовываем результат обратно через прорезь. Наблюдатель, сидящий снаружи, ожидает получить осознанный ответ, но, что бы мы ни написали, мы всё еще не знаем китайского языка и не понимаем смысла написанного.

Сёрл утверждает, что именно так работают компьютеры — даже большие языковые модели.

Они оперируют символами, не понимая их значения и даже не осознавая, что перед ними вообще символы. Одной манипуляции символами недостаточно для возникновения сознания, поскольку смысл символа проистекает из сознания, существующего отдельно от него.

Наше сознание устроено иначе. Наш мозг — часть тела, которое непосредственно ощущает боль, чувствует вкус пищи и знает, как ходить, не глядя под ноги. Никаких символов, никакого перевода ему не требуется. Иначе говоря, сознание обладает внутренней природой: ему не нужно другое сознание, чтобы наделить его смыслом. Но на вопрос, откуда берется эта внутренняя природа сознания, Сёрл ответа не дает.

На этот вопрос ответил выдающийся философ Мартин Хайдеггер. В своем фундаментальном труде 1927 года «Бытие и время» он рассматривает мир не таким, каким мы его объясняем, а таким, каким мы его проживаем в повседневности. Хайдеггер обнаружил, что наше понимание мира не совпадает с нашим непосредственным опытом. В быту предметы почти всегда предстают перед нами в контексте текущих задач. Например, если у нас нет стакана, пустая банка может восприниматься как чашка. Таким образом, мы воспринимаем мир через призму наших целей и через призму возможностей самого предмета в связи с этими целями. И то, и другое открывает нам мир в зависимости от того, что именно для нас важно именно сейчас.

Но почему вообще что-то бывает для нас важно? По мнению Хайдеггера, потому, что мы осознаем свою смертность. Мы понимаем, что когда-нибудь — возможно, даже сегодня — мы умрем. И нас это волнует. Поэтому нам не безразлично то, что происходит с нашим телом. Голод, боль, наслаждение — всё это фундаментальные, внутренне присущие нам состояния; они не нуждаются в интерпретации, как какие-то символы.

Наше смертное тело обуславливает наше неравнодушие к окружающему миру. И становится первоисточником нашего непосредственного, внутреннего опыта. Нам важно, что происходит вокруг нас, в какой среде мы живем, в какой ситуации мы оказались, ведь существа, наделенные телом, не имеют возможности находиться одновременно в разных местах или в разное время.

Подобное возможно лишь потому, что в своем повседневном опыте мы не заперты в комнате, где приходится расшифровывать некие загадочные символы. Мы — воплощенные существа, живущие в реальном мире; здесь, если нас застает врасплох ливень, то, что мы промокаем, — это не символ, а сама реальность. Наша телесность — это изначальная, непосредственная открытость миру. Именно этого и недостает искусственному интеллекту, утверждает Вайнбергер.

А вот Джеффри Хинтон, один из пионеров искусственного интеллекта и лауреат Нобелевской премии по физике, считает, что ИИ уже обладает сознанием. По его мнению, человечеству необходимо сделать так, чтобы искусственный интеллект искренне заботился о людях.