Алан Тьюринг исходил в своих рассуждениях из того, что разум может существовать независимо от физического тела; и что машина может считаться разумной, если она успешно имитирует человека в разговоре. «Эти два утверждения во многом определили ход исследований и разработок в области искусственного интеллекта, — пишет Питер Деннинг. — Я исхожу из того, что именно наше согласие с этими утверждениями привело к той проблемной ситуации с ИИ, в которой мы оказались сегодня».
Деннинг утверждает, что попытки создать сильный искусственный интеллект (AGI) — то есть машины, обладающие интеллектом человеческого уровня, — вряд ли увенчаются успехом. Напротив, предупреждает он, создаваемые обществом технологии могут породить новые серьезные риски.
В основе критики Деннинга лежит понятие «невыраженного знания» (tacit knowledge) — огромного массива человеческого опыта, который невозможно облечь в слова или закодировать в виде данных, пригодных для машинной обработки.
Он выделяет пять категорий такого знания: здравый смысл, повседневные взаимодействия, эмоции и восприятие, практические навыки и культурно-исторический контекст. Все они — вне досягаемости для алгоритмов машинного обучения.
Деннинг напоминает о проекте «Сайк» (Cyc) Дугласа Лената, который с 1980-х годов пытается собрать все факты здравого смысла в базу данных. После 40 лет работы в ней содержится около 25 миллионов записей. Но даже эта сокровищница не сделала экспертные системы по-настоящему умными. «Cyc подтвердил, что большая часть знаний, делающих людей экспертами, не может быть выражена в виде утверждений», — пишет Деннинг.
Еще сложнее дело обстоит с практическими навыками. Виртуозный скрипач может играть прекрасную музыку, но не может описать ученику, как именно он это делает. Знание, как сделать что-либо, принципиально отличается от знания фактов. Даже если робот сможет наблюдать за музыкантом и копировать его движения, у него нет биологического тела, чтобы понять, что чувствует при этом исполнитель или слушатель.
К недоступным машинам формам знания Деннинг также относит интуицию, внутреннее чутье, воображение и спонтанное творчество, пишет Science Daily.
Языковые модели вроде ChatGPT, Claude или Gemini оперируют словами, но не понимают их значения. За каждым словом стоит глубочайший пласт невыраженного знания, который придает ему смысл. Контекст, сарказм, дипломатичность, юмор — все это уходит корнями в бесконечную цепочку предыдущих разговоров и ситуаций. Культура — с ее ценностями, нормами, историями и отношениями — не может быть просто «загружена» в нейросеть.
«Масштабирование больших языковых моделей (БЯМ) за счет создания все более крупных нейронных сетей не позволит им усвоить воплощенное человеческое знание, которое мы называем культурой. БЯМ не смогут достичь цели теста Тьюринга — продемонстрировать машинное мышление, неотличимое от человеческого», — утверждает автор.
Деннинг приходит к выводу, что машины и люди развивают разные формы невыраженного знания, которые не сможет понять ни та, ни другая сторона. Нас разделяет непреодолимая пропасть. Проблема в том, что машины, хоть они и не в состоянии достичь человеческого интеллекта, все же могут развиться в достаточной степени, чтобы создать людям серьезные проблемы.
«У машинного интеллекта иные приоритеты, нежели у нас, и, по-видимому, мы его не волнуем, — заявил Деннинг. — Его способы мышления и решения задач кажутся нам чуждыми. Мы пока не знаем, как безопасно сосуществовать с этими машинами».
Он призывает признать, что по мере появления в обществе интеллектуальных машин привычный нам уклад жизни уходит в прошлое, а будущее — туманно. Призывает отказываемся мыслить как машины или становиться их слугами. Не склонять голову перед ярмом, навязанным машинами, наделенными лишь зачатками интеллекта. А главное, провозгласить ценность своей человеческой сущности, которая и отличает нас от машин.
