В серии радиолекций для ВВС профессор Стюарт Рассел из США процитировал высказывание Алана Тьюринга, сделанное им в 1950 году в работе «Вычислительные машины и разум»: «Как только появится метод машинного мышления, ему не потребуется много времени на то, чтобы превзойти наши ничтожные способности. Следовательно, на каком-то этапе следует ожидать, что машины возьмут власть». Эта мысль была еще более настойчиво озвучена Ирвингом Гудом, коллегой Тьюринга: «Первая сверхинтеллектуальная машина будет последним изобретением, которое нужно людям, конечно, если машина будет достаточно послушной, чтобы рассказать нам, как нам контролировать ее».

Профессор Рассел хорошо разбирается в этом вопросе. Вместе с Питером Норвигом он написал выдержавший четыре издания труд «Искусственный интеллект: современный подход». В частности, он полагает, что мы основательно рискуем, пытаясь создать настоящий ИИ нынешними методами. По его мнению, господствующая концепция интеллекта фатально ошибочна.

Разработчики ИИ строят машины, давая им четкие цели и оценивая их по степени успешности в достижении этих задач. Для лаборатории это неплохо, но когда речь заходит о практическом применении в реальном мире, мы не в состоянии полностью и корректно описать задачу.

Тем временем, корпорации продолжают создавать все более способные, беспощадные, однозадачные машины и размещают их в критически важных сферах человеческого общества.

Профессор Рассел боится, что если разработка ИИ продолжится в том же направлении, будут созданы сверхинтеллектуальные машины, которые воплотят этот антиутопический кошмар. Разумеется, представители ИТ-индустрии и некоторые коллеги высмеивают такой взгляд как алармистский и беспочвенный. Как пошутил один из них, беспокоиться о сверхинтеллекте следует в той же мере, что и о перенаселении Марса.

Однако, по мнению профессора Нотона, мы уже живем в таком мире. Те самые ИИ, которых следует бояться, называют себя корпорациями. Они определенно достигли уровня сверхинтеллекта, поскольку коллективный IQ их сотрудников превосходит интеллект обычных людей и членов правительств. У них огромный капитал и масса ресурсов. Продолжительность их жизни превосходит срок жизни человека. И они существуют ради выполнения единственной цели: увеличения стоимости своих акций. Ради этого они будут делать что угодно, все зависимости от этических соображений и сопутствующего ущерба обществу.

Как писал Уильям Гибсон, «будущее уже наступило, просто оно еще неравномерно распределено».

Президент некоммерческой организации OpenAI Сэм Альтман уверен, что через десять лет машины массово встанут за конвейер и, возможно, даже станут компаниями. Еще позже ИИ будет делать почти все, включая научные открытия. В итоге ИИ создаст «феноменальное изобилие», но при этом цена труда упадет почти до нуля. И чем будут заняты люди совершенно не ясно.