«Может, нам следует обернуться и посмотреть на те поворотные пункты, когда человечество приняло решение разрабатывать эти вещи дальше, и какие меры предприняло, чтобы защитить себя от последствий, — сказал Хинтон в интервью CBS News. — Я не знаю. Полагаю, мой главный посыл в том, что существует огромная неуверенность в том, чего можно ожидать».

По мнению Хинтона, нам есть чего опасаться со стороны ИИ. Например, пресловутого восстания машин. «Я не утверждаю, что это произойдет, — сказал он. — Если мы сможем направить его желания в другую сторону, будет прекрасно, но как заставить его не хотеть этого, не ясно».

Уже сейчас, считает он, ИИ может понимать и дискутировать, хоть и не так хорошо, как человек. Через пять лет, вполне вероятно, модели вроде ChatGPT смогут рассуждать лучше, чем люди.

ИИ сможет повысить производительность и эффективность, но одновременно несет потенциальные риски безработицы для множества людей. Новые рабочие места могут попросту не появиться в достаточном количестве, чтобы обеспечить всех работой. Кроме того, Хинтон обеспокоен фейками, которые отлично генерирует ИИ, предвзятостью алгоритмов, использованием этой технологии для слежения за гражданами и для создания автономных систем вооружения.

Не за горами и время, когда ИИ обретут сознание и станут учиться быстрее людей. «Я полагаю, приближается время, когда у нас впервые появятся вещи умнее, чем мы». ИИ уже умеет писать компьютерный код, так что возможность сбежать из-под контроля человека и модифицировать себя каким угодно способом у него уже есть, и к этому надо относиться всерьез, сказал ученый.

Тем не менее, есть у ИИ и огромный потенциал. ИИ может приносить пользу в здравоохранении, например, в радиологии, распознавая медицинские снимки лучше и быстрее врачей. Или в разработке новых лекарств.

«Мы вступаем в период большой неопределенности, когда мы имеем дело с тем, с чем раньше не встречались, — сказал Хинтон. — И обычно, когда имеешь дело с чем-то совершенно новым, ты это понимаешь неверно. А мы не можем позволить себе неверно понять эти вещи».

Хайп вокруг ChatGPT и других чатботов за последние пару недель стал еще сильнее, но ряд экспертов призывают сохранять осторожность и не торопиться вкладывать деньги в инновацию. Среди них Винтон Серф, один из разработчиков протокола TCP/IP, отмеченный многочисленными наградами ученый. Он предостерегает от необдуманных инвестиций в ChatGPT или Google Bard, какими бы «крышесносными» они ни казались.