Стюарт Рассел — член AAAI, Американской ассоциации специалистов по искусственному интеллекту и автор нескольких книг. Он отмечает, что к проблеме контроля до него обращались многие ученые и писатели-фантасты. В 1950 основоположник кибернетики Норберт Винер написал работу «Человеческое использование человеческих существ», в которой утверждал, что опасность для общества исходит не от самих машин, а от того, что именно человек заставляет машины делать. Книга Рассела рассматривает тот же постулат: кто несет ответственность, творец или его создание.
Хотя в книге Рассела не говорится, когда и как именно ИИ может стать универсальным и сверхразумным, он указывает на важную проблему необходимости контроля за разработками все более автономных ИИ, пишет Nature.
Начиная с самых ранних лет, ИИ поражен противоречием, считает Рассел. В 1956 году в Дартмутском колледже Ганновера, легендарном месте рождения ИИ, будущий нобелевский лауреат Герберт Саймон и Аллен Ньюэлл предлагали назвать свое творение «устройством для комплексной обработки информации». Джон Маккарти и Марвин Мински предпочитали более расплывчатое имя «искусственный интеллект».
Маккарти и Мински, а также другие их сторонники увлекались бихевиоризмом и предполагали, что проявление разумного поведения логически достаточно для того, чтобы доказать наличие интеллекта. То есть машины, которые выглядят разумными, можно называть разумными. Их точка зрения, как мы знаем, победила, и последствия этой победы двойственные, пишет Рассел.
В «Human Compatible» ученый описывает варианты злоупотребления искусственным интеллектом. Он предупреждает, как ИИ — распознающие лица и голоса технологии, генераторы дипфейков, системы интеграции информации — могут применяться для слежки, контроля и массовых манипуляций поведением.
Рассел не рассматривает «скучные» алгоритмы, помогающие ученым искать новые лекарства и материалы, прогнозировать землетрясения или ураганы, диагностировать заболевания. Протагонист его книги — «сверхразумный» ИИ, который сумел превзойти по интеллекту человека. Пока этого не произошло, но лучше бы нам подготовиться к этому.
Самый смелый прогноз о появлении сверхразумного ИИ принадлежит футурологу Рэю Курцвейлу — он считает, что машины сравнятся в интеллекте с человеком уже в 2029. Большинство ученых более осторожны в прогнозах, и ставят скорее на 2099 год.
