Hitech logo

Искусстввенный интеллект

«Отец нанотехнологий» не верит в появление ИИ с собственными целями

TODO:
Георгий Голованов3 июня 2019 г., 14:18

По мнению Эрика Дрекслера, наш взгляд на искусственный интеллект как на «агента», который действует с максимальной эффективностью ради достижения своих определенных целей, слишком узок. Вместо того, чтобы придавать ИИ антропоморфные черты, он предлагает альтернативный вариант: «комплексные ИИ-сервисы». Это более практичное и безопасное решение с точки зрения возможного выхода из-под контроля человека, а функционал по сути тот же.

00
Самые интересные технологические и научные новости выходят в нашем телеграм-канале Хайтек+. Подпишитесь, чтобы быть в курсе.

Вопрос о вероятности появления универсального искусственного интеллекта остается открытым. Некоторые футурологи указывают на закон Мура и утверждают, что прорыв вот-вот произойдет. Другие считают, что узкоспециализированные алгоритмы, которые побеждают людей в нишевых задачах, не приближают нас к «сильному общему интеллекту», пишет Singularity Hub.

Цифровой прорыв: как искусственный интеллект меняет медийную рекламу

Многие ученые, в частности, Ник Бостром, придерживаются мнения о том, что ИИ будет развиваться как агент, то есть станет добиваться собственной цели. Это может привести к плачевным для человечества результатам, даже если изначально цель была сформулирована на благо людей. Например, чтобы добиться всеобщего счастья, ИИ может погрузить всех жителей Земли в безмятежный сон.

Дрекслер считает, что мы должны пристальнее взглянуть на то, как на самом деле машинное обучение и алгоритмы ИИ развиваются в реально мире. Применение ИИ в различных отраслях промышленности, от транспорта до медицины — приведет к их разрастанию и усложнению. Они смогут решать все более сложные задачи.

Вместо того чтобы ждать прорыва, модель комплексных ИИ-сервисов (CAIS), которую предлагает Дрекслер, предполагает, что узкоспециализированные ИИ продолжат выполнять свои задачи, и их список будет становиться все длиннее. Как только будет автоматизировано достаточное количество задач, услуги, которые представляет один ИИ, станут настолько комплексными, что он будет напоминать универсальный интеллект.

Таким образом, универсальным интеллектом станет считаться алгоритм, который координирует задачи с узкими ИИ, способными их выполнить. Вместо одного мозга ИИ будет скорее поисковиком, ищущим алгоритм или алгоритмы, лучше других приспособленные для выполнения отдельных частей общего запроса.

По сравнению со сверхразумным интеллектом Бострома CAIS не представляет угрозы для человека и не обладает собственным сознанием или целью. Это будет по сути высокоорганизованный язык программирования, который выполняет сложные задачи, вызывая мириады специализированных алгоритмов, разработанных для различных целей разными группами.

Идея Дрекслера не снимает с людей ответственности за будущее ИИ. Наоборот, ее становится больше. С усложнением систем сервиса уровень автоматизации процессов будет расти, как и число оставшихся без работы сотрудников. Экономические последствия появления CAIS окажутся значительными, а предвзятость алгоритмов может привести к серьезным нарушениям прав людей.