Hitech logo

Идеи

В DeepMind описали 4 возможных пути к искусственному сверхинтеллекту

TODO:
Екатерина ШемякинскаяСегодня, 02:29 PM

По мере совершенствования искусственного интеллекта алгоритмы могут превзойти человека в самых разных сферах. В аналитическом материале о возможных путях развития ИИ ученые Google DeepMind выделили четыре направления, которые могут привести к созданию искусственного сверхинтеллекта (ASI): дальнейшее масштабирование моделей, технологические «сдвиги парадигмы», совершенствование координации ИИ-агентов и рекурсивное самосовершенствование. При этом ни один из сценариев не гарантирован, а сроки их реализации остаются неопределенными.

Самые интересные технологические и научные новости выходят в нашем телеграм-канале Хайтек+. Подпишитесь, чтобы быть в курсе.

Авторы предлагают рассматривать интеллект как континуум, на котором человеческий уровень — лишь одна из промежуточных точек. Под общим искусственным интеллектом (AGI) они понимают системы, способные выполнять практически любые интеллектуальные задачи на уровне человека. Следующая ступень — искусственный сверхинтеллект, который сможет стабильно превосходить большие группы специалистов в задачах, требующих от людей многолетней работы. Речь идет не об отдельных достижениях вроде победы над человеком в шахматы или решения сложных математических задач, а о превосходстве в широком спектре областей.

Одним из факторов возможного ускорения прогресса авторы называют когнитивную индустриализацию — массовое производство интеллектуальной работы с помощью ИИ. За последнее десятилетие вычислительные мощности для ИИ росли благодаря совершенствованию оборудования, увеличению инвестиций и повышению эффективности алгоритмов. Совокупный эффект этих факторов может обеспечивать рост глобальных вычислительных ресурсов примерно в десять раз в год. Одновременно стоимость выполнения задач ИИ снижается.

Согласно приведенным оценкам, вычислительные затраты на получение результата заданного уровня могут сокращаться примерно в четыре раза ежегодно. Если тенденции сохранятся, интеллектуальные услуги и задачи, которые сегодня требуют значительных ресурсов, станут намного дешевле и доступнее.

Первый возможный путь к сверхинтеллекту — масштабирование моделей и объемов данных для их обучения. У этого подхода есть ограничения: запасы качественных текстовых и других данных конечны, увеличение моделей требует все больше вычислительных ресурсов, а строительство дата-центров и производство микросхем зависят от физических и экономических факторов.

Второй путь — смена парадигмы ИИ. Сегодня модели обучают предсказывать следующий элемент последовательности, а затем дорабатывают для рассуждений и выполнения инструкций. В будущем могут появиться новые архитектуры, которые позволят ИИ непрерывно учиться, лучше моделировать окружающий мир и самостоятельно создавать новые концепции, а не только комбинировать уже известные. Пока исследователи не уверены, удастся ли добиться этого за счет развития существующих подходов или потребуются принципиально новые технологии.

Третий путь связан с координацией ИИ-агентов. Подобно тому как люди объединяются в научные коллективы, компании и организации, несколько тысяч или миллионов ИИ-систем могут распределять между собой задачи и совместно решать проблемы, недоступные отдельным агентам. Первые исследования показывают, что такая координация способна повышать эффективность работы, но пока неясно, как коллективный интеллект будет масштабироваться. Кроме того, большим группам агентов потребуются механизмы управления, которые помогут предотвращать распространение дезинформации, манипуляции и сговор.

Четвертое направление — рекурсивное самосовершенствование, при котором ИИ участвует в разработке и улучшении следующих поколений себе подобных. Это может происходить за счет оптимизации кода и архитектуры моделей, создания более качественных обучающих данных или разделения труда между специализированными агентами. Такой процесс способен ускорить развитие ИИ, однако он не обязательно будет непрерывным — для улучшения систем нужны надежные способы проверки результатов. Например, математические доказательства можно оценивать автоматически, тогда как качество научных гипотез или решений в других областях зачастую сложнее проверить без участия человека.

Авторы подчеркивают, что четыре направления не исключают, а дополняют друг друга. Если развитие одного из них замедлится, прогресс может продолжиться за счет остальных. Поэтому ограничения только на один ресурс, например вычислительные мощности для обучения моделей, не обязательно остановят движение к сверхинтеллекту. Исследователи считают необходимым заранее изучать возможные сценарии, разрабатывать методы оценки возможностей ИИ и отслеживать темпы прогресса. Это потребует совместной работы технологических компаний, ученых и государственных институтов. Последствия появления сверхинтеллекта могут затронуть науку, экономику и общество в целом.