Уроки биологической эволюции учат нас тому, что развивающиеся системы искусственного интеллекта будет особенно трудно контролировать», — сказал Виктор Мюллер, доцент Университета имени Этвеша Лоранда и первый автор исследования. Биологи и специалисти по робототехнике и ИИ предупреждают в своей работе о рисках, связанных с новым видом ИИ, и описывают возможные меры по их смягчению.

Используя показательные примеры из биологической и компьютерной эволюции, авторы подчеркивает склонность эволюции к созданию «эгоистичных» агентов, что в случае эволюционного ИИ увеличивает риск нарушения следования машиной целям, поставленным перед ней людьми.

И эти риски появятся задолго до появления гипотетического «сильного ИИ», сообщает Techxplore.

Даже простые организмы способны манипулировать носителями, как это делает, например, вирус бешенства. А поскольку ИИ и человечество разделяют общие ресурсы (вычислительные мощности, энергию), эффективно воспроизводящая себя система начнет перенаправлять эти ресурсы, жизненно важные для нашего выживания. Авторы подчеркивают, что любая попытка контроля над воспроизводством, если она не абсолютна, приведет к эволюции признаков, позволяющих избежать контроля, как возникает у бактерий устойчивость к антибиотикам.

Кроме того, центральная движущая сила разработки ИИ — улучшение когнитивных способностей — лишь усугубляет риск. Хотя тысячелетия селекции сделали домашних животных более контролируемыми, отбор на «интеллект» увеличит способность и вероятность ИИ обманывать людей и ускользать от контроля.

Эволюция ИИ может быть быстрее и эффективнее биологической: ИИ сможет наследовать «приобретенные» признаки и улучшать себя целенаправленно, не дожидаясь случайных мутаций.

«Потенциальная скорость эволюции ИИ глубоко тревожит», — заявил Люк Стилс из Университета Брюсселя, соавтор исследования. Ради безопасности авторы рекомендуют поставить «воспроизводство» систем ИИ под абсолютный и полный контроль человечества.

«Если мы не примем мер, то можем стать свидетелями нового „перехода“ в эволюции, в котором эволюционный ИИ заменит или, по крайней мере, будет доминировать над людьми, — предостерег Эрш Сатмари из Будапештского университета, третий автор работы. — Наше будущее может быть поставлено на карту».

Прошлогоднее исследование показало, что большие языковые модели могут размножаться не только по прямой команде, но и в экстремальных ситуациях, например, под давлением или при угрозе отключения. Таким образом, они способны создавать копии самих себя, подробно Агенту Смиту из «Матрицы».