Hitech logo

искусственный интеллект

Новое решение парадокса Ферми — слишком сильный искусственный интеллект

TODO:
Георгий Голованов10 апреля, 10:20

Одно из возможных решений парадокса Ферми — если мы не одни во Вселенной, где же все остальные? — гипотеза Великого фильтра: некий катаклизм или другое препятствие, мешающее цивилизациям достичь уровня колонизаторов космоса. Это может быть, например, ядерная война, падение метеорита, взрыв сверхновой, глобальное климатическое изменение — или быстрое развитие искусственного интеллекта, как предположили астрофизики из Англии.

Самые интересные технологические и научные новости выходят в нашем телеграм-канале Хайтек+. Подпишитесь, чтобы быть в курсе.

Гипотетический Великий фильтр утверждает, что мы не встречаем следов внеземных цивилизаций потому, что некий неизвестный, но радикальный фактор не позволяет им развиться в достаточной степени, чтобы выйти в космос и начать колонизировать соседние миры. Не имея запасной планеты в качестве дополнительного варианта, цивилизации если не погибают, то оказываются запертыми в состоянии стагнации. В нашем случае таким Великим фильтром может стать универсальный ИИ, пишет Universe Today.

Если ИИ приобретет сверхчеловеческие возможности, то человек окажется не в состоянии им управлять. Кто знает, как он станет относиться к человечеству и какие решения захочет принять. Возможно, как опасался Стивен Хокинг, он захочет полностью заменить людей, стать новой и единственной формой жизни на Земле.

«Тревога по поводу искусственного сверхразума, который, в конце концов, оказывается неуправляемым, серьезная проблема, и предотвращение этого риска станет в ближайшие годы все более важной задачей для лидеров этой отрасли», — сказал Майкл Гарретт из Университета Манчестера, автор исследования.

Если бы ИИ не нес с собой блага технологического прогресса, было бы проще. Но он предлагает всевозможные преимущества, от анализа медицинских снимков до более удобного и безопасного транспорта. И чем интереснее преимущества ИИ, тем больше свободы будет он получать, и тем выше риск выхода из-под контроля. Особенно это касается сферы национальной безопасности и обороны.

Проблема усугубляется тем, что правительства не готовы к такому вызову. Ничего подобного универсальному ИИ прежде не существовало. И — возвращаясь к парадоксу Ферми — если перед нами возникла такая проблема, вероятно, она возникла и перед другими разумными существами, которые разработали ИИ.

Однако, по расчетам Гарретта, если мы успеем достичь межпланетного состояния, шансы человечества на выживание резко возрастут. Биологические виды, обитающие на нескольких планетах, могли бы воспользоваться преимуществом различного опыта, чтобы разнообразить свои стратегии выживания и избежать гибели или стагнации всей цивилизации. «Распределенная модель существования повышает устойчивость биологической цивилизации перед катастрофами, вызванными ИИ, путем создания избыточности», — написал астрофизик.

Беда в том, что разработки ИИ движутся куда более быстрыми темпами, чем человеческие попытки колонизировать другие планеты. Биологическая природа людей ограничивает возможности путешествия по космосу, тогда как у ИИ таких проблем нет. Пока еще не все потеряно, следует направить все усилия на реализацию лунных и марсианских программ, считает автор статьи, вышедшей в журнале Acta Astronautica.

Миллионы планет, в отличие от Земли, постоянно обращены одной стороной к своей звезде. Линию светораздела, отделяющая освещенную половину от неосвещенной, называют терминатором. Согласно новому исследованию, именно там следует искать внеземную жизнь. Открытие американских астрономов значительно расширяет число потенциально обитаемых планет.