Понятие сингулярности — представление о том, что искусственный интеллект превзойдет человека и превратит все достижения нашей цивилизации в ничто — это религия, которую создают по большей части те, кто разрабатывает и успешно применяет вычислительные способности машин для решения проблем, которые ранее казались слишком сложными для них, пишет Wired UK.

В Кремниевой долине сочетание конформизма и финансового успеха этого технологического культа создали замкнутый круг.

Считается, что естественные процессы, такие как пандемии, распространяются по сигмоиде — когда они достигают некого предела, их движение замедляется и наступает новое равновесие. Мир оказывается в новом состоянии, чем был до этого, но все-таки процесс не бесконечен. С точки зрения адептов сингулярности, развитие ИИ будет идти экспоненциально и завершится полным истреблением или порабощением человечества.

Сегодня очевидно, что большинство наших проблем — климатические изменения, нищета, хронические заболевания или терроризм — результат следования за мечтой о сингулярности, то есть об экспоненциальном росте. Инструменты, созданные для решения прошлых проблем, решают их, порождая новые сложности.

«Для того чтобы эффективно реагировать на научные проблемы современности, мы должны уважительно относиться к взаимосвязанным и сложным эволюционным системам, участниками которых являемся. Эти процессы включают различные уровни и слои, от микробов в кишечнике до сообществ людей», — говорит директор Media Lab.

Биологическая эволюция отдельных видов имеет целью размножение и выживание. У машин с развитым интеллектом другие задачи и методы.

Когда мы встроим их в комплексные адаптивные системы, такие как экономика, окружающая среда или здравоохранение, они дополнят, а не заменят людей и — что важнее — эти системы.

Вместо того чтобы рассуждать о противостоянии машин и людей, мы должны обдумать систему, которая объединит их. это будет не искусственный, а расширенный интеллект. Вместо того чтобы пытаться контролировать или даже понять его, важнее спроектировать РИ, который стал бы ответственным, сведущим и надежным элементом более сложной системы. Мы должны перестать видеть себя как надсмотрщиков и создателей и принять более скромную роль, подчеркивает Ито.