Развитие ИИ волнует IT-отрасль: и гиганты индустрии и правительства пытаются направить процесс в нужное русло путем создания этических кодексов и комиссий. Однако этот путь не даст результата, пришли к выводу участники AI Now Symposium в Нью-Йорке.

Проблема в том, что моральные принципы не универсальны, и это научный факт. Ученые MIT провели исследование: с помощью платформы Moral Machine они попросили людей из разных стран разрешить проблему вагонетки. Это мысленный этический эксперимент, когда участник должен решить, направить ли ему тяжелую вагонетку на путь, где привязан к рельсам один человек, или на путь, где привязаны пятеро. На следующих этапах предлагают выбор посложнее: старушка или ребенок, алкоголик или преступник, отец семейства или монашка.

Эксперимент показал, что в разных странах и культурах разные представления о морали, указывает MIT Technology Review.

Есть еще одно исследование, которое говорит о неэффективности этических кодексов. Ученые из Университета штата Северная Каролина обнаружили, что чтение кодексов никак не влияет на поведение программистов.

Филип Алстон из Школы права Нью-Йоркского университета предлагает предоставить закону разобраться с развитием ИИ. По его мнению, достаточно следить за тем, чтобы нейросети не нарушали права человека.

«Они зафиксированы в конституции. Они включены в билль о правах, они толкуются судами», — объясняет юрист.

«Пока мы не введем в обсуждение развития ИИ вопрос прав человека, у нас не будет прочного основания», — считает Алстон.

Эту точку зрения разделяют в некоммерческой организации Data & Society Research Institute. Они призывают IT-компании подключить правозащитников к процессу разработки роботов.

Отметим, у ученых, глубоко погруженных в изучение искусственного интеллекта, есть большие сомнения в том, что человечество в принципе способно создать сверхсовершенный ИИ, который будет представлять для нас смертельную угрозу.