Человек потерял контроль над алгоритмами искусственного интеллекта, бьет тревогу журналист Guardian Эндрю Смит. Люди по-прежнему задают нейросетям параметры работы на микроуровне, но дальше система развивается самостоятельно, и последствия непредсказуемы.

«В каком-то смысле мы потеряли рычаги влияния. Когда код превращается в алгоритмы, а затем алгоритмы создают новые алгоритмы, в системе остается все меньше и меньше участия человека. ПО выпускают во вселенную кода, которую никто не может до конца понять», — делится опасениями опытный программист Эллен Улман.

Отказаться от машинного обучения трудно — программы справляются с написанием кода лучше, чем люди. «Никто не знает, как написать такой код, чтобы распознавался знак „Стоп“. Мы годами пытались решить эту проблему — и не справились! Все упиралось в нашу тупость, мы оказались недостаточно сообразительны, чтобы разобраться с этим. Все, что мы умеем — это написать более общий алгоритм, который может обучиться, если дать ему достаточно примеров», — рассказывает Тоби Уолш, специалист по ИИ и профессор Университета Нового Южного Уэльса (Австралия).

Если происходит трагедия, людям приходится разбираться с франкенштейн-алгоритмами — так Смит называет те части кода, которые генерировала сама машина.

Например, в марте 2018 года в Аризоне под колесами автомобиля, который ехал на автопилоте, погибла женщина. Выяснилось, что ИИ сначала определил ее как другой автомобиль. Когда робомобиль понял, что это велосипедистка, он неожиданно передал управление водителю, который оказался не готов среагировать.

Неожиданные ситуации с ИИ возможны не только в случае автономных машин — опасность может крыться и в алгоритмах популярных сервисов, считают обеспокоенные эксперты.

«Например, Facebook. У них есть простые алгоритмы, которые распознают лица на фото и связывают человека, который выложил снимок, с тем, кто на нем изображен. Очень простой и точный алгоритм. Но вопрос в том, как он проявит себя на макроуровне? Вы не можете предугадать последствия машинного обучения на уровне населения страны», — предупреждает Нил Джонсон, физик из Университета Майами.

ИИ, согласно разным прогнозам, сильно изменит жизнь человечества. Футуролог Юваль Ной Харари считает искусственный интеллект серьезнейшей угрозой — наряду с климатическими изменениями и ядерным оружием.