Ребен опубликовал короткую видеозапись с громким названием «Google стреляет». На видео художник просит колонку Google «активировать пистолет». После небольшой задержки ассистент беспрекословно выполнят приказ, и яблоко, игравшее роль мишени, падает на пол.
Само по себе видео трудно назвать эффектным: пистолет игрушечный, яблоко фактически осталось целым — никакой динамики. Но таким образом Ребен пытался поднять вопрос о том, все ли приказы человека должны выполнять виртуальные ассистенты. После недавнего скандала с виртуальным помощником Google Duplex, который притворялся человеком, скрывая свою робосущность, вполне естественно обвинить компанию в том, что ее устройства готовы на убийство.
Сам Ребен объясняет, что хотел указать на то, что создавая те или иные технологии и устройства, компании просто не могут предусмотреть все варианты их использования. Вполне возможно, что их применят для того, чтобы приносить вред людям, говорит он. Посыл был простой: показать, что колонка, способная распознавать голосовые команды, выполнит приказ «стреляй». И судя по видео, ассистент выстрелил. И кто-то уже может представить себе стаи хладнокровных роботов, которые без раздумий стреляют в своих жертв.
Но есть ли в этом вина Google или методов ИИ? Очевидно, что нет: не стоит думать, что современные ассистенты обладают сверхразумом. Как пользователь назовет ту или иную способность в системе, тем именем она и будет активироваться. Художник говорит, что раньше эта функция активировала лампочку. Если кратко, то из этого следует, что он просто переименовал команду «включи лампу» в «стреляй».
В самом заплюсованном комментарии на YouTube Александра Ребена обвинили в неубедительной попытке очернить Google и ИИ. Суть претензий к автору сводится к бессмысленности обвинений Google Assistant в том, что он однозначно воспринимает голосовые команды. Это все равно, что подключить пистолет к электровыключателю, нажать на него, а когда оружие выстрелит, обвинить выключатели в том, что они могут убивать.
Ответственность за выстрел полностью лежит на человеке: он подсоединил пистолет к соленоиду, он изменил название тригера, запускающего соленоид на «пистолет», он дал голосовую команду — нажал на тот самый выключатель. Эксперимент автора был бы полноценным, если бы в качестве испытуемого был бы общий ИИ (General AI), тот, которого боится Маск. В этом случае действительно важно, на что он способен, на какие приказы согласен. Но такой ИИ по-прежнему фантастика. А требовать этичности от «выключателя» — перебор.
