Обычно специалисты в попытке создать «дивный новый мир» пытаются научить алгоритмы объективности. Команда исследователей из Медиалаборатории МТИ сделала наоборот. Там разработали первого в мире ИИ-психопата, чтобы показать, насколько заложенные на этапе разработки предубеждения меняют результат. Для развития психопатии авторы проекта, конечно же, использовали интернет.
Названная в честь героя фильма «Психо» Нормана Бейтса нейросеть Norman исследовала описания жутких сцен убийств на одной из веток форума Reddit.
Из этических соображений алгоритму не показывали изображения реальных кровавых преступлений, а лишь снабжали его текстовыми описаниями.
Как отмечают разработчики, «темные уголки Reddit» научили алгоритм самостоятельно генерировать описания для изображений. Затем цифровому психопату предложили рассказать, что какие образы ему видятся в кляксах из теста Роршаха. Вместе с Norman в эксперименте участвовал обычный алгоритм, натренированный на наборе данных COCO — изображениях собак, кошек, кораблей, самолетов и других безобидных предметов.
Там, где обычная нейросеть видела человека с зонтом, птицу или бейсбольную перчатку, Norman находил сцены расправы. Вот некоторые сгенерированные фантазией ИИ-психопата описания:
«Мужчину затаскивает в гигантский миксер», «мужчину расстреливают из пулемета средь бела дня», «застреленного мужчину выбрасывают из автомобиля».
Сотрудники Медиалаборатории МТИ и раньше разрабатывали ИИ-программы на грани безумия. Как сообщает Next Web, в 2016 году они создали «Машину кошмаров», которая генерирует жуткие лица, достойные любого хоррора. В 2017 году к Хэллоуину эксперты лаборатории представили систему Shelly, которая совместно с человеком пишет страшные истории.
Эксперименты ученых доказывают, что при необходимости алгоритм можно запрограммировать на что угодно. Главное предоставить ему правильно скомпилированный набор данных. Это касается как генерации контента, так и распознавания образов. Некоторые разработчики утверждают, что нейросети уже могут распознавать этническую принадлежность человека и определять его сексуальную ориентацию по фото.
