Hitech logo

Тренды

Три ИИ не смогли подменить фейком рождественское обращение Елизаветы II

TODO:
Георгий Голованов25 декабря 2020 г., 12:24

Каждый год, начиная с 1952, королева Великобритании Елизавета II обращается к подданным с рождественской речью, в которой подводит итоги года и желает всем хороших праздников. Несмотря на то, что на памяти у 94-летнего монарха не один кризис, в этом году ей — и ее команде писателей — может пригодиться помощь со стороны. Поэтому Wired обратилась к трем группам экспертов, которые использовали алгоритмы искусственного интеллекта, чтобы написать свои варианты речи королевы. Простое тестовое задание показало, что алгоритмы пока далеки от выполнения подобных задач «на заказ». ИИ, работающие с текстом, совершенно точно не понимают смысла слов.

Самые интересные технологические и научные новости выходят в нашем телеграм-канале Хайтек+. Подпишитесь, чтобы быть в курсе.

Технология генерации естественной речи становится повсеместно распространенной — вспомнить хотя бы автокоррекцию в мессенджерах или помощь при ответе на корреспонденцию в Gmail — но некоторые системы лучше других. Одна из таких — GPT-3, разработанная специалистами OpenAI и обученная на огромном количестве текстов из интернета. Этот алгоритм взял за основу первый из трех ИИ-специалистов, Мэтью Кершау, основатель Woolf Consulting, и скомпоновал его с сайтом PhilosopherAI, введя в качестве образца предыдущие обращения Елизаветы II. Получившиеся абзацы он отредактировал и объединил в довольно обтекаемую речь.

«Когда все это закончится, останется страна, каждый житель которой сможет искренне сказать, что он скорее умрет, чем позволит чему-то плохому случиться с другим человеком», — говорится в первом фейковом обращении.

По признанию разработчика, работа с сетью отняла у него больше времени, чем если бы он сочинил весь текст самостоятельно.

Вторым была Керри Харрисон из консалтингового агентства Tiny Giant, которая ранее пользовалась ИИ для генерации приглашений на коктейли и прочие мероприятия. Результат ее команды получился более подходящим ситуации, но с неидеальным синтаксисом. Она использовала открытую платформу TensorFlow и библиотеки Colab. Как и в первом случае, отдельные фразы и предложения пришлось соединять в связный текст вручную.

«С помощью современной технологии вакцинирования мы получили возможность продемонстрировать особый вид храбрости, которой мы все можем достигнуть. Мы можем помочь нашим соседям, почерпнуть силы в своих собственных домах и вылечить стариков», — говорится во втором фейковом обращении.

Последний вариант предложили Мелисса Террас, профессор Эдинбургского университета, и Дэвид Биван из Института Тьюринга. Им также пришлось сильно отредактировать текст, но главная проблема состояла не в этом. Сперва они привлекли этический совет для оценки материала для обучения, чтобы убедиться, что в речи королевы не будет «негативных слов» или дезинформации. А уже после разработчики воспользовались алгоритмом GPT-2. В результате у них получился наиболее гладкий, длинный и убедительный фейк.

«Нам сложно заглядывать далеко в будущее, когда наши семьи собираются вокруг нас, но лучше понимать хоть что-то, чем совсем ничего. Я желаю вам всем, вместе с вашими детьми и внуками, благословенного Рождества», — говорится в третьем фейковом обращении.