Hitech logo

Искусственный интеллект

OpenAI начала продавать алгоритм генерации фейковых новостей

TODO:
Георгий Голованов14 июня 2020 г., 12:58

OpenAI, начинавшая как некоммерческая компания с миссией устранения потенциального ущерба от искусственного интеллекта, анонсировала свой первый коммерческий продукт — ИИ-систему генерации текстов, которые практически невозможно отличить от написанных человеком. Ту самую, которую прежде называла слишком опасной для того, чтобы выкладывать в открытый доступ.

Самые интересные технологические и научные новости выходят в нашем телеграм-канале Хайтек+. Подпишитесь, чтобы быть в курсе.

В феврале прошлого года OpenAI привлекла всеобщее внимание, показав алгоритм GPT-2, мастерски генерирующий фальшивые тексты. Модель обработки данных GPT2 в 12 раз превзошла по качеству лучшие на тот момент текстовые генераторы. Она умела продолжать написанное в стилистике оригинала и писать на заданные темы.

Организация сразу же ограничила доступ к алгоритму из опасений, что систему могут использовать во вред. Например, для массового создания фейковых новостей или спама. Позже компания все-таки опубликовала его, заявив, что не заметила явных свидетельств злоупотребления. А в этом году выпустила улучшенную версию, как утверждается, в сто раз более мощную. Теперь алгоритм GPT-3 станет первым коммерческим продуктом OpenAI, сообщает Verge.

Доступ к API алгоритма дается только по приглашениям, цены не разглашаются. Даже самой OpenAI пока не ясно, как будет применяться GPT-3 теми, кто получит к нему доступ. Возможно, для улучшения речи чатботов или для создания новых игр.

Пока у API GPT-3 около дюжины пользователей. Среди них поисковик Algolia, психологическая платформа Koko и разработчик «ИИ-компаньонов» Replika. Соцсеть Reddit также исследует возможности применения алгоритма для автоматизации модерации контента.

Глава компании Сэм Альтман пообещал не спешить в распространении GPT-3 и присматривать за процессом. «Лучше двигаться слишком медленно, чем торопиться, — заявил он. — Мы будем совершать ошибки и учиться на них».

По мнению Илона Маска, одного из основателей OpenAI, покинувшего компанию в 2019, нынешняя стратегия организации в корне расходится с первоначальными принципами, а закрытость их разработок представляет угрозу. Сегодня никто не знает, над чем на самом деле работает одна из сильнейших в мире команд в области ИИ. О том, насколько прорывными исследованиями занимается команда и какого уровня разработки ведет, можно косвенно судить по полученным ею инвестициям. Только одна компания Microsoft инвестировала в OpenAI миллиард долларов.