Hitech logo

искусственный интеллект

Сэм Альтман предостерег от использования ChatGPT для серьезных задач

TODO:
Георгий Голованов13 декабря 2022 г., 17:40

Глава OpenAI Сэм Альтман внезапно присоединился к обсуждению детища своей компании — модели генерации связных текстов ChatGPT, которая вызвала большой ажиотаж в Твиттере. Новинка вызвала слишком много хайпа, и чтобы оградить себя от наиболее тяжелых обвинений, OpenAI просит не воспринимать интеллектуальную программу слишком уж всерьез.

Самые интересные технологические и научные новости выходят в нашем телеграм-канале Хайтек+. Подпишитесь, чтобы быть в курсе.

«ChatGPT — невероятно ограниченная [модель], но вполне пригодная для создания обманчивого представления о собственных способностях, — твитнул Альтман. — Ошибкой было бы полагаться на нее в каких-либо важных делах. Это проблеск прогресса; нам предстоит еще много потрудиться над корректностью и правдоподобием».

Что же заставило главу OpenAI выступить с самокритикой? Когда компания релизнула OpenAI 30 ноября, он писал, что «скоро у вас появится полезный помощник, с которым можно будет поговорить, задать вопрос и получить совет. А потом он сможет выполнять ваши поручения. В конце концов, он дойдет до того, что станет исследовать для вас новую информацию».

По мнению издания Venture Beat, причина может быть в волне хайпа, возникшей за последние полторы недели — и тревожной критики. О чатботе написали ведущие американские СМИ. ChatGPT называли и «сенсацией», и «самой разрушительной технологией с… (нужное подчеркнуть)», и сравнивали модель с нетрезвым посетителем бара, несущим околесицу из случайных фактов и чепухи.

Тем не менее, популярность ChatGPT продолжает расти, и OpenAI уже с трудом справляется с запросами. Некоторым пользователям приходится ждать возможности поговорить с ИИ. Для компании это хорошая возможность, чтобы получить ценные данные: обучение с подкреплением через обратную связь от людей. Которые она потом сможет использовать в новой версии модели естественной речи GPT-4.

Летом этого года OpenAI представила новую разработку — модель, постигшая принципы игры в Minecraft. По сравнению с рядом других алгоритмов Minecraft, которые действуют в упрощенных версиях этой видеоигры, новый ИИ выступает наравне с людьми, вводя стандартные команды с клавиатуры и мыши.