Теперь API чатбота ChatGPT можно использовать не только для создания интерфейса чата с ИИ. Новое семейство моделей, названное GPT-3.5-turbo, это «лучшая модель с целым рядом возможностей помимо чата».

Следует отметить, что эта модель, скорее всего, не та же самая, которую встроила компания Microsoft в поисковик Bing и которую назвала «новой большой языковой моделью OpenAI следующего поколения», «еще быстрее, точнее и способнее», чем ChatGPT и GPT-3.5. Однако, учитывая количество инвестиций Microsoft в OpenAI, не удивительно, что у нее имеется доступ к технологии, недоступной для среднего разработчика, пишет Verge.

OpenAI предлагает 1000 токенов (или блоков текста, на которые система разбивает предложения и фразы, чтобы предсказать, какой текст следует ставить дальше) за $0,002 и утверждает, что это в десять раз дешевле, чем существующие модели GPT-3.5 благодаря «ряду системных оптимизаций». За один отрывок текста обычно приходится потратить несколько таких токенов.

Также разработчики могут получить выделенную копию ChatGPT, если обрабатывают огромное количество данных через API. Это позволит лучше контролировать модель, скорость ответа на запросы и длину бесед с чатботом.

Что касается Whisper, то эту модель можно будет использовать через API для транскрибирования или перевода аудио за $0,006 в минуту. Технически, Whisper — открытая модель, так что ее можно запускать совершенно бесплатно, но у OpenAI, очевидно, есть доступ к более мощному аппаратному обеспечению, так что такая услуга может иметь смысл для тех, кому требуется скорость обработки или возможность перевода речи через дешевые смартфоны.

Специально для тех, кто не хочет долго ждать своей очереди поговорить с искусственным интеллектом и рассчитывает на быстрый ответ, компания OpenAI предлагает подписаться на ChatGPT Plus. За $20 в месяц пользователь получает приоритетный доступ к чатботу даже во время пиковых нагрузок.