Hitech logo

Тренды

Microsoft выпустит новую ИИ-модель для конкуренции с OpenAI и Google

TODO:
Екатерина Смирнова7 мая, 11:24

Microsoft разрабатывает новую масштабную языковую модель под названием MAI-1, которая потенциально сможет конкурировать с передовыми БЯМ от Google, Anthropic и OpenAI. MAI-1 будет иметь более 500 млрд параметров, что сильно больше, чем у предыдущих моделей Microsoft. Для сравнения, у GPT-4, по разным оценкам, 1 трлн параметров. Microsoft впервые разрабатывает собственную ИИ-модель такого масштаба после инвестирования более $10 млрд в OpenAI за право использования технологий компании. Например, GPT-4 лежит в основе Microsoft Copilot. Точное применение MAI-1 еще не определено, но модель может быть представлена на конференции разработчиков Build в конце этого месяца.

00
Самые интересные технологические и научные новости выходят в нашем телеграм-канале Хайтек+. Подпишитесь, чтобы быть в курсе.

Разработкой MAI-1 руководит Мустафа Сулейман, бывший глава Google AI, который занимал пост генерального директора стартапа в сфере искусственного интеллекта Inflection. В марте Microsoft приобрела большую часть сотрудников и интеллектуальную собственность этого стартапа за $650 млн. Хотя MAI-1 может опираться на методы, привнесенные бывшими сотрудниками Inflection, по словам двух сотрудников Microsoft, знакомых с проектом, это совершенно новая большая языковая модель.

Цифровой прорыв: как искусственный интеллект меняет медийную рекламу

С 500 млрд параметров MAI-1 будет значительно превосходить предыдущие открытые модели Microsoft, например, Phi-3. Это потребует большей вычислительной мощности и обучающих данных. Сообщается, что по своим масштабам MAI-1 приближается к GPT-4, которая, по слухам, имеет более 1 трлн параметров, и превосходит модели Meta (компания признана экстремистской и запрещена в РФ) и Mistral с 70 млрд параметров.

Разработка MAI-1 говорит о том, что Microsoft придерживается двойного подхода к искусственному интеллекту. С одной стороны, компания фокусируется на небольших локальных языковых моделях для мобильных устройств, а с другой — на более крупных, передовых моделях, работающих на облачных мощностях. По слухам, Apple также изучает подобный подход. Кроме того, разработка MAI-1 подчеркивает стремление Microsoft к разработке ИИ независимо от OpenAI. В настоящее время технологии OpenAI питают самые амбициозные генеративные функции ИИ Microsoft, включая чат-бот, встроенный в Windows.

Точное предназначение MAI-1 пока не определено даже внутри самой Microsoft. Согласно одному из источников The Information, применение будет зависеть от конечной производительности модели. Для обучения модели Microsoft выделила большой кластер серверов с графическими процессорами Nvidia и собирает обучающие данные из различных источников, включая текст, сгенерированный GPT-4 от OpenAI, и общедоступные данные из интернета.

В зависимости от прогресса, достигнутого в ближайшие недели, Microsoft может представить предварительную версию MAI-1 уже на своей конференции для разработчиков Build в конце этого месяца.