Hitech logo

Кейсы

Google выпустила миниатюрную открытую модель Gemma для смартфонов

TODO:
Екатерина Шемякинская15 августа, 09:15

Google представила компактную модель искусственного интеллекта Gemma 3 270M, которая работает напрямую на смартфонах и в браузере. При всего 270 млн параметров она показала высокую энергоэффективность: в тесте на Pixel 9 Pro смогла провести 25 разговоров, затратив лишь 0,75% заряда. В бенчмарке IFEval модель продемонстрировала 51,2% точности, обойдя некоторые более крупные решения.

Самые интересные технологические и научные новости выходят в нашем телеграм-канале Хайтек+. Подпишитесь, чтобы быть в курсе.

Ранее компания представила линейку Gemma 3 с объёмом от 1 до 27 млрд параметров. Обычно чем больше параметров, тем выше производительность модели. Однако Google сделала ставку на энергоэффективность и локальное использование: компактная Gemma при меньшем размере показывает высокую скорость и точность.

У локального использования моделей есть много преимуществ, например, повышенная конфиденциальность и меньшая задержка. Gemma 3 270M разработана специально для подобных случаев. Тесты на смартфоне Pixel 9 Pro с чипом Tensor G4 подтвердили эффективность новой модели. Gemma 3 270M смогла провести 25 разговоров, затратив всего 0,75% заряда аккумулятора. По уровню энергоэффективности это лучший результат в линейке Gemma.

Несмотря на компактность, модель показывает достойные результаты в бенчмарках. В тесте IFEval, проверяющем способность ИИ следовать инструкциям, она набрала 51,2%. Это выше, чем у некоторых более «тяжёлых» моделей, хотя до систем с миллиардами параметров вроде Llama 3.2 ей всё же далеко.

Google утверждает, что Gemma 3 270M уже демонстрирует хорошие результаты без дополнительной настройки. Однако разработчики могут легко адаптировать модель под конкретные задачи. Компактный размер делает процесс обучения быстрым и недорогим. Компания видит применение модели в классификации текстов, анализе данных и других задачах, где важна скорость и минимальные вычислительные затраты.

Модель распространяется как «открытая» — скачать её можно бесплатно вместе с весами, а разработчики вправе модифицировать и публиковать собственные версии. При этом остаются ограничения: запрещено использование Gemma для создания вредоносных решений или нарушающих правила конфиденциальности.

Gemma 3 270M уже доступна на платформах Hugging Face и Kaggle, а также в сервисе Vertex AI. Google также показала пример её работы — браузерный генератор историй на базе Transformer.js.