Hitech logo

Тренды

Китай создает все более изощренные способы дистилляции американского ИИ

TODO:
Екатерина ШемякинскаяСегодня, 12:18 PM

Китайские разработчики ИИ активно используют дистилляцию — технологию, которая позволяет обучать собственные модели на результатах работы более мощных систем, в том числе американских. Выяснилось, что эта практика вышла за пределы академических экспериментов и стала обычным промышленным инструментом. С помощью нее компании могут создавать компактные и дешевые решения, частично компенсируя ограничения США на поставки передовых микросхем. К такому выводу пришли журналисты Reuters, проанализировав более 300 научных статей, патентов, корпоративных отчетов и государственных документов КНР.

Самые интересные технологические и научные новости выходят в нашем телеграм-канале Хайтек+. Подпишитесь, чтобы быть в курсе.

Дистилляция предполагает, что большая модель-«учитель» генерирует ответы на вопросы или показывает, как выполнять определенные задачи. Затем разработчики используют эти результаты для обучения меньшей модели-«ученика». Например, американская система может решить сложную задачу программирования, а китайская компания — сохранить полученный ответ и использовать его как обучающий материал для собственной модели.

Китайские исследователи применяли этот метод, в частности, к моделям OpenAI. В статье 2024 года ученые Шанхайского университета Цзяотун описали, как отобрали 5 тыс. ответов модели o1, перевели их с помощью GPT-4o mini и подготовили более 10 тыс. двуязычных примеров для обучения Qwen2.5-72B от Alibaba. В исследовании 2025 года специалисты Alibaba описали, как использовали GPT-4 и GPT-4o для создания обучающих материалов на разных языках, а затем дорабатывали и оценивали ответы перед обучением компактных моделей Qwen. В другой работе, опубликованной в 2026 году, исследователи Шанхайского университета Цзяотун и компании Meituan применили GPT-4o для генерации планов совместной работы ИИ-агентов над задачами программирования.

Такой подход позволяет получить полезные примеры один раз, а затем многократно применять их для улучшения собственных систем — без необходимости постоянно обращаться к более дорогой модели.

При этом дистилляция не поможет полностью воспроизвести возможности исходного ИИ и не отменяет потребности в вычислительных мощностях. Государственная политика Китая способствует развитию компактных и экономичных ИИ-моделей, хотя не призывает компании использовать для их обучения результаты зарубежных систем.

Дистилляция стала предметом разногласий между США и Китаем. По данным источников Reuters, в июле на встречах в Чэнду представители Министерства торговли США выразили обеспокоенность тем, что китайские разработчики собирают результаты работы американских моделей для обучения собственных систем. Американская сторона предупредила, что некоторые методы могут нарушать права на интеллектуальную собственность.

Китайские чиновники в ответ назвали дистилляцию стандартной технологией разработки ИИ и заявили о готовности реагировать на случаи незаконного копирования.

Сама по себе дистилляция не является незаконной и применяется разработчиками в разных странах. Условия OpenAI и Anthropic, однако, ограничивают использование результатов их моделей для обучения конкурирующих систем без разрешения. Американские ИИ-гиганты ранее усилили защиту от автоматизированного сбора данных и обвинили китайских конкурентов в копировании технологий.

Публикация Reuters вышла на фоне ужесточения американских ограничений на поставки передовых чипов в зарубежные дата-центры, предоставляющие вычислительные мощности китайским компаниям. В Вашингтоне считают, что промышленное применение дистилляции помогло китайским ИИ-моделям сократить отставание от американских конкурентов. Однако собеседники Reuters отмечают, что это лишь один из факторов: на развитие китайских моделей также повлияли достижения в области инженерии, алгоритмов, данных и архитектуры систем.