Microsoft и Nvidia выступили против запрета ИИ-моделей с открытыми весами

После того как представители администрации Трампа обвинили модель Kimi K3 от китайской компании Moonshot AI в копировании американских технологий, главы Microsoft и Nvidia призвали Белый дом воздержаться от запрета ИИ-моделей с открытыми весами (open-weight).

В пятницу Сатья Наделла (Microsoft) и Дженсен Хуанг (Nvidia) опубликовали в X (бывший Twitter) открытое письмо о ценности моделей с открытыми весами. Такие модели может скачать и запустить любой пользователь при наличии необходимых вычислительных ресурсов. «Миру нужны как передовые закрытые модели, так и передовые открытые», — подчеркнул Хуанг. «Модели с открытыми весами имеют важнейшее значение для здоровой экосистемы ИИ», — добавил Наделла.

Модели с открытыми весами отличаются от ПО с открытым исходным кодом (open-source): код и данные для обучения не раскрываются, что позволяет сохранить процесс разработки в секрете. Тем не менее, такие модели доступны для бесплатного использования, что создает конкуренцию закрытым решениям от таких провайдеров, как OpenAI. Модель Kimi K3 от стартапа Moonshot, готовящаяся к выпуску, вызвала особый резонанс, так как, по имеющимся данным, существенно сокращает разрыв с лучшими американскими аналогами.

В письме Наделла и Хуанг отмечают, что открытые веса позволяют стартапам, университетам и госучреждениям создавать продукты на базе передовых моделей, не обучая их с нуля и не оплачивая каждый запрос по тарифам закрытых сервисов. Авторы документа подчеркивают: «Открытые веса усиливают конкуренцию, которая позволяет достижениям в области ИИ быть общедоступными, а не концентрироваться в руках немногих».

Всего письмо подписали 25 организаций, включая Meta, Dell Technologies, Mozilla, Linux Foundation и Hugging Face.

Изначально в списке отсутствовали ключевые игроки — OpenAI, Anthropic и Google, что многие списали на критику модели оплаты «за каждую задачу». Однако позже Сэм Альтман (CEO OpenAI) выразил поддержку инициативе, заявив: «Я хочу, чтобы США победили в области ИИ как в open-source, так и в проприетарных моделях». Илон Маск также поддержал письмо.

Поводом для дискуссии стали заявления советника Белого дома Майкла Крациоса, который без предоставления доказательств утверждает, что Moonshot создала Kimi K3 с помощью метода «дистилляции ИИ», чтобы скопировать способности к рассуждению и кодингу у модели Fable от Anthropic. Министр финансов США Скотт Бессент предупредил о возможных санкциях против китайских компаний, обвиненных в «клонировании» технологий.

«Мы поддерживаем open-source ИИ, но открытый исходный код — это не карт-бланш на разграбление американской интеллектуальной собственности. Когда фирмы КНР проводят скрытые дистилляционные атаки промышленного масштаба, санкции и внесение в «черный список» (Entity List) станут реальностью», — заявил Бессент.

Компания Anthropic назвала дистилляцию кражей интеллектуальной собственности, которая ведет к выпуску мощных моделей без систем безопасности. Однако авторы открытого письма предлагают более взвешенный подход: «Опора исключительно на закрытые модели сама по себе не является безопасной: они могут быть взломаны или дать сбой, который посторонние не смогут обнаружить. Концентрация возможностей в нескольких закрытых моделях лишь усугубляет этот риск».

В документе также утверждается, что дистилляция — это широко используемый метод улучшения и валидации моделей, отражающий традицию доработки существующих технологий. Авторы призывают решать вопросы незаконного использования закрытых моделей с помощью точечных правовых механизмов, а не тотальных запретов.

В то же время появились признаки того, что Белый дом может смягчить позицию. В четверг министр торговли США Говард Латник сообщил, что Центр стандартов и инноваций ИИ США оценил Kimi K3 и обнаружил, что она «работает значительно хуже» ведущих американских моделей в области кибербезопасности. «Соединенные Штаты продолжают лидировать, потому что здесь живут величайшие инноваторы и технологи», — резюмировал Латник.