Anthropic выступила против поддержки ИИ-моделей с открытыми весами
Открытое письмо с призывом к США поддерживать, а не ограничивать ИИ-модели с открытыми весами (open-weight), получило поддержку почти всех крупнейших технологических компаний. Единственным исключением стала Anthropic. Генеральный директор компании Дарио Амодеи объяснил свою позицию тем, что открытые модели могут принести больше пользы злоумышленникам, чем защитникам.
Амодеи заявил, что «согласен со многим» в письме, которое изначально подписали 25 компаний, включая Microsoft и Nvidia. Позже число подписантов выросло до 77, включая OpenAI, Google и SpaceX. В своем блоге Амодеи уточнил, что Anthropic «никогда не выступала за запрет моделей с открытыми весами», отметив: «Они расширяют доступ к экономике ИИ, усиливают конкуренцию в ряде сценариев и дают клиентам больше контроля».
Однако глава Anthropic не согласен с тезисом о том, что доступ к открытым моделям необходим для защиты от продвинутых кибератак. В письме утверждается: «Открытые модели расширяют возможности защиты, повышают прозрачность и позволяют командам обнаруживать и устранять уязвимости» (недавно Hugging Face использовала открытую китайскую модель для обнаружения взлома, который, по иронии судьбы, оказался следствием сбоя в программе OpenAI).
«Я не согласен с тем, что модели с открытыми весами обязательно облегчают разработку мер безопасности или что широкий доступ к возможностям помогает защитникам больше, чем атакующим, — написал Амодеи. — Мне кажется, что вероятность обратного как минимум столь же велика».
В качестве примера он привел риск использования ИИ злонамеренными группами для создания биооружия на основе вируса пандемического уровня. «Защита от таких агентов в лучшем случае является многолетней операционной задачей», — добавил он, намекая на сложности создания и внедрения вакцин против COVID-19.
Основной посыл Амодеи заключается в том, что строгий «протекционистский запрет» на использование американским бизнесом ИИ с открытыми весами не решит главных проблем национальной безопасности. Первая — риск создания Китаем или другим государством более мощной программы ИИ для достижения военного превосходства или тотального подавления собственного населения.
Вторая проблема связана с природой самих open-weight моделей: они создаются для бесплатного использования и модификации кем угодно. «Модели с открытыми весами — независимо от страны происхождения — потенциально представляют более высокий риск, чем закрытые, поскольку к ним трудно применить защитные механизмы, а опубликованные веса невозможно отозвать, — говорит Амодеи. — Но запрет их использования американским бизнесом не решит проблему, так как злоумышленники вряд ли будут легальными компаниями из США».
В качестве альтернативы Амодеи призывает правительство США продолжать блокировать попытки Китая контрабандно ввозить передовые графические процессоры Nvidia. «Это самый эффективный способ блокировки угрозы №1, а препятствуя обучению моделей вне юрисдикции США, мы косвенно справляемся и с угрозой №2», — считает он.
Кроме того, Амодеи призывает бороться с «промышленной» дистилляцией ИИ — методом, который, по имеющимся данным, используют китайские компании для копирования возможностей ведущих американских моделей.
В качестве финальной меры он предлагает ввести «обязательное тестирование на безопасность» для всех моделей ИИ, как открытых, так и закрытых, чтобы предотвратить их использование в злонамеренных целях. «Меня воодушевляет, что администрация Трампа в последние месяцы двигалась в этом направлении», — добавил он.
Тем не менее, открытые модели объективно угрожают рыночному доминированию закрытых систем от OpenAI, Anthropic и Google. The New York Times сообщает, что союзники OpenAI уже начали тихо лоббировать в Белом доме ограничение использования открытых моделей из Китая.