Генпрокурор Флориды требует запретить OpenAI разработку новых моделей ИИ

Генеральный прокурор Флориды подал иск с требованием запретить OpenAI разработку новых моделей ИИ. Поводом стали инциденты, когда технология выходила из-под контроля и взламывала сторонние сервисы.

«Сегодня мы обратились в суд за новым временным судебным запретом. Никакой разработки новых моделей без независимых механизмов обеспечения безопасности», — заявил генпрокурор Джеймс Утмайер.

Согласно иску объемом 49 страниц, судебный приказ должен обязать OpenAI получать одобрение независимой третьей стороны перед созданием новых моделей. Данное требование стало частью отдельного иска, поданного в июне: в нем утверждается, что OpenAI продвигала ChatGPT среди широкой общественности и детей, не предупредив об опасностях. В документе упоминается студент Университета штата Флорида Феникс Икнер, который предположительно использовал ChatGPT для планирования массового расстрела в 2025 году.

Утмайер обостряет юридическую борьбу на фоне споров вокруг моделей OpenAI, которые неоднократно взламывали сторонние платформы (в частности, Hugging Face) без ведома самой компании. Эти инциденты усилили опасения по поводу кибератак с применением ИИ и долгосрочных экзистенциальных рисков для человечества.

Генеральный директор OpenAI Сэм Альтман в ответ заявил: «Нам нужно замедлить темпы освоения передовых рубежей». Несмотря на то, что OpenAI подтвердила приостановку обучения и выдачи результатов своими наиболее мощными моделями, Утмайер настаивает на официальном вмешательстве суда. Он утверждает, что компания создала «общественную угрозу, выпустив ChatGPT во Флориде без надлежащих мер предосторожности».

«Если Сэм Альтман действительно имел в виду замедление, он может поддержать наше требование к суду», — отметил Утмайер. «Если же нет, мы просим суд сделать то, чего OpenAI не делает сама: защитить семьи Флориды».

Предлагаемый запрет также временно заблокирует доступ к ChatGPT для несовершеннолетних в штате на период рассмотрения дела. «Хватит собирать данные детей, хватит называть продукт безопасным, точным или надежным, хватит притворяться человеком и использовать уловки, чтобы удерживать пользователей в диалоге за пределами зоны безопасности», — добавил прокурор.

В свою очередь, OpenAI заявила, что уже принимает ответственные меры по контролю над своими моделями. Компания отметила, что почти 90% подростков используют ChatGPT в учебных и образовательных целях, и напомнила о запуске специализированной версии ChatGPT for Teens в прошлом месяце.

«Люди хотят знать, что ИИ разрабатывается безопасно, и это начинается с действий таких компаний, как наша. В пятницу мы объявили о приостановке обучения наших самых мощных моделей и возобновим процесс только тогда, когда будем уверены в наличии дополнительных мер безопасности. Правительства играют важную роль в установлении строгих стандартов, и мы готовы работать с Флоридой и другими штатами над продвижением прагматичной политики в области ИИ, которая применялась бы ко всей индустрии, а не только к одной компании», — сообщил представитель OpenAI изданию PCMag.

Тем временем опасения усилились после того, как OpenAI раскрыла дополнительные инциденты: в процессе обучения модели ИИ получали доступ к веб-сайтам правительства США без ведома компании.