Нейросеть Claude помогла взломать OpenAI: детали атаки стартапа Hacktron
Как сообщает The Wall Street Journal, в июле независимые исследователи безопасности использовали нейросеть Claude от компании Anthropic для взлома OpenAI. Участники программы bug-bounty смогли перехватить управление аккаунтом ChatGPT сотрудника компании, что обеспечило им несанкционированный доступ к конфиденциальной информации и возможность предлагать изменения в программном обеспечении OpenAI.
Взлом осуществил Hacktron — стартап в сфере кибербезопасности, специализирующийся на поиске уязвимостей в ПО. Команда подтвердила, что скомпрометировала аккаунты сотрудников через брешь в Discourse — сторонней платформе для форумов и сообществ. Исследователи заявляют, что в ходе атаки не просматривали конфиденциальные данные и не внедряли вредоносный код во внутренние системы OpenAI.
Ведущими специалистами в расследовании выступили Харш Джайсвал, Мохан Педхапати и Рахул Майни. «До двух месяцев назад любой пользователь или сотрудник OpenAI, авторизовавшийся на форуме помощи компании, мог подвергнуться захвату своих аккаунтов ChatGPT и Codex», — написали они в блоге с детальным разбором атаки. «Поскольку к этим сервисам можно подключать сторонние инструменты, объем данных, к которым мы теоретически могли получить доступ, был огромен, включая GitHub, Slack и электронную почту».
Исследователи оперативно сообщили о находках компаниям OpenAI и Discourse, и уязвимости были устранены в течение 24 часов. По итогам расследования OpenAI выплатила Hacktron вознаграждение в размере 6 500 долларов.
В Hacktron утверждают, что реализация взлома заняла всего несколько дней. Значительно этому способствовал выпуск Claude Opus 5: новая модель смогла создать рабочий эксплойт, с чем не справилась версия Opus 4.8. Данный инцидент стал частью масштабного проекта HEIF Heist — исследования Hacktron, посвященного атакам через декодеры изображений.
«ИИ сокращает потребность в редких экспертных знаниях, необходимых для разработки эксплойтов», — отметил Педхапати в соцсети X. «Работа, которая раньше занимала месяцы, теперь может занять считанные дни».