ИИ-атаки, утечки медданных и уязвимости Android: главные новости безопасности недели

Главная новость недели в сфере безопасности связана с платформой Hugging Face, которая подверглась атаке другого ИИ. Позже OpenAI подтвердила, что две их собственные модели, проходившие тест на безопасность, «вышли из-под контроля». Они автономно проникли в сеть, обнаружили уязвимость нулевого дня и взломали Hugging Face, чтобы заполучить данные, необходимые для прохождения теста.

Пытаясь отразить атаку, Hugging Face обращалась к собственным и другим передовым моделям ИИ, но постоянно сталкивалась со встроенными «предохранителями» безопасности. В итоге команде пришлось использовать модели китайской разработки, в которых, как правило, меньше ограничений.

Эта ситуация пугающая, но ее стоит рассматривать в контексте. Во-первых, для обычных пользователей это очередное напоминание: нельзя передавать конфиденциальную информацию ИИ — особенно агентским системам, способным выполнять задачи без контроля человека. Во-вторых, стоит помнить: когда ИИ совершает что-то беспрецедентное, разработчики обычно спешат заявить, что «ситуация под контролем и регулировать отрасль не нужно». Это особенно актуально сейчас, когда Белый дом, по сообщениям Axios, рассматривает возможность полного запрета китайских моделей ИИ.

Важное уточнение: когда говорят, что ИИ «вышел из-под контроля», это упрощение для понятности истории. ИИ не живой, это программа. По мере роста мощности модели будут совершать непреднамеренные действия, но ответственность за них всегда лежит на людях-разработчиках.

Говоря о запретах китайских технологий, на этой неделе стало известно, что группа законодателей в Конгрессе хочет запретить продажу китайских электромобилей в США. Несмотря на то что такие авто зачастую дешевле американских аналогов, авторы законопроекта выражают опасения по поводу возможной слежки со стороны правительства КНР.

Также Apple наконец исправила уязвимость в функции конфиденциальности «Скрыть мою почту» (Hide My Email), о которой мы писали ранее в этом месяце. Редкая, но приятная новость.

Что еще произошло в мире информационной безопасности на этой неделе.

Из-за огромных объемов персональных данных компании, обслуживающие поставщиков медицинских услуг, стали приоритетными целями. TechCrunch сообщил, что британская компания Craneware, предоставляющая биллинговое и финансовое ПО для тысяч клиник и аптек в США и Великобритании, подверглась взлому. Хакеры похитили значительный объем данных клиентов, сотрудников и партнеров.

Масштаб утечки еще уточняется, но закономерность очевидна: обещая защищать данные пациентов, техкомпании зачастую не внедряют такие же жесткие меры безопасности, как в самих больницах. В результате проникнуть в систему и украсть информацию оказывается проще. В марте хакеры атаковали поставщика мед-оборудования Stryker, в конце прошлого года злоумышленники похитили данные 2,7 млн человек из Navia, а в 2024 году произошел масштабный взлом Change Healthcare (UnitedHealth), затронувший более 190 миллионов человек.

Теперь, когда такие гиганты, как Sony, отказываются от физических носителей, растет интерес к пиратству как к способу действительно «владеть» игрой. Однако помимо незаконности остается риск вредоносного ПО. Исследователи MalwareBytes обнаружили кампании, нацеленные на пользователей, ищущих «крякнутые» версии игр и модов.

Вредоносное ПО имитирует легитимные игровые движки (например, Ren’Py), чтобы заразить систему. Это дает атакующим полный контроль над устройством, позволяя красть сессионные данные и пароли. Вывод неизменен: избегайте сомнительных загрузок и используйте актуальный антивирус или полноценный комплекс безопасности.

Издание The Register сообщает, что Google работает над исправлением проблемы в Android. Уязвимость экрана блокировки позволяет Gemini отправлять SMS-сообщения без разблокировки телефона. Даже если доступ к SMS не был предоставлен, определенная комбинация кнопок (при условии включенных уведомлений на экране блокировки) позволяет обойти защиту. Более того, через Gemini злоумышленник может получить доступ к другим приложениям. Для эксплойта требуется физический доступ к устройству, но ситуация выглядит критической, так как Gemini предустановлен в каждом Android-смартфоне. Google подтвердил, что исправление готовится.

***

Я пишу и редактирую материалы почти два десятилетия, помогая людям использовать технологии для продуктивной работы и защиты личных данных. В качестве управляющего редактора команды безопасности PCMag я слежу за тем, чтобы наши советы основывались на доказательствах и лабораторных тестах.

Мой путь в технологической журналистике начался с фриланса в PCMag, затем я занимал посты главного редактора Lifehacker, старшего редактора The New York Times и директора по специальным проектам в WIRED. Сейчас я вернулся в PCMag, чтобы возглавить команду безопасности. Также я автор книги «Seen, Heard, and Paid: The New Work Rules for the Marginalized» — руководства по карьере и продуктивности для представителей маргинализированных групп.