Ошибка ИИ чуть не привела к военному конфликту США и Китая
Пользователи ИИ знают, что технология не застрахована от ошибок: без проверки результатов могут возникнуть «галлюцинации». Если абсурдные советы нейросети (например, добавить клей в пиццу) вызывают лишь смех, то в других сценариях использование ИИ может быть опасным.
Как сообщает CNN, вооруженные силы США планировали предпринять военные действия против китайского судна, которое ошибочно приняли за перевозчика материалов для ядерной программы Ирана. Вывод был сделан на основе данных, сгенерированных моделью ИИ. По словам одного из источников, этот отчет «чуть не развязал войну».
Согласно данным четырех источников издания, американские военные планировали перехватить судно, но осознали ошибку незадолго до начала операции. Еще два источника заявили, что офицеры готовились к абордажу, а третий сообщил, что авиация уже находилась в воздухе.
Сообщается, что вводящий в заблуждение отчет был составлен аналитиком командования специальных операций с помощью ИИ.
Эти события произошли на фоне стремления администрации Трампа внедрить ИИ в военные структуры. В январе Министерство обороны опубликовало Стратегию ускорения внедрения искусственного интеллекта, целью которой является превращение армии в «силы с приоритетом ИИ (AI-first)» во всех областях путем стимулирования экспериментов и устранения бюрократических барьеров.
Многие военные аналитики обеспокоены рисками использования ИИ при определении целей. Один из источников сообщил CNN, что «не существует четких указаний относительно того, как участие человека в процессе принятия решений (human-in-the-loop) поможет предотвратить жертвы среди гражданского населения или удары по своим». Другой источник отметил: «ИИ позволяет быстрее прийти к плохой идее».
Министерство обороны пока не прокомментировало данные сообщения.
Целесообразность полного внедрения ИИ в военное дело уже подвергалась сомнению. В феврале 2024 года специалисты из Технологического института Джорджии, Стэнфордского университета, Северо-Восточного университета и инициативы Hoover Wargaming and Crisis Simulation провели симуляцию военных игр с пятью популярными большими языковыми моделями (LLM).
Исследователи обнаружили, что в целом LLM действовали более агрессивно, чем люди. По их наблюдениям, модели демонстрировали выраженную «динамику гонки вооружений», что приводило к эскалации конфликта, а в редких случаях — даже к применению ядерного оружия.