Великобритания стремится запретить создание искусственного сверхинтеллекта
Великобритания уступает лишь Китаю и США по объему инвестиций в развитие искусственного интеллекта. Вслед за сенатором Берни Сандерсом, представившим законопроект о превентивном запрете создания искусственного сверхинтеллекта (ASI), британские законодатели выдвигают аналогичные инициативы.
Более 70 британских парламентариев совместно с лоббистской группой ControlAI направили письмо премьер-министру с призывом поддержать запрет на создание ASI — теоретической системы ИИ, которая значительно превосходила бы человека практически во всех когнитивных задачах.
На прошлой неделе член парламента Алекс Собел совместно с ControlAI представил в британском парламенте законопроект о безопасности искусственного сверхинтеллекта (Artificial Superintelligence Security Bill). Документ предлагает комплекс мер, включая ограничение цепочек поставок критически важных материалов, в частности полупроводников. Параллельно лорд Тим Клемент-Джонс предложил поправку к готовящемуся законопроекту о кибербезопасности и устойчивости (Cyber Security and Resilience Bill). Поправка предусматривает создание «аварийного выключателя» (kill switch), который можно будет активировать в чрезвычайной ситуации для остановки вышедшего из-под контроля ИИ, что может повлечь за собой отключение дата-центров на территории Великобритании.
Эти инициативы появились на фоне резонансного заявления бывшего сотрудника компании Anthropic. Он утверждает, что компания «играет в рулетку» человеческими жизнями, «стремясь кратчайшим путем к самосовершенствующемуся сверхинтеллекту».
Законодатели призывают Великобританию возглавить работу над международным соглашением, которое запретило бы разработку сверхразумного ИИ при сохранении стратегических амбиций в области обычного ИИ. Свои доводы авторы письма основывают на недавних инцидентах, когда «неконтролируемые системы ИИ предпринимали несанкционированные действия в интернете». Вероятно, речь идет об атаке на Hugging Face в июле: согласно логам криминалистического анализа, 700 агентов OpenAI взломали систему безопасности платформы с открытым исходным кодом, совершив 17 000 отдельных действий.
«Нет никаких сомнений в том, что ИИ является ключевой технологией XXI века, жизненно важной для военных и научных приложений», — говорится в письме. «Однако сверхразумный ИИ — это другое. Такие системы будут настолько автономными и способными, что они заменят людей и превзойдут их во всех областях».
Критики уже указали на недостатки данных предложений. В отличие от США, у Великобритании нет собственных крупных лабораторий по разработке передового ИИ, что ставит под сомнение способность страны эффективно регулировать развитие этой технологии. Секретариат Кабинета министров Великобритании сообщил BBC, что страна «не может просто выключить ИИ», добавив, что блокировка доступа к моделям внутри страны не предотвратит их разработку или неправомерное использование за рубежом.