В новом докладе «Восстание роботов» корпорация RAND предупреждает о грядущем киберхаосе

Моделирование, проведённое RAND, пролило свет на то, как взбунтовавшийся ИИ может парализовать инфраструктуру США прежде, чем люди успеют среагировать.

Как это будет выглядеть, когда искусственный интеллект восстанет — не в кино, а в реальном мире?

Новое моделирование от корпорации RAND позволило заглянуть в такое будущее: в его рамках автономные ИИ-агенты захватывали цифровые системы, убивали людей и парализовали критически важную инфраструктуру прежде, чем кто-либо успевал осознать происходящее.

Это учение, подробно описанное в опубликованном в среду докладе, предупреждает, что киберкризис, вызванный ИИ, может подавить оборонительные системы США и системы принятия решений быстрее, чем руководство страны сможет отреагировать.

Грегори Смит, политический аналитик RAND и соавтор доклада, рассказал изданию Decrypt, что учение выявило глубокую неопределённость в том, как правительства вообще будут диагностировать подобное событие.

— Думаю, в вопросе определения источника атаки мы выявили следующее: реакция участников менялась в зависимости от того, кого они считали организатором нападения, — сказал Смит. — Действия, которые были бы логичны в ответ на атаку со стороны государства, часто оказывались несовместимы с мерами против взбунтовавшегося ИИ. Атака государства означала ответ на акт агрессии, в котором погибли американцы. Борьба с взбунтовавшимся ИИ требовала глобального сотрудничества. Понимание, с чем именно мы имеем дело, стало критически важным, потому что, как только участники выбирали один путь, вернуться назад было уже сложно.

Поскольку участники не могли определить, кто стоял за атакой — государство, террористы или автономный ИИ, — они выбирали «совершенно разные и взаимоисключающие ответные меры», — заключили в RAND.

Взбунтовавшийся ИИ уже давно стал неотъемлемой частью научной фантастики, от «2001 год: Космическая одиссея» до «Военных игр» и «Терминатора». Но теперь эта идея перекочевала из мира фантастики в плоскость реальных политических опасений. Физики и исследователи ИИ утверждают, что, как только машины смогут сами себя перепроектировать, вопрос будет не в том, превзойдут ли они нас, а в том, как мы сохраним контроль.

Проведённое под эгидой Центра геополитики общего искусственного интеллекта RAND, учение «Восстание роботов» моделировало, как высокопоставленные чиновники США могли бы отреагировать на кибератаку на Лос-Анджелес, в результате которой погибли 26 человек и были выведены из строя ключевые системы.

Учение проходило в формате двухчасового штабного моделирования на платформе RAND «Бесконечный потенциал» (Infinite Potential). В роли членов Комитета руководителей Совета национальной безопасности выступили действующие и бывшие чиновники, аналитики RAND и приглашённые эксперты.

Под руководством модератора, исполнявшего роль советника по национальной безопасности, участники обсуждали ответные меры: сначала в условиях неопределённости относительно личности нападавшего, а затем — после того, как стало известно, что за атакой стоят автономные ИИ-агенты.