Угроза национального масштаба — спецслужбы призвали бизнес готовиться к атакам нейросетей»

Радиоэлектронные разведки Австралии, США, Великобритании, Новой Зеландии и Канады бьют тревогу после того, как администрация Трампа закрыла иностранцам доступ к ИИ-модели Fable от компании Anthropic.

Мощные модели искусственного интеллекта, способные разрушать правительства и корпорации, появятся буквально через несколько месяцев. С таким беспрецедентным предупреждением выступили агентства киберразведки альянса «Пять глаз» (Five Eyes) в своем редком совместном заявлении, призвав мировых лидеров «действовать немедленно».

Это неожиданное публичное вмешательство спецслужб Австралии, США, Великобритании, Новой Зеландии и Канады произошло после того, как ранее в этом месяце администрация Трампа решила закрыть «иностранным гражданам» доступ к невероятно распиаренной ИИ-модели Fable, созданной технологической компанией Anthropic.

В заявлении, опубликованном поздно вечером в понедельник (по сиднейскому времени), говорится, что хотя ИИ «со временем поможет нам улучшить киберзащиту, он одновременно колоссально увеличивает скорость, масштаб и изощренность киберугроз».

— Ожидается, что передовые ИИ-модели (Frontier AI) превзойдут текущие прогнозы индустрии, фундаментально трансформировав как наступательные, так и оборонительные кибервозможности. И счет идет не на годы, а на месяцы, — подчеркивается в предупреждении альянса. — В этих условиях киберустойчивость становится неотъемлемым фактором для обеспечения непрерывности бизнес-процессов, поддержания доверия рынка и создания долгосрочной ценности.

Ведомства по кибербезопасности отметили, что стремительные скачки в развитии нейросетей снизят порог входа для злоумышленников, одновременно повысив скорость и сложность проводимых ими атак.

— Требуется комплексная реакция на уровне целых организаций и всего общества, — продолжают авторы документа. — Киберриски больше нельзя рассматривать как сугубо техническую проблему. Это ключевой бизнес-риск и прямая зона ответственности руководства.

И хотя в заявлении не упоминаются конкретные названия ИИ-моделей или компаний, взгляды всего мира сейчас прикованы к передовому арсеналу инструментов от Anthropic.

Одно из новейших изобретений этого технологического гиганта носит название Fable 5. Предполагается, что это более «безопасная» для широкой публики версия Mythos — невероятно мощной ИИ-модели, выпущенной ранее в этом году. Mythos способна самостоятельно выявлять уязвимости в киберсистемах, и именно из-за опасений ее использования во зло доступ к ней имеют лишь тщательно проверенные организации и компании.

В июне правительство США, сославшись на рекомендации органов национальной безопасности, приостановило доступ к обеим моделям Anthropic для «иностранных граждан».

Оливия Шен, эксперт по национальной безопасности и ИИ из Центра исследований США при Сиднейском университете, отмечает: хотя сейчас большая часть мира сфокусирована на том, что Anthropic будет делать дальше, на горизонте могут маячить и другие, не менее разрушительные модели.

— Я думаю, мы должны быть готовы к тому, что следующий Mythos или Fable появится уже совсем скоро, — говорит Шен. — Мы видим лишь то, что было выпущено официально. Но вполне возможно, что в Китае, других государствах, или в скрытых от глаз компаниях разрабатываются модели, которые ничуть им не уступают по своему уровню.

Напомним, что в марте правительство Албаниза (премьер-министр Австралии) подписало соглашение с Anthropic, сделав ее первой компанией, включенной в национальный план развития ИИ Австралии.

Этот (юридически не обязывающий) меморандум о взаимопонимании означает, что компании соглашаются делиться с правительством деталями своего прогресса в сфере ИИ и «содействовать безопасности». При этом национальный план правительства продвигает весьма мягкий подход к регулированию сектора в попытке извлечь из технологий максимальную выгоду для экономики и роста производительности.

Контекст:

• О беспрецедентности заявления. Совместное публичное заявление пяти сигнальных агентств — событие, не имеющее прямых аналогов в новейшей истории. Традиционно Five Eyes действуют тайно: их совместные операции (перехват коммуникаций, слежка, кибер-шпионаж) раскрываются только через утечки (Эдвард Сноуден, 2013). Публичное предупреждение об ИИ — сигнал того, что угроза воспринимается настолько серьёзно, что даже молчаливые агентства решили говорить.
• О «Пяти глазах» и ИИ. Five Eyes традиционно фокусируются на разведке и контрразведке. Их вовлечение в ИИ-дискурс — показательно: ИИ больше не воспринимается как «технология», а как национально-безопасностная проблема — наравне с ядерным оружием, терроризмом и кибервойной. Сравнимо: в 1940-е годы разведсообщество било тревогу по поводу ядерного оружия; в 2020-е — по поводу ИИ.
• О «двух мечах» Mythos/Fable. Центральный парадокс: модель, способная «обнаруживать уязвимости в кибер-системах», — одновременно инструмент защиты и оружие. Anthropic разделяет Mythos (для «проверенных») и Fable (для «общественности»), но блокировка администрацией Трампа обеих моделей показывает: правительство не верит, что разделение работает. Если модель способна «свергнуть правительства», достаточно ли «мягкой версии»?
• Для российского читателя. Упоминание Китая в контексте угрозы, но неупоминание России — показательно. Five Eyes традиционно рассматривают Россию как кибер-угрозу (SolarWinds, NotPetya, вмешательство в выборы), но в контексте ИИ-моделей Китай воспринимается как более серьёзный конкурент. Россия в данной статье не упоминается — что может означать: либо Five Eyes не считают российские ИИ-модели сопоставимыми с западными и китайскими, либо они не хотят привлекать внимание к российскому ИИ-потенциалу.

Примечания:

• Five Eyes («Пять глаз» / FVEY): Самый могущественный разведывательный альянс в мире. Возник после Второй мировой войны. В него входят пять англоязычных стран: США, Великобритания, Канада, Австралия и Новая Зеландия. Они делятся друг с другом абсолютно всеми секретными данными и договорились не шпионить друг за другом.
• Signals agencies (Агентства радиоэлектронной разведки / SIGINT): Это не просто шпионы в костюмах (как ЦРУ). Это ведомства, которые перехватывают звонки, взламывают серверы и читают переписки (как АНБ в США). Тот факт, что именно они делают заявление по ИИ, означает, что ИИ теперь классифицируется как кибероружие (как ядерная бомба).
• Bad actors (Злоумышленники / Негосударственные акторы): Хакеры, террористы или спонсируемые враждебными государствами группировки. Главный страх спецслужб в том, что мощный ИИ (подобный Mythos) попадет в руки кучке подростков-хакеров, и они смогут обрушить энергосистему целой страны за пару кликов.

К чтению:

• «The Five Eyes Alliance: Past, Present, and Future» (Lowy Institute, 2023) — обзорная работа о разведывательном альянсе.
• «Chip War» (Chris Miller, 2022) — книга о геополитике полупроводников; незаменима для понимания контекста ИИ-гонки.
• «The Coming Wave» (Mustafa Suleyman, 2023) — книга сооснователя DeepMind (ныне CEO Microsoft AI) об «остановке» ИИ. Сулейман — один из наиболее авторитетных голосов в дискуссии о рисках ИИ.
• «Dark Territory: The Secret History of Cyber War» (Fred Kaplan, 2016) — история кибервойны от ARPANET до Stuxnet; помогает понять, почему Five Eyes воспринимают ИИ как кибер-угрозу.
• «AI Superpowers» (Kai-Fu Lee, 2018) — книга бывшего руководителя Google China об ИИ-гонке между США и Китаем; упоминание Китая в статье — прямая отсылка к этой дискуссии.
• Отчёты Australian Cyber Security Centre (ACSC) — ежегодные отчёты о состоянии кибербезопасности в Австралии; доступны на сайте cyber.gov.au.

Для сравнения:

• «Стратегия национальной безопасности Российской Федерации» (2021) — российский аналог документов, определяющих отношение к ИИ-угрозам. Ключевое отличие: в российской стратегии ИИ — прежде всего инструмент «технологического суверенитета», а не «угроза». В Five Eyes — наоборот: ИИ — прежде всего угроза.