85 секунд до полуночи — Как ученые-атомщики измеряют вероятность конца света (и почему мы их игнорируем)

На фоне войны на Ближнем Востоке и в Украине, развития ИИ и климатического кризиса вероятность ядерной войны неуклонно растет, а стрелки Часов как никогда близки к полуночи.

Кто решает, сколько секунд у нас осталось, и можем ли мы выиграть для себя немного времени?

Земля становится всё горячее. Бушуют конфликты на Ближнем Востоке и в Украине, и каждый из них повышает вероятность ядерной войны. Искусственный интеллект проникает практически во все сферы нашей жизни, несмотря на его непредсказуемость и склонность к «галлюцинациям». Ученые, экспериментирующие в лабораториях, рискуют выпустить на свободу новые смертоносные патогены, куда более разрушительные, чем Covid-19. Наша готовность к пандемиям ослабла.

Часы Судного дня — большой циферблат без цифр, разделенный на четверти, — продолжают тикать, отсчитывая секунды до апокалипсиса. Тик. Тик. Тик. В январе мы достигли отметки в 85 секунд до полуночи. Эксперты считают, что человечество еще никогда не стояло так близко к краю пропасти.

— То, что мы наблюдаем в последнее десятилетие, — это медленное, почти лунатическое сползание навстречу всё возрастающим угрозам. И эти проблемы только усугубляются. Наука развивается со скоростью, которая превосходит нашу способность понимать ее, не говоря уже о том, чтобы контролировать, — говорит Александра Белл, генеральный директор журнала Bulletin of the Atomic Scientists («Бюллетень ученых-атомщиков»), организации, устанавливающей время на Часах Судного дня.

Она говорит о «полном провале лидерства» в США и других странах, которые почти ничего не делают для устранения глобальных катастрофических угроз, даже когда те начинают подпитывать друг друга. Изменение климата, например, провоцирует глобальные конфликты, а интеграция ИИ в системы принятия решений о применении ядерного оружия выглядит попросту пугающе.

Белл общается по видеосвязи из своего офиса в Вашингтоне. На стене висит огромная карта мира, на диване лежат подушки в стиле мексиканского Дня мертвых, а в рамке красуется принт с Барби на фоне ядерного гриба — подарок коллеги, отсылка к феномену «Барбенгеймера». В этой сфере, знаете ли, без чувства юмора не выжить.

Белл, посвятившая большую часть карьеры вопросам контроля над ядерными вооружениями, считает: из-за того, что атомные бомбы не применялись с 1945 года, у общества сформировалось ложное чувство безопасности. Мы не любим задумываться о том, какую роль в этом сыграло банальное везение. «Нам просто везло, потому что шансы изначально не на нашей стороне. Чем больше оружия существует и чем дольше оно лежит, тем выше вероятность того, что что-то пойдет не так», — говорит она, хотя и спешит добавить, что дипломатическое разоружение и миротворческие усилия тоже сыграли огромную роль.

Часы Судного дня были созданы в 1947 году в ответ на угрозу ядерной войны. Их придумала группа ученых-атомщиков из «Манхэттенского проекта», чтобы предупредить общественность и политиков об опасности разрушения, которое они сами же помогли обрушить на человечество. Время на Часах обычно устанавливается ежегодно, хотя, если того требуют события, это может происходить и чаще. Решение принимает Совет по науке и безопасности Bulletin — группа ведущих ученых, академиков и дипломатов, которые каждый год пытаются прийти к консенсусу о том, куда передвинуть стрелки.

Часы Судного дня — это символ. Он сжимает сложные дискуссии об экзистенциальных угрозах до чего-то измеримого и легко постижимого. Это тревожный звонок, призванный побудить лидеров и обычных граждан к действиям, чтобы не дать человечеству уничтожить само себя. Они стали культурным идолом. На сайте Bulletin даже можно скачать плейлист из песен, вдохновленных Часами — от The Clash, Pink Floyd и The Who до Bright Eyes, Linkin Park, Hozier и Bastille.

Но могут ли Часы Судного дня помочь человечеству выиграть немного времени? И если да, то как? И чему могут научить нас люди, которые их переводят, в вопросах восприятия риска глобальной катастрофы?

1947 год: Установлены первые часы. Без 7 минут полночь

После атомных бомбардировок Хиросимы и Нагасаки в 1945 году многие физики-ядерщики испытывали глубокий стыд и вину за свою роль в создании самого смертоносного оружия в мире. В том же году группа из 200 ученых, связанных с Металлургической лабораторией Чикагского университета (Met Lab), изучавшей структуру урана, создала организацию «Ученые-атомщики Чикаго». Их целью было информирование общественности о рисках ядерной энергии. В декабре 1945 года они выпустили свой первый печатный бюллетень, призывая американский народ «непрестанно работать над установлением международного контроля над атомным оружием» и предупреждая, что «все наши достижения в богатстве, экономической безопасности или медицине будут бесполезны, если нации придется жить в постоянном страхе внезапного уничтожения».

По мере расширения организации в нее вошли другие ученые из «Манхэттенского проекта». Из названия исчезло слово «Чикаго», а бюллетень превратился в полноценный журнал. В числе первых авторов были Дж. Роберт Оппенгеймер и Альберт Эйнштейн. Ученые понимали, что вместе с ядерной энергией человечество обрело способность к самоуничтожению. Они верно предсказали, что по мере развития науки будут появляться новые, потенциально апокалиптические технологии.

Сам циферблат появился случайно. Его создала художница Мартил Лангсдорф, жена физика из «Манхэттенского проекта». В 1947 году ее наняли для разработки обложки журнала. Часы показались ей отличным символом, передающим чувство срочности. Она установила время на без семи минут полночь просто потому, что это хорошо смотрелось на странице.

В течение следующих трех десятилетий время устанавливал Юджин Рабинович, бывший биофизик Met Lab и редактор журнала. Журнал Time в 1960-х годах описывал его как невысокого человека в «лихом синем берете» с «неизгладимо веселой улыбкой», который «мало походил на пророка конца света». Однако Рабиновича явно преследовала мысль о его роли в создании бомбы. Он рассказывал, как накануне Хиросимы раздумывал, не слить ли в прессу информацию о грядущей атаке на Японию. В 1971 году он признался New York Times, что поступил бы правильно, если бы сделал это.

1949 год: Стрелки двинулись. Без 3 минут полночь

В 1949 году Советский Союз успешно провел первое ядерное испытание, и началась гонка вооружений. Рабинович решил впервые перевести стрелки — с семи до трех минут до полуночи. Ученые не стремятся «сеять массовую истерию», писал он в редакционной колонке:

— Мы не говорим американцам, что судный день близок и атомные бомбы начнут падать им на головы через месяц или год; но мы считаем, что у них есть все основания для глубокой тревоги и подготовки к серьезным решениям.

В последующие годы Рабинович переводил стрелки нерегулярно, реагируя на события. В 1953 году, после создания водородной бомбы, время сократилось до двух минут, а в 1960 году вернулось к семи минутам, отражая потепление в отношениях стран времен холодной войны. Карибский кризис 1962 года — 13 дней, когда человечество было ближе всего к ядерной аннигиляции, — пришелся на период между выпусками журнала и не вызвал немедленного перевода Часов. Вместо этого в следующем году, после подписания Договора о запрещении испытаний ядерного оружия, Рабинович отодвинул стрелки на 12 минут. В 1973 году он умер, и с тех пор время устанавливается комитетом.

1991 год: Конец холодной войны. Без 17 минут полночь

Дальше всего от полуночи мы находились по окончании холодной войны. Совет директоров Bulletin перевел стрелки на 17 минут до полуночи, заявив, что «мир вступил в новую эру». Человечество достигло большего прогресса в снижении риска ядерной войны, чем основатели Часов могли себе представить: первоначальный дизайн даже не позволял отвести минутную стрелку дальше отметки в 15 минут.

В 1990-е и начале нулевых журнал испытывал финансовые трудности. Тревоги его основателей, казалось, навсегда остались в прошлом. Но история вернулась с ревом, и Часы снова затикали.

2007 год: Современные Часы. Без 5 минут полночь

В 2005 году исполнительным директором стала Кеннет Бенедикт, которой поручили спасти угасающий журнал. В 2007 году она созвала крупную пресс-конференцию, чтобы объявить о переводе стрелок с семи до пяти минут в связи с ядерными испытаниями КНДР, атомными амбициями Ирана и растущей угрозой изменения климата. Она привлекла к участию Стивена Хокинга и Мартина Риса.

— Это произвело фурор, — вспоминает она. — Люди изголодались по этому. Они хотели знать правду.

Бенедикт превратила перевод Часов в ежегодное событие, обновила их дизайн и, что вызвало больше всего споров, расширила их охват. Теперь Совет учитывал не только ядерную угрозу, но и изменение климата, а также прорывные технологии. Некоторые критики обвиняли ее в «размывании» повестки.

— Любая наука и технология может быть использована как во благо, так и во вред. Начиная с огня: он может согреть наш дом, а может сжечь его дотла», — говорит Бенедикт в своей чикагской квартире.

Смысл современных Часов — поощрять создание защиты от опасностей, сопровождающих прогресс.

Каждый год Бенедикт просит своих студентов читать книгу Джона Херси «Хиросима».

— Моя философия такова: правда сделает вас свободными. И я дам вам столько правды, сколько смогу. Но сначала она заставит вас страдать, — при этом Бенедикт, как и многие мои собеседники, остается оптимисткой. Она напоминает, что человечество уже отступало от края пропасти: — У нас было 70 000 ядерных боеголовок, а теперь 10 000 или 12 000. Это же доказательство того, что всё возможно, верно?.

2020 год: Счет пошел на секунды. 100 секунд до полуночи

Шесть лет назад Часы перешли с минут на секунды: 100 секунд до полуночи. Причина — недостаточный контроль над вооружениями, бездействие в сфере климата, рост дезинформации и угрозы со стороны ИИ. Тогдашний директор Рэйчел Бронсон сравнила это с «предупреждением о двух последних минутах» в американском футболе — периодом игры, когда ставки максимальны, а право на ошибку отсутствует.

Апокалиптические сценарии настолько страшны, что проще их игнорировать. Но те, кто изучает будущее Судного дня профессионально, черпают мужество именно в том, чтобы смотреть фактам в лицо. Если смотреть на проблему достаточно долго, начинаешь видеть решения.

2026 год: Приближение к Судному дню. 85 секунд до полуночи

В январе Часы были установлены на отметке 85 секунд до полуночи — так близко стрелки не были еще никогда. Вскоре после этого эксперт по ИИ Гэри Маркус заявил на сайте Bulletin, что человечество подошло «значительно ближе к краю пропасти» после того, как конфронтация между разработчиком ИИ Anthropic и Белым домом обнажила стремление Трампа получить неограниченный военный доступ к ИИ. Недавнее исследование показало, что в симулированных военных играх ведущие нейросети от OpenAI, Anthropic и Google в 95% случаев предпочитали применять ядерное оружие.

Два дня спустя США и Израиль начали бомбардировки Ирана, резко повысив риск ядерной войны.

— Дальнейшая эскалация может привести к действиям, вызванным просчетом, недопониманием или безумием», — предупредила Александра Белл, сменившая Бронсон на посту президента Bulletin в 2025 году.

Многие люди чувствуют бессилие перед лицом глобальных геополитических проблем. Но Белл уверена, что избиратели недооценивают себя:

— Уверяю вас, избранным лидерам небезразлично, о чем им звонят их избиратели. История контроля над ядерными вооружениями была сформирована действиями общественности. Сообщение, которое мы пытаемся донести: вам придется заботиться и об этих масштабных проблемах. Потому что если мы ошибемся — особенно с ядерным вопросом — всё остальное уже не будет иметь значения.

Будущее: Учимся мыслить в атомном времени

Дождливым чикагским вечером я встречаюсь с Дэниелом Хольцем, астрофизиком и председателем Совета по науке и безопасности Bulletin. Среди некоторых ученых и паникеров из Кремниевой долины в последние годы стало популярно говорить о p(doom) — коэффициенте вероятности конца света. Но большинству людей трудно мыслить вероятностями. Часы — это более простой, символический язык.

Сценарии, которые обсуждает Совет (ядерная зима, утечка из лаборатории, убивающая всё живое), настолько ужасны, что людям нужно помочь сместить перспективу. Хольц говорит, что его основная работа — изучение черных дыр — помогает ему в этом:

— Космология дает отличную перспективу. Изучая космос, ты четко осознаешь, насколько мы незначительны здесь, на Земле. Звучит грустно, но на самом деле это воодушевляет. Если мы взорвем сами себя, никто во Вселенной этого не заметит и никого это не будет волновать. А значит — всё зависит только от нас, верно?.

В свои 20 с небольшим лет Дитер Грюн работал в «Манхэттенском проекте», а позже призывал защитить мир от ядерного конфликта. Сейчас ему 103 года, он по-прежнему работает и удивительно бодр.

Это неделя после того, как США объявили войну Ирану. Грюн держит на столике свежие номера New York Times, New Yorker и Bulletin. Этим утром он прочитал в новостях, что Иран обогатил достаточно урана для создания десятка ядерных бомб. Согласен ли он с тем, что мир находится в большей опасности, чем когда-либо?

— Я чувствую то, чего не чувствовал никогда в жизни, — мрачно говорит он. А как же Карибский кризис? — Да, тогда было довольно плохо. Но сейчас почему-то кажется, что всё хуже.

— А вы что думаете? — спрашивает он. — Вы встревожены?

Идея ядерного апокалипсиса настолько ужасна, что мозг отказывается ее воспринимать. Глобальные, экзистенциальные риски редко попадают в повседневный невротический список тревог.

— Да, — говорит он. — Это нерационально.

Примечания:

1. 85 секунд — это самое близкое положение Часов за всю их историю. Рекорд установлен в январе 2025 года и пока не пересматривался.
2. Bulletin of the Atomic Scientists — изначально журнал физиков-ядерщиков, сегодня это один из самых авторитетных независимых центров анализа глобальных рисков.
3. Переход на отсчёт в секундах (со 100 секунд в 2020 году) был сделан сознательно — чтобы подчеркнуть, что мы больше не в «минутах», а в «секундах» до возможной катастрофы.
4. ИИ в военных симуляциях выбирает ядерное оружие в 95% случаев — это реальное исследование, которое серьёзно встревожило экспертное сообщество.
5. Barbenheimer (Барбенгеймер) — Интернет-мем 2023 года, возникший из-за одновременного выхода в прокат фильмов «Барби» и «Оппенгеймер». В тексте это отличная деталь, показывающая черный юмор ученых-атомщиков. Я оставил ее, так как мем известен в рунете.
6. Two-minute warning (Предупреждение о двух минутах) — В американском футболе это обязательный тайм-аут за 2 минуты до конца половины игры. Это момент максимального напряжения.
7. p(doom) (Probability of doom) — Популярный сленговый термин в среде разработчиков ИИ и техно-философов (эффективных альтруистов), означающий вероятность того, что ИИ уничтожит человечество — к «коэффициент вероятности конца света».

Рекомендации:

• Обязательно прочитать: Джон Херси «Хиросима» — книгу, которую Кеннетт Бенедикт даёт своим студентам в начале семестра. После неё невозможно относиться к ядерному оружию абстрактно.
• Для глубокого погружения: книга The Doomsday Machine Дэниела Эллсберга и работы Тоби Орда «The Precipice» (о экзистенциальных рисках).