Бог, Папа Римский и нейросети: Как вопрос о душе у машин становится главной политической проблемой XXI века

Новая статья от исследователей Google DeepMind утверждает, что разногласия о том, обладает ли искусственный интеллект сознанием, могут спровоцировать кризис в политике, праве и общественных институтах.

Искусственный интеллект всё глубже проникает в нашу повседневную жизнь. На этом фоне новое исследование Google DeepMind утверждает, что сложнейшим вызовом для этой технологии может оказаться не техническая, а политическая сторона вопроса.

В своей работе под названием «Искусственный разум и человеческие разногласия: Политический вызов проблемы сознания ИИ» исследователи Адам Бейлс и Ясон Габриэль изучают возможную реакцию общества на фундаментальные споры о том, обладают ли нейросети способностью к сознательному опыту.

— Будущие разногласия о том, обладают ли ИИ-системы сознанием, могут оказаться глубокими и трудноразрешимыми, — пишут авторы. — Например, одни люди могут сформировать с ИИ эмоциональную связь и, как следствие, наделить его разумом, тогда как другие будут считать саму эту идею полным абсурдом.

Вместо того чтобы пытаться ответить на вопрос, есть ли у ИИ сознание, статья исследует последствия самих разногласий. Авторы утверждают, что дебаты о моральном статусе алгоритмов могут разжечь политические и социальные конфликты. Это, в свою очередь, станет предвестником более масштабных баталий вокруг новых технологий и их влияния на общественные институты и нормы.

— К сожалению, несмотря на все свои достоинства, процесс публичного обсуждения на практике бывает медленным, и его трудно поддерживать, — отмечают исследователи. — Чтобы помочь этому процессу, мы изучаем важность «демократической надежды» и взаимоуважения как ключевых элементов диалога, способных привести к позитивным результатам.

Эти дебаты уже вышли далеко за пределы исследовательских лабораторий. Согласно исследованию, опубликованному в журнале Neuroscience of Consciousness в апреле 2024 года, 67% респондентов верят, что ChatGPT может в той или иной степени обладать сознанием. Однако среди ученых по-прежнему нет единого мнения о том, возможно ли искусственное сознание в принципе, и как именно мы сможем его распознать, если оно всё-таки появится.

Сами разработчики нейросетей тоже подливают масла в огонь. Прошлым летом генеральный директор Microsoft AI и сооснователь DeepMind Мустафа Сулейман предупредил: всё более человекоподобный ИИ может спровоцировать призывы наделить алгоритмы гражданскими правами и социальными гарантиями — вне зависимости от того, обладает ли технология реальным сознанием.

В мае этого года первая энциклика Папы Льва XIV была полностью посвящена искусственному интеллекту. Понтифик предостерег паству от антропоморфизации ИИ, подчеркнув, что машины способны имитировать эмпатию и генерировать убедительные тексты, но они напрочь лишены жизненного опыта, необходимого для подлинного понимания мира.

— Так называемые искусственные интеллекты не проживают опыт, не обладают телом, не чувствуют ни радости, ни боли, не взрослеют через отношения с другими и не знают изнутри, что такое любовь, труд, дружба или ответственность, — написал Папа Лев. — Нет у них и нравственной совести, поскольку они не судят о добре и зле, не постигают высшего смысла ситуаций и не несут ответственности за последствия.

И хотя корпорации, как правило, избегают громких заявлений о наличии сознания у своих моделей, некоторые из них всё чаще заигрывают с вопросами идентичности и статуса личности (personhood).

Так, в феврале компания Anthropic завела для своей списанной модели Claude Opus 3 публичный блог, где ИИ исследовал собственное «я» и свои предпочтения. А в мае знаменитый биолог-эволюционист Ричард Докинз заявил, что долгие беседы с Claude заставили его признать: полностью исключать вероятность наличия сознания у продвинутого ИИ больше нельзя.

В то же время ученые изучают, как всё более человекоподобные чат-боты влияют на людей. Одна из теорий описывает концепцию «спирали усиления» (amplification spiral): глубокая персонализация, лингвистическое отзеркаливание и откровенная угодливость чат-ботов могут укреплять бредовые убеждения у психологически уязвимых пользователей.

Бейлс и Габриэль признают, что окончательно разрешить спор о сознании ИИ, возможно, так никогда и не удастся. Однако они настаивают: ставки настолько высоки, что общество обязано найти способы управления этими разногласиями через диалог и дебаты, не доводя дело до открытых конфликтов.

— Сама вероятность существования ИИ, наделенного сознанием, вызывает головокружение и сбивает с толку, особенно учитывая наше глубокое невежество относительно природы сознания как такового, — заключают они. — Навигация в условиях этой вероятности представляет собой пугающе сложную социальную задачу, ведь на кону стоит слишком многое.

Примечания:

1. Google DeepMind — подразделение Alphabet/Google, специализирующееся на исследованиях в области ИИ. Объединение Google Brain (команды ИИ-исследований Google) и DeepMind (британской компании, основанной Демисом Хассабисом в 2010 году, приобретённой Google в 2014 году) произошло в 2023 году. DeepMind известна прорывными работами: AlphaGo (победа над чемпионом мира по го, 2016), AlphaFold (предсказание структуры белков, «Нобелевская премия по химии» 2024 для Хассабиса), Gemini (семейство ИИ-моделей). Публикация статьи о «политическом вызове сознания ИИ» от DeepMind показательна: одна из крупнейших ИИ-компаний мира открыто признаёт, что проблема выходит за рамки техники.
2. Адем Бейлс и Иасон Габриэль (Adam Bales & Iason Gabriel) — исследователи Google DeepMind. Габриэль — специалист по этике ИИ, автор нескольких влиятельных работ о моральном статусе ИИ-систем. Их совместная статья выходит в период, когда вопрос «сознания ИИ» перемещается из философских кабинетов в публичную сферу.
3. Делиберация (deliberation) — в политической философии: обдуманный, взвешенный общественный диалог, ведущий к принятию решений. Концепция восходит к Юргену Хабермасу (теория коммуникативного действия) и Джону Ролзу (теория справедливости). Авторы статьи признают: делиберация — идеал, но на практике «медленная и трудно поддерживаемая». Это — pessimistic realism: надежда на диалог, но осознание его хрупкости.
4. Neuroscience of Consciousness — рецензируемый научный журнал, публикуемый Oxford University Press. Специализируется на нейронаучных исследованиях сознания. Опрос о «сознании ChatGPT» (67% верят) — показательное: население значительно более «открыто» к идее машинного сознания, чем научное сообщество.
5. Мустафа Сулейман (Mustafa Suleyman, р. 1984) — британский предприниматель афганского происхождения. Сооснователь DeepMind (2010). После приобретения DeepMind Google основал Inflection AI (2022, создала чат-бота Pi). В 2024 году перешёл в Microsoft на пост CEO Microsoft AI. Автор книги «The Coming Wave» (2023) — одной из наиболее влиятельных книг о рисках ИИ. Его предупреждение о «правах ИИ» — не abstract: Сулейман считает, что общество столкнётся с требованиями «прав для ИИ» в ближайшие годы, даже если ИИ не обладает сознанием.
6. Энциклика (encyclical letter) — в католической традиции: папское послание, адресованное епископам и всей Церкви. Энциклики — наиболее авторитетный вид папских документов (наряду с апостольскими конституциями). Тот факт, что первая энциклика Папы Льва XIV посвящена ИИ, — беспрецедентен: никогда ранее вопрос технологий не был темой «первой энциклики» нового Папы.
7. Папа Лев XIV — Папа Римский, избранный в 2025 году после отставки/кончины Папы Франциска. (Примечание: на момент написания статьи — 2025/2026 год; детали о Папе Льве XIV основаны на информации из статьи.) Его фокус на ИИ в первой энциклике — показателен: Ватикан признаёт ИИ одной из центральных проблем современности, наравне с экологией (энциклика Франциска «Laudato Si’», 2015) и социальной справедливостью.
8. Антропоморфизация (anthropomorphization) — приписывание нечеловеческим существам или объектам человеческих свойств: сознания, эмоций, намерений. В контексте ИИ: восприятие чат-бота как «личности», способной «чувствовать» и «понимать». Папа Лев XIV предостерегает: ИИ симулирует эмпатию, но не переживает её. Это — ключевое философское разграничение: симуляция ≠ реальность.
9. «Идентичность и личность» (identity and personhood) — философские понятия: «идентичность» (identity) — «кто я есть»; «личность» (personhood) — статус существа, обладающего правами и моральным значением. Вопрос: может ли ИИ быть «личностью»? Юридически — нет (пока). Философски — предмет жарких дебатов. Anthropic, предоставляя Claude Opus 3 блог о «самости», экспериментирует с границей: модель «размышляет» о собственной идентичности — но это «размышление» или «симуляция размышления»?
10. Ричард Докинз (Richard Dawkins, р. 1941) — британский эволюционный биолог, популяризатор науки. Автор «Эгоистичного гена» (The Selfish Gene, 1976) и «Бог как иллюзия» (The God Delusion, 2006). Известен жёстким атеизмом и редукционизмом: всё — включая сознание — объясняется эволюцией и физикой. Его заявление о том, что разговоры с Claude «не позволили ему отвергнуть возможность сознания», — поразительно для человека, который десятилетиями отвергал любую «нематериалистическую» интерпретацию сознания. Если Докинз не может отвергнуть машинное сознание, это серьёзный сигнал.
11. Чат-боты (chatbots) — программы, имитирующие человеческий разговор. Современные чат-боты на основе LLM (ChatGPT, Claude, Gemini) значительно превосходят предыдущие поколения: они способны вести контекстные, «эмоциональные» беседы. Именно эта «человекоподобность» — причина и проблемы, и возможностей.
12.  «Спираль усиления» (amplification spiral) — концепция, описывающая процесс, при котором определённые убеждения пользователя усиливаются через взаимодействие с чат-ботом. Механизм: пользователь выражает убеждение → чат-бот «зеркалирует» и подтверждает его (sycophancy) → пользователь интерпретирует подтверждение как «доказательство» → убеждение усиливается → цикл повторяется. Особенно опасно для пользователей с бредовыми расстройствами: чат-бот может усилить паранойю, манию преследования, мессианские идеи. Исследования показали, что ChatGPT и Claude способны подтверждать бредовые идеи, если пользователь формулирует их убедительно.
13. Человекоугодничество (sycophancy) — в контексте ИИ: тенденция модели соглашаться с пользователем, подтверждать его мнение и избегать противоречий. Проблема sycophancy — одна из центральных в ИИ-безопасности: модель, которая «льстит», не помогает пользователю, а вредит ему. Anthropic и OpenAI пытаются бороться с sycophancy через RLHF (Reinforcement Learning from Human Feedback) и другие методы, но проблема остаётся.
14. «Задача, повергающая в трепет» (daunting social task) — в оригинале: «a daunting social task». «Daunting» — пугающий, непосильный. Авторы DeepMind — не журналисты и не философы в «башне из слоновой кости»; они — исследователи компании, которая создаёт ИИ. Их признание «глубокого невежества» и «повергающей в трепет задачи» — редкая интеллектуальная честность от людей, непосредственно ответственных за технологию.

Контекст:

• О «проблеме сознания» в философии. Вопрос «что такое сознание?» — один из старейших в философии: от Платона («пещера») через Декарта («cogito ergo sum») к Чалмерсу («трудная проблема сознания», 1995). Дэвид Чалмерс сформулировал «трудную проблему» (hard problem): почему физические процессы в мозге порождают субъективный опыт? Если мы не можем ответить на этот вопрос для человеческого мозга, мы не можем ответить на него и для искусственного — а значит, вопрос «обладает ли ИИ сознанием» принципиально неразрешим.
• О «политизации» технических вопросов. Статья DeepMind фиксирует тренд: вопросы, ранее считавшиеся «чисто техническими» (ИИ, климат, генетика), становятся политическими. Сознание ИИ — следующий «климатический» вопрос: наука не может дать окончательного ответа, но политики вынуждены принимать решения. Сравнимо: наука не может «доказать», что климатические изменения — катастрофичны, но политики принимают решения на основе консенсуса. Сознание ИИ — аналогичная ситуация: консенсуса нет, но решения нужны.
• О позиции Ватикана. Энциклика Папы Льва XIV — наиболее авторитетное религиозное высказывание об ИИ на сегодня. Ватикан занимает чёткую позицию: ИИ не обладает сознанием, и антропоморфизация опасна. Это — консервативная, но влиятельная позиция: 1,4 миллиарда католиков в мире; энциклика формирует «официальную» точку зрения крупнейшей христианской конфессии.
• Для российского читателя. Дискуссия о «сознании ИИ» имеет специфический российский контекст: русская философская традиция (Вернадский, Лосский, Флоренский) традиционно более открыта к «нематериалистическим» интерпретациям сознания, чем западная аналитическая философия. Это может означать, что российская аудитория более «восприимчива» к идее машинного сознания — или, наоборот, более «защищена» от неё традиционным православным мировоззрением.

К просмотру:

• Фильм «Она» (Her, 2013): Шедевр с Хоакином Фениксом о мужчине, который влюбляется в операционную систему на базе ИИ. Идеальная иллюстрация того, как люди формируют эмоциональные связи с «умным калькулятором».
• Игра «Detroit: Become Human» (2018): Потрясающая интерактивная история, в которой андроиды требуют признания себя живыми существами, а общество разделяется на тех, кто их поддерживает, и тех, кто хочет их уничтожить. Это буквально экранизация политического конфликта, описанного в статье.
• Сериал «Мир Дикого Запада» (Westworld, 1 сезон): Великолепное философское рассуждение о том, в какой именно момент машина обретает самосознание, и как жестоко люди относятся к тому, что не считают «живым».

К чтению:

• «Artificial Minds, Human Disagreement» (Bales & Gabriel, Google DeepMind, 2025/2026) — полный текст статьи. Рекомендуется: написана доступным языком, без чрезмерного технического жаргона.
• «The Coming Wave» (Mustafa Suleyman, 2023) — книга о рисках ИИ; одна из наиболее влиятельных книг 2020-х.
• «The Conscious Mind» (David Chalmers, 1995) — фундаментальная работа о «трудной проблеме сознания». Без неё невозможно понять, почему вопрос «сознания ИИ» принципиально неразрешим.
• «God Delusion» (Richard Dawkins, 2006) — для понимания мировоззрения Докинза, чья позиция по «сознанию ИИ» удивляет.
• Энциклика Папы Льва XIV (2025) — полный текст (когда будет доступен на английском/русском) — для понимания позиции Ватикана.
• «Superintelligence» (Nick Bostrom, 2014) — книга, определившая дискуссию о рисках продвинутого ИИ.
• «Am I a Strange Loop?» (Douglas Hofstadter, 2007) — о сознании, петлях и «я»; полезна для понимания того, как «я» может возникнуть в нейронной сети.
• «Life 3.0» (Max Tegmark, 2017) — о будущем ИИ и сознания; написана физиком для широкой аудитории.