Когда пузырь искусственного интеллекта лопнет, у людей наконец-то появится шанс вернуть контроль

Экономика США раздута тщеславием техно-бро. Неизбежная коррекция должна подтолкнуть к глобальному разговору об умных машинах, регулировании и рисках.

Если ИИ не изменил вашу жизнь в 2025 году, он сделает это в следующем. Это один из немногих прогнозов, который можно с уверенностью сделать в наши непредсказуемые времена. Это не призыв верить шумихе о том, на что способны технологии сегодня или чего они, возможно, достигнут однажды. Хайп не нуждается в вашем доверии. Он уже достаточно раздут деньгами Кремниевой долины, чтобы искажать мировую экономику и разжигать геополитическое соперничество, формируя ваш мир независимо от того, сбудутся ли самые фантастические заявления о возможностях ИИ, считает Рафаэль Бер обозреватель The Guardian.

ChatGPT был запущен всего три с небольшим года назад и стал самым быстрорастущим потребительским приложением в истории. Сейчас у него около 800 миллионов еженедельных пользователей. Материнская компания, OpenAI, оценивается примерно в 500 миллиардов долларов. Сэм Альтман, генеральный директор OpenAI, заключил сложную и, на чей-то взгляд, подозрительно непрозрачную сеть сделок с другими игроками сектора для создания инфраструктуры, необходимой для будущего США, основанного на ИИ. Стоимость этих обязательств составляет около 1,5 триллиона долларов. Это не реальные наличные деньги, но учтите: человеку, тратящему по 1 доллару каждую секунду, потребовалось бы 31 700 лет, чтобы израсходовать триллион долларов.

Alphabet (материнская компания Google), Amazon, Apple, Meta (бывший Facebook) и Microsoft, владеющая долей в OpenAI на сумму 135 миллиардов долларов, — все они вкладывают сотни миллиардов долларов в одну и ту же ставку. Без всех этих инвестиций экономика США находилась бы в стагнации.

Экономические аналитики и историки прошлых промышленных лихорадок — от железных дорог XIX века до бума доткомов на рубеже тысячелетий — называют ИИ пузырем.

Альтман говорил: «Я думаю, что многие области ИИ сейчас несколько перегреты». Разумеется, не его область. Джефф Безос, основатель Amazon, назвал это пузырем, но «хорошим» — таким, который ускоряет экономический прогресс. «Хороший» пузырь, согласно этому анализу, финансирует инфраструктуру и расширяет границы человеческого знания. Эти преимущества сохраняются и после того, как пузырь лопнет, оправдывая разорение людей («маленьких» людей, не людей уровня Безоса), которые пострадают в процессе.

Оптимизм технологического братства — это пьянящая смесь старомодного надувательства, плутократической мании величия и утопической идеологии.

В основе лежит маркетинговый ход: современные модели ИИ уже превосходят людей во многих задачах. Предполагается, что вскоре машины достигнут «общего искусственного интеллекта» (AGI) — когнитивной универсальности, подобной нашей, — что приведет к освобождению от необходимости какого-либо человеческого участия. В целом, разумный ИИ сможет обучать себя сам и проектировать своих преемников, продвигаясь через умопомрачительные показатели производительности к высшим измерениям сверхразума.

У компании, которая переступит этот порог, не будет проблем с покрытием долгов. Люди, воплотившие это видение в жизнь (а главные евангелисты — сплошь мужчины), станут для всеведущего ИИ тем же, чем древние пророки были для своих богов. Неплохая работенка. Что станет с остальными из нас в этом пост-сапиенсном порядке, пока не совсем ясно.

США — не единственная сверхдержава, заинтересованная в ИИ, поэтому гонка Кремниевой долины за максимальным «вау-эффектом» имеет геополитические последствия. Китай выбрал другой подход, продиктованный отчасти традициями централизованного планирования компартии, а отчасти простым фактом отставания в инновационной гонке. Пекин настаивает на более быстром и широком внедрении ИИ с более низкими характеристиками (но все же мощного) на всех уровнях экономики и общества. Китай делает ставку на общий подъем за счет обычного ИИ. США же нацелены на экстраординарный скачок в области общего ИИ (AGI).

Поскольку призом в этой гонке является мировое господство, у обеих сторон мало стимулов беспокоиться о рисках или подписывать международные протоколы, ограничивающие использование ИИ и требующие прозрачности его разработки. Ни США, ни Китай не заинтересованы в подчинении стратегически важной отрасли стандартам, написанным совместно с иностранцами.

В отсутствие глобального управления мы будем зависеть от порядочности баронов-разбойников и авторитарных аппаратчиков, надеясь, что они выстроят этические ограждения вокруг систем, которые уже встраиваются в инструменты, используемые нами для работы, игр и образования.

Ранее в этом году Илон Маск объявил, что его компания разрабатывает Baby Grok — ИИ-чат-бот, предназначенный для детей от трех лет. Взрослая версия высказывала взгляды белых супремасистов и с гордостью идентифицировала себя как «МехаГитлер». Эта вопиющая откровенность имеет хотя бы достоинство прямоты. Ее легче заметить, чем более тонкие проявления предвзятости в ботах, которым не задавали жестких идеологических установок, как это делает Маск со своими алгоритмами.

Не все системы ИИ являются большими языковыми моделями (LLM), как Grok. Но все LLM подвержены галлюцинациям и заблуждениям, почерпнутым из материала, на котором они обучались. Они не «понимают» вопрос и не «думают» о нем, как сознательный разум. Они берут подсказку (промпт), проверяют вероятность частого совместного появления ее ключевых терминов в своих обучающих данных и собирают правдоподобно звучащий ответ. Часто результат оказывается точным. Обычно он убедителен. Но он также может быть полной чушью. По мере того как объем контента, созданного ИИ, растет в сети, соотношение «шлака» и качества в рационе LLM меняется соответственно. Вскормленные мусором, они не могут быть надежным источником полезной информации.

На этой траектории вырисовывается мрачная перспектива: синтетическая псевдореальность, опосредованная подобострастным механическим потомством самовлюбленных олигархов Кремниевой долины. Но это не единственный возможный путь. И не обязательно самый вероятный. Иррациональный энтузиазм поборников ИИ и их циничное сближение с администрацией Трампа — это знакомая история человеческой жадности и близорукости, а не новая ступень эволюции. Продукт действительно феноменален, но имеет изъяны, в которых закодирован деформированный характер его прародителей, чьи таланты заключаются в умении продавать и финансовых махинациях. Они построили впечатляющие двигатели, которые ставят блестящую имитацию интеллекта выше настоящего разума.

Настоящий пузырь — это не биржевые котировки, а раздутое эго индустрии, которая считает, что она находится всего в одном дата-центре от вычислительной божественности. Когда наступит коррекция, когда американский «Икар экономики» ударится о холодное море, появится шанс для других голосов быть услышанными по вопросу рисков и регулирования. Возможно, это произойдет не в 2026 году, но момент приближается: выбор становится все более очевидным, а необходимость сделать его — неизбежной. Должны ли мы строить мир, где ИИ служит человечеству, или будет наоборот? Нам не понадобится ChatGPT, чтобы подсказать ответ.