Чтобы понять, как ИИ изменит человечество, прочтите эту сказку

Искусственный интеллект заменит творчество чем-то более похожим на волшебство исполнения желаний. Вызов для будущих поколений будет заключаться в том, как справиться с чувством пустоты, которое это оставит после себя.

В немецкой сказке «О рыбаке и его жене» (в РФ известна, как «О рыбаке и рыбке» Александра Пушкина) старик однажды ловит странную рыбу: говорящую камбалу. Оказывается, внутри этой рыбы заточён заколдованный принц, и поэтому она может исполнить любое желание. Жена старика, Ильзебилль, в восторге и желает всё более и более немыслимых вещей. Она превращает их жалкую хижину в замок, но этого ей мало; в конце концов, она хочет стать папой римским, а затем и Богом. Это приводит в ярость стихии; море темнеет, и она снова возвращается в своё первоначальное нищее состояние. Мораль сей сказки: не желай того, что тебе не положено.

Известно несколько вариаций этого классического сказочного сюжета. Иногда желания не столько чрезмерны или оскорбительны для божественного порядка, сколько просто неуклюжи или противоречивы, как в сказке Шарля Перро «Смешные желания». Или, как в рассказе ужасов У. У. Джекобса 1902 года «Обезьянья лапка», желания непреднамеренно причиняют вред тому, кто на самом деле гораздо ближе, чем объект вожделения.

Сегодня, конечно, большинство молодых людей растут с заколдованной рыбой в кармане. Они могут пожелать, чтобы их домашнее задание было сделано, и рыба исполнит их желание. Они могут пожелать увидеть любой мыслимый сексуальный акт, и (если обойти региональные возрастные ограничения с помощью VPN) он станет им доступен. Вскоре они смогут желать фильмы на любую выбранную ими тему, и те будут сгенерированы за считанные секунды. Они желают, чтобы то эссе для университета уже было готово, — и, о чудо, оно написано.

Это изменение в подходе перевернёт не только наши отношения как потребителей произведений искусства, письменного, музыкального или визуального контента, но и переосмыслит само понятие творчества, а следовательно, и то, что значит быть человеком. Я могу себе представить, что в ближайшем будущем большинство людей смогут поручать своему ИИ-представителю всевозможные утомительные взаимодействия — вести переговоры по контрактам от их имени, выступать в роли их агента, принимать и смягчать критику, собирать информацию, анализировать мнения и так далее. И море никогда не потемнеет.

Пока что юные Ильзебилль, сидящие в университетских аудиториях, всё ещё могут ожидать штрафа, когда их профессор, выросший в другую эпоху, заметит, что она заставила заколдованную рыбу написать очередное эссе. Но это продлится всего несколько лет, пока Ильзебилль не станет частью уверенного в себе большинства, а большинство профессоров сами вырастут такими же, как она. Ильзебилль желает парня, духовного наставника, психотерапевта — и в мгновение ока он у неё появится. С каждым из этих спутников будет казаться, будто Ильзебилль знает их много лет, что буквально так и есть.

Можно было бы обвинить Ильзебилль в усложнении ситуации, когда она, подобно своей мифической предшественнице, однажды действительно захочет стать папой римским и тут же им станет в своём маленьком мире. Но если каждый может легко стать папой, то и привлекательность этого статуса для Поколения Ильзебилль исчезнет. Потому что вещи становятся интересными и желанными только тогда, когда для их достижения требуется преодолеть определённое сопротивление или препятствие. Ильзебилль, однако, знает такой вид привлекательного сопротивления только из обучения через промптинг — через всё более и более точное формулирование желаний.

Она посвящает большую часть своей жизненной энергии оттачиванию тональности получаемых результатов. Она не разовьёт собственного слуха на стиль письма, но, оценивая реакцию других людей или ИИ на отправленный ею текст, она будет знать, является ли содержание уместным или неуместным. Таким образом, она учится загадывать всё более и более правдоподобные желания. В прошлом Ильзебилль редко встречала людей, которые находили её слова интересными или примечательными. Но сегодня всё, что она обсуждает со своим ИИ, считается интересным и примечательным. Наконец-то кто-то слушает её по-настоящему, так, как ни один человеческий партнёр не смог бы это делать безусловно.

И что, если будет достигнута точка, когда всё это исполнение желаний оставит Ильзебилль с чувством пустоты? Какие пути останутся ей тогда открыты?

Первый путь — это путь к декадансу. Мы знаем этот механизм, изучая очень богатых людей. В будущем те, у кого достаточно денег, всё ещё смогут позволить себе человеческих психотерапевтов или ходить в кино на фильмы, снятые с участием настоящих людей. Недавно кто-то на форуме по ИИ предположил, что в будущем нам следует просто заставить ИИ производить массу изображений с сексуальным насилием над детьми, чтобы хотя бы настоящие дети не страдали при их создании. Это предложение было тут же высмеяно, потому что потребители таких изображений покупают не просто визуальный стимул, а в первую очередь уверенность в том, что настоящие дети подвергались пыткам. Они настаивают на достоверном происхождении продукта, на его «ауре», так сказать. Если у Ильзебилль будет достаточно капитала, она в некотором смысле будет похожа на них.

Второй путь — это путь небольших обособленных сообществ, которые искусственно создают друг для друга трудности и препятствия, возможно, в стиле старомодных спортивных или охотничьих клубов, а может, и в сектантской манере. Они встречаются тайно или исключительно для подпольного мероприятия в каком-нибудь подвале, для которого им придётся стоять в очереди. Цели нет, кроме мучительного акта самого стояния в очереди. Эту идею я почерпнул из романа Станислава Лема «Футурологический конгресс». Сегодня, в 2025 году, стоять в очереди всё ещё бесплатно. Будущие поколения, вполне возможно, будут этому удивляться.

Третий путь — самый вероятный и самый очевидный. В своём сказочном мире исполнения желаний Ильзебилль обнаружит всеобъемлющий принцип, который окрасит все её желания в новые тона, переоценит их и придаст им смысл: чувство вины. Хорошо известно, что вина — сильнейшее средство привязки человека к продукту. Продукт, который ты любишь, но стыдишься использовать, усиливается в сознании и крепко цепляется за личность, обрастая неврозами и суррогатными добродетелями, компенсирующими растущее чувство вины.

Ильзебилль, естественно, принимает на себя огромную экологическую вину за колоссальную трату ресурсов, вызванную ИИ. Основная вина переносится с гигантских корпораций, всепроникающих компаний или даже взаимодействия нескольких государств прямо на Ильзебилль, и теперь она делает логичный шаг — всё больше и больше ограничивает и наказывает себя в своей повседневной жизни. Каждое утро она просыпается с уверенностью, что каждое её маленькое решение, каждое малейшее желание нанесёт огромный ущерб «планете», «обществу» или «будущему». Она расцветает в своей новообретённой роли спасительницы, в этой системе мученической, искупительной вины. Эта роль ощущается, и не без оснований, как битва, которая будет вестись внутри неё вечно. Это тот волшебный ингредиент, который может вернуть в её жизнь давно утраченный вкус самопожертвования и внутреннего противоречия. Ильзебилль не протестует против абсурдной траты ресурсов, а скорее урезает все свои свободы в частной жизни, такие как потребление достаточного количества питательных веществ, воды, количество детей и свободу передвижения. В конце концов она умирает, как своего рода Христос корпораций, и уносит все свои грехи в могилу.

Причина, по которой так много европейских сказок предостерегали от неразумных, невежественных желаний, заключалась в том, что, как и у большинства крупных, коллективно созданных сложных повествований, их основной темой является взросление личности. Как человек взрослеет, как находит своё место в жизни, что он должен передать следующему поколению — все эти вопросы. Ильзебилль, однако, по крайней мере в этом последнем сценарии, больше не имеет свободы ответить на любой из этих вопросов самостоятельно. Всё будет решено за неё.