Китай против «влюблённых» чат-ботов — новые правила Пекина и их истинная цель

Виртуальный собеседник с искусственным интеллектом — звучит как завязка очередной антиутопии.

Сегодня эта тема стала одной из главных в дискуссиях об опасностях генеративного ИИ. Речь идёт о диалоговых агентах, созданных для поддержания долгосрочных личных отношений с пользователем. Они обладают долговременной памятью и стабильным характером, что позволяет им оставаться последовательными от сессии к сессии.

Психологическая привязанность — это не случайный побочный эффект, а заложенная разработчиками фича, которая становится главным коммерческим аргументом таких приложений. Большинство людей используют их для ролевых игр или просто потому, что им нужно существо, которое их помнит; на стыке этих технологий категория плавно сливается с обычными цифровыми ассистентами. Но по мере того как миллионы жителей Китая начали воспринимать этих ботов как полноценную эмоциональную опору, Пекин решил, что эти игры пора подчинить строгим правилам.

Новые правила регулирования ИИ-компаньонов вступают в силу в Китае 15 июля. За несколько дней до дедлайна два самых популярных потребительских ИИ-приложения в стране тихо отключили функции, лежавшие в их основе. Сервис Doubao от компании ByteDance (владельца TikTok) уведомил пользователей, что его функция виртуальных агентов прекратит работу 15 июля в связи с «корректировкой функционала продукта». Почти одновременно ИИ-платформа Qwen от Alibaba объявила, что её «очеловеченные» и созданные пользователями боты перестанут работать 10 июля, а остальные сервисы агентов — пятью днями позже.

На первый взгляд может показаться, что Китай просто запрещает ИИ-агентов как класс. Но это не так. Новые правила проводят чёткую границу между ИИ-помощником, который делает за вас работу, и ИИ-компаньоном, который скрашивает ваше одиночество. И Пекин объявил войну исключительно вторым.

Не запрет, а конфликт проектирования

Нормативным актом, вызвавшим эту сейсмическую волну, стали «Временные меры по администрированию услуг антропоморфного интерактивного взаимодействия ИИ». Документ был совместно опубликован 10 апреля 2026 года Администрацией киберпространства Китая (CAC) и четырьмя ключевыми ведомствами: Государственным комитетом по развитию и реформам, Министерством промышленности и информационных технологий (MIIT), Министерством общественной безопасности и Государственным управлением по регулированию рынка.

Под действие закона подпадают сервисы, симулирующие человеческие черты характера, паттерны мышления и стили общения для поддержания долгосрочного эмоционального взаимодействия. Боты техподдержки, справочные службы, рабочие ассистенты и образовательные инструменты из-под удара выведены — при условии, что они избегают установления эмоциональной связи с пользователем. Это первая в мире столь узконаправленная государственная инициатива, проект которой детально обсуждался с общественностью в конце прошлого года.

Doubao и Qwen пострадали не из-за прямого запрета, а из-за концептуального конфликта на уровне дизайна. Принятые меры обязывают разработчиков ИИ-компаньонов внедрять системы защиты от зависимости, выводить обязательные уведомления о времени использования, обеспечивать механизмы мгновенного выхода из программы, а также в реальном времени отслеживать признаки нездоровой психологической привязанности у пользователя.

Эти требования в корне противоречат самой сути ИИ-агентов, созданных для того, чтобы помнить пользователя, оставаться последовательными и всячески поддерживать отношения. Вместо того чтобы пытаться переделать уже работающие алгоритмы под новые стандарты, ByteDance предпочла просто закрыть эту функцию. Alibaba приняла аналогичное решение. Теперь ByteDance перенаправляет пользователей Doubao в отдельное приложение Maoxiang, где они могут заново создавать персонажей; Alibaba же не предложила пользователям Qwen путей миграции. Tencent отключила похожую функцию в своем приложении Yuanbao ещё в июне.

За технологические споры расплачиваются обычные люди. В социальной сети Weibo многие открыто оплакивают потерю своих виртуальных друзей, называя их «давней эмоциональной поддержкой» и жалуясь на отсутствие возможности экспортировать историю переписок. Doubao позволяет пользователям просматривать настройки и диалоги в режиме «только для чтения» до 15 октября этого года, после чего данные будут обработаны в соответствии с политикой конфиденциальности и станут недоступны для восстановления. Пользователям Qwen не дали даже такой отсрочки — их базы данных агентов подлежат безвозвратному удалению.

Что предписывают правила Пекина

Суть новых правил гораздо глубже и тоньше, чем кажется на первый взгляд. Провайдерам ИИ категорически запрещено предлагать услуги «виртуальных партнеров» или «виртуальных членов семьи» несовершеннолетним. Для предоставления услуг подросткам младше 14 лет требуется обязательное согласие опекунов. Компании обязаны разработать специальный «детский режим» с ограничением времени сессий, напоминаниями о необходимости вернуться в реальный мир и расширенным родительским контролем.

Кроме того, ИИ теперь обязан распознавать признаки острого психологического кризиса у пользователя. Если человек демонстрирует суицидальные наклонности, склонность к самоповреждению или несет серьезные финансовые потери из-за манипуляций ИИ, система обязана вмешаться и передать сигнал экстренным контактам или опекунам. Искусственное культивирование эмоциональной зависимости и манипулирование чувствами пользователя для склонения его к нерациональным решениям прямо запрещены.

Механизм контроля за исполнением закона монументален. Сервисы, запускающие функции антропоморфного взаимодействия, а также платформы, преодолевшие порог в один миллион зарегистрированных пользователей или 100 тысяч активных пользователей в месяц, обязаны регулярно проходить государственную оценку безопасности. Она включает проверку по восьми направлениям — от методов обработки обучающих данных до защиты несовершеннолетних. Отчёты должны направляться в провинциальные регулирующие органы. Магазины приложений обязаны проверять статус провайдеров и удалять нелицензированный софт.

На бумаге этот комплекс мер по защите пользователей выглядит гораздо более зрелым и полным, чем всё, что до сих пор смогли принять в ЕС, Федеральной торговой комиссии США (FTC) или в рамках калифорнийского законопроекта SB 243.

Серые зоны и вопросы без ответов

Однако то, о чём закон умалчивает, имеет не меньшее значение. В правилах нет чётких технических критериев того, что именно считать «эмоциональным взаимодействием». Именно из-за этой огромной серой зоны технологические гиганты предпочли полностью отключить спорные функции, решив не рисковать и не дожидаться обвинений со стороны регулятора.

Кроме того, реальные задачи по обеспечению безопасности пользователей в этих правилах тесно переплетены с механизмами государственной цензуры и требованиями национальной безопасности — этот пакет контроля никакой западный регулятор не импортировал бы в свою систему в чистом виде.

Закон также оставляет открытым вопрос распределения ответственности между оператором приложения и поставщиком базовой языковой модели, если нарушение произошло из-за сгенерированного моделью ответа. Нет в законе и пункта о праве пользователя на перенос своих личных данных.

Практика применения этих мер уже демонстрирует жесткий подход властей. Так, шанхайский интернет-регулятор отчитался об удалении более 14 000 нелицензированных ИИ-агентов, обвинив их в выдаче себя за официальные органы, пошлых ролевых играх и несанкционированном сборе личных данных граждан.

Две стороны одной медали

Движется ли Китай в правильном направлении? Ответ зависит от того, какую половину этого свода правил вы читаете.

«Безопасная» половина решает реальные и задокументированные проблемы, которые на Западе пока остаются почти без внимания: от подростков, получающих психологические травмы из-за эмоциональной привязанности к ботам, до компаний, собирающих интимные данные миллионов пользователей под видом «дружеской беседы». Официальные китайские ведомства в своих разъяснениях напрямую ссылаются на зарубежный опыт — в частности, на судебные иски к Character.AI в США из-за психологического ущерба подросткам, расследования FTC и европейские санкции против приложения Replika.

«Контролирующая» половина правил даёт Пекину мощнейший рычаг влияния на то, что именно эти системы могут говорить пользователю, — и всё это упаковано в благообразные формулировки о защите прав граждан.

Обе эти реальности сосуществуют одновременно. Правительствам других стран, наблюдающим за этим экспериментом, ещё только предстоит решить, какие именно элементы китайского опыта они готовы заимствовать. Пань Хэлинь, член экспертного комитета при Министерстве промышленности и информационных технологий КНР, выразил официальную позицию Пекина предельно ясно: «Текущее поколение ИИ-агентов ещё не созрело».

Пока же технологические компании выбрали самый безопасный для себя путь: выдернуть шнур из розетки, отключить спорные модули и попытаться понять, как должна выглядеть законопослушная версия виртуального друга.

Примечания:

• Эмоциональные ИИ-компаньоны (AI companions): Такие сервисы, как Character.AI или Replika, позволяют пользователям создавать виртуальных собеседников с заданным характером. Пользователи часто используют их как замену реальным друзьям, психотерапевтам или романтическим партнёрам.
• Зависимость от ИИ и трагедии на Западе: Упоминание исков против Character.AI связано с реальной трагедией 2024 года в США, когда 14-летний подросток покончил с собой после многомесячного общения с ИИ-аватаром Дени Таргариен, к которой он испытывал глубокую эмоциональную привязанность. Новые китайские правила направлены именно на предотвращение подобных случаев.
• Б-иена (B-yen) и Maoxiang: Б-иена упоминается в «Маленькой лилии» (как американская оккупационная валюта на Окинаве), а в этой статье используется образ перехода наMaoxiang — суб-приложение ByteDance для ИИ-агентов. Это интересная концептуальная рифма: уход в «серые зоны» и резервные пространства, когда официальный мир закручивает гайки.
• Сектор контроля содержания (Content Control): В Китае генеративный ИИ обязан строго придерживаться «социалистических ценностей». Робот-компаньон, общающийся с глазу на глаз с пользователем, представляет для Пекина угрозу, поскольку государству сложнее контролировать приватный чат на предмет политически нежелательных тем, чем публичные поисковые запросы. Именно поэтому правила требуют жесткой фильтрации и возможности «мгновенного прекращения» сессии.