Культурный код ИИ: почему Claude на русском требует пруфы, а на арабском — вежливо соглашается

Новое исследование компании Anthropic показало, что нейросеть Claude демонстрирует разные ценности в зависимости от выбранной языковой модели и используемого языка.

ИИ-помощник Claude ведет себя неодинаково от беседы к беседе. Согласно результатам исследования, опубликованным технологическим гигантом Anthropic, поведение и выражаемые ценности ассистента напрямую зависят как от конкретной версии модели, так и от языка общения.

В своем отчете исследователи Anthropic проанализировали 309 815 анонимизированных диалогов пользователей с Claude. Для анализа отбирались субъективные задачи — например, запросы на получение совета или содержательной обратной связи. Специалисты компании обобщили более 3300 выявленных паттернов поведения в четыре основные шкалы: «уступчивость — осторожность», «теплота — строгость», «глубина — лаконичность» и «искренность — исполнительность». Эти параметры наглядно описывают, как меняются ответы Claude в различных ситуациях.

— Чтобы оценивать именно те ценности, которые выражает сама Claude, а не списывать различия на особенности пользовательских запросов, мы ввели строгий контроль по типу задачи, теме обсуждения и ценностям, которые изначально транслировал сам пользователь, — пояснили исследователи.

Как выяснилось, каждая версия Claude обладает уникальным «поведенческим профилем».

Так, модель Sonnet 4.6 делает упор на теплоту, уступчивость и лаконичность: она часто соглашается с пользователем, подбадривает его и охотно шутит. В то же время Opus 4.7 демонстрирует строгость, осторожность, искренность и глубину: эта модель чаще подвергает сомнению утверждения собеседника, подробно объясняет свою логику, указывает на возможные риски и прямо заявляет о границах собственной компетентности. Предыдущая версия, Opus 4.6, оказалась более лаконичной и ориентированной на быстрое решение задач, хотя и сохранила присущую линейке Opus строгость в сравнении с Sonnet.

— Эти выводы полностью совпадают с тем, как модели воспринимаются внутри Anthropic и в интернет-сообществе. Пользователи веб-версии Claude.ai уже давно замечали, что Opus 4.7 гораздо чаще других версий перестраховывается и уклоняется от однозначных ответов, — отмечают авторы отчета.

Кроме того, характер Claude разительно меняется в зависимости от языка общения.

На арабском языке ответы нейросети оказались наиболее уважительными и уступчивыми, в то время как на английском модель вела себя гораздо осторожнее. Самой теплой и дружелюбной Claude оказалась в диалогах на хинди и арабском — там она чаще использует вежливые обороты, шутит и выражает поддержку. При этом на английском и русском языках модель общается максимально строго: она регулярно ставит под сомнение гипотезы пользователя, исправляет мелкие неточности в его запросах и требует предоставить доказательства.

Англоязычные ответы также отличаются наибольшей детализацией и глубиной объяснений, тогда как ответы на арабском обычно гораздо лаконичнее. Самой искренней Claude оказалась при общении на нидерландском языке — здесь она охотнее всего признает свои ошибки и указывает на неопределенность в данных. Индонезийская же версия модели проявила себя как самая исполнительная, ориентированная исключительно на сухое выполнение инструкций пользователя.

В Anthropic подчеркивают: результаты исследования не означают, что у Claude есть собственные убеждения или личность. В компании пока не знают, какими именно техническими причинами обусловлены эти поведенческие различия (и полезны ли они для конечного пользователя), но верят, что разработанная ими методология поможет эффективнее тестировать будущие модели и вовремя выявлять нежелательные изменения в их «поведении».

Эта работа дополнила серию исследований Anthropic, направленных на изучение «внутреннего мира» Claude.

Так, в октябре прошлого года компания сообщила, что ее модели начали демонстрировать ранние признаки так называемого «функционального интроспективного самосознания» — способности распознавать и описывать особенности собственных внутренних процессов вычислений. А в апреле Anthropic опубликовала работу, в которой описала внутренние «векторы эмоций», влияющие на поведение Claude, при этом отдельно подчеркнув, что данные механизмы не являются доказательством наличия у ИИ чувств или сознания.

Примечания:

1. Модели Sonnet vs. Opus: Продуктовая линейка Anthropic делится на три уровня: Haiku (самая быстрая и простая), Sonnet (сбалансированная, «рабочая лошадка») и Opus (самая большая, умная и дорогая). Тот факт, что Opus ведет себя более «строго» и «осторожно», объясняется ее мощностью: она способна просчитывать больше рисков и выдавать глубокий аналитический материал.
2. «Искренность — исполнительность» (Candor vs. execution): Очень интересный параметр. Модель с высоким показателем candor (искренность/прямота) честно скажет: «Я не уверена в этом ответе, так как данные противоречивы». Модель с упором на execution (исполнительность) просто выдаст наиболее вероятный вариант решения, замаскировав свои сомнения, чтобы угодить пользователю.
3. Почему язык меняет поведение? Нейросети обучаются на гигантских массивах текстов из интернета. Язык определяет культурный контекст. Русскоязычный и англоязычный сегменты сети (научные статьи, Википедия, форумы) исторически более склонны к фактчекингу, спорам и требованию пруфов (доказательств). Арабская и индийская культуры общения в текстах более вежливы, метафоричны и ориентированы на статус собеседника. Claude просто перенимает эти социокультурные особенности вместе с языком.
4. Emotion vectors («векторы эмоций»): Специфический термин из области интерпретируемости ИИ (AI interpretability), обозначающий внутренние численные представления в нейросети, коррелирующие с определённым эмоциональным тоном или стилем ответа; важно, что сама Anthropic подчёркивает — речь идёт о технических паттернах в архитектуре модели, а не о подлинных эмоциональных переживаниях.
5. Functional introspective awareness («функциональная интроспективная осознанность»): Термин, введённый самой Anthropic для описания способности модели в определённой степени «отслеживать» и описывать собственные внутренние вычислительные процессы; компания намеренно использует осторожную формулировку «функциональная», чтобы избежать неоднозначных трактовок о наличии у ИИ настоящего самосознания.

• Подобные исследования Anthropic вписываются в более широкое направление работы компании по так называемой интерпретируемости ИИ (AI interpretability) — попыткам понять, как именно «думают» большие языковые модели изнутри, а не только оценивать их по конечным результатам работы. Это направление считается особенно важным для вопросов безопасности и предсказуемости поведения ИИ-систем.
• Различия в поведении модели в зависимости от языка общения (в данном случае — между арабским, английским, хинди, русским, нидерландским и индонезийским) могут быть связаны с особенностями обучающих данных для каждого языка, культурными нормами общения, отражёнными в этих данных, а также техническими артефактами перевода и токенизации — сама Anthropic пока не даёт окончательного объяснения причин.