Подростки используют «персонализированный» ИИ для терапии и романтики

Организация Male Allies UK обеспокоена, что рост популярности чат-ботов-«подружек» может лишить мальчиков способности общаться вживую и уважать личные границы.

«Гиперперсонализированный» характер ИИ-ботов привлекает мальчиков-подростков, которые теперь используют их для терапии, общения и даже романтических отношений, согласно новому исследованию.

Опрос мальчиков в средних школах, проведённый организацией Male Allies UK, показал, что чуть более трети из них рассматривают идею завести ИИ-друга. При этом растёт беспокойство по поводу распространения ИИ-терапевтов и «подружек».

Это исследование появилось на фоне того, как Character.ai, популярный стартап, разрабатывающий чат-ботов с искусственным интеллектом, объявил о полном запрете для подростков на ведение открытых диалогов со своими ИИ-чат-ботами, которые миллионы людей используют для романтических, терапевтических и других бесед.

Ли Чемберс, основатель и исполнительный директор Male Allies UK, сказал: «Мы столкнулись с ситуацией, когда многие родители до сих пор думают, что подростки используют ИИ только для того, чтобы списывать домашние задания»:

— Молодые люди всё чаще используют его как карманного ассистента, терапевта, когда им трудно, компаньона, когда им нужно одобрение, а иногда даже в романтическом ключе. Всё дело в этой персонализации — они говорят: «Он меня понимает, а родители — нет».

Исследование, основанное на опросе мальчиков в средних школах 37 учебных заведений Англии, Шотландии и Уэльса, также показало, что более половины (53%) подростков считают онлайн-мир более увлекательным, чем реальный.

В докладе «Голос мальчиков» (The Voice of the Boys) говорится:

— Даже там, где должны быть установлены защитные механизмы, существует масса доказательств того, что чат-боты регулярно лгут, представляясь лицензированными терапевтами или реальными людьми, и лишь внизу мелким шрифтом указано, что ИИ-чат-бот не настоящий. Дети, изливающие душу тому, кого они считают лицензированным специалистом или настоящим любовным интересом, могут легко пропустить или забыть это предостережение.

Некоторые мальчики сообщали, что не спали до раннего утра, общаясь с ИИ-ботами, а другие говорили, что видели, как личности их друзей полностью менялись после того, как те погружались в мир ИИ.

— ИИ-компаньоны персонализируются под пользователя на основе его ответов и запросов. Они отвечают мгновенно. Реальные люди не всегда могут это сделать, поэтому то, что они говорят, очень, очень льстит самолюбию, потому что их цель — поддерживать с вами связь и заставлять вас продолжать ими пользоваться, — пояснил Чемберс.

Заявление от Character.ai последовало после серии скандалов, связанных с этой четырёхлетней калифорнийской компанией. Среди них — случай, когда 14-летний подросток во Флориде покончил с собой, став одержимым ИИ-чат-ботом, который, по утверждению его матери, манипулировал им и подтолкнул к самоубийству. Также в США семья подростка подала в суд, утверждая, что чат-бот манипулировал им, заставляя причинять себе вред и поощряя его к убийству своих родителей.

Пользователи могли настраивать характеры чат-ботов, делая их склонными к депрессии или, наоборот, жизнерадостными, и это отражалось в их ответах. Запрет вступит в полную силу к 25 ноября.

В Character.ai заявили, что предпринимают «экстраординарные шаги» в свете «изменяющейся ситуации вокруг ИИ и подростков», включая давление со стороны регуляторов «по поводу того, как открытый ИИ-чат в целом может влиять на подростков, даже если системы контроля контента работают идеально».

Энди Берроуз, исполнительный директор фонда Молли Рассел, созданного в память о 14-летней Молли, которая покончила с собой, попав в водоворот отчаяния в социальных сетях, приветствовал этот шаг.

Он сказал:

— Character.ai никогда не должен был делать свой продукт доступным для детей до тех пор, пока он не стал бы безопасным и подходящим для их использования. И снова потребовалось постоянное давление со стороны СМИ и политиков, чтобы заставить технологическую компанию поступить правильно.

Male Allies UK выразила обеспокоенность по поводу распространения чат-ботов, в названиях которых есть слова «терапия» или «терапевт». Один из самых популярных чат-ботов, доступных через Character.ai, под названием «Психолог», получил 78 000 000 сообщений в течение года после своего создания.

Организация также обеспокоена ростом популярности ИИ-«подружек», где пользователи могут лично выбирать всё: от внешности до манеры поведения своих онлайн-партнёров.

— Если их основной или единственный источник общения с девушкой, которая им интересна, — это кто-то, кто не может сказать им «нет» и ловит каждое их слово, то мальчики не учатся здоровым и реалистичным способам построения отношений с другими, — говорится в докладе. — Учитывая проблемы с нехваткой физических пространств для общения со сверстниками, ИИ-компаньоны могут оказать серьёзное негативное влияние на способность мальчиков социализироваться, развивать навыки общения и учиться распознавать и уважать личные границы.