«Это просто кощунство!» — новый ИИ-инструмент Grammarly предлагает редактировать тексты от лица умерших ученых

Функция «Экспертная проверка» (Expert Review) от Grammarly использует искусственный интеллект для оценки текстов от лица известных писателей и ученых — в том числе тех, кого уже нет в живых.

Новая нейросетевая функция Grammarly, которая анализирует тексты якобы с позиции выдающихся «экспертов», вызвала шквал критики в академической среде. По словам исследователей, инструмент буквально «воскрешает» почивших ученых, заставляя их рецензировать пользовательские работы.

Инструмент под названием Expert Review анализирует текст и генерирует правки, стилизованные под манеру конкретных исследователей, журналистов и других специалистов. Проблема в том, что многих экспертов, которых пытается имитировать ИИ, уже нет в живых. Один из историков-медиевистов в соцсети BlueSky назвал эту функцию «жуткой и нездоровой».

Платформа Grammarly, запущенная в 2009 году как ИИ-помощник для проверки грамматики и написания текстов, в октябре сменила название материнской компании на Superhuman. Ребрендинг призван отразить эволюцию сервиса: из простого текстового редактора он превратился в полноценную экосистему ИИ-агентов для повышения продуктивности, включая инструменты для проведения исследований, планирования расписания, работы с электронной почтой и автоматизации рабочих процессов.

Grammarly представила функцию Expert Review прошлым летом. Пользователи браузерного расширения, подключившие версию Superhuman Go, могут выбрать конкретного эксперта и получить сгенерированный нейросетью отзыв, основанный на научных интересах и опубликованных трудах этого специалиста.

— Наш ИИ-агент Expert Review изучает текст пользователя — будь то маркетинговый бриф или студенческий проект по биоразнообразию — и использует нашу базовую языковую модель (LLM), чтобы подобрать экспертный контент, который поможет автору улучшить свою работу, — заявил представитель компании Superhuman. — Список предлагаемых экспертов напрямую зависит от тематики оцениваемого текста.

Представитель компании пояснил, что функция не подразумевает прямого участия или одобрения со стороны самих экспертов. Вместо этого она предлагает «рекомендации, вдохновленные трудами специалистов, и знакомит пользователей с влиятельными авторами, чьи исследования они смогут в дальнейшем изучить более глубоко».

— Имена этих экспертов появляются в нашей системе, поскольку их опубликованные работы находятся в открытом доступе и широко цитируются, — добавили в компании.

При тестировании функции для написания этой статьи приложение предложило в качестве рецензентов Маргарет Салливан (медиаколумниста и бывшего редактора The New York Times), Джека Шейфера (бывшего старшего обозревателя Politico) и Лоуренса Лессига (профессора Гарвардской школы права). Среди других вариантов были исследовательница этики искусственного интеллекта Тимнит Гебру и профессор информатики Корнеллского университета Хелен Ниссенбаум.

И хотя разработчики утверждают, что цель функции — помочь студентам и профессионалам отточить навыки письма, Ванесса Хегги, профессор истории Бирмингемского университета, задалась резонным вопросом: давали ли сами «рецензенты» согласие на использование своих имен в приложении?

— Даже не знаю, с чего начать, но… теперь Grammarly предлагает «экспертную проверку» ваших работ от лица живых и мертвых ученых, — написала Хегги в LinkedIn. — Да, именно мертвых. Без чьего-либо явного разрешения компания создает миниатюрные языковые модели, обученные на скопированных из сети трудах этих людей, эксплуатируя их имена и репутацию. Это просто кощунство.

Бриэль Харбин, бывший доцент кафедры политологии Военно-морской академии США, назвала эту ситуацию «странной и вызывающей тревогу тенденцией».

— Подобные решения — особенно когда они принимаются без учета контекста, без согласия и без конструктивного диалога с преподавателями — рискуют лишь усугубить скептицизм в отношении ИИ-инструментов в сфере высшего образования, — отметила она в LinkedIn. — По иронии судьбы, шаги, призванные ускорить внедрение технологий, в конечном итоге могут привести лишь к усилению сопротивления. Сейчас как никогда важны доверие и сотрудничество.

Grammarly — далеко не единственная компания, создающая ИИ-программы для имитации реальных людей.

В 2023 году корпорация Meta выпустила для своей платформы Meta AI линейку чат-ботов, имитирующих личности знаменитостей, среди которых Снуп Догг, Том Брэди, Кендалл Дженнер и Наоми Осака. В том же году образовательная платформа Khan Academy запустила ИИ-репетитора Khanmigo, который позволяет студентам вести ролевые диалоги с историческими личностями — например, с британским премьер-министром Уинстоном Черчиллем и Гарриет Табмен, шпионкой времен Гражданской войны в США и проводником «Подпольной железной дороги».

Примечания:

1. Grammarly была основана украинскими предпринимателями Максом Литвином, Алексом Шевченко и Дмитрием Лидером. Ребрендинг в Superhuman — важный стратегический поворот, сигнализирующий о том, что компания больше не хочет ассоциироваться исключительно с проверкой грамматики.
2. «Подземная железная дорога» (Underground Railroad) — это не буквальная железная дорога, а тайная сеть маршрутов и убежищ в XIX веке, по которой чернокожие рабы бежали из южных штатов США на свободный Север. Гарриет Табмен — одна из самых известных «проводников» этой сети.
3. Проблема согласия — ключевая в данной статье. Вопрос о том, допустимо ли использовать имя, репутацию и научное наследие человека (тем более умершего) для создания ИИ-персоны без его разрешения, находится на стыке этики, авторского права и права на публичность (right of publicity). В ряде штатов США и стран ЕС посмертное право на публичность защищено законом.
4. LLM (Large Language Model — большая языковая модель) — тип ИИ, лежащий в основе таких систем, как ChatGPT, Claude и подобных. Именно на базе LLM Grammarly/Superhuman генерирует «экспертные» рецензии.

Рекомендации:

• Стоит обратить внимание на растущую дискуссию об «ИИ-некромантии» — практике воссоздания цифровых копий умерших людей (от знаменитостей до обычных людей), которая поднимает серьёзные этические вопросы о достоинстве, памяти и согласии.
• Полезно также следить за законодательными инициативами, такими как NO FAKES Act в США, направленными на регулирование создания ИИ-копий реальных людей.