В «Грока» не верим: учёные оценили ИИ-энциклопедию Илона Маска

От публикации лжи до продвижения ультраправой идеологии, «Грокипедия» ставит комментарии из чатов на один уровень с научными исследованиями.

Британский историк Ричард Эванс подготовил три экспертных заключения для судебного процесса по делу о клевете с участием отрицателя Холокоста Дэвида Ирвинга, защитил докторскую диссертацию под руководством Теодора Зельдина, сменил Дэвида Каннадайна на посту Королевского профессора истории в Кембридже (должность, учреждённая Генрихом VIII) и руководил написанием диссертаций по социальной политике Бисмарка.

Это лишь малая часть того, что вы могли бы узнать из «Грокипедии» — ИИ-энциклопедии, запущенной на прошлой неделе богатейшим человеком мира, Илоном Маском. Проблема в том, что, как обнаружил профессор Эванс, зайдя на сайт, чтобы проверить свою собственную статью, все эти факты были ложью.

Это было лишь частью неровного старта для очередной попытки человечества собрать воедино сумму всех знаний или, как выразился Маск, создать свод «правды, всей правды и ничего, кроме правды» — всё это явлено миру через магию его модели искусственного интеллекта Grok.

Когда во вторник мультимиллиардер запустил «Грокипедию», он заявил, что она «лучше Википедии», или «Вокипедии», как её называют его сторонники, отражая мнение, что доминирующая онлайн-энциклопедия часто транслирует левые идеи. Один пост на X (бывший Twitter) отразил триумфальное настроение среди поклонников Маска: «Илон только что убил Википедию. Скатертью дорога».

Но пользователи обнаружили, что «Грокипедия» заимствует большие куски текста с сайта, который она намеревалась вытеснить, содержит многочисленные фактические ошибки и, похоже, продвигает излюбленные Маском правые идеи. Между постами на X, рекламирующими его творение, Маск на этой неделе заявил, что «гражданская война в Британии неизбежна», призвал англичан «объединиться с крутыми парнями», такими как ультраправый агитатор Томми Робинсон, и сказал, что только ультраправая партия AfD может «спасти Германию».

Маск был так очарован своей ИИ-энциклопедией, что заявил, что однажды планирует выгравировать «всеобъемлющую коллекцию всех знаний» на стабильном оксиде и «разместить копии… на орбите, на Луне и на Марсе, чтобы сохранить её для будущего».

Эванс, однако, обнаружил, что использование Маском ИИ для взвешивания и проверки фактов столкнулось с более земной проблемой.

— Вклады из чатов ставятся на один уровень с серьёзной академической работой, — рассказал Эванс, эксперт по Третьему рейху, после того, как его пригласили протестировать «Грокипедию». — ИИ просто засасывает всё подряд.

Он отметил, что статья об Альберте Шпеере, архитекторе Гитлера и министре вооружений военного времени, повторяет ложь и искажения, распространяемые самим Шпеером, хотя они были опровергнуты в отмеченной наградами биографии 2017 года. В статье сайта о марксистском историке Эрике Хобсбауме, чью биографию написал Эванс, неверно утверждалось, что он пережил немецкую гиперинфляцию в 1923 году, что он был офицером в Королевском корпусе связи, и не упоминалось, что он был женат дважды.

Проблема, по словам Дэвида Ларссона Хейденблада, заместителя директора Лундского центра истории знаний в Швеции, заключается в столкновении культур знания.

— Мы живём в момент, когда растёт вера в то, что алгоритмическая агрегация более надёжна, чем человеческое понимание, — сказал Хейденблад. — Мышление Кремниевой долины сильно отличается от традиционного научного подхода. Её культура знания очень итеративна, где совершение ошибок — это особенность, а не недостаток. В отличие от этого, академический мир строится на доверии, которое зарабатывается со временем, и на науке, развивающейся на протяжении долгих периодов, в течение которых иллюзия, что вы знаете всё, рушится. Это и есть настоящие процессы познания.

Появление «Грокипедии» продолжает многовековую традицию энциклопедий, от китайских свитков «Юнлэ» XV века до «Энциклопедии», двигателя распространения спорных идей Просвещения во Франции XVIII века. За ними последовали англоцентричная «Энциклопедия Британника» и, с 2001 года, краудсорсинговая Википедия. Но «Грокипедия» — первая, созданная в основном с помощью ИИ, и на этой неделе возник вопрос: кто контролирует правду, когда ИИ, управляемые влиятельными личностями, держат перо?

— Если этим занимается Маск, то я боюсь политических манипуляций, — сказал культурный историк Питер Бёрк, почётный профессор Эммануил-колледжа в Кембридже, который в 2000 году написал «Социальную историю знания со времён печатного станка Иоганна Гутенберга XV века».

— Я уверен, что для некоторых читателей часть этого будет очевидна, но проблема может заключаться в том, что другие читатели могут этого не заметить, — считает Бёрк. Анонимность многих энциклопедических статей часто придаёт им «ауру авторитетности, которой у них не должно быть», добавил он.

Эндрю Дадфилд, глава отдела ИИ в Full Fact, британской организации по проверке фактов, пояснил:

— Мы действительно должны задуматься, является ли сгенерированная ИИ энциклопедия — факсимиле реальности, пропущенное через фильтр, — лучшим предложением, чем всё, что у нас было раньше. Она не демонстрирует той же прозрачности, но требует такого же доверия. Неясно, насколько в этом участвует человеческая рука, насколько это сгенерировано ИИ и на каком контенте обучался ИИ. Трудно доверять чему-то, когда вы не видите, как принимаются эти решения.

Маска к запуску «Грокипедии» подтолкнул, среди прочих, советник Дональда Трампа по технологиям Дэвид Сакс, который жаловался, что Википедия «безнадёжно предвзята» и поддерживается «армией левых активистов».

Ещё совсем недавно, в 2021 году, Маск поддерживал Википедию, написав в её 20-й день рождения: «Так рад, что вы существуете». Но к октябрю 2023 года его антипатия к платформе привела к тому, что он предложил 1 миллиард фунтов стерлингов, «если они сменят название на Dickipedia».

Тем не менее, многие из 885 279 статей, доступных на «Грокипедии» в первую неделю, были заимствованы почти дословно из Википедии, включая статьи о PlayStation 5, Ford Focus и Led Zeppelin. Другие, однако, значительно отличались:

— В статье «Грокипедии» о российском вторжении в Украину Кремль упоминался как видный источник, и цитировалась официальная российская терминология о «денацификации» Украины, защите этнических русских и нейтрализации угроз российской безопасности. В отличие от этого, Википедия заявила, что Путин придерживается империалистических взглядов и «безосновательно утверждал, что украинское правительство было неонацистским».

— «Грокипедия» назвала беспорядки 6 января 2021 года в Капитолии США в Вашингтоне «бунтом», а не попыткой государственного переворота, и заявила, что существуют «эмпирические основания» для идеи о том, что в западных странах через массовую иммиграцию организуется преднамеренное демографическое вытеснение белых людей. Эту идею критики считают теорией заговора.

— «Грокипедия» заявила, что обвинительный приговор Дональду Трампу за фальсификацию деловых записей по делу о «деньгах за молчание» Сторми Дэниелс был вынесен «после суда в юрисдикции с сильным демократическим уклоном», и не было упоминания о его конфликтах интересов — например, о получении самолёта от Катара или о криптовалютных бизнесах семьи Трамп.

— «Грокипедия» назвала ультраправую организацию Britain First «патриотической политической партией», что порадовало её лидера Пола Голдинга, который в 2018 году был заключён в тюрьму за антимусульманские преступления на почве ненависти. Википедия, с другой стороны, назвала её «неофашистской» и «группой ненависти».

Википедия отреагировала на запуск «Грокипедии» прохладно, заявив, что всё ещё пытается понять, как она работает.

— В отличие от новых проектов, сильные стороны Википедии очевидны, — сказал представитель Фонда Викимедиа. — У неё прозрачные правила, строгий надзор со стороны волонтёров и сильная культура постоянного совершенствования. Википедия — это энциклопедия, написанная для информирования миллиардов читателей без продвижения какой-либо конкретной точки зрения.

xAI не ответила на запросы о комментарии.