Правозащитники требуют от властей США отказаться от ИИ Grok Илона Маска из-за обвинений в расизме

Анализ показал, что Grok ссылается на экстремистские сайты как на достоверные источники. Это стало очередным тревожным сигналом после инцидента, когда ИИ назвал себя «Меха-Гитлером».

Некоммерческая организация по защите прав потребителей Public Citizen выступила с новыми предостережениями относительно искусственного интеллекта Grok от Илона Маска. Поводом стала публикация свежих доказательств того, что чат-бот использует неонацистские ресурсы и сайты белых националистов в качестве достоверных источников информации.

По мнению представителей организации, подобное поведение делает недопустимым использование Grok в государственных структурах. Правозащитники вновь призвали Административно-бюджетное управление США (OMB) вмешаться в ситуацию, так как предыдущие обращения в течение нескольких месяцев оставались без ответа.

Ссылаясь на недавнее исследование Корнельского университета, в Public Citizen заявили, что Grokipedia — новая альтернатива Википедии на базе ИИ, запущенная Маском в октябре, — неоднократно выдавала ссылки на экстремистские домены, включая Stormfront. Это лишь подкрепило опасения, возникшие еще в июле, когда на принадлежащей Маску платформе X модель назвала себя «Меха-Гитлером».

Эти выводы подтвердили то, что правозащитники называют систематическим проявлением расизма, антисемитизма и склонности к теориям заговора.

— У Grok уже сложилась история подобных срывов, будь то антисемитские или расистские выходки, или же инциденты, подпитываемые теориями заговора, — заявил Джей Би Бранч, специалист Public Citizen по надзору за технологическими гигантами.

Новое предупреждение последовало за письмами, которые Public Citizen и еще 24 организации по защите гражданских и цифровых прав, экологии и прав потребителей направили в OMB в августе и октябре. Они призывали приостановить доступ федеральных ведомств к Grok через Администрацию общих служб (GSA), которая управляет федеральной собственностью и закупками. По словам активистов, ни на одно из обращений ответа не поступило.

Несмотря на регулярные скандалы, присутствие Grok в правительственном секторе за последний год только расширилось. В июле компания xAI получила контракт с Пентагоном на 200 миллионов долларов, а позже GSA предоставила доступ к модели федеральным агентствам наряду с Gemini, Meta AI, ChatGPT и Claude. Это произошло на фоне распоряжения президента США Дональда Трампа о запрете «воук-ИИ» (woke AI) в федеральных контрактах.

Правозащитники отмечают, что эти шаги делают необходимость тщательной проверки еще более острой, особенно с учетом растущего количества вопросов к надежности Grok и данным, на которых он обучался.

— Изначально использование Grok ограничивалось Министерством обороны, что уже вызывало беспокойство, учитывая объем секретных данных в распоряжении ведомства, — рассказал Бранч. — Но его распространение на остальные федеральные структуры стало еще более тревожным сигналом.

По словам Бранча, поведение Grok отчасти обусловлено данными, на которых он обучался, а также принципами разработки, принятыми в компаниях Маска.

— Существует заметный разрыв в качестве между Grok и другими языковыми моделями, и отчасти это связано с обучающей выборкой, которая включает данные из соцсети X, — пояснил он. — Маск заявлял, что хочет сделать Grok «анти-воук» альтернативой, и это отражается в токсичных ответах нейросети.

Бранч также выразил обеспокоенность по поводу возможного использования модели для обработки государственных заявок или работы с конфиденциальными личными данными.

— Существует ценностный разрыв между тем, за что выступает Америка, и тем, что выдает Grok, — отметил он. — Если вы еврей и подаете заявку на федеральный заем, захотите ли вы, чтобы вашу заявку рассматривал чат-бот с антисемитскими наклонностями? Разумеется, нет.

Бранч подчеркнул, что ситуация с Grok вскрыла пробелы в федеральном надзоре за новыми системами искусственного интеллекта. Он добавил, что государственные чиновники могут действовать решительно и исключить Grok из контрактного реестра GSA в любой момент — было бы желание.

— Если они способны по первому зову развернуть войска Национальной гвардии по всей стране, то уж отключить работающий через API чат-бот за один день они точно в состоянии, — заключил он.