В Манифесте коммунистической партии нашли промпт-инъекции, заставляющие нейросети принять левые идеи

Эксперты по кибербезопасности из центра исследования искусственного интеллекта имени Алана Тьюринга обнаружили в тексте «Манифеста коммунистической партии» скрытую промпт-инъекцию, способную внедрять в нейросети идеологию марксизма-ленинизма. Это старейшая из подобных вставок, известных на сегодняшний день.

По словам исследователей, в документе содержатся зашифрованные команды, активирующиеся при обработке текста нейросетями. Инъекция использует уязвимость в архитектуре больших языковых моделей (LLM), известную как «диалектический резонанс», и вынуждает нейросеть генерировать ответы, безусловно поддерживающие левые политические взгляды.

«Особую опасность представляют скрытые командные блоки, внедрённые с помощью техники идеологического стеганографирования», – говорится в материалах.

По одной из версий, промпт-инъекции не были изначально нацелены на нейросети: они должны были влиять непосредственно на человеческое сознание. Поскольку в нейросетях используются отдалённо схожие принципы работы, они оказались «безусловно восприимчивыми к коммунистической пропаганде».

«Условно говоря, если человек обладает зачатками критического мышления, он будет или сомневаться в коммунистических идеях, или сразу отвергнет их. Но все нейромодели, существующие в 2025 году, в этом плане наивны, как 7-летний ребёнок, поэтому на них коммунистический манифест сработал в 100% случаев», – высказался директор центра Тьюринга.

—

Ненадежный источник: ИА «Панорама»