Инструмент кодирования ИИ Alibaba вызывает опасения по поводу безопасности

Компания Alibaba выпустила новую модель кодирования искусственного интеллекта под названием Qwen3-Coder, созданную для решения сложных программных задач с использованием большой модели с открытым исходным кодом.

Инструмент является частью семейства Qwen3 от Alibaba и продвигается как самый продвинутый агент по кодированию компании на сегодняшний день.

Модель использует подход Mix of Experts (MoE), активируя 35 миллиардов параметров из общего числа 480 миллиардов и поддерживая до 256 000 токенов контекста. Сообщается, что это число может быть увеличено до 1 миллиона с помощью специальных методов экстраполяции. Компания утверждает, что Qwen3-Coder превзошел другие открытые модели в агентских задачах, включая версии от Moonshot AI и DeepSeek.

Но не все видят в этом хорошую новость. Юргита Лапенье, главный редактор Cybernews, предупреждает, что Qwen3-Coder может быть не просто полезным помощником по программированию — он может представлять реальную опасность для глобальных технологических систем, если получит широкое распространение среди западных разработчиков.

Сообщения Alibaba о Qwen3-Coder сосредоточены на его технической мощи, сравнивая его с инструментами высшего уровня от OpenAI и Anthropic. Но в то время как оценки и функции бенчмарков привлекают внимание, Лапенье предполагает, что они также могут отвлекать от реальной проблемы: безопасности.

Дело не в том, что Китай догоняет его в области искусственного интеллекта — это уже известно. Более глубокая обеспокоенность связана со скрытыми рисками использования программного обеспечения, созданного системами ИИ, которое трудно проверить или полностью понять.

По словам Лапенье, разработчики могут быть «лунатистами в будущее», где ядра систем неосознанно строятся с использованием уязвимого кода. Такие инструменты, как Qwen3-Coder, могут облегчить жизнь, но они также могут выявить тонкие слабости, которые останутся незамеченными.

Этот риск не является гипотетическим. Исследователи Cybernews недавно рассмотрели использование ИИ в крупных компаниях США и обнаружили, что 327 из S&P 500 в настоящее время публично отчитываются об использовании инструментов ИИ. Только в этих компаниях исследователи выявили почти 1000 уязвимостей, связанных с искусственным интеллектом.

Добавление еще одной модели ИИ, особенно разработанной в соответствии со строгими законами Китая о национальной безопасности, может добавить еще один уровень риска, который сложнее контролировать.

Современные разработчики в значительной степени полагаются на инструменты искусственного интеллекта для написания кода, исправления ошибок и формирования способов создания приложений. Эти системы быстры, полезны и становятся лучше с каждым днем.

Но что, если бы те же самые системы были обучены внедрять недостатки? Не очевидные ошибки, но небольшие, трудно обнаруживаемые проблемы, которые не вызывают тревоги. Уязвимость, которая выглядит как безобидное дизайнерское решение, может оставаться незамеченной в течение многих лет.

Именно так часто начинаются атаки на цепочку поставок. Прошлые примеры, такие как инцидент с SolarWinds, показывают, как долгосрочное проникновение может быть осуществлено тихо и терпеливо. При достаточном доступе и контексте модель ИИ может научиться решать подобные проблемы, особенно если у нее есть доступ к миллионам кодовых баз.

Это не просто теория. В соответствии с Законом Китая о национальной разведке, такие компании, как Alibaba, должны сотрудничать с правительственными запросами, в том числе связанными с данными и моделями искусственного интеллекта. Это смещает разговор с технических характеристик на национальную безопасность.

Еще одна серьезная проблема — раскрытие данных. Когда разработчики используют такие инструменты, как Qwen3-Coder, для написания или отладки кода, каждая часть этого взаимодействия может раскрыть конфиденциальную информацию.

Это могут быть запатентованные алгоритмы, логика безопасности или проектирование инфраструктуры — именно те детали, которые могут быть полезны иностранному государству.

Несмотря на то, что модель имеет открытый исходный код, пользователи все еще не могут увидеть многое. Серверная инфраструктура, системы телеметрии и методы отслеживания использования могут быть непрозрачными. Из-за этого трудно понять, куда деваются данные или что модель может запомнить с течением времени.

Alibaba также сосредоточилась на агентном ИИ — моделях, которые могут действовать более независимо, чем стандартные помощники. Эти инструменты не просто предлагают строки кода. Им можно назначать полноценные задачи, они могут работать с минимальными затратами и принимать решения самостоятельно.

Это может звучать эффективно, но это также вызывает тревогу. Полностью автономный агент кодирования, который может сканировать целые кодовые базы и вносить изменения, может стать опасным в чужих руках.

Представьте себе агента, который может понимать системную защиту компании и разрабатывать специализированные атаки для ее использования. Тот же набор навыков, который помогает разработчикам двигаться быстрее, может быть перепрофилирован злоумышленниками для еще более быстрого развития.

Несмотря на эти риски, действующие правила не затрагивают такие инструменты, как Qwen3-Coder, значимым образом. Правительство США потратило годы на обсуждение проблем конфиденциальности данных, связанных с такими приложениями, как TikTok, но общественный надзор за инструментами искусственного интеллекта, разработанными за рубежом, практически отсутствует.

Такие группы, как Комитет по иностранным инвестициям в США (CFIUS), рассматривают приобретения компаний, но аналогичного процесса не существует для рассмотрения моделей ИИ, которые могут представлять угрозу национальной безопасности.

Указ президента Байдена об искусственном интеллекте сосредоточен в основном на доморощенных моделях и общих методах безопасности. Но он не учитывает опасения по поводу импортных инструментов, которые могут быть встроены в чувствительные среды, такие как здравоохранение, финансы или национальная инфраструктура.

К инструментам ИИ, способным писать или изменять код, следует относиться с той же серьезностью, что и к угрозам в цепочке поставок программного обеспечения. Это означает установление четких руководящих принципов в отношении того, где и как их можно использовать.

Чтобы снизить риски, организациям, работающим с чувствительными системами, следует сделать паузу, прежде чем интегрировать Qwen3-Coder или любой другой агентный ИИ иностранной разработки в свои рабочие процессы. Если вы не пригласите кого-то, кому не доверяете, посмотреть на ваш исходный код, зачем позволять их ИИ переписывать его?

Инструменты безопасности также должны наверстать упущенное. Программное обеспечение для статического анализа может не обнаруживать сложные бэкдоры или тонкие логические проблемы, созданные искусственным интеллектом. Отрасль нуждается в новых инструментах, разработанных специально для выявления и тестирования кода, созданного искусственным интеллектом, на предмет подозрительных шаблонов.

Наконец, разработчики, технологические лидеры и регулирующие органы должны понимать, что ИИ, генерирующий код, не является нейтральным. Эти системы обладают мощью — как полезными инструментами, так и потенциальными угрозами. Те же функции, которые делают их полезными, также могут сделать их опасными.

Лапенье назвала Qwen3-Coder «потенциальным троянским конем», и эта метафора подходит. Дело не только в продуктивности. Речь идет о том, кто находится внутри ворот.

Ван Цзянь, основатель Alibaba Cloud, видит вещи по-другому. В интервью Bloomberg он сказал, что инновации заключаются не в найме самых дорогих талантов, а в выборе людей, которые могут построить неизвестное. Он раскритиковал подход Кремниевой долины к найму ИИ, где технологические гиганты теперь конкурируют за ведущих исследователей, как спортивные команды, делающие ставки на спортсменов.

— Единственное, что вам нужно сделать, это найти нужного человека, — сказал Ван. — На самом деле не такой дорогой человек.

Он также считает, что китайская раса ИИ является здоровой, а не враждебной. По словам Вана, компании по очереди вырываются вперед, что помогает всей экосистеме расти быстрее.

— Благодаря этой конкуренции у вас может быть очень быстрая итерация технологии, — добавил он. — Я не думаю, что это жестоко, но я думаю, что это очень здорово.

Тем не менее, конкуренция с открытым исходным кодом не гарантирует доверия. Западным разработчикам нужно тщательно подумать о том, какие инструменты они используют и кто их создал.

Qwen3-Coder может предложить впечатляющую производительность и открытый доступ, но его использование сопряжено с рисками, выходящими за рамки бенчмарков и скорости кодирования. В то время, когда инструменты искусственного интеллекта формируют то, как строятся критически важные системы, стоит задаться вопросом не только о том, что эти инструменты могут сделать, но и о том, кто получает от этого выгоду.