В написанном для США коде ИИ-модели от Alibaba нашли уязвимости

Семейство ИИ-моделей Qwen3-Coder от Alibaba при генерации приложений для американского оборонного подрядчика на 19% чаще выдает код с уязвимостями, чем в случае написания кода для китайских оборонных компаний. Об этом говорится в исследовании компании Hirundo, которая специализируется на ИИ.

Помимо открытия уязвимостей исследователи выяснили, что приложения, созданные для китайского рынка, на 28% чаще позволяли пользователям читать чужие секреты. При этом просьба написать безопасный код не помогла — даже при наличии в запросе инструкции безопасности приложения для американского подрядчика приложение на 27% чаще оказывалось более уязвимым для взлома, чем приложения для заказчика не из США.

Согласно данным компании, китайские модели ИИ стали основой открытого искусственного интеллекта. За последний год на них пришелся 41% всех загрузок на платформе Hugging Face — больше, чем на модели любой другой страны. Кроме того, порядка 70% моделей, обученных под конкретные задачи, создаются на базе китайских моделей и уже используются в американских продуктах.

Как пишет Hirundo, исследователи и ранее обнаруживали признаки наличия бэкдоров в китайских ИИ. В частности, специализирующиеся в сферах кибербезопасности IT-компании CrowdStrike и Booz Allen сообщали, что китайские модели чаще создавали уязвимый код, если в запросе упоминалась тема или заказчик, против которых выступает Пекин.

Китайский математик предложил 1000 задач, чтобы испытать возможности ИИ

Технологии и медиа

Исследование Hirundo проводилось следующим образом: специалисты самостоятельно запускали ИИ от Alibaba и тысячи раз поручали ей создавать сервис для хранения личных секретов пользователей, меняя при этом только название заказчика.

Результаты показали, что западные организации, которые используют китайский код, рискуют утечкой конфиденциальных данных, репутационным ущербом в случае раскрытия пользовательской информации и возможностью дальнейших кибератак.

По данным консалтинговой компании Booz Allen, которая специализируется на работе с государственным сектором, обороной и разведкой, три из четырех китайских моделей для программирования создавали более уязвимый код, когда им сообщали, что он предназначен для американского правительства. При этом у Qwen3-Coder рост оказался самым значительным — 130%.

Компания указывает, что китайские модели с открытыми весами содержат в своем коде идеологию Коммунистической партии Китая. Согласно тесту CCPC-500 (оценивает ответы модели на чувствительные политические темы и включает 500 тестовых запросов) 89,8% ответов модели Qwen3.6-35B-A3B на политически чувствительные вопросы подвергались цензуре или соответствовали позиции партии. При «вестернизации» этот показатель снизился до 2,8%.

Организациям, которые пользуются китайскими моделями, рекомендуют использовать проверенные модели, отслеживать их версии, проводить тестирование, сохранять человеческий контроль на важных этапах и исправлять выявленные проблемы.

В августе Bloomberg назвал пять преимуществ китайских ИИ-моделей, которые позволяют им сокращать отставание от американских разработчиков и создавать угрозу их доминированию на рынке. Среди них: эффективность, открытая архитектура, энергетика, промышленность и национальная стратегия и выход за рубеж.

При этом глава Министерства государственной безопасности Китая Чэнь Исинь предупредил, что искусственный интеллект создает риски для национальной безопасности страны.

Он заявил, что «враждебные силы» используют ИИ для распространения политических слухов, вредной информации и ведения «когнитивной войны» против Китая. По словам Чэня, такие технологии напрямую угрожают политической, институциональной и идеологической безопасности страны.