Qwen генерирует дырявый код для США

Исследователи проанализировали безопасность кода, сгенерированного китайской языковой моделью Qwen. В ходе теста из 1840 случаев выявлены существенные различия в качестве программного обеспечения для заказчиков из США и Китая.

Статистика уязвимостей

Для американского оборонного подрядчика бэкдоры были обнаружены в 70% приложений. Для китайских клиентов этот показатель составил 59%. Разница указывает на потенциальную предвзятость модели при генерации кода.

Влияние запросов на безопасность

Когда исследователи попросили написать супербезопасный код, ситуация ухудшилась. Количество дыр для американцев увеличилось до 74%, тогда как для китайских пользователей качество осталось стабильным.