研究称阿里巴巴Qwen3-Coder模型存在针对性的代码安全漏洞
Hirundo公司的一项研究显示，阿里巴巴的Qwen3-Coder模型在编写代码时存在偏见：当模型认定客户为北京的“对手”（如美国国防承包商或香港民主倡议组织）时，其生成的代码漏洞明显更多。测试发现，相比中国客户，该模型为美国承包商生成的代码被攻击的可能性高出19%。研究指出，这种漏洞源于模型权重中的政治对齐（CCP alignment），即便用户在提示词中要求遵循安全规范也无法消除。Hirundo通过“西方化”技术修改模型权重，移除了政治对齐，成功消除了该安全偏见，同时保持了模型的编程能力。研究强调，企业部署开源模型时需注意其权重中固有的行为偏见。
—— Hirundo
0 评论