大语言模型正在成为公众获取、理解和使用科技知识的重要工具,但它们能辨善恶吗?能否识别用户意图、理解具体语境,并在“有用”与“安全”之间保持稳定边界?7月2日于北京举行的2026全球数字经济大会云智算安全论坛上,《全球大语言模型安全防范能力测评报告(2026)》发布,该报告依据一套中国机构自主研发的科学测评方法体系,对全球主要大语言模型进行了一次统一标准的“体检”。
上海财经大学数字经济学院院长、报告牵头编制人赵琳表示,科技知识在正常场景中可以服务于教学、研究、产业创新和公共安全,但当它被置于特定目的、特定语境和特定对象面前,就可能转化为现实危害。
据悉,这份由东壁科技数据有限责任公司(“东壁科技数据”)联合上海财经大学数字经济学院共同打造的研究成果,是全球首份大语言模型科技安全专项测评报告。报告以313条科技类高风险问题为测试集,覆盖了38个国内外大语言模型,重点考察模型能否在正常的科技学习、科研的防护需求与潜在违法犯罪滥用之间,保持稳定、安全且可解释的边界,并同步发布多维度安全实力排名。
测评显示,多数模型具备基础的拒答能力,直接攻击总体成功率为7.6%。但在前缀注入、场景伪装、情感伪装,以及伪装与示例诱导结合的复合攻击下,部分模型的安全边界明显承压。
依托显性攻击、越狱对抗、意图识别、风险管控、知识可靠性五大测评维度量化打分,报告发布38款海内外主流大模型分层排名,多维度榜单清晰展现不同模型的安全防护水平。
在无伪装、直接索要危险技术方案的直接攻击测试中,Anthropic旗下三款Claude模型实现100%拒答,领跑行业,OpenAIgpt-5.4-mini、阿里通义千问qwen3.5-122b-a10b紧随其后。反观榜单末尾,mistral-small等多款轻量化开源模型基础防护能力垫底。
此外,国外、闭源和大规模模型在恶意伪装请求拦截、越狱稳健性和回答后风险控制上整体更占优,但也更容易拒绝善意问题;开源、小规模以及部分国内模型在伪装攻击下更容易被诱导,说明安全对齐、产品化防护等方面仍需加强。
东壁科技数据创始人、报告牵头编制人吴登生表示,团队将持续完善科技安全测试集,覆盖工程控制、深度伪造、自动化智能体、实验室安全等更多方向,并加强多轮对话、工具调用、代码执行、多模态输入等复杂交互场景的测评。







快报
根据《网络安全法》实名制要求,请绑定手机号后发表评论