重磅发布 | 开源大语言模型安全性测评报告

为深入学习贯彻全国两会精神，落实《工业和信息化部等十六部门关于促进数据安全产业发展的指导意见》《生成式人工智能服务管理暂行办法》以及“人工智能+”行动等要求，加快数据安全技术与人工智能新兴技术的交叉融合创新，促进人工智能与实体经济深度融合，加快培育形成新质生产力，为高质量发展注入安全新动能。中国软件评测中心（工业和信息化部软件与集成电路促进中心）联合数据安全关键技术与产业应用评价工业和信息化部重点实验室、中国计算机行业协会数据安全专业委员会，共同研究大语言模型的技术架构、安全性能与标准体系，并发布《开源大语言模型安全性测评报告》。

本报告聚焦测评国内外开源大语言模型的安全性，通过选取典型的八款开源大语言模型，在指令安全、内容安全、模型安全、网络安全和数据安全五大维度展开深入测评。研究大语言模型的安全性对于提高大模型厂商的安全意识、保障行业用户的合法权益等具有重要的意义，通过系统性分析国内外大语言模型安全性的综合表现，为产业各界提供权威参考。