CSA大中华区牵头 | 生成式AI应用安全、大模型安全标准发布

云安全联盟大中华区主席、世界数字技术院执行理事长李雨航院士发布时介绍，“生成式人工智能应用安全测试标准”为测试和验证生成式AI应用的安全性提供了一个框架，特别是那些使用大语言模型构建的应用程序。它定义了人工智能应用程序架构每一层的测试和验证范围，确保AI应用各个方面都经过严格的安全性和合规性评估。

他表示，“大语言模型安全测试方法”为大模型本身的安全性评估提供了一套全面、严谨且实操性强的结构性方案。它提出了大语言模型的安全风险分类、攻击的分类分级方法以及测试方法，并率先给出了四种不同攻击强度的攻击手法分类标准，提供了严格的评估指标和测试程序等，使开发人员和组织能够识别和缓解潜在漏洞，并最终提高使用大语言模型构建的人工智能系统的安全性和可靠性。

随着新的生成式AI技术以及建立在生成式AI模型之上的AI应用架构的发展，这些AI标准也将不断演进。CSA大中华区积极响应这一趋势，致力于推动AI安全的研究与发展，以确保AI系统的安全性和可靠性。

2023年9月在“外滩大会”上，CSA大中华区成立AI安全工作组，由中国电信和蚂蚁集团担任联席组长，与电子科技大学、华为等首批成员共同推进研究，共同制定了清晰的研究框架。

10月，WDTA委托CSA起草的《全球人工智能治理宣言》发布，呼吁建立全球治理框架。

12月，CSA联合OpenAI、亚马逊、谷歌、微软和Anthropic合作发起AI安全倡议，致力于制定和公开共享可靠的AI安全和安全指南。

截止2024年4月，CSA大中华区发布了《ChatGPT的安全影响》、《AI安全白皮书 》、《AI Safety与AI Security：探索共同点和差异》等研究成果。