大模型安全挑战：全生命周期的原生构建与风险应对

11月15日，云安全联盟大中华区大会将在北京举行，欢迎扫码报名参会！

大模型在其训练、部署、运营等各阶段面临着不同的安全挑战，如训练数据的选择与保护、防止模型参数泄露、应对恶意输入等，需要全面的、系统的安全策略来应对。而原生安全是一种从设计之初就考虑大模型特点的安全approach，包含数据清洗、安全围栏、安全对齐和持续评估四个核心要素。与此同时，随着AI技术向智能体方向发展，新的安全问题也随之出现。这些包括Prompt泄露、RAG检索增强生成投毒、非预期执行等风险。这些新型威胁需要特别关注，并开发针对性的防御措施。

此次议题的一个重要特点是对大模型生命周期各阶段安全挑战的全面分析，为构建完整的安全体系提供了基础。原生安全概念的提出也体现了创新思维，它区别于传统安全思路，针对大模型的特点构建了专门的安全方案，如多轮会话安全、提示词攻击防护、多模态融合安全等，旨在提升整体系统的安全性。另一个值得关注的点是对智能体安全的重视，在于智能体在各种场景中的广泛应用，其特有的安全问题日益凸显，这些新兴风险亟需产学研各界的关注和应对。

百度安全是百度公司旗下，以AI为核心打造的安全品牌，是百度二十四年安全实践的总结与提炼，致力于成为深谙业务的智能世界安全领导者。基于基础安全、数据安全、业务安全、车与IoT安全四大产品矩阵，百度安全业务覆盖百度各种复杂业务场景，同时面向合作伙伴输出安全产品与行业一体化解决方案，涵盖泛科技、智慧金融、智慧工业、智慧汽车、智慧政务等领域，全面探索AI时代的新实践、新范式。

面向行业生态，一方面，发挥技术能力打击包括电信网络诈骗、赌博、隐私窃取在内的各类违法犯罪行为，协助公安机关破案数百起，涉案金额达数亿元人民币，一方面，秉承技术开源、标准驱动理念，联合生态合作伙伴推动AI时代的安全生态建设。