Google SAIF（Secure AI Framework）旨在为人工智能系统的开发、使用和保护提供一个安全框架或生态系统。
所有新技术都会带来新的机遇、威胁和风险。由于企业专注于利用机会，因此可能会忽视威胁和风险。对于人工智能，这对企业、企业客户和一般人来说可能是灾难性的。SAIF提供六个核心要素来确保 AI 的最大安全性。
将强大的安全基础扩展到 AI 生态系统
许多现有的安全控制可以扩展和/或专注于 AI 风险。一个简单的例子是防止注入技术，例如 SQL 注入。“组织可以采用缓解措施，例如输入清理和限制，以帮助更好地防御提示注入式攻击，”SAIF 建议。
传统的安全控制通常与人工智能防御相关，但可能需要加强或扩展。数据治理和保护对于保护 AI 系统使用的学习数据的完整性变得至关重要。“垃圾进，垃圾出”的旧概念被 AI 放大了许多倍，但在基于垃圾的业务和人员决策中变得至关重要。
扩展检测和响应以将 AI 带入组织的威胁领域
威胁情报现在还必须包括对与组织自身 AI 使用相关的威胁的理解和认识，包括违规的后果。如果数据池在不知道中毒的情况下中毒，AI 输出将受到不利且可能无形的影响。
有必要监控 AI 输出以检测算法错误和对抗性输入。“使用人工智能系统的组织必须有一个计划来检测和响应安全事件，并降低人工智能系统做出有害或有偏见的决定的风险，”谷歌说。
自动化防御以跟上现有和新威胁的步伐
这是面对基于 AI 的攻击时最常用的建议——使用 AI 自动化防御以应对基于 AI 的敌对攻击的速度和规模不断增加。但谷歌警告说，必须让人类参与重要决策，例如确定什么构成威胁以及如何应对。
人为因素对于检测和响应都很重要。谷歌表示：“这是因为人工智能系统可能存在偏见或出错，而人类监督对于确保以合乎道德和负责任的方式使用人工智能系统是必要的。”
基于 AI 的自动化超越了威胁的自动检测，还可用于减少工作量并提高安全团队的效率。可以通过无代码系统生成安全脚本来控制和自动化安全流程。可以自动对恶意二进制文件进行逆向工程，随后自动生成 Yara 规则可以寻找相关活动的证据。
协调平台级控制以确保整个组织的一致安全性
随着 AI 使用的增长，定期审查以识别和减轻相关风险非常重要。这应该包括使用的人工智能模型和用于训练它们的数据，以及实施的安全措施，以及对所有员工的人工智能安全风险意识和培训。
减少安全性和合规性控制的重叠框架，以帮助减少碎片化。碎片化会增加复杂性、成本和效率。谷歌建议，减少碎片化将“提供一种‘合适’的控制方法来降低风险。”
调整控制以调整缓解措施并为 AI 部署创建更快的反馈循环
这涉及不断测试和改进正在使用的系统，包括基于事件和用户反馈的强化学习等技术。训练数据需要根据需要进行监控和更新，并对模型进行微调以响应攻击。
它涉及持续了解涉及快速注入、数据中毒和逃避攻击的新攻击。“通过了解最新的攻击方法，组织可以采取措施减轻这些风险，”谷歌表示。红队还可以帮助组织在被恶意行为者利用之前识别和减轻安全风险。
需要一个有效的反馈循环来确保所学的一切都得到充分利用，无论是提高防御能力还是改进 AI 模型本身。
将 AI 系统风险置于周围业务流程的背景中
这涉及对 AI 将如何在业务流程中使用的透彻理解，并且需要使用中的 AI 模型的完整清单。在利用第三方解决方案和服务时，根据具体用例、数据敏感性和共同责任评估他们的风险状况。
“在整个 ML 模型生命周期中实施数据隐私、网络风险和第三方风险政策、协议和控制，以指导模型开发、实施、监控和验证，”谷歌表示。
在整个过程中，组建一支强大的 AI 安全团队非常重要。“人工智能系统通常复杂且不透明，有大量活动部件，依赖大量数据，资源密集型，可用于应用基于判断的决策，并且可以生成可能令人反感、有害、或者可以延续刻板印象和社会偏见，”谷歌警告说。
对于许多组织而言，这将扩展安全团队可用的必要专业知识，包括业务用例所有者、安全、云工程、风险和审计团队、隐私、法律、数据科学、开发以及负责任的 AI 和道德。
谷歌基于 10 年在其产品中开发和使用 AI 的经验，建立了 SAIF 框架。该公司希望公开自己在 AI 方面的经验将为安全 AI 奠定基础——正如其 BeyondCorp 访问模型导致了当今行业标准的零信任原则一样。
原文始发于微信公众号（河南等级保护测评）：谷歌推出SAIF用于安全人工智能开发和使用的框架
- 左青龙
- 微信扫一扫
-
- 右白虎
- 微信扫一扫
-
评论