微软安全基于Security Copilot底座推出了11款安全任务Agent，包括网络钓鱼分、告警分类、访问策略优化、漏洞修复等；
这11款Agent解决了常见的幻觉和提示词注入漏洞，可以在客户环境中基于员工运营操作进行二次学习，真正实现运营提效，越用越适用。
安全内参3月26日消息，微软的Security Copilot正在逐步增强自主性，使得其底层的AI模型能更广泛地与该公司的安全软件进行互动，从而实现自动执行各类任务。
Security Copilot新增11个安全任务代理
Security Copilot于2023年首次亮相，承诺将自动化处理微软Defender XDR中的安全事件。
微软旧金山办公室3月20日举行的新闻发布会上，微软负责安全、合规和身份等部门的副总裁Vasu Jakkal公布了Security Copilot的扩展计划。Security Copilot现在新增了11个专用任务的AI代理（Agent），能够与Defender、Purview、Entra和Intune等微软安全产品进行互动。
-
微软Defender中的网络钓鱼分类代理，用于整理网络钓鱼报告。
-
微软Purview中的告警分类代理，用于分类数据丢失防护和内部风险警报。
-
微软Entra中的条件访问优化代理，用于监控和防止身份与策略问题。
-
微软Intune中的漏洞修复代理，用于优先处理漏洞修复。
-
Security Copilot中的威胁情报简报代理，用于整理威胁情报。
-
OneTrust的隐私泄露响应代理，用于提炼数据泄露报告。
-
Aviatrix的网络监控代理，用于分析网络问题的根本原因。
-
BlueVoyant的SecOps工具代理，用于评估安全运营中心的控制措施。
-
Tanium的警报分类代理，帮助安全分析师优先处理警报。
-
Fletch的任务优化代理，用于预测并优先处理威胁警报。
最后一个代理属于微软Purview数据安全调查（DSI）。这是一个基于AI的服务，旨在帮助数据安全团队处理数据暴露风险。
这些代理本质上利用生成式AI的自然语言处理能力，自动总结海量数据，如网络钓鱼警告或威胁警报，从而帮助人工决策者聚焦最紧急的安全信号。
这也与Jakkal的观点相吻合。她认为，安全领域的变化如此迅速，以至于人们难以应对，因此必须依赖非确定性的宏命令，或者换句话说，就是AI代理。
她表示：“网络环境的速度、规模和复杂度都在急剧增加。2024年的每秒攻击数量为4000次，目前已经增长到每秒7000次攻击，这意味着每天有6亿次攻击。”
Jakkal表示，Security Copilot的初步版本已经帮助组织有效应对了快速增长的威胁。
她说：“对于使用它的安全团队，我们已经看到响应时间平均缩短了30%。”但她没有具体说明这种改进的成本。
她解释道：“这意味着他们在响应安全事件时能更迅速。我们还观察到，早期的安全从业者，虽然渴望进入这个领域，但常常不知从何做起。他们的工作效率提高了26%，准确性提高了35%。即使是经验丰富的专业人士，他们的速度依然提高了22%，准确度提升了7%。”
Jakkal说：“我们正迎来代理AI的时代。无论大家走到哪里，都会听到‘代理、代理、代理’的声音。那么，什么是代理呢？嗯，代理已经无处不在了。”
她分享了与一位同事对话中的一段有趣情节，提出了一个问题：“什么是代理？”她自己回答道：“这是个很好的问题。”然而，她并未进一步详细解释。
这一点为活动定下了基调。诸如“代理部署失败的情况是怎样的？”“运行这些功能所需的计算资源成本是多少？”之类的问题，往往没有明确的答复。
出于对AI代理潜在出错方式的好奇，外媒The Register与微软AI安全和红队工作主管Tori Westerhoff进行了交流，了解她的团队在开发这些代理时的经验和教训。
Westerhoff对微软的AI安全整体策略充满信心，她提及微软Azure CTO Mark Russinovich去年公布的AI护栏防护方案，指出这些AI模型已经具备了防护措施。她的团队也做了大量工作，尽量减少跨提示词注入的风险。
她说：“我们推动产品开发人员了解跨提示词注入的工作原理，以便他们在构建产品时已经具备相应的安全意识。”
当被问及Security Copilot代理在开发过程中误报率等指标时，Westerhoff表示：“具体的产品操作方面，我暂时无法提供详细数据，”但她也提到，微软的红队在产品发布前与开发人员密切合作，针对AI幻觉和代理系统强化做了大量工作。
她继续解释道：“我猜您想问的是，‘这个系统会出现什么问题？’我们团队的优势在于，我们会提前识别这些潜在问题，及时解决，并确保发布前发现生成式AI的薄弱环节，防止这些问题影响客户。”所以，不必过于担心。
Security Copilot的产品架构师Nick Goodman展示了Defender中的网络钓鱼分类代理如何工作。
他解释道：“每个组织都会有网络钓鱼解决方案，即便如此，我们仍然会培训员工报告网络钓鱼事件。而他们确实报告了大量事件，但其中95%都是误报。每一份报告大约需要30分钟。因此，我们的分析师大多数时间都在处理误报。这正是这个代理将帮助我们的地方。”
不过，在某些情况下，客户仍需为代理提供协助。Goodman展示了一封被判定为网络钓鱼邮件的公司全员邮件，这封邮件由于其语言特征和紧迫性被误判为网络钓鱼邮件。
Goodman表示，尽管这封邮件看起来像垃圾邮件，语言也显得急迫，但它实际上是合法的HR通知。他说：“代理无法了解这一点，因为它缺乏员工的背景信息。”因此，它会将邮件标记给员工进行人工审核。”
随后，Goodman将该邮件的分类从“疑似网络钓鱼邮件”更改为“合法邮件”，并教会代理如何在未来进行更好的分类。他说：“这是一个学习的过程。这个调整对以后代理的使用有效，但仅对该组织有效。它不会传递给微软，也不会与其他客户共享，且不涉及基础模型的训练。这就是组织内部的背景信息，只要员工做了这些，系统就能开始学习，就像训练人工分析师一样。”
当被问及微软预期该系统可能节省多少劳动力成本时，Goodman回答：“我没有相关研究可以分享。我们发布研究的标准非常高。”
Goodman表示，客户已经开始使用Security Copilot来处理网络钓鱼分类任务。
在被问及微软是否了解该系统在开箱即用时的误报率及训练后的变化时，Goodman表示：“误报率取决于输入行为（即人们报告的内容），基于输入内容的误报率，目前没有具体数字可以分享。我们正与客户一起评估这一点。”
OneTrust的隐私与数据治理高级副总裁兼总经理Ojas Rege展示了该公司隐私泄露响应代理如何帮助企业隐私官处理数据泄露报告。
他说：“如果发生数据泄露，在的影响分析中，您必须履行一系列隐私义务。问题在于，数据泄露的通知法规因州和国家而异，非常复杂且零散，有时通知的时间非常紧迫，比如72小时。”
此时，生成式AI模型的总结能力显得尤为重要。OneTrust的代理根据其分析OneTrust监管研究数据库中的数据，为隐私官或合规官提供优先处理的推荐列表。
Rege表示：“代理不会直接通知监管机构，”他说：“代理完成所有背景分析工作，但实际通知工作仍需人工完成。”
当被问及有关幻觉的可能性时，Rege表示幻觉的风险非常低，且系统有审计日志，并能链接到具体法规，因此代理提供的建议是可验证的。
总之，微软的代理在为您提供帮助时，仍然需要您核对其工作。
免责声明:文章中涉及的程序(方法)可能带有攻击性，仅供安全研究与教学之用，读者将其信息做其他用途，由读者承担全部法律及连带责任，本站不承担任何法律及连带责任；如有问题可邮件联系(建议使用企业邮箱或有效邮箱,避免邮件被拦截，联系方式见首页)，望知悉。
点赞
https://cn-sec.com/archives/3887134.html
复制链接
复制链接
-
左青龙
- 微信扫一扫
-
-
右白虎
- 微信扫一扫
-
评论