关于AI系统的访问控制,看看权威观点

admin 2025年6月30日00:08:02评论3 views字数 882阅读2分56秒阅读模式
关于AI系统的访问控制,看看权威观点
上周发了关于ReBAC的应用,见适合AI系统的访问控制方法ReBAC:基于关系的访问控制 。今天意外收到David Maman的回复,分享给大家
关于AI系统的访问控制,看看权威观点
翻译后是这样的:
ReBAC(Zanzibar)在人工智能系统中存在诸多问题:
  1. 建模复杂性:定义和维护动态关系(例如,数据集与模型)错综复杂且容易出错。
  2. 性能开销:授权的图遍历会带来延迟,这对于推理等实时人工智能应用至关重要。
  3. 策略管理:为人工智能实体制定和审核细粒度策略非常复杂,并且存在配置错误的风险。
  4. 安全风险:错误定义的关系可能导致过度特权访问,尤其是对于敏感的人工智能数据(例如,医疗保健数据)。
  5. 情境感知差距:ReBAC 难以处理基于情境的动态访问(例如,模型置信度或数据敏感度),因此需要混合解决方案。
更实用的方法是将 ABAC 用于人工智能系统。
安全圈很多人对David Maman不陌生,他曾两次来中国参加互联网安全大会。
David Maman是个神奇的人,毕业于以色列理工(他们称之为以色列的MIT),这个不算神奇,神奇的是,他15岁进入以色列理工,18岁硕士毕业。注意啊,18岁,硕士,毕业。他每天睡觉大约3到4个小时,全年无休,是在飞机上也工作的人。
在以色列安全和创业的圈子里,他是教父级的人物。
在安全领域,他是大牛。在AI领域,他于2016年就创办了binah.ai,商业化运营一直伴随着权限控制。
所以,在AI的访问控制领域,他绝对是权威,他的意见我全部接受。
关于AI系统的访问控制,看看权威观点
关于AI系统的访问控制,看看权威观点

一点趣事

关于AI系统的访问控制,看看权威观点
David Maman的公司被华为收购,他也成为华为的顾问,大约2017,2018年我负责华为云在以色列的安全团队,同时负责华为在以色列技术投资的技术评估,多次与David 交流,受益匪浅。
他曾经有个中国女朋友,他们在一起的时候,有家餐馆经常去,说有姥姥的味道。David还真请我们去了一次,是家哈萨克斯坦的馆子,就是下图这个,菜的照片没留下,味道确实还行,不知道姥姥的味道什么样,但这家馆子吃起来就是地地道道的新疆菜。
关于AI系统的访问控制,看看权威观点
时过境迁,曾经一片祥和的特拉维夫,现在不知道什么样子了。
关于AI系统的访问控制,看看权威观点

END

原文始发于微信公众号(AI与安全):关于AI系统的访问控制,看看权威观点

免责声明:文章中涉及的程序(方法)可能带有攻击性,仅供安全研究与教学之用,读者将其信息做其他用途,由读者承担全部法律及连带责任,本站不承担任何法律及连带责任;如有问题可邮件联系(建议使用企业邮箱或有效邮箱,避免邮件被拦截,联系方式见首页),望知悉。
  • 左青龙
  • 微信扫一扫
  • weinxin
  • 右白虎
  • 微信扫一扫
  • weinxin
admin
  • 本文由 发表于 2025年6月30日00:08:02
  • 转载请保留本文链接(CN-SEC中文网:感谢原作者辛苦付出):
                   关于AI系统的访问控制,看看权威观点http://cn-sec.com/archives/4210005.html
                  免责声明:文章中涉及的程序(方法)可能带有攻击性,仅供安全研究与教学之用,读者将其信息做其他用途,由读者承担全部法律及连带责任,本站不承担任何法律及连带责任;如有问题可邮件联系(建议使用企业邮箱或有效邮箱,避免邮件被拦截,联系方式见首页),望知悉.

发表评论

匿名网友 填写信息