张坤,脑动极光首席信息安全官、OWASP北京分会负责人、网安加社区特聘专家、西班牙UAB大学硕士(Full time)、 北京某高校网络空间安全学院研究生导师、 网络安全研究生实习基地导师、中国卫生信...
欧洲学者分析军事人工智能系统面临的网络安全风险
本文字数:3946字阅读时间:12分钟编者按欧洲领导网络(ELN)研究协调员爱丽丝·萨尔蒂尼撰文,分析军事人工智能系统面临的网络攻击风险、军事人工智能系统遭网络攻击的全球影响及可能导致的冲突升级路径,...
【AI安全】AI&机器学习的威胁建模
人工智能和机器学习系统正在改变世界,并有望成为近年来最具颠覆性的技术。企业广泛采用此类系统以获得行业竞争优势,对于不习惯此类系统产生的独特风险的网络安全团队来说是一个巨...
新加坡AI治理测试框架和工具包:AI Verify
新加坡在“国家AI战略”(National AI Strategy,NAIS)中指出,其目标是“位于可扩展、有影响力的人工智能解决方案的发展和部署的最前沿”,巩固其作为“开发、测试、部署和扩展AI解决...
实验性 Morris II 蠕虫病毒可以利用流行的人工智能服务窃取数据并传播恶意软件
导 读研究人员创造了一个生成式人工智能蠕虫,它能够通过互连的人工智能系统传播,并可能造成大规模破坏。该项目由 Ben Nassi、Stav Cohen 和 Ron Bitton 组成的康奈尔科技团队领...
AI Safety与AI Security:探索共同点和差异(上)
AI safety和AI security是在人工智能系统的开发和部署中扮演着独特但相互关联角色的基本方面。 AI security主要围绕着保护系统以确保机密性、完整性和可用性,包括防范未经授权访问...
我国人工智能法应如何制定
全球人工智能治理风起云涌。3月21日,联合国大会通过了全球首个关于监管人工智能的决议《抓住安全、可靠和值得信赖的人工智能系统带来的机遇,促进可持续发展》。决议表示,各国认识到“人工智能系统的设计、开发...
专家观点 | 我国人工智能法应如何制定
扫码订阅《中国信息安全》邮发代号 2-786征订热线:010-82341063原标题:我们需要一部怎样的人工智能法文 | 中国政法大学数据法治研究院教授、联合国人工智能高层顾问机构中方成员、中国人工智...
AI Safety与AI Security:探索共同点和差异(下)
点击跳转上篇上篇(详细)中,我们探讨了人工智能生态系统的完整性、保密性、可用性以及关于AI safety的一些热门话题,接下来我们将继续探讨AI Safety究竟是什么?以及AI Safety与AI ...
专家解答︱人工智能,是法律意义上的人吗?
扫码订阅《中国信息安全》邮发代号 2-786征订热线:010-8234106当前,随着生成式人工智能、脑机接口、人形机器人等颠覆性人工智能技术的突飞猛进,人类社会的生产、生活方式乃至社会治理模式都将随...
【AI安全】人工智能渗透测试(黑客)
黑客养成计划人脑替代计划软件安全在过去几十年里取得了长足的进步。现在很难相信,但曾经有一段时间,渗透测试仅在主机/网络层进行,安全团队完全意识到应用程序级攻击,如SQL 注入、跨站点脚本等。因此,攻击...
【AI安全】AI&机器学习的威胁建模
人工智能和机器学习系统正在改变世界,并有望成为近年来最具颠覆性的技术。企业广泛采用此类系统以获得行业竞争优势,对于不习惯此类系统产生的独特风险的网络安全团队来说是一个巨...
6