随着人工智能的进一步应用,我们可能很快就会看到它们生产恶意软件或攻击方面的“杰出贡献”。著名网络安全专家Mikko Hypponen表示,人工智能被利用加强破坏性网络行为几乎是不可避免的。随着攻击者开...
谷歌成立红队测试针对人工智能系统的攻击
谷歌创建了一个专注于人工智能(AI)系统的红队,并发布了一份报告,概述了常见的攻击类型和吸取的教训。该公司在推出安全人工智能框架( SAIF )几周后宣布成立人工智能红队,该框架旨在为人工智...
AI 狂飙,如何为科技野马缚缰?
近日,特斯拉首席执行官埃隆·马斯克、苹果联合创始人史蒂夫·沃兹尼亚克等上千名科技界大佬签署公开信,呼吁暂停训练强于OpenAI公司GPT-4的人工智能(AI)系统。公开信的发布再一次将人工智能推上风口...
新兴技术和战场证据收集
在最近一系列关于负责任的人工智能(AI)的文章中,各种作者讨论了“责任”在战场上使用人工智能系统(包括武器系统)中的作用。在这些文章中,最终的问题是如何判断涉及新兴技术执行通常由人类完成的功能或任务的...
CEPS报告:人工智能法案和新兴的欧盟数字保护法——重叠、差距和不一致
9月2日,欧洲政策研究中心(Centre for European Policy Studies,简称“CEPS”)发布报告《<人工智能法案>和新兴的欧盟数字保护法——重叠、差距和不一致》...
如何对抗神一样的人工智能
今天的文章与旧文有关,相关旧文导读安全对人工智能的需求 — 从机器学习到机器创造对深度学习的降维攻击 — 人工智能系统数据流中的安全风险深度学习框架中的魔鬼——探究人工智能系统中的安全问题“你为什么要...
重点摘译 | NIST发布最新的人工智能风险管理框架草案
美国国家标准与技术研究所(U.S. National Institute of Standards and Technology,以下简称“NIST”)正在就其人工智能风险管理框架的第二稿征求公众意见...
人工智能监管框架呼之欲出,法国CNIL发布人工智能指南
关注我们带你读懂网络安全2022年4月5日,法国国家信息与自由委员会(Commissione de l'informatique et des libertés,以下简称“CNIL”)发布了关于人工智...
在网络安全领域应用机器学习的困难和对策
网络安全领域的独特对抗属性给人工智能应用落地带来了重重困难,但我们并不认为这最终会阻碍人工智能成为网络安全利器。我们尝试分析了人工智能在网络安全应用里的潜在困难,并试着解决它们。基于机器学习、深度学习...
5