2023年11月27日,美国、英国和其他十几个国家公布了首份关于如何保护AI免受流氓行为侵害的详细国际协议《安全人工智能系统开发指南》,敦促企业打造“设计安全”的AI系统。协议由英国国家网络安全中心(...
人工智能安全风险防控与应对策略
一人工智能与安全的辩证关系从互联网、云计算、大数据等新技术的发展历程可以看出,任何一项新技术的发展和应用都存在着相互促进又相互制约的两个方面,人工智能也不例外。一方面,技术的发展能带来社会的进步与变革...
AI教父:企业应将三成AI预算用于管理安全风险
本周二,科大讯飞因AI内容安全事件导致股价暴跌,同时也给野蛮生长的生成式人工智能行业敲响了警钟。今天,基于大语言模型的生成式人工智能的安全风险已经从担忧变成现实,黑客只需要通过一些“有毒内容”,或者发...
ChatGPT 的发展现状、风险及应对
任何事物往往都具有两面性,ChatGPT 在带来技术发展红利的同时,也引发对此类技术的使用规范、监督和风险管理等问题的讨论。认清 ChatGPT 的本质和局限性、研判潜在的风险和挑战,结合信息安全和伦...
美智库发文阐述人工智能在国防领域的应用
2023年7月25日,美《国防杂志》发表文章《人工智能在国防领域的应用:解决问题,抓住机遇》,文中指出,人工智能正不断塑造新的国防格局,在自主系统、预测分析和网络安全方面创造机遇,同时也带来了一系列挑...
宫廷玉液酒查1450?但AI已经防不住了
随着人工智能的进一步应用,我们可能很快就会看到它们生产恶意软件或攻击方面的“杰出贡献”。著名网络安全专家Mikko Hypponen表示,人工智能被利用加强破坏性网络行为几乎是不可避免的。随着攻击者开...
谷歌成立红队测试针对人工智能系统的攻击
谷歌创建了一个专注于人工智能(AI)系统的红队,并发布了一份报告,概述了常见的攻击类型和吸取的教训。该公司在推出安全人工智能框架( SAIF )几周后宣布成立人工智能红队,该框架旨在为人工智...
AI 狂飙,如何为科技野马缚缰?
近日,特斯拉首席执行官埃隆·马斯克、苹果联合创始人史蒂夫·沃兹尼亚克等上千名科技界大佬签署公开信,呼吁暂停训练强于OpenAI公司GPT-4的人工智能(AI)系统。公开信的发布再一次将人工智能推上风口...
新兴技术和战场证据收集
在最近一系列关于负责任的人工智能(AI)的文章中,各种作者讨论了“责任”在战场上使用人工智能系统(包括武器系统)中的作用。在这些文章中,最终的问题是如何判断涉及新兴技术执行通常由人类完成的功能或任务的...
CEPS报告:人工智能法案和新兴的欧盟数字保护法——重叠、差距和不一致
9月2日,欧洲政策研究中心(Centre for European Policy Studies,简称“CEPS”)发布报告《<人工智能法案>和新兴的欧盟数字保护法——重叠、差距和不一致》...
如何对抗神一样的人工智能
今天的文章与旧文有关,相关旧文导读安全对人工智能的需求 — 从机器学习到机器创造对深度学习的降维攻击 — 人工智能系统数据流中的安全风险深度学习框架中的魔鬼——探究人工智能系统中的安全问题“你为什么要...
重点摘译 | NIST发布最新的人工智能风险管理框架草案
美国国家标准与技术研究所(U.S. National Institute of Standards and Technology,以下简称“NIST”)正在就其人工智能风险管理框架的第二稿征求公众意见...
6