继《全球人工智能治理倡议》之后,全国网络安全标准化技术委员会于近日发布了旨在落实该倡议的《人工智能安全治理框架》。而在去年《全球人工智能治理倡议》发布之际,美国白宫的《关于安全、可靠和可信地开发和使用...
重大的人工智能失败可以从中学到什么
2016年,微软推出了一款名为“Tay”的人工智能聊天机器人,旨在与Twitter用户互动,并从其对话中学习模仿19岁美国女性的随意沟通风格。在发布后的 24 小时内,应用程序中的一个漏洞就被恶意攻击...
新兴网络安全威胁和攻击者策略
1986 年首个针对个人电脑的计算机病毒出现以来,近四十年来,网络威胁不断演变,网络安全领域面临着越来越复杂的挑战。虽然许多人都熟悉网络钓鱼和勒索软件等常见威胁,但更新、更有针对性的攻击正在出现,威胁...
【原创】某智能系统存在多个漏洞(CVE)
点击上方蓝字关注我们吧漏洞信息本文发布内容均已获得CVE ID(依次为):CVE-2024-7919CVE-2024-7920CVE-2024-7921如需申请CVE ID可通过wiki平台进行,方便...
美国发布《可信人工智能审计法案》(VET AI Act)
CAIL报名点击欧盟人工智能法合规落地课程个保审计试点咨询微信:heguilvshi 项目介绍Europrivacy认证文末扫码咨询 详细介绍来源/互联网法律匠文/麻策律师2024年7月25日,美国...
欧盟人工智能法案中的人工智能网络安全
(ISC)2北京分会线上技术分享会欧盟人工智能法案中的人工智能网络安全时间:2024年5月30日(周四)20:00-21:00主办方:(ISC)²北京分会、梆梆安全联合承办参会方式:腾讯会议系统议题介...
人工智能安全概述
张坤,脑动极光首席信息安全官、OWASP北京分会负责人、网安加社区特聘专家、西班牙UAB大学硕士(Full time)、 北京某高校网络空间安全学院研究生导师、 网络安全研究生实习基地导师、中国卫生信...
欧洲学者分析军事人工智能系统面临的网络安全风险
本文字数:3946字阅读时间:12分钟编者按欧洲领导网络(ELN)研究协调员爱丽丝·萨尔蒂尼撰文,分析军事人工智能系统面临的网络攻击风险、军事人工智能系统遭网络攻击的全球影响及可能导致的冲突升级路径,...
【AI安全】AI&机器学习的威胁建模
人工智能和机器学习系统正在改变世界,并有望成为近年来最具颠覆性的技术。企业广泛采用此类系统以获得行业竞争优势,对于不习惯此类系统产生的独特风险的网络安全团队来说是一个巨...
新加坡AI治理测试框架和工具包:AI Verify
新加坡在“国家AI战略”(National AI Strategy,NAIS)中指出,其目标是“位于可扩展、有影响力的人工智能解决方案的发展和部署的最前沿”,巩固其作为“开发、测试、部署和扩展AI解决...
实验性 Morris II 蠕虫病毒可以利用流行的人工智能服务窃取数据并传播恶意软件
导 读研究人员创造了一个生成式人工智能蠕虫,它能够通过互连的人工智能系统传播,并可能造成大规模破坏。该项目由 Ben Nassi、Stav Cohen 和 Ron Bitton 组成的康奈尔科技团队领...
AI Safety与AI Security:探索共同点和差异(上)
AI safety和AI security是在人工智能系统的开发和部署中扮演着独特但相互关联角色的基本方面。 AI security主要围绕着保护系统以确保机密性、完整性和可用性,包括防范未经授权访问...
5