扫码订阅《中国信息安全》邮发代号 2-786征订热线:010-82341063近期,美国国防部和美军各军种接连公布其在人工智能技术应用领域的项目进展。当前,美国防部正与民间人工智能企业展开合作,加快推...
「人脑替代计划-3」一周内的两个核弹SORA& Gemma
吉姆·克莱德·蒙日摄吉姆·克莱德·蒙日在短短一周内,世界见证了两家科技巨头最具突破性的人工智能进步。OpenAI 推出了令人惊叹的 AI 视频生成器Sora,而 Google 则推出了Gemini 1...
【AI速读】欧盟人工智能法案:塑造未来AI治理的关键一步
人工智能作为一种快速发展的技术,已经渗透到经济和社会的多个领域。然而,AI技术的发展也带来了一系列潜在的风险和挑战,包括对公共利益和基本权利的潜在损害。不同国家对AI的监管差异可能导致市场碎片化,减少...
主流AI基础设施漏洞威胁全球数千大模型
近日,知名网络安全公司Oligo Security发现人工智能行业主流算力框架Ray的一个未修复安全漏洞正被黑客野外大规模利用,攻击AI工作负载并窃取敏感(生产)数据和算力。包括亚马逊、字节跳动、Ub...
生成式人工智能对个人信息安全的挑战及应对策略
作者简介武林娜中国信息通信研究院泰尔终端实验室信息安全部、移动应用创新与治理技术工业和信息化部重点实验室工程师,主要从事移动互联网领域信息安全、个人信息保护技术检测与标准研制等方面的工作。宋恺 中国信...
邮件安全报告:AI安全大模型或成邮件安全破局关键
AI深伪、动态IP、同域钓鱼、加密压缩、二维码伪装等新型邮件攻击技术,使很多传统的邮件安全技术彻底失效。基于人工智能大模型的新一代邮件安全技术,或将成为未来邮件安全问题“破局”的关键。2024年4月1...
2024年AI安全相关动态分析
近日,关于人工智能在网络安全中的不良应用引起了广泛关注。首先,JFrog 的安全团队发现了Hugging Face平台上至少100个恶意人工智能机器学习模型实例。这些模型中的一些可以在受害...
S&S专刊征稿 | 人工智能安全
专刊征稿人工智能安全专刊背景在过去的几十年里,随着计算机硬件和软件的升级,人工智能算法得到了快速发展,它将被广泛应用于关键基础设施领域,如救援任务、环境保护和监控等等。然而,人工智能技术的发展伴随着漏...
【AI安全】推理攻击-未来的SQL注入
针对应用层绕过传统防御揭示应用程序和数据的内部工作原理发生此攻击的原因是应用程序在其消息中暴露了太多信息。你能猜出这是什么类型的攻击吗?如果你猜到了SQL 注入攻击,那么我不想告诉你,但你错了。迎接针...
【AI安全】人工智能渗透测试(黑客)
黑客养成计划人脑替代计划软件安全在过去几十年里取得了长足的进步。现在很难相信,但曾经有一段时间,渗透测试仅在主机/网络层进行,安全团队完全意识到应用程序级攻击,如SQL 注入、跨站点脚本等。因此,攻击...
欧盟《人工智能法》最终版全文翻译(一)
AI基础设施遭攻击!首个已知的针对人工智能工作负载的攻击活动
Oligo研究团队最近发现了针对广泛使用的开源人工智能框架Ray中漏洞的主动攻击活动。数千家运行人工智能基础设施的公司和服务器因一个存在争议的严重漏洞而受到攻击,因此没有补丁。该漏洞允许攻击者接管公司...
106