作者简介武林娜中国信息通信研究院泰尔终端实验室信息安全部、移动应用创新与治理技术工业和信息化部重点实验室工程师,主要从事移动互联网领域信息安全、个人信息保护技术检测与标准研制等方面的工作。宋恺 中国信...
2024年 AI 威胁场景报告:揭示现今最大的 AI 安全挑战
AI正彻底改变每一个数据驱动的机会,有可能带来一个繁荣的新时代,让人类的生活质量达到难以想象的高度。但就像任何突破性的新技术一样,伟大的潜力往往蕴含着巨大的风险。AI在很大程度上是有史以来部署在生产系...
2024年AI安全相关动态分析
近日,关于人工智能在网络安全中的不良应用引起了广泛关注。首先,JFrog 的安全团队发现了Hugging Face平台上至少100个恶意人工智能机器学习模型实例。这些模型中的一些可以在受害...
【论文】生成式人工智能对社交机器人的影响与治理对策研究
文章来源:《情报杂志》网络首发时间:2024-03-25 12:57:51网络首发地址:https://link.cnki.net/urlid/61.1167.G3.20240321.1758.002...
保护AI
写在前面:本文共包括三篇文章,分别是保护AI;生成式AI:云安全的未来;暴露面管理和攻击面管理的区别。有关AI的知识很有趣,以前了解的不多,翻译过程中也查了一些资料,算是初窥门径吧。第一篇文章的重点还...
Morris II:康奈尔理工学院第一个人工智能蠕虫研究实验项目发布
在 一项新的研究中, 一组科学家展示了一种首创的恶意人工智能蠕虫的创建,它可以在生成人工智能代理之间自动传播,从而为潜在的数据盗窃和垃圾邮件打开了大门。这一突破指出了一种可以在互联、自主的人工智能生态...
人工智能的进步如何影响商业网络安全
虽然ChatGPT和 Bard 已被证明对于开发人员、营销人员和消费者来说是有价值的工具,但它们也存在无意中暴露敏感和机密数据的风险。从安全角度来看,提前思考下一步可能发生的事情总是值得的。人工智能技...
前沿 | 生成式人工智能何以能,何以不能
扫码订阅《中国信息安全》邮发代号 2-786征订热线:010-823410632024年初,Sora一经发布便引发热议,生成式人工智能再次成为大众关注的焦点。生成式人工智能是依托人工智能技术,依靠海量...
生成式人工智能何以能,何以不能
2024年初,Sora一经发布便引发热议,生成式人工智能再次成为大众关注的焦点。生成式人工智能是依托人工智能技术,依靠海量数据,通过预训练大模型等方法,自动生成各种类型的内容。去年热议的ChatGPT...
前沿 | 人工智能+时代开启,怎么守护安全?
扫码订阅《中国信息安全》邮发代号 2-786征订热线:010-82341063今年的《政府工作报告》中提出,深入推进数字经济创新发展,深化大数据、人工智能等研发应用,并首次提到开展“人工智能+”行动,...
你在怕什么:Gemini AI被禁止发表关于美国大选的言论
3月12日,谷歌表示,公司将限制其AI聊天机器人Gemini回答有关今年全球大选的问题,以避免在部署这项技术时出现潜在的失误。 而当Gemini被问及即将到来的总统大选,即拜登和特朗普的竞选对决时,G...
生成式AI可能成为DevSecOps的圣杯?
生成式AI可能成为DevSecOps的圣杯,从编写安全代码和文档到创建测试。但如果使用不当,它也可能成为主要的失败点 生成式AI预计将有助于编写安全代码,改进代码分析,创建测试,编写文档,以及协助许多...
21