当前人工智能技术面临的最大风险是大语言模型(LLM)和生成式人工智能技术的发展和应用速度已经远远超过了安全和治理的速度。OpenAI、Anthropic、谷歌和微软等公司的生成式人工智能和大语言模型产...
GitHub 上泄露了超过 1200 万个身份验证秘密和密钥
GitGuardian网络安全专家称 :2023 年GitHub 用户意外暴露了超过 300 万个公共存储库中的 1280 万个身份验证和敏感机密,他们发出了 180 万封免费电子邮件警报,发现只有 ...
5个人工智能均承认自己是最大的网络威胁
从现在到 2030 年,全球人工智能网络安全市场预计将增长 1095 亿美元,其原因不难理解。根据最近对安全专业人士的一项调查,四分之三(75%)的人观察到网络攻击有所增加。其中,研究发现更大比例(8...
22% 的员工承认违规使用 AI
左右滑动查看更多从 1Password 公司的调查结果来看,人工智能等颠覆性技术正在加剧企业安全和员工生产力之间长期存在的「紧张关系」。更糟糕的是,50% 的网络安全专家表示,想要在企业安全和员工生产...
IBM探讨人工智能伦理治理框架应该是什么样子?
尽管实现生成式人工智能的竞赛愈演愈烈,但围绕该技术的伦理争论也在持续升温。而且赌注越来越高。根据 Gartner 的说法,“组织有责任确保他们开发、部署或使用的人工智能项目不会产生负面的道德后果。”与...
欧盟高官:人工智能正在重复原子弹的故事
2024-04-09,欧盟委员会执行副主席兼竞争专员玛格丽特·维斯塔格(Margrethe Vestager)在新泽西州普林斯顿高等研究院(Institute for Advanced Study)向...
专家观点 | 我国人工智能法应如何制定
扫码订阅《中国信息安全》邮发代号 2-786征订热线:010-82341063原标题:我们需要一部怎样的人工智能法文 | 中国政法大学数据法治研究院教授、联合国人工智能高层顾问机构中方成员、中国人工智...
微软将OPENAI的DALL-E作为美国军方的战场工具
根据THE INTERCEPT审查的内部演示材料,微软去年提议使用OpenAI非常流行的图像生成工具DALL-E来帮助国防部构建执行军事行动的软件。这一消息是在OpenAI悄然结束对军事工作的禁令几个...
AI Safety与AI Security:探索共同点和差异(下)
点击跳转上篇上篇(详细)中,我们探讨了人工智能生态系统的完整性、保密性、可用性以及关于AI safety的一些热门话题,接下来我们将继续探讨AI Safety究竟是什么?以及AI Safety与AI ...
【好文推荐】生成式伪造语音安全问题与解决方案
摘要:生成式人工智能算法的发展使得生成式伪造语音更加自然流畅,人类听力难以分辨真伪.本文首先分析了生成式伪造语音不当滥用对社会造成的一系列威胁,如电信诈骗更加泛滥、语音应用程序安全性下降、司法鉴定公正...
TA547使用人工智能生成恶意脚本针对德国目标
导 读据观察,黑客团伙 TA547 与已知的窃取者 Rhadamanthys 一起针对德国组织。根据 Proofpoint 最近的一份报告(https://www.proofpoint.com/uk/...
美国政府网络政策的最新发展和更新
IBM根据美国白宫最近发布2025财年预算,支持政府对网络安全的承诺等,总结了美国网络政策的最新发展和更新,让我们一起了解一下概况,看看我们从中能够找到那些借鉴与参考。漂亮国的网络安全资金分配与去年发...
80