全球人工智能治理风起云涌。3月21日,联合国大会通过了全球首个关于监管人工智能的决议《抓住安全、可靠和值得信赖的人工智能系统带来的机遇,促进可持续发展》。决议表示,各国认识到“人工智能系统的设计、开发...
欧洲网络机构分享十大威胁:技能短缺现象日益严重
欧盟网络安全局(ENISA)预测,到 2030 年,技能短缺、脆弱的供应链和未打补丁的系统将成为影响最大的十大网络威胁。ENISA更新了对网络安全的展望,并在十大威胁名单中新增了两个威胁。此次对203...
凯文·凯利 2024最新演讲:从四个方向理解AI
来源:工业互联网研习社全文共 7226 个字,建议阅读 10 分钟3月29日,中信出版集团联合上海交通大学上海高级金融学院邀请到凯文·凯利(K.K.)来到中国,展开一场精彩的线下对谈。现场,K.K. ...
OWASP发布大语言模型网络安全与治理清单
当前人工智能技术面临的最大风险是大语言模型(LLM)和生成式人工智能技术的发展和应用速度已经远远超过了安全和治理的速度。OpenAI、Anthropic、谷歌和微软等公司的生成式人工智能和大语言模型产...
GitHub 上泄露了超过 1200 万个身份验证秘密和密钥
GitGuardian网络安全专家称 :2023 年GitHub 用户意外暴露了超过 300 万个公共存储库中的 1280 万个身份验证和敏感机密,他们发出了 180 万封免费电子邮件警报,发现只有 ...
5个人工智能均承认自己是最大的网络威胁
从现在到 2030 年,全球人工智能网络安全市场预计将增长 1095 亿美元,其原因不难理解。根据最近对安全专业人士的一项调查,四分之三(75%)的人观察到网络攻击有所增加。其中,研究发现更大比例(8...
22% 的员工承认违规使用 AI
左右滑动查看更多从 1Password 公司的调查结果来看,人工智能等颠覆性技术正在加剧企业安全和员工生产力之间长期存在的「紧张关系」。更糟糕的是,50% 的网络安全专家表示,想要在企业安全和员工生产...
IBM探讨人工智能伦理治理框架应该是什么样子?
尽管实现生成式人工智能的竞赛愈演愈烈,但围绕该技术的伦理争论也在持续升温。而且赌注越来越高。根据 Gartner 的说法,“组织有责任确保他们开发、部署或使用的人工智能项目不会产生负面的道德后果。”与...
欧盟高官:人工智能正在重复原子弹的故事
2024-04-09,欧盟委员会执行副主席兼竞争专员玛格丽特·维斯塔格(Margrethe Vestager)在新泽西州普林斯顿高等研究院(Institute for Advanced Study)向...
专家观点 | 我国人工智能法应如何制定
扫码订阅《中国信息安全》邮发代号 2-786征订热线:010-82341063原标题:我们需要一部怎样的人工智能法文 | 中国政法大学数据法治研究院教授、联合国人工智能高层顾问机构中方成员、中国人工智...
微软将OPENAI的DALL-E作为美国军方的战场工具
根据THE INTERCEPT审查的内部演示材料,微软去年提议使用OpenAI非常流行的图像生成工具DALL-E来帮助国防部构建执行军事行动的软件。这一消息是在OpenAI悄然结束对军事工作的禁令几个...
AI Safety与AI Security:探索共同点和差异(下)
点击跳转上篇上篇(详细)中,我们探讨了人工智能生态系统的完整性、保密性、可用性以及关于AI safety的一些热门话题,接下来我们将继续探讨AI Safety究竟是什么?以及AI Safety与AI ...
81