近年来,随着人工智能技术的进步,一些不法分子开始利用AI技术融合他人面孔和声音,制造非常逼真的合成图像来实施新型网络诈骗,这类骗局常常会在短时间内给被害人造成较大损失。我们应该如何看清这类AI“深度造...
中国首份人工智能安全报告发布 :AI深度伪造欺诈激增30倍
2024年2月29日,奇安信集团对外发布《2024人工智能安全报告》(以下简称《报告》)。《报告》认为,人工智能技术的恶意使用将快速增长,在政治安全、网络安全、物理安全和军事安全等方面构成严重威胁。 ...
使用ollama本地部署开源大模型
chatGPT 刚出来没多久的时候,openai 时不时的限制使用频率,当时我想要是能本地部署一个大模型,无限制的使用该多好哇。后来有很多团队/公司陆陆续续在 github 开源了他们自己训练的大模型...
AI模型可被劫持,Hugging Face转换服务存在高风险漏洞
网络安全公司HiddenLayer上周三在一份报告中表示,他们发现Hugging Face Safetensors转换工具存在着漏洞,可能被利用来劫持AI模型并发动供应链攻击。 Hugging Fac...
揭秘OpenAI Sora:5大炫酷功能及其对网络安全的双刃剑效应
关于OpenAI的最新杰作——Sora,大家应该或多或少都有了一些了解,这个AI视频生成器简直就是个黑科技,用几个字就能变出高清视频来。这不是开玩笑,真的是随便一输入,它就能给你来个电影级别的作品。现...
2024 年网络安全洞察:人工智能
人工智能 (AI) 在网络安全领域的应用已经有十多年了,主要是为了在威胁大海捞针中找出威胁之针。然而,到 2023 年,大型语言模型 (LLM) AI(通常称为 gen-AI)出现并普遍可用;其中 C...
OWASP发布《AI大模型应用网络安全治理检查清单》
日前,全球开源安全组织OWASP(Open Web Application Security Project)发布了《AI大模型应用网络安全治理检查清单(V1.0)》(以下简称为《检查清单》)。在这份...
openAI旗下Sora 13人核心团队:3名北大校友,4名华人,他们都是谁?
输入一段文字内容,就可以生产一段以假乱真的AI视频。让很多人开始焦虑:即将变天,人类下岗……也有不少人好奇,究竟是何方神圣打造了Sora?OpenAI在公布Sora视频时曾表示,Sora是能够理解和模...
Microsoft 发布 PyRIT - 生成式 AI 的红队工具
微软发布了一个名为PyRIT(Python风险识别工具的缩写)的开放访问自动化框架,用于主动识别生成式人工智能(AI)系统中的风险。这个红队工具旨在“使全球的每个组织都能够负责任地利用最新的人工智能进...
微软发布用于生成人工智能的红队工具
微软周四宣布发布 PyRIT,这是一款开放访问的红队工具,旨在帮助安全专业人员和机器学习工程师识别生成人工智能中的风险。微软表示, PyRIT通过自动化任务和标记需要进一步调查的区域来提高审计效率,从...
人工智能开发供应链披露的八个漏洞
人工智能网络安全初创公司Protect AI披露了用于开发内部人工智能和机器学习模型的开源供应链中发现的八个漏洞的详细信息。全部都有 CVE 编号,其中 1 个具有严重严重性,7 个具有高严重性。 这...
Gartner发布2024 年十大战略技术趋势
点击上方蓝字谈思实验室 获取更多汽车网络安全资讯 Gartner于今日发布2024年企业机构需要探索的十大战略技术趋势。Gartner研究副总裁Bart Willemsen表示:“由于技术变革以及社会...
70