2024年2月29日,奇安信集团对外发布《2024人工智能安全报告》(以下简称《报告》)。《报告》认为,人工智能技术的恶意使用将快速增长,在政治安全、网络安全、物理安全和军事安全等方面构成严重威胁。 ...
全球知名AI 平台Hugging Face 惊现上百个恶意ML模型
左右滑动查看更多近日,JFrog 的安全团队发现Hugging Face 平台上至少 100 个恶意人工智能 ML 模型实例,其中一些可以在受害者的机器上执行代码,为攻击者提供了一个持久的后门,构成了...
美能源部投资4500万美元用于16个项目以改善网络安全
美国能源部周一宣布对 16 个项目进行总计 4500 万美元的投资,以改善整个能源行业的网络安全。这些项目由网络安全、能源安全和应急响应办公室 (CESER) 管理,旨在开发新工具来降低网络风险并提高...
AI攻防:如何使用人工智能提升网络安全性
引言在近几十年中,人工智能 (AI) 已经从科幻概念逐步转变为实际应用,渗透到社会的每个角落。从为电商网站推荐个性化商品,到自动制导车辆,再到帮助医生诊断疾病,AI的应用看似无所不在。然而,随着AI在...
2024 年网络安全洞察:人工智能
人工智能 (AI) 在网络安全领域的应用已经有十多年了,主要是为了在威胁大海捞针中找出威胁之针。然而,到 2023 年,大型语言模型 (LLM) AI(通常称为 gen-AI)出现并普遍可用;其中 C...
Microsoft 发布 PyRIT,能自动识别AI系统中的风险
关键词系统风险Microsoft发布了一个名为PyRIT(Python风险识别工具的缩写)的开放访问自动化框架,以主动识别生成式人工智能(AI)系统中的风险。红队工具旨在“使全球每个组织都能利用最新的...
微软发布针对AIGC的红队测试开源工具
近日,微软发布了PyRIT(用于生成式人工智能的Python风险识别工具包)红队测试工具,通过自动化帮助识别生成式人工智能中的风险。这是一个开源的红队测试工具,旨在帮助安全专业人员和机器学习工程师识别...
AI 的力量:使用 ChatGPT 进行暗网监控
暗网通常 笼罩在神秘和阴谋之中,是传统搜索引擎和浏览器隐藏的互联网的一部分。在这个领域,匿名至关重要,从贩毒到网络犯罪等各种非法活动都找到了避风港。随着人工智能的快速发展,OpenAI 的 C...
【AI报告】情报分析
今天给大家分享一份由AI对网络文章进行收集并汇总、摘要后制作的“情报分析”PPT。一、情报分析的未来及其对社会的影响多年来,情报分析已经取得了长足的进步,随着技术的进步,我们只能期望它继续发展并影响社...
微软发布用于生成人工智能的红队工具
微软周四宣布发布 PyRIT,这是一款开放访问的红队工具,旨在帮助安全专业人员和机器学习工程师识别生成人工智能中的风险。微软表示, PyRIT通过自动化任务和标记需要进一步调查的区域来提高审计效率,从...
快速搭建谷歌Gemini Pro Chat
免责声明 本文发布的内容,仅用作测试和学习研究,禁止用于商业用途,不能保证其合法性,准确性,完整性和有效性 文中所涉及的技术、思路及工具等相关知识仅供安全为目的的学习使用,任何人不得将其应用于非法用途...
人工智能开发供应链披露的八个漏洞
人工智能网络安全初创公司Protect AI披露了用于开发内部人工智能和机器学习模型的开源供应链中发现的八个漏洞的详细信息。全部都有 CVE 编号,其中 1 个具有严重严重性,7 个具有高严重性。 这...
112