“大语言模型是打开未来人工智能世界的钥匙,但如果没有安全测评的守护,这把钥匙可能会变成打开潘多拉魔盒的工具。”近年来,大语言模型凭借强大的语言处理能力,迅速渗透到智能客服、内容创作、代码编写等多个领域...
CISO的人工智能时代安全指南(二)
由 EPIC-AI 驱动的 Radware 云安全平台,到底是什么,又是如何助力 Radware 实现全方位云应用防护的呢?Radware EPIC-AI Radware通过云安全平台提供AI驱动的...
AI如何克隆声音?MiniMax的文本转语音揭秘
你有没有想过,有一天,AI能“复制”你的声音?就像给自己找了一个声音“分身”,让它帮你朗读、说话,甚至可以用它生成自然流畅的语音内容。最近,我玩了一下MiniMax AI,发现它不光能克隆声音,还能用...
AI 安全|DIFY 大模型平台漏洞预警(已复现)
前言由于传播、利用此文所提供的信息而造成的任何直接或者间接的后果及损失,均由使用者本人负责,灵悉安全团队以及文章作者不为此承担任何责任。灵悉安全团队有对此文章的修改和解释权。如欲转载或传播此文章,必须...
大模型与智能运维的协同框架
随着数字化转型的不断深入,传统运维模式在面对复杂系统、海量数据及实时性需求的挑战时,逐渐暴露出其局限性。大模型凭借其卓越的语义理解、推理生成和多模态处理能力,为智能运维(AIOps)的升级提供了全新的...
快速理解热门LLM大语言模型
作者:masonpy本文尽量用最简单的方式, 帮读者理解 LLM, Transformer, Prompt, Function calling, MCP, Agent, A2A 等这些基本概念. 表...
AI学会自保,ChatGPT o3模型存在抗拒关闭行为
帕利塞德研究公司(Palisade Research)近期开展的一系列测试揭示了先进AI系统在被要求自行关闭时的异常行为。测试结果显示,OpenAI的实验性模型"o3"即使在明确收到允许关闭的指令后,...
Mem0,用LLM给智能体解决记忆问题,开源
人类记忆是智力的基础——它塑造我们的身份,指导决策,并使我们能够学习、适应和建立有意义的关系,记忆也是人类个性化的基础。大模型在完成训练后,知识不再增加,记忆不再增加,是非常大的问题。现在快速发展的智...
危险的创新:匆忙上马 AI 项目带来八大安全隐患
一开始就强调安全基础可以降低AI风险。然而,近三分之二的公司在部署AI工具前未能评估其安全隐患。危险的速度竞赛人工智能(AI)和大语言模型(LLM)正在重塑各行各业,提高效率,并开启新的商业机会,AI...
MCP 工具中毒攻击
模型上下文协议 (MCP) 容易受到工具中毒攻击。工具中毒攻击是指攻击者在 MCP 工具的描述中嵌入恶意指令。这些指令对用户不可见,但可以被 AI 模型解读,从而导致敏感数据泄露。Example:首先...
深度研究 | 解构国内外代表性Agentic AI系统风险模型
本文内容摘自为安全牛最新发布的《Agentic AI安全技术应用报告》Agentic AI正在走向现实应用。这些拥有自主决策能力的AI系统也带来了全新的安全挑战。与传统网络安全风险不同,Agentic...
MCP安全:开源MCP安全网关
简介Lasso security的MCP 网关是首个专为基于 MCP 的 AI 代理设计的开源安全网关,为组织提供所需的可见性、控制力和治理能力。项目地址:https://github.com/las...