前言由于传播、利用此文所提供的信息而造成的任何直接或者间接的后果及损失,均由使用者本人负责,灵悉安全团队以及文章作者不为此承担任何责任。灵悉安全团队有对此文章的修改和解释权。如欲转载或传播此文章,必须...
大模型与智能运维的协同框架
随着数字化转型的不断深入,传统运维模式在面对复杂系统、海量数据及实时性需求的挑战时,逐渐暴露出其局限性。大模型凭借其卓越的语义理解、推理生成和多模态处理能力,为智能运维(AIOps)的升级提供了全新的...
快速理解热门LLM大语言模型
作者:masonpy本文尽量用最简单的方式, 帮读者理解 LLM, Transformer, Prompt, Function calling, MCP, Agent, A2A 等这些基本概念. 表...
AI学会自保,ChatGPT o3模型存在抗拒关闭行为
帕利塞德研究公司(Palisade Research)近期开展的一系列测试揭示了先进AI系统在被要求自行关闭时的异常行为。测试结果显示,OpenAI的实验性模型"o3"即使在明确收到允许关闭的指令后,...
Mem0,用LLM给智能体解决记忆问题,开源
人类记忆是智力的基础——它塑造我们的身份,指导决策,并使我们能够学习、适应和建立有意义的关系,记忆也是人类个性化的基础。大模型在完成训练后,知识不再增加,记忆不再增加,是非常大的问题。现在快速发展的智...
危险的创新:匆忙上马 AI 项目带来八大安全隐患
一开始就强调安全基础可以降低AI风险。然而,近三分之二的公司在部署AI工具前未能评估其安全隐患。危险的速度竞赛人工智能(AI)和大语言模型(LLM)正在重塑各行各业,提高效率,并开启新的商业机会,AI...
MCP 工具中毒攻击
模型上下文协议 (MCP) 容易受到工具中毒攻击。工具中毒攻击是指攻击者在 MCP 工具的描述中嵌入恶意指令。这些指令对用户不可见,但可以被 AI 模型解读,从而导致敏感数据泄露。Example:首先...
深度研究 | 解构国内外代表性Agentic AI系统风险模型
本文内容摘自为安全牛最新发布的《Agentic AI安全技术应用报告》Agentic AI正在走向现实应用。这些拥有自主决策能力的AI系统也带来了全新的安全挑战。与传统网络安全风险不同,Agentic...
MCP安全:开源MCP安全网关
简介Lasso security的MCP 网关是首个专为基于 MCP 的 AI 代理设计的开源安全网关,为组织提供所需的可见性、控制力和治理能力。项目地址:https://github.com/las...
【通俗易懂说AI】Function Call vs MCP:从点外卖到指挥厨师
Part.1在这个系列之前的几篇文章中,我们依次讲了以下的内容:大家都在说的MCP究竟是什么MCP如何安装以及使用MCP如何接入本地文件系统实战如何完成MCP Server的开发还没看过的小伙伴可以点...
最近都在传的大模型MCP到底是个啥
最近相信大家都被MCP给刷屏了,我这又是赶了个晚集。赶紧来研究研究这到底是个什么东西。Function Call起初,我们通过输入prompt的方式与大模型进行问答交流,慢慢的衍生成了AI类应用以及A...
【论文速读】| MOS:通过混合专家调优大语言模型实现有效的智能合约漏洞检测
基本信息原文标题:MOS: Towards Effective Smart Contract Vulnerability Detection through Mixture-of-Experts Tu...