要使AI代理能够"思考"并自主行动,必须赋予其自主权(agency),即允许其与其他系统集成、读取分析数据并执行命令。但随着这些系统获得对信息系统的深度访问权限,人们越来越担忧其权限过度扩张——当这些...
大模型与安全|第一弹:AI防口误指南之LLM输出安全实践
在数字化转型的浪潮中,大语言模型(以下统称LLM)已成为企业技术栈中不可或缺的智能组件,这种强大的AI技术同时也带来了前所未有的安全挑战。它输出的内容如同双面刃,一面闪耀着效率与创新的光芒,另一面却隐...
【AI】谈谈MCP(模型上下文协议)
最近MCP热度有点高了,并且实际开发上手后,挺有感触的。往好的说,能够显著提升工作效率;往坏了的说,xxx又要失业了。借这个机会,来谈谈对关于MCP相关的一些内容。MCP是什么网上已经有很多且很详细的...
初识 MCP(Model Context Protocol) 基本概念
背景之前Manus一夜爆火, 然后一夜跌下神坛, 号称“全球首款通用Agent产品”,但是有个5人小团队,仅花了三个小时,就搞出一个OpenManus项目,和Manus一模一样。这种采用饥饿营销,营销...
黄金赛道|AI引爆安全浏览器赛道
本文【四大黄金赛道之一】由AI生成(99%),为什么本次采用AI生成?1.Not Enough Free Time,但提示词代表笔者观点。2.时刻提醒自己逐步在沦为科技附庸,终有回归自然的一天。在当下...
什么是MCP?一个可让AI取证智能体(Agent)装上三头六臂的USB接口(内含MCP服务器使用教程、大模型知识科普)
【 前言 】什么是MCP?、MCP Server? 这个关键词在最近很流行,MCP早在24年11月26日由Anthropic提出并开源。全称为:Model Context Protocol,中文译为:...
GenSpark vs Manus:AI助手大PK,你的专属帮手是哪款?
前言人工智能技术的飞速发展,让AI智能代理从简单的聊天工具进化成了能够改变生活与工作的“超级助手”。在2025年的AI舞台上,GenSpark Super Agent(https://www.gens...
MCP开发实战-如何使用MCP真正加速UE项目开发
作者:hanzo用说人话的方式讲解MCP目前各种MCP的文章和实际例子以及开源工具层出不穷,本文试图用最简单的方式解释下MCP解决什么问题和MCP怎么写的问题。为啥要用MCPMCP是一项专为LLM工具...
对手模拟和红队行动的统一平台
VIPER是一个强大而灵活的红队平台,集成了对手模拟和红队行动所需的核心工具和功能,帮助您高效完成网络安全评估任务。用户友好界面提供直观的界面,使红队成员能够快速启动安全评估任务。多平台支持支持跨多种...
【大模型与安全】第二弹:大模型AI Agent的工作原理与安全挑战
01 引言智能体(AI Agent)作为大语言模型技术(LLM)的具体应用形式,突破了传统语言模型仅限于文字输入与输出的局限性。其通过感知环境、规划决策及执行行动的闭环机制,实现了对现实世界任务的高效...
AI Agent:功能、架构与安全风险
虽然RAG在提供上下文感知回答方面很强大,但如果希望LLM应用能够自主执行任务呢?这正是AI Agent的用武之地。本文Understanding AI Agent Security[1] 就介绍了A...
美国NIST发布保护AI系统免受对抗性攻击最新指南
编者按美国国家标准与技术研究所(NIST)3月24日正式发布保护AI系统免受对抗性攻击的最新指南《对抗性机器学习:攻击和缓解的分类和术语》(NIST AI 100-2e2025)。该指南描述了对抗性机...