AI大模型创新与应用风起云涌,有机构预测2025年将涌现5亿个TO B和TO C的AI应用,加速渗透到金融、制造、政务等千行百业,推动生产效率与业务模式的深刻变革。但大模型的规模化应用也给企业带来了包...
MCP开发实战-如何使用MCP真正加速UE项目开发
作者:hanzo用说人话的方式讲解MCP目前各种MCP的文章和实际例子以及开源工具层出不穷,本文试图用最简单的方式解释下MCP解决什么问题和MCP怎么写的问题。为啥要用MCPMCP是一项专为LLM工具...
万字长文DeepSeek-R1、Kimi 1.5及强推理模型开发解读(长文配视频)
北大 AI 对齐团队对包括 DeepSeek-R1、Kimi-K1.5在内的一些强推理模型进行了 2 万字的技术解读,也是此前 o1 解读的续作。建议文字搭配视频观看,效果更佳。视频:DeepSeek...
大模型组件的漏洞与风险
大模型是指参数量庞大、计算资源需求高的机器学习模型,涵盖自然语言处理、计算机视觉、语音识别等多个领域。大模型安全是人工智能发展的核心议题,其重要性体现在三个方面:1、大模型若被恶意操控可能生成虚假信息...
【大模型与安全】第二弹:大模型AI Agent的工作原理与安全挑战
01 引言智能体(AI Agent)作为大语言模型技术(LLM)的具体应用形式,突破了传统语言模型仅限于文字输入与输出的局限性。其通过感知环境、规划决策及执行行动的闭环机制,实现了对现实世界任务的高效...
AI Agent:功能、架构与安全风险
虽然RAG在提供上下文感知回答方面很强大,但如果希望LLM应用能够自主执行任务呢?这正是AI Agent的用武之地。本文Understanding AI Agent Security[1] 就介绍了A...
别再为AI安全焦虑!一文掌握MCP的安全风险与防护
引言模型上下文协议(Model Context Protocol, MCP)[1]是一个开放标准,为 AI 模型和智能代理应用连接各种数据源和工具提供了统一方式。它使 AI 应用能够获取上下文信息 (...
普通人使用AI常犯的两个错误
普通人面对AI最容易犯这两个错误。(内容来自抖音-尹烨,华大集团CEO)你真的要胆敢把活交给它干就完蛋,这是很多人对AI的第一个误解。尹烨:先从罗老师说,你自己每天怎么样用AI的,这样给大家做一下分享...
安全大模型应用场景及发展趋势分析
安全大模型应用场景及发展趋势分析一、安全大模型的核心应用场景智能威胁检测与响应安全大模型通过整合多源数据(如日志、网络流量、威胁情报),结合自然语言处理技术,实现自动化威胁分析、攻击链重构及威胁报告生...
【论文速读】| 迈向智能且安全的云:大语言模型赋能的主动防御
基本信息原文标题:Toward Intelligent and Secure Cloud: Large Language Model Empowered Proactive Defense原文作者:Y...
当我们在谈论大模型辅助编程时,我们在谈论什么(二)之MCP
最近逼逼的频率确实有点高,证明最近没有偷懒,有在认真的思考问题,每天梦里有也都是各种LLMs和Agents。但还是那句话,本文只是笔者一家之言,仅仅代表自己,不代表任何组织观点,有不同看法或者发现错误...
间接提示注入攻击全面测评
前言大型语言模型(LLMs)正日益被整合到代理框架中,使其能够通过工具执行特定操作。这些代理不仅可以处理复杂的任务,还能够与外部系统交互,例如自动化流程和设备控制等。随着技术的进步,LLM驱动的代理被...