一. 概述作为本系列的第四篇,本文聚焦大模型推理软件的安全风险。 随着大模型上云趋势加速,尽管推理框架通常被视为底层基础设施(负责模型运行的资源调度与计算优化),但经我们的研究发现,部分开源推理框架,...
【AI高危漏洞预警】llama_index DuckDBVectorStore SQL注入漏洞CVE-2025-1750
漏洞描述:llаmа_Indех是一个用于构建基于数据的LLM驱动代理的领先框架,该漏洞由于llаmа_Indех的DuсkDBVесtоrStоrе组件中的rеf_dос_id参数直接执行攻击者传递...
llama_index SQL注入漏洞(CVE-2025-1750)
此文章原创作者为源鲁安全实验室,转载请注明出处!此文章中所涉及的技术、思路和工具仅供网络安全学习为目的,不得以盈利为目的或非法利用,否则后果自行承担!01漏洞描述run-llama/llama_ind...
llama_Index SQL注入漏洞(CVE-2025-1750)POC及本地复现部署环境
免责声明:本公众号所发布的全部内容,包括但不限于技术文章、POC脚本、漏洞利用工具及相关测试环境,均仅限于合法的网络安全学习、研究和教学用途。所有人在使用上述内容时,应严格遵守中华人民共和国相关法律法...
【AI高危漏洞预警】LLama-Index CLI命令执行漏洞(CVE-2025-1753)
漏洞描述:LLаmа-Indех CLI版本v0.12.20包含一个OS命令注入漏洞,该漏洞源于对--filеѕ参数的不当处理,该参数直接传递给оѕ.ѕуѕtеm如果攻击者控制了此参数的内容,可以注入...
大模型提示词注入防护与安全评估(含代码)
写在前面:本文主要聚焦两部分内容,其一是通过代码实践来研究和验证基于llamafirewall在提示词注入防护的能力,通过学习此部分可以理解大模型自身防护中最关键的部分-提示词注入的防护方法;其二是了...
MCP开发实战-如何使用MCP真正加速UE项目开发
作者:hanzo用说人话的方式讲解MCP目前各种MCP的文章和实际例子以及开源工具层出不穷,本文试图用最简单的方式解释下MCP解决什么问题和MCP怎么写的问题。为啥要用MCPMCP是一项专为LLM工具...
大模型组件的漏洞与风险
大模型是指参数量庞大、计算资源需求高的机器学习模型,涵盖自然语言处理、计算机视觉、语音识别等多个领域。大模型安全是人工智能发展的核心议题,其重要性体现在三个方面:1、大模型若被恶意操控可能生成虚假信息...
最近智能体Agent 圈很热的MCP是什么?
MCP逐渐被接受,是因为MCP是开放标准。在AI项目开发中可以发现,集成AI模型复杂,现有框架如LangChain Tools、LlamaIndex和Vercel AI SDK存在问题。LangCha...
不到 4 万元的 DeepSeek-R1-671B-Q8 部署方案
虽然 DeepSeek-R1 是开源模型,理论上每个技术爱好者都可以在家里部署一套自己的 DeepSeek-R1,但由于其模型总参数高达 671B,典型的私有化部署方案需要 8 张 141G 的 H2...
Deepseek 动手开发安全智能体——(2) CVE 分析智能体 | 知识库 | 向量化
在上一个示例中,我们学习了如何构建 Kali 渗透智能体。本示例将进一步演示如何为智能体引入多个不同来源的知识,以增强其对特定领域的理解和回答能力。这个例子主要的教学演示:如何导入外部知识( HTML...
全民都能用上ChatGPT—【本地部署Llama3.1 AI模型】
--->目录<---0x01——ollama,llama3.1简介0x02——效果展示0x03——计算机配置要求0x04——Windows部署ollama0x05——本地部署llama3....