大语言模型上下文窗口扩展方法一、简介上下文窗口(context window)是大语言模型(LLM)的一个重要概念,指模型在一次推理或生成过程中可以处理的文本长度。大语言模型的上下文窗口大小取决于预训...
还能这样对大模型投毒
前两次的靶场更多的就是把输入方式换成了大模型输入,本质上跟传统安全是一样的。而第三个靶场总算是回到了最常见的大模型提示词相关的场景。靶场地址:https://portswigger.net/web-s...
专题解读 | 大语言模型在推荐场景的实践
大语言模型在推荐场景的实践一、简介随着大语言模型(LLMs)的不断发展,工业界大量探索LLM在实际推荐场景的应用。本文介绍小红书在笔记推荐场景应用LLM的探索,以及字节应用LLM在抖音业务上的实践。二...
大模型应用入门:RAG技术详解与实战指南
当然你可能使用过Kimi Chat、豆包这样的大模型工具,它们可能已经在生活中充当了我们的创作助手、咨询专家、甚至情感陪护等,但这样的应用还远远不能发挥出大模型的真正价值,我们期望大模型在更专业的生产...
AI安全漏洞之VLLM反序列化漏洞分析与保姆级复现(附批量利用)
前期准备 环境需要:Linux(这里使用kali)、Anaconda 首先安装Anaconda 前言:最好使用linux,如果使用windows可能会产生各种报错(各种各种各种!!!),最好使用Ana...
深度分析 | AI数字人应用的主要风险及合规要点
前 言AI数字人的生产效率和智能交互水平受益于人工智能技术的发展得到了大幅提升,从而使AI数字人能够更广泛地服务于各行各业1。而伴随AI数字人市场规模的扩大,数字人应用相关的合规风险也成为了业内备...
大模型安全的漏洞
下文主要基于360 安全大模型代码分析能力,对多个开源项目进行代码梳理和风险评估,结合分析报告,快速审计并发现了近 40 个大模型相关安全漏洞,影响范围覆盖llama.cpp、Dify 等知名模型服务...
专题解读 | 大语言模型辅助代码文档生成
大语言模型辅助代码文档生成随着大语言模型的广泛应用,LLM辅助进行代码文档生成在业界已逐渐成为趋势。代码文档的生成是软件开发中的一个关键环节,直接影响到代码的可读性、维护性以及团队协作的效率。传统的文...
当大模型可以执行SQL语句
LLM(大模型)发展以来,也了解了一些大模型应用安全相关的内容,也做过一些大模型安全类的题目,感觉挺有意思。最近发现了PortSwigger上的LLM安全靶场,开个系列来记录记录。题目介绍#靶场地址h...
AISS专栏 | 模型越狱攻击手段与评估框架分析
前言模型越狱是指通过各种手段突破人工智能模型内置的安全性和内容政策,迫使模型执行一些原本被禁止的操作或生成敏感、违法及不当的内容。这类越狱行为通常会涉及绕过模型的过滤系统、道德规范或安全限制,使模型生...
【论文速读】| AttackQA:利用微调及开源大语言模型辅助网络安全运营的数据集的开发与应用
基本信息原文标题: AttackQA: Development and Adoption of a Dataset for Assisting Cybersecurity Operations Usi...
通俗地说说RAG及其与大模型的结合
RAG 全称 Retrieval-Augmented Generation,翻译成中文是检索增强生成。这一年多,在大模型应用领域,RAG频繁地出现。为什么它这么热?需要怎么理解看待RAG?01为什么需...
73