在人工智能蓬勃发展并融合到各行各业的当前,一种新型的威胁正悄然蔓延:隐形提示注入攻击。这种看不见的攻击手段,利用了用户肉眼无法识别的特殊字符,悄无声息地影响着大语言模型的行为。它就像一个隐藏在阴影中的...
大模型系列之LLaMA Factory微调学习
关于LLaMA Factory在人工智能技术迅速发展的今天,如何高效地微调和部署大型语言模型(LLM)成为了研究和应用的热点。Llama-Factory 作为一个开源的微调框架,正是在这一背景下应运而...
AI安全 | 大语言模型的安全与隐私调查
大语言模型(LLM)具有语言理解能力、类人文本生成能力、上下文感知能力和强大的问题解决能力,这使其在各个领域(如搜索引擎、客户支持和翻译)都具有重要价值。本文将探讨LLM如何对安全和隐私产生积极影响,...
【论文速读】| 评估并提高大语言模型生成的安全攻击探测器的鲁棒性
基本信息原文标题:Evaluating and Improving the Robustness of Security Attack Detectors Generated by LLMs原文作者:...
LLMSecOps|LLM和GenAI的安全解决方案
如果你也想在网络安全上全栈,点击下方名片关注我,助你离目标更近一步!引言:随着生成式AI的采用、使用和应用程序开发的增长,新的安全风险也随之而来,影响着企业或组织的战略规划和投资。当然,对应的消减方案...
[论文翻译]多步骤越狱隐私攻击对ChatGPT的影响
https://arxiv.org/pdf/2304.05197Multi-step Jailbreaking Privacy Attacks on ChatGPT多步骤越狱隐私攻击对ChatGPT的...
2025 OWASP 大语言模型应用程序10大风险
网安人必收!2024年度报告&白皮书、安全标准与技术方案全汇总2024年度大盘点:网络安全必读资料大集合在这个AI技术日新月异的时代,大规模语言模型(LLM)正以前所未有的速度重塑各行各业。从...
专题解读 | 大模型增强图推荐的两类主流方法
大模型增强图推荐的两类主流方法一、简介大型语言模型(LLMs)的快速发展展示了其在生成、推理和建模世界知识方面的卓越能力。推荐系统也预计将从LLMs的发展中获得显著的好处。最近的研究努力已经将LLMs...
【论文速读】| 利用大语言模型在灰盒模糊测试中生成初始种子
基本信息论文标题: Harnessing Large Language Models for Seed Generation in Greyb0x Fuzzing作者: Wenxuan Shi, Yu...
专题解读|大语言模型在图学习中的中段信息丢失现象
专题解读|大语言模型的中段信息丢失现象一、简介近年来,以大语言模型为代表的“预训练-微调”、“预训练-适配”范式得到了广泛的认可,其不仅能通过大量的预训练获得通用性能力,还能通过下游的适配单元适应各式...
新型 AI 越狱方法Bad Likert Judge将攻击成功率提升 60% 以上
导 读网络安全研究人员揭示了一种新的越狱技术,该技术可用于突破大型语言模型 (LLM) 的安全护栏并产生潜在的有害或恶意响应。这种多回合(又称多次攻击)攻击策略被Palo Alto Networks ...
小型语言模型:AI领域的新热点
多年来,谷歌等科技巨头和OpenAI等初创公司,一直在不遗余力地利用海量在线数据,打造更大、更昂贵的人工智能(AI)模型。这些大型语言模型(LLM)被广泛应用于ChatGPT等聊天机器人中,帮助用户处...
30