随着ChatGPT的横空出世,人工智能将增强攻击者的能力,这似乎成为了安全领域公认的事实。随着生成式AI的不断演进,安全领域的专家们就开始预测大语言模型(LLM)将会成为攻击者用于编写网络钓鱼邮件的工...
LLM强化防线:大模型敏感信息的泄露检测和风险评估
01 概述 随着大语言模型(LLM)及相关技术的迅猛发展,越来越多的人开始将其视为提升工作效率的有力工具,但与此同时,人们对于LLM敏感信息泄漏问题的担忧与日俱增。在《LLM安全警报:六起真实案例剖析...
人工智能 | 探索大语言模型的安全和隐私挑战
近年来,人工智能蓬勃发展,以大模型、生成式AI为首的技术革新,推动着人工智能产业发展进入全新时代。 在人工智能快速崛起的同时,大语言模型(LLM)也开始得到广泛运用。以ChatGPT为代表的生成式AI...
LLM Prompt 安全
LLM Prompt 安全 PART.1 背景 近期,大语言模型(LLM)正在各个应用领域引起巨大的变革,已经在搜索引擎、金融服务、企业办公、网络安全、教育培训、娱乐游戏、电子商务和社交平台等领域迅速...
专题解读 | ICLR2024图与大语言模型结合论文介绍
这次分享两篇近期在ICLR2024投稿的图与大语言模型结合的论文。一、Thought Propagation第一篇论文名为《Thought Propagation: An Analogical App...
LLM安全警报:六起真实案例剖析,揭露敏感信息泄露的严重后果
概述今年以来,大语言模型(LLM)及相关技术飞速发展,不断刷新人们对于人工智能的认知。与此同时,LLM敏感信息泄露(Sensitive Information Disclosure)备受关注,恶意使用...
大模型正在记住与说出,警惕AI泄露您的隐私与机密
「大模型」引领的创新变革正在发生身处技术爆炸时代高光与隐忧共存安全风险已成为发展中无法忽视的话题↓LLM在使用过程中包含敏感机密的数据或信息可能会导致未授权的数据访问、隐私侵犯、安全漏洞等风险随之造成...
ChatAFL:LLM模型指导的协议模糊测试|技术进展
基本信息 原文名称:Large Language Model guided Protocol Fuzzing 原文作者:Ruijie Meng,Martin Mirchev,Marcel Bohme ...
G.O.S.S.I.P 阅读推荐 2023-12-22 漏洞挖掘哪家强?
2023年就快结束了,在这一年,对代码进行漏洞扫描,不仅可以利用传统的静态分析工具,还可以使用基于深度学习的AI分析技术,更重要的是我们拥有了大语言模型(LLM)加成的代码分析技术。程序员在这个时代确...
探讨大语言模型AI越狱风险和治理
在数字化时代,企业面临着提高效率和降低运营成本的挑战,尤其是在客户服务领域。大型语言模型(LLM)作为人工智能技术的前沿,为这一挑战提供了创新解决方案。LLM通过自动化客户互动的关键环节,不仅提升了服...
G.O.S.S.I.P 阅读推荐 2023-12-20 代码本非人间语
以ChatGPT为代表的大语言模型(LLM)无疑是本年度人工智能技术最火热的领域,在可以预见的一段时间内,仍将引领通用人工智能技术的发展和在各个行业的应用落地。同样的,在LLM崛起之后的这段时间内,大...
如何通过Prompt优化Text2SQL的效果
前言在上篇文章中「大模型LLM在Text2SQL上的应用实践」介绍了基于SQLDatabaseChain的Text2SQL实践,但对于逻辑复杂的查询在稳定性、可靠性、安全性方面可能无法达到预期,比如输...
44