近年来,人工智能蓬勃发展,以大模型、生成式AI为首的技术革新,推动着人工智能产业发展进入全新时代。 在人工智能快速崛起的同时,大语言模型(LLM)也开始得到广泛运用。以ChatGPT为代表的生成式AI...
LLM Prompt 安全
LLM Prompt 安全 PART.1 背景 近期,大语言模型(LLM)正在各个应用领域引起巨大的变革,已经在搜索引擎、金融服务、企业办公、网络安全、教育培训、娱乐游戏、电子商务和社交平台等领域迅速...
专题解读 | ICLR2024图与大语言模型结合论文介绍
这次分享两篇近期在ICLR2024投稿的图与大语言模型结合的论文。一、Thought Propagation第一篇论文名为《Thought Propagation: An Analogical App...
G.O.S.S.I.P 阅读推荐 2023-12-20 代码本非人间语
以ChatGPT为代表的大语言模型(LLM)无疑是本年度人工智能技术最火热的领域,在可以预见的一段时间内,仍将引领通用人工智能技术的发展和在各个行业的应用落地。同样的,在LLM崛起之后的这段时间内,大...
OWASP 大语言模型应用程序十大风险V1.1(中文版)
微信公众号:计算机与网络安全 原文始发于微信公众号(计算机与网络安全):OWASP 大语言模型应用程序十大风险V1.1(中文版)
2024年20大网络安全威胁预测
根据最新发布的2024年云安全预测报告,新的一年恶意生成式AI(例如FraudGPT和WormGPT)的流行将引发大规模网络攻击活动。与此同时,基于大语言模型的AI应用也将大大提升网络安全防御的效率和...
基于大语言模型(LLMs)的应用威胁面分析
近期火热的ChatGPT是一种基于大型语言模型(LLMs)的应用,该应用允许用户与其自然语言交互,获取各种问题的答案。但新技术与应用的出现往往伴随着两面性,当人们在关注LLMs应用带来的优势的同时,也...
不同Ai(语言模型产品使用)体验
这里只看国外的,我没有用过国内的。下面是我同一个问题的答案,大家对照看看,关于最近有最新struts2漏洞chatgpt33回答问题特别快,但是没有什么思考。对于一些略微细节深层次的问题。有点呆板不能...
LLMs安全:针对业务模型应用场景下提示词攻击的防御检测方案
引言近期OpenAI在DevDay上发布了GPTs功能,允许用户根据特定的需求创建和使用定制版的GPT模型并通过GPTs Store分享给其他用户使用,未来在大模型应用领域已经开始趋于由OpenAI这...
主流大语言模型集体曝出训练数据泄露漏洞
近日,安全研究人员发布的一篇论文给“百模大战”的生成式人工智能开发热潮浇了一盆冷水。研究发现,黑客可利用新的数据提取攻击方法从当今主流的大语言模型(包括开源和封闭,对齐和未对齐模型)中大规模提取训练数...
LLMs安全:针对业务模型应用场景下提示词的攻击手段与危害
引言大语言模型凭借其卓越的语言生成、精准的文本理解能力以及对海量数据的涵盖,赢得了广泛的关注和应用,其影响现实世界的能力备受人们瞩目。近期,随着大模型应用的涌现,人们对于大模型使用的期望已超越简单的对...
LLM大模型安全(3)- 模型DOS攻击
本篇为模型DOS攻击,其实与普通的应用DOS攻击一样,更偏向于应用层,而非模型本身OWSAP Top 10分类OWASP Top 10 大型语言模型应用程序项目旨在让开发人员、设计人员、架构师、经理和...
15