语言模型 - 第 22 | CN-SEC 中文网

安全新闻

基于大语言模型（LLMs）的应用威胁面分析

近期火热的ChatGPT是一种基于大型语言模型(LLMs)的应用，该应用允许用户与其自然语言交互，获取各种问题的答案。但新技术与应用的出现往往伴随着两面性，当人们在关注LLMs应用带来的优势的同时，也...

12月11日48 views评论

阅读全文

安全闲碎

不同Ai（语言模型产品使用）体验

这里只看国外的，我没有用过国内的。下面是我同一个问题的答案，大家对照看看，关于最近有最新struts2漏洞chatgpt33回答问题特别快，但是没有什么思考。对于一些略微细节深层次的问题。有点呆板不能...

12月11日19 views评论

阅读全文

安全新闻

LLMs安全：针对业务模型应用场景下提示词攻击的防御检测方案

引言近期OpenAI在DevDay上发布了GPTs功能，允许用户根据特定的需求创建和使用定制版的GPT模型并通过GPTs Store分享给其他用户使用，未来在大模型应用领域已经开始趋于由OpenAI这...

12月07日155 views评论

阅读全文

安全新闻

主流大语言模型集体曝出训练数据泄露漏洞

近日，安全研究人员发布的一篇论文给“百模大战”的生成式人工智能开发热潮浇了一盆冷水。研究发现，黑客可利用新的数据提取攻击方法从当今主流的大语言模型（包括开源和封闭，对齐和未对齐模型）中大规模提取训练数...

12月06日65 views评论

阅读全文

安全新闻

LLMs安全：针对业务模型应用场景下提示词的攻击手段与危害

引言大语言模型凭借其卓越的语言生成、精准的文本理解能力以及对海量数据的涵盖，赢得了广泛的关注和应用，其影响现实世界的能力备受人们瞩目。近期，随着大模型应用的涌现，人们对于大模型使用的期望已超越简单的对...

12月06日159 views评论

阅读全文

安全文章

LLM大模型安全（3）- 模型DOS攻击

本篇为模型DOS攻击，其实与普通的应用DOS攻击一样，更偏向于应用层，而非模型本身OWSAP Top 10分类OWASP Top 10 大型语言模型应用程序项目旨在让开发人员、设计人员、架构师、经理和...

12月04日89 views评论

阅读全文

安全文章

LLM大模型安全（2）-训练数据投毒攻击

本篇为大模型安全第2篇，主要讲述数据投毒攻击来污染大模型，从而造成非预期攻击行为OWSAP Top 10分类OWASP Top 10 大型语言模型应用程序项目旨在让开发人员、设计人员、架构师、经理和组...

12月04日346 views评论

阅读全文

信息情报

【资料】AI大模型与情报分析

今天给大家推送亚当·C和理查德·卡特撰写的《大型语言模型和情报分析》【导言】本文探讨了大型语言模型（LLM）的最新进展、主要限制和安全风险及其在情报界中的潜在应用。虽然大语言模型现在可以快速有效地完成...

12月02日247 views评论

阅读全文

安全文章

LLM大模型安全（1）-快速注入&不安全输出处理

最近玩了一些各个大厂的大模型对话机器人，感觉还是挺有意思，目前已经到了千模大战，为了不被市场淘汰，响应号召，跟进下大模型安全 OWSAP Top 10分类OWASP...

12月02日184 views评论

阅读全文

安全闲碎

大模型LLM在Text2SQL上的应用实践

一、前言目前，大模型的一个热门应用方向Text2SQL，它可以帮助用户快速生成想要查询的SQL语句，再结合可视化技术可以降低使用数据的门槛，更便捷的支持决策。本文将从以下四个方面介绍LLM在Text2...

11月29日270 views评论

阅读全文

安全新闻

基准发布 | 大语言模型（LLM）安全性测评基准

“大语言模型（LLM）安全性测评基准2023年8月15日国家六个部委发布的《生成式人工智能服务管理暂行办法》正式施行，该办法强调了大语言模型安全的重要性，防止生成潜在隐私泄露、违法犯罪内容。为评估大语...

11月24日296 views评论

阅读全文

安全新闻

大模型作战！2024年20大网络安全威胁预测

根据谷歌最新发布的2024年云安全预测报告，新的一年恶意生成式AI（例如FraudGPT和WormGPT）的流行将引发大规模网络攻击活动。与此同时，基于大语言模型的AI应用也将大大提升网络安全防御的效...

11月20日58 views评论

阅读全文

基于大语言模型（LLMs）的应用威胁面分析

不同Ai（语言模型产品使用）体验

LLMs安全：针对业务模型应用场景下提示词攻击的防御检测方案

主流大语言模型集体曝出训练数据泄露漏洞

LLMs安全：针对业务模型应用场景下提示词的攻击手段与危害

LLM大模型安全（3）- 模型DOS攻击

LLM大模型安全（2）-训练数据投毒攻击

【资料】AI大模型与情报分析

LLM大模型安全（1）-快速注入&不安全输出处理

大模型LLM在Text2SQL上的应用实践

基准发布 | 大语言模型（LLM）安全性测评基准

大模型作战！2024年20大网络安全威胁预测

在线咨询

微信