prompt - 第 12 | CN-SEC 中文网

安全闲碎

纽约大学 | 基于大语言模型的零样本漏洞修复研究

原文标题：Examining Zero-Shot Vulnerability Repair with Large Language Models 原文作者：Hammond Pearce, ...

11月15日50 views评论

阅读全文

安全闲碎

G.O.S.S.I.P 阅读推荐 2023-10-27 LLM支持的协议Fuzzing

https://mpi-softsec.github.io/papers/NDSS24-chatafl.pdf 今天介绍一篇NDSS 2024论文，内容是基于LLM的协议fuzzing工作，来自德国m...

10月30日112 views评论

阅读全文

安全新闻

深入剖析大模型安全问题：Langchain框架的隐藏风险

作者：jifeng随着大模型热度持续，基于大模型的各类应用层出不穷。Langchain 作为一个以 LLM 模型为核心的开发框架，可以帮助我们灵活地创建各类应用，同时也为大模型的应用引入新的安全隐患。...

10月13日483 views评论

阅读全文

安全闲碎

兰州大学 | ChatGPT 驱动的漏洞描述映射及评估

原文标题：Not The End of Story: An Evaluation of ChatGPT-Driven Vulnerability Description Mappings原文作者：Xi...

09月24日174 views评论

阅读全文

安全闲碎

G.O.S.S.I.P 阅读推荐 2023-09-22 LLMs 支持的通用 Fuzzing

论文：https://arxiv.org/pdf/2308.04748.pdf今天分享一篇来自伊利诺伊大学厄巴纳-香槟分校（UIUC）的一篇研究论文 Universal Fuzzing via Lar...

09月22日109 views评论

阅读全文

安全文章

Prompt Injection Primer for Engineers- 提示注入入门指南

文章首发于个人博客：https://mybeibei.net，点击最下方“阅读原文”可直接跳转查看。背景介绍随着 AI 大语言模型的火爆，其安全性也受到了安全人员的关注。最近国外一位安全研究人员将目前...

09月05日52 views评论

阅读全文

安全工具

一文搞懂大模型框架：LangChain

来源：AI研究局作者：张伟在日常生活中，我们通常致力于构建端到端的应用程序。有许多自动机器学习平台和持续集成/持续交付（CI/CD）流水线可用于自动化我们的机器学习流程。我们还有像 Roboflow ...

08月12日67 views评论

阅读全文

IoT工控物联网

深度好文｜LLM在工业控制中的应用空气调节系统

cckuailong读完需要3分钟速读仅需 1 分钟1 前言最近，微软亚洲研究院提出可以将 LLM 用于工业控制，而且仅需少量示例样本就能达成优于传统强化学习方法的效果。该研究...

08月12日111 views评论

阅读全文

安全闲碎

提升ChatGPT性能的实用指南：Prompt Engineering的艺术

作者：mony一起探索 Prompt Engineering 的奥秘，并学习如何用它来让 ChatGPT 发挥出最大的潜力。什么是提示工程？提示工程是一门新兴学科，就像是为大语言模型（LLM）设计的"...

08月07日10 views评论

阅读全文

安全工具

XSS攻防挑战

Prompt-XSS攻击靶场 XSS是当今网络安全事件中数量最多的攻击方式，虽然其危害性不高，但主要和其他攻击手段相结合，以实现一个复杂的攻击场景。近期，看到一个好玩的XSS的靶场，于是分享给大家练习...

07月10日8 views评论

阅读全文

安全闲碎

G.O.S.S.I.P 阅读推荐 2023-07-06 ToxicArtist

今天推荐的论文是来自CISPA Helmholtz Center for Information Security张阳研究组的文章Unsafe Diffusion: On the Generation...

07月07日39 views评论

阅读全文

安全漏洞

CVE-2023-34541 LangChain 任意命令执行

漏洞简介 LangChain是一个用于开发由语言模型驱动的应用程序的框架。在LangChain受影响版本中，由于load_prompt函数加载提示文件时未对加载内容进行安全过滤，攻击者可通过构造包含...

06月27日86 views评论

阅读全文

纽约大学 | 基于大语言模型的零样本漏洞修复研究

G.O.S.S.I.P 阅读推荐 2023-10-27 LLM支持的协议Fuzzing

深入剖析大模型安全问题：Langchain框架的隐藏风险

兰州大学 | ChatGPT 驱动的漏洞描述映射及评估

G.O.S.S.I.P 阅读推荐 2023-09-22 LLMs 支持的通用 Fuzzing

Prompt Injection Primer for Engineers- 提示注入入门指南

一文搞懂大模型框架：LangChain

深度好文｜LLM在工业控制中的应用空气调节系统

提升ChatGPT性能的实用指南：Prompt Engineering的艺术

XSS攻防挑战

G.O.S.S.I.P 阅读推荐 2023-07-06 ToxicArtist

CVE-2023-34541 LangChain 任意命令执行

在线咨询

微信