对于我，一个有一点 golang 基础底子但不多的人，有时候想写点代码但是苦于脑中没有构思和对应库的详细使用经验，因此在开发过程中需要耗费大量的时间精力去百度查看文档。机缘巧合下发...
12月02日15 views评论llm
指纹识别
使用腾讯混元LLM辅助红队代码能力建设
12月02日15 views评论llm
指纹识别
12月02日15 views评论llm
指纹识别
大模型LLM在Text2SQL上的应用实践
一、前言目前，大模型的一个热门应用方向Text2SQL，它可以帮助用户快速生成想要查询的SQL语句，再结合可视化技术可以降低使用数据的门槛，更便捷的支持决策。本文将从以下四个方面介绍LLM在Text2...
11月29日270 views评论llm
语言模型
利用RAG增强实现对ATT&CK的LLM智能问答
引言在网络安全的世界里，我们习惯于处理复杂的数据和不断变化的威胁。但是，当这些经验与人工智能的强大能力相结合时，我们能够开辟出全新的解决方案和应对策略。特别是，大型语言模型（LLM）的出现，如Open...
11月28日98 views评论llm
网络安全
基准发布 | 大语言模型（LLM）安全性测评基准
“大语言模型（LLM）安全性测评基准2023年8月15日国家六个部委发布的《生成式人工智能服务管理暂行办法》正式施行，该办法强调了大语言模型安全的重要性，防止生成潜在隐私泄露、违法犯罪内容。为评估大语...
11月24日296 views评论llm
语言模型
纽约大学 | 基于大语言模型的零样本漏洞修复研究
原文标题：Examining Zero-Shot Vulnerability Repair with Large Language Models 原文作者：Hammond Pearce, ...
11月15日51 views评论cwe
llm
G.O.S.S.I.P 阅读推荐 2023-10-27 LLM支持的协议Fuzzing
https://mpi-softsec.github.io/papers/NDSS24-chatafl.pdf 今天介绍一篇NDSS 2024论文，内容是基于LLM的协议fuzzing工作，来自德国m...
10月30日114 views评论document
llm
为何GPT-4P容易受到多模态提示注入图像攻击？
OpenAI新的GPT-4V版本支持图像上传后，带来了一条全新的攻击途径，使大型语言模型（LLM）容易受到多模态注入图像攻击。攻击者可以在图像中嵌入命令、恶意脚本和代码，随后模型会遵从行事。多模态提示...
10月30日20 views评论gpt
llm
G.O.S.S.I.P 阅读推荐 2023-10-25 用魔法打败魔法，最新NDSS论文实现全自动化攻陷各大厂商大模型聊天机器人
近年来，大型语言模型（LLM）在各个行业和领域中扮演着越来越重要的角色，特别是在聊天机器人（chatbot）方面。大家在使用这些聊天机器人的时候可能会发现，这些聊天机器人都是“翩翩君子”，对于敏感或者...
10月27日33 views评论llm
防御机制
GPT-4容易受到多模式提示注入图像攻击的原因
点击上方“蓝色字体”，选择 “设为星标”关键讯息，D1时间送达！OpenAI的新GPT-4版本支持图像上传，创建了一个全新的攻击矢量，使LLM容易受到多模式注入图像攻击。攻击者可以在图像中嵌入命令、恶...
10月26日24 views评论gpt
llm
G.O.S.S.I.P 阅读推荐 2023-10-16 LLM 时代的程序分析漫游指南
大语言模型（LLM）的热度依旧，今天我们要给大家推荐的这篇论文 The Hitchhiker’s Guide to Program Analysis: A Journey with Larg...
10月18日140 views评论llm
漏洞检测
从STRIDE威胁模型看AI应用的攻击面威胁与管理
STRIDE是一个流行的威胁建模框架，目前已被广泛用来帮助组织主动发现那些可能对其应用系统造成影响的威胁、攻击、漏洞和对策。如果把“STRIDE”中的每个字母拆开，则分别代表了假冒（Spoofing）...
10月13日61 views评论llm
攻击面
深入剖析大模型安全问题：Langchain框架的隐藏风险
作者：jifeng随着大模型热度持续，基于大模型的各类应用层出不穷。Langchain 作为一个以 LLM 模型为核心的开发框架，可以帮助我们灵活地创建各类应用，同时也为大模型的应用引入新的安全隐患。...
10月13日484 views评论llm
语言模型
44