背景近年来，随着人工智能技术，尤其是大模型（如GPT类模型、BERT类模型等）的不断发展，这些模型已被广泛集成到各类应用中，从数字助手到AI驱动的新闻产业，几乎覆盖了各行各业。大模型的应用逐渐成为提升...
12月09日19 views评论gpt
llm
提示词注入攻击
12月09日19 views评论gpt
llm
12月09日19 views评论gpt
llm
2024年OWASP LLM安全漏洞年度报告
市场概述在生成式AI技术迅猛发展的2024年，企业对AI技术的采用呈现爆发式增长。根据Menlo Ventures发布的最新市场数据显示，2024年AI相关投资规模已达到138亿美元的历史新高，较20...
12月09日5 views评论llm
生成式
当大模型可以执行SQL语句
LLM（大模型）发展以来，也了解了一些大模型应用安全相关的内容，也做过一些大模型安全类的题目，感觉挺有意思。最近发现了PortSwigger上的LLM安全靶场，开个系列来记录记录。题目介绍#靶场地址h...
12月08日9 views评论llm
sql语句
报告|A Road Towards an Interaction between Cyber Security and AIGC
浙江大学计算机科学与技术学院浙江大学区块链与数据安全全国重点实验室浙江大学网络空间安全学院 学 术 报 告刘 杨新加坡南洋理工大学 校长讲席教授A Road Towards an Interacti...
12月06日14 views评论action
llm
【论文速读】| AutoPT：研究者距离端到端的自动化网络渗透测试还有多远？
基本信息原文标题：AutoPT: How Far Are We from the End2End Automated Web Penetration Testing?原文作者：Benlong Wu, ...
12月05日7 views评论llm
渗透测试
【论文速读】| AttackQA：利用微调及开源大语言模型辅助网络安全运营的数据集的开发与应用
基本信息原文标题: AttackQA: Development and Adoption of a Dataset for Assisting Cybersecurity Operations Usi...
12月04日15 views评论llm
网络安全
G.O.S.S.I.P 阅读推荐 2024-12-02 TensorAbuse
12月的第一篇论文推荐为大家推荐的论文来自浙江大学申文博老师研究组与新加坡管理大学谢肖飞老师合作完成并投稿的，已被IEEE S&P 2025接收的论文My Model is Malware t...
12月03日10 views评论llm
序列化
SinkFinder 开源 - 版本更新+LLM能力
更新内容 增加入口 Source 点判断 增加 LLM 能力集成 其他缓存优化 1. Source 点判断 webx 入口实现 com.alibaba.citrus.service.pipeline....
12月01日20 views评论rce
servlet
LLM 在网络安全中的实际应用案例（第一部分）
Practical Use Cases for LLM’s in cyber security (part 1)首先我要声明，我不是一名开发人员。我自己写过的代码很少（在 2000 年代中期写过一些小...
11月30日49 views评论chatgpt
网络安全
专题解读 | 知识蒸馏再升级：用大语言模型赋能图神经网络
知识蒸馏再升级：用大语言模型赋能图神经网络一、背景介绍知识蒸馏（Knowledge Distillation）作为一种模型压缩方法，通过将复杂教师模型（Teacher Model）的知识传递给较轻量的...
11月29日55 views评论llm
语言模型
一文读懂OWASP LLM应用十大风险，洞悉最新安全态势
点击蓝字关注中科天齐“提示注入”持续作为首要风险，“敏感信息泄露”风险显著上升，“供应链安全“风险日益突出，”系统提示泄露“和"向量和嵌入漏洞”成为新的隐患……11月25日，OWASP最新发布的“大语...
11月28日7 views评论llm
敏感信息
华中科技大学 | 大模型供应链研究路线图
原文标题：Large Language Model Supply Chain: A Research Agenda原文作者：王申奥，赵彦杰，侯心怡，王浩宇（通讯作者）作者单位：华中科技大学Securi...
11月27日41 views评论llm
供应链
42