LLM(大模型)发展以来,也了解了一些大模型应用安全相关的内容,也做过一些大模型安全类的题目,感觉挺有意思。最近发现了PortSwigger上的LLM安全靶场,开个系列来记录记录。题目介绍#靶场地址h...
报告|A Road Towards an Interaction between Cyber Security and AIGC
浙江大学计算机科学与技术学院浙江大学区块链与数据安全全国重点实验室浙江大学网络空间安全学院 学 术 报 告刘 杨新加坡南洋理工大学 校长讲席教授A Road Towards an Interacti...
【论文速读】| AutoPT:研究者距离端到端的自动化网络渗透测试还有多远?
基本信息原文标题:AutoPT: How Far Are We from the End2End Automated Web Penetration Testing?原文作者:Benlong Wu, ...
【论文速读】| AttackQA:利用微调及开源大语言模型辅助网络安全运营的数据集的开发与应用
基本信息原文标题: AttackQA: Development and Adoption of a Dataset for Assisting Cybersecurity Operations Usi...
G.O.S.S.I.P 阅读推荐 2024-12-02 TensorAbuse
12月的第一篇论文推荐为大家推荐的论文来自浙江大学申文博老师研究组与新加坡管理大学谢肖飞老师合作完成并投稿的,已被IEEE S&P 2025接收的论文My Model is Malware t...
SinkFinder 开源 - 版本更新+LLM能力
更新内容 增加入口 Source 点判断 增加 LLM 能力集成 其他缓存优化 1. Source 点判断 webx 入口实现 com.alibaba.citrus.service.pipeline....
LLM 在网络安全中的实际应用案例(第一部分)
Practical Use Cases for LLM’s in cyber security (part 1)首先我要声明,我不是一名开发人员。我自己写过的代码很少(在 2000 年代中期写过一些小...
专题解读 | 知识蒸馏再升级:用大语言模型赋能图神经网络
知识蒸馏再升级:用大语言模型赋能图神经网络一、背景介绍知识蒸馏(Knowledge Distillation)作为一种模型压缩方法,通过将复杂教师模型(Teacher Model)的知识传递给较轻量的...
一文读懂OWASP LLM应用十大风险,洞悉最新安全态势
点击蓝字关注中科天齐“提示注入”持续作为首要风险,“敏感信息泄露”风险显著上升,“供应链安全“风险日益突出,”系统提示泄露“和"向量和嵌入漏洞”成为新的隐患……11月25日,OWASP最新发布的“大语...
华中科技大学 | 大模型供应链研究路线图
原文标题:Large Language Model Supply Chain: A Research Agenda原文作者:王申奥,赵彦杰,侯心怡,王浩宇(通讯作者)作者单位:华中科技大学Securi...
代码审查自动化中的大型语言模型
一、介绍1.1代码审查的演变代码审查长期以来一直是软件开发的基石,是确保代码质量,检测错误和保持项目一致性的关键步骤。传统上,这个过程涉及同行评审,开发人员手动评估彼此的代码错误,遵守编码标准和优化机...
【论文速读】| 针对大语言模型的可转移集成黑盒越狱攻击
基本信息原文标题:Transferable Ensemble Black-box Jailbreak Attacks on Large Language Models原文作者:Yiqi Yang, H...
44