原文标题:Large Language Model Supply Chain: A Research Agenda原文作者:王申奥,赵彦杰,侯心怡,王浩宇(通讯作者)作者单位:华中科技大学Securi...
Cross Plugin Request Forgery (CPRF):大模型安全的隐秘威胁
大语言模型(LLMs)如 ChatGPT、Claude 等的应用正在快速扩展。为了实现更多样化的能力,这些模型通过插件扩展与外部系统交互,比如数据库查询、调用外部 API、生成报告等。然而,这种灵活性...
代码审查自动化中的大型语言模型
一、介绍1.1代码审查的演变代码审查长期以来一直是软件开发的基石,是确保代码质量,检测错误和保持项目一致性的关键步骤。传统上,这个过程涉及同行评审,开发人员手动评估彼此的代码错误,遵守编码标准和优化机...
【论文速读】| 针对大语言模型的可转移集成黑盒越狱攻击
基本信息原文标题:Transferable Ensemble Black-box Jailbreak Attacks on Large Language Models原文作者:Yiqi Yang, H...
AI安全 | Prompt越狱手册第一版发布
微信公众号有字数限制,无法放下如此大的篇幅。正文部分仅有目录以及如下部分的内容。 Prompt越狱框架 越狱框架的潜力 越狱框架,打造专属你的漏洞助手 米斯特漏洞助手设计 源代码公开: 本文参考资料:...
360发布全球首份《大模型安全漏洞报告》,曝光近40个大模型相关安全漏洞
近年来,全球人工智能浪潮持续升温,大模型作为AI领域中的重要一环,其能力随着平台算力的提升、训练数据量的积累、深度学习算法的突破,得到了进一步提升。然而以大模型为核心涌现的大量技术应用背后,也带来...
专题解读 | 大语言模型在可解释推荐领域的应用
LLM 在可解释推荐领域的应用一、简介大语言模型(LLM)在推动可解释推荐系统的发展中发挥了关键作用。它们具备强大的自然语言处理和生成能力,能够理解复杂的用户行为和项目特征,并将其转化为类人解释。LL...
用XTuner 微调一个网安杂谈小助手
原始InternLM/Tutorial: LLM&VLM Tutorial教程在这里 这次课的目标是: 针对业务场景(如特殊自我认知的机器人)的微调能力;打造一个属于自己的语言聊...
基于大模型在流量分析领域应用的实践(二)
随着网络威胁的复杂性与日俱增,传统的基于规则和机器学习的流量分析方法难以应对新兴威胁的多样化和高级性。大语言模型(LLM, Large Language Model)在自然语言处理领域展现了强...
我如何构建部署本地的AI(上)
目录:知识点1.部署本地基础模型2.中文微调3.中间层构思总字数:2039 (对不起大家我的排版原因全乱套了,我给原文获取方式)pdf原文获取私信公众号: AI上pdf首先我们了解一些知识点 LLaM...
大模型(ChatGPT)语料污染第一真实案例
今天看到一个非常有意思的案例,应该说可以载入史册的案例。我最早看有群里转发COS的一个推文:然后在hi群发了下,COS看到后跟我说了下大体过程,从受害者r_ocky.eth @r_cky0 的推文:详...
一文讲清楚大模型在网络空间安全里的应用
AI相关的技术诞生已久,在安全领域里也有非常多的应用,从深度学习开始,在流量检测、反垃圾邮件,用户行为分析等,都取得了非常好的效果。大语言模型(LLM)出现后,尤其是自ChatGPT3.5之后,由于其...
63