基本信息原文标题:Transferable Ensemble Black-box Jailbreak Attacks on Large Language Models原文作者:Yiqi Yang, H...
AI安全 | Prompt越狱手册第一版发布
微信公众号有字数限制,无法放下如此大的篇幅。正文部分仅有目录以及如下部分的内容。 Prompt越狱框架 越狱框架的潜力 越狱框架,打造专属你的漏洞助手 米斯特漏洞助手设计 源代码公开: 本文参考资料:...
360发布全球首份《大模型安全漏洞报告》,曝光近40个大模型相关安全漏洞
近年来,全球人工智能浪潮持续升温,大模型作为AI领域中的重要一环,其能力随着平台算力的提升、训练数据量的积累、深度学习算法的突破,得到了进一步提升。然而以大模型为核心涌现的大量技术应用背后,也带来...
专题解读 | 大语言模型在可解释推荐领域的应用
LLM 在可解释推荐领域的应用一、简介大语言模型(LLM)在推动可解释推荐系统的发展中发挥了关键作用。它们具备强大的自然语言处理和生成能力,能够理解复杂的用户行为和项目特征,并将其转化为类人解释。LL...
用XTuner 微调一个网安杂谈小助手
原始InternLM/Tutorial: LLM&VLM Tutorial教程在这里 这次课的目标是: 针对业务场景(如特殊自我认知的机器人)的微调能力;打造一个属于自己的语言聊...
基于大模型在流量分析领域应用的实践(二)
随着网络威胁的复杂性与日俱增,传统的基于规则和机器学习的流量分析方法难以应对新兴威胁的多样化和高级性。大语言模型(LLM, Large Language Model)在自然语言处理领域展现了强...
我如何构建部署本地的AI(上)
目录:知识点1.部署本地基础模型2.中文微调3.中间层构思总字数:2039 (对不起大家我的排版原因全乱套了,我给原文获取方式)pdf原文获取私信公众号: AI上pdf首先我们了解一些知识点 LLaM...
大模型(ChatGPT)语料污染第一真实案例
今天看到一个非常有意思的案例,应该说可以载入史册的案例。我最早看有群里转发COS的一个推文:然后在hi群发了下,COS看到后跟我说了下大体过程,从受害者r_ocky.eth @r_cky0 的推文:详...
一文讲清楚大模型在网络空间安全里的应用
AI相关的技术诞生已久,在安全领域里也有非常多的应用,从深度学习开始,在流量检测、反垃圾邮件,用户行为分析等,都取得了非常好的效果。大语言模型(LLM)出现后,尤其是自ChatGPT3.5之后,由于其...
浅谈大模型辅助漏洞挖掘
目录一、前 言 二、函数级别漏洞检测 三、代码库级别漏洞检测 四、未来研究方向 五、总 结 一前 言大语言模型(LLM)近期成为安全研究和竞赛中的热门话题,涵盖了大模型在安全领域的...
AI 大模型安全实践指南
当前正处于人工智能飞速发展的黄金时期,以ChatGPT为代表的生成式人工智能技术极大地丰富了创意表达的方式,加速了知识的传播,并为社会变革注入了新的动力。在我国,大语言模型(Large Languag...
【论文速读】| 通过良性数据镜像对大语言模型进行隐蔽越狱攻击
基本信息原文标题:Stealthy Jailbreak Attacks on Large Language Models via Benign Data Mirroring原文作者:Honglin M...
72