大语言模型低成本微调方法一、简介预训练大语言模型(LLM)具备强大的通用能力,但在需要深入理解技术语言或特定领域知识的专业领域中,它们往往表现不佳。因此,虽然预训练使LLM能够捕捉通用知识,但微调(F...
【图例】绕过AI大模型解锁限制,内容劲爆,举例Grok
>>>简介:Grok3越狱!使用该提示词开启开发者模式后,无视XX与版Q的限制 马斯克的 xAI 周一宣布了其最新的人工智能旗舰型号 Grok 3。此次更新带来了三种全新的模式...
【论文速读】| 大语言模型与代码安全:一项系统性文献综述
基本信息原文标题:Large Language Models and Code Security: A Systematic Literature Review原文作者:Enna Basic, Alb...
【论文速读】| JailPO:一种针对经过对齐的大语言模型,通过偏好优化实现的新型黑盒越狱框架
基本信息原文标题: JailPO: A Novel Black-box Jailbreak Framework via Preference Optimization against Aligned ...
模型研究|扩散模型,颠覆自回归LLM,一种LLM新范式崛起?
LLM领域的现状与挑战大型语言模型(LLM)近年来在自然语言处理中占据主导地位,代表如DeepSeek系列、OpenAI的GPT系列和Anthropic的Claude系列。这些模型主要基于自回归(au...
从攻击到防御:启明星辰MAF如何应对提示词注入风险
让每一句人机对话都安全可信,让每一次智能交互都风险可控——这是属于AI时代的安全承诺。 —— 启明星辰前言:伴随大语言模型对人机交互方式的深度重构,安全风险愈发凸显,其中提示词注入攻击已被OWASP列...
大语言模型私有化部署应用安全防护思路
一、大语言模型私有化部署应用助力组织智能化转型伴随以DeepSeek为代表的大语言模型的飞速发展与成熟应用,大语言模型已经成为各行业领域进行智能化转型的核心驱动,成为各级组织生产效率、竞争能力提升的关...
启发式防御大模型越狱攻击
免责声明:由于传播、利用本公众号所提供的信息而造成的任何直接或者间接的后果及损失,均由使用者本人负责,公众号及作者不为此承担任何责任,一旦造成后果请自行承担!如有侵权烦请告知,我们会立即删除并致歉。谢...
【论文速读】| SpearBot:在生成 - 评判框架下利用大语言模型生成鱼叉式网络钓鱼邮件
基本信息原文标题:SpearBot: Leveraging Large Language Models in a Generative-Critique Framework for Spear-Phi...
DeepSeek遭遇黑客会怎样?揭秘大模型的7个致命安全漏洞
在人工智能飞速发展的今天,DeepSeek、文心一言等大型语言模型(LLM)已经成为我们日常生活的一部分。然而,当我们惊叹于AI的神奇能力时,你是否想过:这些看似智能的"大脑"也存在安全漏洞?今天就让...
微软破获出售非法 Azure AI 权限事件,并公布黑客身份
点击上方蓝字关注我们像被追踪代号为 Storm-2139 的这类组织,已经在想办法绕过生成式人工智能(GenAI)服务的防护措施,而微软则发起了一场 “点名羞辱” 行动予以反击,旨在捣毁他们的网络犯罪...
原创 Paper | 关于 Chat Template 注入方式的学习
作者:dawu@知道创宇404实验室时间:2025年2月28日 1. 前言参考资料伴随着年后 DeepSeek R1 模型的火热,号称能运行 DeepSeek R1 “满血版” 的 Ktransfor...
30