编者荐语传统网络攻击溯源技术常受困于效率低下、依赖专家经验、语义理解不足和泛化能力差等瓶颈。本文通过一项突破性研究:利用大语言模型(LLMs)的强大语义理解与泛化能力,革新攻击溯源技术,为应对日益复杂...
ByteBrain团队SIGMOD25 | 基于预训练语言模型的NDV估计
导读本文的核心思想是利用预训练语言模型通过语义信息来做开箱即用的NDV估计,已经被SIGMOD25接收,SIGMOD25 Reviewer给出的评价:本文是第一个基于语义信息做NDV估计的工作。论文标...
LLM大模型越狱攻击预防与框架3.3
《深度研究》栏目文章 为了安全更闪耀 本文48530字,阅读时长约150分钟 锐安全注:本文为李滨老师倾情巨作,原文55079字,已经超出了微信公众号文章单篇5万字的最大字数限制,因此把《第10章 未...
【论文速读】| TrojanWhisper:评估预训练的大语言模型以检测并定位硬件木马
基本信息原文标题: TrojanWhisper: Evaluating Pre-trained LLMs to Detect and Localize Hardware Trojans原文作者: Md...
原创 Paper | 机器学习的线性回归模型
作者:0x7F@知道创宇404实验室时间:2025年2月28日 1. 前言参考资料跟随着 ChatGPT 等大语言模型掀起的人工智能的浪潮,在这个时间点学习 AI 技术是一个绝佳的机会;但 AI 技术...
大语言模型红队测试:全面的分步指南
重要声明: 本文档中的信息和工具仅用于授权的安全测试和研究目的。未经授权使用这些工具进行攻击或数据提取是非法的,并可能导致严重的法律后果。使用本文档中的任何内容时,请确保您遵守所有适用的法律法规,并获...
浅聊一下,大模型应用架构 | 工程研发的算法修养系列(二)
大模型应用架构基础AI应用演进概述人工智能应用的发展经历了多个关键阶段,每个阶段都代表着技术范式的重大转变。大语言模型基础大语言模型(LLM)作为现代AI应用的核心组件,具有独特的技术特性和能力边界,...
LLM自主学习的隐患
点击上方“蓝色字体”,选择 “设为星标”关键讯息,D1时间送达!大型语言模型借助新协议(如MCP、A2A)获得强大自主能力,深入企业核心业务流程,然而,其过度自主性(功能冗余、权限过大、模型黑箱、训练...
大模型安全
最近对博客进行了重构和升级,欢迎大家进行聊天沟通,点击跳转原文可直达博客地址。大语言模型大语言模型(LLMs)是一种人工智能(AI)算法,它可以处理用户输入,并通过预测单词序列来生成合理的回复。它们在...
AI 安全 近日大模型推理引擎 vLLM 暴出CVSS 9.8高危rce
一、CVE-2025-47277近日 vllm的通信组件pyncclpipe 被爆出存在相关高危rce漏洞,cvss评分高达9.8分。vLLM 是一个基于 高效注意力算法(如 PagedAttenti...
面向大模型的生成-利用式越狱攻击
目前做安全大模型或者说做大模型安全,基本都会有必要的两步,分别是对齐以及红队。 因为随着大模型在各种应用场景中的广泛使用,越来越多的人开始担忧这些模型可能被滥用,尤其是在传播有害或不道德内容方面。由于...
大语言模型安全测评技术科普:全面了解与应对潜在风险
“大语言模型是打开未来人工智能世界的钥匙,但如果没有安全测评的守护,这把钥匙可能会变成打开潘多拉魔盒的工具。”近年来,大语言模型凭借强大的语言处理能力,迅速渗透到智能客服、内容创作、代码编写等多个领域...