大语言模型 - 第 3 | CN-SEC 中文网

人工智能安全

专题解读｜大语言模型低成本微调方法

大语言模型低成本微调方法一、简介预训练大语言模型（LLM）具备强大的通用能力，但在需要深入理解技术语言或特定领域知识的专业领域中，它们往往表现不佳。因此，虽然预训练使LLM能够捕捉通用知识，但微调（F...

03月17日27 views评论

阅读全文

人工智能安全

生成式AI红队测试：如何有效评估大语言模型

OWASP最新指南为组建生成式AI红队或调整现有红队以适应新技术提供了详细的指导。红队测试是一种经过时间检验的网络安全系统测试和加固方法，但它需要不断适应技术的演变。近年来，生成式AI和大语言模型（L...

03月17日27 views评论

阅读全文

人工智能安全

大语言模型驱动的网络攻防新态势：基于DeepSeek的探索与实践

更多安全资讯和分析文章请关注启明星辰ADLab微信公众号及官方网站（adlab.venustech.com.cn）第一章引言1.1 研究背景与意义在数字化进程持续加速的当下，网络空间已成为关键领域，...

03月14日47 views评论

阅读全文

移动安全

【论文速读】| 大语言模型与代码安全：一项系统性文献综述

基本信息原文标题：Large Language Models and Code Security: A Systematic Literature Review原文作者：Enna Basic, Alb...

03月12日28 views评论

阅读全文

人工智能安全

【论文速读】| JailPO：一种针对经过对齐的大语言模型，通过偏好优化实现的新型黑盒越狱框架

基本信息原文标题: JailPO: A Novel Black-box Jailbreak Framework via Preference Optimization against Aligned ...

03月12日20 views评论

阅读全文

人工智能安全

大语言模型私有化部署应用安全防护思路

一、大语言模型私有化部署应用助力组织智能化转型伴随以DeepSeek为代表的大语言模型的飞速发展与成熟应用，大语言模型已经成为各行业领域进行智能化转型的核心驱动，成为各级组织生产效率、竞争能力提升的关...

03月10日31 views评论

阅读全文

安全新闻

DeepSeek数据泄露，12000个硬编码的有效API密钥和密码遭曝光

近期的一项分析发现，在公开抓取的网络数据中，存在 11908 个有效的 DeepSeek API 密钥、密码和身份验证令牌。据网络安全公司 Truffle Security 称，这项研究凸显了在未经筛...

03月05日58 views评论

阅读全文

安全闲碎

【论文速读】| SpearBot：在生成 - 评判框架下利用大语言模型生成鱼叉式网络钓鱼邮件

基本信息原文标题：SpearBot: Leveraging Large Language Models in a Generative-Critique Framework for Spear-Phi...

03月05日47 views评论

阅读全文

安全新闻

微软破获出售非法 Azure AI 权限事件，并公布黑客身份

点击上方蓝字关注我们像被追踪代号为 Storm-2139 的这类组织，已经在想办法绕过生成式人工智能（GenAI）服务的防护措施，而微软则发起了一场 “点名羞辱” 行动予以反击，旨在捣毁他们的网络犯罪...

03月03日25 views评论

阅读全文

安全文章

原创 Paper | 关于 Chat Template 注入方式的学习

作者：dawu@知道创宇404实验室时间：2025年2月28日 1. 前言参考资料伴随着年后 DeepSeek R1 模型的火热，号称能运行 DeepSeek R1 “满血版” 的 Ktransfor...

03月03日21 views评论

阅读全文

安全文章

Web LLM 攻击

01定义Web LLM（Large Language Model）攻击指针对部署在Web端的AI大语言模型的攻击行为。攻击者通过恶意提示词注入、训练数据窃取、模型逆向工程等手段，操控AI输出敏感信息或...

02月23日9 views评论

阅读全文

人工智能安全

[已开源] 基于大语言模型的自动化漏洞修复技术实践

本文介绍了如何基于 Patchwork 框架与大语言模型，构建可定制化的自动化代码漏洞修复工具，覆盖静态扫描、漏洞验证、智能补丁生成与代码兼容性检测的完整技术闭环。前言本节将介绍 Patchflow ...

02月23日65 views评论

阅读全文

在线咨询

微信