llm - 第 4 | CN-SEC 中文网

安全闲碎

LLM技术浪潮下，漏挖人能否保住饭碗？

大语言模型（LLM）近期成为安全研究和竞赛中的热门话题，涵盖了大模型在安全领域的应用以及自身的安全性等方向，这一趋势为许多非大模型安全研究领域的研究者提供了了解和探索的机会。得益于强大的上下文理解与模...

03月17日11 views评论

阅读全文

人工智能安全

基于LLM的JSB权限风险自动化挖掘技术

一、LLM在安全分析中的核心优势大型语言模型（LLM）具备代码理解、模式识别和逻辑推理能力，可显著提升JSB风险挖掘的自动化程度。其核心价值体现在：跨语言分析：同时处理Java/Kotlin（Andr...

03月17日22 views评论

阅读全文

人工智能安全

大语言模型驱动的网络攻防新态势：基于DeepSeek的探索与实践

更多安全资讯和分析文章请关注启明星辰ADLab微信公众号及官方网站（adlab.venustech.com.cn）第一章引言1.1 研究背景与意义在数字化进程持续加速的当下，网络空间已成为关键领域，...

03月14日20 views评论

阅读全文

安全文章

自动化渗透测试新思路：基于AI的攻击路径规划与漏洞利用

摘要在网络安全领域，自动化漏洞扫描工具一直是安全专家和开发者的得力助手。然而，传统的扫描工具往往局限于固定的规则和模式，难以应对日益复杂的Web应用攻击面。今天，我们要介绍一个由GitHub用户fai...

03月14日79 views已关闭评论

阅读全文

人工智能安全

我对AI大模型安全的一些探索

扫码加圈子获内部资料网络安全领域各种资源，EDUSRC证书站挖掘、红蓝攻防、渗透测试等优质文章，以及工具分享、前沿信息分享、POC、EXP分享。不定期分享各种好玩的项目及好用的工具，欢迎关注。加内部圈...

03月13日22 views评论

阅读全文

安全文章

基于多LLM的自主 Shell 渗透测试代理

近期，有论文介绍了一个多LLM的自主Shell渗透测试代理，叫ARACNE。 ARACNE 是一个基于 LLM 的自主 shell 攻击者。它旨在通过在目标 shell 系统上规划和执行 Linux ...

03月12日16 views评论

阅读全文

人工智能安全

模型研究｜扩散模型，颠覆自回归LLM，一种LLM新范式崛起？

LLM领域的现状与挑战大型语言模型（LLM）近年来在自然语言处理中占据主导地位，代表如DeepSeek系列、OpenAI的GPT系列和Anthropic的Claude系列。这些模型主要基于自回归（au...

03月12日15 views评论

阅读全文

人工智能安全

【AI安全】探索Prompt在突破模型安全边界中的应用

0X01 引言好久没有写文章了，这段时间也是一直在不断学习提升自己的技能，最近人工智能（AI）技术飞速发展，其在各个领域的应用日益广泛，从自动驾驶到医疗诊断，从金融分析到智能家居，AI正深刻改变着我...

03月12日18 views评论

阅读全文

安全闲碎

G.O.S.S.I.P 阅读推荐 2025-03-10 LLM 在前，漏挖人能否保住饭碗（Yet?）

LLM 在代码理解上表现出了强大的能力，相信漏挖选手都已经对 LLM 跃跃欲试。今天我们介绍的这篇来自 IEEE S&P 2024 的论文LLMsCannot Reliably Identif...

03月10日24 views评论

阅读全文

安全文章

启发式防御大模型越狱攻击

免责声明：由于传播、利用本公众号所提供的信息而造成的任何直接或者间接的后果及损失，均由使用者本人负责，公众号及作者不为此承担任何责任，一旦造成后果请自行承担！如有侵权烦请告知，我们会立即删除并致歉。谢...

03月07日9 views评论

阅读全文

安全新闻

从数据库沦陷到供应链投毒：大模型安全危机背后的隐形战场

一. 概述近年来，随着DeepSeek、Ollama等开源大模型的广泛应用，全球企业正加速推进大模型的私有化部署。Gartner预测，到2027年，中国80%的企业将采用多模型生成式AI策略，以满足...

03月06日62 views评论

阅读全文

代码审计

用LLM来实现白盒代码审计

2023年12月的时候就已经在使用llm来做代码审计了。简单研究过向量数据库+llm来实现，但是随着我对ai的理解加深，我觉得这条思路可能不是我想要的。2024年成熟了点理解了需要复杂架构的agen...

03月05日41 views评论

阅读全文

在线咨询

微信