作者:dawu@知道创宇404实验室时间:2025年2月28日 1. 前言参考资料伴随着年后 DeepSeek R1 模型的火热,号称能运行 DeepSeek R1 “满血版” 的 Ktransfor...
[开源 Prompt] AI 增强的漏洞优先级排序
Databricks 利用 LLM 针对第三方组件漏洞进行优先级排序,准确率达到了85%,安全团队人工分析的工作量减少了超过95%。前言如何针对第三方组件的安全漏洞进行修复的优先级排序是一个行业难题。...
黑客如何利用提示词工程操纵AI代理?
“代理式”人工智能(Agentic AI)时代已经到来,其变革潜力不容忽视。AI 代理具备独立运行的能力,能够依据预先设定的编程自主地做出决策并展开行动。根据 Gartner 的预测,到 2028 年...
AI迷思录 | AI应用与安全指南{从0到1的新手指南}
由于全文223页PDF,15万字,公众号放不下,这里只展示目录,Ai安全学习路线 与序言,完整PDF版本获取地址:https://github.com/Acmesec/theAIMythbook,喜欢...
【安全研究】如何用 DeepSeek AI 去跟进最新的CVE漏洞研究
0x00 前言 众所周知,CVE的最新漏洞往往是安全研究人员的一大乐趣,而CVE最新的漏洞的Github是发布在下方链接中的,每日都会更新最新漏洞及全部的CVE漏洞压缩包. ht...
Run-llama/LlamaIndex 大模型框架提示词注入构造 sqli实现任意文件创建
漏洞描述default_jsonalyzerllm 执行 sqlite 查询时使用的函数JSONalyzeQueryEngine。如果攻击者使用提示注入控制 sqlite 查询并执行恶意 sqlite...
大模型Prompt技巧全解析
作者:mitin在数字化浪潮的推动下,AI大模型以其卓越的自然语言处理能力和智能交互特性,迅速在很多领域中占据了重要地位。比如:与传统客服相比,AI大模型展现出了无可比拟的优势,通过精心设计的 pro...
代码审计|基于Deepseek自动搭建靶场学习讲解
本篇文章共 3000字+1视频,完全阅读全篇约 65 分钟 州弟学安全,只学有用的知识前言2024年底,国产AI模型Deepseek的发布将AI发展推向新高度!其两大核心优势:*强大的推理能力* 🧠 ...
Meta大模型安全解决方案——防护篇
一. 背景互联网巨头Meta发布的开源大模型安全解决方案Purple-Llama,整合了多种防护工具和评估方法,旨在保护开源生成式AI模型安全发展。在上一篇文章《Meta大模型安全解决方案——评估》...
大模型开发工作手册详细指南
作者:rhino自 “Prompt工作手册” 发布以来,我持续研究大模型能力的应用及研发方法,结合产业发展,在研发框架和模型应用上有了新的思考,并形成了新的方法论,希望我们的能力不仅仅停留在模型研发的...
2025 OWASP 大语言模型应用程序10大风险
网安人必收!2024年度报告&白皮书、安全标准与技术方案全汇总2024年度大盘点:网络安全必读资料大集合在这个AI技术日新月异的时代,大规模语言模型(LLM)正以前所未有的速度重塑各行各业。从...
Agentic Security:一款针对LLM模型的模糊测试与安全检测工具
关于Agentic Security Agentic Security是一款针对LLM模型的模糊测试与安全检测工具,该工具可以帮助广大研究人员针对任意LLM执行全面的安全分析与测试。 请注意 Agen...
15