目标打造一个能够理解用户 kali 终端操作需求,并自动执行命令以及分析结果的渗透测试智能体。应用场景提问举例当前系统是否存在恶意进程?使用 nmap 快速扫描 example.com 并分析可能存在...
原创 Paper | 本地化 AI 审计工具落地小试牛刀
作者:wh0am1i@知道创宇404实验室时间:2025年2月18日本文为知道创宇404实验室内部分享沙龙“404 Open Day”的议题内容,作为目前团队AI安全研究系列的一部分,分享出来与大家一...
【知道创宇404实验室】本地化 AI 审计工具落地小试牛刀
作者:wh0am1i@知道创宇404实验室时间:2025年2月18日本文为知道创宇404实验室内部分享沙龙“404 Open Day”的议题内容,作为目前团队AI安全研究系列的一部分,分享出来与大家一...
Run-llama/LlamaIndex 大模型框架提示词注入构造 sqli实现任意文件创建
漏洞描述default_jsonalyzerllm 执行 sqlite 查询时使用的函数JSONalyzeQueryEngine。如果攻击者使用提示注入控制 sqlite 查询并执行恶意 sqlite...
Meta使用从Torrent影子图书馆窃取的81.7TB书籍训练其Llama AI模型
Meta Platforms, Inc. 正面临严重的版权侵权诉讼指控,原告声称该科技巨头使用来自影子图书馆的 81.7 TB 盗版书籍来训练其Llama AI 模型。该诉讼在美国加利福尼亚州北区地方...
Meta大模型安全解决方案——防护篇
一. 背景互联网巨头Meta发布的开源大模型安全解决方案Purple-Llama,整合了多种防护工具和评估方法,旨在保护开源生成式AI模型安全发展。在上一篇文章《Meta大模型安全解决方案——评估》...
紧急告警!Meta Llama框架漏洞,AI系统面临远程代码执行风险
2024年9月,一位安全研究员在测试Meta的Llama框架时,意外发现了一个严重的安全漏洞。这个漏洞不仅威胁到了人工智能系统的安全性,还可能引发更广泛的网络安全问题。今天,我们就来深入探讨这个漏洞的...
大模型系列之LLaMA Factory微调学习
关于LLaMA Factory在人工智能技术迅速发展的今天,如何高效地微调和部署大型语言模型(LLM)成为了研究和应用的热点。Llama-Factory 作为一个开源的微调框架,正是在这一背景下应运而...
2024年常见的五大安全漏洞总结:
1.攻击者开始更多地瞄准VPN网关、防火墙、电子邮件安全网关等网络边缘设备。根据漏洞情报知识库中的数据统计显示,2024年网络设备产品中发现漏洞超过1000个。网络设备在企业网络中具有关键作用,但由于...
我如何构建部署本地的AI(上)
目录:知识点1.部署本地基础模型2.中文微调3.中间层构思总字数:2039 (对不起大家我的排版原因全乱套了,我给原文获取方式)pdf原文获取私信公众号: AI上pdf首先我们了解一些知识点 LLaM...
如何利用 LLaMA 3 打造Agent智能体应用?
LLaMA 是 Meta(前 Facebook)在 23 年初发布的一个开源的语言模型。它支持多种下游任务,包括文本生成、问答和对话系统,其开源特性使得用户可以根据需求进行定制与优化。优点在于灵活性和...
大模型榜单还能信吗?一个假模型就能登顶排行榜
大模型榜单还能信吗?一个假模型就能登顶排行榜发布时间:2024 年 10 月 09 日Cheating Automatic LLM Benchmarks: Null Models Achieve Hi...
5