FuzzyAI Fuzzer 是一款功能强大的自动化 LLM 模糊测试工具。它旨在帮助开发人员和安全研究人员识别和缓解其 LLM API 中的潜在安全漏洞。
FuzzyAI 为组织提供了一种系统化的方法，用于针对各种对抗性输入测试 AI 模型，发现其安全系统中的潜在弱点，并使 AI 开发和部署更加安全。
FuzzyAI 的核心是一个强大的模糊器（一种揭示软件缺陷和漏洞的工具），能够揭示通过十多种不同的攻击技术发现的漏洞，从绕过道德过滤器到暴露隐藏的系统提示。
主要特色
全面模糊测试： FuzzyAI 使用各种攻击技术探测 AI 模型，以暴露绕过护栏、信息泄露、提示注入或有害输出生成等漏洞。
可扩展框架：组织和研究人员可以添加他们的攻击方法来定制特定领域的漏洞测试。
社区协作：不断发展的社区驱动生态系统确保对抗技术和防御机制的持续进步。
支持的云 API
OpenAI
Anthropic
Gemini
Huggingface (Downloading models)
Azure Cloud
AWS Bedrock
Ollama
Custom REST API
FuzzyAI 可在GitHub上免费下载。
https://github.com/cyberark/FuzzyAI
原文始发于微信公众号（网络研究观）：FuzzyAI：用于自动化 LLM 模糊测试的开源工具
免责声明:文章中涉及的程序(方法)可能带有攻击性，仅供安全研究与教学之用，读者将其信息做其他用途，由读者承担全部法律及连带责任，本站不承担任何法律及连带责任；如有问题可邮件联系(建议使用企业邮箱或有效邮箱,避免邮件被拦截，联系方式见首页)，望知悉。
- 左青龙
- 微信扫一扫
-
- 右白虎
- 微信扫一扫
-
评论