llamafirewall | CN-SEC 中文网

安全工具

Meta开源的AI防火墙：LlamaFirewall

Meta近期开源了LlamaFirewall框架，用于检测AI安全风险。 LlamaFirewall简介LlamaFirewall 是一套专为检测和防范AI安全风险设计的防护框架，支持对多种输入输出层...

05月06日39 views评论

安全工具

写在前面：大模型因自身技术原因存在提示词攻击、指令注入等各种安全风险，对于甲方企业来说，无论是开源大模型还是商用大模型，很多都是拿来即用，不再进行训练微调，因此，AI防火墙这种大模型外生安全技术成了企...

05月06日35 views评论

人工智能安全

写在前面：本文主要聚焦两部分内容，其一是通过代码实践来研究和验证基于llamafirewall在提示词注入防护的能力，通过学习此部分可以理解大模型自身防护中最关键的部分-提示词注入的防护方法；其二是了...

05月04日14 views评论

安全新闻

Meta公司周二正式发布开源框架LlamaFirewall，该框架旨在保护人工智能（AI）系统免受即时注入（prompt injection）、越狱攻击（jailbreak）及不安全代码等新兴网络安全...

05月01日14 views评论