prompt | CN-SEC 中文网

安全新闻

黑客利用简单的表情符号逃避微软、Nvidia 和 Meta 的 AI 过滤

一项新的研究表明，包括微软、英伟达和 Meta 在内的科技巨头部署的最新基于人工智能的防护系统，仍然极易受到相对简单且低成本的对抗技术的规避。值得注意的是，在文本中插入单个表情符号或细微的 Unico...

05月07日48 views评论

阅读全文

安全工具

【工具推荐】reconftw_ai:与 AI 融合的信息收集工具

声明：该公众号分享的安全工具和项目均来源于网络，仅供安全研究与学习之用，如用于其他用途，由使用者承担全部法律及连带责任，与工具作者和本公众号无关。项目背景 ReconFTW 是一款成熟的自动化信息收...

05月07日10 views评论

阅读全文

安全工具

Meta开源的AI防火墙：LlamaFirewall

Meta近期开源了LlamaFirewall框架，用于检测AI安全风险。 LlamaFirewall简介LlamaFirewall 是一套专为检测和防范AI安全风险设计的防护框架，支持对多种输入输出层...

05月06日36 views评论

阅读全文

人工智能安全

大模型提示词注入防护与安全评估（含代码）

写在前面：本文主要聚焦两部分内容，其一是通过代码实践来研究和验证基于llamafirewall在提示词注入防护的能力，通过学习此部分可以理解大模型自身防护中最关键的部分-提示词注入的防护方法；其二是了...

05月04日14 views评论

阅读全文

安全新闻

Meta开源LlamaFirewall大模型防火墙框架

Meta公司周二正式发布开源框架LlamaFirewall，该框架旨在保护人工智能（AI）系统免受即时注入（prompt injection）、越狱攻击（jailbreak）及不安全代码等新兴网络安全...

05月01日13 views评论

阅读全文

人工智能安全

不要停，继续说下去！——针对大语言模型的推理成本攻击：Engorgio

随着 ChatGPT 等大语言模型（LLMs）在各类任务中大放异彩，越来越多的场景开始依赖它们来提供服务。然而，由于 LLM 在推理阶段对算力的需求极为显著，一个潜在但被忽视的安全威胁也悄然浮现：恶意...

04月25日17 views评论

阅读全文

人工智能安全

AI安全-提示词注入

攻击技术分类高级 Prompt Injection 技术绕过与混淆策略防御机制与对抗策略攻防手册靶场练习一攻击技术分类类型描述Prompt Injection利用精心设计的提示词操控模型行为，绕过安全...

04月25日20 views评论

阅读全文

人工智能安全

提示词宝库！NucleiPrompts 助你轻松玩转 Nuclei AI智能漏洞扫描

引言：Nuclei AI智能化扫描！Nuclei 是一款超好用的漏洞扫描工具，而 NucleiPrompts.com 则像它的“金牌助手”，通过分享现成的提示词（Prompts），让扫描漏洞变得像点外...

04月23日11 views评论

阅读全文

安全开发

OpenManus源码理解-自动化渗透测试(一)

由于传播、利用本公众号所提供的信息而造成的任何直接或者间接的后果及损失，均由使用者本人负责，公众号及作者不为此承担任何责任，一旦造成后果请自行承担！如有侵权烦请告知，我们会立即删除并致歉。谢谢！所有工...

04月20日7 views评论

阅读全文

人工智能安全

提示词优化器

人工智能时代，提示词就是生产力。这得多重要，不用我赘述。推荐安排上【神器：提示词优化器】。以一本456万字的《雪中悍刀行》小说为例，我们来梳理它的人物关系。一、先来看看结果：根据提供的文本片段，现对《...

04月06日17 views评论

阅读全文

人工智能安全

逐步突破大语言模型限制

重要声明：本文档中的信息和工具仅用于授权的安全测试和研究目的。未经授权使用这些工具进行攻击或数据提取是非法的，并可能导致严重的法律后果。使用本文档中的任何内容时，请确保您遵守所有适用的法律法规，并获...

03月21日46 views评论

阅读全文

安全工具

大模型安全评估神器-Garak

字数 950，阅读大约需 5 分钟大模型安全评估神器---Garak Garak是干什么的？ Garak，全称 Generative AI Red-teaming & Assessment ...

03月19日73 views评论

阅读全文

黑客利用简单的表情符号逃避微软、Nvidia 和 Meta 的 AI 过滤

【工具推荐】reconftw_ai:与 AI 融合的信息收集工具

Meta开源的AI防火墙：LlamaFirewall

大模型提示词注入防护与安全评估（含代码）

Meta开源LlamaFirewall大模型防火墙框架

不要停，继续说下去！——针对大语言模型的推理成本攻击：Engorgio

AI安全-提示词注入

提示词宝库！NucleiPrompts 助你轻松玩转 Nuclei AI智能漏洞扫描

OpenManus源码理解-自动化渗透测试(一)

提示词优化器

逐步突破大语言模型限制

大模型安全评估神器-Garak

在线咨询

微信