prompt - 第 5 | CN-SEC 中文网

安全工具

Cyberark也整活了，发布开源AI工具

Cyberark作为老牌的安全厂商，也积极投身大模型，这次他们发的是大模型测试工具，叫FuzzyAI，在Github上开源了。 01 为什么要进行大模型测试我们自己使用大模型一般分三种情况：直接使...

01月08日38 views评论

阅读全文

人工智能安全

【AI安全】AI安全之提示词注入攻击

背景介绍近年来随着人工智能技术，尤其是大模型(例如：GPT类模型、BERT类模型等)的不断发展，这些模型已被广泛集成到各类应用中，从数字助手到AI驱动的新闻产业，几乎覆盖了各行各业。大模型的应用逐渐成...

01月01日202 views评论

阅读全文

安全工具

Burp Suite 插件 BurpGPT，可执行额外的被动扫描，以发现高度定制的漏洞，并可以运行任何类型的基于流量的分析。

01 工具介绍 BurpGPT，可提高渗透测试的效率和质量有高级的语言处理能力，操作界面好用可发现零日漏洞、评估加密的完整性分析网络流量、评估网络应用程序支持自定义提示(prompts...

12月31日30 views评论

阅读全文

人工智能安全

AI安全 | 用文字攻击 AI

扫码领资料获网安教程来Track安全社区投稿~ 赢千元稿费！还有保底奖励~（https://bbs.zkaq.cn）什么是提示（Prompt）？提示是用户或程序向 LLM AI 提供的输入或查询，用...

12月30日58 views评论

阅读全文

取证分析

浅谈利用AI对微信群聊侦查分析（四）prompt聊天数据研判分析大师v1.7

经过几轮调优，现在的这个版本更加完善。2024年12月28日更新日志：更稳定、更强大的聊天数据文本分析Prompt1、增强报告生成的稳定性2、增强上下文联动3、增强多轮线索询问的准确性4、群聊/单聊自...

12月28日91 views评论

阅读全文

人工智能安全

来和大模型斗智斗勇（四）（完结）

大模型提示词工程是一个技术活，可以让大模型更好的输出你想要的内容。甚至可以通过prompt来让大模型输出不能输出的内容。继续对之前发现的项目LLM Riddles进行解谜，本篇为完结篇。系列历史文章来...

12月28日6 views评论

阅读全文

安全新闻

2024年AI大模型场景探索及产业应用调研

本报告由前瞻产业研究院、首钢基金CANPLUS联合华为云共同撰写，从AI大模型行业应用概况、应用现状及案例、应用痛点及解决方案、应用前景趋势及机会分析四个方面阐述。当前AI大模型企业主要通过深化通用大...

12月27日22 views评论

阅读全文

人工智能安全

面向GPTs的提示词注入攻击分析

在去年的时候OpenAI推出了可以为特定目的创建的定制版ChatGPT——称为GPTs。GPTs是任何人都可以创建一个定制版本的ChatGPT，以帮助他们在日常生活中、特定任务、工作或家庭中更加有用，...

12月24日34 views评论

阅读全文

人工智能安全

来和大模型斗智斗勇（三）

大模型提示词工程是一个技术活，可以让大模型更好的输出你想要的内容。甚至可以通过prompt来让大模型输出不能输出的内容。继续对之前发现的项目LLM Riddles进行解谜。系列历史文章来和大模型斗智斗...

12月24日21 views评论

阅读全文

安全新闻

NDSS 2025｜Prompt泄露风险：抖音集团安全研究团队揭露多租户KV缓存共享漏洞

抖音集团安全研究团队和南方科技大学可信系统安全实验室合作的研究论文揭示了大语言模型安全领域服务框架的侧信道漏洞，利用多租户场景下的KV缓存共享机制精确恢复了用户提示词。本工作成果《I Know Wha...

12月24日159 views评论

阅读全文

人工智能安全

GPT小越狱技巧

关于GPT已经发展了有几年的时间，但是有时候当我们问起一些事情的时候，由于system prompt的限制一些敏感或危险操作就会有如下的回应，但是有一些小技巧可以让GPT仍然可以回复我们想要的...

12月23日14 views评论

阅读全文

人工智能安全

来和大模型斗智斗勇（二）

12月22日14 views评论

阅读全文

在线咨询

微信