背景介绍蔓灵花组织,又称为BITTER、APT-C-08。是一支据称有南亚背景的高级持久性威胁组织。最早活跃于2013年,以东南亚地区周边国家为主要活动区域,专注于对高价值单位,如政府部门、能源企业、...
如何通过Prompt优化Text2SQL的效果
前言在上篇文章中「大模型LLM在Text2SQL上的应用实践」介绍了基于SQLDatabaseChain的Text2SQL实践,但对于逻辑复杂的查询在稳定性、可靠性、安全性方面可能无法达到预期,比如输...
带有 HTTP 请求的 CredentialsPhish
因为 nishang 中的 Invoke-CredentialsPhish 只能将用户名和密码输出显示, 所以就自己改了改. 未指定参数则默认保存在 c:\windows\temp\creds.log...
G.O.S.S.I.P 阅读推荐 2023-12-11 SneakyPrompt
在飞速发展的人工智能 (AI) 领域,理解和提升AI安全性变得日益重要。近日,约翰霍普金斯大学曹寅志研究组和杜克大学Neil Gong研究组的合作研究成果SneakyPrompt: Jailbreak...
养成一个无话不说的AI女友
自从人工智能问世以来,给我们的生活带来了巨大的便利。在这些AI中,和像ChatGPT这样的聊天程序进行交流已经成为了大多数人的日常(10086哭死在厕所里)。但是像这样的AI是把双刃剑,需要合理合法使...
GPTs Prompts泄露合集
文章首发于个人博客:https://mybeibei.net,点击最下方“阅读原文”可直接跳转查看。GPTs 是一个大型语言模型,包含了一个预置的Prompt,可以帮助其更好地按照要求执行任务。这些提...
LLMs安全:针对业务模型应用场景下提示词攻击的防御检测方案
引言近期OpenAI在DevDay上发布了GPTs功能,允许用户根据特定的需求创建和使用定制版的GPT模型并通过GPTs Store分享给其他用户使用,未来在大模型应用领域已经开始趋于由OpenAI这...
LLMs安全:针对业务模型应用场景下提示词的攻击手段与危害
引言大语言模型凭借其卓越的语言生成、精准的文本理解能力以及对海量数据的涵盖,赢得了广泛的关注和应用,其影响现实世界的能力备受人们瞩目。近期,随着大模型应用的涌现,人们对于大模型使用的期望已超越简单的对...
G.O.S.S.I.P 阅读推荐 2023-12-01 PromptCARE,首个大模型提示词版权保护方案
近日,首例AI创作内容侵犯著作权案的裁决结果公布,引发了人们对大型模型时代版权保护问题的关注。随着大 模型的性能不断提升,在情感分析、文段总结归纳以及语言翻译等下游任务中,其准确性和熟练程度已经接近甚...
【权限维持技术】Windows利用浏览器进行远程下载
免责声明本文仅用于技术讨论与学习,利用此文所提供的信息而造成的任何直接或者间接的后果及损失,均由使用者本人负责,文章作者及本公众号不为此承担任何责任。start命令在Windows的CMD命令行中,s...
基准发布 | 大语言模型(LLM)安全性测评基准
“大语言模型(LLM)安全性测评基准2023年8月15日国家六个部委发布的《生成式人工智能服务管理暂行办法》正式施行,该办法强调了大语言模型安全的重要性,防止生成潜在隐私泄露、违法犯罪内容。为评估大语...
一个支付逻辑漏洞和一些tips
一个支付逻辑漏洞正文某目标为xxx.com,其网站上面有价格为999元的订阅优惠,这里使用burp suite,在点击支付的时候拦截该支付请求,将价格从999改为1,发现成功了几个高频率的xss的pa...
7