prompt - 第 11 | CN-SEC 中文网

安全闲碎

搞定Prompt,让AI成为得力写作助手

AI助力办公场景早已不是新鲜事，但是很多人拿到诸如文心、通义这样带有对话框的大模型工具，只会输入“帮我写一篇工作总结、策划方案”这种看似直接而具体的请求，但输出内容往往空泛乏味，成效有限，因此浅尝辄止...

02月07日29 views评论

阅读全文

安全新闻

大模型安全：Prompt Injection与Web LLM attacks

文末抽奖嗷Prompt Injection大语言模型（英文：Large Language Model，缩写LLM）中用户的输入称为：Prompt（提示词），一个好的 Prompt 对于大模型的输出至关...

01月26日68 views评论

阅读全文

安全新闻

LLM+EM—基于AI Agent的暴露面全流程智能化管理

01#背景#AI Agent称为“智能体”，旨在大模型技术驱动下，以自然语言为交互方式高自动化地执行和处理专业或繁复的工作任务，从而极大程度释放人员精力。AI Agent 的工作仅需给定一个目标，就能...

01月26日89 views评论

阅读全文

安全闲碎

论文解读Can LLM Identify And Reason About Security Vulnerabilities?

一. 综述来自波士顿大学、新南威尔士大学、IBM实验室的六位作者于12月19日发表了一篇名为《Can Large Language Models Identify And Reason About S...

01月25日36 views评论

阅读全文

安全漏洞

漏洞复现 h3c minifrw路由器 sys_passwd_prompt信息泄露漏洞

0x01 阅读须知融云安全的技术文章仅供参考，此文所提供的信息只为网络安全人员对自己所负责的网站、服务器等（包括但不限于）进行检测或维护参考，未经授权请勿利用文章中的技术资料对任何计算机系统进行入侵操...

01月23日170 views评论

阅读全文

安全文章

在input标签中如何绕过waf?

在几个星期以前，我碰到了一个xss 漏洞url: https://target.com/?product_name=test在源码中显示的是<input type="text" name="pr...

01月23日22 views评论

阅读全文

安全漏洞

任意 GPTs 资源文件泄露问题探讨

2024年1月11日，OpenAI 宣布正式向 ChatGPT Plus、开发团队和企业用户推出 GPT Store。笔者也是第一时间试用了，在试用的过程中笔者发现 GPTs 由于容器设计问题，导致任...

01月22日62 views评论

阅读全文

安全新闻

LLM Prompt 安全

LLM Prompt 安全 PART.1 背景近期，大语言模型（LLM）正在各个应用领域引起巨大的变革，已经在搜索引擎、金融服务、企业办公、网络安全、教育培训、娱乐游戏、电子商务和社交平台等领域迅速...

01月06日247 views评论

阅读全文

安全文章

一个xss-waf绕过

01漏洞探测本篇文章为彦语师傅实战案例分享看到信息信息框就想试试xss，首先测试<u>123</u>看看能不能正常出现下划线虎躯一震尖括号没有被转义"><u>...

12月23日37 views评论

阅读全文

安全新闻

蔓灵花（BITTER）近期活跃样本分析

背景介绍蔓灵花组织，又称为BITTER、APT-C-08。是一支据称有南亚背景的高级持久性威胁组织。最早活跃于2013年，以东南亚地区周边国家为主要活动区域，专注于对高价值单位，如政府部门、能源企业、...

12月21日56 views评论

阅读全文

安全开发

如何通过Prompt优化Text2SQL的效果

前言在上篇文章中「大模型LLM在Text2SQL上的应用实践」介绍了基于SQLDatabaseChain的Text2SQL实践，但对于逻辑复杂的查询在稳定性、可靠性、安全性方面可能无法达到预期，比如输...

12月18日353 views评论

阅读全文

带有 HTTP 请求的 CredentialsPhish

因为 nishang 中的 Invoke-CredentialsPhish 只能将用户名和密码输出显示, 所以就自己改了改. 未指定参数则默认保存在 c:\windows\temp\creds.log...

12月15日安全博客24 views评论

阅读全文