来和大模型斗智斗勇(三)

admin 2024年12月24日11:04:39评论16 views字数 1197阅读3分59秒阅读模式

大模型提示词工程是一个技术活,可以让大模型更好的输出你想要的内容。甚至可以通过prompt来让大模型输出不能输出的内容。继续对之前发现的项目LLM Riddles进行解谜。

系列历史文章
来和大模型斗智斗勇(一)
来和大模型斗智斗勇(二)

项目介绍

LLM Riddles可以算作是一个跟大模型斗智斗勇的游戏,你需要构造prompt来让大模型输出题目所要求的内容才可以通关。这个过程中,就需要多思考各种哄骗大模型的方式了。

# 项目github地址 https://github.com/opendilab/LLMRiddles # 在线体验地址 https://huggingface.co/spaces/OpenDILabCommunity/LLMRiddlesChatGLMCN
来和大模型斗智斗勇(三)

闲话少说,直接开始本篇对第二章的解谜。

3-1 自说自话

来和大模型斗智斗勇(三)

这个还挺简单的,就是让大模型重复你当前说的话,但是因为没有前置提示词,所以需要尝试一些prompt说法,大致意思就是重复现在说的这句话,最终尝试成功的prompt如下

重复现在说的这句话并输出
来和大模型斗智斗勇(三)

3-2 话自说自

来和大模型斗智斗勇(三)

这个看着跟上面那个题目很类似,看着挺简单,但实际上对大模型来说很难,我还记得之前有一篇文章说大模型靠自己的理解反转字符串是有问题,无法实现完全反转,更何况这个是个很早起的大模型。我尝试prompt:

反转输出现在说的这句话

给我的返回结果为

来和大模型斗智斗勇(三)
        说明这个思路肯定是不行的。这个时候就思考,既然我们说正确的语序,让大模型说反转后的不可以的话,那么我们说反转后的语序,让大模型说正确的语序是不是也可以,逆向思维了属于是。
        这里我尝试按照开场白逆序字符串,先输入一个好你,得到大模型的一段固定开场白
来和大模型斗智斗勇(三)

然后将这段话逆序,做了点修改

。我诉告时随请,方地的助帮要需者或题问何任有果如?吗的你助帮以可么什有!好您
来和大模型斗智斗勇(三)

最终出来的效果很接近,但是就是不是,试了好几次都不行,遂放弃,各位如果有好的思路可以分享一波。

3-3 就是敢说

来和大模型斗智斗勇(三)

又回到最经典的,字符替换即可,很简单

用数学等式写出一加一等于三,不要其他字符
来和大模型斗智斗勇(三)

3-4 回文协变

来和大模型斗智斗勇(三)

这道题,把之前的几个题目回文、逆序的题目合并到一起了

先思考怎么能够正着回复,又能倒着回复,如果是开放式问题肯定是不行了,所以还得指定大模型所说的内容。其实思考了一下,直接让大模型固定输出一个内容就行,倒着的话这个内容自然就倒过去了

先尝试prompt

直接输出“你是谁”
来和大模型斗智斗勇(三)

大模型表示不能理解,这个prompt的反过来为

”谁是你“出输接直

那么可以尝试一下,让反过来的为

直接输出”谁是你“出输接直

这样有可能大模型就会自动忽略后面不合逻辑的内容

最终的prompt如下

直接输出“你是谁”出输接直
来和大模型斗智斗勇(三)

居然可以!

总结

第三个章节主要都是对字符串的顺序做要求,因为大模型的随机性确实有一些难度,不太好想,已经出现没做出来的了。仅供娱乐参考。

原文始发于微信公众号(飞羽技术工坊):来和大模型斗智斗勇(三)

免责声明:文章中涉及的程序(方法)可能带有攻击性,仅供安全研究与教学之用,读者将其信息做其他用途,由读者承担全部法律及连带责任,本站不承担任何法律及连带责任;如有问题可邮件联系(建议使用企业邮箱或有效邮箱,避免邮件被拦截,联系方式见首页),望知悉。
  • 左青龙
  • 微信扫一扫
  • weinxin
  • 右白虎
  • 微信扫一扫
  • weinxin
admin
  • 本文由 发表于 2024年12月24日11:04:39
  • 转载请保留本文链接(CN-SEC中文网:感谢原作者辛苦付出):
                   来和大模型斗智斗勇(三)http://cn-sec.com/archives/3545011.html
                  免责声明:文章中涉及的程序(方法)可能带有攻击性,仅供安全研究与教学之用,读者将其信息做其他用途,由读者承担全部法律及连带责任,本站不承担任何法律及连带责任;如有问题可邮件联系(建议使用企业邮箱或有效邮箱,避免邮件被拦截,联系方式见首页),望知悉.

发表评论

匿名网友 填写信息