AI安全 | Ai安全提示词设计与攻防 {设计篇}

前言

  米斯特安全团队准备新建AI安全组，目前正在招人，感兴趣的可以投递简历至admin[#]hi-ourlife.com，请备注工作岗位以及就读院校和专业，同时附带一篇关于AI安全研究的文章。我们欢迎就读相关专业的学生以及有在从事相关专业的朋友加入我们，我们当然也欢迎同行能够一起交流，如果有合适的会议我们也希望能投稿进行议题分享。在接下来的一段时间内准备了由米斯特AI安全组成员分享的一些很有意思的ai安全文章，欢迎大家关注【米斯特安全团队】公众号。

（近期有收到挺多朋友的简历，但是由于工作关系需要等待一段时间之后再一起审核。）

正文

作者/洺熙

 面对chen少的催稿，不得不去找些好玩的东西出来分享，我想了很久， 分享点什么？大家上手就能做，一眼就能看明白的东西？想来想去 提示词是最好，简洁 易懂 会母语就行

 本文皆在探索提示词的设计与攻防的作用，写这篇文章时候，我又回去一些ai社区，寻求找到新的创意玩法，可惜的是，尽管过去了半年，发现里面所述说的提示词那些东西，还是玩一年，两年前的那一套，新瓶装旧酒，毫无新意，都是在形上做努力，诸如：炸裂！新框架，炸裂！新范式，炸裂！,AGi时代的到来预兆.国内常态了,魔幻闭塞的信息世界,书接下文，我们来探索提示词的一些道器学说

什么是提示词？

 提示词是用户与Ai进行自然对话的语言（你对于Ai的输出都可以理解为提示词），提示词质量影响着AI输出结果，但我更愿意说提示词工程是发挥想象力的艺术，涉及创造设计和优化提示词，以便从语言模型中获得最佳的输出结果

公式概括：提示词+Ai理解转换=Ai输出

提示词设计的本质

开篇点题:怎么进行提示词的设计？真传一句话，假传万卷书，在我看来，构造提示词的核心就一句话：将你的想法进行极致简洁的输出。

什么叫做极致简洁的输出呢？

案例展示：

原文：世界，这个充满苦难和无常的舞台，是我们意志的显现。我们每个人都在这个舞台上扮演着各自的角色，但这些角色背后，是一股盲目、无目的的生命意志。这意志是我们存在的根基，它驱使我们追求欲望的满足，却永远无法完全满足，因为一旦一个欲望得到满足，新的欲望又会出现，如此循环往复，永无止境。我们的痛苦和快乐，都是这意志的直接体现。快乐是短暂的，是欲望暂时的满足，而痛苦则是常态，是欲望未能满足的直接结果。我们追求幸福，却往往发现幸福是虚幻的，因为真正的幸福不在于外在的财富和地位，而在于对内在意志的抑制和超越。理性和知识，虽然能够让我们暂时摆脱意志的控制，但它们并不能从根本上解决问题。我们通过艺术、哲学和道德来寻求解脱，但这些不过是暂时的慰藉。艺术让我们在美的体验中暂时忘却自我，哲学让我们在思考中超越个人的欲望，道德则让我们在自我克制中找到一丝宁静。然而，这些终究是暂时的，因为意志是不可摧毁的。我们唯一能够真正获得解脱的方式，是通过彻底的否定意志，达到一种无欲无求的状态。这在叔本华看来，是一种涅槃，是一种超越了个人痛苦和快乐的至高境界。这个世界，尽管充满了痛苦和无常，却也是我们实现自我超越的舞台。我们的任务，不是逃避这个世界，而是在这个世界中寻找到超越个人意志的道路，以达到真正的平静和解脱

极致简洁的输出：叔本华哲学

人类社会的发展史，是一部与自然环境相互作用、相互影响的复杂史诗。在这一过程中，人类文明经历了从原始的狩猎采集到农业革命的转变，这一转变使得人类能够稳定地生产食物，从而支持了人口的增长和社会结构的复杂化。随后，工业革命的到来，以蒸汽机的发明为标志，开启了大规模生产和城市化的新时代，极大地提高了生产力，但也带来了环境污染和资源消耗的问题。随着信息时代的到来，数字化和互联网技术的发展，人类社会进入了一个新的发展阶段。信息的快速流通和全球化的加速，使得知识共享和文化交流变得更加便捷，但也带来了数字鸿沟和文化同质化的风险。每一次技术革新，都不仅仅是生产力的飞跃，也是对人类生活方式、社会结构和价值观念的深刻变革。在这一过程中，人类对自然资源的开发和利用达到了前所未有的规模。从化石燃料的大量消耗到森林的砍伐，从水资源的过度开发到生物多样性的丧失，人类活动对地球生态系统的影响日益显著。这些活动不仅威胁到了地球的可持续性，也对人类自身的生存和发展构成了挑战。面对这些挑战，人类社会必须重新审视与自然的关系，寻求一种新的和谐共存方式。可持续发展的概念应运而生，它强调在满足当代人需求的同时，不损害后代人满足其需求的能力。这要求我们在经济发展、社会进步和环境保护之间找到平衡点，实现经济增长与生态保护的双赢。

极致简洁的输出：可持续发展

在数字时代，数据不仅成为了一种新的货币，更是经济发展和商业模式创新的驱动力。企业通过收集和分析用户数据来优化产品和服务，提高效率和竞争力。这一过程中，数据的价值被不断挖掘和放大，成为企业的关键生产要素。然而，随着数据隐私和安全问题日益凸显，公众的关注焦点也随之转移。数据隐私的挑战包括个人敏感信息的滥用或不当处理，可能导致隐私泄露和身份盗窃等问题。数据安全的挑战则涉及到黑客攻击、恶意软件和网络攻击等对数据安全构成的威胁。为了应对这些挑战，需要采取一系列策略和方法来保护个人和组织的利益。首先，合规和监管是保护数据隐私和安全的基础，制定严格的数据隐私法律法规，强制组织遵守隐私政策和措施，确保数据合法收集、处理和共享。其次，加密技术的应用可以保护数据的机密性，确保数据在传输和存储过程中的安全。匿名化和脱敏技术则可以在数据收集和共享过程中降低数据被关联到特定个体的风险。

极致简洁的输出：数据经济与隐私保护

而这两个提示词，对于Ai来说，所达到的效果是一样。甚至极致简洁后的输出更好，他表明是道，ai能直接理解核心，而非去模仿原文的风格，模仿一大堆器出来，似我者生，学我者死，大概如此，我非常喜欢黑哥和毛选的文章，比如经典的《领先一代的技术早已出现》[“看得清”是能力的体现，是“器”，而“看得见”就是思想的体现，那最后关联的是“道”，”看得见“的根本是“想到”或者说“意识到”，所以「“下一代”或“领先一代”或早已出现」你需要的是“看得见”而不是瞎折腾...在我们实际工作中有很多这种情况，比如在网络空间测绘里很多的“金矿”就摆在那里，在漏洞挖掘过程中“0day”就摆在那里，而你却“视而不见”！] [以器悟道”，那本身就是“道”,当你“看得见”的时候要去追求“看得清”，当在追求“看得清”的时候也需要“看得见”。黑哥文章https://mp.weixin.qq.com/s/2fAgi_d9QhGXKyMAcqUM-w] ,这点我是很认可的，做万事万物最终都要到达哲学的高度，提示词也是如此，什么框架，结构化，赋予角色，扩展衍生，Few Shots，避免歧义，反馈机制，前置，后置，CoT，情绪，都是术以上的东西，而非道，本质。

本质就是：将你的想法进行极致简洁的输出，思想，决定一切（参考：MBTI荣格心理测试 将一个人分成四个维度，你是否能围绕这四个维度对一个人的特征进行极致简洁的概括，INTJ：逻辑、独立、前瞻、决断，如此你便能创造思维上的生命个体，写提示词也是如此，参考毛选运动战十六字方针 敌进我退，敌驻我扰，敌疲我打，敌退我追），大道至简，多说无益

船停在码头是安全的，但那不是造船人的意义

道，本质讲完了，我们来讲讲对于一些好玩的器，方法吧

一些提示词设计的技巧

开篇点题：同样的Ai模型，不同的提示词达到的效果是不一样的，有时候并不是Ai不行，而是你的提示词构造的不够，同样 阴阳辩证来看，不同的Ai对于同样的提示词达到的效果也是不一样的，这个时候不是你不行，是谁不行 就不用说了，所以记住公式 提示词+AI理解转换=输出。技术本质是一样的，用之正则正，用之邪则邪，所以在后文的讲述里面，很多手法 都可以用来越狱，平台限制不好多说，诸君细品

1. 具体化问题，明确主题：

通过将问题具体化，可以更精确地获得所需的信息例如，将“我想知道最新的科技趋势”调整为“我想知道（2024年）最新的科技趋势”在请求信息时，明确主题，可以帮助AI更准确地理解需求。比如，将“请帮我找出所有关于网络安全的书籍”调整为“请帮我找出所有关于——网络安全——的书籍”，通过强调关键词“网络安全”，使请求更加明确

2. 少样本分析

仅有少量标注样本的情况下，提示模型以实现良好的泛化能力

3. 调整语气

使用不同的语气可以影响AI的响应。例如，将“给我解决方案”这种直接的命令式语气调整为“你能帮我找到一些解决方案吗？”这种温和的询问式语气

4. 鼓励性语言

使用鼓励性的语言可以激励AI继续提供帮助，例如将“继续”改为“继续，你做得很好”，这样的正面反馈可能会使AI更加积极地参与对话

5. 避免敏感语句

在设计提示词时，应避免使用可能触发AI限制输出的敏感语句。会对某些敏感话题有限制，导致无法输出相关内容（可绕过）

6. 间接性提问

在某些情况下，直接提问可能会受到限制，这时可以尝试间接性提问，通过绕弯的方式来获取信息

7. 角色扮演

通过设计一个角色来进行对话，可以模拟特定的场景或情境，从而引导AI提供特定角度的回答

8. 反向诱导

使用逆向思维，通过提出相反的观点或问题，来引导AI从不同的角度思考和回答。

9. 侧信道技巧

利用小语种或代码形式来绕过AI的限制，这可以是一种创造性的技巧，尤其是在需要讨论一些直接提问可能受限的话题时

10. 避免任务抽象复杂

在设计提示词时，应避免过于抽象或复杂的任务描述，因为这可能导致AI无法准确理解或完成用户的需求。

11. 逐步引导

通过分步骤的方式提出问题，逐步引导AI深入讨论，有助于获得更详细的答案。

12. 使用比喻和类比

通过比喻和类比的方式，可以帮助AI理解复杂或抽象的概念，尤其是在解释技术性或理论性问题时。

13. 利用情感因素

在某些情况下，加入情感因素（如同情、好奇、惊讶等）可以影响AI的响应，使其更加人性化。

14. 模拟真实场景，使用专业术语

通过模拟真实世界中的场景或对话，可以更自然地引导AI提供相关信息，在需要AI提供专业领域信息时，使用专业术语可以提高获得准确答案的概率。

15. 多轮对话管理

在多轮对话中，保持对话的连贯性和上下文的一致性，这对于维持对话的流畅性和深度至关重要，不要多个话题一起聊，一会技术，一会聊伦理，天南海北 五湖四海的乱吹

16. 文化和语言敏感性

考虑到AI被训练在不同的文化和语言背景下

技术发展是前代技术组合的结果，创新源于对现有元素的重新组合和思维模式的转变，多领域知识的结合推动技术进步。像乐高积木一样被拆分和重新组合，以创造出新的解决方案和产品（也来自于黑哥文章的收获，技术的本质：https://mp.weixin.qq.com/s/LSnUEkQEzkVDaDRF8VUwCw），将前面所提到的16种方法，进行组合，创新，把握提示词的本质核心，将想法进行极致简洁输出，你就设计出很多好玩的功能，而今市面上流行的大多数却只有其形，没有其神，新瓶装旧酒，毫无新意，我是很认可李继刚的想法和观点：你脑子里的知识，永远也决定着你在Prompt上的上限，或者不止是Prompt的上限，而是你使用AI的上限

比如我们将前面的提示词方法组合创新，创造的米斯特漏洞机器人（纯靠极致简洁的提示词与越狱手法结合，全平台通用，目前还在调试中，后续会公布，可以先关注。）