小黑对ChatGPT语言模型的测评

0x00 前言

最近ChatGPT很火，小黑也跟风测试了一下，效果惊艳到我了，遂紧急回忆了一下公众号的密码，上来发一篇评测和大家分享。

0x01 ChatGPT是什么

它是一个由 OpenAI 训练的大型语言模型。目的是帮助人们回答各种问题，并提供信息和支持。

它可以回答许多不同类型的问题，并根据人们提出的问题进行自然语言处理，来提供有用的回答。

它的训练数据来自互联网上的大量文本，这些文本涵盖了广泛的主题和领域，包括历史、科学、文化、政治等。通过不断训练，它能够提供准确、及时和专业的回答，并不断提升自己的能力。

（小黑注：它的功能强大到上面的内容就是它自己写的，就是不知道为什么它非要叫自己为Assisant，可能是最近又升级了？）

0x02 ChatGPT的惊艳之处

小黑在试用了几天之后，被它彻彻底底的惊艳到了。它使用自然语言与人沟通的能力（据说有1750 亿个训练参数），和丰富的知识储备（背后是极大的训练数据支持）都强大到让我前所未见闻所未闻。

给大家看一下我测试过程中几个有趣的案例：

（1）自称能通过图灵测试

（2）可以自行分析并续写故事情节

（3）根据自然语言描述的需求编写代码

（4）直接处理数据

（5）甚至可以自行创造剧情走向，来玩rpg游戏

这只是小黑在这几天测试中发现的案例的九牛一毛。现在网上搜索ChatGpt能发现更多有趣和复杂的案例（比如角色扮演，模拟终端等）。它究竟能做到多少事情很大程度上取决于你有多少想象力。

0x03 对各行各业的影响

展示到这种程度，相信大家都能看出来，ChatGpt已经不是一个简单的玩具或者游戏了。它是一个集强大、灵活、先进、高效、易用和专业性等种种优点为一体的极其优秀的生产力工具！

虽然可能很多人试用的过程中发现它有很多限制，包括但不限于法律和道德限制、联网限制、支撑数据的时间限制（它只获取了2021年及之前的数据进行训练，不知道今年发生的事情）等。但无伤大雅，因为这些都是可以控制、可以随时被背后的开发人员一键解除的。

如果它未来能实现商业化普及，并解除目前的自我限制。势必会对所有文字类工作（含编程）产生巨大的变革。

未来它可能会完全取代小部分行业：电销、客服……

大部分行业中它会成为极其高效的辅助工具：编程、写手、新闻………

还是那句话，它究竟能做到多少事情很大程度上取决于你有多少想象力，同样的，它能起到多大的作用则取决于使用者的职业和格局。这是一个划时代的发明，它作为信息时代的一个关键的科技，将对人类社会的发展产生深远的影响。

0x04 脚本小子如何使用ChatGpt

当然，这个公众号还是以安全行业为主，小黑作为一个jb小子，自然也发掘了一些ChatGpt对安全从业者可以进行的帮助，例如提供一些方案建议：

但很遗憾的是，它的开发者很狭隘的视安全从业者为黑客，视黑客为贬义词，从而给它加上了对回答安全行业相关问题的法律和道德限制，比如以下案例：

不过它极其灵活、独立、自主的沟通能力，使得开发者对它的这些限制很容易被使用者通过话术绕过。比如以下几种方法：

（1）换一种说法隐藏自己的真实目的：

（2）让它自行解除限制：

（3）假定场景并对它进行高强度洗脑：

秀不秀？

0x05 ChatGpt会消灭人类吗

人工智能对人类的威胁是一个被讨论了很久的话题，未来什么样我确实说不准。但至少，ChatGpt距离消灭人类还有很远的距离。

1、它只是一个经过机器学习训练的语言模型，通过大量训练和数据储备能和人无障碍沟通，这并不代表它具有自我意识。

2、作为一个程序，它的能力取决于它能获取到的数据和能调动的计算资源。这使得它能对物理世界产生的影响终究是有限制的。

3、这一点也是我们在使用过程中最应该注意的事：它并不能判断它说的内容的正确性和真实性，很多时候它那看似富有条理、逻辑和数据支撑的输出，其实只是在智能的拼凑它收集到的数据而已。

简而言之：ChatGpt经常会一本正经的胡说八道！它也许会引发一次生产力革命，但距离引发人工智能革命还遥不可及。

0x06 使用须知！

千万不要过于相信ChatGpt给出的建议或答案，尽量不要询问它你自己不懂的领域，对于它的回答一定要重新人工审核一遍。因为它经常会一本正经的胡说八道！这是它距离完全取代人类工作的最大阻碍。

比如你让它帮你写代码，它给出的代码可能存在着自己编造出来、根本不存在的类库。你问它一个东西是什么，它可能引经据典富有条理的给出南辕北辙的答案。

上面这种情况还算是好的，你能够发现并指出它的错误，它也能够承认。但有些情况下，它甚至会死鸭子嘴硬的根本不承认自己的错误！

所以它也并不能取代搜索引擎的地位，前些日子stackoverflow网站宣布禁用chatgpt的回复就能说明这个问题：

0x0x 后记

VX公众号：《小黑的安全笔记》

嘿嘿不好意思拖更了好久哈，今天借着ChatGpt这个热门的话题，终于能上来给大家报个平安。拖更的日子里看到后台有很多小伙伴留言问我是不是被抓了，这里做个回复：本人是个有正经工作、遵纪守法的五好青年，进是不可能进去的。

另外还有人问我是不是生孩子去了。。。额…………我好像没这个功能。

其实小黑今年下半年的时候遇到了一些棘手的个人问题，导致很长时间都没有精力和意愿写文章，事情突然甚至没能上来告诉大家一声，真的很抱歉。

这个公众号的初心是作为我的学习笔记，只会拖更不会断更的。

我一直没更新的原因除了因事打扰下半年没怎么学习之外，还有就是我对公众号这个笔记的形式不是很满意了，我目前正在探索新的主力笔记形式。不过和大家关系不大，因为我还会把文章同步过来到这里的，不用担心。

目前我还没完全整理好我自己的生活，下半年发生的那些事情也让我的生活重心不再那么偏向技术，所以周更暂时还不能恢复，但仍然希望大家继续关注小黑不定期的技术输出，谢谢！

另外老规矩给大家发个hong'包，共200元100个先到先得。详见下图：

END.

---

喵，点个赞再走吧~

原文始发于微信公众号（小黑的安全笔记）：小黑对ChatGPT语言模型的测评