AGI的奥本海默时刻

其实最近没有太多工作的状态，一方面算是放空一下，专注的陪伴家人，一方面是对自己18年进入网络安全行业的这个选择进行了一次比较全面的复盘，在当下这个节点我产生一些困惑，人总是更容易被短期影响，更显得坚持长期主义的艰难。二条做了一些结合LLM的尝试，看看大家喜欢不。

下面是正文

标题是看奥斯卡得奖的诺兰受采访时候的一句话，我是最近几天才看了这个电影，除了晦涩难明的人性外，就技术部分来讲，的确和目前的AI的现状非常类似，类比于原子弹的chatgpt已经生产出来了，OpenAI也是一家相对于科学技术更擅长工程实践的组织，接下来各个国家开始大规模的进行投入，从原材料到生产技术的军备竞赛已经是进行时了，对整个世界的影响面也越来越大，越来越深远，当然从自媒体上仍然可以看到大众对AI尤其是LLM的理解仍然是非常初级，非常民科的，我也是比较早就开始关注这块的进展，最近的一些感悟也和大家分享一下。

最近有比较连续的几个新闻，一个是李彦宏说将来不需要程序员，只需要中文和英文两种自然语言，然后引发的一些争议。一个是美国创业公司发布的devin，可以996的程序员智能体，也是引发了很多关注。

从我之前的文章网络空间安全产品的终极形态畅想提到了AGI应用的两个阶段，流程和技术是一个阶段，主要的形式是copliot，人是第二个阶段，主要形式是自主化的Agent（智能体）。两者主要区别不是具体实现技术上的，比如copliot也应用了很多agent技术，而是在是否能端到端的完整完成一个现实世界的任务，100%或者90%以上吧，替代掉人的工作，人成为一个可有可无的copilot，google有一个关于AGI划分的文章更细致一些，我个人觉得技术发展速度会很快，过于细致的阶段判定方法其实反而难以应用。以上内容作为背景，我们回到前文，李彦宏说的我个人认为是部分正确的，即如果咱们说的是第二阶段的自主化Agent，的确可以做到只需要中文或者英文为载体的任务指派，AGI就可以自主的完成这个任务，第二个新闻中的devin看视频，也的确已经实现了类似的功能了，那么不正确的部分呢？就是程序员这个职业仍然会存在，但是工作内容会有极大的不同，相当于之前的司机驾驶马车，现在驾驶汽车。仔细观察一下devin这个产品，可以发现其完整模拟了一个学习能力非常强，善于使用工具的初级工程师的角色，还可以24小时不休息（Amazing！），局限性就是只能完成相当具体的工作，复杂工作在目前的技术条件下（上限是这个规划Agent的高级推理能力）应该是无法处理的，但是目前这个状态的自主化Agent已经可以极大的释放生产力了（初级程序员也不便宜啊）。我把一个相对实际的团队架构画了一下。

1. 之后的程序员会担当团队中人类架构师的工作把业务需求通过copliot的帮助分解成标准化的，最合适程序员Agent工作的任务下发

2. N个程序员Agent爆肝工作，把需求完成并且部署

3. 人类架构师最后来验收（测试和验证）一下，如果有问题再走一遍或者N遍修改。

这个过程是极度简化过的，省略了大量测试，配置和环境等工作和角色，那些工作也有一大部分是可以被自主化完成的，之后有时间会画一个更完整的图。在这样的团队里面，人类架构师的职责就呼之欲出了，可不仅仅是掌握中文或者英文自然语言那么简单。

最后，随着技术的发展，肯定是越来越多的工作是可以被自主化Agent完成的，这个也是我目前困惑的主要来源，第一个问题更宏大一些，过5年或者10年，按照延迟退休，肯定还是在工作的，应该投资于什么样的技能和知识结构？第二个问题更微观一些，困于网络安全这样一个细分场景在这个宏大叙事下面是否能产生足够的红利？还是彻底被重塑？有兴趣的朋友欢迎加我的微信一起讨论。

原文始发于微信公众号（黄师傅的赛博dojo）：AGI的奥本海默时刻