最近看了一篇腾讯的文章,讲解的是代码审计来解决cursor之类的屎山代码的安全隐患,这文章让想起来1月deepseek r1论文出来以后我看的一些想法。
我看完deepseek grpo rl的奖励函数后,我觉得任何事情都可以被rl,无非这个rl奖励函数怎么写的问题,大不了写的复杂点。毕竟已经有复杂的workflow了,那为何不在写代码的时候引入一些代码安全的检查?这样的话代码就可以实现天然的安全性了。
我没做过agi也不知道llm团队的任务和目标分配,他们应该有他们的考虑。所以只要他们愿意,他们完全可以外包并且分担这些复杂的workflow到他们的rl奖励函数里,这样的话就可以实现比如代码天然安全?代码安全属性天然内化在模型中。
这个也是我说,这是安全人员的达摩克利斯之剑,因为只要deepseek想,无非就是执行的问题。网络安全市场是大部分构建在代码安全之上的。如果代码天然就没漏洞了,或者代码的漏洞出现的概率降低了80%。那么,整个市场需求就会降低,企业证明你的安全价值的成本和风险就上升100%?可能还要多,导致大量的安全企业生命进入倒计时,只能争抢存量市场。
很多人没意识到这点,并且看完我的文章甚至不知道我在说什么。
AI时代,执行不是问题,想象力是一个人最大的能力边界,而望不到危机时一件很可怕的事情。
原文始发于微信公众号(xsser的博客):悬在安全行业人头上的达摩克利斯之剑
免责声明:文章中涉及的程序(方法)可能带有攻击性,仅供安全研究与教学之用,读者将其信息做其他用途,由读者承担全部法律及连带责任,本站不承担任何法律及连带责任;如有问题可邮件联系(建议使用企业邮箱或有效邮箱,避免邮件被拦截,联系方式见首页),望知悉。
点赞
https://cn-sec.com/archives/3859556.html
复制链接
复制链接
-
左青龙
- 微信扫一扫
-
-
右白虎
- 微信扫一扫
-
评论