闲扯安全在大模型领域的误区

admin 2025年5月15日09:17:34评论2 views字数 872阅读2分54秒阅读模式
近期有空闲时间,也和众多的安全从业者们沟通过大模型在安全领域的一些应用(非大模型本身的安全),发现有一些“误区”(当然是我的一家之言),遂发表出来博君一笑。
一、大模型无用论:没啥卵用,只能当个问答机器人,还不如我google 出来的准确。

吐槽一下:大模型在各行各业如火如荼的发展,单模态、多模态、agent 这么多的技术在各行各业的应用,咋到了安全行业就特殊了呢。
二、用大模型来替代传统的机器学习&深度学习模型:尤其在大模型测评的时候,经常用大模型作为一个类算法、与机器学习、深度学习的模型,进行结果的比对。
吐槽一下:大模型好不容易堆了海量的参数训练出来,具备了理解&推理的能力,结果又当成了一个模型进行比对,暴殄天物,拿着屠龙宝刀杀鸡。
三、大模型能解决万物,举个例子,能够智能威胁分析,把几百万的告警全部喂给大模型,让大模型来解决。
吐槽一下:几百万的报警人都分析不明白,喂给大模型凭什么就能分析明白呢。难道大模型比人脑的推理能力还强?而且市面上看到了很多的厂商也推出了安全大脑,可以直接进行智能化分析,不理解!
四、只单纯的调用大模型,就可以完全解决安全的问题,结果发现大模型乱说话,开喷。
吐槽一下:有没有可能是自己使用不当呢? 微调、rag/rat、agent、mcp 等等的不停的在发展,是否能在安全领域内使用一下呢。
以上都是碰到的一些极端观点,说明对于大模型在安全领域的认知还不太到位。笔者认为,作为一名安全工程师,我们应该更关注大模型能够在安全的哪些领域能够带来提升。因为大模型的推理&理解能力,我们更应该关注利用大模型解决之前很多安全领域无法自动化解决的问题,甚至提效的部分优先级都不高,毕竟安全行业有太多任然依靠手工、人力在解决的问题。
同时,为了更好的使用大模型,我们也应该关注大模型的基地能力。但是并不推荐安全自己去做微调、agent (有钱的甲方请跳过),更推荐做 ragrat(解决幻觉和匹配度)、、workflow、mcp 等更有性价比的事情。至于如何做,有空再分享。

原文始发于微信公众号(安全实战派):闲扯安全在大模型领域的“误区”

免责声明:文章中涉及的程序(方法)可能带有攻击性,仅供安全研究与教学之用,读者将其信息做其他用途,由读者承担全部法律及连带责任,本站不承担任何法律及连带责任;如有问题可邮件联系(建议使用企业邮箱或有效邮箱,避免邮件被拦截,联系方式见首页),望知悉。
  • 左青龙
  • 微信扫一扫
  • weinxin
  • 右白虎
  • 微信扫一扫
  • weinxin
admin
  • 本文由 发表于 2025年5月15日09:17:34
  • 转载请保留本文链接(CN-SEC中文网:感谢原作者辛苦付出):
                   闲扯安全在大模型领域的误区https://cn-sec.com/archives/4065697.html
                  免责声明:文章中涉及的程序(方法)可能带有攻击性,仅供安全研究与教学之用,读者将其信息做其他用途,由读者承担全部法律及连带责任,本站不承担任何法律及连带责任;如有问题可邮件联系(建议使用企业邮箱或有效邮箱,避免邮件被拦截,联系方式见首页),望知悉.

发表评论

匿名网友 填写信息