对大模型在安全领域应用中的几点预测

从TO B市场而已，未来大模型第一个争议-训练

由于训练是定制基于行业，随着组织应用，产品，技术的个性化，厂商在更广义范围的销售中，必然面对谁解决训练问题，如何解决跨领域，跨技术的训练问题。训练如同当年的杀毒软件病毒库维护一般，既要保持高效还要保证实时性，可靠性，真实性等问题，这使得训练本身的成本在未来可能会超越大模型。

第二个争议-谁来解决算力问题。

可能对于大型组织，算力不是难题，但是对于更多的组织，算力反而成为瓶颈。高昂的算力成本如果不通过公有云来缓解，自建本身就脱离了服务于业务的本质。而使用公有云就意味着训练数据的安全性和基于模型的攻击赤裸裸的暴露了组织所有核心。当然，边缘计算是一种解决知道，但是厂商在构建大模型时，是否充分考虑算力分担的场景。

第三个争议，场景化问题

大模型服务的对象是谁？训练是否能覆盖组织所有相关资产和实时的事件类型。当用户痴迷于大模型时，大模型产生的误判有谁来确证？通用训练数据不可能解决所有问题，那么个性化问题是否可以基于场景来定义？大模型如何“认识”不同组织的不同场景，尤其是在建立响应时，如何去面对“形式化”数据带来的不可执行。在管理架构和职责不明确的情况下，上述问题尤为显著，也就是说，当我们不能依赖于大模型的管理控制时，大模型如何生成新的基于联动的解决方案。

最后一个技术问题，大模型如何破产品之局

我宣称能实现某某功能，不代表我就能实现某某功能。这就是目前产品最纠结的一个问题。大模型通过训练数据将某一个控制策略交给宣称能完成控制的相关设备后，设备却不能执行该策略，这时候大模型就陷入了“自认”陷阱，一种好的方法就是将与大模型相关的所有设备源代码作为训练数据交给大模型，由大模型来判断谁可以做什么，但这是个梦想。制约这个行为的问题不仅仅是知识产权，还有很多不可告人的隐晦。

针对未来TO C的问题

未来很有可能会有一家所谓的开源大模型免费应用与个人终端之上，然后讲端点安全纳入管理。如同众所周知的某终端产品一样，傻瓜化的训练模式和基于人机对话的训练场景以及模型定义服务的概念成为新一波的噱头。

训练师将成为新的热点

专业的训练师将主导未来真正的大模型。“专业”不仅仅基于大模型本身，更多的训练师是基于被训练对象的专业，比如：业务，技术，安全，合规等。一个状态的判定是由大模型定义，但是判定的依据由训练师来提供。因此，未来训练师将成为一个热门职业。

原文始发于微信公众号（老烦的草根安全观）：对大模型在安全领域应用中的几点预测