【重发】AI与之安全行业及全球趋势的判断（春节前最后一篇）

      

      人工智能已经渗透到了安全行业的各个领域，如果我说，我一点都不担心人工智能对行业的冲击，对我工作岗位的冲击，我就是在撒谎，一方面，安全工作有很多模块化标准化的内容，另一方面，创造性具有通用性，如果安全+人工智能能运行的比较成功，对一些低级、重复的安全工作来说不亚于灭顶之灾。恐慌人工智能、接受人工智能、成为人工智能，这是我想我需要经历的过程，让人工智能成为我的伙伴，提升自己的舒适圈的广度，而不只是执行令人麻木的、简单、重复、受限的工作指令。

      人工智能在未来人类社会比重越来越高，影响越来越大，并且预测人类和机器人的比率将超过1:1，机器人总量超过人类数量，积极影响和消极影响并存，负面来说，由于机器人的智能程度、生产效率和数量远超人类，可能对人来产生威胁。但是换个角度机器人可从事人类不愿从事的危险、乏味的工作，这也是我们希望看到的。

      人工智能从上世纪五十年代至今经历了多轮的革命性的变革，让我们看到了IBM的深蓝和沃森，Google的alphago和alphago zero，最后到GPT，也看着人工智能技术从最早的关键词、知识库、推理到机器学习、自然语言处理和目前最强大的语言模型，GPT，最新的技术都以算法、算力、数据为核心金三角，用数据做燃料，用算力做基础，用算法做核心来驱动新的人工智能时代。

      在人工智能影响之下，网络安全行业也在发生变革，危险和机遇并存，在算法、算力、数据三驾马车之下，被忽视的是监管和安全：从风险角度来看，ChatGPT将降低网络犯罪的准入门槛，比如视频诈骗案背后的真人语音和视频模拟、更容易的免杀实现，更简单的社会工程学行为，更容易建立特性的诈骗话术，更便捷的制作以假乱真的网络钓鱼电子邮件将一级更具有针对性的钓鱼场景，当然也有更聚焦的ai安全风险，例如数据投毒、提示词注入，模型窃取、数据泄漏、训练数据劫持等，同样传统的访问控制、SSRF等问题仍然出现在AI的场景中，在此之下，行业和企业原有威胁不会改变，需要安全人员既要在传统安全上有所建树，也要深入了解人工智能时代和数字化时代携手而来的场景化风险，去储备、培养具有人工智能专业知识的安全人员，去构建对内容、权限、数据、模型全面覆盖的访问控制和过滤能力，去制订更多维的安全规则。当然全面的ai治理同时要兼顾人工智能的道德伦理，知识产权和隐私等角度。当然，对防护者来说，我们可以让AI 辅助安全，成为安全能力的一部分，例如、威胁情报分析、恶意软件检测、态势感知、欺诈识别、响应分析等。脱离开安全行业，我们纵观整个信息时代，来简单分析一下人工智能的趋势：

        1. GenAI将持续是接下来十年的最重要、最具有颠覆的趋势。

        2. BYOD还没覆盖，或许我们就需要迎来BYOAI的时代。

        3. AI开源时代即将揭幕

        4. AI幻觉有风险，有商机

        5.人工智能代码能力会成为一部分编码需求实现。

        6.人工智能+应用=个性化

        7. 智能应用和人工智能实现个性化

        8. 量子和人工智能

        9.人工智能下的立法、司法、执法

        10. 人工智能的道德、伦理

        11.人工智能+岗位=新工作机会（模式）

        12.搜索+AI

        13.客服+AI

        14.AI TRiSM（信任、风险、管理）

其他：

    1、人工智能已经并将持续成为企业重点能力、技术构成，也会成为新的投资预算方向。

    2、人工智能和专业结合会出现升华，大范围取代并不会出现。

    3、人工智能对效率的提升毋庸置疑，但创新不足也毋庸置疑。

    4、当下，AI人尽皆知，但理解各有千秋，价值诉求也不同。

                        这是一个最好的时代，也是一个最坏的时代；

                        这是一个智慧的年代，这是一个愚蠢的年代；

                        这是一个信任的时期，这是一个怀疑的时期。

                        人们面前应有尽有，人们面前一无所有；

                        人们正踏上天堂之路，人们正走向地狱之门。

原文始发于微信公众号（KK安全说）：【重发】AI与之安全行业及全球趋势的判断（春节前最后一篇）