从教育界到商界，再到网络安全领域，很多行业都对名为ChaGPT的一款人工智能（AI）工具感到焦虑。许多文章描述了ChatGPT在创建网络钓鱼电子邮件和通过医学院及商学院测试方面是多么高效。ChatGPT能像人类一样撰写、叙述和回答各种主题的问询，还能发现计算机系统中的漏洞，自然引发了对该工具可能被用于大规模进行有效网络钓鱼活动的担忧。
尽管目前还只是个玩具，一个用来显示AI进步程度的小把戏，但随着AI模型的持续改进和恶意黑客对此类工具的利用，企业和政府机构应该考虑未来两到五年会发生什么了。企业和机构现在就应该采取行动，加强自身网络防御，抵御当前和潜在的威胁。
AI的通用性带来了风险
ChatGPT由OpenAI创建，自2022年11月起便可在开放测试期内用于查询。OpenAI是一家追求AI创新的研究与部署公司，该公司宣称，创建此聊天机器人是为了以对话方式互动，研究用户反馈，了解自身优劣。这款聊天机器人被用来探讨科学问题，帮助写诗或写歌，甚至还能用来求职。ChatGPT确实会犯错。IT技术问答网站StackOverflow就暂时封禁了ChatGPT，因为它的回答往往是不正确的，发布这些答案可能会对该网站用户造成“巨大伤害”。但ChatGPT一直在学习和改进。
下一阶段的AI威胁
ChatGPT最紧迫的网络安全问题是，就算是新手网络攻击者也可以使用该工具编写网络钓鱼电子邮件、利用缓冲区溢出漏洞，以及进行其他基本网络攻击。而在几年之后，这些威胁会变得严重得多。
AI工具将能帮助获得代理访问权限的恶意内部人或网络犯罪分子设计和操纵公司内部对话，发送精准定位的针对性网络钓鱼电子邮件，伪装公司内部人员提出貌似合理的请求。
企业该如何保护自身
企业可以采取几个措施来培养安全优先的文化，保护自己免受AI当前和未来可能构成的威胁：
打造安全文化
通过加强IT、HR、安全团队和员工之间关于风险、数据隐私、互联网使用等等方面的沟通，很多企业增强了自身员工的能力，开始看到在应对先进AI威胁方面的成果。当今威胁环境下，每个人肩上都担负着安全责任。
参考阅读
网络安全产品集成ChatGPT
ChatGPT极大增加了网络防御的难度
2023年ChatGPT改变信息安全领域的三种姿势
自动化网络安全防御：AI是把双刃剑
太空竞赛：卫星网络攻击催生太空网络防御措施
原文始发于微信公众号（数世咨询）：如何应对AI安全威胁
- 左青龙
- 微信扫一扫
-
- 右白虎
- 微信扫一扫
-
评论