2019年，全球首例AI诈骗案震惊业界——攻击者通过人工智能语音生成软件，完美复刻了某英国能源公司母公司CEO的声纹，一通电话便让公司高管将约合173万人民币的资金转出，这一事件标志着AI攻击从理论走向现实。
发生在2024年的一起攻击事件，再次刷新人们对于AI伪造攻击的认知。黑客通过AI精准模仿某跨国企业高管身份，向员工发送钓鱼邮件，还结合深度伪造技术，在视频会议中伪装成CFO下达转账指令，最终导致企业损失2500万美元。
当自动化攻击遇上深度伪造
AI伪造攻击的威胁正急剧升级，其核心在于AI代理与深度伪造技术的协同作用：AI代理作为自动化攻击的"执行者"，能够快速扫描漏洞、投放恶意载荷并横向移动；而深度伪造技术则为其提供强大的伪装能力，通过深度伪造的语音、视频或文本，冒充可信身份突破验证防线。这种组合使攻击者能够自动化、规模化地实施精准诈骗，传统基于静态特征的身份验证体系已岌岌可危。
Gartner预测到2028年，40%的社交工程攻击将针对高管和员工，利用深度伪造音频、视频等伪造现实技术实施欺骗。
这类攻击的棘手性在于：一方面，深度伪造检测技术尚未成熟，但伪造内容的逼真度已经可以骗过人眼和检测系统；另一方面，攻击者结合社交工程策略，精心设计诈骗场景，使得高管及员工防不胜防。攻击一旦成功，将造成巨额资金损失。
尽管深度伪造识别存在技术瓶颈，但我们仍可以从身份验证角度切入，为企业构筑应对AI伪造攻击的重要防线。
“技术+流程+人员” 构建更智能的防御体系
《IDC FutureScape：全球未来信任2024年预测——中国启示》明确指出：到2027年，45%的大中型组织将被迫采用更先进的身份检测和响应解决方案，以应对AI驱动的伪装攻击。
面对这一挑战，企业需要构建技术、流程、人员协同作战的动态防御体系。
升级技术层
部署下一代身份验证矩阵
在身份安全领域，决策者尤其需要关注：不要让防护措施成为一种“阻力”，核心是要找到安全性和可用性的平衡点。「无感化」正在成为下一代身份验证的趋势。
无密码验证（Passkey）
Passkey是FIDO联盟提出的一种无密码认证解决方案，支持用户通过生物识别或设备解锁的方式登录应用程序和网站，从根本上消除密码爆破风险。在整个注册和身份验证流程中，用户无需记忆复杂强密码的同时也无需传递给服务器保存，安全性与体验上都能得到显著提升。
行为式生物识别技术
行为式生物识别技术为持续身份验证提供了创新解决方案。这项技术通过分析用户交互特征（如击键、鼠标轨迹等），建立“行为指纹”。实现持续身份监测，当检测到异常操作模式时，将实时触发防护。
基于风险的身份验证 (RBA)
这是一种多方面的动态用户身份验证方法，可显著增强传统的静态用户名/密码机制，提供更高的安全性并改善用户体验，实现安全策略的动态化调整。其工作原理是在身份验证过程中评估用户活动、行为模式和上下文数据的各个方面。低风险操作下可无感通过，如遇中高风险，则触发二次验证或直接阻断。
重构流程层
深化零信任架构实践
零信任架构通过动态风险评估和持续验证机制重构安全流程，实现秒级响应的智能闭环。基于最小权限原则，针对不同业务敏感度实施差异化管控策略，并实时动态调整访问权限。
当EDR系统检测到威胁时，XDR平台能够自动触发包含终端隔离、令牌重置和横向移动扫描在内的联动响应机制，将传统需要数小时的处置流程压缩至秒级完成。这种持续监测和即时响应的闭环系统，将有效阻断AI代理驱动的自动化攻击链条，为企业构建起对抗新型网络威胁的关键防线。
赋能人员层
锻造AI时代的“人肉防火墙”
面对先进且不断更迭的社会工程攻击策略，单凭安全意识已不足以确保员工侧有效防御。企业的人员培训及高管安全防护，必须跟上技术演进步伐：
语音克隆测试
训练员工识别AI合成的领导指令；
视频会议演练
帮助员工发现伪造参会者的微表情破绽，训练人员捕捉细微表情异常；
为高管定制专项防护方案
为C-level建立数字替身监测系统，基于高管的邮件措辞习惯、视频会议肢体语言等行为特征，建立行为基线。当检测到异常转账请求时，将自动触发紧急熔断机制：一方面强制要求二次身份确认，另一方面可即时调度安全团队介入。
当前，攻击者正利用AI技术持续突破传统防御边界。这场AI驱动的安全变革不是未来的挑战，而是当下的生存之战，企业应立即评估现有身份安全策略、规划AI防御技术路线、开展全员AI攻防演练。唯有将数字身份安全置于网络安全战略的核心，并构建完善的技术与管理体系，方能在复杂威胁环境中稳固防线。
文献参考：
《Gartner：到2027年，AI代理将使利用账号暴露进行攻击的时间减少50%》
《IDC FutureScape：全球未来信任2024年预测——中国启示》
BlackCloak《数字高管保护：框架与评估方法》
原文始发于微信公众号（深信服科技）：AI深伪来临，企业要当心“眼见非实”！
- 左青龙
- 微信扫一扫
-
- 右白虎
- 微信扫一扫
-
评论