黑客利用机器学习发动攻击的十种方式

利用机器学习技术检测垃圾邮件的做法已沿用了数十年之久。可以说，防范垃圾邮件是机器学习技术的首个成功应用案例。

当垃圾邮件过滤器提供邮件未发送成功的原因或某种评分时，攻击者便能据此调整其策略。他们实际上是在利用这一合法工具来提升自己攻击的有效性。只要频繁提交内容，攻击者就有可能逆向推导出模型的原理，进而对攻击手段进行微调，以规避模型的检测。

攻击者不仅可以利用机器学习安全工具来测试其邮件是否能绕过垃圾邮件过滤器，他们更能在一开始就利用机器学习来制作这些邮件。攻击者会在犯罪论坛上宣传这些服务，利用它们生成更精良的钓鱼邮件，创建虚假身份以推动诈骗活动。

机器学习使攻击者能够以创新的方式定制钓鱼邮件，使其看起来不像批量邮件，并优化邮件以触发互动和点击。他们不仅限于邮件正文，还利用人工智能生成逼真的照片、社交媒体资料和其他材料，使通信内容尽可能显得合法。

犯罪分子还能利用机器学习来提高密码猜测的准确性。犯罪分子正在构建更完善的字典来破解被盗的哈希值，同时他们会利用机器学习来识别安全控制，这样他们就可以减少尝试次数，猜测出更准确的密码。

人工智能最令人恐惧的应用之一是深度伪造工具，它们可以生成难以与真实人类区分开来的视频或音频。

事实上，过去几年中已经出现了几起备受瞩目的案件，其中伪造音频等事件已导致部门公司损失了数十万甚至数百万美元。

而更常见的是，骗子会利用人工智能生成逼真的照片、用户资料、电子邮件，甚至音频和视频，以使他们的信息更具可信度。根据保险公司Nationwide于9月底发布的一项调查，52%的小企业主承认曾被深度伪造图像或视频所骗，90%的人表示生成式人工智能诈骗变得越来越复杂。

如今使用的许多流行安全工具都内置了某种形式的人工智能或机器学习。例如，防病毒工具越来越能寻找可疑行为。

而攻击者可以利用这些工具，他们不是为了防御攻击，而是为了调整他们的恶意软件，直到其能够避开检测。人工智能模型有许多盲点，通过改变攻击的特征，比如发送的数据包数量或攻击的资源，就可能会改变这些盲点。

人工智能和机器学习可用于研究和侦察，使攻击者能够查看公开信息及其目标的流量模式、防御措施和潜在漏洞。

许多组织没有意识到外部数据的数量。这不仅仅是暗网上分布的被盗密码列表和员工在社交媒体上发布的帖子。例如，当公司发布职位招聘或提案征集时，他们可能会透露他们使用的技术类型。

当企业察觉到遭受攻击并切断受影响系统的网络连接时，恶意软件可能会失去与其指挥控制服务器的联系，从而无法接收进一步指令。然而，为了维持更持久的攻击效果，攻击者可能会开发一种智能模型，即便不能直接控制，也能保持其运行。当下，得益于微软的商业产品以及多个没有设置防止恶意使用限制的开源平台，任何人都可以轻松获取和使用这些自主代理。

攻击者能够向机器学习模型注入新的信息，从而对其进行欺骗。攻击者会篡改训练数据集，故意引入偏见，导致机器学习到错误的方式。”

举个例子，如果攻击者劫持了一个用户账户，并让这个账户每天在凌晨2点登录系统进行一些无害的操作，那么系统就会认为凌晨2点工作并无异常，从而降低了对用户的安全审查。

合法的软件开发者和渗透测试人员通常会使用模糊测试软件，通过生成随机的输入样本来尝试让应用程序崩溃或发现漏洞。而现在，一些加强版的模糊测试软件利用机器学习技术，以更加精确和有条理的方式生成输入，优先处理那些最有可能引发问题的文本字符串。这使得模糊测试工具对企业来说更加有用，但同时也增加了攻击者利用这些工具进行破坏的风险。

生成式人工智能还可以被用来发现零日漏洞。就像合法的开发者可以利用人工智能来查找代码中的问题一样，攻击者也可以这样做。黑客可以获取代码，并通过ChatGPT或其他基础模型进行分析，以发现可以被利用的弱点。