人工智能的进步如何影响商业网络安全

虽然ChatGPT和 Bard 已被证明对于开发人员、营销人员和消费者来说是有价值的工具，但它们也存在无意中暴露敏感和机密数据的风险。

从安全角度来看，提前思考下一步可能发生的事情总是值得的。人工智能技术的最新突破之一是“交互式人工智能”。

虽然生成式人工智能工具可以创建新内容、编写代码、执行计算以及进行类似人类的对话，但交互式人工智能可以用于地理定位和导航或语音转文本应用程序等任务，从而迎来聊天机器人和人工智能的下一阶段。数字助理。

作为网络安全专业人士，我们考虑它给企业带来的安全风险和影响，我们必须尽最大努力保持控制，并为技术的功能设定明确的界限和限制。

生成式人工智能阶段的经验教训

当我们考虑交互式人工智能的安全影响时，我们必须首先考虑之前围绕生成人工智能模型和法学硕士提出的担忧。这些范围从道德问题到政治和意识形态偏见、未经审查的模型和离线功能。

道德问题是指防止法学硕士从事不道德或不当的活动。通过微调这些模型，开发人员能够构建政策和护栏，确保人工智能系统拒绝有害或不道德内容的请求。随着交互式人工智能的发展并比生成式人工智能模型拥有更多的自主权，我们必须确保这些政策和护栏继续存在，以防止人工智能与有害、攻击性或非法内容交互和参与。

此外，未经审查的人工智能聊天机器人也带来了重大的安全挑战，因为它们在 ChatGPT 等封闭模型所遵循的规则和控制的限制之外运行。这些模型的一个独特功能是其离线功能，这使得使用情况跟踪变得极其困难。

缺乏监督应该给安全团队敲响警钟，因为用户可能会在不被发现的情况下从事邪恶活动。

业务安全最佳实践

如果交互式人工智能是我们未来的发展方向，那么许多组织无疑会考虑如何采用该技术以及它是否真正适合他们的业务。

该过程涉及考虑其带来的安全风险，因此企业必须与 IT 和安全团队及其员工合作，实施强大的安全措施以减轻相关风险。

这可能包括以下最佳实践：

• 采用数据优先策略：这种方法，尤其是在零信任框架内，优先考虑业务内的数据安全。通过识别和了解数据在组织中的存储、使用和移动方式，并控制谁有权访问该数据，确保安全团队能够快速响应威胁，例如未经授权访问敏感数据。

• 严格的访问控制：对于混合和分布式劳动力，这对于防止未经授权的用户与人工智能系统交互和利用人工智能系统至关重要。除了持续监控和情报收集之外，限制访问还有助于安全团队及时识别和响应潜在的安全漏洞。这种方法比直接阻止工具更有效，后者可能导致影子 IT风险和生产力损失。

• 与人工智能合作：另一方面，人工智能和机器学习也可以显着提高业务安全性和生产力。它可以通过简化安全流程并提高其有效性来帮助安全团队，以便他们可以将时间集中在最需要的地方。对于员工来说，有必要围绕安全可靠地使用人工智能工具进行充分的培训，同时也认识到人为错误的不可避免性。

• 建立明确的道德准则：组织应制定在其业务中使用人工智能的明确规则。这包括解决偏见并确保他们有内置的政策和护栏，以防止人工智能系统产生或参与有害内容。

尽管交互式人工智能是人工智能领域的重大飞跃，但未知领域意味着企业必须谨慎行事，否则他们可能会跨越人工智能作为强大工具和组织潜在风险之间的界限。

现实是人工智能不会去任何地方。为了不断创新并保持领先地位，公司必须采取深思熟虑和谨慎的方法来拥抱人工智能，同时保护自己的利润。

原文始发于微信公众号（河南等级保护测评）：人工智能的进步如何影响商业网络安全