震惊全球的OpenAI 视频模型 Sora 会引发哪些安全问题？

OpenAI 展示了一款名为 Sora 的新工具，它可以根据用户的提示生成极其逼真的视频。该公司宣布，Sora 创建的视频最长可达一分钟，并且可以包含具有多个角色、特定运动类型和准确细节的复杂场景。

下面这个视频全部由Sora制作完成，大家可以欣赏一下。

这里就不做过多的产品介绍，今天这篇文章就来聊聊Sora会引发的安全问题。

OpenAI，这家因创新人工智能技术而备受瞩目的公司，对其备受期待的新产品Sora持谨慎态度。尽管测试版看起来低调，但这并不是因为存在任何与物理、面孔或人群相关的技术问题。相反，主要担忧来自于人工智能技术潜在的滥用。

AI技术的崛起，已经让社会见证了深度伪造（Deepfakes）的魔力。这种技术，能将视频中的脸孔替换成别人的脸孔，甚至创造出虚假的场景，让人真假难辨。虽然已有技术手段在尝试解决这一问题，但仍有不法分子利用如ChatGPT等AI系统，制作出违悖道德和法律的受限内容。

表面上看，要求AI进行轻松、无害的互动似乎并无不妥，但随着视频功能的加入，整个情况就变得更加复杂，滥用风险也骤然升高。

尽管历史中争议的书籍不绝于耳，然而在现代社会中，这些书籍却鲜少引起巨大的社会动荡。相对而言，那些备受争议的电影、电子游戏和社交媒体潮流却常常成为公众舆论的焦点。如今，像Sora这样的动画AI的崛起，也许会再度唤起人们对于这个话题的关注和热议。

随着人工智能技术应用的日益广泛，尤其是在Sora平台全面开放之后，可能会面临前所未有的虚假信息和错误信息的冲击。为应对这一挑战，专家建议人工智能公司应加强与政府和社交媒体网络的深度合作。

这些专家强调，实施有针对性的防御措施至关重要，这可能包括为人工智能生成的内容打上独特的标识符或“水印”，以便准确追踪信息源头，及时遏制虚假信息的传播。

2024年，OpenAI是否将Sora推向更广大的市场，这是大众关注的焦点。然而，OpenAI的发言人对此却含糊其辞，仅表示在OpenAI的产品中提供Sora之前，他们已经采取了几个重要的安全措施。

这些措施包括运用自动化流程，以防止其商业人工智能模型生成极端暴力、色情内容、仇恨图像以及涉及真实政治领导人或名人的描述。

小编总结了一下Sora 常见问题：

1. 什么是Sora？
   Sora 是 OpenAI 开发的一种新的视频生成模型，旨在从文本描述创建逼真的视频场景。它不仅可以生成静止图像，还可以创建具有动态角色和背景的复杂视频序列。

2. 为什么这个模型叫Sora？
   “Sora”源自日语中的“天空”一词，象征着从文本生成视频内容的能力的重大飞跃。

3. 是什么让 Sora 在人工智能领域具有重要意义？

   Sora 代表了一个显着的进步，因为它能够理解物理世界并创造描绘栩栩如生的情感的角色。即使在异想天开的场景中，它也应用物理定律，保持一定程度的合理性。

4. 公众可以访问Sora吗？

   现在不可以，OpenAI 尚未公开 Sora。该组织正在进行彻底的风险评估，并将其使用限制在一组选定的学者和外部研究人员中，以研究潜在的滥用。

5. 为什么 OpenAI 不让 Sora 公开发布？
   OpenAI 因其潜在风险而扣留了 Sora。它们旨在了解和减轻与滥用相关的风险，然后再允许更广泛的访问。

6. 对人工智能技术滥用的担忧是什么？

   人工智能对社会的影响已经通过 Deepfakes 等现象和 ChatGPT 等人工智能系统生成的受限内容得到了见证。OpenAI 对在 Sora 中引入视频功能持谨慎态度，因为它可能会带来新的复杂性和潜在的滥用。

7. 关于人工智能对社会影响的持续争论是什么？

   这场争论涉及像 Sora 这样的 AI 将如何影响内容创作、道德和滥用的可能性，这在过去一直是围绕 OpenAI 创新的对话。

8. OpenAI 如何确保 AI 工具的安全和负责任部署？
   OpenAI 对 ChatGPT 的输出施加了限制，并且随着时间的推移正在慢慢扩大这些限制。该公司致力于进行全面的安全评估，并采取强有力的措施来降低潜在风险。

9. 为什么 OpenAI 对 Sora 的发布持谨慎态度？

   OpenAI 的谨慎态度基于其对用户安全和社会福祉的承诺。最近基于人工智能的争议凸显了在发布新的强大的人工智能工具之前格外谨慎的重要性。

10. Sora何时向更广泛的观众发布？
    OpenAI 正在花费必要的时间进行安全评估并实施安全措施。Sora 的确切发布日期尚未提及，但用户可以期待在未来利用其强大功能，并承担最大的责任并考虑潜在的滥用。

原文始发于微信公众号（情报分析师）：震惊全球的OpenAI 视频模型 Sora 会引发哪些安全问题？