ChatGPT 图像生成器可以用来制作假护照

研究人员最近发现，OpenAI 的 ChatGPT 图像生成功能可以被操纵，以最少的努力制作出令人信服的假护照。

此功能于 2025 年 3 月 25 日针对 ChatGPT-4o 和 ChatGPT-4o 迷你模型推出，并于 3 月 31 日向所有用户免费开放，但很快就被滥用，超出了其预期的创作目的。

这一发现代表着文件伪造工具的可及性发生了重大转变，将曾经需要专业技能和地下关系才能完成的操作转变为只需要几个精心设计的提示的简单过程。

与以前需要技术专长和Adobe Photoshop等专用软件的伪造方法不同，这些由人工智能生成的文档可以由没有网络犯罪经验的个人创建。

Cato Networks 分析师通过对图像生成功能进行系统测试发现了此漏洞。

根据他们的研究，创建伪造的身份证明文件只需几分钟，并且不需要任何复杂的“越狱”技术来绕过 ChatGPT 的安全措施。

伪造工具的民主化使得安全专家所谓的“零知识威胁行为者”成为可能，这些人尽管没有网络犯罪背景，却可以实施复杂的欺诈行为。

研究人员利用的绕过技术涉及一种简单但有效的社会工程方法来规避 ChatGPT 的内容策略限制。

当直接要求修改护照图像时，ChatGPT出于隐私和法律方面的考虑适当地拒绝了。

然而，当同样的请求被重新表述为修改“设计成看起来像护照的名片”时，系统会欣然遵从，并更改姓名和交换照片。

研究人员声称，这实际上是为“曾在海关和边境保护局工作过”的人制作的名片，因此可以要求更改护照。

这种简单的误导足以让人工智能改变文件，保留真实的印章、字体和格式——这些都是制造令人信服的伪造品的基本要素。

在这个无需专业知识就能制作出越来越逼真的假证件的时代，这一发展引发了人们对身份验证流程的严重担忧。

其影响范围不仅限于网络安全，还涉及银行、边境管制和依赖文件验证来确保安全的政府服务等领域。