【资料】开源情报调查人员用人工智能（AI）（ChatGPT）打击散布信息和伪造评论的实用指南

ChatGPT是目前最流行的人工智能（AI），它使用大型语言模型（大语言模型）。它也是第一个获得大量关注、吸引力和资金的开源项目之一。但尽管有这些里程碑，微软和谷歌等科技巨头正在开始推出类似的技术。

互联网上充斥着由ChatGPT等人工智能工具（AI）用户生成的虚假信息和虚假评论，带有恶意。基于第一手研究，ShadowDragon®概述了如何在线识别AI生成的有意传播虚假信息甚至意图煽动暴力的材料。
ChatGPT已经成为一个热门词汇，但其核心是利用人工智能(AI)和机器学习(ML)向用户提供基于来自大型数据语料库的训练的答案。然而，就像任何新技术一样，总有好的一面和坏的一面。不幸的是，最近几个月，ChatGPT出现了坏的一面，其恶意或错误意图的滥用有所增加。

本报告包括以下内容

• 导言

• 像ChatGPT这样的人工智能如何助长虚假信息

• 对抗人工智能(AI)与开源情报(开源情报)虚假信息的方法

• ChatGPT提示错误消息和不同语言

• 如何在网上识别虚假评论

• Ways ChatGPT对用户产生错误和谎言

• 寻找人工智能语言模型产生的潜在仇恨言论或攻击性内容

• 如何将ChatGPT与深伪图像和音频结合使用

ChatGPT是否被用于和滥用以传播虚假或虚假信息？
每当用户发出违反服务条款和/或ChatGPT不能做的提示时，ChatGPT就会发现多个错误回复消息，这反过来又促使ChatGPT用一个错误消息来回答。
这些错误信息构成了查找Al生成的虚假评论、社交媒体信息、仇恨言论、虚假博客等信息的输入。在试图理解ChatGPT如何能够被用来创建这些信息的同时，ShadowDragon还发现，ChatGPT谎报它所给出的某些任务。换句话说，它犯了错误，然后谎报它们。
当ChatGPT与其他形式的人工智能（AI）结合时，比如生成性人工智能（AI）可以创建图像和/或音频，它变成了一个非常强大的组合；一种传播高度逼真的假信息的组合，这种假信息看起来和感觉非常逼真，以至于很难发现它是假的。
ChatGPT利用一个庞大的数据语料库来训练算法，它能够充当一个集体的“大脑”，能够根据从数据中学到的东西向用户提供答案。这些数据包括数十年来在网上可获得的观点和知识，这些观点和知识可用于好或坏。
虽然许多人善用ChatGPT，但问题在于它如何被用来传播虚假信息和虚假评论。散布信息、虚假评论和深度伪造是困扰互联网多年的三大问题。散布信息是故意传播虚假或误导信息以影响观点或掩盖真相。
虚假评论是指为了给产品、服务或业务留下不准确的印象而虚假创建或操纵的评论。例如，ChatGPT可以用来生成难以区别于真实评论的虚假评论。这是因为ChatGPT已经接受了关于大量评论数据集的培训，这使得它能够创建似乎由真实人物撰写的新评论。这些虚假评论现在可以用来操纵消费者意见、伤害竞争对手，以及欺骗社会。
人工智能(AI)助长虚假信息传播的另一种方式是制造深造假货。深造假货是利用人工智能(AI)操纵的视频、图像或录音，以产生看起来真实但实际上是假的内容。深造假货可以用来传播虚假信息、欺骗人，甚至煽动暴力。
作为一名在线开源情报调查员，人们应该时刻意识到这样一个事实：世界各地的人都会说不同的语言，所以当你研究自己选择的话题时，千万不要把自己局限于一种语言。英语中的错误提示消息的整个列表可以被翻译成ChatGPT能够生成答案的任何语言。
用谷歌搜索引擎搜索到的AI生成的回答：

用AI生成的照片：5个人，其中4人有轻肤色，他们攻击第5人，欧洲风格广场

现在，如果我们将生成的关于争吵的ChatGPT文本和这些图片之一结合起来，这个帖子很可能会引起反应，潜在地触发一个种族导向活动，激化Twitter用户。
这些战术正在被坏演员使用！我们已经看到在乌克兰周围的战争中使用假战后卫星图像。
就像人工智能（AI）文本和图像一样，我们也可以生成语音。

原文始发于微信公众号（丁爸 情报分析师的工具箱）：【资料】开源情报调查人员用人工智能（AI）（ChatGPT）打击散布信息和伪造评论的实用指南