布鲁金斯学会发布：（虚假）信息战

虚假信息战具备很多优点，不需要武力，难以追踪，对信息流具有较强的干扰能力，可以在看似不具备侵略性的情况下破坏反对派的运动。此外，由于虚假账号在许多方面都模仿普通账号的行为，因此很难识别源自假冒账号的虚假新闻。随着虚假信息战日益猖獗，如何应对其带来的挑战至关重要。以往研究强调，遏制虚假新闻传播的基本方式是实时内容审核和事后消除受众偏见。然而，实时核查或内容审核非常耗时，虚假信息往往在尚未处理时就已传播开来，而事后揭穿对消除公众疑虑的作用有限。在该文中，研究员提出了另一种应对策略，即事前控制，预测可能传播虚假信息的账号，并探讨了利用事前信息限制虚假信息在社交媒体上传播的有效性。

该研究在方法论上有两个贡献。一是提出了识别不安全账号的网络特征；二是通过分类器来判断X上的账号是否安全，该分类器是一个多项Logit模型，通过网络接近度指标和非网络账号特征来对网络账号进行分类。随后，研究人员使用分类器为所有X账号打分，即“虚假信息得分”和“宣传得分”，利用虚假信息评分提出了两种政策，并评估了它们在阻断社交媒体上的虚假信息流方面的效果。第一种政策涉及阻止不安全账号或宣传账号或两者同时发布的帖子，而第二种政策涉及公布虚假信息得分、宣传得分或两者同时公布。

为了解X上的虚假信息来源，研究人员将该平台的所有账号分为3类：不安全账号、宣传账号和普通账号。不安全账号包含两种：第一种是冒充反对派的账号，实际运营者为政府或其他第三方；第二种是积极参与传播虚假信息的正常账号。宣传账号则采用更传统的国家煽动宣传形式。由于最后一类不属于前两类账号，因此称之为普通账号。

为对账号进行分类，研究人员从训练数据集开始，基于账号及其活动的各种特征，根据每个账号与训练数据的相似度对其进行分类。除网络变量外，研究人员还使用了大量非网络变量。不同群体之间的差异以及单个群体内部的共性使研究人员能够在不安全和宣传账号开始传播虚假信息之前就发现它们。

研究人员提出了两种方法，利用虚假信息和宣传得分来限制社交网络中的虚假信息来源。其一是屏蔽不安全和宣传性账号的帖子，其二是是公开虚假信息和宣传性评分。研究人员在收集到的8种虚假信息活动中模拟了每种方法的3种不同实施手段，并评估了其在限制虚假信息流方面的有效性，重点关注这些举措如何影响普通X用户之间的虚假信息传播。

屏蔽被认为不安全和/或宣传性账户的帖子（发帖、转帖或任何其他形式的参与）是一种直接且严格的方法，被封账号可以查看未被封账户发表的帖子。然而，据试验观察，封禁宣传账号对遏制虚假信息的传播作用微乎其微，这主要是因为宣传账号发布的内容极易识别，普通账号并不经常参与宣传账户发布的内容，而不安全账号一直在试图模仿普通账号，因此也不会参与宣传转发这些内容。

另一种政策是通过使用发布帖子的账号的虚假信息得分、宣传得分或者两者的得分来降低普通账号分享每篇帖子的概率。从直觉上讲，普通用户不希望传播虚假信息。当普通用户能够更好地将虚假信息或宣传得分较高的账号的帖子视为不可靠时，他们就会减少与这些账号的互动，避免传播虚假信息或宣传。研究人员通过假设具体的个人行为反应来模拟公开分数方法的效果。研究结果表明，信息披露是防止社交媒体上虚假信息传播的一个潜在有效工具。

在该研究中，研究人员提出了“（虚假）信息战”这一概念，即通常由专制政府在社交媒体平台上故意传播虚假信息，借此对抗全球各地越来越多的人利用这些平台来表达不同政见。研究人员利用2022年9月16日伊朗社会动荡期间的X数据，识别出参与传播虚假信息的账号，并利用预测此类参与传播的账号的特征为所有X账号评定虚假信息分数。研究人员建议采取两种干预措施来限制虚假信息在社交网络上的传播。这些干预措施代表了社交媒体平台为防止虚假信息传播而可以自行实施或由政策制定者强加给这些平台的积极措施。其中一项政策涉及在发布每条帖子的同时披露账户传播虚假信息的倾向，研究人员通过假设网络参与者的行为反应并忽略任何来自虚假信息账户的可能反应来衡量其有效性。然而，实施这样的政策可能会导致虚假信息账户的博弈，进而降低政策的有效性。

研究人员建议可从以下方面改进分类算法：首先，可以利用自然语言处理（NLP）技术更好地对不安全账户和普通账户进行分类；其次，在分类算法中加入聚类分析，有助于按照控制每组账户的总体实体对不安全账户进行分组。并非所有不安全账户的行为都是一样的，因为它们可能由政府、外国机构甚至一些反对派组织内的不同实体管理，这有助于进一步扩展算法。