生成式AI如何用于认知战？

2024年12月，加拿大国际治理创新中心（Centre for International Governance Innovation，简称CIGI）发布报告《为下一代信息战做好准备：生成式AI的应用》（Preparing for Next-Generation Information Warfare with Generative AI）。报告探讨了现代冲突中信息战的演变及其与人工智能（AI）技术的融合，特别是生成式AI在信息战中的应用。

以下为重点内容摘编：

（图源：CIGI官网）

世界正进入一个复杂而危险的十年，一场发生在战争、技术与网络空间交汇处的巨大变革正在席卷而来。现代冲突，无论是公开的战争还是在灰色地带的博弈，都因技术革命而被进一步放大。这些冲突融合了实体与数字战场，渗透到城市、工厂、家庭乃至日常设备，催生出新的攻击目标和受害者。和平与战争、进攻与防御、民用与军用技术、国家力量与网络代理之间的界限逐渐模糊。

而在这一过程中，信息的武器化以及对人类行为和认知的操控，正成为冲突的重要组成部分。人工智能（AI）的迅速发展及其在个人生活和社会结构中的广泛应用，进一步加剧了这一趋势，令局势变得更加复杂。AI作为催化剂，不仅使信息战更强大且易于获取，还通过与生成式AI等先进技术的融合，引发了一场根本性的变革。 

数字革命已将互联网转变为信息战的关键战场，使信息本身成为一种新型战略武器。随着沉浸式数字空间的崛起，病毒式传播可以淹没真相，已知的事实也能够被重塑，不仅使现实与欺骗之间的界限更加模糊，还可能动员更广泛的人口、资源和武器围绕虚假叙事发动战争，从而深刻改变现代冲突的参与方式。

现代战争正在经历深刻转型，逐渐演变为融合网络攻击、信息操作和传统军事手段的混合战争形态。这种新型冲突往往发生在战争与和平之间的"灰色地带"，其打击范围已从军事目标延伸至平民群体。平民不仅成为虚假信息的主要目标，还因关键的人道主义和医疗信息被操控而承受持久伤害，进一步加剧了战争对社会的破坏性影响。与此同时，人工智能和融合技术的介入不仅增强了信息战的效力，还带来了新的系统性风险，使现代冲突的复杂性和不可预测性显著增加，其影响范围持续扩大且后果更具持久性。

基础AI模型的作用

当前的AI革命基于技术和能力的融合，核心在于基础AI模型的应用。这些模型通过学习大规模数据分析、模式识别和异常检测，能够将洞察转化为有用的表征和预测，成为各类AI应用的基础。它们提供的数据可以被调整或扩展以适应特定任务，并结合各种数据捕获和传感技术进行广泛分析，涵盖从图像、文本到生物特征、情感与行为等多种数据。这种能力使得生成式人工智能在信息战中具有巨大的潜力。

生成式人工智能的突破

生成式AI模型通过基础模型学习到的表征，能够生成具有训练数据特征的新内容，包括文本、图像、视频和音乐等。这类模型展现出向更高自主性发展的潜力，可作为AI个人助手，逐步学习人类经验和专业知识。在网络安全领域，生成式AI能够通过分析历史数据预测未来威胁，为决策支持系统提供优化分析和预测建议，从而提升战争决策效率。随着技术进步，生成式AI正与双用途专业技术和新兴技术深度融合，并逐步渗透到人类生活和行为中。未来，随着其自主性的不断提升，生成式AI将在捕捉、模拟和与人类行为互动方面发挥日益重要的作用，推动人机协作向更深层次发展。

（图源：视觉中国）

生成式AI正成为信息战争的催化剂，它与行为数据分析相结合，使虚假信息的生成与传播更加高效、定制化和规模化。生成式AI不仅能够分析人类的行为数据，生成个性化内容，还能利用心理触发点精准影响个体决策（如投票、消费等）。同时，AI具备模拟专业知识和真实情感的能力，持续生成个性化、动态演变的合成信息，进一步加剧信息操控的广度与深度。

生成式AI技术（如深度伪造）能够生成逼真的虚假图像、视频和音频，伪造新闻与公共事件，模糊现实与合成内容的界限，挑战人类的辨别能力。这类技术已被用于政治操纵、选举干扰和制造公众恐慌。随着AI生成内容与机器人网络的融合，自动化系统正逐步具备影响公众舆论、操控群体行为的能力。

（图源：视觉中国）

此外，个性化定制被视为下一个突破，生成式AI模型通过与用户的互动，利用细粒度的群体和用户数据，在实时创建个性化内容时，能够传递更具共鸣的信息。随着生成性AI渗透到日常生活，它将发展出新的决策能力，逐步影响并控制目标受众和更广泛的群体。这种通过误导性模拟影响公众舆论、动员激进叙事的能力，可能对和平与安全产生深远影响。生成式AI的滥用可能侵蚀真相与信任基础，深刻冲击新闻业、司法、公民社会和全球治理体系。

在未来，生成式AI与生物技术的结合可能被武器化，成为信息战的利器，特别是在生物威胁的虚假信息运动中。敌对国家可能通过生成式AI策划一场复杂的信息战，制造虚假的生物攻击威胁，以破坏目标国家的民众稳定和信任。

（图源：俄罗斯卫星通讯社）

第一阶段—编织叙事：敌方通过生成式AI获取生物技术的关键信息，制定关于基因工程病原体释放的虚假情境。利用大型语言模型（LLM），创造出关于病毒爆发的虚构新闻、社交媒体帖子和科学报告，描绘病毒在大城市的传播。结合深度伪造视频和伪造的专家声明，这些内容通过社交媒体、假新闻网站及被黑客入侵的合法媒体传播。

第二阶段—放大虚假信息：敌方使用机器人和水军加速虚假信息的传播。这些自动化代理人通过社交媒体发布震撼帖子，推动流行话题和标签，制造恐慌。同时，敌方黑客入侵新闻站点插入伪造的疫情突发新闻片段，进一步模糊虚假与现实的界限。

第三阶段—利用AI和生物技术：为增强虚假信息的可信度，敌方使用AI和生物技术创造无害但真实的生物制剂，并在特定地点释放。这些制剂引发与虚假信息中描述的症状相似的反应，进一步强化爆发的真实性。敌方还通过无人机技术投放经过篡改的生物样本，导致假阳性结果，进一步证明伪造报告的可信性。同时，敌方通过网络攻击破坏药品生产和医学数据，操控健康报告。

第四阶段—影响民众的医疗和心理：随着疫情信息的传播，公众对健康当局的信任动摇，医疗系统超负荷运转。市民蜂拥至医院，囤积药品和防护用品，进一步加剧社会混乱和恐慌。这种信息战不仅对目标国家的心理造成巨大冲击，还削弱了民众对政府的信任，进而影响社会稳定和国家安全。

现有的国际法律框架在应对AI驱动的信息战时存在明显漏洞和模糊性，特别是在责任追究和防护措施方面。信息战的复杂性和隐蔽性使得传统法律手段难以有效应对。尽管国际人道法（IHL）对信息操控有所限制，但现行规则未能完全应对信息战的复杂性，特别是在信息战与网络战融合的背景下。国际人道法（IHL）的法律模糊性，使信息操控造成的伤害（尤其是精神痛苦与社会动荡）难以得到全面规制与有效应对。国际刑法虽然能约束某些网络和信息操作，但信息战的广泛性和私营部门的参与使得合规和问责更加复杂。

因此，面对AI驱动的信息战，必须通过军民协同和社会共同应对来加强应急响应与防护措施。

生成式AI的快速发展，正在深刻重塑信息战的性质与规模。它不仅使虚假信息的传播更加精准高效，还通过与其他先进技术的融合，进一步加剧了信息战的复杂性和隐蔽性。面对这一日益严峻的挑战，全球社会亟需前瞻性评估相关风险，制定有效的应对策略，特别是在技术融合和双用途知识防控方面。同时，信息战的全球性影响也呼唤国际社会加强合作，完善多边治理框架，防止技术滥用，切实保护平民安全与国家稳定。