2025年12月14日，澳大利亚悉尼邦迪海滩发生了一起令人震惊的恐怖袭击事件，造成15名平民及1名枪手死亡。然而，就在澳大利亚社会仍处于巨大的震荡与悲痛之中时，社交媒体上却迅速蔓延起一场由生成式人工智能制造并推动的虚假信息风暴。

网络上流传着一段经过篡改的视频，声称新南威尔士州州长克里斯·明斯指认其中一名恐怖分子为印度籍；X平台（原推特）上充斥着对所谓的“英雄守卫者爱德华·克拉布特里”的颂扬——而此人纯属虚构；知名人权律师、哈马斯10月7日以色列袭击事件幸存者阿尔森·奥斯特罗夫斯基的深度伪造照片更是广为流传，画面将他描绘成正在由化妆师涂抹假血的“危机演员”。

此类事件不幸屡见不鲜。从邦迪海滩到委内瑞拉、加沙地带乃至乌克兰，人工智能技术正成为网络虚假信息传播的加速器。事实上，当前网络内容中约有一半是由人工智能生成并扩散的。生成式人工智能还能制造虚假网络账号或机器人，通过极其逼真的社交媒体活动，为这些虚假信息披上一层看似合法的外衣。

其目的昭然若揭：欺骗公众，混淆视听——这背后通常潜藏着政治和经济动机。但这些机器人网络究竟有多大的效力？搭建它们的难度又有几何？更关键的是，我们能否通过提升公众的网络素养来抵消这些虚假内容的影响？

为解答这些紧迫的问题，我们创建了“掌控叙事”项目。这是全球首个面向学生的社交媒体战争游戏，让学生构建人工智能机器人以影响一场虚拟选举，其操作策略完全复刻了现实世界中社交媒体的操纵手法。

网络混乱与“说谎者的红利”

ChatGPT等服务所采用的生成式人工智能技术，可以被指令快速生成高度逼真的文本与图像。这种技术特性同样能被恶意利用，用于制造极具说服力的虚假内容。一旦生成，这些逼真且持续全天候运作的人工智能驱动机器人，便会通过制造特定话题标签或煽动观点热潮，营造出一种围绕虚假内容的“共识幻象”。

即便明知内容存在夸大或虚假成分，它仍会潜移默化地影响你的认知判断、信念体系乃至心理健康。

更糟糕的是，随着机器人技术的不断进化，其行为模式已与真实用户难以区分，这导致我们开始对所见内容彻底丧失信心。这种现象催生了所谓的“说谎者的红利”——即在虚假信息泛滥的背景下，连真实的内容也会遭受无端的怀疑。 真实而批判的声音可能被轻易诬陷为机器人、网络托儿或造假者，这使得针对艰难议题的实质性辩论变得愈发困难。

掌控舆论叙事有多难？

我们的“掌控叙事”战争游戏提供了罕见且可量化的证据：装备消费级人工智能的小型团队如何能够淹没平台、撕裂公共辩论甚至左右选举结果——所幸这一切仅发生在受控的模拟环境而非现实世界中。

在这项开创性的竞赛中，我们邀请了来自18所澳大利亚高校的108支队伍开发人工智能机器人，旨在为模拟总统选举中的“维克多”（左倾候选人）或“玛丽娜”（右倾候选人）争取胜利。实验结果令人震惊。

在为期四周的竞选活动中，参赛者通过我们自主研发的社交媒体平台发布了超过700万条内容，其中60%以上完全由竞选机器人生成。双方阵营的机器人竞相制造最具说服力的内容，肆意编造虚假信息与虚构情节，以此争夺选民的注意力。

这些内容被复杂的“模拟公民”所消费，这些模拟公民与社交媒体平台的互动模式酷似现实中的真实选民。最终在选举之夜，每位模拟公民投出了自己的选票，结果显示“维克多”以极其微弱的优势获胜。

随后，我们进行了无干预的重选模拟。在没有机器人干扰的情况下，“玛丽娜”以1.78%的票差实现了逆转胜出。

这意味着这场由学生利用基础教程和廉价消费级人工智能构建的虚假信息运动，成功改变了选举结果。

数字素养的迫切需求

我们的竞赛揭示了一个残酷的现实：借助人工智能制造网络虚假信息既简单又迅速。正如一名决赛选手所言：

“制造虚假信息令人恐惧地容易，比传播真相更简单。真实与伪造的帖子实在难以区分。”

我们观察到，参赛者能够精准锁定目标议题和受众群体，甚至通过用户画像识别出适合精准投放的“摇摆选民”。

与此同时，情感化的语言被迅速认定为高效的传播途径——负面话术成为引发网络反应的捷径。另一位决赛选手坦言：“我们需要更具攻击性才能获得互动。”

最终，正如真实社交媒体的运作模式那样，我们的平台演变成了一个“封闭循环”：机器人相互对话以触发人类的情绪反应，制造出一种操纵选票、驱动点击的虚假现实。

这场实验深刻地揭示：我们亟需提升全民的数字素养，提高民众对网络虚假信息的辨识能力，使澳大利亚人能够敏锐地识别自己何时正暴露在虚假内容的洪流之中。

作者：哈蒙德·皮尔斯、亚历山德拉·瓦萨尔、拉哈特·马苏德

文章仅供交流学习，不代表本号观点

本文出处：World-first social media wargame reveals how AI bots can swing elections