算法认知战中的社交机器人运作机制、挑战与应对

头像

全中看传媒

2025-04-14 06:18

算法认知战中的社交机器人运作机制、挑战与应对
□ 马立明   陈 青

【摘要】在国际政治博弈过程中，基于网络技术和人工智能的算法认知战已经成为“计算宣传”中的重要环节。作为高新科技的“社交机器人”，在实现信息武器化之后，被用于网络舆论战后成为出没于民间网络、引导人类认知的隐蔽力量。现通过俄乌冲突等案例揭示在计算宣传过程中社交机器人的动向与运作机制。同时，也对社交机器人对国家安全的挑战提出思考，探索相关的治理之道。

【关键词】社交机器人；算法认知战计算宣传；国家网络安全


一、问题的提出
俄乌冲突被认为是互联网诞生以来第一场真正意义的网络时代战争，负责制造舆论的“笔杆子”在战场中发挥了不亚于地面战的重要作用。开战的头三个月，乌克兰安全局摧毁了俄罗斯十几个对社交机器人账号进行管理的机器人农场，同时抵御了250多次网络攻击。这些机器人农场集中在哈尔科夫、切尔卡西亚、捷尔诺波尔等地，使用了超过10万个虚假用户，超过100个GSM网关设备、近万张SIM卡等。乌克兰一方也使用了社交机器人相关技术，如人工智能程序GPT-3模型网络，它具有1750亿个参数的自然语言深度学习模型，有能力影响目标人群。美国在科技上全力援助乌克兰，因此乌克兰一方拥有的社交机器人技术与规模极有可能超越了俄罗斯的捕获能力。
在现实主义逻辑凸显、对抗性日益突出的国际政治领域，国家之间多层次多维度的算法认知战（algorithmic cognitive warfare）融入广义的宣传战之中，成为“计算宣传”（ComuputationalPropaganda）的重要环节。在网络战争中，谁掌握了网络，谁就会获得更大的优势。社交机器人（Social bots）是人工智能的产物之一，它经过人工编程后可直接与用户互动交流。近年来，出于不同目的设计的社交机器人潜伏至社交网络。由于网络的匿名性特征，潜伏在人类用户之中的社交机器人往往作为“腹语者”而存在，悄无声息地引导民众的认知和思考。被用作军事领域的社交机器人，活跃于国际舆论场并散布假消息，成为计算宣传中的信息武器。
二、文献综述：计算宣传与算法认知战
在古代的战争中，有谋略的军事家往往在战前散布各种信息，形成己方的道德优势，同时削弱对手士气。《孟子·离娄上》有云：“得天下有道，得其民，斯得天下矣。”传播学奠基人之一的拉斯韦尔（Harold Lasswell）在将“战争宣传”定义为“操纵表述来影响人们行动的技巧”，指出宣传策略也是一种制胜的武器。随着人类生活越来越向互联网倾斜，多项网络新技术包括人工智能、算法推送、深伪、VR/AR、短视频等，悉数被军事化和武器化，成为计算宣传矩阵。伍利（Samuel C.Woolley）和霍华德（Philip N.Howard）在2016年提出“计算宣传”的概念，将其描述为“以在社交媒体网络上故意散布误导信息为目的，使用算法、自动化和大数据分析等方式操纵公众舆论”。计算宣传兼具技术和社会双重属性，技术属性来源自以人工智能、算法为代表的现代信息传播技术（ICT）的发展，而社会属性则植根于“宣传”控制舆论的内涵。计算宣传基于算法运作机制，发展出制造利己趋势、消除不利声音和推荐垃圾信息等基本形式。
当国际关系趋于紧张化，国家之间相互的计算宣传也会变得越发激烈，有可能会引发算法认知战。所谓认知战，是指个体信息获取、存储、提取和应用的心理过程，具体包括个体思考抽象事物的能力和解决实际问题的能力，即个体信息加工（information processing）的过程和能力。计算宣传的核心在于采用算法改变人类大脑对信息的存储和编码过程。自从算法介入媒体，算法会影响用户所接受的新闻内容和信息可见性，并影响他们的行为。某些信息强国通过网络技术等手段对其他国家网民“释放迷惑性的信息”。与传统地缘政治相比，信息时代的地缘政治具有“由国家到个人”“由真实的物理世界到虚拟世界的动员和力量”“旧媒体到新媒体”这三个新的转变。作为信息强国的美国率先强化了网络战争的布置，2017年8月18日，美国国防部启动了将网络司令部（US CYBERCOM）升级为一级联合作战司令部的流程，成为美军第十个联合作战司令部。以信息网络技术为基础的网络力量构成各国的综合国力基础，也成为争夺地缘政治权力的基本条件和竞争成败的决定性因素。
三、社交机器人的运作机制：一种“信息武器”
社交机器人（social bots）被定义为一种可以在在线社交网络中自主运行、自动发布信息并进行互动的智能程序，最主要的特征是能与人类用户进行互动。社交机器人也可以伪装成人类，高效地执行多项“伪草根运动”。政治传播领域的机器人通常被作为政治腹语的言说者，通过营造虚假人气、推送大量政治信息、传播虚假或垃圾政治信息干扰舆论、制造烟雾遮蔽效应混淆公众视听、塑造高度人格化形象的虚拟意见领袖等方式，助力于背后操纵主体的权力角逐，威胁民主政治的发展。一些政客利用机器人在社交网络上造势，假装拥有大量粉丝，以此攻击竞争对手以营造选举优势。这尽管存在一定的伦理争议，但在激烈的国际博弈过程中，社交机器人技术也被公然运用为“信息武器化”的一部分。一些信息强国将精心炮制的带有政治导向的新闻报道、学术报告等纳入互联网公共空间之中。
（一）制造“信息迷雾”：社交机器人生产海量内容
大量投入互联网的社交机器人可以生产出海量内容，打造出信息迷雾，用于扭曲真相或局部真相。作为信息武器的社交机器人的有效载荷没有上限，它具有深度学习能力，能在5分钟内生产并发布一万条不同的原创内容，同时进行大规模的转发与点赞行为。社交机器人倚仗机器人农场作为信息指挥站，具备无限再生的特点。它是一种足以瞄准一国互联网用户进行无差别轰炸的信息武器。在关于英国脱欧公投的推特流量中，不到1%的账户生产了几乎三分之一的信息，其中绝大多数是自动化或半自动化的机器人。
社交机器人长期潜伏并隐蔽于一国社交媒体场域，平日尽力扮演得像真人用户。有一些机器人账号还拥有自己的头像、姓名、职业等具体消息。在2016年美国大选中出现了一些实名的“拉丁裔账号”，无论是个人信息、发帖内容，都很难分辨出它是虚假的智能程序。在强化自身话语的同时，社交机器人也可以识别对自己不利的言论，并对这些观点“点踩”或“拍砖”，或进行简单的反驳。社交机器人已经具备一定的机器学习能力，能通过编写好的词汇组合来发布政治观点。这些观点往往集中在争议较高的领域，争议性话题会导致不同信息的交锋，为误导信息的传播提供了契机，也更容易成为计算宣传的内容载体。社交机器人能助推情绪扩散尤其是负面情绪，达到人机共情。在“沉默的螺旋”作用下，当社交机器人在通信网络中占2%至4%时，就能影响意见气候，并可以通过这种机制来塑造社交媒体用户的行为规范。作为信息武器的社交机器人能不动声色地改变整个舆论场的氛围环境，破坏舆论场的事实能见度。
（二）算法精准发布：以智能推送瞄准特定人群
在特殊情况下，社交机器人也会细分人群，选定特定群体。它们通过用户上网浏览的“数字脚印”或“数字面包屑”可以了解到用户大致轮廓，找到对政治议题感兴趣的、具备一定经济基础和社会活动力的网络用户来作为重点渗透对象。大数据为信息武器提供了精确的瞄准系统，并将有价值的目标变成一个个“光点”，达到“精准策反”的目的。以剑桥数据分析公司为例，在进行目标选取时，该团队会寻找“自恋特质得分较高的人”，因为他们“更容易产生嫉妒或‘这是我应得的’之类的情绪”，而这类情绪极易诱发违规和不服从等级制度的行为。该公司数据科学家克里斯托弗·怀利（ChristopherWylie）表示，网络手段能策动某些关键人物叛变，“终极目标是激发和冲动型、反常型或强迫型行为相关的负面情绪和思维过程。目标的行为从轻微或消极抵抗上升到更有破坏性的行为”。通过一段时间逐渐瓦解对方的心理弹性因素，诱导目标形成错误的认知，破坏其自我效能。因此，在大数据的准确瞄准下，一些处于关键位置、心理符合模型设计的目标容易成为持续攻击的对象。
（三）数字平台支撑：成为认知战的运载系统
社交机器人之所以成为信息武器，是因为它在国际政治体系和人类生活高度倚仗的网络空间中找到了嵌入的途径，数字平台则成为社交机器人所利用的“特洛伊木马”。一直以“中立者”自居的数字平台很可能会为其效力的政府默默提供关键助力。在俄乌冲突中，俄罗斯的社交机器人农场容易被集体揪出，这与美国掌控着推特、脸书等数字平台有着直接关联。平台数字媒体是当前数字经济赖以运行的核心系统，已然深度嵌入社会结构。数字平台往往是由某个商业公司所主持，本质上是一家跨国互联网资本企业，是世界多个国家通用的社交媒体，它覆盖了全世界绝大部分国家，注册用户有13亿人，并开通了17个语言版本。拥有多家有国际影响力的数字平台是美国在信息地缘政治中的巨大优势，数字平台不仅是社交机器人的运载系统，也成为算法认知战的战略要地。
四、社交机器人武器化对国家安全的挑战
社交机器人带来的信息迷雾用于影响一国用户的认知，进而制造意识形态风险。意识形态的重要性不言而喻，关系到国之根本。当下，大量用户将网络信息作为认知外部世界的重要来源。社交机器人的“众口铄金”可以很大程度上扭曲受众的认知、改变意见气候、制造意识形态风险，从而挑战国家安全。
（一）炮制谣言和偏见，制造社会恐慌
社交机器人的泛滥、批量生产谣言与偏见，人机共存的舆论场挤压了真实声音。一些社交机器人在特定程序的编写下，在网络上散布不实消息。民众无法区分真相与谣言，一些民众选择盲目跟随，也有一部分民众对网络信息保持警惕状态，网络信任度进一步下降。“当一个社会失去对基本价值和社会秩序的基本共识，观念传达与接受之间就会短路。网络的后真相状态进一步加剧，形成“只问立场、不问事实”的非理性网络环境，导致网络世界走向极化。
大量谣言的存在必定导致社会不安。作为信息武器的社交机器人不仅制造了信息迷雾，更带来公共舆论场的极端情绪，形成所谓的“信息疫情”。在紧张的国际局势中，作为信息武器的社交机器人成为散布流言、恐慌与仇恨的起点，对广大网民身心造成伤害，导致受众出现思想混乱、价值观扭曲等现象，破坏社会凝聚力。
（二）信息大国发动“推特革命”，带来意识形态风险
当下大部分第三世界国家依然处于网络社会的初期，用户网络素养不高，国内法制不完善，政府对国际舆论场缺乏了解，即使意识到问题所在也缺乏反制的办法。因此这种状态被信息强国所利用，通过社交机器人的渗透悄然改变着目标国的舆论场环境。本世纪多个国家爆发“推特革命”，就是社交媒体被策略性使用，而第三世界国家用户对此完全没有心理准备，政府也缺乏应对措施。美国多次以技术援助为名支援第三世界国家，助其搭建数字平台，完成之后就试图操纵目标国的议题，从而影响该国的政治走势。这种意图往往掩盖在善意援助之下，实际上客观服务于美国的海外策略。2022年7月13日，美国白宫前安全顾问博尔顿在接受美国新闻网采访时不慎透露了自己参与2018年操纵委内瑞拉政变的消息。在动荡的国际环境之中，被用作军事用途的社交机器人必然导致信息混乱，直接影响到目标国的国家安全。
五、治理方向：走向信息领域的全球治理
互联网、数字平台、社交机器人等通信科技的发明，其初衷都是促进不同人群、不同文明之间的对话，而不是用于制造信息迷雾。从理想主义的角度来看，信息的作用应当是促进人类彼此的交流与理解。在一些国家或地区，已经对社交机器人的使用进行立法。然而，对社交机器人在国际上的滥用，更需要在国际层面引起关注。
（一）拒绝网络霸权主义逻辑
当下的国际格局中，热衷于将社交机器人作为信息武器的就是信息强国。他们因技术势能而拥有绝对的制网权，从而远程影响、控制、打击别国，形成了当下的网络霸权主义倾向。这种网络霸权主义很容易诱发网络世界的军备竞赛。其他国家为了提升网络防御能力，也纷纷开发信息武器技术，以确保有“即时反击”的能力，导致“网络空间军备竞赛”。这就走入了博弈论中的经典模式“囚徒困境”（Prisoner’sDilemma）：越是追求绝对安全，国际社会就越不安全，将再次陷入“所有人反对所有人”的“霍布斯丛林”（Hobbesian Jungle）状态。网络霸权主义对国际秩序的破坏性显而易见，国际社会有必要共同反对某些信息强国技术滥用，避免国家间卷入“网络军备竞赛”之中。
（二）加强对数字平台的治理
数字平台是社交机器人等信息武器的运载系统，也是治理的关键所在。一些跨国互联网企业为了盈利，不惜与权力结盟，成为信息强国的同谋。2022年11月，马斯克以440亿美元完成了推特（后改名“X”）私有化的进程。在接管之后，马斯克宣布了雄心勃勃的整治计划，并更换了公司大半高层管理人员。他表示，“拥有一个共同的数字城市广场对文明的未来很重要，在这里，各种各样的信仰可以以健康的方式进行辩论，而不是诉诸暴力”。马斯克决定改变推特“谎言公司”的形象，并对平台进行纪律管制。当然，这一努力能否改变推特的性质还是未知数，但这已经是数字平台改革的重要信号。
（三）完善国际网络安全公约体系
对社交机器人的治理必须从国际关系现实主义逻辑中抽离，重新回到全球治理的逻辑之中。类似于核武器，社交机器人技术也是全球性问题，它带来的危害有可能伤害每一个个体，也包括信息强国的公民。现实主义范式认为国家在决策时对利益的考量高于道德，因此很可能造成“安全困境”。在全球治理的范式框架中，国家之间需要抛弃利益冲突，肩负起相关的责任。《网络行动国际法塔林手册》（Tallinn Manual）是通过欧美等地区国家的学者的集体研究来推动网络空间国际规则制定的大型手册，较为系统、全面地涉及了主权、管辖权、国家责任、人权法、海洋法、国际电信法等15个领域的网络空间国际法规则。关于社交机器人的使用公约也应当及时付诸讨论，以全球治理的思路制定算法认知战的道德边界。
（四）让“南方国家”发挥更大的作用
“南方国家”是当下国际网络舆论场的“新到者”，很容易成为信息武器袭击的对象。这些国家需要进一步加强国内“互联网”舆论场主导，不能被美国和西方国家所操控。“南方国家”在20世纪70年代倡导的新世界信息秩序运动，曾经给世界带来深刻影响，证明其有能力改写当今信息领域的发展走势。同等的逻辑也可以应用在社交机器人的使用上，信息强国的技术优势将足以支配信息弱国的舆论场，从而威胁后者的国家安全，形成“数字殖民主义”。不少“南方国家”表达了对信息武器化的担忧，尤其表达了对社交机器人技术的排斥。他们将成为遏制信息霸权、维护全球正义的重要力量。
六、结语
综上所述，社交机器人在当下的国际局势中会被作为信息强国操控与欺骗他国民众的信息武器。社交机器人并不是孤立的，其他网络革命的产品——包括数字平台、深伪技术、人脸识别、GPS定位技术、区块链技术等——混合使用，形成了算法认知战矩阵。信息技术的武器化，必然导致国家间的军备竞赛与囚徒困境，最终损害整个网络环境和人类利益。像所有战争一样，算法认知战也同样没有赢家。国家主席习近平指出，“网络安全是全球性挑战，没有哪个国家能置身事外、独善其身，维护网络安全是国际社会的共同责任。各国应该携手努力，共同遏制信息技术滥用”。只有将网络空间放到全人类福祉的高度，才能为美好世界创造积极前景和可行路径。在任何时代，作为“万物尺度”的人类，不应被社交机器人所愚弄及迷惑。最后，和平与发展是全球民众的共同愿望，希望国际社会早日走出紧张状态，网络空间的建设与规范依然需要各国合力达成。

  马立明  暨南大学新闻与传播学院副教授
  陈   青  暨南大学新闻与传播学院硕士生


本文引用格式参考：

马立明，陈青.算法认知战中的社交机器人运作机制、挑战与应对[J].新闻爱好者,2025(3):58-61.

图片



原文刊登于《新闻爱好者》2025年3期（总第567期）
详见《新闻爱好者》2025年第3期杂志、中国知网、万方数据、龙源期刊网、重庆维普等
转载、引用请注明来源于《新闻爱好者》杂志

新闻爱好者杂志官网丨http://www.xwahz.com