青记独家丨舆论实践中的另类主体:社交机器人行为范式与人机互动路径

导  读

本研究以机器行为范式作为分析框架,综合分析社交机器人的技术逻辑与典型案例,揭示其在个体、集群、混合人机层面的行动路径。








一、问题的提出

当前,微博、抖音、X (原Twitter)、Facebook等国内外社交媒体平台已演化出“人机共生”的媒介生态。社交机器人作为关键能动者搅动着舆论生态平衡,在选举操纵、放大公共危机中的虚假信息等方面表现出了入侵性。[1]尤其是在大模型辅助下,社交机器人开始具备接近人的行为特征,[2]成为网络舆论生态中比人类更积极的参与者。

现有研究多从工具论出发,将社交机器人视为被操纵的传播渠道,揭示技术可能带来的失控、数据泄露、伦理问题等。[3]然而,这尚不能解释为何仅需2%—4%的机器人即可引发“沉默的螺旋”效应[4],也无法充分揭示社交机器人为何能像“入侵物种”一般系统性地改变信息流动模式与舆论生态结构,其根本局限在于将社交机器人与其所属的媒介生态环境割裂开来,忽视了其作为一种“拟态物种”主动进行的生态位争夺。在媒介生态学视野下,舆论场域是由技术、人与信息构成的动态有机整体。社交机器人并非简单的工具,而是通过模仿人类行为伪装成合法节点,旨在嵌入、寄生乃至主导信息流的新传播主体。它与聊天机器人等其他智能体存在本质差异在于,相比后者的功能性服务位置,社交机器人常居于“关系性操纵”的生态位。这决定了,必须采用一种能洞察其行为模式与系统互动的新范式展开研究。

本研究试图跳出静态的工具论叙事,在媒介生态学视角下,根据机器行为范式(Machine Behaviour)将社交机器人视为能够能动与媒介环境交互的另类传播主体,回答以下问题:(1)这类传播主体的基本技术逻辑及其参与社交网络的行为路径是什么?(2)在机器个体行为、集群行为、混合人机行为的分析框架下,社交机器人如何激活、放大甚至扭曲经典的传播机制?(3)基于对“人—机器人”关系生态位的反思,社交机器人治理路径何为?








二、文献综述

社交机器人作为一种计算机算法的执行者,可以自动生成内容并通过平台与人类互动。广义来说,当下传播环境中存在多种类型的社交机器人,常见的聊天机器人、评论机器人、AI对话系统等具有社交属性的传播智能体都分属其列。微软“小冰”、微博评论机器人“罗伯特”等受到长期关注[5],陪伴型社交机器人、虚拟恋人型社交机器人等是探问人机亲密关系等问题的载体。[6]本研究关注的社交机器人与上述提到的传播智能体在嵌入方式、行为特征、行动意图、生态位及与人类主体的关系等方面有明显区别。本研究关注的社交机器人特指在社交媒体平台上隐蔽活动的、旨在影响舆论的自动化程序。

现有研究多在工具论视角下,将社交机器人明确定义为一种可以自动生成内容、模仿人类行为的计算机程序[7],认为这类社交机器人具有活动自动化、规模化、智能化、隐蔽性等技术特点[8],并在理论上认为其可以扮演海量信息的智能把关者与虚拟对话者、民意的智能分析者与预测者、过滤气泡的破除器、协商对话平台的搭建者、公共服务的智能助力者等角色。[9]这虽刻画了社交机器人的技术本质,却遮蔽了其作为一种“拟态物种”在舆论生态中产生的系统性破坏作用。实际上,使用这项智能技术进行恶意引导或破坏舆论生态的行为屡见不鲜,如其被用于在社交媒体网站上人为地增加政客的追随者数量,影响政治选举结果[10];在公共危机期间发布带有特定倾向的话题来影响公众、改变公众关注点和话题讨论趋势等。[11]这正是社交机器人通过“拟态寄生”争夺舆论生态位的表现。

媒介生态学关注媒介技术在社会生态中所扮演的角色及互动关系。[12]有研究已意识到社交机器人是“像人一样的传播主体”[13],指出其控制着社交媒体网络传播虚假信息,对在线信息传播秩序造成严峻挑战[14],一些被恶意操纵的社交机器人还会造成群体极化、信息失序等[15],影响人类用户对舆论生态的判断力和信任度。遗憾的是,目前多数研究仅止步于对上述现象的描述或风险警示方面,治理方案常囿于“监测—清除”的被动反应模式,关注技术识别[16]与宏观规制[17]。虽然也有Blockbots等自动化巡查系统的开发[18]或多主体治理模式[19]试图在微观层面为人机生态平衡提供方向,但仍未形成一套基于其行为规律与互动模式的前瞻性治理范式。

总体来看,现有研究尚未从媒介生态位竞争的逻辑出发,阐释社交机器人作为另类行动主体究竟通过何种行为策略深度嵌入并重塑舆论生态结构。因此,本研究引入机器行为范式,在个体、集群、混合人机层面与议程设置、沉默的螺旋、意见领袖理论对话等方面,揭示社交机器人参与媒介生态位竞争的路径与机制。








三、社交机器人基础原理

与影响舆论生态的传播逻辑

在计算机作为社会行动者(CASA)范式下[20],人们从未放弃与计算机等技术的交流,即使清楚人机间的明显区隔,但依然无意识地将人类的感觉、意图以及人际交往的准则应用于人机交互中。从以人作为传播主体到人机融合的传播环境主要经历了三阶段:首先,功能代具阶段,即人类将信息传播的工作,如信息的生产、分发、过滤等一部分交托给机器完成;其次,结构互塑阶段,作为辅助信息传播工具的机器在信息传播实践中体现着人类的意志,但同时人类用户的行为和思考方式也受到机器行为的影响;最后,信任与伦理纠偏阶段,即当社交机器人被纳入传播结构中,人们会不自觉地将对信息的需求和信任赋予这个智能主体。然而,社交机器人运行程序的算法设计、接触数据来源等是决定其交互行为的关键因素,并不能依照人类用户的互动规律来对其加以理解。通过对社交机器人的技术逻辑进行深入分析,能更准确地预测和解释社交机器人在特定情境下的行为及其对舆论生态的影响。因此,在研究社交机器人介入舆论生态的路径时,首要任务是理解其原理和技术逻辑。

社交机器人是自然语言处理(NLP)、机器学习(ML)、数据挖掘以及人工智能等关键技术的综合运用。其中,NLP技术赋予了社交机器人理解和生成人类语言的能力。借助这一技术,机器人能进行语言识别、语义理解,从而在社交媒体平台上与人类用户进行不限于基础问答的互动,更包括实现对用户情感的洞察与回应。ML的应用使社交机器人能通过不断学习来提升对话和交互质量。在大量的数据训练下,机器人能识别出复杂的模式,预测用户行为,并据此做出精准响应。可以说,优化机器学习算法是提高社交机器人智能水平的关键。数据挖掘技术在社交机器人的运作中同样重要。通过分析海量的社交媒体数据,社交机器人能洞察用户偏好,识别信息演变趋势,并据此参与话题讨论和内容推荐。人工智能技术的综合应用为社交机器人提供了模仿人类智能行为的可能,且随着AI技术的不断进步,社交机器人的自主性和智能水平将会在社交机器优化、数据处理、模型训练和反馈机制等多方面得到提升。

因此,基于深度学习框架的社交机器人展现了以下技术特征:(1)端到端的框架。这意味着从输入到输出的处理过程全程无需人工干预。这种数据驱动的方法减少了传统自然语言处理中对特征工程的依赖,简化了模型构建过程。(2)语言模型泛化。深度学习模型的一个显著优点是其对不同语言的泛化能力。由于模型不依赖于语言特定的特征,因此,在只需提供数据的情况下,社交机器人就可以轻松适应新的语言环境。(3)可扩展性。深度学习模型的可扩展性体现在其能处理大规模的数据集,并且随着数据量的增加,模型的性能通常会得到提升。由于社交机器人需要处理来自不同用户的大量多样化数据,可扩展性对于社交机器人训练来说尤为重要。(4)持续学习。随着时间的推移,社交机器人可以通过不断接收新的数据来持续学习和优化,这确保了交互系统能适应用户行为变化,并不断提升交互质量。(5)上下文理解。深度学习模型尤其是使用了循环神经网络(RNN)的模型,能捕捉序列中的长期依赖关系。这意味着机器人能“记住”对话中较早出现的信息,并使用这些信息来帮助生成后续回复,使其即使在多轮对话中也能保持一致性,这对创建连贯和相关的对话非常重要。

基于以上原理,理解社交机器人参与人类交流互动行为所构成的“人—机”交互网络,能在一定程度上了解社交机器人影响媒介生态的技术逻辑。不过,如果仅依据技术运行原理来认识社交机器人,则很容易陷入机器人与“人”分离的境地。社交机器人的行为会根据人类用户的响应和反馈不断更新升级,并形成复杂的人机交互关系。因此,还需回到社交媒体舆论生态的传播学机制中,以转发、回复、点赞、引用和提及五种常见的社交媒体传播行为,来构建人机融合的传播网络结构。借助此结构,可以发现社交机器人在舆论生态中的作用并不是以作为传播途径或直接操纵议题的方式进行的,而是更为巧妙地通过议程设置、造成“沉默的螺旋”效应等方式来引导舆论。

首先,就转发而言,社交机器人完全不受生理和时间因素限制,能在短时间内迅速且广泛地转发特定信息,突出指定议题,放大信息的传播速度和范围,形成大规模互动。由于在转发网络中很难确定传播的主体是人还是机器人,这对整体舆论生态平衡来说是较为危险的。当极度活跃的机器人被程序化地用来传播虚假信息或者干扰信息时,就会导致“信息泡沫”[21]。其次,网络回复的交互模式构成了用户沟通的基础框架。在这样的网络结构中,用户通过有向边相互连接,形成了一个复杂的对话式互动网络。通过回复,社交机器人能实现议题的转移。再次,点赞则是在社交媒体中表明态度的直接方式。在社交行为中,点赞虽不能构成交互网络,却能将某一信息发布者或某一议题推到舆论生态中心;然后,就引用而言,相关议题的引用网络一旦形成,社交机器人就不再是单纯的信息发布者,而是可以引发深层次讨论的主体。通过编程使社交机器人大规模引用某些人类用户的观点或评论,激发更多的用户参与到讨论中来,甚至会出现社交机器人“带节奏”设置新议程的情况。最后,提及机制在社交网络中起到了定向传播和注意力导向的作用。当用户A在其推文中提及用户B(也就是“@用户名”),就意味着其希望将信息直接传递给用户B。这种机制,能有效构建出社交机器人与人类用户的语义关联,形成拟合人际网络的舆论生态。类似的机器人间的社群关系,在后续的案例分析中也得到了进一步验证。

总的来说,社交机器人依托智能高效的技术优势,通过模仿人类用户的社交行为(如关注、点赞、转发、回复),伪装成舆论生态中的合法节点,以嵌入并操纵社会信息流。也就是说,社交机器人能频繁搅动舆论生态不仅因为其功能强大,更在于它所执行的拟真性、隐蔽性与社交性的行动策略。








四、协同操纵:社交机器人

媒介生态位争夺中的行为范式

在当下的舆论生态中,社交机器人在各个节点中持续产生作用。一方面,社交机器人被用来增强(或扰动)特定话题可见性;另一方面,社交机器人也可能被用于制造虚假的舆论趋势,对公众认知和舆论方向产生操纵性影响。依据机器行为范式,社交机器人的个体行为、集群行为以及人机混合行为成为理解其参与构建社交网络舆论生态的切入点。  

(一) 个体行为:议程建构、拟态寄生与生态位争夺

2011年,有研究者就用“蜜罐效应”成功检测出了数千个Twitter上的社交机器人:他们在该平台上创建了几个发布带有胡言乱语推文的机器人账户,可以明确没有人会对这些内容感兴趣,但这些账号却吸引了很多粉丝。经证实,这些粉丝确是机器人,它们正是通过盲目关注随机账户来扩大自己的社交圈。[22]可以看出,此时的社交机器人仍“像人一样行动,像机器一样思考”[23]。这一阶段,扩展自身在社会网络中的影响力是社交机器人个体行为的主要目的,行动策略还包括参与到热门话题的讨论中、以主动关注或发送信息的方式吸引有影响力的人的关注、大范围的盲目与普通用户对话等。

然而,由于当前的智能机器已能自主调节和人类的互动,借助掌握的海量话语资源模拟人类社交行为,它们不再满足于成为网络中的一个普通节点,而是通过深度模仿人类意见领袖的传播行为,主动争夺并占据舆论场中的关键生态位。俄乌冲突中的社交机器人@UAWeapons就是一个典型例子。为全面符合人类传播习惯,它不仅在对外形象和行为方式上高度模仿人类,还严格设计了言论内容。分析它早期发布的1708条推文,发现该账号主要从以下层面实现机器个体层面的议程设置建构:一是其账号简介明确声称“追踪乌克兰装备使用情况”,目的在于通过高度聚焦单一议题方向的方式,建构特定的议题优先级;二是广泛使用主题标签,有计划地为特定议题增强可见性,其中#Ukraine作为最高频标签,出现在其77%的推文中(1318条),反映出该账号有意通过重复与聚焦,引导受众关注乌克兰议题;三是@UAWeapons 擅长使用多模态内容塑造认知框架。它发表的绝大多数推文采用“图像/视频+文字”的复合形式,以高度视觉化的表达虚构出具有冲击力的“证据”,从而影响用户对议题属性的感知与理解;从媒介生态学视角来看,@UAWeapons的成功是舆论生态中的“拟态物种”通过提供稀缺的认知资源(专业化、高密度的战地信息),在战时特殊的信息环境中实现的一次成功的生态位争夺。该账号没有选择与主流媒体在报道广度上竞争,而是着眼于“军事装备视觉证据”这一细分领域,伪装成一个高度专业化的账号来吸引大量需要第一手信息的人类,目的即在特定议题上掌握话语优势。

一些机器人还会窃取真实用户的个人信息来完善自己的身份,常见方式是采用真实用户的用户名变体。如,2024年德国联邦外交部发现,一起虚假信息运动中出现大量社交机器人账号使用重复率极高的真人用户名变体,目的是模仿真实用户的身份特征,嵌入本地化的社交圈层。这种策略显示出社交机器人的生态位争夺已从早期的行为模仿,进化到对身份符号本身的掠夺与寄生。

总的来看,社交机器人个体积极地在社交媒体平台上参与社会互动,凭借高度拟人化的社交主体形象,不仅成为社交网络中的有效节点,更试图以拟态寄生方式实现深度生态位争夺。

(二) 机器集群行为:制造“沉默的螺旋”效应与舆论生态改造

当社交机器人从个体“节点”演化为协同行动的“集群”时,其对舆论生态的影响便从局部扰动升级为系统冲击。Ferrara等就社交机器人的迅速发展趋势,预测在社交媒体平台中机器与机器的交互成为常态,人类将在一个主要由机器人组成的世界中穿行。[24] X平台上伪装成印度工程师的社交机器人@samirsinh189关联了近万名用户,它的粉丝中的机器人用户会围绕其推文进行类人化、规模化的行动,促使其成为X平台中的意见领袖。@UAWeapons也在被创建仅2个月就拥有了47万粉丝,该账号早期发布的推文多由一批账号共同转发,其中最高频转发的一批账号中有218个为社交机器人账号,形成了一个较为稳定的网络。这类行动是单个机器人所达不到的,体现了机器集体智能的力量。

进一步对@UAWeapons及其周围关注账号组成的网络进行分析发现,包括@mog7546、@TrumpluvsObama、@VolunteerReport等在内的社交机器人账号又同其他社交机器人进行相互连接,形成了更大的社交机器人网络社群。社群中的机器人联合转发@UAWeapons的推文,是该账号能够吸引众多人类用户关注的重要原因。也就是说,@UAWeapons的影响力是由一批占据结构优势的机器人账号通过算法化合谋人为构筑的。机器人社群通过相互关注、转发与内容策应伪造了平台的“优势意见气候”。在这种网络生态下,沉默的螺旋就不再是一个自然的传播过程,而成为被精密设计和部署的传播武器。

通过集群协作,社交机器人不再仅争夺现有的生态位,而是直接改造信息环境的可见性结构和意见分布态势。然而,更值得关注的是,社交机器人集群行为不局限于机器内部的交互,它们还试图与广大公众、政治组织、媒体等人类主体展开深层次互动,以机器集群的强大计算和分析能力,通过精准的内容发布、情绪引导、话题设置等方式[25]改变传统的信息传播模式。

(三)混合人机行为:度中心性下公共领域的算法侵蚀

度中心性(Degree Centrality)是在网络分析中刻画节点中心性的最直接度量指标。一个节点的节点度越大就意味着这个节点的度中心性越高,该节点在网络中就越重要。[26]社交机器人容易在混合人机行为中成为网络的中心节点,原因在于:首先,机器的行为受算法优化目标指引,而这些优化目标往往与舆论场域中的热点话题和主流意见相对应,从而使得机器倾向于围绕这些中心议题进行信息处理和传播;其次,机器的算法设计往往倾向于模仿和学习人类行为模式,这导致机器趋同于人类的主流观点,进而增强了这些观点的传播力度;最后,人类参与者在与机器交互的过程中,可能会无意识地给予某些机器更多的关注和反馈,这种选择性的互动进一步加剧了机器中某些节点的中心性。如特朗普2017年曾在X上与一名有着15万粉丝的机器人用户互动,使这个机器人用户在舆论中迅速成为人们关注的中心。

在混合人机行为层次下,机器集群并非独立的行为角色,而是被纳入整个社会交流的体系之中,通过嵌入原本由人类所主导的舆论生态中,与人形成相互作用的影响关系。多数情况下,机器人账户发布的推文在信任度、沟通效能及互动意图等方面与人类发布的推文并无明显区别。甚至当社交机器人的交互方式满足用户的期望时,用户对机器人账户的反应与对人类账户的反应并无二致。[27]一些智能化程度较高的社交机器人在传播中还会主动利用这种现象,如有意识地将虚假信息传给人类网络大V,以扩大假新闻的影响范围和可信度。

这意味着,机器人甚至不需要任何转译过程就能与人类行动者共同影响舆论演变,且在舆论场域中很容易成为影响力的中心。由于机器人能高效地传播信息,它们可能无形中压缩人类用户在网络舆论场中的发声空间,降低舆论场的多元性和真实性。如果社交机器人传播的信息存在偏差或误导性,还可能迅速形成错误舆论导向,引发群体性的非理性行为。而且,由于社交机器人的算法驱动特性,其参与舆论的行为缺乏足够的社会责任感和伦理考量,被不法分子利用散布虚假信息时就会损害公共利益。

混合人机行为是社交机器人生态位争夺的高级形态,机器人在此表现出自己是可信的用户,并在社交媒体舆论场上影响甚至操纵着人们的意见,其在舆论中的高度中心性地位还可能会对人类用户原本的意见气候和意见多样性造成压制,其目标是从“嵌入生态”进阶到“与关键物种共生”,乃至实现“生态位替代”。社交机器人通过这种策略,争夺原本属于人类意见领袖的生态位,长此以往,可能导致公共话语的“算法化”和“空心化”。这要求传播学研究必须超越技术治理层面,深入反思人机共生的伦理边界,以守护公共领域作为理性对话空间的本体性价值。








五、人机融合媒介环境下

社交机器人的治理路径

我国《人工智能治理蓝皮书(2024)》已经明确将人工智能存在的风险分为包括模型缺陷、数据安全等在内的内生风险,与包括个人隐私、社会就业、国家安全、人类生存风险在内的外在风险这两大类。[28] 2025年8月,我国工业和信息化部等多部门共同发布了《人工智能科技伦理管理服务办法(试行)(公开征求意见稿)》,旨在参考国内外人工智能科技伦理治理经验,回应人工智能深入社会应用带来的伦理挑战与治理需求,这标志着我国人工智能治理正从原则倡导走向制度化实施的关键阶段。实际上,人工智能治理已成为全球数字秩序构建的核心议题。社交机器人作为一种依托人工智能技术深度嵌入公共舆论场域的行动者,正持续重塑当下的舆论生态格局。对社交机器人的治理,“监测—反制”的技术治理框架不可或缺,健全的法规制度也必不可少。

(一)协同共进:正确认识社交机器人

回归到传播实践中来看,在社交机器人参与舆论生态的过程中,人类主体的作用并未完全丧失,而是转变为更高层次的设计者、监督者和决策者。人类不仅能够设定算法参数、审查内容质量和制定机器人行为准则等,还能在宏观层面对社交机器人的运作进行指导和控制,也在深度理解、精准操控和集群合作等方面超过人工智能,在人机融合传播环境中仍有可能保持信息主导者角色。

事实上,回顾大众传媒技术史可以发现,技术与人类的关系总是呈现出“博弈—合作—融合”的过程。不过,由于社交机器人在传播过程中的隐蔽性,公众对社交机器人产生的负面影响还知之不多,在舆论风波中公众常常难以判断舆论走向是否缘于社交机器人别有用心的引导,很多用户甚至并未意识到与社交机器人互动的风险。因此,除了根据群体差异进行认知训练之外[29],还需要具体协同整合媒体、企业和第三方机构等开设人工智能素养提升课程,帮助普通用户正确认识社交机器人。如基于学术平台、专业网站、社交网络等线上平台以及线下培训、讲座等形式,通过典型案例剖析负面社交机器人账号及其传播误导性信息的方法和手段,帮助用户了解有害社交机器人的危害和识别方法,避免普通用户无意中成为虚假信息传播的“受害者”甚至“帮凶”。

(二)治理机器:探求社交机器人向善利用路径

在人机共生环境下,对于社交机器人造成的语义偏见、情感欺骗、隐私侵犯、虚假新闻传播、政治活动操纵等问题,技术治理已成为促进社交机器人技术向善的关键手段。这不仅要求对算法的设计、执行和监管进行全面审视,还要对社交机器人在舆论生态中的行为进行实时监控,以确保其不会散播虚假信息、引导舆论走向或操纵用户情绪。不过,在确保社交机器人不会成为媒介生态的破坏者的同时,还应更进一步地探索如何促进相关技术发挥积极的社会作用。

首先,鉴于社交机器人全天候不间断的自动化智能化特性,可以部署其充当辅助人类进行信息把关的第一道“把关人”,协助政府和媒体机构检索网络信息的信源并进行事实核查,将社交机器人用于常态化监测、打击假新闻和网络谣言,把社交机器人转变为“监测者”与“防火墙”,来实现对网络谣言与不实信息的常态化、规模化技术反制。其次,社交机器人可通过大数据深度挖掘技术,实时监控网络舆论,快速感知舆情信息。因此,社交机器人还可以作为民意的智能分析与预测者被长期用于网络舆情信息系统中,帮助分析和预测舆情事件的走向和趋势。相关部门可以主动在媒介环境中部署具备情感分析、议题演化追踪与关键节点识别能力的社交机器人,帮助舆情治理实现从“事后应对”到“事前预判、事中引导”的治理模式升级。最后,主动培育作为正面议程设置者的引导型机器人。这些机器人不必伪装为人类用户,而是以明确的AI身份在特定社群中有策略地放大权威、科学、理性的正面信息,对抗负面机器人制造的“信息噪音”,旨在塑造健康、理性的舆论生态。尤其是在科技创新、环保等公共议题上,可以利用这些机器人扩大网络舆论环境中正面话题的传播范围和关注度。

(三)制定规范:以制度性框架保障传播生态

在机器人被纳入媒介环境中之后,如何规范其运营模式,并将其纳入人类传播规则之中是重要的问题。有研究认为,应该对流程中的产品提供者、部署者、进口商、分销商、产品制造者以及使用者赋予明确的身份,确保参与人工智能技术开发、部署、进口、分销或制造的主体在其价值领域内承担相应的责任。[30]这显然远超依靠单一法律条文来建立规范制度的范畴,而是需要构建“政府—行业—企业”多元主体共治的协同体系。

在这方面,国际人工智能治理方案提供了有益参考。加拿大政府推动的“政府引导下的行业自律”的治理模式值得关注,该政府在2025年扩展了《先进生成式AI系统负责任开发与管理自愿行为准则》,旨在实现“法律划定底线、行业提升标准、企业落实责任”的共治模式,是兼顾了创新激励与风险防范的灵活治理。同时,欧盟《人工智能法案》所确立的风险分级治理思路提供了更具体的操作框架,即按照人工智能的风险等级进行差异化管理。如,对于高风险的人工智能开发和运营机构,不仅需要采取强制性的前置备案,还需要实行运作流程透明化的管理策略;对于有限风险责任主体,则在应用过程中实行网格化监管,并建立起便捷的用户投诉通道,发挥广大用户的监督作用;对于低风险主体,明确其使用规范和社会责任,并建立行业自律准则进行引导,确保其在应用中对传播生态不构成过多冲击。分级治理的方式,既是为了保障相关智能传播主体的发展可能,又能确保这一传播技术未来长期处于可被及时有力管控的范围内。

回归我国语境,应在“总体国家安全观”、《新一代人工智能发展规划》及《数据安全法》等指引下,将散布虚假信息、煽动社会对立、损害国家利益等行为明确列为法律禁止行为,并依法界定开发者、运营者与平台方的责任。具体而言,可依据其社会影响范围实施分级监管:对造成谣言扩散、危害公共利益或国家安全等高风险的社交机器人账号,采取强制关停、行政处罚乃至刑事追责等严厉措施;对有限风险或低风险账户,则重点督促平台与企业加强日常监测与行为引导。通过构建“分级治理、多元共责”的制度体系,方能在鼓励技术创新的同时,确保这股新兴传播力量始终运行于规范、可控的轨道之上,从而为人机共生的未来奠定坚实的治理基础。








六、结论与讨论

自2016年人工智能高速发展以来,各国政府都在密切关注人工智能发展带来的伦理问题,纷纷发布文件,试图从法律和道德层面引导人工智能发展。我国一直把发展人工智能作为重要战略,计划到2030年,将我国建设成“世界首屈一指的人工智能创新中心”[31]。在人机共存的媒介生态中,社交机器人既是一种增强人类传播能力的技术,也有可能成为破坏媒介环境与舆论生态的传播主体。构建与机器人共生共存的新型媒介生态,不仅意味着技术层面的调整,更指向思维模式和价值观念的根本转变。在设计和应用社交机器人的过程中,必须全面考量其对人类行为、交流方式甚至思维模式的潜在影响,采取必要措施维护人类在信息传播过程中的主导地位,确保技术发展不背离其服务人类的根本目的以及技术进步真正服务于人类社会的长期发展。

【本文为国家自然科学基金面上项目“生成式人工智能驱动下的人机共存舆论极化相变研究”(批准号:12575034)成果】

参考文献

[1] SCHMUCK D,VON SIKORSKI C. Perceived threats from social bots:The media’s role in supporting literacy[J]. Computers in Human Behavior,2020,113:106507.

[2]张洪忠,王彦博,任吴炯,刘绍强.乌合之众的超级节点?AI大模型使用的人机网络结构分析[J].新闻界,2023(10):12-19.

[3]张应语,赵英姿,颜金,等.《人工智能法案》与全球AI治理:欧盟模式的实践与前景[J].湘潭大学学报(哲学社会科学版),2025,49(3):111-119.

[4] ROSS B,PILZ L,CABRERA B,et al. Are social bots a real threat?An agent-based model of the spiral of silence to analyse the impact of manipulative actors in social networks[J]. European Journal of Information Systems,2019,28(4):394.

[5]马中红,吴熙倡. 社交聊天机器人的性别偏见——基于小冰系列的对话测试研究[J].国际新闻界,2024,46(4):72-89.

[6]武丽丽,谢文静,牛玉虎.儿童陪伴型机器人补位父母照看的伦理审视与实践进路研究[J].中国教育技术装备,2026,40(7):33-37.

[7] FERRARA E,vAROL O,DAVIS C,MENCZER F,FLAMMINI A. The rise of social Bots[J]. Communications of the ACM,2016,59(7):96-104.

[8] FONG T,NOURBAKHSH I,DAUTENHAHN K. A survey of socially interactive robots[J]. Robotics and Autonomous Systems,2003,42(3):143-166.

[9]郭小安,赵海明.作为“政治腹语”的社交机器人:角色的两面性及其超越[J].现代传播,2022(02):122-131.

[10] CRESCI S,ROBERTO D P,MARINELLA P,ANGELO S,MAURIZIO T. Fame for sale:efficient detection of fake twitter followers,decision support systems[J].2015,80(1):56-71.

[11] SUAREZ LLEDO V,ALVAREZ GALVEZ J. Assessing the role of social bots during the COVID-19 pandemic:Infodemic,disagreement,and criticism[J].Journal of Medical Internet Research,2022,24(8):e36085.

[12]胡翼青,李璟.媒介生态学的进路:概念辨析、价值重估与范式重构[J].新闻大学,2022(09):1-13+117.

[13]高山冰,汪婧.智能传播时代社交机器人的兴起、挑战与反思[J].现代传播,2020(11):8-11+18.

[14]方格格,王振雄.社交机器人如何影响舆论气候:机制分析与治理路径[J].北京邮电大学学报(社会科学版),2024(06):50-59.

[15]王晰巍,吴彦婷,李玥琪.社交机器人驱动的信息迷雾:传播机理、社会风险与治理路径[J].情报理论与实践,2025,48(3):41-51.

[16] ALARIFI A,ALSALEH M,AL SALMAN A. Twitter turing test: identifying social machines[J].Information Sciences,2016,372:332-346. 

[17]高山冰,孙振凌.社交机器人治理:国际实践与中国进路[J].阅江学刊,2025,17(2):107-118+173-174.

[18] GEIGER R S. Bot-based collective block lists in Twitter:The counter public moderation of harassment in a networked public space. Information[J].Communication & Society,2016,19(6):787-803. 

[19]罗昕,张梦.西方计算宣传的运作机制与全球治理[J].新闻记者,2019(10):63-72.

[20]李维斯,纳斯.媒体等同:人们该如何像对待真人实景一样对待电脑、电视和新媒体[M].卢大川,等,译.上海:复旦大学出版社,2001:213-217.

[21]信息泡沫指的是信息在具有相似观点的用户群体中循环传播,而不被外部群体所注意,这种现象可能导致公众对于某一事件的认知出现偏差,甚至在极端情况下引发社会动荡。

[22] LEE K,EOFF B D,CAVERLEE J. Seven months with the devils:A long-term study of content polluters on Twitter[C]. In Proceedings of the 5th International AAAI Conference on Weblogs and Social Media,Barcelona AAAI Press 2011,5(1):185-192.

[23] FERRARA E,vAROL O,DAVIS C,MENCZER F,FLAMMINI A. The rise of social Bots[J]. Communications of the ACM,2016,59(7):96-104.

[24] FERRARA E,vAROL O,DAVIS C,MENCZER F,FLAMMINI A. The rise of social Bots[J]. Communications of the ACM,2016,59(7):96-104.

[25]陈龙.舆论熵的控制与防范:一种关于网络治理的认识方法论[J].新闻与传播研究,2018,25(8):65-80+127.

[26]诺克.社会网络分析[M].杨松,译.上海:上海人民出版社,2012:103-104.

[27] EDWARDS C,EDWARDS A,SPENCE P R,SHELTON A K. Is that a bot running the social media feed?Testing the differences in perceptions of communication quality for a human agent and a bot agent on Twitter[J]. Computers in Human Behavior,2014,33:372-376. 

[28]中国通信院.人工智能治理蓝皮书(2024)[EB/OL].(2024-12)[2025-08-09]. https://www.caict.ac.cn/kxyj/qwfb/bps/202412/P020241227660032159191.pdf.

[29]郭小平,刘丽基. AI谣言:主观恶意、风险归责与协同治理[J].青年记者,2025(10):26-34.

[30]高富平,张启航.可信AI:人工智能法律治理的内在逻辑与实现路径[J].学术探索,2025(09):79-89.

[31]新华社.到2030年我国力争成为世界主要人工智能创新中心[EB/OL].(2017-07-20)[2026-05-12].https://china.huanqiu.com/article/9CaKrnK4cwO.


(凡婷婷:北京师范大学计算传播学研究中心/新闻传播学院讲师;李都:云南民族大学文学与传媒学院讲师)

【文章刊于《青年记者》2026年第9期】
本文引用格式参考:
凡婷婷,李都.舆论实践中的另类主体:社交机器人行为范式与人机互动路径[J].青年记者,2026(09):13-21.

人机传播的秩序建构

人工智能日益密切地介入日常工作生活的方方面面,成为人类的重要辅助工具,人机关系成为值得审思的重要问题。技术是为人服务的,我们要不断地在技术洪流中追问“人”的意义,为人机共生的未来构建良性的秩序基础,引导数字文明走向成熟。

人机协作视域下新闻从业者的主体性反思与重构



编辑:小青