四部门专项行动整治“信息茧房” 专家:算法规则需要外部审查

11月24日,国家互联网信息办公室微信公众号“网信中国”发布《关于开展“清朗·网络平台算法典型问题治理”专项行动的通知》(以下简称《通知》)。《通知》由中央网络安全和信息化委员会办公室秘书局、工业和信息化部办公厅、公安部办公厅、国家市场监督管理总局办公厅四部门发布。《通知》指出,要重点整治同质化推送营造“信息茧房”、违规操纵干预榜单炒作热点、盲目追求利益侵害新就业形态劳动者权益、利用算法实施大数据“杀熟”、算法向上向善服务缺失侵害用户合法权益等重点问题,督促企业深入对照自查整改,进一步提升算法安全能力。

知名经济学者、工信部信息通信经济专家委员会委员盘和林在接受新京报记者采访时表示,一些算法规则机制导致的“信息茧房”,是对普通人有危害的,它会强化负面情绪,引发许多社会矛盾,因此对它们的外部审查很有必要;此次专项行动有利于保护消费者权益,防止企业通过算法“收割”消费者,从而维护网络安全和公共利益;此外,还有助于促进算法产业的良性发展以及数字技术高质量发展。

聚焦六个主要任务,整治网络平台算法问题

据《通知》内容,本次专项行动有六个主要任务:深入整治“信息茧房”、诱导沉迷问题;提升榜单透明度打击操纵榜单行为;防范盲目追求利益侵害新就业形态劳动者权益;严禁利用算法实施大数据“杀熟”;增强算法向上向善服务保护网民合法权益;落实算法安全主体责任。

《通知》提到,深入整治“信息茧房”、诱导沉迷问题。构建“信息茧房”防范机制,提升推送内容多样性丰富性。严禁推送高度同质化内容诱导用户沉迷。不得强制要求用户选择兴趣标签,不得将违法和不良信息记入用户标签并据以推送信息,不得超范围收集用户个人信息用于内容推送。规范设置“不感兴趣”等负反馈功能。此外,《通知》还要求,提升榜单透明度打击操纵榜单行为。全面公示热搜榜单算法原理,提升榜单透明度和可解释性。完善榜单日志留存,提高榜单算法原理可验证性。健全水军刷榜、水军账号等违规行为、账号检测识别技术手段,严管不法分子恶意利用榜单排序规则操纵榜单、炒作热点行为。

《通知》指出,防范盲目追求利益侵害新就业形态劳动者权益。严防一味压缩配送时间导致配送超时率、交通违章率、事故发生率上升等问题。详细公示时间预估、费用计算、路线规划等算法规则。搭建畅通的申诉渠道,及时受理劳动者因交通管制、交通事故、恶劣天气等不可控因素导致的配送超时等申诉。严禁利用算法实施大数据“杀熟”。严禁利用用户年龄、职业、消费水平等特征,对相同商品实施差异化定价行为。提升优惠促销透明度,清晰说明优惠券的领取条件、发放数量和使用规则等内容。客观如实说明优惠券领取失败原因,严禁以“来晚了”“擦肩而过”等提示词掩盖真实原因。

《通知》指出,增强算法向上向善服务保护网民合法权益。持续优化完善面向未成年人、老年人的算法推荐服务,便利未成年人、老年人获取有益身心健康的信息。建立健全算法在赋能优质内容传播、违法行为识别发现等方面的社会治理应用。持续提升生成合成信息检测识别能力,及时发现处理违法违规生成合成信息。落实算法安全主体责任。健全算法机制机理审核、数据安全的管理制度和技术措施。确保算法的训练数据具有合法来源,及时检测修复代码安全漏洞和算法逻辑缺陷,定期对算法模型的可用性、可控性、可解释性以及数据处理、模型训练、部署运行等环节开展安全评估。

专家:避风港原则不完全适用,需要接受外部审查和评估

“信息茧房”是美国学者凯斯·桑斯坦在2006年出版的《信息乌托邦》一书中提出的概念,指个体如果关注自我选择的或能够愉悦自身的内容,同时减少对其他信息的接触,时间一长,就会像蚕一样桎梏于自我编织的“茧房”之中。“大数据杀熟”,是指同样的商品或服务,不同客户看到的价格也不同的现象。2018年12月20日,“大数据杀熟”一词,当选为2018年度社会生活类十大流行语。

在盘和林看来,一些算法规则机制导致的“信息茧房”“大数据杀熟”等,是不利于网络安全和公共利益的,因此国家层面进行专项行动治理算法问题很有必要;另外,我国已有法律规定,算法平台有责任对数据采集和算法规则机制等进行备案,因此算法平台并不完全适用避风港原则(指网络平台如果提供的链接、存储的相关内容涉嫌侵权,在其能够证明自己并无恶意,并且及时删除侵权链接或者内容的情况下,网络服务提供者不承担赔偿责任),不可以用这个原则封闭自己平台的算法规则机制,其算法规则机制的合理性需要接受外部力量的审查和评估。

“但是,治理算法问题遇到的难点也是多方面的,首先是算法本身复杂,政府监管方需要设立专门岗位来评估算法,要懂算法才能管算法。其次是透明度问题,算法本身像是‘黑匣子’,又或者企业自己不愿意将自己的算法公开,这样给监管带来了不便。再者是伦理道德的挑战,有些算法是合理的,既不违法也不违规,但仍会影响公共利益,这只能依靠企业自身在道德层面加强自我约束。还有,算法技术发展比较快,多少会让现有的法律法规体系显得有些滞后。”盘和林说。

他建议,治理算法问题,一方面需要企业自身强化算法治理体系建设,提升算法透明度,同时要给出用户权益保护的具体措施;另一方面,政府部门需要完善法律法规,加强执法监管力度,尤其要对算法的潜在风险进行定期和不定期风险评估。

专项行动多部门联动,直到2025214日结束

根据《通知》内容,专项行动有五个工作目标:算法导向正确;算法公平公正;算法公开透明;算法自主可控;算法责任落实。

《通知》在“工作目标”中指出,算法导向正确。健全完善正能量优质内容池,优化算法推荐服务机制,积极传播正能量,促进算法应用向上向善;建立健全用于识别违法和不良信息的特征库,积极探索应用于识别违法和不良信息的算法、技术,防范和抵制传播不良信息。不得设置诱导用户沉迷、过度消费等的算法模型。不得利用算法干预信息呈现,实施影响网络舆论或者规避监督管理行为。

第二个目标是,算法公平公正。不得利用算法实施垄断和不正当竞争行为。保护劳动者合法权益,完善平台订单分配、报酬构成及支付、工作时间、奖惩等相关算法。保护消费者公平交易的权利,不得利用算法在交易价格等条件上实施不合理的差别待遇。

第三个目标是,算法公开透明。优化检索、排序、推送等规则的透明度和可解释性,预防和减少争议纠纷。以适当方式公示算法推荐服务的基本原理、目的意图、主要运行机制等,确保简单、清晰、可理解。

第四个目标是,算法自主可控。关闭算法推荐服务的选项操作便捷、功能有效。向用户提供选择或者删除用于算法推荐服务的针对其个人特征的用户标签的功能,便利用户自主选择兴趣领域。

第五个目标是,算法责任落实。建立健全算法安全管理制度和技术措施。定期审核、评估、验证算法机制机理、模型、数据和应用结果等,常态化开展算法安全自评估。算法“应备尽备”,备案信息发生变更的及时办理变更或者注销手续。

此外,《通知》还明确了专项行动的时间线:

第一阶段是组织企业自查自纠(即日起至2024年12月31日)。通过下发通知、召开专题会议等形式,部署属地重点网站平台对照重点任务,举一反三排查安全风险问题,简单问题立即整改,复杂问题明确整改举措和期限。

第二阶段是核验企业自查情况(2025年1月1日至2025年1月31日)。积极落实属地管理责任,对照《算法专项治理清单指引》,对企业自查自纠情况进行深入评估。对自查不认真、整改不彻底的企业,及时组织技术力量进行核查并督促整改。

第三阶段是深入评估治理成效(2025年2月14日前完成)。各地网信部门会同有关部门,总结专项行动实施成效,结合专项行动开展情况,全面评估《指导意见》印发以来的算法治理举措及取得的积极成效,深入分析难点问题,制定今后一段时期的务实举措。

另外,整个专项行动期间都开设举报受理渠道。各地网信部门在专项行动期间要及时公开算法问题举报渠道。对网民举报线索进行监测核实,督促存在问题的网站平台及时整改,并向网民反馈整改结果。

《通知》还指出,各地网信部门要发挥统筹协调作用,牵头开展专项行动。加强与属地电信、公安、市场监管等相关部门联动,细化工作分工,压实工作责任。运用好央地各方有效技术支撑力量,积极有效推动各项任务落实,确保取得工作成效。

新京报记者 赵利新

编辑 张牵 校对 贾宁