编辑|丁一
随着技术的不断进步,算法推荐让普通人接收的信息更趋于定制化、智能化,但也容易让人在不断重复中陷入“信息茧房”,甚至陷入算法的陷阱。例如,养生类谣言总是推送在老年人眼前,青少年总是看到游戏类内容,类似的“投喂”乱像直指背后的算法问题。
近日,“网信中国”联合四部门开展“清朗·网络平台算法典型问题治理”专项行动,增强算法向上向善服务等服务。此次行动,就是重点整治同质化推送营造“信息茧房”、违规操纵干预榜单炒作热点、利用算法实施大数据“杀熟”等问题,每一个被点名的问题都与算法滥用、乱用有关。
精准治理,剑指用户痛点
2023年,中国青年报社社会调查中心联合问卷网,对1501名受访者进行的一项调查显示,62.2%的受访者直言,“大数据+算法”的精准推送方式,让自己陷入了“信息茧房”。调查中,62.2%的受访者感觉到“大数据+算法”的精准推送方式,使信息渠道越来越窄、信息越来越同质化,让自己陷入了“信息茧房”。
这看不见的算法,躲在幕后给大众“画像”,采集其行为、归纳其习惯、掌握其爱好,越“懂”大众,却又通过这些掌握的数据“算计”着大众。
近日,农夫山泉创始人钟睒睒公开而激烈地炮轰一些平台的网络暴力和算法“作恶”,指责平台利用算法进行网络暴力,对个人、企业及大众造成了严重侵害。这一言论迅速引发了广泛的社会关注和讨论。
钟睒睒在接受媒体采访时对年初遭遇网络暴力一事进行了回应。他说,算法机制必须改变,作为互联网平台企业,对信息的验证、核实必须承担法律责任。
针对算法乱像,11月24日,中央网信办等四部门联合印发通知,部署开展“清朗·网络平台算法典型问题治理”专项行动,提出要在3个月左右的时间内对网络平台算法存在的典型问题进行重点整治。
据了解,此次专项行动通知主要任务是:聚焦网民关切,重点整治同质化推送营造“信息茧房”、违规操纵干预榜单炒作热点、盲目追求利益侵害新就业形态劳动者权益、利用算法实施大数据“杀熟”、算法向上向善服务缺失侵害用户合法权益等重点问题,督促企业深入对照自查整改,进一步提升算法安全能力。
事实上,早在2022年3月1日起施行的《互联网信息服务算法推荐管理规定》,就明确要求算法推荐服务提供者应当坚持主流价值导向,积极传播正能量,采取措施防范和抵制传播不良信息。
在当前大模型等技术飞速发展的前提下,为什么先重点整治信息茧房、热搜榜单等问题?推出网络平台算法典型问题治理有何重要意义?此次专项行动与此前又有什么不同?
在中关村物联网产业联盟副秘书长袁帅看来,之所以先整治信息茧房、热搜榜单等问题,是因为它们涉及到消费者权益、社会信任、市场公平竞争以及社会公共安全,是全社会广泛关切的重点。这些问题直接关系到网络信息的传播和用户的认知,对于营造健康、多元的网络环境具有重要意义。
中国企业资本联盟副理事长柏文喜指出,在大模型加速发展的当下,网络平台算法典型问题治理的重要意义在于保护用户权益、促进算法应用生态的规范化,以及维护网络空间的公平正义。“此次专项行动与以往相比,更加聚焦于网民关切的问题,如同质化推送、大数据杀熟等,并明确了算法导向正确、算法公平公正、算法公开透明、算法自主可控和算法责任落实五大工作目标。此次行动特别强调了算法的公平性和透明性,以及对算法责任的落实,这些都是在以往治理中可能不够突出的方面。”
如何优化算法服务?
据媒体指出,所谓的算法权力,正是指其背后潜藏着的控制算法设计和研发过程的资本的权力,技术权力只是表征而已。资本驱动下的算法权力倘若缺少必要的规制,势必倾向于将利益置于人的价值之上。早在2015年,Facebook就因其人工智能推荐内容存在政治偏见,饱受用户指责。
算法听起来似乎与公众生活有点远,但却在网络空间中切实影响着人们的生活。例如,打开购物软件会在首页看到符合自身审美的商品;登录社交媒体,总是能刷到引起自己共鸣的话题;想要出去旅行,能够收到相关的优惠信息、酒店攻略等。
面对司空见惯的大数据推送,一些人觉得得到了贴心的服务,但也有人感受到了算法带来的负面影响。当前已有研究表明,视频平台的推荐算法会在内容推荐上更倾向于娱乐化内容,从而压缩了公众获取新闻资讯的空间。
与此同时,大数据杀熟更是让人防不胜防。根据对用户画像的深入侧写,算法对不同性别、年龄、生活背景的用户的信息推荐各不相同,有的用户在消费时要交的费用要多一些,这就是所谓的大数据杀熟。早在2018年一些主流媒体就曾针对大数据“杀熟”做过专门报道,“大数据杀熟”还被评为2018年度社会生活类十大流行语之一。
据媒体报道,目前以网络安全法、数据安全法、个人信息保护法为基础框架的法律机制已经初步建立起来。主管部门多次通过发布警示名单、要求整改等行政执法措施对大数据“杀熟”行为进行治理和规范,也起到一定作用和效果。
此外,算法对劳动者的“拿捏”也体现在一些劳动密集型行业。据媒体报道,临沂大学文学院邢斌老师在《2022年冬,我在临沂城送外卖》一文中生动描绘,在大数据和人工智能的加持下,外卖派单系统变得异常精准,即便骑手全力以赴,也只能在算法不断调整的“及格”边缘徘徊。
针对算法各种问题,如何才能防止各种乱像出现?算法作为平台进行商业化落地的重要手段,如何去用算法手段去治理这些问题?
柏文喜认为,从专业角度上,防止算法典型问题的出现需要从算法设计、实施和监管三个层面入手。在设计层面,需要确保算法的公平性和透明性,避免利用算法进行垄断和不正当竞争行为。在实施层面,需要优化算法的可解释性,让用户能够理解算法的基本原理和运行机制。在监管层面,需要建立健全算法安全管理制度和技术措施,定期审核和评估算法机制,确保算法的合规性。同时,平台需要提供关闭算法推荐服务的选项,让用户能够自主选择兴趣领域。
不过,他亦指出, 本次专项行动要想落地,需要解决的问题包括如何确保算法的公平性和透明性、如何有效监管算法的实施、如何保护用户的隐私和权益、以及如何平衡商业利益和社会责任。此外,还需要解决算法治理的技术难题,比如如何准确地识别和处理算法中的偏见和歧视问题,以及如何建立有效的算法安全评估和监管机制。
“对于消费者而言,本次专项行动能够提升算法安全能力,保护消费者免受大数据杀熟等不公正待遇,维护消费者权益。”柏文喜表示,长远来看,此次行动将促进网络平台治理的规范化,推动算法服务的安全风险监测防范工作常态化,提升算法常态化治理水平,从而为网络空间的健康发展提供有力保障。
综合自21世纪经济报道、广州日报、极目新闻等