抗震救灾别让AI造谣凑热闹 | 新京报快评

新京报评论

2025-01-08 22:13发布于北京新京报评论官方账号

全文1091字，阅读约需4分钟，帮我划重点

划重点

01西藏日喀则市定日县于1月7日发生6.8级地震，引发网友关注，但一些疑似虚假信息如AI生成的图片正在造成广泛误导。

02某短视频平台上，至少有10个以上账号发布与日喀则地震关联的AI生成图片，其中一些获得好几万的转评赞。

03事实上，这些AI生成的图片并非为蹭灾情热度而创作，但多个账号将其与日喀则地震进行关联，甚至都没有标记AI生成。

04地震发生后，人们关注灾情和救援，最需要的是真实信息，AI造谣给抢险救灾添乱，扰乱社会秩序。

05为此，治理虚假信息的手段需要进一步升级，包括对AI软件方和平台方加强监管和事后惩戒。

以上内容由腾讯混元大模型生成，仅供参考

AI造谣借助互联网广泛传播，在消费公众情感的同时，也让社会信任成本陡然提升。
图片▲在某短视频平台上，有多个账号发布AI生成图片，并和西藏日喀则地震关联。图/新京报我们视频截图
文 | 丛林
被压在地震废墟下的小男孩，居然是AI生成的图片。1月7日，西藏日喀则市定日县发生6.8级地震，灾情牵动人心，许多网友在社交平台上为灾民祈福。但与此同时，一些疑似虚假信息，比如AI生成的图片，正在造成广泛误导。

就像这个戴帽子的小孩被重压在倒塌的建筑物下的图片，在某短视频平台，至少有10个以上账号发布，并和日喀则地震关联。其中一些甚至获得好几万的转评赞，很多网友在追问小孩怎么样了。

而据新京报记者查证，上述图片系由AI工具创作，原始作者在2024年11月18日发布了相同画面的短视频，并声明是AI生成。

由此可知，这张图片并非为蹭灾情热度而创作，但多个账号却将其与日喀则地震进行关联，甚至都没有标记AI生成。这种做法，则是趁着公众关心灾情博关注，有故意误导之嫌。

报道中，除了这张图，还有一些地震相关图片，有的被作者标注了系AI创作，有的被平台标记为疑似AI创作，有的则没有任何提示，极可能造成事实混淆。

地震发生后，人们关注灾情和救援，最需要的是真实信息。无论使用AI生成相关灾情的图片视频，还是故意传播包括AI生成之类的虚假信息，不仅是给抢险救灾添乱，更有扰乱社会秩序之嫌。

事实上，每当有灾情出现，就总有人为了蹭流量，不惜编造各种谣言。当地在全力救灾之时，还要拿出大量时间和精力核实相关信息，辟谣成本可想而知。同样，公众对造谣、传谣行为也深恶痛绝，尤其是涉及灾情的时候，广泛传播的不实信息，甚至有引发社会恐慌的风险。

如今，随着AI技术的进步，利用AI生成逼近真实的图片乃至音视频变得轻而易举，以至于“AI造谣”成了一种新的虚假信息传播形式，治理起来难度也更大。AI造谣借助互联网广泛传播，在消费公众情感的同时，也让社会信任成本陡然提升。

可能有人觉得，只要不是自己编造、生成的，转发传播一下关系不大。其实不然，在网络时代，我们每个人都是信息的传播者，而不传播未经证实的消息，当是基本的媒介素养。具体到一条造谣传播链上，始作俑者、放任传播的平台以及转发的用户，没有一个是无辜的。

要知道，捏造、故意传播虚假信息的行为，不论是否借助于AI，都可能涉嫌违法。若编造虚假的险情、疫情、灾情、警情，在信息网络或其他媒体上传播，严重扰乱社会秩序的，更将面临严厉的刑事追责。

鉴于AI造谣具有门槛低、批量化、识别难等特点，治理虚假信息的手段也需要进一步升级。对AI软件方来说，能否将AI生成标识强制标注，从源头减弱虚假信息的传播效果；对平台方而言，应落实把关责任，针对灾害事故、社会热点事件，加强信息筛查，常态化升级平台甄别技术，强化事后惩戒，不给造谣者侥幸脱责的机会。

总之，地震灾情紧急，抗震救灾才是主旋律，别让AI造谣来凑热闹。

撰稿 / 丛林（媒体人）
编辑 / 何睿
校对 / 付春愔
查看原图 520K