“小孩被压在废墟下”系AI生成！原作者回应

日前，西藏日喀则市定日县发生6.8级地震，牵动着许多网友的心。但与此同时，一些关于灾情的不实信息，也在网络上公然传播。近日，一张“小孩被压废墟下”的图片在网上引发广泛关注。实际上，这张图片由AI生成。究竟怎么一回事？来看记者的调查。

“小孩被压废墟下”系AI生成

当事人：有自媒体涉嫌盗用AI生成素材

图片中，一名戴帽子的小男孩被压在废墟下。记者注意到，有不少网友被图片视频造成误导，并在留言区关注男孩的生命安全。

而实际上，这张图片是由AI生成，图中孩子的左手显示为六根手指。记者联系到该AI图片的创作者何先生，对方给记者提供了原始版的AI生成视频，短视频截图显示，这段视频在去年11月发布，并非本次西藏地震期间发布。目前，他已经删除该视频。

何先生讲述，他在软件中输入了一句话后，就生成了一张图片，在AI软件中对图片进行处理，便有了视频。

何先生创作这段AI图片和视频的起因，是看到加沙战争地区的孩子家园遭到破坏、流离失所，希望通过视频传递和平愿望。而他并没有想到，自己发布在短视频平台上的素材遭到他人盗用，并和此次西藏地震进行了关联。何先生在他的视频账号中也曾发布许多AI生成视频。

以“假图”关联真实事件传播

严重的或构成犯罪

何先生2024年11月发布的视频被人移花接木，将此次地震相关的信息肆意拼凑，这种用灾难博取流量的行为引发社会公众愤慨。

有法律人士表示，用“假图”关联真实事件的行为违背了社会公序良俗，有扰乱社会秩序之嫌，将面临法律处罚。

《中华人民共和国治安管理处罚法》第二十五条规定，散布谣言，谎报险情、疫情、警情或者以其他方法故意扰乱公共秩序的，处五日以上十日以下拘留，可以并处五百元以下罚款，情节较轻的，处五日以下拘留或者五百元以下罚款。

《中华人民共和国刑法》第二百九十一条之一第二款规定，编造虚假的险情、疫情、灾情、警情，在信息网络或者其他媒体上传播，或者明知是上述虚假信息，故意在信息网络或者其他媒体上传播，严重扰乱社会秩序的，处三年以下有期徒刑、拘役或者管制；造成严重后果的，处三年以上七年以下有期徒刑。

软件30秒“编造”地震报道

未标注AI生成

2024年9月，国家互联网信息办公室发布关于《人工智能生成合成内容标识办法（征求意见稿）》公开征求意见，其中提到，在图片的适当位置添加显著的提示标识；在视频起始画面和视频播放周边的适当位置添加显著的提示标识，可在视频末尾和中间适当位置添加显著的提示标识。

而在引发大量关注的“被压废墟下的小男孩”图片和视频中，创作者何先生也告诉记者，AI软件没有强制要求标注“AI生成”字样，是自己在视频上方添加了水印，但后来被盗用者删掉了水印。

记者也试着用了一款剪辑软件，只用30秒就生成了一则所谓的“地震报道”。

记者在一款用户量庞大的剪辑软件中，使用其提供的AI视频生成功能，输入一句关于小女孩在地震中被救出的文字描述，不到30秒钟，软件就生成了一段20秒左右的视频，并提供画外音解说。视频中并未标注“AI生成”字样，软件也没有要求用户添加这样的标识。

专家：平台审核存在滞后性

未来要加强对突发信息的管控

除了AI生成软件和生成者要肩负起责任，专家指出，相关的立法、执法也需要加强，并在全社会加强相关人员的教育和科普工作，让公众的辨别力更高。

专家指出，目前，平台审核机制存在一定滞后性，未能及时有效识别AI虚构图片，对自媒体账号发布内容监管不力，特别是在涉及灾害等敏感话题时，更应加强审核力度。未来需要利用技术手段、人工审核等多种方式加强对地震等突发信息的管控。

中国人民大学新闻与社会发展中心研究员 曾持：在目前的技术情况下，平台只能事后惩罚，但是当下社会的传播速度很快，造成的影响太迅速，很难在源头上根治AI造谣的影响。

曾持还表示，未来AI技术要跟平台更紧密地联系在一起，平台要能根据AI新工具反向识别由AI拼造的假图片和假新闻。

如何甄别AI图片？

• 观察细节：许多AI生成的图片、视频中，可能存在人物表情僵硬、边缘模糊、光线阴影不自然、手指等细节数量异常或扭曲等。

• 查证来源：在一些平台和软件上，截图并“识别图片”，可以搜出是否来自发布过的旧图。

• 多方验证：不要仅仅依赖单一的信息来源，应从多个权威渠道获取信息进行对比。对于一些热点事件，可以检索官方媒体报道，验证信息的真实性。

• 保持警惕：仔细分析信息的逻辑性，若存在明显漏洞、矛盾或与常理不符的地方，很可能是虚假信息。

• 谨慎分享：在确定信息真实可靠之前，不要随意转发，以免无意中成为谣言传播的推手。

本文来源：央视新闻微信公众号