一天可生成四千篇文章？对AI造谣要依法严处
半月谈网
2024-12-13 12:22
发布于北京
半月谈网官方账号
将AI技术用于流量变现，一天就能生成4000多篇文章，以致“造谣”后连发布者本人都不知道……江西南昌警方查处的一个网络谣言案，再次引发社会对AI造谣乱象的关注。
此前，一则关于某地爆炸的消息在网络平台传播，内容不仅包括确切的时间和地点，文字下方还配有爆炸图片。公安部门迅速开展调查后却发现，这条消息从文本到图片，全部都是通过AI生成的网络谣言。
南昌市公安局高新分局民警介绍，违法人员王某某只需设置关键词，AI软件就会根据当下热点，自动抓取相关信息，生成几百到上千字的文本，最高峰时一天能生成4000多篇文章。由于每天发布的文章数量巨大，当警方找上门时，王某某甚至都不知道具体是哪篇文章涉嫌造谣。
AI让信息生成和传播速度成倍增加，而且门槛较低，一些人将其用于伪造新闻、编制谣言，以此博取流量、敛财牟利。办案民警介绍，在王某某案件当中，一些民生类的文章加入夸张故事情节和猎奇性成分，就可能成为“爆款”，继而获得不菲的平台分成。经本人供述，他同时运营着800余个自媒体账号，最高峰一天的收入达到1万元。
近年来，利用AI造谣的案件在全国多地频发，误导公众，扰乱社会秩序。例如，有的编造“某地一银行遭劫匪袭击”，有的炮制“大妈摆摊卖水果被罚16万”虚假文章。一些AI谣言不仅“图文并茂”，还配上合成的音视频，采用新闻或者官方通报的口吻，加入“据报道”“相关部门”等字眼，让网民难辨真伪。
为规范AI在各行业创新应用，《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等规章相继出台。对借助AI造谣非法牟利行为，要依法整治严厉打击，提高违法犯罪成本，同时相关平台也要优化AI内容的流量分发和收益分成机制，切断虚假信息的传播链和利益链，营造风清气正的网络空间。
统筹：余贤红、刘彬、吴锺昊
制作：范帆、刘彬、郭杰文
出品：新华社江西分社 半月谈杂志社
鸣谢：江西银行
查看原图 33K