+关注

手机看

微信扫一扫，随时随地看

团团说安全 | AI谣言要警惕，“神器”莫要变“凶器”

青春石嘴山

2025-03-20 20:19

+关注

为深入学习贯彻习近平总书记关于安全生产重要论述和重要指示精神、自治区党委十三届四次全会精神，现开设“团团说安全”专栏，聚焦严防溺水、自然灾害、意外伤害、社会安全、网络安全五个方面，为大家推送安全知识小锦囊，快跟团团一起学习吧！

AI技术正在逐渐改变我们的生活方式，提升工作效率，为解决许多问题提供途径。

但与此同时，个别别有用心之人在利用AI技术时走向了迷途……造谣者借助AI 工具，生产仿真度高的虚假信息。

警惕！AI被用来“造谣”

PART.01

伪造热点事件

用AI生成“某地重大事故”图文/视频，配煽动性标题博流量。

PART.02

捏造名人言论

篡改语音、合成视频，假借权威人士发布虚假政策解读。

PART.03

炮制伪科普

利用AI生成“科学数据”，兜售伪劣产品（如“AI检测抗癌神药”）。

PART.04

嫁接虚假证据

将无关图片通过AI换脸/换背景，捏造“维权证据”“聊天记录”。

四步识别AI谣言

不当“受害者”更别当“帮凶”

PART.01

查源头

警惕无明确作者、无正规信源的内容，AI生成信息常伪装成“网友投稿”“内部消息”。

PART.02

看细节

AI图像：观察手指数量异常、光影不自然等；

AI视频：注意口型与声音不同步、背景模糊扭曲。

PART.03

验逻辑

AI生成谣言常出现时间矛盾（如“2024年政策”引用2025年数据）、地名错误等。

PART.04

用工具

关注“公安部网安局”新媒体账号打谣信息，或通过“中国互联网联合辟谣平台”“腾讯较真”等渠道一键验证。

真实案例

近日，西安公安网安部门工作查明，一网民利用AI生成软件将一起多年前发生于外地的旧闻进行重新编辑，通过输入指令制作文案，将其包装成本地近期发生的事件，文案多处通过添油加醋的笔法虚构事实真相，以达到博取流量的目的，造成谣言传播扩散。目前，属地公安机关已依法给予该网民行政处罚。

团团提示

严守法律红线

不利用AI伪造公文、证件，不生成谣言、暴力等违法信息。

抵制AI谣言

遇所谓“爆炸性新闻”做到“三不”：不轻信、不转发、不扩散。通过官方平台验证信息，发现AI谣言立即举报，保存证据协助溯源。

共担监督责任

主动标注AI生成内容，人人争做“谣言粉碎者”，共同维护清朗网络空间。

技术向善始于你我

让我们以理性驾驭AI

用法律守护底线

携手传递正能量！

青春石嘴山·YOUTH SHIZUISHAN

来源：公安部网安局、陕西网警

编辑：杨建宁

责编：刘彦锋

审核：陈鑫

免责声明：本内容来自腾讯平台创作者，不代表腾讯新闻或腾讯网的观点和立场。