公安部网安局：甄别AI生成网络谣言，勿让“神器”变“凶器

A股题材逻辑
1

:memo: 作者： 公安部网安局| :date: 发布时间：2025-03-13 08:09:10

公安部网安局：甄别AI生成网络谣言，勿让“神器”变“凶器” :police_car_light::robot:

摘要： 公安部网安局警示：AI技术在带来便利的同时，也被不法分子利用进行造谣。通过伪造热点事件，捏造名人言论，炮制伪科普，嫁接虚假证据等手段，AI谣言层出不穷。文章提供四步识别AI谣言的方法，并强调严守法律红线，抵制AI谣言，共担监督责任，共同维护清朗网络空间。

AI技术正在逐渐改变我们的生活方式，提升工作效率，为解决许多问题提供途径。但与此同时，个别别有用心之人在利用AI技术时走向了迷途…… 造谣者借助AI 工具，生产仿真度高的虚假信息。

警惕！AI被用来“造谣” :warning:

典型AI谣言场景

  • 伪造热点事件： 用AI生成“某地重大事故”图文/视频，配煽动性标题博流量。:fire:
  • 捏造名人言论： 篡改语音、合成视频，假借权威人士发布虚假政策解读。:speaking_head:
  • 炮制伪科普： 利用AI生成“科学数据”，兜售伪劣产品（如“AI检测抗癌神药”）。 :test_tube:
  • 嫁接虚假证据： 将无关图片通过AI换脸/换背景，捏造“维权证据”“聊天记录”。 :framed_picture:

四步识别AI谣言 不当“受害者”更别当“帮凶” :shield:

  1. 查源头： 警惕无明确作者、无正规信源的内容，AI生成信息常伪装成“网友投稿”“内部消息”。
  2. 看细节：
    • AI图像：观察手指数量异常、光影不自然等。:eyes:
    • AI视频：注意口型与声音不同步、背景模糊扭曲。:video_camera:
  3. 验逻辑： AI生成谣言常出现时间矛盾（如“ 2024年 政策”引用 2025年 数据）、地名错误等。 :thinking:
  4. 用工具： 关注“公安部网安局”新媒体账号打谣信息，或通过“中国互联网联合辟谣平台”“腾讯较真”等渠道一键验证。 :hammer_and_wrench:

真实案例

近日，西安公安网安部门工作查明，一网民利用AI生成软件将一起多年前发生于外地的旧闻进行重新编辑，通过输入指令制作文案，将其包装成本地近期发生的事件，文案多处通过添油加醋的笔法虚构事实真相，以达到博取流量的目的，造成谣言传播扩散。目前，属地公安机关已依法给予该网民行政处罚。 :police_officer:

网警提示 :red_exclamation_mark:

  1. 严守法律红线： 不利用AI伪造公文、证件，不生成谣言、暴力等违法信息。 :prohibited:
  2. 抵制AI谣言： 遇所谓“爆炸性新闻”做到“三不”：不轻信、不转发、不扩散。通过官方平台验证信息，发现AI谣言立即举报，保存证据协助溯源。 :stop_sign:
  3. 共担监督责任： 主动标注AI生成内容，人人争做“谣言粉碎者”，共同维护清朗网络空间。 :handshake:

结论： 技术向善，始于你我。让我们以理性驾驭AI，用法律守护底线，携手传递正能量！ :sparkles:

:light_bulb: 延伸阅读
原文链接