中央网信办部署开展“清朗·整治AI技术滥用”专项行动

题材逻辑
1

:memo: 作者： 中国网信网| :date: 发布时间：2025-04-30 17:09:31

:police_car_light:中央网信办重拳出击：启动“清朗·整治AI技术滥用”专项行动 (2025):police_car_light:

摘要： 中央网信办于2025年4月启动为期3个月的“清朗·整治AI技术滥用”专项行动，旨在规范AI服务和应用，保障公民权益，促进行业健康发展。行动分为两个阶段，重点打击违规AI产品、谣言、不实信息、色情低俗内容、假冒他人和网络水军等行为。

正文：

中央网信办近日发布通知，将在全国范围内开展为期3个月的 “清朗·整治AI技术滥用” 专项行动。此次行动旨在规范人工智能 (AI) 的服务和应用，促进行业健康有序发展，并保障公民的合法权益。

该负责人表示，专项行动将分为两个阶段进行：

  • 第一阶段：强化AI技术源头治理

    • 清理整治违规AI应用程序。
    • 加强AI生成合成技术和内容标识管理。
    • 推动网站平台提升检测鉴伪能力。

  • 第二阶段：聚焦AI技术滥用问题

    • 集中清理利用AI技术制作发布的谣言、不实信息、色情低俗内容。
    • 处置处罚假冒他人、从事网络水军活动等违规账号、MCN机构和网站平台。

第一阶段重点整治六类突出问题：

  1. 违规AI产品： 包括未备案AI模型、提供违背伦理功能（如“一键脱衣”）、侵犯他人隐私等。
  2. 传授、售卖违规AI产品教程和商品： 例如伪造换脸视频教程、违规“语音合成器”等。
  3. 训练语料管理不严： 使用侵权、虚假、非法来源的数据。
  4. 安全管理措施薄弱： 缺乏内容审核、意图识别等安全措施，违规账号管理不力。
  5. 未落实内容标识要求： 未对深度合成内容添加标识，导致虚假信息误导公众。
  6. 重点领域安全风险： AI产品在医疗、金融等领域出现“AI开处方”、“诱导投资”等问题。

第二阶段重点整治七类突出问题：

  1. 利用AI制作发布谣言： 捏造涉时事政治、社会民生等谣言。
  2. 利用AI制作发布不实信息： 拼凑剪辑、翻炒旧闻，发布涉专业领域的夸大、伪科学内容。
  3. 利用AI制作发布色情低俗内容： 生成合成色情内容、软色情图片视频等。
  4. 利用AI假冒他人实施侵权违法行为： 换脸、声音克隆冒充名人，从事网络诈骗。
  5. 利用AI从事网络水军活动： 批量注册运营账号、刷量控评、制造热点。
  6. AI产品服务和应用程序违规： 仿冒套壳AI应用、提供违规功能、售卖推广违规服务。
  7. 侵害未成年人权益： AI应用诱导未成年人沉迷，存在影响身心健康的内容。

中央网信办强调，各地网信部门要切实履行属地管理责任，督导网站平台落实整改，加强人工智能相关政策宣传和素养教育，引导各方正确认识和应用人工智能技术。 :technologist:

结论：

此次专项行动体现了中央网信办对AI技术滥用问题的重视，以及规范行业发展、保障公民权益的决心。预计未来 3个月 内，相关部门将加大监管力度，网站平台需要积极配合整改，以确保AI技术的健康发展和应用。:flexed_biceps: 总体导向是促进技术向善，服务社会。

:light_bulb: 延伸阅读
原文链接