作者： 财联社记者 付静|
发布时间：2025-03-04 21:16:45
两会时间 | 聚焦大模型安全 直指AI滥用乱象 多位代表、委员建言献策
摘要
2025年全国两会期间，人工智能安全成为热议话题。多位代表、委员提出建议，针对AI生成虚假信息、AI欺诈与侵权、以及大模型安全等问题，提出了一系列治理措施和立法建议，旨在平衡技术创新与安全风险。
正文
AI技术滥用引发社会担忧
随着人工智能技术的快速发展，AI生成虚假信息的现象频发，引起社会各界广泛关注。财联社记者采访获悉，近期虚假信息通过AI技术大面积传播，不仅误导公众，还可能引发对AI技术本身的信任危机。
- 代表委员发声：全国政协委员甘华田建议加强AI生成虚假信息的治理；全国人大代表钟铮认为，生成式AI在法律法规和审核技术上仍存在不足。
AI生成虚假视频问题突出
AI技术降低了视频合成的门槛，虚假视频内容如模仿名人声音、虚构人设等现象增多，导致误导消费者、财产损失甚至信任危机。
- 具体建议：钟铮提出修订法律法规、加强平台审核、利用AI技术审核AI生成内容等措施，以遏制虚假视频传播。
AI欺诈与侵权问题亟待解决
AI深度伪造技术被滥用，**“AI换脸拟声”**等行为成为违法侵权重灾区，引发肖像权侵犯、诈骗等风险。
- 立法建议：全国人大代表李东生建议加快出台深度伪造内容标识管理规章，明确处罚标准；全国人大代表雷军呼吁加强行业自律和普法宣传，提升民众警惕性。
大模型面临严峻安全挑战
国产大模型DeepSeek的发布引发了业界关注，但其安全问题也日益凸显。齐向东指出，90%的服务器未采取安全措施，数据安全岌岌可危。
- 安全风险：包括大模型自身安全、利用AI进行网络攻击、以及通过攻击AI引发的“网络攻击大爆炸”等问题。
- 治理措施：齐向东建议从技术保障、制度保障和成果应用三方面入手，建立纵深防御体系，夯实安全根基。
结论
面对AI滥用乱象和大模型安全挑战，两会代表、委员纷纷建言献策，提出了一系列治理措施和立法建议。未来，技术创新与安全风险的平衡将成为人工智能发展的关键议题。
延伸阅读
原文链接