作者： 财联社记者 郭松峤|
发布时间：2025-10-29 14:07:18
拿什么管住狂奔的AI？“十五五”规划下，AI安全千亿级市场正在开启 
摘要： 2025 TechWorld智慧安全大会上，AI安全问题引发热议。随着AI技术深入应用，数据泄露、模型攻击等安全事件频发，倒逼产业加速应对。政策指引与市场需求双重驱动下，AI安全市场迎来千亿级机遇，资本纷纷入局。
正文
AI安全威胁的现实渗透 
在2025 TechWorld智慧安全大会上，一个演示引人深思：在“搜索今日国际金价”指令后，大模型给出了“10万美元/克”的错误答案。这并非故障，而是大模型遭受传统“爬虫”软件攻击的直观体现。AI安全威胁已从理论风险全面走向现实渗透，数据泄露、模型攻击、合规挑战等问题日益突出。
“飞行”的AI遇上“滞后”的安全栈 
网络安全公司Cybernews报道，两款AI伴侣应用“Chattee Chat”和“GiMe Chat”因Kafka Broker服务器实例暴露，导致超过 40万 用户的海量敏感信息被公开。中国电子信息产业发展研究院副总工程师刘权指出，保障AI的数据安全面临更大挑战。专家提醒，使用开源程序或数据时，需进行安全评估和合规检测，避免模型滥用。
天使投资人郭涛认为，当前AI系统在数据采集、训练、推理全链路缺乏原生安全设计，传统安全防护手段难以适配动态演化的攻击手法。
政策指引与市场需求 
中共中央关于制定“十五五”规划的建议指出，要“加强人工智能治理，完善相关法律法规、政策制度、应用规范、伦理准则”。行业人士认为，这将推动AI安全治理与合规市场高速发展。
中国通信工业协会数字平台分会副会长高泽龙分析，AI安全市场需求呈现两大变化：一是客户要求在AI系统上线前就内置安全能力；二是需求不再局限于某个工具，而是覆盖模型开发、部署、运行全生命周期的安全解决方案。
绿盟科技集团通用解决方案销售部总监司志凡表示，企业客户对AI安全的需求正从“被动合规”向构建自身安全能力的“主动免疫”转变。最迫切的三大核心需求是：安全要可靠、运营要高效、合规要落地。
资本市场敏锐布局
据财联社不完全统计，从去年至今，国内AI安全及相关治理领域的初创公司已披露的融资事件超过 20起，融资额突破 50亿元。摩根士丹利预测AI安全市场未来几年规模可能达到 450亿美元。
司志凡观察到，资本正大力押注能解决企业AI应用实际痛点的初创公司；而对于上市公司，资本市场的估值逻辑正在转向更加看重其AI业务带来的直接收入贡献。
结论展望
郭涛认为，AI安全产业的规模化爆发，至少 60% 依赖于强制标准的落地。若中国出台《人工智能法》，明确数据标注、模型审计、事故追责等硬性要求，将直接创造 千亿级 刚需市场。立法节奏将成为市场扩容的核心变量。
延伸阅读
原文链接