近期，在2025年国家网络安全宣传周主论坛上，由国家互联网信息办公室指导的《人工智能安全治理框架》2.0版正式发布。在1.0版基础上，2.0版明确了对不同风险等级人工智能的管理要求，为各行业人员识别风险、落实责任提供了清晰指引，使人工智能安全治理更具可操作性，彰显了我国统筹发展与安全的治理智慧，为全球人工智能治理贡献了中国方案。
目前，人工智能产业已成为驱动经济增长的重要引擎。2024年，我国人工智能产业规模已超过9000亿元，同比增长24%，企业数量超过5300家，形成了较完整的产业体系。
然而，人工智能在赋能千行百业的同时，也带来数据泄露、模型缺陷、伦理失控等风险。数据显示，2019年至2024年间发生的人工智能风险事件中，约74%与人工智能安全问题直接相关。2024年6月至2025年7月，全球公开报道的相关安全事件达59起，涉及伪造诈骗、算法歧视、自动驾驶决策失误等多方面。构建科学的人工智能治理体系刻不容缓。
如何系统推进人工智能安全治理？总体看，应围绕治理原则、风险分类与协同治理三方面重点突破。
包容审慎是原则。要发展人类可以信赖的人工智能，积极防范风险失控。
风险分类是基础。人工智能的风险大致可以分为三类：一是技术本身的缺陷，如算法模型有漏洞、训练数据质量低；二是在使用过程中的干扰，如被黑客攻击或用来散播虚假信息；三是产生的连锁反应，如冲击就业市场、削弱社会信任等。对此，应根据风险类型采取有针对性的治理手段，让有关主体明确其在各阶段中的义务。
协同共治是手段。综合治理就是要让政府、企业、科研机构和公众都参与进来，共同用规范约束、技术护航、道德引导等方式，对人工智能进行全链条、全过程管理。