趋利避害建立健全人工智能治理体系

●苗圩

习近平总书记指出：“要统筹发展和安全，有效防范化解各类风险，切实维护国家安全和社会稳定”“人工智能带来前所未有发展机遇，也带来前所未遇风险挑战”。随着人工智能向生产生活各环节各领域深入渗透及其智能水平跃升，其引发重大安全问题乃至系统性风险的可能性不断放大。在推动人工智能科技创新和产业创新深度融合的同时，必须处理好发展和安全的关系，加强人工智能治理，构建安全可靠的发展环境，积极应对智能化转型过程中的各类风险冲击；着力将人工智能塑造为造福人类的国际公共产品，广泛开展人工智能国际合作，为弥合全球人工智能发展鸿沟作出中国贡献。

正确认识人工智能对就业的影响问题。当前关于人工智能取代人类就业的讨论很多，事实上智能化造成的就业岗位替代尚没有大规模到来。回顾历史，历次产业革命都是对就业岗位创造性破坏的过程。人们应用突破性技术和产业模式，通常首先取代的是“脏、累、苦、险”工种，进而替代重复性工作，以满足人类对更好生产生活状态的追求。比如，汽车普及后，马车夫的岗位逐渐消失，取而代之的是汽车司机岗位；再如，集装箱得到广泛使用后，码头搬运工数量渐少，但对集装箱装卸工的需求爆发。人工智能对就业的影响同样如此。智能化工具替代的是重复性、程序性的工作环节，能够把劳动者从这些工作环节中解脱出来，并形成新的岗位需求，如算法调教师、智能场景设计师等。此外，在人工智能带动劳动生产率水平大幅提升后，人类可以有更多休闲时间。当前，应加大“投资于人”的力度，开展人工智能技术技能提升等专项培训，帮助劳动者向人机协同的新角色转型；提升新就业形态劳动者劳动权益保障水平，完善新就业形态下的社会保障网，落实和优化休假制度，让人工智能发展红利为全社会所共享。

健全法律伦理规则体系。人工智能的健康发展离不开法律与伦理的双重约束。在法律伦理规则建设上，国内外已有不少实践。比如，欧盟《人工智能法案》于2024年8月正式生效，确立了基于风险分级（禁止、高风险、有限风险和最低风险）而设定的监管范式。我国出台了《生成式人工智能服务管理暂行办法》《人脸识别技术应用安全管理办法》《人工智能生成合成内容标识办法》等专门管理规范，并在《关于加强科技伦理治理的意见》《新一代人工智能伦理规范》等文件中明确了人工智能伦理指引要求。下一步，针对人工智能应用带来的侵权、歧视、伪造等风险问题，需加快建立健全覆盖算法、数据与应用的法律法规框架，加快制定算法安全评估、深度合成内容检测等领域的国家标准与行业标准，通过法律法规、政策标准、伦理准则等协同发力，平衡好发展和安全的关系。

构建沙盒监管模式。人工智能创新产品具有“黑箱”属性，输出内容具有不可解释性。与之相适配的是沙盒监管模式，即为经营主体提供相对包容的试验环境，允许其在限定规模、限定场景内试运行新产品、新服务、新模式与新技术，适度豁免部分现行规制约束。我国已有相关探索，例如北京经济技术开发区于2024年率先建立全国首个人工智能数据训练基地并应用“监管沙盒”机制，为人工智能企业提供包含“算力+数据+合规”的一体化训练与测试环境。未来，应加快完善相关制度安排，设定人工智能沙盒监管的准入、运行与退出规则，明确对企业技术安全性、伦理合规性及风险应急处置等方面的要求。建立分级响应机制，对应不同风险等级事件采取不同的应对处置措施。持续提升监管技术能力，开发与监管需求相适应的监管科技工具包，使监管能力与人工智能技术同步演进。

建立风险防控机制。把握人工智能发展趋势和规律，构建技术监测、风险预警、应急响应体系，将确保人工智能安全、可靠、可控。当前，人工智能发展迅猛，模型能力泛化、多模态融合使传统安全防护手段逐渐显露短板，风险形态已从显性的数据泄露、算法歧视等，延伸至价值观渗透、深度伪造、认知操纵等隐性领域。建立全链条风险防控机制，不仅是技术治理的需要，更是统筹发展和安全的内在要求。要压实人工智能企业的安全主体责任，推动企业尤其是头部企业健全风险防控和安全应急机制，明确企业对于人工智能产品和服务的安全义务。建立健全由多部门组成的人工智能安全应急管理机制，提升快速反应和处置能力。在自动驾驶、智慧医疗、金融科技等重点行业，常态化组织人工智能安全应急演练，模拟模型投毒、对抗样本攻击、深度伪造等典型场景，优化企业响应流程，提升各方协同效率。

推动全球治理协作。人工智能具有跨国界属性，人工智能治理绝非一国一域之事，需要在全球层面推动各方协同协作。尽管已有多个国际组织和国家间合作平台开始推动构建人工智能治理框架，但目前全球人工智能治理总体仍处于碎片化状态，缺乏统一的全球协调机制。应积极参与国际规则对话，加快推动建立全球人工智能治理框架，推进多边规则协调，促进形成获得广泛认可的治理模式。在数据跨境流动、打击利用信息通信技术犯罪等国际合作需求较大领域先行开展治理协作试点，积累互信基础。通过技术合作与能力建设，协助发展中国家融入人工智能发展进程，缩小数字鸿沟，让技术成果惠及世界各国。（据《人民日报》）