编者按
当前，人工智能技术迭代持续加速，从大语言模型向多模态模型演进，从简单推理迈向深度思考，其应用已广泛融入经济社会各领域，深刻改变人类生产生活方式。人工智能在赋能经济高质量发展、提升国家治理效能、改善民生福祉的同时，也催生了算法偏见、技术滥用、认知伦理等新型安全风险。加强人工智能治理已成为掌握未来发展主动权的重大战略议题。要加快推进自主创新、加速核心技术突破、加强人工智能监管体系建设，积极参与人工智能全球治理体系改革和建设，真正实现人工智能向上向善发展，在协同治理的护航下行稳致远。本期文萃版围绕这一主题展开探讨，以飨读者。
新时代人工智能治理的伦理向度
路向峰
习近平总书记在主持中共中央政治局第二十次集体学习时强调，“全面推进人工智能科技创新、产业发展和赋能应用，完善人工智能监管体制机制，牢牢掌握人工智能发展和治理主动权”。人工智能时代，人工智能治理问题已超越技术范畴的界限，成为牵动人类未来发展的全球治理核心议题。从人工智能产生伊始，其制造、应用及自身作为一种颠覆性技术就伴生着关于伦理的隐忧，使传统道德治理框架面临一系列新挑战，在人工智能赋能千行百业的现实境况中，也催生了全域性、前瞻性的伦理治理需求。可以说，人工智能伦理及其治理路径的建构不仅是一项技术治理的阶段性任务，更是未来数智社会伦理边界厘定的题中应有之义。
建构人工智能治理的伦理规范
建构人工智能伦理规范的核心目标是为智能系统嵌入符合人类社会发展规律的道德判断与行动准则，确保其在赋能经济社会发展的全过程中始终以维护人类整体利益为根本遵循。实质上，在应用伦理学的诸多领域中，没有任何一个领域像科技伦理那样同责任概念联系如此紧密。为了实现这一愿景，伦理学界经历了从阿西莫夫的“机器人三定律”，到维纳的“机器应服务人类需求”，再到迈内尔等人倡导的“价值对齐”的理论演进。这些研究不仅指明了人机价值对齐的难点，更凸显了从“价值对齐”迈向“价值共生”的关键作用。然而，由于人类认知的时空局限、价值编码的固有困难及算法运行的技术边界，人工智能伦理理论面临显著的运行局限。毫无疑问，人工智能伦理规范的建构不能止步于让机器对齐静态的人类价值，而应前瞻性地迈向人与机器在互动中实现共同理解、共同调适与共同演进的协同发展新阶段。
我们如何在技术复杂性、算法不透明性与价值观念多样性的时代背景下，探索出一套可嵌入、可验证、可持续的人工智能伦理规范成为问题的核心。这要求相关责任主体超越单纯的技术边界，构建一个需要技术突破、哲学反思、制度创新与社会对话协同推进的系统工程。2024年以来，《北京AI安全国际共识》《人工智能全球治理上海宣言》《上海合作组织成员国元首理事会天津宣言》等全球性文件的密集出台，标志着国际社会在人工智能伦理认同上形成关键共识，意在以人权保障、社会公正与人格尊严为核心，共同构筑人工智能时代的伦理治理框架。然而，共识的落地面临深层挑战，传统“价值对齐”观念根深蒂固，而现实中的价值协同实为动态双向的调适共生。有鉴于此，形而上层面的人工智能伦理规范的建构必须追溯人工智能伦理何以成形、回应人工智能伦理何以立本、破解人工智能伦理何以克难、架构人工智能伦理何以应变的时代之问。这些关涉人工智能伦理的追问构成人工智能体内在的“价值罗盘”，使其有可能真正成为人类可信赖的文明伙伴，进而构筑人机共荣、智能向善的未来。
在人工智能伦理的实践建构中，有三种可能性，即自上而下的规范贯彻、自下而上的经验学习以及融合二者的混合。这三种人工智能伦理构建的可能性不仅塑造了人工智能伦理理论的发展方向，也深刻影响着全球范围内的人工智能伦理实践。自上而下的规范贯彻是将人类既有的伦理原则编码为计算符号，通过算法指令嵌入人工智能系统，达到规范人工智能体行为的目的。自下而上的经验学习是通过模拟进化与道德习得，借助机器学习与系统组织演化，使人工智能从具体情境中归纳道德原则、形成决策能力，最终完成从经验到规范的自主演进。混合进路是综合自上而下与自下而上的方法，基于伦理理论指导，通过模拟、训练与试错动态生成并优化伦理准则，同时融入情感、认知等功能来增强道德决策能力，并强调哲学、计算机科学等多学科协同研究。
人工智能治理的伦理本质
日益向我们走来的数智时代已经使人工智能及其伦理问题不再仅仅是形而上层面的哲学思辨，而是日益紧迫的应用伦理问题。人工智能作为一种颠覆性技术，在技术演进与社会化应用的过程中，必然产生复杂的伦理争议与治理难题。
回望人工智能伦理建构的主流理论路径与治理实践，不难辨识出三个贯穿始终、相互关联的本质问题：首先，人工智能伦理建构模糊了“以利己为出发点的利他”与“纯粹的利他”这两种根本不同的行为动机之间的界限。在人工智能时代，信息资本主义加剧了数据垄断。少数掌握信息优势的主体存在滥用权力的行为，在权责不对等的情况下规避责任，将技术风险与灾难性后果转嫁给公众，最终形成少数人获利、多数人承担代价的系统性风险。其次，人工智能伦理建构未能引导技术演化中文化观念的动态流变，未将人类文明中最崇高的精神价值转化为机器可理解、可遵循的内在原则。最后，人工智能伦理建构的过程未能充分辨识并响应人类生存所面临的根本性、紧迫性威胁，陷入集体无意识和历史虚无主义。换言之，人工智能对人类精神主体性的消解，将导致人的存在意义模糊与价值感虚化，使人失去对生命意义的探索。
现有研究在回应人工智能伦理风险时，有意无意地回避了两个根本性问题：一方面，当人工智能全面融入人类生产生活过程，其既受科学探索内在逻辑的规制，亦受资本增殖与社会权力的外在塑造，而如何处理这个既对立又统一的矛盾是人工智能伦理建构无法回避的本质性问题。技术发展的根本驱动力——究竟源于科学自主性还是受制于资本与权力逻辑的塑造，直接决定了人工智能伦理建构的基点。科学技术进步带来的结构性“劳动替代”与“能力剥夺”重塑了传统劳动价值与生存根基；智能设计主体性的技术异化让少数利益主体的垄断性成为可能，但多数人的利益却因技术排斥陷入功能性失能。公众对智能系统的日益依赖，认知鸿沟持续消解着人的自主性与尊严。另一方面，当人类社会因人工智能过度应用而陷入价值困境与道德挑战时，我们能否构建起人工智能伦理准则，成为另一个亟待破解的本质问题。简言之，技术领域的伦理规则是否异化为某种形式的人机“游戏规则”？若人工智能伦理建构仅停留在技术层面的风险管控，视其背后深刻的资本逻辑规制与结构性不平等于不顾，“用算法防作弊”之类的治理悖论将不断重现。
总体而言，破解人工智能伦理建构的疑难问题的过程也是审视人类“存在论”与“共存论”的过程，更是对人类精神世界与生存困境的深度觉察与主动回应。有效的人工智能伦理建构必须兼顾对技术工具的批判性审视与人类自身价值实践的持续革新。只有人工智能体在伦理设计中表现为利他行为，自反性的生成式人工智能治理过程才能真正开启。
人工智能治理的伦理创新
人工智能伦理建构的过程实质上是人类凭借道德理性主动塑造科学技术演进的伦理方向的过程。具体而言，破解人工智能伦理疑难问题需要与之相适配的创新举措，可以通过提倡风险共担原则应对伦理风险形成“内共生”结构。同时，秉承“共存论”视角回应人类生存危难，进而实现人工智能伦理建构从被动适应到主动共构的转变。
首先，提倡“风险共担”原则应对伦理风险。现今人工智能技术的应用仅是将人类大脑的特定功能合成、模拟以及转化出来。在这个阶段，机器人设计者、制造商实质上为前置的伦理行为主体，必须共同承担人机风险，如信息不对称、权责不对称、认知不对称等，避免产生风险转移现象。其次，形成“内共生”结构引导模因突变。在应对模因突变的挑战时，人类与人工智能技术必须建构一种紧密依存的共生系统。在此系统中，二者并非简单的主客关系，而是持续互动的协同关系，共同构成一个动态调整的“内共生”生态系统。这种共生关系不仅可以改变人们的生活方式，而且有助于推动人类社会的进步。最后，秉承“共存论”视角回应人类生存危难。在人工智能伦理建构的过程中，必须将责任与风险共存作为最高价值目标，系统性地预防与应对那些可能危及人类整体存续的极端性、生存性风险。实质上，为了分担道德责任，人工智能的行为主体大至国家、民族，小至设计制造者都必须在某种意义上控制其行为并在整体上考量其道德责任。
在人工智能受到高度关注，同时衍生较大争议的时代背景下，我们必须冷静地思考人工智能治理中的伦理问题，合理规划人工智能的发展方向，为其套上“伦理”规则的缰绳。随着人工智能技术的深刻变革，人类的存在方式和道德实践正经历从稳固的主体性向流动的共生性转变。人类作为认知与行动唯一中心的传统地位逐渐消解，个体的自主性与尊严面临深刻挑战，社会公平和正义的基石受到侵蚀。面对人工智能带来的系统性伦理风险，迫切需要一种能塑造价值坐标、铸就道德基底、建构伦理秩序的应急伦理。未来社会，无论是人机协同，还是人机共生，都需要彰显人性光辉，深刻洞察人类未来发展方向，积极防范人类社会发展疑难问题，引导智能社会的发展步入一个更为健康文明的轨道。由此，破解人工智能伦理建构及其治理难题，通过培育深刻的危机意识与价值韧性，为人机共生的未来筑牢动态稳定、值得信赖的伦理基线。
无论从人工智能引领科研范式变革的趋势来看，还是从国家治理体系和治理能力现代化的需求来看，人工智能治理都必须在伦理学的视域中加以考量。通过对人工智能伦理构建的有效阐明，避免止步于让机器对齐静态的人类价值推演；通过对人工智能伦理本质及其边界的分析和把握，始终保持对人工智能及其治理的清醒态度；根据人工智能的发展实际，不断丰富和创新伦理学理论，理解、包容和指导人工智能发展，使伦理学学科发展紧跟科技创新步伐。唯有将伦理构建、伦理治理与伦理创新有机结合起来，才能促进人工智能向上向善发展，形成科技健康发展与社会持续进步的双赢局面。（摘自2026年3月23日《光明日报》）
完善治理体系 推动人工智能高质量发展
梁正
推动人工智能与实体经济深度融合、培育壮大智能产业，是加快发展新质生产力、推动构筑国家竞争新优势的重要举措。“十五五”规划纲要明确提出，全面实施“人工智能+”行动。这预示着人工智能从“新技术”加速向全社会“新基建”跨越，将更全面融入生产体系。在政策与市场双重驱动下，我国人工智能产业规模连续多年保持20%以上增速。截至2025年3月，全国已有346款生成式人工智能服务完成备案，显示出巨大的应用潜力。
深化拓展“人工智能+”，关键在于推动人工智能有益、合理和“向善”应用，使全体人民共享发展成果，更好服务中国式现代化建设。在应急救援领域，四足机器人已能穿越崎岖地形，精准完成智能巡检和地质灾害救援；在现代农业领域，人工智能驱动的天气预报模型可精准预测未来15天逐小时天气，配合智能无人机和水肥管理系统，极大降低了人力投入成本并提升作物产量；在民生福祉方面，智能康复机器人不仅能协助老人起居，还能通过情感识别算法模拟情绪，提供高质量陪伴。
人工智能赋能千行百业，带来前所未有的发展机遇，也带来相较以往更加复杂的治理挑战。例如，随着模型能力下沉和工具链普及，人工智能“滥用”与“恶用”门槛降低，跨域风险持续叠加。在网络安全领域，网络攻防从“人对人”演变为“机对机”，攻击者利用大模型自动生成钓鱼邮件、恶意代码和渗透脚本，攻击的隐蔽性增强。又如，技术“失控”概率提升，同时带来“小概率、大破坏”安全挑战。由于模型高度依赖数据质量和训练分布，一旦长期迭代过程中大量使用机器生成数据，可能导致模型崩溃，对现实世界的刻画逐步偏离。当大量机构共同使用少数基础模型时，单点失误更容易通过算法复制和市场联动被放大，带来新的安全风险。尽管离真正意义上的“自主意识”还有一定距离，但人工智能“失控性风险”仍然存在。
治理手段是加强人工智能治理的具体方法，从全球来看，受治理原则影响，各国治理手段存在差异。美国主张通过相对宽松的“软法”为人工智能创新应用提供探索空间，欧洲则主张通过“硬法”规避人工智能的潜在风险。人工智能治理本质上是涉及多元主体、覆盖多类场景的综合性问题，只有对治理议题进行分类，才能针对具体问题找到适宜的推进机制。
我国2017年发布《新一代人工智能发展规划》，经过多年探索，已建立起涵盖数据安全、内容安全、模型安全、网络安全等主要内容，包括法律法规、政策规划、标准规范、伦理指引在内的人工智能治理体系。今年的《政府工作报告》明确提出，完善人工智能治理。要处理好发展和安全的关系，坚持分类分级监管与包容审慎创新并行的治理思路，进一步增强治理能力，完善治理体系，提高治理水平。
一是以敏捷治理思路完善科技法治体系。加快研究、推广“监管沙盒”等柔性机制，为技术迭代提供动态包容的治理环境。在开源生态日益繁荣的当下，明晰参与主体的法律责任边界是完善科技法治体系、推动基础技术创新的关键一环。在激励创新与包容失败中，实施包容审慎的监管模式，让人工智能这一新兴产业成长为明天的支柱产业。
二是推动人工智能治理与传统行业治理有机衔接。人工智能向生产生活各环节各领域深入渗透，其治理不能脱离行业属性。针对不同行业制定精细化监管举措，并设立不可逾越的底线，在医疗、金融、交通等重要领域，要将人工智能安全风险防控与现行法律法规深度融合，在筑牢底线的基础上推动健康发展。
三是着力将人工智能塑造为造福人类的国际公共产品。落实《全球人工智能治理倡议》，广泛开展人工智能国际合作，在“人工智能+”创新应用于治理的实践中，促进形成获得广泛认可的治理模式，为弥合全球人工智能发展鸿沟作出中国贡献。积极参与国际规则对话，坚持权利平等、机会平等、规则平等，推动建立全球人工智能治理框架，构建更加开放、公正、有效的人工智能国际治理机制。（摘自2026年3月29日《经济日报》，原标题为《牢牢掌握人工智能发展和治理主动权》）
牢牢掌握人工智能发展和治理主动权
苗圩
当前，新一轮科技革命和产业变革加速演进，人工智能已成为引领这一轮科技革命和产业变革的战略性技术，正在深刻改变全球经济格局和竞争态势。我国数据资源丰富，产业体系完备，应用场景广阔，市场空间巨大。我们要准确认识我国在人工智能领域取得的成绩和发展经验，充分发挥我国在科技创新、产业创新和体制机制创新上的独特优势，牢牢掌握人工智能发展和治理主动权，促进我国人工智能发展行稳致远。
习近平总书记指出：“要统筹发展和安全，有效防范化解各类风险，切实维护国家安全和社会稳定”“人工智能带来前所未有发展机遇，也带来前所未遇风险挑战”。随着人工智能向生产生活各环节各领域深入渗透及其智能水平跃升，其引发重大安全问题乃至系统性风险的可能性不断放大。在推动人工智能科技创新和产业创新深度融合的同时，必须处理好发展和安全的关系，加强人工智能治理，构建安全可靠的发展环境，积极应对智能化转型过程中的各类风险冲击；着力将人工智能塑造为造福人类的国际公共产品，广泛开展人工智能国际合作，为弥合全球人工智能发展鸿沟作出中国贡献。
正确认识人工智能对就业的影响问题。当前关于人工智能取代人类就业的讨论很多，事实上智能化造成的就业岗位替代尚没有大规模到来。回顾历史，历次产业革命都是对就业岗位创造性破坏的过程。人们应用突破性技术和产业模式，通常首先取代的是“脏、累、苦、险”工种，进而替代重复性工作，以满足人类对更好生产生活状态的追求。比如，汽车普及后，马车夫的岗位逐渐消失，取而代之的是汽车司机岗位；再如，集装箱得到广泛使用后，码头搬运工数量渐少，但对集装箱装卸工的需求爆发。人工智能对就业的影响同样如此。智能化工具替代的是重复性、程序性的工作环节，能够把劳动者从这些工作环节中解脱出来，并形成新的岗位需求，如算法调教师、智能场景设计师等。此外，在人工智能带动劳动生产率水平大幅提升后，人类可以有更多休闲时间。当前，应加大“投资于人”的力度，开展人工智能技术技能提升等专项培训，帮助劳动者向人机协同的新角色转型；提升新就业形态劳动者劳动权益保障水平，完善新就业形态下的社会保障网，落实和优化休假制度，让人工智能发展红利为全社会所共享。
健全法律伦理规则体系。人工智能的健康发展离不开法律与伦理的双重约束。在法律伦理规则建设上，国内外已有不少实践。比如，欧盟《人工智能法案》于2024年8月正式生效，确立了基于风险分级（禁止、高风险、有限风险和最低风险）而设定的监管范式。我国出台了《生成式人工智能服务管理暂行办法》《人脸识别技术应用安全管理办法》《人工智能生成合成内容标识办法》等专门管理规范，并在《关于加强科技伦理治理的意见》《新一代人工智能伦理规范》等文件中明确了人工智能伦理指引要求。下一步，针对人工智能应用带来的侵权、歧视、伪造等风险问题，需加快建立健全覆盖算法、数据与应用的法律法规框架，加快制定算法安全评估、深度合成内容检测等领域的国家标准与行业标准，通过法律法规、政策标准、伦理准则等协同发力，平衡好发展和安全的关系。
构建沙盒监管模式。人工智能创新产品具有“黑箱”属性，输出内容具有不可解释性。与之相适配的是沙盒监管模式，即为经营主体提供相对包容的试验环境，允许其在限定规模、限定场景内试运行新产品、新服务、新模式与新技术，适度豁免部分现行规制约束。我国已有相关探索，例如北京经济技术开发区于2024年率先建立全国首个人工智能数据训练基地并应用“监管沙盒”机制，为人工智能企业提供包含“算力+数据+合规”的一体化训练与测试环境。未来，应加快完善相关制度安排，设定人工智能沙盒监管的准入、运行与退出规则，明确对企业技术安全性、伦理合规性及风险应急处置等方面的要求。建立分级响应机制，对应不同风险等级事件采取不同的应对处置措施。持续提升监管技术能力，开发与监管需求相适应的监管科技工具包，使监管能力与人工智能技术同步演进。
建立风险防控机制。把握人工智能发展趋势和规律，构建技术监测、风险预警、应急响应体系，将确保人工智能安全、可靠、可控。当前，人工智能发展迅猛，模型能力泛化、多模态融合使传统安全防护手段逐渐显露短板，风险形态已从显性的数据泄露、算法歧视等，延伸至价值观渗透、深度伪造、认知操纵等隐性领域。建立全链条风险防控机制，不仅是技术治理的需要，更是统筹发展和安全的内在要求。要压实人工智能企业的安全主体责任，推动企业尤其是头部企业健全风险防控和安全应急机制，明确企业对于人工智能产品和服务的安全义务。建立健全由多部门组成的人工智能安全应急管理机制，提升快速反应和处置能力。在自动驾驶、智慧医疗、金融科技等重点行业，常态化组织人工智能安全应急演练，模拟模型投毒、对抗样本攻击、深度伪造等典型场景，优化企业响应流程，提升各方协同效率。
推动全球治理协作。人工智能具有跨国界属性，人工智能治理绝非一国一域之事，需要在全球层面推动各方协同协作。尽管已有多个国际组织和国家间合作平台开始推动构建人工智能治理框架，但目前全球人工智能治理总体仍处于碎片化状态，缺乏统一的全球协调机制。应积极参与国际规则对话，加快推动建立全球人工智能治理框架，推进多边规则协调，促进形成获得广泛认可的治理模式。在数据跨境流动、打击利用信息通信技术犯罪等国际合作需求较大领域先行开展治理协作试点，积累互信基础。通过技术合作与能力建设，协助发展中国家融入人工智能发展进程，缩小数字鸿沟，让技术成果惠及世界各国。（摘自2026年3月11日《人民日报》)