□ 杨 浥
党的二十届三中全会通过的《中共中央关于进一步全面深化改革、推进中国式现代化的决定》（以下简称《决定》）立足“推进国家安全体系和能力现代化”，强调要“健全社会治理体系”。习近平总书记指出：“要加强人工智能同社会治理的结合，开发适用于政府服务和决策的人工智能系统”“运用人工智能提高公共服务和社会治理水平”。近年来，人工智能正以愈发积极的态度参与到社会治理之中，深刻影响着社会治理方式。当前，面对人工智能尤其是生成式人工智能的迅速发展和广泛应用，如何充分释放其促进社会治理体系和治理能力现代化的优势动能，推动人类社会发展，是不可回避的课题。由此，对人工智能参与治理活动的必要性及其边界进行伦理分析，并在此基础上探讨人工智能进入社会治理的伦理路径，显得尤为重要。
为何必要：科技价值与现实需要的道德要求
面对日益复杂的现代社会，人工智能在新一轮科技革命和产业变革中备受关注，并不可避免地参与到社会治理之中。这既是科学技术价值的体现，也是社会现实与人的发展的道德要求。
人工智能作为科学进步的重要标志，内在具有改善生产关系、促进社会发展的价值倾向。人工智能通过参与社会生产，能够与生产力中的劳动对象、劳动资料、劳动者等实体性要素相结合，转化为现实生产力，为提升社会治理水平奠定坚实基础。在此过程中，人工智能渗透到各行各业，推动智能化转型，使智能成果广泛应用于社会现实，从而影响人们的日常生产和生活关系，改变传统社会治理理念、方式和体系。亚里士多德在《尼各马可伦理学》开篇就指出，每种技艺与研究“都以某种善为目的”。人工智能作为人类的科技成果，理应以服务人类社会为目的，在参与社会治理实践中发挥价值。
伦理关系的复杂性和道德生活的多样性，要求社会治理要以更加精准、高效的方式平衡各种利益关系。伴随生产力的不断发展，人们的生产、生活和交往方式都发生了巨大变化，在此过程中，传统的社会治理方式难以有效应对愈加复杂的道德样态，亟待人工智能的参与。社会治理可以借助人工智能强大的计算机网络和精准的算法，有效收集、整合各种数据资源，以此精准记录、跟踪目标信息，从而寻找不同主体的差异性，满足其个性化需求，提升治理的精准度。例如，根据个体需求，有针对性地推送相关信息，节约治理成本等。在此基础上，社会治理能够进一步突破时空限制、打破信息隔膜，搭建公共服务的共建共治共享平台，提高治理效率。比如，在交通运输领域应用人工智能，形成智慧交通，以更加高效的方式为不同居民出行提供便利。
何为边界：以保障人的主体价值为伦理限度
人工智能在社会治理中的必要性为其迅速发展提供了伦理依据，然而，必要性并不等同于任意性，人工智能并非可以不受任何限制地进入社会治理的任意领域。当前，人工智能参与社会治理应当坚持属人性，以保障人的主体价值为伦理限度。
在治理过程中，确保“人工”对“智能”的控制。当前，有关“人工智能”的认识虽未达成统一共识，但在众多讨论中，都涉及对人类智力的学习。值得注意的是，人工智能的学习能力应当以人类可控为限度。正如马斯洛所言，科学是人类的创造，而不是自主的、非人类的东西。人工智能作为一种科学技术，其前提是“人工”，应当是以人为主体进行的研究与实践。社会治理在引入人工智能过程中，必须将其作用领域限定在人类可控范围之内。当预测到其可能违背人类命令、不受人类约束时，应立即放弃使用；当不确定其发展趋势时，应审慎引入。在人工智能参与社会治理实践时，只有坚守以人为主体的伦理底线，才能更为安全有效地发挥其应有价值。
在治理目标上，以实现人的美好生活为价值旨归。科技的发展在于提升社会生产力，改善人类生活。习近平总书记在《全球人工智能治理倡议》明确指出：“发展人工智能应坚持‘以人为本’理念，以增进人类共同福祉为目标，以保障社会安全、尊重人类权益为前提，确保人工智能始终朝着有利于人类文明进步的方向发展”。人工智能技术的迭代升级，在推动经济社会进步、丰富人类文明成果的同时，也增加了不确定性和潜在风险。为此，社会治理领域对人工智能的运用应当正确认识其两面性，以缓和社会矛盾、促进社会公正为出发点，帮助人们实现对美好生活的向往。
以何路径：强化道德的引领、规范与评判机制
健全事前伦理审查，发挥道德引领作用。道德作为一种应然价值，能够为人工智能参与社会治理提供价值导向。现代科技的不可逆性决定了人类必须保有敬畏之心，审慎对待人工智能。在应用前，应当明确其价值定位，并对可能产生的社会影响进行道德判断。一方面，要警惕“科技中立”的价值原则，正确对待是“枪杀人”还是“人用枪杀人”的典型问题，避免使社会沦落为科学技术研究的试验田；另一方面，要谨防“资本扩张”和“权力垄断”的逻辑进路，远离资本和权力对人工智能技术的控制。
加强过程风险把控，突出道德规范效能。尽管有了较为健全的事前伦理审查，但人工智能在参与社会伦理秩序建构时仍可能出现违背伦理原则的情形。同时，人工智能作为科技革命和产业变革的战略性技术，是世界各国关注的焦点，一些“诱导式的用户交互，可以大范围进行数据收集和事件画像，导致涉及国家安全的敏感数据和机密情报泄露”，严重威胁国家安全。为此，应当完善道德规范，加强对治理过程的风险把控。《决定》从“完善公共安全治理机制”维度，提出要“加强网络安全体制建设，建立人工智能安全监管制度”。在人工智能参与社会治理过程中，当其决策偏离既定价值轨道、违背道德要求时，应当立即中止现有行为。此外，应当健全信息公开制度，提升人工智能系统的透明度，确保道德规范的可行性与实效性。
完善事后评价体系，强化道德评判机制。人工智能参与社会治理是一个持续的长效机制，在完成阶段性任务之后，应及时进行道德评判，以更好参与到下一阶段的社会治理之中。在事后评价体系中，要兼顾目的和手段两个方面，既要对人工智能参与社会治理的实际效果、潜在风险、社会影响等进行道德评价，也要对人工智能技术的安全性、可靠性、可控性、公平性等展开伦理审查，并根据评判结果建立问责制度，明确人工智能相关主体的责任。值得注意的是，在现阶段，人工智能的相关主体依然是人，不能将本该由人担负的责任，推卸给由人创造的智能产品。
（作者单位：南京财经大学；本文系2024年度江苏高校哲学社会科学研究一般项目“新时代乡村治理主体的伦理研究”〈项目编号2024SJYB0216〉阶段性成果）