□ 于鲁
全国首批人工智能服务责任保险近日落地南京，用某专业机器人公司相关负责人的话来说，“AI‘闯祸’，终于有专门的保险兜底了，这下能节省不少成本。”
AI好用，但有时也会犯错。与普通用户对话时，AI会一本正经地胡说八道；在企业用户层面，AI带来了效益，也带来了新的风险。针对风险进行投保是未雨绸缪之法，然而，传统险种赔付仅针对硬件故障、人为失误，无法覆盖模型幻觉、算法漂移等AI概率性内生缺陷风险。人工智能服务责任保险，正是瞄准了这一行业痛点，能在一定程度上填补空白。如今，众多企业都在部署AI系统以提高效率、辅助创新，有了AI责任险兜底，能消除一部分后顾之忧，助推AI加速赋能千行百业。
不过，买了AI责任险，并不意味着此后使用AI导致的一切损失都将由保险公司埋单。因为AI“闯祸”有时不是因为存在设计缺陷，也有可能是用户使用不当，或者故意诱导AI执行违规操作，这时候，应当担责的就是用户；还有可能是执行该决定的平台未尽到风险提示、异常监测、应急处置等义务，则应当承担补充责任。具体到每一起事件，责任分配有时查得清，有时查不太清。人工智能服务责任保险，主要应对的是那些难以归责的部分，由保险公司、企业、用户共同分担风险。因此，保险公司在承保前，必须弄清楚企业如何使用AI、如何监控模型、如何介入关键决策，而这些评估的过程，也是在帮助企业建立更严谨的AI使用规范和治理框架。
在技术层面，目前尚无法保证AI作出完全正确的自主决策，AI风险几乎难以预测，又常常具有放大效应，形成规模化错误。因此，对企业来说，既需要AI责任险来提供一个“安全网”，也不能因为有保险兜底就放松对AI系统的风控。对保险公司而言，AI风险是新型风险，缺乏用于精算定价的历史损失数据，不同的AI模型，决策过程的透明程度也有所不同，风险发生的概率和影响难以用传统精算模型去精准量化，这些都是当下AI责任险面临的挑战。但无论规则如何细化，AI责任险提供的都不只是赔偿机制，更是一种市场化的风险评估。通过深入评估企业的AI使用、监控和治理框架，AI责任险做的不是简单的“概率生意”，而是事前防范甚至事中减损的“治理生意”。今后，保险成本将成为企业运营AI的新增固定成本，同时也让企业在针对性指导下善用AI，从而降低风险、提升效益。
技术可以进步，责任不会消失。AI责任险不只是兜底的经济补偿工具，更可能成为AI治理的市场化基础设施，通过风险定价来引导AI技术健康发展。