钟瑞友
浙江省金华市人民检察院
党组书记、检察长
　　人工智能是引领这一轮科技革命和产业变革的战略性技术。“十五五”规划纲要明确部署，全面实施“人工智能+”行动，全方位推进数智技术赋能。当前，人工智能正在深度嵌入经济社会肌理，成为高质量发展的关键变量。然而，人工智能在释放效率红利的同时，其底层架构与外部生态深度耦合，催生新型风险，对既有法律秩序构成挑战。
　　人工智能的技术特性既是其优势所在，也是风险所系。“算法黑箱性”使责任溯源陷入不可解释的困境；“多主体交互性”使开发者、运营者、使用者权责交叉，极易相互推诿，形成责任“真空地带”；“自主推演性”与“高度仿真性”则增强了犯罪的隐蔽性。然而，现行刑法缺乏针对性罪名与规制条款，因果关系认定、主观过错推定等规则尚待明晰，技术安全审查、算法备案等监管手段仍有提升空间。技术、主体、制度三者交织，形成复杂的、叠加的刑事风险类型。作为法律工作者，我们必须直面这一问题，细化治理规则，恪守法治原则，明晰价值判断准则。
　　结合近年来全国各地的典型案例来看，当前人工智能的刑事法律风险可归纳为衍生型、内生型、迷失型三类。
　　衍生型风险，本质是人工智能沦为犯罪工具，传统犯罪迎来“智能化升级”。其犯罪构成要件未变，但作案手段更隐蔽、效率更高、成本更低。最令人揪心的莫过于人工智能深度伪装诈骗——不法分子只需获取受害人亲友的几张照片、一段语音，便可制作出足以以假乱真的音视频，冒充亲友借钱转账，普通人肉眼根本无法分辨。同时，人工智能侵权盗版也已形成产业链，几小时便能生成上千幅侵权图片。2025年北京法院审理的一起案件中，4名被告人没有任何美术基础，仅凭简单提示词通过人工智能生成侵权图片并销售，四个月非法获利27万余元，最终被判处侵犯著作权罪。衍生型风险本质上是技术赋能下的传统犯罪异化，可直接适用传统罪名规制，但必须警惕其使“零基础作案、规模化产出、跨地域扩散”成为现实。
　　内生型风险，则是人工智能“自主闯祸”，算法自主性挑战传统刑法边界。与“人用人工智能犯罪”的衍生型风险不同，内生型风险来自算法突破合规约束、主动生成违法内容，对传统刑法的冲击最为直接。其核心特征在于无人类明确违法指令，人工智能依托自主学习绕过安全管控，产出违禁、侵权、涉危等违法内容。2026年上海法院审理的全国首例人工智能聊天软件涉黄案中，被告人通过编写、修改系统提示词刻意绕开模型安全限制，使人工智能自主持续生成淫秽色情内容并以会员付费牟利。内生型风险的本质，是算法自主性与传统刑法责任主义的内在冲突，现实中极易出现“风险有人见，责任无人担”的局面。
　　迷失型风险，是人工智能“幻觉”惹祸，技术缺陷转化为刑事危机。与内生型风险“算法主动失范”不同，迷失型风险的根源是人工智能与生俱来的技术缺陷——“一本正经地胡说八道”，无中生有、捏造事实。2025年北京市通州区人民法院审理的一起案件中，代理律师向人工智能询问相似判例，人工智能提供了两份看似权威完整的“参考案例”，律师直接将其写入代理意见提交法院，虽无造假故意，但仍因未尽审慎核实义务受到严肃批评。迷失型风险的特殊性在于“无过错致害”，这要求打破“无过错即无责任”的传统思维，明确只要相关主体未尽到合理审慎义务，导致人工智能幻觉引发严重危害结果，就应承担相应的法律责任——技术缺陷不能成为免责“挡箭牌”。
　　面对人工智能这三类风险交织叠加的挑战，必须坚持分类治理、精准施策、全链条防控，让人工智能在法治的轨道上行稳致远。
　　第一，严控衍生型风险，强化源头防范。对恶意利用人工智能实施诈骗、侵犯著作权、传播淫秽信息、窃取个人数据等行为，应明确根本原则：技术升级不改变犯罪本质，诈骗仍是诈骗，侵权仍是侵权。检察机关应当充分发挥引导侦查职能，提前介入重大疑难人工智能犯罪案件，运用电子数据审查、算法逆向溯源等技术手段破解取证困局，穿透“算法黑箱”，精准锁定行为人主观故意。司法机关须坚持依法快诉、快判，及时发布典型案例，让不法分子认识到利用人工智能犯罪非但不是“隐身术”，反而因技术留痕而无所遁形，终将难逃法网。
　　第二，破解内生型风险，压实三方责任。使用者须严守行为边界，禁止以特殊提示词破解人工智能安全机制、诱导模型产出违禁内容。平台须全流程监管，搭建智能化拦截系统，实时监测异常交互与违规输出，绝不能沦为违法内容的“传声筒”与“放大器”。开发者须在模型研发与数据训练环节完善安全架构，从根源上堵塞技术漏洞。检察机关应探索建立涉案算法穿透式审查制度，通过社会治理检察建议、公益诉讼等方式，督促平台与开发者将合规端口前移，推动形成“研发—运营—使用”全链条责任闭环。
　　第三，防范迷失型风险，强化审慎义务。开发者和平台须履行风险提示义务，在显著位置明确告知“人工智能可能产生幻觉，请慎用”。律师、医生、媒体工作者等从业人员在使用人工智能生成法律文书、医疗建议、新闻报道时，须承担更高标准的审慎义务。若因未尽核实义务导致严重危害结果，应依法追究过失责任，防止“人工智能生成”成为推卸责任的借口。
　　第四，深化系统治理，构建“事前—事中—事后”全链条法治闭环。事前强化合规与备案管理，由相关部门制定人工智能刑事合规指引，明确各方义务、风险要点及免责条件，推动企业将内容过滤、版权筛查、隐私保护、幻觉监测等嵌入底层架构，从源头降低风险。事中坚持“以技术管技术”，构建跨部门、跨平台实时监测系统，精准识别并拦截高危提示词、高危账号及违法内容，建立协同处置机制，提升应急响应效能。事后完善司法规则与证据制度，明确主观过错推定原则及因果关系认定标准，推广区块链存证、电子数据固化等技术，切实破解人工智能涉罪案件“取证难、鉴真难、采信难”瓶颈。