人工智能赋能检察工作的风险与应对

刘和海

随着大模型、人工智能等数字技术的发展与应用，各级检察机关正逐步将智能技术引入法律监督工作之中，实现了传统法律监督模式的智能化转型与变革。人工智能技术赋能检察工作中，数据质量、算法公正性、应用合规性等问题，不仅制约了技术应用的深度和广度，更影响到公正与效率的实现。

技术赋能的基础项是将办案数据进行有效利用和最大化利用。这涉及到以下几个问题：一是数据隐私与安全。二是数据质量与可靠性。三是数据污染。人工智能在提升检察工作效率的同时，也引发了关于算法公正性、透明性以及履职边界的讨论和争议，具体有以下几种：一是算法偏见，二是算法透明度与可解释性不足问题，三是“幻觉”问题。在应用过程中，人工智能可能存在生成虚假法律法规、提供过时法律条文、杜撰司法案例等行为，由此导致错误判断。

人工智能通过算法模型对历史案例和工作经验的深度学习生成案件结果，从而实现案件结果预测与评估的功能。当预测结果和检察院处理结果一致时，有助于帮助当事人和公众形成合理预期，有助于化解矛盾，提升办案的法律效果和社会效果。但由于受提示词选择使用以及人工智能系统本身数据质量等多方面因素影响，任何一个细小偏差都会引起预测结果巨大的偏离。但当案件当事人或近亲属、利害关系人在输入提问时遗漏关键证据、故意“投毒”诱导模型计算时导致产生失真的预测结果，会引发当事人及利害关系人的不满以及公众对检察确定性的质疑，继而引发社会公众对检察公信力的质疑，加剧疑难案件处理和矛盾化解难度。

针对以上出现的问题，我们采取了有效措施应对。

完善数据基础。推进数据标准化构建，建立和完善包括数据采集、存储、处理、使用等各个环节的数据质量管理体系和国家标准，确保数据的完整性、准确性和一致性。强化数据隐私与安全保护，制定严格的数据隐私保护规则，明确敏感数据的使用边界，防止检察数据被滥用或泄露。建立数据安全制度，严格按照数据安全法、网络安全法、个人信息保护法等规定，遵循数据的“必要性”和“最小化”一般要求，坚持数据用后即还而不保留规则，必须严格遵守数据分类分级保护要求和数据安全评估要求，确保数据安全。敏感信息去标识化，通过对个人信息进行去标识化改造和匿名化处理，努力在数据利用与权利保护间找到平衡支点。

提升算法决策科学性。规范和构建算法审查、解释和监督机制，提升算法的透明度和可解释性、严防算法幻觉出现。建立算法偏见检测和同步纠正机制，避免智能技术加剧司法不公。运用深度学习框架等算法技术开发更透明的算法模型，提高模型的可解释性，使推理过程公开化、可视化。增强系统的可验证性，允许通过反事实推理方式，让检察官通过修改若干相关参数实时观察算法决策的变化，使得AI的决策过程能够被检察官理解、审查与验证。

提升人工智能预测的公信力。加强制度层面的审查与监督，建立算法备案、算法审计等一系列监督机制，确保算法决策的可追溯性和可解释性。建立算法全生命周期审查机制，从设计、开发、应用等环节进行安全评估，确保智能技术的可靠。完善算法决策的大众理解模式，将算法推理过程以自然语言的形式进行说理，提高说理的逻辑性和表达的严谨性，以符合伦理准则和价值观的方式向社会传递透明度，增强公众接受度。