□分级准入 □程序补强 □责任锚定
守住认知起点 做实人主机辅
2025年4月,最高人民检察院在全国10个省级检察院启动智能化建设及试点工作。各地检察机关自主研发的智能体快速涌现,从单点辅助走向闭环式任务执行。推动“数字检察”向“数智检察”转变,不只是工具升级,更是人机关系的范式跃迁。传统的大数据法律监督模型本质是“规则编码+数据比对”,检察官始终是模型的操作者和最终决策者。新一代智能体具备“感知—分析—执行”的闭环能力,能够自主识别线索、生成方案、推动程序流转,呈现出从被动工具向主动代理演进的趋势。在此种趋势下,智能体闭环持续扩张的客观态势与人主机辅原则之间的张力无法避免。对此,可从感知、分析、执行三个环节检视智能体应用存在的深层风险,并探索“分级准入—程序补强—责任锚定”的规制方案,以期为人主机辅原则提供可操作的制度底座,与“三个管理”体系形成制度衔接。
辅助与替代的界限
实务界的智能化实践一定程度上呈现出一种变化,即检察工作中可以标准化、要素化的判断环节,正在从人工为主、机器为辅悄悄过渡到机器先判、人工复核。这种变化的实质,不是检察官的最终决定权被剥夺,而是检察官介入判断的时机被推迟。当系统先行完成发现、筛选、定性和推送,检察官从零开始建构案件认知的环节就被越过,审查从一开始就面临着起点被给定的处境。
笔者认为,辅助与替代的真正界限,不在于是否有人工复核这一节点,而在于谁是认知的第一判断者。辅助模式下,检察官带着问题去检索、分析、形成预判,智能体只是验证或补充。替代模式下,智能体先筛选、分析、给出倾向性结论,检察官的角色从第一判断者变成了结论审核者。这种认知起点的位移,是渐进替代的实质。
智能体应用的三重风险
感知端,线索自动化与可审查性危机。智能体的持续在线感知,催生了立案监督启动除当事人控告申诉或检察机关自行发现线索之外的第三种形态,系统在后台运行算法监测模型,数据一匹配上预设的异常模式,就自动生成监督线索推送给检察官。这是技术赋能的积极面向,但从权力结构上看,什么值得关注、什么足以触发程序,在算法层面已经被部分决定了。算法的预设偏差、数据质量缺漏、模型覆盖盲区,构成了一种缺乏程序约束的案件“分流阀”。
分析端,算法黑箱与锚定效应。检察官独立判断的核心保障,在于判断过程可理解、可验证、可监督。然而,监督模型和量刑辅助系统,其决策权重如何赋值、异常规则如何筛选,对检察官来说往往不透明。此外,更深层的风险来自认知心理学上的锚定效应。即使是最勤勉、最审慎的检察官,面对已经被算法标注为“高风险异常”的案件材料,也很难做到完全不受该标注影响形成独立的初始判断。算法检视确实提升了比对效率和精准度,尤其在类案推送、量刑参考等场景中具有显著工具价值。但当效率优势固化为认知惯性,检察官独立建构分析框架的动力就会下降。
执行端,审查判断在技术流程中悄然让渡。执行端目前最普遍的功能是自动生成法律文书初稿。但文书初稿的形成过程本身就是实质判断的发生过程,哪些事实写入、如何表述定性等,这些选择本身就是检察权的行使。当这些选择由算法在后台完成,检察官拿到手的只有生成结果,无从回溯形成过程中的选择依据。检察官的角色,事实上面临被后置为系统判断的审核者的风险。这种转移是在技术流程的逐层渗透中悄悄完成的。自动生成文书初稿确实减轻了事务性负担,让检察官有更多精力聚焦核心判断。但前提必须是,核心判断的生成过程不能被技术流程替代。
分级准入:划定智能体的介入边界
针对上述风险,应当建立分级准入制度,将智能体在检察业务中的应用按风险等级和对认知起点的实质影响分为三类,明确各自的边界。同时,将分级标准与“三个管理”体系对接,分级准入对应业务管理,提供智能化应用的准入标准;程序补强对应案件管理,提供人机协同办案的过程控制抓手;责任锚定对应质量管理,为审视含有人机互动因素的案件质量提供追责基准。
A级,事务自动化。纯程序性、事务性工作,不涉及案件事实和法律的判断形成,允许完全自动化。包括文书格式校验、办案期限预警、数据归集统计、电子卷宗自动编目、流程节点提醒等。此类工作不涉及法律判断,认知起点本来就在检察官,无需人工复核。
B级,辅助决策。涉及法律判断但非最终决定,允许智能体辅助,但必须确保检察官是认知起点。包括监督线索筛查、类案推送、量刑建议参考、检察建议书初稿生成、证据要素自动提取等。此类工作实行“人机双签”,检察官必须对智能体输出进行实质审查并签字确认后方可进入下一流程。具体操作上,不仅要求结果签字,还要求在系统日志中对算法的关键判断依据进行认可、修正或拒绝的勾选和备注说明。检察官在查阅智能体输出之前,应当先独立完成对案件事实和法律争点的梳理。智能体输出只能作为待论证的初稿,原则上不直接生成可签发的最终法律文书。
C级,禁止介入。检察权行使的核心环节,认知起点必须完全由检察官独立掌握,智能体不得介入决策。包括审查逮捕、审查起诉、出庭公诉意见、抗诉决定、检察委员会审议事项、罪与非罪认定、证据综合采信、量刑建议确定等。智能体仅可提供背景资料检索和法条推送,不得生成倾向性结论或参与实质判断。在未成年人犯罪、重大疑难复杂案件等特殊场域,应明确禁止生成式人工智能实质参与核心决策。
程序补强:为人机协同嵌入正当程序
分级准入划定的是智能体介入边界,程序补强保障的是运行规范。针对认知起点被替代的风险,需要从以下方面补强程序约束。
一是算法日志强制留痕。凡使用B级以上智能体的办案环节,系统必须自动生成算法日志,记录输入数据、模型版本、输出结果、决策路径说明(功能可解释性)、检察官修改记录及最终采纳意见和理由说明。日志随案归档,作为案件质量评查和司法责任追溯的依据。需要强调的是,这种留痕不是系统运行的技术记录,而是人机协同决策的实质性留痕。
二是设置关键决策节点强制亲历清单。这是直接针对认知起点被替代风险的制度设计。在批捕、起诉、抗诉等核心决策中,检察官须在办案系统中亲笔填写一份独立的、不受智能体分析结论干扰的核心决策亲历分析表,内容包括本人独立审查认定的关键事实、证据争点、法律适用难点及初步结论。该表须在调阅智能体分析报告之前完成并提交系统锁定,从程序上保障“第一判断”来自检察官,把合理审查义务从消极核对升级为积极建构。
三是建立技术系统与法律系统的转译审查机制。由具备技术理解能力的检察官或技术调查官对智能体输出的结论做合法性转译——把技术系统的“匹配/不匹配”结论,转译为法律系统的“合法/非法”判断,并记录在案。这是从系统论角度设计的介入机制,确保技术符码的运算结果必须经过法律符码审查才能进入决策链条。
责任锚定:确保人主机辅的责任闭环
一是明确人主机辅的法定责任。建议进一步明确检察官对智能体辅助建议负有合理审查义务,因未尽合理审查义务直接采纳错误建议导致错案的,不免除检察官司法责任。合理审查义务应当达到以下标准:对B级事项,检察官须独立核对关键事实和法律适用,不得仅以系统结论作为判断依据;对C级事项,检察官须全程独立形成判断。核心决策亲历分析表的完成情况,应作为判断是否尽到合理审查义务的重要依据。
二是建立分层责任与回溯机制。算法设计者与运维方对系统输出在技术层面的稳定性和安全性承担产品责任。承办检察官对采纳机器结论完成最终决策承担司法责任。管理层对重大决策的标准制定和系统引入的批准备案承担领导责任。当个案出现司法失当,由检察官惩戒委员会回溯各责任主体的作用程度,重点审查认知起点的归属。核心决策亲历分析表缺失或完成时间晚于调阅智能体报告时间的,应从重认定检察官责任;核心决策亲历分析表完备且智能体错误明显无法被合理审查识别的,可以综合考量减轻检察官责任。
三是建议有限引入技术供应商责任。若智能体错误源于算法设计缺陷或数据污染,且检察机关已尽到合理审查义务,可依据民法典产品责任条款或政府采购合同追究技术供应商民事责任。但技术供应商责任应限定在民事领域,不得以此稀释检察人员的司法责任。引入这一责任的目的,是在算法的输出端建立外部制衡,让技术从“无责任”转变为“有约束”。