确立“负面清单”，框定安全底线！全国首个智能体技术司法应用指南在深发布

深圳特区报&读特记者从深圳市中级人民法院获悉，由该院、深圳市大数据研究院与清华大学互联网司法研究院三方联合编制的《司法领域“智能体技术”应用指南》（以下简称《指南》）于近日发布。该《指南》为全国首个智能体技术司法应用指南，旨在为法院系统应用智能体技术提供方法论指导、明确应用边界、提示潜在风险，推动人工智能在司法审判辅助领域实现稳健、审慎、规范的应用。

自2023年起，深圳法院率先探索大语言模型等人工智能技术在司法领域的稳慎融合，研发上线人工智能辅助审判系统，持续迭代升级，目前已辅助审理案件超过60万宗，实现了司法审判质量与效率的同步跃升，并率先升级为“多智能体安全协同”的深度应用架构，获得上级法院的高度认可。

深圳市大数据研究院与清华大学互联网司法研究院在深入调研深圳法院实践经验的基础上，结合人工智能技术最新发展态势与司法应用特殊要求，与深圳法院联合编制该《指南》，力求为司法领域规范、安全、有效地推进智能体技术应用提供参考与指引。

据悉，《指南》明确了人工智能技术司法应用的四项研发原则、智能体技术在司法应用中主要存在的四类风险，以及确立智能体技术司法应用的“负面清单”，通过明确禁止性行为框定技术应用的安全底线。

其中，四项基本原则包括，锚定辅助工具定位、深度融入审判环节、同步落实司法责任、全程确保数据安全；“负面清单”主要包括：

（一）禁止转授决策性职权：不得将裁判权、审批权等核心司法决策职能交由智能体行使。

（二）禁止注入未治理数据：不得使用未经清洗、脱敏、合规审查的数据训练或驱动智能体。

（三）禁止应用未认证技能：不得调用未经安全评估、功能认证与合规审核的能力组件。

（四）禁止逾越安全性护栏：不得绕过或破坏系统内置的权限控制、审计跟踪与风险阻断机制。

另悉，深圳市大数据研究院还与深圳市中级人民法院共同签署《战略合作协议》，双方将联合开展司法人工智能通用标准研究、技术创新研发与应用场景落地，致力于推动审判体系与审判能力现代化，全面支撑数字法院高质量发展。

来源：读特APP（深圳特区报&读特记者 张燕）