【ZiDongHua 之人文化天下收录关键词：法与自动化 自动化科技   机器人  数字司法  人工智能  维尔茨堡大学   北京大学  自然语言处理  chatGPT 】

法苑·动态︱Eric Hilgendorf：数字司法：我们是否需要“机器人法官”

2023年5月9日，北京大学法学院全球教席学者、德国维尔茨堡大学刑法、刑事司法、法律理论、信息与计算科学法系系主任Eric Hilgendorf教授以“数字司法：我们是否需要机器人法官”为主题开展了一场线上学术讲座。讲座由北京大学法学院研究员江溯主持，北京大学法学院教授梁根林担任讲座评议人。校内外近百余名师生通过zoom会议平台在线参与讲座，反响热烈。

本文以文字实录的方式呈现讲座核心要点。

Eric Hilgendorf：

司法活动是否可以得到以及在多大程度上能够得到人工智能的支持、人工智能系统是否可以代替法官等议题已经引起广泛讨论。在对上述议题展开讨论前，我们首先应当明确法官的职责。法官必须根据法律进行裁决，需要确定法律并通过解释法律将之适用于具体案件，不能任意妄为。另外，法官同时代表法律和法治：一个审判是否是一场公平正义的审判，其衡量标准不仅仅限于判决的法律适用是否准确，还包括该判决是否能被纠纷各方所接受。司法活动的任务不仅仅是合并并提供法律信息，还包括向社会传递法律精神以及推动民众对国家权力的接受等。

人工智能系统可以用以辅助司法系统，但不应该用以做出最终司法判决。从速度和效率的角度来看，如果现代技术手段能够使得法院更快、更有效地开展司法活动，那么法院应当对数字化方式等技术的使用持开放态度，并及时跟进最新技术。

在司法活动中使用人工智能，可以帮助消除导致法官错误裁判的某些错误来源。法官的决策会受到情感和认知偏见的影响，但人工智能的运用可能能够协助避免或排除上述影响(前提是相关问题不会发生在人工智能系统中，或者至少在技术上可以预防相关问题在人工智能系统发生)——这意味着人类决策与人工智能的结合，可以帮助避免司法裁决中的认知理性缺陷。未来既不完全属于人类，也不完全属于人工智能，而是属于人与人工智能之间的协作。

在司法活动中使用人工智能可以使司法机构比以前更强大，人工智能不仅可以提高司法效率，还可以使民众更加了解司法系统。下面将对人工智能在前述几个方面的应用前景进行进一步讨论与分析。

1. 通过数据库分析以辅助司法判决

人工智能在支持司法决策方面最突出的用途是人工智能可以储存大量的判决书，并在判例法和文献数据库中快速检索出与待审判案件相关的法律主题。因此，人工智能可以用来辅助司法判决。

2. 做出预测

人工智能不仅非常擅长识别司法裁判的模式，它还可以从这些模式中总结相关规律，并根据这些规律做出预测。诸多实例表明，程序法必须改变以适应智能化时代所出现的新的可能性。但应明确的是，对基本权利的保护而言，新技术需被谨慎对待。在司法过程中使用任何有关人工智能的法规，都需要先对相关问题进行仔细分析并权衡其优缺点。

3. 裁判文书写作与在线仲裁法院

人工智能系统，如最近引起巨大关注的ChatGPT，可根据具体案件生成高质量的裁判文书，因此人工智能能够适用于法律文本书写。此外，随着人工智能在司法领域的广泛应用，法官和检察官将会越来越多地处理“Chat法官”的意见。在德国，民事诉讼不一定要在州法院进行，因此将来利益冲突可能不再由州法院裁决，而是由私人运营的在线仲裁法院根据算法生成或根据算法解释的规则进行裁判——这在很大程度上取决于国家能否迅速地将新技术融入到现有的司法文化当中，捍卫基本法律规则的同时，利用人工智能系统提高司法的效率与准确性。但可以肯定的是，无论如何，我们现存司法体系将发生重大变化——唯一的问题是，它是会以自主的方式向前迈进，还是会被动受到驱动或被削弱。

4. 事实调查、证据收集和证据评估

人工智能在事实调查、证据收集和证据评估方面还没有被充分重视，其可用于估算当事人对同一案件事实进行不同法律解释的概率。

5. 人工智能在沟通交流领域的应用

在司法领域使用人工智能还可协助促进法院和当事人之间的沟通。人工智能能够克服法院与纠纷双方在沟通过程中遇到的法律用语沟通障碍和特定的文化障碍。

6. 在虚拟空间中主持诉讼过程

人工智能在司法领域的另一个潜在用途是在虚拟空间中进行取证程序、证人询问或整个听证过程。特别是对于民事诉讼而言，不但能通过网络在线进行，还可以将其转移到一个虚拟环境中。在这个虚拟环境中，行为人以虚拟人形态出现，即作为自然人的化身参与诉讼。

7. 是否应该由人工智能做出最终的司法裁决?

真正的“人工智能法官”是指一个能够独立解决法律纠纷且具有合法性与正当性的系统。关于是否应该由人工智能做出最终司法裁决的论题已经被讨论了相当长的时间。当下，特别是在税收和行政罚款过程中，行政执法人员已使用人工智能系统做出行政裁决(该决定可以被上诉)。需要说明的是，上述决定中人工智能的决策能力是有限的，而不是无限的。如果公民可以对机器所作出的裁决提出上诉，也就是说，如果仍然能够保证人类对司法过程的有效控制，那么“人工智能法官”的存在是极具可能性的。具有有限决策权的人工智能系统可以可观地提升司法决策效率：人工智能简化了行政流程和裁决过程，使法官能够集中精力处理需要人类参与的复杂任务。因此，从一开始就排除司法领域中人工智能的使用是明显错误的。

然而，必须让那些受到人工智能所做出决策影响的人知道做出决定的不是人，而是人工智能。因此，该程序必须是透明的。在德国，人工智能决策系统的引入应该由议会在个案中进行严格审查，并由法律对其适用范围、适用情形等作出明确规定。最后，必须完善使用人工智能决策的补救措施，确保最终的决定是由人类做出的。

诚然，数字化技术手段与人工智能系统的运用有助于支持司法机构完成其任务并推动司法机构的进一步发展。然而，人工智能与数字化手段所带来的风险也不应被低估。

1.一般性问题

第一，必须确保司法系统功能的准确性，尤其是在法律适用领域。因此，我们不仅必须尽可能地避免并消除程序性错误，还必须对抗相关的黑客攻击，以确保司法系统安全性。

第二，司法裁判数字系统的性能取决于它们的数据。这意味着某些社会问题，例如某些被认为带有歧视性的职业选拔方式，可能会对人工智能系统的决策产生一定影响。

第三，从单纯支持型AI到自我决定型AI的转变是由一系列非理性因素(如人类情感)所推动的，为了尽可能地减轻这些因素所带来的影响，人们应认真审视这些因素并在实践中采取多种方式避免这些因素对决策的影响。人追求便利的心理便是影响因素之一，出于这种便利心理，人们会更倾向于直接采纳机器所作出的建议。并且如果在现有的系统使用过程中只有成功的经验，那么在实践中更容易导致人们对机器建议的盲目信任(即“机器偏见”)。

另外，与司法决策权从人类转移到机器所密切相关的是，被要求做决定的人类可能丧失决策能力和勇气。技术的使用会对使用技术的人产生影响，而这些影响可能包括某些能力的丧失。例如若计算机能够比人更快、更可靠地完成计算任务，那么人们将不再使用他们的计算能力，并且逐渐丧失这种能力。

为了避免陷入技术上的死胡同，我们不妨把目光投向世界上那些已经在司法系统数字化方面取得较大进展的国家。它们不一定是具有传统技术优势的西方国家;相反，司法系统的数字化转型有可能使那些在技术发展方面趋于落后的国家在该领域发挥主导作用。

第四，我们也不能忽视民众对司法系统数字化的接受度问题。在司法决策这样一个敏感的领域使用人工智能，将会引发民众的极大关注。法律的有效性取决于民众的接受程度，所以在司法系统数字化的过程中，最重要的是通过教育和充分的论证来消除民众对司法领域应用人工智能的疑虑。但在某些情况下，人们不接受人工智能应用于司法领域的理由也并非毫无道理。此时，特别是在民主国家，应当注意技术必须适应人，而不是人适应技术。

2. 法律上的具体挑战

第一，如果只在原有判决基础上去学习和理解算法，并只在以往案件材料的基础上作出新的判决，那么就会缺失区分好法官与普通法官的重要标准，新的社会价值观和公序良俗的变化也不会被纳入到人工智能决策系统的考虑范围中。虽然不排除有一天这个问题会被解决，但只要这在实践中还未实现，法官就必须检查根据原有判例法和文献所表达出的观点发展而来的裁决建议是否真的可以为当下的纠纷双方与社会公众所接受。这也是将最终决策权交给人而非机器的一个重要理由。

第二，人工智能系统得出裁决建议的方式并不明确。至少在民法体系中，人类决策者以法律规定为指导而得出相应裁决，而法律规定则是根据其所使用的法律用语进行解释，并同时考虑到立法者的意图、法律体系的整体协调性及其客观含义。人工智能裁决规则是基于过往案例形成的，这与英美法系法官的裁决规则形成基础较为相似;然而，人工智能得出裁决建议的内部流程不太可能类似于英美法系法官根据判例做出裁决的思维过程——这是司法决策完全依赖人工智能所面临的又一重要问题。

第三，技术垄断问题。在司法领域的软件使用也将出现于一般软件领域所存在的垄断问题。垄断的形成并不能促进创新，反而会抑制创新。在司法软件的使用方面，还需要注意的是主权国家必须能够保障司法过程的稳定和持续推进，这是公民有权期望国家完成的一项任务。如果司法机构广泛依赖大型外国公司，而这些公司或多或少可以自由决定是否延长或修改现有合同，这很难满足国家保障司法机构正常运作的目标——至少在德国是如此，因此在司法裁决过程中使用人工智能系统，从而导致技术垄断很可能是违宪的。

结语：

目前来看，人工智能不可能完全取代法官和法院。法院的任务远不止创造法律资料和在具体案件中适用法律，法院还负责促进民众对个案法律判决及对国家和其整个法律体系的接受。在三权分立的国家中，独立的司法机构发挥着核心的政治性作用。人工智能并不能完全独立地完成前述目标，但是其仍然能在司法活动中发挥重要作用，未来属于人工智能和人类决策者之间的合作。

梁根林：

Hilgendorf教授从对法官的任务界定出发，首先明确了人工智能可以帮助法官提高工作效率，保障裁决的客观性与公正性，减少决策错误，同时也探讨了数字化与人工智能应用于司法领域可能存在的风险。对人工智能运用于司法过程的利弊和其前景分析的基础上，Hilgendorf教授得出的结论是虽然人工智能不可能完全接管司法任务，但可以支持法院作出相关决定，未来应当属于人工智能和人类的合作。

较之于欧洲公众舆论以及学者对司法中运用人工智能的抵触和限制，人工智能和数字化司法在中国司法实践中的运用是超前的。在2016年，中国发布了《国家信息化战略发展纲要》，把智慧法院纳入国家信息化发展战略，并且致力于数字法治和智慧司法信息化体系的建设，以便办案更加精细、司法管理更加科学、程序更加透明、过程更加高效、甚至服务更具人性。中欧之间的差异性可能在于当欧洲同行还在争论人工智能在司法活动中的可接受度时，中国已全面推行数字化司法和智慧司法，借助于诸如大数据、云计算等手段，对司法全过程和结果进行全面管理和运用。当然，中国也存在类似争议，相关讨论与报告的展开也与Hilgendorf教授今天的讲座内容大体契合，比如中国同行认为人工智能虽能提升效率，实现同案同判，但如果过于依赖算法技术和人工智能，可能会引发机械司法和教条司法，从而导致所谓的工具理性与个案争议的冲突。

如Hilgendorf教授所言，司法过程不是对法律的简单理解和使用，司法过程需要法官根据对法律的理解及法律所蕴含的价值观、法律目的、法律条文的客观意义，甚至需要结合社会公序良俗的变化来予以个别化认定，以实现个案正义。全面数字化的司法可能伴随着中国学者所指出的“数字鸿沟”、“技术壁垒”、“数字优势”、“购买优势”等问题，可能对司法公正形成威胁;同时，技术外包可能导致技术垄断、算法缺陷、技术偏见。全面数字化甚至可能导致法官形成司法惰性，不少学者已经认识到上述威胁并开始对其展开针对性研究。我相信中国同行可以就今天讲座的话题与Hilgendorf教授及其他欧洲同行进行更深入的交流——在数字化时代和数字化司法进程当中，如何在个案中更好地实现正义。

开讲学者简介：

Eric Hilgendorf 教授学养深厚，著作等身。他拥有图宾根大学哲学、现代史和法学学士学位以及图宾根大学的双博士学位。他于 1997 年担任康斯坦茨大学刑法教授，后当选该法学院院长。2001年，他调任至维尔茨堡大学，后又于 2010 年牵头成立了工业、交通与私人自动化系统领域闻名遐迩的“Forschungsstelle Robotrecht” 研究中心。自2013 年起，他担任 AdaptIVe 项目泛欧法律事务组组长。2016年，他被德国交通运输部部长 Alexander Dobrindt 任命为德国国家自动驾驶伦理委员会委员。自2019年起，他担任巴伐利亚数字化转型研究所主任。此外，他还是欧洲人工智能高级别专家组成员。

Eric Hilgendorf 教授研究领域广泛，包括刑法、刑事诉讼法、法哲学、法律与自动化交通及人工智能、医事刑法与生物伦理等。他的代表性著作包括《德国刑法典-教学与实践评注》《德国刑法手册》《德国刑法学：从传统到现代》和《刑法案例研习》等。