2023年8月31日，应南京大学中德法学研究所的邀请，来自德国维尔茨堡大学法学院的Eric Hilgendorf教授为第145期“中德法学论坛”做了题为“人工智能对刑法的挑战”的学术讲座。
Hilgendorf教授是德国维尔茨堡大学刑法、刑事诉讼法、法学理论、信息法与法律信息学教席教授，欧盟委员会人工智能高级专家组(High-Level Expert Group on Artificial Intelligence, AIHLEG)成员。本次论坛由南京大学法学院博士生导师孙国祥教授主持，南京大学法学院博士生导师单勇教授和南京大学法学院黄旭巍副教授作为与谈嘉宾。南京大学法学院刑法博士研究生、“中国法与比较法”双硕士项目的留学生以及中德法学研究所2022级硕士研究生参加了此次学术活动。德国维尔茨堡大学法学院博士候选人刘畅担任了本次学术活动的现场翻译。
孙国祥教授
孙国祥教授对Hilgendorf教授的到来表示热烈欢迎，并介绍了Hilgendorf教授的研究方向与研究成果。孙国祥教授指出，Hilgendorf教授研究领域广泛，其研究成果是中国刑法研究的重要学习资料，本次讲座是关于人工智能的前沿性课题。
Prof.Dr.Dr. Eric Hilgendorf
Hilgendorf教授的本次报告探讨了人工智能之刑事责任这一问题，从法理学、法哲学等角度围绕人工智能的可罚性以及接受性两个部分展开。
首先，关于人工智能的可罚性，Hilgendorf教授认为，无论是从法哲学、法教义学还是法理学的角度都应得出否定结论。Hilgendorf教授从2012年德国阿沙芬堡市自动驾驶汽车自撞案（Aschaffenburger Fall）、2016年微软聊天机器人Tay事件引入，进而指出人工智能在刑法领域带来挑战：是否应该承认人工智能自身的责任。Hilgendorf教授表示对目前而言创设法律承认人工智能自身的责任持怀疑态度。从法理学与法哲学角度来看，讨论人工智能的刑事责任问题实际上讨论的是科处刑罚之原因、科处刑罚之前提与刑罚正当化之前提。Hilgendorf教授介绍了绝对刑罚理论、相对刑罚理论和表达刑罚理论（Expressive Straftheorien），从而论证了从刑罚理论的角度并不排除将机器作为法律主体、对机器科处刑罚的可能性。然而，Hilgendorf教授同时指出，可以通过理性证明拒绝赋予机器可罚的地位。根据归责前提理论，行为归属于自由意志的主体，该主体违法且有罪责地实施一些行为，从而得出责任只能归属于自然人。
其次，对于人工智能带来的挑战，Hilgendorf教授讨论了人工智能在警察侦查和刑事程序中使用的问题。现代警察的侦查活动中越来越多使用了新兴技术，如人工智能技术识别指纹和DNA、分析获得的图像数据，用无人机获得数据、监听等，问题是在刑事程序中人工智能的适用范围。Hilgendorf教授指出，要解决的问题包括：在刑事程序中利用人工智能获取的数据处于怎样的地位，法官对于数据的信赖基础何在，法官是否必须接受、还是可以根据自由心证来排除并且不接受数据呈现的结果。另外，人工智能是否以及何时从支持者转为决策者，人工智能是否能成为法官也受到关注。
最后，Hilgendorf教授对于将来是否可能给予人工智能主体地位进行探究。如果法律体系可以接受并非与生俱来而是社会赋予的权利主体，那么原则上没有理由反对人工智能获得一定的权利甚至成为主体。基于法律空白创设权利主体对于民法来说是具有吸引力的想法，但是对于刑法来说，创设人工智能的法律主体地位意味着将刑法体系推倒重来。另外，人工智能的拟人心理也可能成为机器权利合理化的突破点。由此出发，可能会赋予机器特定的地位和权利。从情感依赖属性的角度仅视为财产可能不太恰当，Hilgendorf教授提到与动物相关的法律中有相关规定。Hilgendorf教授总结道，人工智能的刑事责任是新问题也是一个紧迫的问题。随着技术的国际化，对这一问题的讨论和研究也会成为国际化的问题，从而成为比较刑法的一个潜在研究对象。目前没有足够强有力的理论来论证惩罚机器的可能性，但也不排斥存在这样的可能性。对于中德两国如何处理机器独立承担责任的这一问题，仍然需要着眼于未来。
讲座现场
德国维尔茨堡大学法学院博士候选人刘畅现场翻译
讲座的与谈环节由孙国祥教授主持。孙国祥教授首先感谢Hilgendorf教授的分享，并对讲座内容进行了总结。孙国祥教授指出，Hilgendorf教授关于人工智能主体地位、权利的讨论具有前瞻性，为我们提供了诸多启发。接下来孙教授介绍了本次讲座的与谈嘉宾：单勇教授与黄旭巍副教授。
单勇教授
单勇教授认为，人工智能在中国司法体系中是量刑辅助的角色，不能成为法官的角色。人工智能只能做技术判断，不能做价值判断。法官还需要结合政治效果、社会效果、法律效果之后做出判断。针对Hilgendorf教授提到的自动驾驶汽车案，单勇教授进一步提出了在德国司法实践领域中，对于自动驾驶汽车造势的刑事责任认定问题。
黄旭巍副教授
黄旭巍副教授指出，从刑罚目的方面很难否定人工智能成为刑事责任主体，问题的关键可能在于自由意志以及辨认控制能力。在强人工智能时代需要承认人工智能的主体地位，目前来讲，难以承认人工智能具有自由意志和辨认控制能力。黄旭巍副教授还提出，存在将人工智能与法人类比的观点。如果对人工智能进行处罚，如删除数据销毁程序，似乎可以与法人的财产罚相对应。针对Hilgendorf教授提到的损坏具有拟人心理的人工智能不仅为财产损坏，黄旭巍副教授认为从情感依赖属性的角度似乎也很难成立。关于人工智能与动物对比的问题，黄旭巍副教授认为动物权利的存在与将动物作为责任主体并不具有一致性。
随后，Hilgendorf教授对学者们的观点进行了感谢与回应。Hilgendorf教授认为孙国祥教授从方法论的角度指出了报告的关键点。权利被赋予而非与生俱来，社会可能基于不同的理由承认个体的主体地位。Hilgendorf教授对单勇教授提到人工智能是辅助者而不是决策者的观点表示赞同。在德国宪法的框架内法官必须由自然人来担任。但与中国司法实践有所不同的是，德国不仅允许并且要求人工智能做价值判断。如德国《道路交通法》第1e条第二项要求自动驾驶车辆有能力对法益进行评价，涉及生命法益还是财产法益时必须选择保护更高的法益。关于自动驾驶的问题，目前关于自动驾驶的判例较少，原因可能是德国法律规定严格，因此生产者需要极其小心避免产生这样的结果。Hilgendorf教授针对黄旭巍副教授提到人工智能的主体地位与自由意志以及辨认控制能力的关联表达了原则上的赞同，但同时提出存在没有自由意志的法律主体，如法人。因此，Hilgendorf教授认为自我要素可能在法律主体的确定过程中并非必要。针对人工智能的主体地位与责任承担，德国对此整体持保守的态度，Hilgendorf教授认为也许中国会走在德国的前面，期待看到中国对此的解决方案。
讨论环节学生积极发言
在讨论环节，其他与会学者和同学也纷纷向Hilgendorf教授提问，教授逐一解答。有同学提出，从刑法效果的角度是否可以得出否定人工智能责任承担的结论，Hilgendorf教授认为，即使现行的刑法不能对机器产生效果，但是不能否定刑罚存在的社会效果。从一般预防的角度来看，如果可以对社会其他主体产生效果，刑罚仍然有意义。有同学针对机器运行的不可预见性，就可容许风险理论与严格控制责任提出问题。Hilgendorf教授针对目前德国刑法中的生产者责任排除提出建议，认为生产者应当具有基本的安全保护义务。还有同学对人工智能技术在德国实践中预测性警务的探索、侦查和限制思路提出了疑问。Hilgendorf教授认为，一般警务已使用人工智能的系统，而特定犯罪可能有特定犯罪模式，可以使用人工智能系统进行识别，目前仍然在讨论中。此外在侦查领域要注意，这种技术的应用不仅站在犯罪嫌疑人的对立面，也应被应用在有利于犯罪嫌疑人的证据中。
讲座最后，孙国祥教授指出归责理论本身的开放性使得可能将来人工智能具有一定的归责能力，这也是未来研究的一片蓝海。孙国祥教授再次代表研究所衷心感谢Hilgendorf教授贡献的精彩报告，感谢德国维尔茨堡大学法学院博士候选人刘畅的翻译工作。中德法学研究所第145期“中德法学论坛”在热烈的氛围中圆满结束。
