陈泽宪

中国社会科学院国际法研究所原所长、研究员，中国刑法学研究会常务副会长。

大家上午好！很高兴来沪参加上海政法学院“刑法论坛”。首先是因为主题——“人工智能的刑法规制及相关法律问题”吸引了我。最近两三年来，对人工智能的话题讨论很多，我觉得现在应该是引起法律界关注的时候。其次是上海政法学院开始有了长足的进步和发展，之前没来过，所以想来看看，“眼见为实”，果然是名不虚传。中国-上海合作组织国际司法交流合作培训基地这个重大项目落户上政，是一个很难得的发展机遇。基地与上政融为一体，上政可以充分利用基地硬件、软件和人力资源，这对上政而言既是宝贵资源又是发展驱动力。

从刑法学角度来看人工智能，主要涉及以下问题：

一是人工智能体能否成为犯罪主体并承担相应的刑事责任。这可能是最尖锐也是最令人困惑的问题。就我个人来说，过去认为这样的讨论权当一席笑谈。但是，最近几年人工智能技术取得突破性的进展，比如智能机器人AlphaGo Zero通过无监督自主学习，能够轻松战胜顶尖围棋国手，这在过去是难以想象的。从单纯具有超强的计算能力蜕变到它可以进行自我学习和自我提高，而且进展神速，从某一个方面超越人类智慧。这使得人类不敢掉以轻心，探讨将人工智能体纳入刑法规制的可能性，也将成为一个严肃话题。刑法对行为主体成为犯罪主体的基本要求并不高，即具有辨认和控制自己行为的能力。有朝一日当人工智能发展到强人工智能阶段，具有辨认、选择、控制、决策等行为能力时，其成为犯罪主体恐怕并非完全不可能。所以我们现在需要认真地加以研究。如果未来人工智能发展到超高水平，可能会面临脱离人类控制的危险，霍金的担心并非杞人忧天。这就涉及相关的法律伦理问题，就像以往的克隆问题一样，国际社会普遍禁止克隆人类。人类在设计研发人工智能之初是否应当留下“阿喀琉斯之踵”，以确保人类可以对其进行最终控制，这是技术人员需要研究的问题。法律人能做的，就是设定“阿喀琉斯之踵”条款，要求技术人员确保未来人工智能的安全发展。

二是人工智能体可否作为犯罪工具。这显然是没有问题的，如利用无人机杀戮等。不过，利用人工智能犯罪还可能会牵扯到共犯的问题。如果某一天人工智能拥有辨认和控制自己行为的能力，当其被它的控制者、使用者用于犯罪时，是犯罪工具还是共犯？这些都是可以拓展讨论的话题。

三是人工智能可否成为犯罪对象。这是完全可能的。人工智能和计算机系统、智慧网络一样，都可以成为犯罪对象。同时，人工智能体在某种意义上是非常有价值的财产，也会成为犯罪侵害的对象。

四是人工智能潜力的开发，可以成为预防和控制犯罪的有力神器。执法、司法层面对大数据的适用，对犯罪进行分析、判断、预防，均可充分利用人工智能。人工智能在社会治安和犯罪控制领域，有着更广泛的应用前景。

五是人工智能的研发者和控制者的相关法律责任问题。人工智能在使用过程中，其本身的缺陷和漏洞可能会被人利用去实施犯罪，那么研发者和控制者应当承担怎样的责任？如果人工智能有漏洞，之后应及时补漏而未及时采取行动弥补漏洞和缺陷，研发者和控制者是否应当对所造成的危害结果承担相应的责任呢？这在研究人工智能的法律问题时，也应当给予必要的关注。