首页
法学研究所概况
国际法研究所概况
研究人员
科研成果
学术活动
法学刊物
法学教育
图书馆
工作平台
搜索

 

English

日本語

한국어

论人工智能体法律人格的考量要素
彭诚信、陈吉栋
字号:

【中文关键词】 人工智能体;法律人格;意志能力;物质性条件;准则主义

【摘要】 是否赋予人工智能体法律人格,对外是研发与运用人工智能的前提,对内则是确立人工智能体权利、义务乃至责任的基础。这一问题本质上取决于如何平衡开发者、制造商、所有者、使用者以及第三人(受害人)等主体之间的利益关系。当下学界所持的人工智能体主体说与客体说均有其缺陷。法律应基于主体资格的一般要件原理,即实质要件与形式要件的满足,来判断人工智能体主体资格应否以及如何具体赋予。具体说来,人工智能体是否具有特定的意志能力以及相对独立的财产是判断其应否具有主体资格的实质要件;采用何种认可原则,如准则设立模式,则是为其找寻满足主体资格的合适形式要件。

【全文】

在某种意义上,我们现在已经处于一个被弱人工智能包围的世界。有学者甚至说,“我不怕人工智能的到来,相反,我怕它来的不够快。机器是我们未来幸福生活的关键,……智能机器很可能对我们这个时代最严重的问题的解决不可或缺。”[1]面对人工智能的到来与迅猛发展,传统的法律制度尤其是法律主体制度,已受到或正面临新的挑战。尤其是近年来,人工智能可以“完成信息识别、深度学习、模拟思考等类人化行为,甚至表现出了比人脑更为强大的‘创造力’”,[2]人工智能体能否享有著作权以及其致害责任如何配置等法律问题,正逐步成为社会关注的法律焦点。[3]人工智能时代的到来,正在倒逼法学理论重新审视法律人格制度,从社会现实与法律理论的双重视角探求有无必要以及如何赋予人工智能体法律人格。[4]实际上,研究人工智能体有无法律人格的原理,也是法律调整正在走来的人工智能时代的核心内容。我国《新一代人工智能发展规划》(国发〔2017〕35号)亦将“明确人工智能法律主体以及相关权利、义务和责任”作为发展人工智能的一项重要议题。

一、探讨人工智能法律人格的价值

确立人工智能体有无法律人格是开展人工智能相关法律问题讨论的前提。

(一)为人工智能的研发确立前提性基础

无人机、无人艇、自动驾驶汽车等智能运载系统投入使用都需要法律予以准许。当出现事故后损害赔偿责任的分配也会直接关乎研发人员的利益。若要研发人员直接承担责任甚至承担完全责任的话,显然不利于人工智能的研发。所以,确立人工智能体的法律地位以及其与研发人员、生产者、销售者、所有者、使用者以及其他相关主体之间的法律关系,是研发人工智能的前提。

(二)为人工智能体享有权利、承担义务与责任建构主体性条件

法律人格是权利产生的前提性要件,否则权利义务便无所依附。赋予人工智能体法律人格意味着人工智能体能够享有权利,负担义务,甚至会承担特定的法律责任,而人工智能的法律责任问题是2017年“全球AI对话系列”列出的全球AI20条优先研究问题之一。[5]这其中,如果包含人工智能体本身的法律责任的话,我们就应该认真对待人工智能体的法律主体地位问题。

(三)有助于平衡开发者、生产商、所有者、使用者以及第三人等主体之间的利益

人工智能的发展与应用聚集了多方主体的利益。比如,机器人参与创作的过程中融合了“机器人的投资人、机器人的发明人、机器人用于训练写作的既有作品的版权人等众多主体,……如果在一起机器人创作作品的版权诉讼中,允许上述人员均来主张权利的话,势必导致法律关系复杂无序,进而影响对争议的解决。”[6]更为复杂的问题是,当“人工智能犯了错误”时,如何“给受害者提供一种弥补损失的经济补偿方法,而不是让所有权人、用户、开发商或制造商对人工智能相关的全部潜在损失承担责任”。[7]对于人工智能主体资格的讨论,可以明晰多个相关主体之间的利益关系。

(四)甚至决定某些机器人能否存在

性机器人尤其是女性机器人,已经在德国、美国等国家生产出来。问题是,如果性机器人有人格,其发挥的就不应该是工具功能而是人的生理功能,而且还会进一步引发一系列法律、伦理、哲学乃至人权等基本问题。比如,处于婚姻关系中的人能否使用性机器人,性机器人与使用者之外的另一方法律关系是什么?是否涉及对女性的伦理歧视?所有这些问题的前提性思考最终还是取决于在法律上如何看待机器人。具体说就是,人工智能体是主体还是一种工具性客体?由学者编订的《伦理机器人许可草案(ERL)》“限制”6即规定:“不允许使用机器人以作性行为或从机器人中得到性满足。”[8]原因在于,性机器人与女性的关键不同在于“同意是无关紧要的”。由于将女性作为被动的性对象,并且为了满足男性的性欲可以忽视女性的自主性,破坏了女性的平等。[9]若采用此种观点,性机器人的存在本身便缺乏正当性。

二、有关人工智能法律人格的学说

正是由于对人工智能法律人格的讨论具有重要的理论意义和实践价值,学界对此也提出了各种学说,主要包括支持说(主体说)和反对说(客体说)两大对立观点。

(一)客体说

客体说针对当下弱人工智能体提出。该说认为,人工智能尚不具备法律人格,仅可作为权利的客体。当今多数国家的现行法、司法实践大多接受客体说。根据所持具体理由的不同,客体说内部又存在不同的细分观点。

1.工具说

当下的人工智能体归根结底还是人类创造的服务于人类的工具,[10]尚不能成为权利主体。对于备受关注的人工智能体致害问题,工具说认为可通过适用产品责任归责。工具说的局限在于:其一,工具说并未关注人工智能体具备智能的现实与这一智能将不断提升的发展趋势;其二,该说也无法回应诸如“索菲亚”、“帕罗”之类的机器人[11]已经获得国籍或户籍而被认为具有部分人格的社会现实;其三,工具说以产品责任分配损失的归责路径非常容易挫伤生产者的积极性。且目前我国尚欠缺相关国家标准和行业标准,不能认定人工智能体的“缺陷”。

2.软件代理说

该说认为,人工智能是算法等软件的代理,其传递的是用户要求的信息,并无法律主体地位。[12]该说的局限之处在于:它忽视了弱人工智能向强人工智能迅速发展的社会现实和必然趋势,在人工智能具有深度学习与类人化神经元思考能力之后,其自身的算法与计算逻辑已经不能简单地用软件代理的方式解决。当自动驾驶汽车在无人类干预情况下造成侵害第三方事故时,用该学说解决便不尽妥当。

3.道德能力缺乏说

该说认为法律上的人必须是具有道德能力的人。这是由于法律来源于道德,没有道德认知能力的自然人或者动物均不应具有法律主体地位。[13]由于人工智能不具备道德认知与施行能力,所以无法享有法律人格。道德能力缺乏说的局限为:该说忽视了道德与法的根本区别,我们可以说道德主体必然为法律主体,但法律主体未必是道德主体。[14]法律是最低层次的道德,把法律主体依附于道德能力,尽管符合伦理学要求,但对主体的要求已经超出了法律的界限。

总之,客体说的前述细分学说[15]大多类推适用人类或动物能否成为主体的理论或者类推适用人类或动物承担责任的规定。它们共同的局限在于:类推适用人类或动物的理论均有其片面性,忽视人工智能主体资格问题有其特有的法理考虑与价值选择,而非依据某一单纯的要素考量。更为重要的是,法律主体的承认本身也有其自身多元的考量要素及理论支撑。

(二)主体说

主体说认为,鉴于人工智能体在现实社会中的智识表现与多元功能,可以赋予其法律人格,使其享有法律主体的地位。主体说亦有多种不同的论证路径。

1.代理人说

该说将机器人作为其“所有人”的代理人。2017年2月欧盟表决通过的《欧盟机器人民事责任法律规则》第52条即提出“非人类的代理人”的概念。[16]代理人说认为,人工智能体是一个具有目的性的系统,[17]实际上是将人工智能体作为民事主体。[18]在代理说下,人工智能体与其用户或者操作者的关系被认定为法律代理关系中代理人与本人的关系。[19]代理说存在如下问题:首先,人工智能体代理既不能归入法定代理,又缺乏意定代理之意思表示;其次,人工智能体作为代理人时,如何判断其行为能力尚不明确。

2.电子人格说

该说认为可以赋予人工智能体一种电子人格。其主要是依据《欧盟机器人民事法律草案》第59 f的规定:长远来看,……大多数精密自动化机器人可以被确立如电子人(electronic persons)一样的法律地位。我国也有学者持此观点。[20]但需要进一步明确的是电子人格的具体内涵为何?其与法律人格的关系为何?谁来申请电子人格?采取何种设立准则?等等。

3.有限人格说

该说认为,人工智能的法律人格与自然人或法人不同,并不具有承担完全责任的能力与地位。[21]目前,对于人工智能法律人格的研究中,有限人格说较有影响力。但该说的局限性在于:“有限”的具体内涵和具体效果如何进一步明确?“有限”是对人工智能体具体权利义务的限制还是对其法律人格的限制?抽象意义上的法律人格(即权利能力)在法律上能否限制?责任承担方面的受限可否影响主体资格的授予?诸如此类问题,有限人格说尚未解释清楚。

4.人格拟制说

该说认为,人工智能体应当享有法律人格,如同法律对胎儿的人格赋予一样,可通过“视为”途径赋予人工智能体法律人格。[22]该说已经在实践中有所应用,美国国家公路交通安全管理局在2016年2月4日给谷歌公司的回函中表示,根据美国联邦法律,该公司自动驾驶系统可视为“驾驶员”。[23]该说尚未解决的问题是:“拟制”能否足以体现人工智能体的特殊性?拟制应该是立法技术,而非法律适用技术,在法律对人工智能体的主体地位做出明确规定前,难以运用拟制技术解决现实问题。

三、确定人工智能法律人格的应然考量因素

法律并非当然地把某种自然存在(如自然人)或社会实在(如公司等)认定为法律主体,而是通过一定的条件设置或认可原则来判断是否以及如何赋予该存在形态以特定的主体资格。对于自然人来讲,现代法律承认其主体资格的惟一条件,便是“人”的存在,在法律上表现为“出生”这个自然事实。对于非自然人的社会存在而言,法律亦可依据一定实质性要求与形式性要求赋予其法律上的人格,承认其“权利能力”,最典型的此类社会存在便是“法人”。[24]这些实质性要求及形式性要求便是赋予非自然人的社会存在法律人格所需具备的特定条件。[25]

(一)实质性要件

1.意志能力的有无

所谓意志能力,就是为行为的能力,即能够把内在思想通过外在行为表达出来的能力。意志能力是判断法律人格的“神”,法律人格是人之自由意志的外在体现。普赫塔曾指出,“人之所以为法律主体,便在于其所被赋予之自治可能,换言之,在于其意志。”[26]罗斯科·庞德则依据19世纪有关法律人格之本质的种种观点,例如,将意志看作法律人格的本质,认为法律人格是“正当意志的主观可能性”(黑格尔),还有将法律人格定义为“意志的法律能力”者(齐特尔曼),进一步区分了意志与法律意志。他认为,当把意志作为人格的本质要素时,作为法律人格的要素应该是法律意志,而不是自然意志。法律意志是任何人都具有的。对于缺乏自然意志或者尽管有一定自然意志但并不足以行使法律意志的主体来说,其法律意志可由其监护人或法定代理人代为行使。[27]

自然人和其他法律主体的意志能力有着不同的外在表现。对于自然人来说,意志往往通过一个人的行为表达出来,“自然人认识自己行为的动机与结果,并根据此认识决定其正常的意思之能力。”[28]而就法人而言,表征法人意志的则是团体设立成员之间的共同信念,该共同信念便是法人意志能力的外在体现。[29]

人工智能体意志能力判断的本质在于:决定人工智能体发挥具体功能或完成特定任务的算法能否与设计者、生产者等发生分离;或者说,人工智能体本身能否自主地创设出新的算法或摆脱既有算法的约束。若人工智能体仍完全受制于既有算法的束缚,那就难谓它有意志能力,也就不能被赋予独立的法律人格;若人工智能体可以摆脱既有算法的束缚,能够自主地发挥特定功能,完成某种动作或行为,那就可以说它具有某种程度的意志能力,法律便可以赋予其主体资格,或至少具有这种可能。此处试针对人工智能体的当下具体形态来分析其是否具有意志能力。

第一,在弱人工智能阶段,人工智能确实已发展出能做出一定的超出自然人能力范围的行为,如IBM的Watson和谷歌的AlphaGo在特定领域的惊人表现。但即便是高级弱人工智能的“智能”领域仍比较固定且单一,即其仅能在算法设置的任务范围内具备某种超出人类的“智能”,逾越这一范围就“愚不可及”。出现这一差别的原因是,人工智能不能做没有被训练的事。相比之下,“人类大脑可以接受到新任务,并找到执行方法,即使从未受到过这方面的训练”。[30]总之,机器和系统只是再造了人工智能或者再造了某些决定。但即使在再造人类决策的某些方面,弱人工智能所做的决策仍然被认为是由预先设计好的算法所决定。人工智能具有创造性可能仅是一种“错觉”,[31]弱人工智能不会产生自由意志的问题[32]。由于意志能力是法律人格本质要素,因此弱人工智能体不具备法律人格的实质性要件。

第二,但不可否认的是,弱人工智能体在一定范围内亦具有一定的认知能力,可以深度学习并不断适应新的环境,可以完成高难度的任务,这一点与一般工具不同。[33]甚至有学者指出,人工智能可以“合理表达自己的意志”,虽然这一意志的形成源于人工设定的程序(主要为算法)。[34]尤其是对于“能够通过像人一样的交流互动从而再现人类智能某些方面”的高级弱人工智能来说,更是如此。实际上,“我们对待高级弱人工智能会不由自主地像对待生活中的其他人一样,也就是说我们信任高级弱人工智能以及将高级弱人工智能纳入我们生活的方式将会区别于我们现在对待机器的方式。”[35]在这个意义上,在法律上像对待一般物理性工具一样来对待这种高级弱人工智能或许也并非完全合适。

第三,更为重要的是,人工智能给法律带来了可预见性(foreseeability)挑战。即弱人工智能可以与其所处环境自由交互,其所具有的“智能”很大程度上依赖于这种后天的交互经历。

“即使是最细心的设计者、编程者以及制造者都没有办法控制或者预测人工智能系统在脱离他们之后将会经历些什么。”[36]所以,人类无法预测人工智能系统如何行为。或许正是基于这一考虑,欧盟的立法才建议赋予精密机器人电子人地位。这一定位显然有利于合理界定人工智能的权利、义务甚至责任。[37]在此意义上我们说弱人工智能在客观事实上已经具备了部分意思能力也并不为过,且也符合生活现实。人工智能体虽还没有摆脱既有算法的束缚,形成其自由意志,但它也会在社会中产生一定的不确定性。法律为应对其带来的不确定性,在具体情形下承认其具备一定意思能力,或许会更利于协调各方主体之间的利益关系,也更符合社会现实的需求。

2.物质性要件的有无

物质性要件是指,拥有从事活动所需的财产或其它必要条件。相对于意志能力,物质性要件是判断法律人格的“形”。一个社会存在的实体要成为法律上的主体需具备与其活动主旨相一致的物质性条件,该物质性条件有可能是技能,比如杂技团存在的物质性条件便是具有特定技能的杂技员的存在;也有可能是身份,比如某校友会的存在,其校友身份便必不可少;该物质性条件更多的可能是财产,比如营利性法人的存在,财产便是最为重要的条件之一。

对于人工智能体来说,其物质性条件也可谓纷繁多样,因为这完全取决于人工智能体所要发挥的个体功能及社会功能,比如工厂做工机器人、家庭服务机器人、性机器人、乐器表演机器人、下棋机器人、自动驾驶机动车、无人机与无人艇等。但无论如何,财产可能是人工智能体一个极其重要的要件,因为讨论机器人是否具有法律主体资格,在最终意义上,还是在追问人工智能体能否独立承担法律责任尤其是财产性质的法律责任问题。在这个意义上,财产便是判断人工智能体能否成为法律主体的一个重要条件。

在当下的弱人工智能时代,还难以看到人工智能体拥有自己的财产。这其中最重要的原因是,无论是人工智能体的研发者还是生产者等,主要重视的还是人工智能体的工具性功能,尚未充分意识到人工智能体逐渐引发的诸多法律上争议。在积极意义上,人工智能体带来的收益应如何分配,比如微软机器人小冰的诗集权利归属;在消极意义上,人工智能体带来的损害应如何分配,比如自动驾驶汽车造成的交通事故,达芬奇机器人造成的医疗手术事故等,谁来承担法律责任。这些争议还没有充分引起人工智能体研发者、生产者以及使用者的充分认知。

第二个原因是,尽管已经出现了多起人工智能体侵害他人人身或财产利益的事例,也有人工智能体是否应该享有特定权利的探讨,但在法律上仍把人工智能体作为某项产品来对待,法律迄今也还没有出现责令人工智能体独立承担或与他人共同承担侵权赔偿等法律责任的案例。对于人工智能体产生损害的责任承担,当下主要还是由生产者来承担。

第三个原因是,即便人工智能发展的未来是让人工智能体独立或者与其他主体共同承担责任,但迄今仍还没有找到为人工智能体注入“第一桶金”的现实路径。即,当法律要求人工智能体须具备自身的财产时,谁为该人工智能买单?人类为人工智能体注入财产本质上仍是人类为成为主体之前的人工智能体承担责任。换句话说,无论通过什么路径,比如为人工智能体购买保险,或者为人工智能体设立专门基金等形式,只有那些现实或潜在的法律责任承担者才具有为人工智能注入“第一桶金”的压力与动力。

综上,从主体要件的物质性要求来说,至少在当下人工智能体尚没有取得主体资格的物质性要件。但这并非说,人工智能体不能成为法律主体,而是说如果法律要赋予人工智能体法律人格的话,人工智能体拥有一定程度的独立财产的条件便不可缺少,因为这不仅是其从事某种行为的法律基础,而更是其承担责任的法律保障。

(二)形式性要件

有了主、客观的社会实质,人工智能体也就成为“形”、“神”兼具的独立于自然人的一种社会存在实体。但即便如此,它也并非一定就能成为法律上的人。一个社会存在实体能否成为法律上的人,还要取决于法律的形式要求,即要符合法律的形式要件要求。法律是通过一套认可原则把客观实在纳入到法律主体之中的。自然人是随着出生通过人的存在而具有权利能力,法人的权利能力则通过国家的主权行为(staatlichenHoheitsakt)被授予。[38]弱人工智能作为一种社会存在,现在已经且将来将会越来越切实地参与人类的社会经济生活。承认其主体地位是一种社会的客观需要。人工智能体要取得主体资格的话,应该选择何种路径呢?当下,承认非自然人主体资格的法律路径主要有自由设立[39]、准则设立、行政许可、特许设立、强制设立等五种认可原则。[40]这些认可原则在设立之初仅是针对非自然人团体而言,而现代民法可将其扩张普适于所有非自然人民事主体。

法律通过什么样的形式来认定人工智能具有法律人格,是自由承认,还是准则设立,抑或行政许可?目前尚未有相关探索。《欧盟机器人民事法律草案》专门规定了“智能机器人的登记”。该条规定:“为了便于追溯,并便于实施进一步的建议,应根据为机器人分类制定的标准,引入先进机器人的登记系统。登记系统和登记应该涵盖全联盟的内部市场,并且可以由指定的欧盟机器人和人工智能机构管理,假使这一机构创建的话。”由此规定可见,第一,该种认可仅就其中高级人工智能为之;其次,对于人工智能的国家认可,有待于完善对人工智能本身的分类。立基于这种分类,建立机器人登记制度。登记制度的一个客观结果是,可以确保机器人与其赔偿基金之间的关联在机器人登记中得到体现,以便任何人都能知晓基金的性质、财产损害的责任限制以及其他相关信息。[41]

就人工智能法律人格的国家认可而言,准则主义(含登记)是较为妥适的选择。即法律对人工智能法律人格规定一定的条件,只要符合此条件即可获得法律人格。原因在于,强制设立、特许设立原则要么失之过严,要么有违私法自治,在民法上都不具普遍意义。采取准则主义模式的合理性在于:首先,在此模式下,国家对于弱人工智能尤其是高级弱人工智能进入社会可以较为有效的控制;其次,采取准则主义在实践操作上具有可行性。原因在于:人工智能国际标准正在确立并不断完善。ISO/IEC JTC 1(国际标准化组织和国际电工委员会第一联合技术委员会)在人工智能领域的标准化工作已有20多年的历史,并专门成立了人工智能分技术会SC 42,主要负责研究制定人工智能国际标准。[42]技术标准的确立为人工智能之分级和设立准则的确立提供了依据。当然,除了准则主义外,法律应根据人工智能体的实际情况,对其他的认可准则持开放态度。这样做既坚持了基本的认可原则,又可保持认可原则总体上的开放性。

在准则主义模式下,人工智能体的法律人格在我国现行法上的实施路径,还可以借鉴法人登记制度对赋予主体地位的人工智能体予以登记,即依据《公司法》六条“设立公司,应当依法向公司登记机关申请设立登记。”自登记时起弱人工智能获取法律人格,其法律人格在注销登记时消灭。有学者还指出,“当智能机器人不再符合技术标准时,可认定其符合报废标准,经适用强制报废制度强制报废后,方可进行注销登记。”[43]

应该说,采用准则设立具有一定的可操作性,但实际上需要考虑的问题还很多。首先,谁负有为人工智能体申请成为法律主体的义务,如果没有或怠于行使会产生何种法律责任?其次,取消人工智能体法律主体资格的条件到底如何设立?采用何种手段予以报废?其债务如何处理?其剩余财产如何分配?等等,都还需要法律详细斟酌与考虑。无论如何,主体资格的形式性要件(即认可原则),其实反映了一个国家或社会对某种社会存在(如人工智能体)的一种价值态度,具体说就是,法律应对人工智能发展所采取的态度,不同的价值选择会决定承认人工智能体的不同认可形式。但无论采用何种认可原则,最为核心的是,既要考虑到对人工智能体发展或其权利实现的积极价值,也要顾及并平衡该认可原则的消极价值,而不应令人工智能免于或逃脱其本应承担的侵权责任等法律后果。

四、人工智能体法律人格的现行法认定及未来立法设想

(一)人工智能体法律人格在我国现行法中的认定

在我国法律对人工智能体的主体地位做出明确规定前,现行法律亦应针对相关法律问题做出应有的准备。

1.部分弱人工智能体应被认定为权利客体

弱人工智能体有不同的存在样态,如机械手、无人机、无人艇、自动驾驶汽车和人形机器人等,在现阶段原则上被认定为权利客体更为合适。人工智能的本质是算法,本质上可以将其界定为软件,算法在现阶段应属于知识产权的客体。人工智能体则是人工智能系统与其载体相结合的产物,比如机械手、自动驾驶汽车等可能构成民法上的“物”(《民法总则》115条),此时权利人对其享有的权利,可以界定为物权(《民法总则》114条)。

将大多数弱人工智能体认定为权利客体,并不妨碍区分具体情形解决其致害责任的分配问题。如自动驾驶汽车致害时,可能发生责任竞合问题,即产品责任(《侵权责任法》43条)与机动车交通事故责任(《道交法》第76条)的竞合。当然,也有可能类推适用动物饲养人和管理人的责任(《侵权责任法》78条)处理人工智能致害问题。不同的责任,需要运用相应的法律方法进行论证,比如,如果适用机动车交通事故责任,对于驾驶人的认定可通过扩张解释的方式将生产者认定为驾驶人等。

2.通过法律解释将部分高级人工智能体认定为法律主体

虽然不具备通用智能,但弱人工智能具备学习能力,在某领域应用已经超越人类。该技术现实显然不同于人类既有的科技进步,其导致的结果是,人工智能体不再仅仅是工具,而且将“主体-客体”间单向的服务变为双向的交流。这一根本性的变革,促使人类制度设计时将人工智能之智能及其带来的不可预测性纳入到考虑的范围。[44]因此,若出现需要对特定的人工智能体予以保护或承担责任的具体情形,可以将其扩张解释为法律主体。需要指出的是,这里之所以采用扩张解释的法律适用方法,不是因为法律绝对不承认这些人工智能体的法律人格,而是由于现行法上找不到明确赋予其法律人格的具体规定。在当下若有必要,也就只能依据扩张解释的法律适用方法认定某些高级弱人工智能的主体地位。

具体来说,《民法总则》128条规定:“法律对未成年人、老年人、残疾人、妇女、消费者等的民事权利保护有特别规定的,依照其规定。”该条为引致条款,其立法目的在于保护未经列举的弱势群体的民事权益。基于这一立法目的,该条之“等”应认定为“等外等”,即在条文的列举之外,还包括有待特别保护的其他劣势群体。在现阶段,司法实践可将人工智能作为一类“弱势群体”解释进本条的“等”字,适用本条对人工智能施加保护。这一路径在本质上仍需扩张解释路径把人工智能认定为主体。这仅仅是权宜之策。人工智能体将来确有必要被赋予主体地位,未来应以立法的方式对人工智能体的主体地位及具体权利义务予以明确规定。

(二)人工智能体享有法律人格的设想

1.人工智能体主体要件的法律确立

将来如果法律采用准则主义赋予人工智能体主体资格的话,那就应该在法律上明确人工智能体取得主体地位的实质性要件,即意志能力及具体的物质性要件。

(1)意志能力的认定

人工智能体意志能力的认定原则是,其本身至少能够适度摆脱固有算法的束缚,而形成一定程度的自主学习与创造能力。这就需要结合国家或者国际特定组织有关人工智能的认定标准,尤其是建立在对人工智能体进行具体智能分级的基础上。比如,国际自动机工程师学会(SAE)2014年发布了自动驾驶汽车的六阶段分级。依次为全手动驾驶、驾驶辅助、部分自动驾驶、有条件自动驾驶、高度自动驾驶与完全自动驾驶。[45]其中,手动驾驶和驾驶辅助仍然属于人类驾驶的范畴。在第三、四阶段即部分自动驾驶和有条件自动驾驶阶段,由于自动驾驶系统智能之提升,出现自动驾驶系统驾驶车辆而人类负有一定注意义务的人机混合模式。到了高度自动驾驶与完全自动驾驶,则自动驾驶系统之智能已经近乎通用智能。法律不妨将具备特定自主学习能力与创造能力(即意志能力)的人工智能体承认为法律主体。澳大利亚学者苏莱曼认为人工智能应具备如下要件:第一,与人类进行交互的能力;第二,内部知识;第三,对外部世界的知识;第四,一定程度上的意向性;第五,一定程度上的创造力。[46]对人工智能体之智能条件的判断分析与考量,为判断与辨认其意志能力提供了一定程度的可资依据的原则与相对明确的标准。

(2)人工智能体物质性要件的实现路径

物质性要件是赋予法律主体资格的核心考量,而对于人工智能体来说则更是如此,因为这决定着人工智能体能否独立承担相应的责任。人工智能体的物质性条件主要体现在其自身能否拥有特定的财产。若能够拥有的话,其初始的财产应该来源于何处?现在主要有两种方式可供参考:

第一,为人工智能强制投保责任保险(AI insurance)。人工智能发展最为成熟的领域之一为自动驾驶汽车。鉴于自动驾驶系统的不可预测性,在人类参与者之间分配责任不利于简化利益关系。因此让人工智能承担责任成为制度设计的选项。依据前述非人类主体获取法律人格的要件,人工智能法律人格获取有待于人类为其创设承担责任的物质条件,作为责任财产赔偿受害人的损害。保险在现代交通事故赔偿中的作用已经经过长期的验证,因此为弥补人工智能民事责任承担不足的问题,人工智能保险成为现实的选择。在理论上,人工智能体作为主体参与民事法律关系,当然应为行为承担民事责任。[47]“通过建立强制保险制度,每个具有人工智能功能的机器都需要买保险,形成潜在的资金池支付保险金。假设人工智能参与保险并需要承担责任,任何支付结算数额均限于保险金,所有权人和制造商永远不会支付更多费用。”[48]

第二,设立人工智能储备基金(AI Reserve Fund)。对于那些不太可能造成重大生命和财产损失的人工智能产品(比如Siri、人工智能家庭管家、人工智能作家,等等),有美国学者建议,应该对任何购买人工智能产品的人增加一个责任附加费,来创立一个全州或全行业的责任基金。[49]储备基金可能适用的情况是,“人工智能虽然完全按照应有的原则和被设计的那样运行,仍然发生了事故。……那么也许你可以用人工智能储备基金作为获得赔偿的某种方式。如果实行了这一制度,可能需要限制最高索赔数额,以便为真正需求的人保留储备基金。”[50]

2.赋予人工智能体法律人格的意义

当下,即便有限度地赋予人工智能体主体地位,它也更可能类似于《民法总则》2条规定的非法人组织,即,它虽具有完全的民事权利能力,但在责任承担上,可能还不能像法人一样完全以自己的财产承担有限责任。人工智能体造成损害的责任承担,可能还不能完全跟其生产者等主体完全脱离法律关系。承认人工智能体法律人格有利于明晰法律关系,[51]创设具体的权利义务,妥适地分担致害责任,也为将人工智能的未来发展纳入法律轨道创设了基础性条件。一旦人工智能体具有了法律人格,其就具有了同自然人、法人、非法人组织等相同的法律地位,其法律人格便是完整的,并没有部分或者有限之说。[52]但人工智能体具体的权利义务以及其与研发者、生产者、使用者等主体的具体法律关系,尚需法律做出进一步的规定。

(三)制定“人工智能发展法”

伴随着人工智能的迅速发展,无论是产业的人工智能,还是作为社会存在的人工智能体,当下都需要法律做出及时有效的应对,比如自动驾驶汽车能否上路,无人艇、无人机等航线的获准及开辟,都已是摆在人们眼前的现实问题。若考虑到未来,考虑到各种各样的人工智能体的社会存在样态,是否准许特定种类人工智能的存在,存在后如何规制其行为,其产生的法律争议如何解决,等等,制定“人工智能发展法”已经变得非常紧迫。尽管这不仅仅是一国之内的事,但一个大国,尤其是将发展人工智能列为国家战略的大国,应在人工智能具体法律规则制定或者法律原则性引领方面做出领先尝试,从而更为有效地引导人工智能的积极发展。[53]对于如何进行人工智能立法,目前存在不同的看法。有学者主张设置统一的人工智能法,这一观点承认,未来人工智能的立法会更为细化、类型化,不同的行业,如汽车、外科医生和律师等,可能会需要不同的人工智能立法;而那些开发人工智能的公司,在他们开发新的人工智能时,也将需要具有可预测性的和一致性的法律,即需要为人工智能提供总体的标准和原则,为特定类型的人工智能体提供具体操作规范的统一行业法律规范等。因此,该观点认为,未来可能会出现某种统一人工智能法典,类似于许多其他统一法案,比如商品交易法、信托法、联邦药品管理法,等等。统一法律将会为人工智能提供总体的标准和原则,允许必要时颁布特定类型的人工智能领域更具体的操作规范。[54]但是,目前可能更适宜进行分别立法,原因是人工智能的技术尚处于不断进步的阶段,人们对于人工智能的认识也仍然有限,尚无条件进行统一立法。采取分别立法路径,先就最为突出的问题进行立法规制。比如,针对自动驾驶汽车进行专门立法。德国为适应自动驾驶颁布了《道路交通法第八修正案》、2018年英国出台了《自动与电动汽车法案》等都是这种努力。自动驾驶汽车的相关立法显然可以为人工智能统一立法提供参照,也为我们预测将来人工智能立法提供了方法。但需要明确的是,两种观点并非截然对立,分别立法仅是权宜之计,我们有充足的理由为未来人工智能统一立法进行系列的准备,比如设立一个联合的人工智能委员会等。由此亦可看出,未来的人工智能立法还有漫长的道路要走。

结语

主体制度本身是一种价值判断。从“人可非人”到“非人可人”反映了对人权的保护和人类文明的进步程度,因为多元主体资格的承认在终极意义上都是对自然人尊严平等与人格自由的尊重。[55]人工智能体作为新生的社会存在物,对其法律主体资格的赋予,仍需奉行与强化这一普适的人之价值。人工智能时代已逐步走来,弱人工智能体已有丰富多彩的存在样态并日新月异地更新换代,如果我们希望人工智能体(包括未来可能存在的强人工智能体)能善待自然人类的话,那自然人类也应该“把机器人当成人类一样对待”,这不仅是出于善待它们“也会使我们更具人性”,[56]而更为重要的是表达出自然人类对人工智能体拥有同情与关爱之良善本性的内在渴望。因此,无论是否赋予人工智能法律人格,或者赋予人工智能怎样的法律人格,其目的或目标都是或至少都应是关心与关爱自然人类及自然生态的健康发展与成长!离开了对自然人类、自然生态以及对人工智能体本身的关爱与同情,一切讨论既无法律意义,更无伦理价值!

责任编辑:李国强

【注释】 *彭诚信,法学博士,上海交通大学凯原法学院教授,博士生导师;陈吉栋,法学博士,上海大学法学院讲师,硕士生导师。本文是2018年国家哲学社会科学重大基金项目“大数据时代个人数据保护与数据权利体系研究”(18ZDA145)、2016年国家哲学社会科学重点基金项目“程序性权利理论的提出与证成研究”(16AFX003)与上海市哲社青年课题“人工智能的民法应对:以‘算法’解释为中心”(2018EFX007)的阶段性研究成果。

[1][美]皮埃罗·斯加鲁菲:《智能的本质:人工智能与机器人领域的64个大问题》,任莉、张建宇译,中国工信出版集团、人民邮电出版社2018年版,第209页。

[2]杨延超:《人工智能对知识产权法的挑战》,《治理研究》2018年第5期,第123页。

[3]此类社会事件屡见报端,如微软机器人小冰出版诗集,美国Uber自动驾驶汽车撞死行人等。我国学者对此问题的讨论,参见吴汉东:《人工智能时代的制度安排与法律》,《法律科学》2017年第5期,第128-136页;王迁:《论人工智能生成的内容在著作权法中的定性》,《法律科学》2017年第5期,第148-155页等。

[4]对人工智能主体地位的法律讨论,建立在技术上对于弱人工智能、强人工智能与超人工智能的区分的基础上。参见前引[1],[美]皮埃罗·斯加鲁菲书,第174-189页。由于在技术界定上,强人工智能是属于人类级别的人工智能,超人工智能其计算和思维能力已经远超人脑。参见黄铁军:《类脑计算机的现在与未来》,《光明日报》2015年12月6日,第8版。我们认为人工智能在这两个阶段皆应具有法律人格,本文主要针对弱人工智能进行论述。

[5]《人工智能如何实现全球治理?20条需要优先研究的问题》,https://www.sohu.com/a/163200682_466841。

[6]前引[2],杨延超文,第127页。

[7][美]约翰·弗兰克·韦弗:《机器人是人吗?》,彭诚信主编,刘海安等译,上海人民出版社2018年版,第35页。

[8][美]瑞恩·卡洛、迈克尔·弗鲁姆金、[加]伊恩·克尔:《人工智能与法律的对话》,彭诚信主编,陈吉栋、董惠敏等译,上海人民出版社2018年版,第182页。

[9]参见前引[8],[美]瑞恩·卡洛、迈克尔·弗鲁姆金、[加拿大]伊恩·克尔书,第201页。

[10]参见郝铁川:《不可幻想和高估人工智能对法治的影响》,《法制日报》2018年1月3日第10版。

[11]See Jennifer Robertson, “Human Rights vs RobotRights: Forecasts from Japan”,46 Critical Asian Studies 571-598(2014);《沙特授予“女性”机器人公民身份》,http://news.163. com/photoview/00AO0001/2280069.html#p = D1P4RSCH 00AO0001NOS.

[12]Susanne Beck, “The Problem of Ascribing Legal Responsibility in the Case of Robotics”,31 AI & Soc 473-481(2016).

[13]参见赵万一:《机器人的法律主体地位辨析——兼谈对机器人进行法律规制的基本要求》,《贵州民族大学学报(哲学社会科学版)》2018年第3期,第157-158页。

[14]参见彭诚信:《主体性与私权制度研究》,中国人民大学出版社2005年版,第6页。

[15]除上述学说外,客体说还有诸如:认知能力匮乏说;意思能力匮乏说;痛苦感知说;人类生命神圣说;类人格说等主张,不再一一论述。

[16]The European Parliament, With Recommendations to the Commission on Civil Law Rules on Robotics, 2015/2103(INL), http://www.europarleuropa.eu/sides/getDoc.do? Language=ENaereference=A8-2017-0005&type=REPORT, last visited on 25 December 2018.

[17]See Samir Chopra, Laurence F White, A Legal Theory for Autonomous Artificial Agents, University of Michigan Press, 2011.

[18]See Lawrence Solum, “Legal Personhood for Artificial Intelligences”,70 North Carolina Law Review 1231-1287(1992).

[19]参见陈吉栋:《论机器人的法律人格——基于法释义学的讨论》,《上海大学学报(社会科学版)》2018年第3期,第83页。

[20]参见郭少飞:《“电子人”法律主体论》,《东方法学》2018年第3期,第38-49页。

[21]参见袁曾:《人工智能有限法律人格审视》,《东方法学》2017年第5期,第53-55页。

[22]参见前引[19],陈吉栋文,第86-87页;金东寒主编:《秩序的重构——人工智能与人类社会》,上海大学出版社2017年,第86页。

[23]https://isearch.nhtsa.gov/files/Google%20--%20compiled%20response%20to%2012%20Nov%20%2015%20interp%20request%20--%204%20Feb%2016%20final.htm, last visited on 10 December 2018.

[24]参见[德]卡尔·拉伦茨:《德国民法通论(上册)》,王晓晔等译,法律出版社2003年版,第181页。

[25]有关民事主体资格一般要件的研究,可参见彭诚信:《论民事主体》,《法制与社会发展》1997年第3期,第15-20页。

[26]Puchta, Gursus der Institutionen, 10th ed.,Leipzig: Breitkopf&H?rtel, 1873.转引自[奥]凯尔森:《纯粹法理论》,张书友译,中国法制出版社2008年版,第68页。

[27]参见[美]罗斯科·庞德:《法理学》(第四卷),王保民、王玉译,法律出版社2007年版,第153-155页。

[28]梁慧星:《民法总论》,法律出版社2017年版,第94页。

[29]参见李建华、彭诚信:《民法总论》,吉林大学出版社2008年版,第89页。

[30]前引[1],[美]皮埃罗·斯加鲁菲书,第180、181页。

[31]参见Matthew U. Scherer:《监管人工智能系统:风险、挑战、能力和策略》,曹建峰、李金磊译,《信息安全与通信保密》2017年第3期,第49页。

[32]参见前引[7],[美]约翰·弗兰克·韦弗书,第6页。

[33]See David C. Vladeck, “Machines Without Principals: Liability Rules and Artificial Intelligence”,89 Wash. L. Rev.117(2014).

[34]See Tom Allen &RobinWiddison, “Can Computers Make Contracts?”,9 HARV. J. L.& TECH.25(1996).

[35]前引[7],[美]约翰·弗兰克·韦弗书,第7页。

[36]前引[31],Matthew U. Scherer文,第49页。

[37]我国有学者持此观点,参见司晓、曹建峰:《智能机器人的民事责任探析》,http://tisi.org/4941_58,最后访问日期2018年11月10日。

[38][德]本德·吕斯特、阿斯特丽德·施塔德勒:《德国民法总论》,法律出版社2017年版,第124页。

[39]《瑞士民法典》第60条规定:“以政治、宗教、学术、艺术、慈善、社交为目的,或者其他非以经济为目的的社团,自设立该团体的意思明确表示于章程时,取得法律人格。”《瑞士民法典》,戴永盛译,中国政法大学出版社2016年版。

[40]参见施启扬:《民法总则》,中国法制出版社2010年版,第128-129页。

[41]参见司晓、曹建峰:《智能机器人的民事责任探析》,http://tisi.org/4941_58,最终访问日期2018年11月10日。

[42]《ISO/IEC JTC 1/SC 42人工智能分技术委员会第一次全会在京召开》,http://www.sac.gov.cn/sgybzeb/xwxc/201804/t20180425_342245. htm。

[43]刘晓纯、达亚冲:《智能机器人的法律人格审视》,《前沿》2018年第3期,第87页。

[44]参见陈景辉:《人工智能的法律挑战:应该从哪里开始?》,《比较法研究》2018年第5期,第144页。

[45]更为详细的论证,请参见冯珏:《自动驾驶汽车致损的民事侵权责任》,《中国法学》2018年第6期,第117-118页。

[46]See S. M. Solaiman, “Legal Personality of Robots, Corporations, Idols and Chimpanzees: A Quest for Legitimacy”,25 Artificial Intelligence and Law 171-172(2017).

[47]参见许中缘:《论智能机器人的工具性人格》,《法学杂志》2018年第5期,第160页。

[48]前引[7],[美]约翰·弗兰克·韦弗书,第34页。

[49]参见前引[7],[美]约翰·弗兰克·韦弗书,第34、233页。

[50]前引[7],[美]约翰·弗兰克·韦弗书,第75页。

[51]有学者指出,对法人法律人格的赋予,也发挥着简化法律关系的重任。参见王雷:《我国民法典编纂中的团体法思维》,《当代法学》2015年第4期,第70页。

[52]参见李建华、彭诚信:《民法总论》,吉林大学出版社2008年版,第88页。

[53]国内也有学者提出这种观点,参见前引[21],袁曾文,第57页。

[54]参见前引[7],[美]约翰·弗兰克·韦弗书,第78页。

[55]参见前引[25],彭诚信文,第23页。

[56]前引[7],[美]约翰·弗兰克·韦弗书,第233页。

【期刊名称】《当代法学》【期刊年份】 2019年 【期号】2