社科网首页 | 客户端 | 官方微博 | 报刊投稿 | 邮箱 中国社会科学网
当前位置:首页 >

平台视角中的人工智能法律责任

作者:胡 凌

摘要:本文认为人工智能的法律研究应当从为特殊主体设计法律制度的拟制思路转向生产性思路,即理解人工智能在多大程度上帮助平台企业变得更智能(或者平台本身就是一个人工智能体),从而不断要求将平台基础服务、交易流程、终端设备、连接网络等核心要素与其调动的生产性资源相分离,在形式上看成是这些生产性资源“自愿”进入交易网络的过程。只有在法律上最终确保这一点,依托普遍的人工智能基础设施催生的自动化轻资产经济才能成为现实。这个过程恰好是上层建筑(网络法)面对经济基础(信息经济新生产方式)需要不断进行的回应和调整,也是自互联网商业化以来对法律造成的最大影响。其中涉及的核心问题之一是平台责任水平的设置问题,有必要从网络连接、基础设施服务和控制力三个角度进行讨论。

关键词:人工智能;平台;网络连接;基础设施服务;控制力

 

一、引言

人工智能业已成为重要的法学研究话题,现有研究更多聚焦于想象,即探讨未来那些可能在技术上突破奇点从而具有自主意识的机器或人工智能体在法律上具有何种地位,从而关联起一整套关于拟制的机器“人”的法律体系和伦理关系,例如人机交互、拥有独立人格、独立承担责任、拥有言论自由、拥有财产、创造的作品得到著作权法保护等。从经验上来说这些尚未发生,但人工智能技术(从深度学习、数据挖掘到人脸识别、语音识别、自动化推荐等)已经得到越来越广泛的社会应用,有必要将关注焦点集中在现有技术应用带来的实际法律问题上。

但问题仍然没有解决:似乎在现有技术应用和科学条件下难以判断、预测和设计高度智能化的人工智能体的法律地位(例如很难设想L3及以上的自动驾驶汽车普遍上路后给社会带来的影响,或者天猫精灵音箱进一步演变成家居机器人),但也不能说这种研究思路就错了,我们只能随着时间推移证明这些判断的真伪(只是现实发展过于迅速,应该没有人记得谁说过什么)。过去的法学知识和经验难以用来添加到对未来看似新颖的问题讨论上面,人们只能不停地对未来进行设计,这是人工智能法律研究的一个困境,即无法证实或证伪。作为经验性知识的法学如何不断被要求适应未来的跳跃性变化,既保持问题意识的连续性,又反映新问题的特殊性,是人工智能研究的深层方法论问题。

本文试图重新审视和讨论人工智能的法律问题,既对未来保持开放(奇点确实可能存在,法律确实会承认人工智能主体地位),又立基于现有积累起来的问题意识和经验。这一角度本不难理解,即将人工智能嫁接在一个更大范围的网络法问题域中,认为目前提出的关于人工智能的问题不过是网络法核心问题的延续,从而将人工智能定位为组织社会生产的过程之一部分,而且是越来越重要的引擎;由此,其法律问题更多地是回应由自动化经济生产和价值分配引发的利益冲突,至少体现为(1)人工智能平台之间的竞争关系,以及(2)经由平台调动的生产性资源(特别是劳动者/消费者)和平台之间的法律关系。这一生产性的视角可以用来解释:(1)具有规制能力的代码(或架构)如何被用来促进和组织生产;(2)新经济需要低成本地调动社会范围内的生产性资源,降低平台责任,并要求法律回应低责任水平,包括个人信息保护、知识产权保护、平台行政义务等;(3)私人财产、隐私、劳动关系等法律问题如何伴随信息技术带来的灵活性而被嵌入更广泛的生产过程中逐渐消失。人工智能时代无疑延续了这些问题。

这一“非人格化”的角度实际上并不排斥在未来某个时间点出现“人格化”的人工智能体,也不拒绝法律承认其特定的主体地位以及设计配套制度(这些无论如何都比技术问题容易解决,比如“拟制”)。但真正的问题是,即使出现了看上去独立的“人格化”人工智能体,其背后代表的社会生产关系和生产方式也可能没有太大的变化,仍然可以放在目前观察新经济生产方式的基本框架下讨论(例如,自动驾驶汽车或天猫精灵并非只是智能设备而是一个平台入口,从而是生产过程不可分离的有机组成)。甚至可以说,沿着这一基本框架,可以在理论上推导出“人格化”人工智能也很可能出现,或者,未来新经济的发展会要求法律承认这样一种“物种”的主体地位,而无论在本体论意义上是否真的达到了奇点。在这一过程中,我们看到的只是智能平台不断增强对灵活流动资源的调配、加强基础设施服务和提升控制力进而获利,同时在法律形式上和这些资源保持相当的距离,避免任何强责任形式(例如连带责任甚至避风港责任),最终将风险转移给社会。平台的运行越是智能和自动化,甚至将智能终端产品在形式上剥离出其控制架构,使其看上去更加独立,平台运营者越有理由要求降低平台责任,或者要求将智能终端产品“人格化”,与其在责任承担上切割,但同时又不放松对其控制和影响。就人工智能而言,这种诉求突出地体现在经由区块链技术实现的“去中心化的自主性组织”(Decentralized Autonomous Organization,下文简称DAO),以及各类业已出现的独立智能产品上。

因此,本文认为人工智能的法律研究应当从为特殊主体设计法律制度的拟制思路转向生产性思路,即理解人工智能在多大程度上帮助平台企业变得更智能和自动化(或者平台本身就是一个人工智能体),从而不断要求将平台基础服务、交易流程、终端设备、连接网络等核心要素与其调动的生产性资源相分离,在形式上看成是这些生产性资源“自愿”进入交易网络的过程。只有在法律上最终确保这一点,依托普遍基础设施的自动化轻资产经济才能成为现实。这个过程恰好是上层建筑(网络法)面对经济基础(信息经济新生产方式)需要不断进行的回应和调整,也是自互联网商业化以来对反映工业经济生产方式的法律带来的最大影响。其中涉及的核心问题之一便是平台责任水平的设置问题。

本文试图结合围绕平台责任的三个往往被忽视的争议点对“人工智能平台想要什么”进行讨论,它们是:(1)“连接”对于网络化的经济十分关键,如何塑造价值生产网络,同时在法律上避免承担因连接产生的第三方行为责任,重新解释避风港责任就成为新经济形态的主要争夺领域;(2)像算法、云储存、交易流程和网络这样的平台基础服务越来越成为平台活动的普遍底层服务,如何在法律上将中立的底层服务与上层交易相分离,在竞争法领域需要对实际存在的黑箱进行分割;(3)控制力对组织社会化生产十分必要,如何在不同的法律领域避免因控制力(从属性)标准而改变法律关系、增加平台运营成本,在劳动法等领域正在不断出现这类问题。这三个问题在理论上直接或间接地回应了网络法的经典“代码/架构理论”,正是在不断生成演化的架构构成的场域中,人工智能才能不断发挥其调配生产的功能。

本文按照如下内容展开,第二节基于代码理论回顾作为一种生产方式的人工智能如何通过平台企业发挥作用;第三节讨论智能平台的生产依赖于不断生成的交易网络,并有意识地塑造这些网络与连接,但会将这些网络连接的形成描述成“自动接入”或“自主选择”,从而遮蔽自身塑造网络的现实;第四节讨论自动化的另一个面向,即智能平台的基础服务,认为平台越是智能就越有动力在竞争法上将基础服务与增值服务相分离;第五节讨论控制力和平台责任的关系,即人工智能可以使平台实际控制力进一步增强,但在法律形式上却尽力避免因这种控制力而产生的连带责任。最后总结本文的发现。

二、当平台变得智能化和自动化

(一)生产性代码理论

无论是人工智能还是区块链法律研究,研究者都会追溯到网络法核心理论——代码/架构理论。这一理论清楚地将影响社会主体行为的要素简化为四类:法律、社会规范、市场与架构,并探讨它们在赛博空间中继续起作用的方式。特别地,在劳伦斯·莱斯格(Lawrence Lessig)看来,互联网上架构(代码)设计在规制人的行为上要比法律规则更为有效,在隐喻意义上,“代码就是法律”。值得注意的是,他从一个与讨论法律(特别是法律实证主义)极为相似的角度讨论比较代码的特性,本文称之为“实证性代码理论”。首先,代码被描述为一套纯粹社会学意义上存在的设施。这种想象和“赛博空间”(cyberspace)的隐喻紧密结合在一起,自然而然地延伸至空间主权的讨论。其次,即使在说明代码与商业力量关系时,该理论也较少解释代码如何按照精细的互联网经济需求进行设计,而更多地转向法律介入赛博空间的前景,聚焦于一个作为抽象社会系统的法律和另一个——代码或技术——之间的关系。这种思路融合了传统的法律与社会视角,在新经济环境下为探究法律与其他社会要素的关系增添了新注脚,也体现了法律人讲求多元规制的某种“均衡思维”。从这个意义上说,代码理论既是一种描述式经验理论,又是一种主张约束代码的规范理论(其规范性来源于宪法价值或社会共识)。第三,代码与脱胎于其中的社会经济生产状况以及价值生产方式剥离开来,以貌似中立的无害身份出现,同时获得强大的控制力和自主性。正是在这种脱离社会经济基础的“互联网例外论”语境下,平台才能够和运行于其上的经济资源加以区分,进一步引发出平台责任、网络中立等争论,构成网络法理论演进的基本逻辑。

实证性代码理论指出了代码作为新型社会权力的功能,成为一个广为应用的框架,但没能历史地解释代码及其商业模式的兴起和复杂演进,也无法帮助人们深入理解代码的本质。互联网四十余年的发展已经充分表明,尽管政治和军事是赛博空间建立的第一推动力,作为一种新型生产方式的新经济在随后推动信息技术扩散的过程中起到了更为基础的作用。由此我们需要一种更具政治经济学意味的“生产性代码理论”,按照这一理论,赛博空间中得以产生经济价值的资源生产是代码设计的核心目标,人的行为被转化为形式多样的劳动(通过抽象的“一般数据”加以凝炼和遮掩)。代码按照商业目的创造了新型虚拟资源,是该资源的存在与承载方式,也是对该资源的数字化保护和管理手段;在力有不逮的情形下,甚至还需要法律等要素的共同保护。代码及其特殊的商业模式创造了新生产渠道,使价值得以超越传统产业组织在一个更大范围内产生。历史地看,代码的技术自主性是在不断和代码之外生产体系冲突博弈的过程中生长出来的,这一过程伴随着盗版、侵权、不正当竞争、各种鼓励大众生产的意识形态,并最终借助用户群体的集体选择而确立了合法性。同时,代码不仅试图独立于法律的介入,更希望法律能够确认其合法性,为其保驾护航。

从这个意义上说,代码既是对赛博空间中活动空间和架构的客观描述,也是价值生产过程的驱动力,本身就代表了新型生产方式。随着代码的演进,新社会生产组织——平台——的地位愈加凸显。当驱动平台的智能算法能够进行身份认证、交易匹配、识别语音、分析偏好、帮助完成交易等,整个平台就已经成为一个人工智能体。这个人工智能体的内部组织构成尚未得到探讨,可以从架构视角划分为具有不同功能但相互联系的层次,这能够防止简单地回答智能平台究竟是企业还是市场的两重性问题。企业与市场的二分既起源于有效组织经济生产的成本(企业内部的交易成本小于通过市场机制的信息成本),也来自对组织之间的竞争秩序在法律上的维护(企业通过劳动合同固定劳动关系,并承担一定的社会保障义务)。但信息技术的低成本打破了这一分界,使得大量生产要素可以更加灵活地转移匹配,那些对生产要素具有更强控制力的平台更接近于集中式企业形态,它们可以稳定地通过各种手段从高度流动性中获利;而那些控制力较弱的平台则更像是分散化市场,无法形成用户黏性。因此有必要深入智能平台内部观察控制力的来源和实践,以便理解人工智能体的实质。

(二)当人工智能嵌入生产方式

平台企业的形态一直在发生演进,不仅体现为服务出现在不同终端上(如可穿戴设备),还体现在不断推动越来越多的私人基础设施服务(详见第四节)。自动化平台无疑会降低运营成本,将一切都变成无法更改的默认设置,用户要么选择加入,只是按照设计使用该服务,要么退出不再使用。当人工智能不断嵌入这一生产方式时,就逐渐形成了可以被描述成智能合约的一整套自动运行的系统,该系统看上去像永动机一样自动运行,基本的交易规则和基础服务成为默认设置,通过架构设计强制执行,参与者被赋予不同程度的激励(例如根据参与程度获得声誉积分或虚拟币)便于其参与到经济活动中。在这个过程中,智能平台的运作逻辑是一贯的,即通过免费内容或服务吸引用户,通过双边市场形成稳定的交易网络,收集用户活动形成数据并通过算法挖掘预测,并不断加强基础服务使服务流程更加自动化和便利,从而形成有效闭环。更具体地,目前人工智能技术可以在图1展示的平台架构不同层面上得到使用:

1.在算法层和云端,人工智能成为算法黑箱,能够对资源进行匹配预测;

2.交易流程可以通过人工智能设计得更加自动化,强制执行平台规范和用户/开发者协议,用户服务界面也更加因人而异;

3.对生产性资源的活动和使用情况自动评分或发币;

4.通过账户对用户进行认证与识别,如人脸和语音识别;

5.体现在外部终端的服务智能(如语音机器人),最终能够形成更加独立的人工智能体(如无人驾驶汽车)。

上述分层应用都被整合在同一个平台生产过程中,但就目前能够观察的趋势是,人工智能应用开发恰好出现了两种看上去截然相反的路径:第一种路径是平台的运行进一步自动化,平台运营者(软件开发者)声称不对平台上的用户活动负责,因为整个交易体系都可以由一个事先设计好的默认基础架构完成。这一路径在互联网发展早期以P2P分享软件形态出现,不断通过“技术中立”的意识形态论证其正当性,而当下的极端情况便是经由智能合约设计而产生的DAO,成为一种“无组织的组织”。第二种路径则是打造智能终端产品,这些产品看上去是独立的,可以正常出售给消费者,在表面上脱离云端后台的控制和影响,成为单独提供服务的终端;但它会不断收集用户数据(如语音、服务使用记录),并能够继续接收来自云端的软件和数据更新,甚至与其他人工智能体互动形成网络,不断学习,从而提供更好的服务。生产商将智能硬件出售给用户,但实际上其商业模式是大规模出租,因为这些人工智能体在本质上不受用户控制,无法轻易行使支配权,其本身就是一个更大的人工智能集群的个体代理人。从这个意义上说,上述两种路径殊途同归,体现了智能平台在不同方向上的演进,而且在法律上的诉求也趋于一致。

不难设想,如果将DAO或智能终端视为独立的法律人格主体,切断组织生产的平台控制行为与实际生成价值的具体行为之间的法律联系,那么就明显会减轻服务提供者或开发者的责任。法教义学和伦理学思路的根源和缺陷在于没有将人工智能体视为价值生产过程,因此看不到它们本身就是平台的一部分(或入口),而平台运营者在一定条件下需要为其服务活动承担责任。在这种情况下,智能平台运营者无疑能获得一系列法律给予的优势地位,在现有的实践中已得到初步体现,包括:

1.给予算法以言论自由,因此搜索引擎服务商不必承担过多言论审查义务,否则便是不当干预“言论”;

2.仅承担终端硬件产品责任,但不承担软件更新带来的风险,和目前的电脑和手机终端服务条款如出一辙;

3.持续获取和追踪用户的数据进行分析,以便为用户提供更好的服务,同时也在密切监控用户行为(无论是公共的还是私人的);

4.强调黑箱在后台运行和支持的重要性,但会以商业秘密为由主张不予公开和披露;

5.尽管是出售给用户的终端产品,但作为硬件和软件的结合体,其知识产权不受破解和侵犯;

6.通过用户协议获取用户在人机交互过程中生产内容的免费永久使用权(如语音和图片),进而可以作为免费内容吸引更多用户;

7.强调去中心化服务和网络技术中立,不对用户通过终端媒介的行为进行审查或干预;

8.用户与平台的关系只是普通使用协议,不论工作时间多久,都不能算是完全的劳动合同。

一旦服务变得智能化,平台就需要围绕三个与自动化相关的核心要点展开论证,希望在法律上降低责任要求,进而降低运营成本,它们是:(1)“连接”与自动化:连接对于网络化的经济十分关键,要求塑造价值生产网络,同时在法律上避免承担因连接产生的第三方行为责任;(2)基础设施与自动化:像算法、云储存、交易流程和网络这样的平台基础服务越来越成为平台活动的普遍底层服务,要求在法律上将中立的底层服务与上层交易相分离;(3)自动化的背后是更加强大的控制力,这对组织社会化生产十分必要,要求在不同的法律领域避免因控制力(从属性)标准而改变法律关系、增加平台运营成本。下文将分别结合最近一些案例和讨论展开论述,希望能够将这些隐藏在网络法背后的核心观念延伸至更为智能的服务环境中,最终理解人工智能想要什么。

三、自动化Ⅰ:网络、连接与价值生产

(一)网络与连接

“网络”在网络法研究中往往被忽视。互联网之所以能够产生价值,主要原因之一是平台的匹配活动本身为各类不同的生产性资源提供了交易与合作机会,从而形成了可以人为塑造和预测的网络,进而形成规模化的网络效应。人类社会中网络的存在由来已久,但直到互联网产生以后,网络化的社会(networked society)和网络化的经济(networked economy)才真正凸显其意义。平台是塑造网络的核心引擎,它通过中介的形态连接不同的资源(特别是用户和其他服务提供者),并以所谓“双边市场”的形式表现出来。通常认为,网络的形成是自发的,即在平台上人们会主动地寻求交易,并自愿地决定是否维持长久的合作关系。这一观念忽视了平台在搭建网络连接中的努力:首先,平台的商业模式是提供免费的基础服务,降低信息成本,甚至不惜提供补贴推广,用以吸引第一批忠诚消费者,包括通过技术方式提供连接到该平台的各类便利;其次,所谓创新恰好是改变消费者对既有服务的认识,在现有服务和资源上加以改进,从而形成新市场和新连接,而用户行为也会随着创新而改变,连接力成为平台企业的重要能力;第三,创新的基础除了大规模用户群体外,更主要的是对用户偏好进行预测,而成功的预测在于数据挖掘和分析,更加智能的算法试图基于用户过去的行为习惯精确匹配,形成因人而异的服务和自动化推荐,从而打造和生成稳定的连接;最后,成熟的网络往往会被平台企业视为宝贵的核心资产,从而防止竞争对手通过不正当竞争手段获取用户及其网络(例如社交网络),甚至不惜采取锁定措施提高门槛,阻止用户多属或者离开。

网络与连接作为网络法中的核心概念,重新塑造了一系列基础法律观念和制度:(1)在线言论和信息打破了公共和私人的界限,沿着特定网络传播,从而为衡量测度言论价值以及追踪言论传播提供了基础,国家和企业有能力深入介入和影响在线言论的发表,特别是网络中的核心节点起到关键作用;(2)隐私不再是空间性的,而是处于主体之间的网络关系中和高度场景化的,是否拥有隐私取决于人们在多大程度上对私密信息在特定网络中传播有足够的预期或控制力;(3)经由网络服务,用户在赛博空间中不再拥有能够独立支配的财产,因为商业模式和技术条件都使出售变成了出租,数字商品变成了可更新的即时在线服务,服务商通过网络继续对用户的使用行为进行监控和追踪;(4)网络超越了企业边界,便利了社会大众在特定平台上的贡献,形成“同侪生产”机制(peer production),大量免费劳动为平台企业产生经济价值奠定了基础,但却不被认定为劳动关系;(5)人的虚拟身份通过网络形成,成为高度流动和不确定的,源源不断地在与他人的连接中生成并转化为数据,最终由网络服务提供者设计和识别;(6)开放网络和接入网络的不特定主体/设备带来了安全隐患,造成网络的脆弱性,如果没有防火墙措施,将带来网络攻击、虚拟物品失窃、隐私信息非法贩卖等犯罪活动。

无疑,网络和连接为平台企业带来了巨大价值,平台企业在多大程度上能够充分利用网络的价值强化连接力,同时较少地为连接导致的违法行为负责就成了重要的争议焦点。

(二)连接、链接与避风港责任

平台责任在我国可以简要划分为如下几类:(1)信息安全主体责任,对非法内容的事前审查义务几乎是绝对的,实践中难以用注意义务抗辩;(2)包括避风港在内的事后民事侵权责任,取决于注意义务的边界和法律关系的确定;(3)一般行政法上外包的法律监管义务。国家权力对平台企业的影响和治理是一个宏大话题,双方既存在合作又存在冲突,本文主要讨论平台作为经济生产组织者的民事责任,这一责任从互联网商业化以来就存在巨大争议,即作为中介的平台在多大程度上需要为其连接的主体非法行为负责。从互联网早期“非法兴起”的实践看,避风港规则为其将非数字化的资源转变成数字化资源并进行免费利用提供了保障,这也确保了信息经济生产方式的诞生。像P2P这样的分享软件为传播未授权版权作品提供了工具,而在快播案和魏则西案中,无论是搜索引擎服务商还是播放器开发者都主张技术工具的中立性和不可审查性;最近出现的DAO不过是这一谱系下的一个最新版本而已,尽管可能打着区块链创新的名义。

无论是帮助侵权还是避风港责任,都与平台企业提供连接的实践有直接关联。在台式机时代发挥重要作用的《信息网络传播权保护条例》将网络服务提供者的功能简单区分为存储服务和提供链接(link)服务,因为在台式机时代,核心的连接行为就是通过网页跳转的链接方式进行的。基于网页HTTP协议提供的链接不过是形成连接的一种途径,并能够通过可见的URL地址表现出来,然而在移动互联网终端上,连接的形态发生了变化,同一APP内部页面的跳转和APP之间的跳转本质上也是连接的实现,在判断移动互联网APP中的侵权问题时就不能简单局限于是否以浏览器上的网站链接为表现形态,而是应当回到塑造连接这一根本初衷,以此作为判断平台企业连接力扩展的重要现象。

2019年微信小程序侵权案帮助我们更清楚地理解平台企业如何希望强化连接,并通过特定技术设计弱化责任。该案的主要争议焦点在于微信平台是否要对小程序中的侵权内容承担帮助侵权或避风港责任。法院认为,提供网络自动接入或自动传输服务的基础性网络服务提供者通常无法审查用户上传内容,对侵权内容的判断识别能力很弱,甚至无法准确地删除侵权内容或者切断与侵权内容有关的网络服务,其服务具有无差别技术性和被动性等属性。根据《信息网络传播权保护条例》,纯粹意义的自动接入或自动传输服务提供者不承担侵权责任,也不适用“通知删除”规则。对这一判决的解读主要集中在法院创造性地重新启用并扩大解释了《信息网络传播权保护条例》中“自动接入服务”的范围,从而帮助像小程序这样的创新应用出现。在人工智能时代,可以预见会有更多基于移动端的创新出现,通过较“轻”的连接方式(随时可以断开,停止获取用户数据,不需要下载到手机),基于平台本身庞大的用户群体充分发挥双边市场的作用,并集中于更加智能地推荐服务。可以想见,一旦不承担避风港责任,可能鼓励更多侵权行为出现在小程序中,也为未来智能平台打造新连接的创新提供了思路(又是一种“非法兴起”)。

法院判决的疑问在于:首先,过于强调小程序技术应用的“自动化”特征,传统基于HTTP协议的URL链接在技术上也可以看成一种自动跳转和接入,也可以解释成一种网络基础服务,只是表现形态有所不同而已,如果擅自扩大仅限于电信运营商的“自动接入服务或传输”的范围,会鼓励更多类似的APP商业模式出现。其次,小程序可以通过微信平台内置的搜索引擎服务进行检索和访问,完全可以比照一般搜索引擎的避风港责任进行判断,至于能否实现定点清除非法内容的效果,可以在通知删除环节进行内部制度设计,但不能免除这一责任。第三,微信平台通过主动推广这一技术虽然没有直接从中获利(仅收取技术费用,但不像苹果商店一样分成),但仍然利用双边市场扩大了可以控制的网络范围,增加了平台的价值。

无论如何,这一案例体现出人工智能平台可以以何种法律和理由要求对既有法律责任框架进行突破,从而在从网络“自动”连接中获益的同时减轻责任。这也折射出未来人工智能的侵权场景可能更多地来自平台上第三方服务提供者的内容,例如语音音箱或自动驾驶汽车中提供的“小程序”可能出现的侵权行为。本节仅想指出智能平台希望降低平台责任标准背后的商业和技术动因,从而将十五年前台式机时代的规则与未来商业模式勾连起来。

四、自动化Ⅱ:平台基础服务、中立性与双边市场

(一)什么是平台基础服务

平台基础服务在中国语境下有着不同层次的含义,对智能平台自动化有重要意义,本文将区分两种基础服务。首先,类似于基础设施的Ⅰ类基础服务。如果将平台和市场进行比较,会发现传统市场中需要由国家提供的基础设施目前正在由私人进行打造和提供,并在事后经过国家认可和统一管理。这些数字基础设施服务能够降低平台上的信息成本和交易成本,使得交易流程进一步简单化和自动化,将复杂的步骤和程序在大量数据经验的基础上沉淀为默认设置,寻求最有效率的机制,从而降低自身成本。这些基础设施服务从经验看大致可以分为如下类型:(1)技术服务,(2)数据储存/分析,(3)支付/结算,(4)物流,(5)认证,(6)信用评价,(7)金融服务,(8)纠纷解决,和(9)行为管理/调控。正是这些基础服务使平台有能力为更多用户提供服务,并潜在地降低了整体责任成本,也使大型平台越来越像一个社会和市场管理者,对国家能力提出了挑战。基础设施服务往往和该企业的其他服务整合在一起,增强了其竞争力,并以默认模块化的方式向用户一揽子提供。通常认为,基础设施服务是中性的,尽管应受到相应监管机构的监管(如支付或物流),但其本身在法律上应当和其他服务分离。问题在于,数字基础设施服务本身也构成了平台上双边市场中的一边,并受到国家牌照管制的影响。拥有相关牌照的现行企业由此具备一定的竞争优势,大型平台也逐渐向第三方开发者或中小平台提供自己的基础设施服务,如物流、支付、身份认证(账户登录)、信用查询等。在分离思维影响下,目前尚没有关于单纯基础设施服务而产生的不正当竞争或垄断纠纷,由此为智能平台的模块化发展提供了基础。问题在于,此类服务的法律性质仍然较为模糊,只是在信息安全意义上的关键信息基础设施,但从未被认定为反垄断法上的必需设施(essential facility),更容易成为平台企业塑造自身封闭生态系统的有力武器。

其次,Ⅱ类基础服务稍有不同。按照《电信条例》规定的基础电信业务和增值电信业务的划分,人们往往也倾向于将平台企业的服务粗略划分为基础服务和增值服务。对基础服务而言,基本上是免费向用户提供,同时依托双边市场在增值服务领域向用户收费。因此即时通信、搜索引擎、购物平台、视频音乐游戏等都可能在不同平台被视为基础服务,而其他服务则成为附加的增值服务。虽然和Ⅰ类基础服务的地位不同,但此类服务因其吸引了大量用户,在功能上成为双边市场的重要推动力,也是平台企业试图确保领衔优势的核心服务所在。随着Ⅱ类基础服务不断扩展,智能平台同样有动力寻求法律保护其产生的特殊法益:一方面,在防止其他竞争对手超越自身的场合(往往涉及不正当竞争),大型平台企业有充分的动力进行保护和反击;另一方面,在对自己可能不利的反垄断领域,大型平台企业则试图论证对其有益的法律核心观念,主要体现为寻求竞争法上的平台非中立性、广义竞争关系,以及反垄断法上相关市场的狭义界定。

(二)基础服务如何需要法律保护

对于拥有Ⅰ类基础服务的平台企业而言,核心问题仍然是避风港责任。例如,云储存服务已经从十五年前的简单存储演进成整合数据分析提供算法服务的云端操作系统,因此相关服务商有动力要求降低此类活动的避风港责任。在2017年阿里云服务案中,阿里云被诉服务器中存储内容违法,需要承担避风港责任。一审法院认为,阿里云作为服务器提供商,虽然不具有事先审查被租用的服务器中存储内容是否侵权的义务,但在他人重大利益因其提供的网络服务而受到损害的时候,其作为服务器服务的提供者应当承担其应尽的义务,采取必要的、合理的、适当的措施积极配合权利人的维权行为,防止权利人的损失持续扩大。而在作为被告的云计算服务商看来,云服务应当是一种类似于煤水电一样的互联网基础设施服务,涉及一定程度的公共利益而非简单的私人服务,因此只有有关国家机关的授权才能够对用户存储在其服务器上的内容进行核查。这一观点的思路是,尽可能将云服务界定为Ⅰ类基础服务,从技术条件和利益影响的角度看比拟为基础运营商提供的接入和传输服务,由此其责任不能简单地类比单纯的云储存服务提供者。这一案件充分体现出技术条件变化带来的新问题,和上一节提到的小程序案件类似,平台企业都试图将新兴的商业模式和技术合法化,在从此类模式中获益的同时尽可能少地承担责任。

对拥有Ⅱ类基础服务的平台企业而言,首先,它们每天都面临着大量来自竞争对手的不正当竞争,因此往往试图通过反不正当竞争法对涉及的新型法益进行保护。这些利益已经超越了简单的商业模式,进一步延伸至大数据财产权利和社交网络资产等问题,本质上在捍卫平台企业打造的生态系统的架构权利。其次,就商业模式而言,它们试图强调基础服务的非中立性,即平台基础服务有权随时调整(既是运动员又是裁判员),同时强调核心算法黑箱(如搜索引擎)因商业秘密而不受审核,即便这可能影响到第三方服务提供者。有意思的是,这些主张和上一节要求其承担避风港责任时给出的技术中立理由相反,存在明显的双重标准。第三,这些案件相关判决的问题是,《反不正当竞争法》第2条原则性条款近年来已经被严重滥用,被法院简单地当成了其他部门法的替代物,也脱离了反不正当竞争法的关于竞争关系、竞争秩序保护的基本原理。如果这一状况持续存在,将导致智能平台变得更加封闭,使其基础服务不受冲击,从而潜在地影响了市场竞争。

司法实践中另一个双重标准是,在诸多不正当竞争案件中,法院长久以来已经确认了广义竞争关系的存在,即为了保护受到影响的平台企业,即使超出了同一服务市场,侵权竞争者仍然可能被认定为具有竞争关系,理由是它们共同吸引了同一批用户的注意力。然而,在最近的一系列互联网反垄断诉讼中,法院往往倾向于采取狭义认定,即无视平台企业上双边市场的存在,直接按照直觉认定某一个单一服务为相关市场,从而将这一依托于平台上的单一服务与具有市场优势地位的基础服务市场相分离,进而证明单一服务市场不具有市场支配地位。

正是在上面一正一反对比下,我们能够清楚看到,平台基础服务目前得到较为宽松的法律/司法环境的保护,为将来更为智能的平台服务奠定了基础。

五、自动化的背后:控制力与风险转移

(一)平台控制力的产生

控制力是智能平台的核心,一定程度的控制力能确保平台超越传统企业在更大范围的社会市场中调配资源,实现稳定获益。前两节讨论的网络和平台基础服务本质上都可以看成是实现控制力的手段和表现,本节将进一步简要探讨控制力因素,即观察控制力因素从何生成,如何被法律/司法认定,以及是否构成认定相关责任或不同法律关系的核心标准。从智能平台的角度看,它们更倾向于将控制力因素遮蔽起来,将平台上的资源流动与匹配说成是自主选择的结果,或者是经过深思熟虑接受用户协议规定的结果。

总体而言,控制力标准(或其他类似的标准)已经存在于三个最为显著的领域——避风港责任认定、灵活用工中劳动关系认定、滥用市场支配地位认定,而且逐渐通过立法和司法得到明确,但考虑到互联网仍然在不停地变化,只能将控制力标准视为必要标准,同时需要配以充分标准进行综合考量,因此有必要建构起一套关于控制力因素的指标体系,并在不同场景下通过排列组合进行不同的认定。这一标准的难点在于平台的企业/市场双重属性,因此需要区分在多大程度上是对单一平台上主体行为的控制,还是对整个平台以外市场行为的影响,但从根本上是一致的,即对生产性资源跨平台流动的控制力。

概括而言,避风港规则和灵活用工的劳动关系认定正在取得一定的进展和突破,特别是如何事后保障平台上大量灵活用工的特定权益(如工伤赔偿)。结合智能平台的生产过程和代码理论,平台企业事实上对流动性资源的控制影响力可以转化成如下标准:(1)架构——平台对生产和交易流程的设计是否体现出平台企业的深度介入;(2)网规——平台是否制定了细致的约束主体行为的规则并有能力执行;(3)市场——平台是否有能力通过补贴、价格机制、工资发放等方式影响主体预期;(4)社会规范——平台是否通过诸如声誉和评分机制加强对主体的指引和控制。这些标准一般适用于具备完善基础服务的较为稳定的大型平台,因而对用户的影响和控制较强,而大量依靠补贴的新兴平台尚缺乏影响用户的实际能力,用户自身可以通过种种方式脱离平台控制,从其他平台获得多属利益。

下面将分别讨论控制力因素在三个领域中的地位。

(二)智能平台控制力标准重述

首先,就避风港责任而言,控制力因素较为简单。十五年前的避风港规则对当下智能平台作为连接器提供了重要的责任判断标准,包括:(1)存储了非法内容或提供链接,并对这些内容有能力进行控制/删除;(2)直接或间接从平台上非法内容的传播中获利,或者对平台交易有较强的话语权;(3)参与了对非法内容的编排和推广;(4)在用户协议中对违法行为及其管理进行了明确的约定;(5)深度介入和设计整个服务交易流程,等等。

其次,就劳动法上认定灵活用工的标准而言,控制力认定应当充分考虑如下因素:(1)提供生产工具。软件开发者平台、程序语言提供了中心化的基础服务。即使劳动者被允许自行使用他们自己的工具,也要受到统一标准的限制(如车辆)。(2)设计交易架构和流程。平台深入介入生产和交易环节,不断将生产过程流程化和自动化,并提供便捷的支付手段,甚至出现完全自动化的组织形态。(3)声誉、评分机制。平台通过“账户数据算法评分”机制,通过外部声誉机制和自身搜集数据的方式为劳动者提供激励和行为方式规范指引,客观上便利了生产。(4)制定平台上的行为规范和交易规则,提供奖惩机制和多元救济、纠纷解决方式。(5)对平台劳动者和交易参与者加强管理和监控,进行身份认证和追踪等。(6)控制交易价格水平和工资发放方式。网约车一类的平台采用统一按月结算的方式,并有能力以中心化的定价算法确定服务价格,减少缔约和管理成本。(7)控制劳动者多属行为,强化锁定措施。为防止劳动者流失,除了正面发放补贴外,平台还会采取措施锁定消费者和服务商,例如收取押金、约定不得跨平台工作等。(8)自动化推荐、匹配和派单。通常假定分享经济劳动者有极大的自主性选择平台、工作时间和地点,自主接单提供服务,实际上他们缺乏真正自主的选择权,因为平台采取自动化推荐、匹配和派单等方式将真正把平台当成分享工具的业余玩家清除出去,而留下那些更加愿意追求赚取收入的“准全职”劳动者,但在形式上却表现出劳动者自愿选择的结果。(9)强化人格从属性,为劳动者提供工牌、标识或统一的制服等。

再次,就垄断法上的控制力而言,主要涉及滥用市场支配地位的认定。根据市场监督管理总局《禁止滥用市场支配地位行为的规定(征求意见稿)》规定,市场支配地位是指经营者在相关市场内具有能够控制商品价格、数量或者其他交易条件,或者能够阻碍、影响其他经营者进入相关市场能力的市场地位(第6条)。例如,认定经营者控制销售市场或者原材料采购市场的能力,应当考虑该经营者控制销售渠道或者采购渠道的能力,影响或者决定价格、数量、合同期限或者其他交易条件的能力,以及优先获得企业生产经营所必需的原料、半成品、零部件及相关设备等原材料的能力。特别是该经营者是否可以在一段时间内相当程度上独立于其他竞争者、客户和消费者的行动和反应。同时,认定互联网等新经济业态经营者具有市场支配地位,在依据本条第一款因素时还应当考虑相关行业竞争特点、经营模式、网络效应、技术特性、市场创新、掌握相关数据情况及经营者在关联市场的市场力量等。(第7条)问题在于,目前互联网平台垄断的主要问题仍然在于相关市场认定的困难,即上文所说对双边市场理解和操作上的困难,这涉及大量复杂的关系,例如平台通过社交网络对不同使用者之间潜在的影响力,以及通过基础服务对其他平台的创业者的影响,等等。

值得注意的是,上述控制力因素往往被用户的自主选择或知情同意修辞所遮蔽,同时用户一旦进入智能平台的服务架构,就放弃了自己对于自身数据、隐私和虚拟物品的真正控制力。可以想见,在DAO的例子中,用户按照应用程序的指令进行活动,但没有主体会声称对平台上的侵权行为负责;而在智能终端的例子中,用户只能按照用户协议允许的方式进行使用,表面上占有人工智能体,但实际上仍然是从属性的,即从属于一个后台超级运营平台,一个默默起作用的强大黑箱。这一趋势的特点是,智能平台继续从大量用户的劳动中获利,同时不断将新的风险(测试风险、社会保障、不可抗力)转移给用户和社会。如果和20世纪特别注重风险预防与保障的经济法、社会法制度相比,21世纪已经十分明显地再次出现了企业风险社会化的趋势,特别是作为连接器的智能平台不仅提升了交易速度,也无形中放大了社会风险,因此未来法律研究的重点就在于如何应对这种人工智能带来的系统性的全方位风险。

六、结语

将人工智能视为平台经济的一部分符合常识经验,却不符合通过科幻作品展示的那些未来畅想。两者之间并非不能打通勾连,但这种打通不是简单通过教义学论证给予机器或人工智能体以法律主体地位就能够实现的,重要的是看到其背后的经济生产方式,以及利益相关者推动法律认可其合法性的努力。

本文的讨论已经表明,无论是当下还是未来,有必要将人工智能法律问题看成是广义网络法问题的不可或缺部分,也是其升级版本,这样才能真正回归到围绕代码/架构理论展开的原初问题意识,从而思考赛博空间的演进和对法律的影响。本文展示了当下出现的平台责任和控制力等问题如何延伸至未来更加智能化的环境中,认为生产组织是我们理解人工智能法律问题的关键。

本文的研究也是对法学中马克思主义传统的些许回归,即并非将法律看成是真空中运作的教义体系,而是不断受到社会其他系统(特别是经济系统)影响的变动体系,从而看到通过教义解决问题背后体现的生产关系;主体之间的法律关系也无法脱离社会生产关系得到理解,而特定教义的应用(如是否将人工智能体看成是独立的法律主体而非连带群体)本身就反映了新经济演进的需求。在这个意义上说,人工智能体能否具有法律人格并不重要,重要的是理解生产关系中价值如何产生,以及分配环节如何设计,从而形成更加公平的经济循环体系。当下我们看到的趋势是,智能平台出现的法律问题与十多年前的法律问题没有本质区别: 不论表面上的技术如何演化都是尽可能地降低平台运营成本,将社会成本转移给各类生产性资源,同时通过基础服务保留强大的控制力以源源不断地产生价值,同时争取商业模式的合法性。由此生发出的视角便是一定程度上平台与其上运行的资源的法律关系松散化,人工智能许诺带来的更加自动化的经济过程遮蔽了这一问题。这能部分解释为何因采用人工智能而可能导致相当程度的失业,但同时数字经济却仍在增长,世界其他地方也在探索替代性的解决方案如全民基本收入(UBI)或平台合作社(Platform Cooperativism),这已经超出了本文能够处理的范围,将会是未来进一步的研究方向。

作者:胡凌,上海财经大学法学院副教授、法学博士。

来源:《交大法学》2019年第3期。