小
中
大
内容提要:社会治理智能化是适应新时代社会建设和人工智能技术的发展而提出的重大决策。提高社会治理智能化水平,不能仅靠人工智能技术的进步,还要注重法治的保障与促进作用,为社会治理智能化寻找合适的法治路径。在法治轨道上推进社会治理智能化建设,需要突破传统的立法、执法、司法和守法的框架,根据社会治理智能化的基本特征构建社会治理智能化领域法治建设的四梁八柱。从智能技术的发展水平以及社会治理智能化建设实践出发,法治建设可以重点从社会治理要素的数据化、社会治理数据的汇聚化、社会治理规则的算法化以及社会治理机制的共治化等四个维度推进。
关键词:社会治理;人工智能;数据;算法;法治路径
党的十八大以来,我国在社会治理领域实现了一系列理论创新、制度创新和实践创新。[1]其中“社会治理智能化”是最具有时代特色和未来感的重大命题之一。由于还没有中央顶层的具体规划与部署,许多地方纷纷制定了具有自身特色的社会治理智能化建设计划,希望成为可以被复制被推广的典型。
目前,在有关社会治理智能化的改革实践或理论研究中,存在着一种纯技术导向的现象,即单纯从技术角度特别是从大数据、云计算、人工智能等角度理解社会治理智能化,从技术开发与运用的层次开展社会治理智能化建设。在技术问题受到充分重视的同时,法治问题却时常受到忽视:实践遇到的问题往往仅被视为技术问题而强调技术解决方式,“法治思维与法治方式”虽然经常被强调但在具体问题面前往往会被忽略。不可否认的是,法学界对于社会治理智能化的关注不够,对社会治理智能化的法治问题认识不清,没有“接地气”地回答如何在法治的轨道上推进社会治理智能化。在全面依法治国的时代背景下,我们不能止步于纯粹的“社会治理法治化”的研究,还要研究社会治理智能化等具体社会治理领域的法治路径问题,脱离具体场景或者社会治理实践的“社会治理法治化”可能会沦为一句空话。
一、社会治理智能化法治路径的理论基础与基本架构
(一)时代背景与理论基础
党的十八大以来,习近平总书记对全面依法治国、创新社会治理以及智能化建设等作出的一系列重要论述、党中央关于社会治理的一系列重大决策,为在法治轨道上推进社会治理智能化提供了理论基础与根本遵循。
第一,在法治轨道上推进社会治理智能化,是全面依法治国的应有之义。在全面依法治国的时代背景下,包括社会治理智能化在内的各项社会治理工作都要纳入法治的轨道,确保法治作为治国理政基本方式的地位不会因为智能化建设的一时之需而被动摇或者损害。在社会治理领域,我国一直注重法治保障作用。党的十九大报告首次提出“社会治理制度”概念,并将“法治保障”作为社会治理体制的五个组成部分之一。党的十九届四中全会《中共中央关于坚持和完善中国特色社会主义制度推进国家治理体系和治理能力现代化若干重大问题的决定》(以下简称《决定》)首次提出“社会治理体系”概念,“法治保障”是其七个组成部分之一。习近平总书记在中央全面依法治国委员会第三次会议上进一步强调要“提升法治促进治理体系和治理能力现代化的效能”。党中央的决策以及习近平总书记的讲话,既为在法治轨道上推进社会治理智能化提供了理论基础,也提出了具体要求。
第二,在法治轨道上推进社会治理智能化,是创新社会治理的有机组成部分。2013年11月,党的十八届三中全会通过的《中共中央关于全面深化改革若干重大问题的决定》提出了“创新社会治理体制”的新要求。从社会管理到社会治理,是我们党对社会发展规律认识和把握的又一个新飞跃,实现了我国社会建设理论和实践的又一次与时俱进。习近平总书记指出,“治理和管理一字之差,体现的是系统治理、依法治理、源头治理、综合施策”。[2]创新社会治理的内涵丰富,习近平总书记在一系列讲话中提出了创新社会治理的新要求新战略,并首先提出了“社会治理智能化”的概念。2016年10月,习近平总书记就加强和创新社会治理作出重要指示,强调要更加注重联动融合、开放共治,更加注重民主法治、科技创新,提高社会治理社会化、法治化、智能化、专业化水平,提高预测预警预防各类风险能力;要完善社会治安综合治理体制机制,加快建设立体化、信息化社会治安防控体系。[3]社会化、法治化、智能化、专业化,既是新形势下提升社会治理现代化水平的客观要求,又是推进社会治理创新的基本途径。2017年10月,“提高社会治理社会化、法治化、智能化、专业化水平”写入了党的十九大报告,“提高社会治理智能化水平”与“提高社会治理法治化水平”正式成为我国社会治理的基本任务,而“在法治轨道上推进社会治理智能化”是正确处理二者关系的必然要求。
(二)“社会治理智能化”与“社会治理法治化”的关系
根据“提高社会治理社会化、法治化、智能化、专业化水平”的科学命题,社会治理法治化与社会治理智能化同时构成了社会治理工作的重要组成部分。尽管二者是被并列提出的,但是我们需要注意它们之间的细微差别,科学地推进二者的“一体建设”。
首先,在“提高社会治理法治化水平”与“提高社会治理智能化水平”中,两个“化”与“水平”的含义不一样。虽然“法治化”与“智能化”均是社会治理体系和治理能力现代化的目标,但不能将二者等量齐观。随着全面依法治国的推进,我国法治建设已经有了良好的基础,社会治理法治化起点较高,因此目标定位也比较高,需要达到符合全面依法治国要求的法治化水平。“提高社会治理法治化水平”意味着要在满足法治基本要求的基础上不断完善法治,体现的是一种良法善治的思维。我国智能化建设仍处于快速发展变化阶段,智能化建设本身的目标并不完全清晰,因此社会治理智能化的目标定位相对较低。“提高社会治理智能化水平”是指在实现真正智能化之前,增加社会治理的智能化元素,利用智能技术提高社会治理体系与社会治理能力的现代化水平,它体现的是一种从无到有、尽量多的建设思维。法治化与智能化之间的发展阶段差异可能会造成“社会治理智能化”的低标准与“社会治理法治化”的高标准之间的矛盾。例如,在进行有关数据收集或者数据利用时,由于技术限制或者技术发展需要,可能会在某种程度上忽视数据的隐私保护或者数据的安全防范等问题,但这恰好是法治所关心的问题,这就可能出现社会治理智能技术的阶段性问题违背全面依法治国理念的现象。社会治理法治化与社会治理智能化二者的差异,既是我们讨论社会治理智能化法治路径的理论前提,也是研究社会治理智能化法治路径所要重点解决的问题。
其次,社会治理法治化与社会治理智能化相结合,会产生社会治理法治化的智能推动与社会治理智能化的法治保障等效果。社会治理法治化的智能推动,是指将智能技术运用于立法、司法、执法与法律服务等活动,促进社会治理法治化,实现社会治理法治体系的智能化。社会治理智能化的法治保障则是指在社会治理智能化的各项工作中加强法治保障,确保在法治轨道上推进社会治理智能化,同时以法治建设与法治改革提高社会治理智能化水平。“社会治理法治化的智能推动”与“社会治理智能化的法治保障”虽然有相似之处,但二者是不同的命题。“社会治理智能化的法治保障”侧重在“智能化建设”这一具体场景中探讨具体问题,强调要在社会治理智能化建设的框架内推动法治建设,而不能局限于传统法治建设的框架。
(三)在法治轨道上推进社会治理智能化的基本框架
在法治轨道上推进社会治理智能化建设,不仅仅要在立法、执法、司法和守法等各环节中推进社会治理的智能化建设,更要在社会治理智能化的各项工作中融入法治精神与法治规则。“立法、执法、司法和守法”是一个相对固定的法治建设框架,在这个框架内融入智能化建设的元素是一条相对容易的路径,但提出的方案可能缺少对智能化社会治理实践的关注而不能满足社会治理智能化的客观需求。相对地,在社会治理智能化建设的框架(体系)中嵌入法治元素是一项很有挑战性的工作。一方面,法治建设需要直面智能化建设带来的新问题,这些问题可能对传统的法治规则构成挑战,或者属于全新的法治领域,甚至在世界范围内都没有现成的答案,需要在必要的时候通过法治改革保障社会治理智能化的发展。另一方面,社会治理智能化建设是一场全新的社会治理实验,现在仍然没有公认的基本框架,因此在确立符合智能技术特征和法治建设实践需要的社会治理智能化建设基本框架之后才能进一步研究如何推进法治建设。
一般认为,“智能化”以大数据为技术基础,因此提高社会治理智能化往往意味着在社会治理过程中充分利用大数据技术、云计算、物联网等智能技术,[4]并实现智能技术与社会治理的深度融合,以此为抓手全面提高社会治理的现代化水平。构建社会治理智能化的基本框架,需要结合社会治理的现实需要与智能技术发展特征,既要防止智能化建设脱离社会治理的宗旨,也要防止智能化建设大冒进或者提出不切实际的社会治理智能化目标。基于这种考虑,社会治理智能化建设可分解为四项基本工作:社会治理要素的数据化、社会治理数据的汇聚化、社会治理规则的算法化和社会治理机制的共治化。“四化”工作是社会治理智能化建设体系的基本框架,[5]是在法治轨道上推进社会治理智能化的基本支柱。在“四化”工作中嵌入法治建设,是确保社会治理智能化建设不脱离法治轨道的有效方法,而为“四化”工作提供相应的法治保障,是提高社会治理智能化水平的基本法治路径。
二、社会治理要素数据化的法律基础
大数据技术是社会治理智能化的关键技术,而大数据的“底层”是一个个具体的机器可识别的数据,因此实现社会治理要素数据化——将社会治理要素转化为数据是智能技术与社会治理融合的基础条件。社会治理要素的数据化程度将直接影响社会治理智能化的水平。如果要实现真正意义上的“社会治理智能化”,客观上就要实现社会治理要素的全面数据化。
社会治理要素,是指具体的社会治理行为所包含的基本元素。实践中,社会治理行为种类繁复,“社会治理”本身亦没有固定的外延,需要从不同的社会治理行为中提取出若干类型的可予以数据化的要素。这些要素主要包括人、地、事、物、组织、时间、空间位置等。在传统的社会管理工作中,如公安的户籍登记、人口普查、房地产管理等,主要通过人力录入的方式获得信息或者数据;在社会治理智能化的新要求下,我们需要按照新的技术要求对这些既有信息进行数据化。
与传统社会管理数据收集方式不同,社会治理智能化建设过程中的数据化注重数据收集的智能化,即使用新技术特别是智能感知技术自动将有关要素标准化与数字化,转化为社会治理智能化系统中的机器可识别的数据。例如,通过人脸识别技术,我们可以实现“人脸”的数据化,从而间接地实现“人”的数据化。此外,一些地方正在研究将人的步态(走路姿态)数据化,实现步态的机器识别,从而通过另一种方式实现“人”的数据化。当前,根据对象和目标的不同,智能感知技术可以分为四大类:基于人体分析的感知技术、基于车辆分析的感知技术、基于行为分析的感知技术和基于图像分析的感知技术。[6]技术的持续发展将为社会治理带来更全面的感知,提供更丰富的基础底层数据。例如,杭州市拱墅区某街道“城市眼云共治”系统可以通过AI视频智能识别技术,自动识别出店经营、流动摊贩、垃圾成堆、车辆违停等城市管理中的常见问题,城管队员只需打开系统点开信息,就能看到违规行为的具体时间、路段、违规画面以及违规类型。[7]
智能感知技术为社会治理要素的数据化提供了技术保障,使以政府为主体的社会治理主体得以大规模地收集社会治理信息,从而提高了数据收集的全面性。但是,智能收集这种做法还缺乏足够的法律基础。对于数据收集,我国仍然没有形成一套系统的法律规范体系,社会治理过程中大规模收集数据也引发了新的法律难题。随着数字经济的发展,数据已经成为一种重要的生产要素,有关数据收集与处理的法律规则也逐步增加,然而这些法律规范的规制重心往往是企业的数据行为,因此不一定能够直接适用于社会治理数据的收集行为。例如,《网络安全法》第41条规定了网络运营者收集、使用个人信息的基本原则与规则——“网络运营者收集、使用个人信息,应当遵循合法、正当、必要的原则,公开收集、使用规则,明示收集、使用信息的目的、方式和范围,并经被收集者同意”,但这些原则与规则在社会治理数据收集的过程中基本上没有得到适用。此外,社会治理数据作为一种公共数据,[8]其收集与处理行为往往是公权力行使的表现,因此需要遵循“法无明文授权不可为”和比例原则,然而目前的社会治理数据大规模采集行为[9]往往既缺乏明确的法律授权,也与比例原则有所抵触。
除智能技术收集数据外,各地普遍构建了一套以网格员为主力的基础数据收集机制。许多社会治理的底层数据仍然需要依靠人来收集,前期信息化建设产生的许多数据也不符合当前智能化建设的需要,必须重新数据化,这就需要更多的人力资源。为了保障数据收集的有效性以及全覆盖,各地完善了网格化管理制度,[10]赋予网格员数据采集的职责,逐渐形成了一种以网格员为主力的数据采集机制。这种机制比较适合当前中国社会治理的基层现状,但由于网格员与网格化管理制度[11]目前仍然缺乏充实的法律基础,此种以非公职人员为主体的数据收集机制在实践中也面临许多问题。
第一,网格化管理的法律基础仍然比较薄弱。网格化管理虽然在事实上已经成为我国基层社会治理的基本制度,并在一些地方有力地推进了城乡社会治理一体化,[12]但从全国范围来看,它仍然处于“地方探索”阶段,各地的制度构建与实效亦参差不齐。网格员收集社会数据的行为虽然得到了地方规范性文件甚至地方性法规的认可,但是其主体身份、行为性质以及法律后果等仍然有许多模糊不清之处。例如网格员收集数据纠纷是否属于行政纠纷?是否可以通过行政诉讼程序解决?假如公民的权益因为网格员收集数据而受到了损害,是否可以申请国家赔偿?诸如此类的问题反映出我国在推进网格化管理的过程中存在较为严重的实用主义倾向,缺乏足够的法律风险意识。
第二,网格化管理机制给社会治理体制带来了新的法律与实践问题。网格化管理虽然是社会治理的一项创新,是基层行政控制与社会动员的一个重要纽带,[13]但它没有从体制上优化社会治理体系。传统的社会管理和当下的社会治理都严重依赖于传统的行政体制。网格化管理制度之前,社会管理呈现一种“中央——省——市——区、镇、村”四级体制;网格化管理制度实施后,社会治理多了“半级”而发展成“中央——省——市——区、镇、村——网格”四级半的体制。网格员类似于基层乡镇(街道)的雇员,对于夯实基层社会治理力量发挥了重要的作用,但是基于改革“只增不减”的传统,网格之上四个层级并没有被压缩,网格管理制度没有减少网格之上的资源,没有把资源由上面四个层级转移到网格之中,因此可能会造成行政体制或者社会治理体制的更加臃肿。实践中,一些地方的基层乡镇(街道)甚至要负责解决网格员的部分工资待遇,因此变相增加了基层的负担,而非增加了基层的资源。
三、社会治理数据汇聚化的法治改革
社会治理强调系统治理、源头治理、综合施策,其外延呈不断扩大之势,涉及的部门或者主体越来越多,因此社会治理数据的来源可能会越来越多元。例如,《杭州城市大脑数字赋能城市治理促进条例(草案)》规定的社会治理领域就包括交通、警务、消防、城管、市场监管、安监、检务、环保、审计、信用等。在这种情况下,避免形成“数据孤岛”与“数据闲置”、将各方面的社会治理数据聚集并形成社会治理的“大数据”,就成为社会治理智能化的关键一环。
为实现社会治理数据的汇聚化,各地在社会治理智能化建设实践中重点推动了三项工作。其一,实现数据汇合。社会治理实践会产生不同部门、不同层级的数据以及企业、公民个人数据。但一个部门、一个企业或者个人掌握的自身数据无法形成大数据,更无法支撑社会治理智能化建设的需要,必须通过技术手段和一定的工作机制将社会治理的数据汇合在一起形成大数据,才能实现不同主体基于各自的实际需要对大数据的开发利用,依靠社会治理不同维度的全量数据学习建模搭建各自的智能应用系统。其二,实现数据共融。不同主体收集的社会治理数据可能存储于不同系统之中,这些系统的数据并非完全遵循同一技术标准,因此即便汇合在一起,也可能没办法融合成大数据。为此需要通过构建统一系统或者统一数据标准等方式实现不同系统数据之间的兼容。其三,搭建统一的互联网数据平台。在智能技术时代,数据本身是以原料的形式的出现,不同部门之间、政府企业之间、全社会内共享的是数据资源本身,而非共享成品服务。为了承载来自各方面的数据,需要搭建一个统一的数据平台。当前,大数据主要是通过云平台实现聚集,继而以云计算作为分析工具,实现大数据的智能技术开发应用。
社会治理数据汇聚,看似是一个可以“一键”完成的任务,但实践中仍然面临一些法律障碍,特别是不同社会治理部门之间、党政机构与企业之间进行数据开放共享缺乏法律依据,甚至可能违反法律。[14]一是由于密级等法律规定,导致数据无法共享。例如检察系统的数据密级较高,不能向其他部门提供。二是不同部门可能使用不同的系统、不同的标准进行数据采集,而汇集化往往要求各部门采用共同的标准。由于没有法律的明文规定,实践中可能会遇到部门利益等障碍,导致数据汇集的技术问题无法解决。三是由于没有中央层次的法律规则,且上级部门的数据没有实现共享,基层对于“先行先试”存在较大的顾虑。虽然中央在许多文件中均强调要推进不同部门之间数据共享,但目前在社会治理数据共享方面并无法律的明文规定,也没有具体的操作规则,因此在地方政府层面推动不同部门社会治理数据的共享只能依靠地方法律规范。在地方推进的过程中,还遇到上级部门数据没有共享的难题。许多党政部门既要对本级党委政府负责,也受上级党政部门的监督指导,如果上级党政部门数据没有共享,下级党政部门往往不敢率先实现共享,以免日后被追究责任。四是政府与企业之间数据难以共享。实践中存在一种现象,即党政机关与企业都期望对方分享数据,但却都有充足的法律理由反对将己方的数据分享给对方。
上述部门利益复杂、数据属性存在差异、公共利益与商业利益冲突、法律规定不明确、中央与地方立法权限不同等各种性质的问题,向现代政府治理能力提出了重大挑战。[15]实践证明,此类问题难以靠所谓的“部门协调”“先行先试”等办法解决,也不适宜用各种红头文件去推动,只能依靠法律。当然,法律解决并不等于由法律来提供所有问题的明确答案。在没有最终解决方案之前,法律可以指明社会治理数据汇聚化的发展方向,并提供一定的弹性空间以及必要的法律授权,为地方探索数据共享、汇集机制提供基础法律依据。从电子政务法等法律出台的曲折性来看,短时间内在国家层面出台关于社会治理智能化建设的法律是不切实际的。更现实可行的方法是,借鉴1991年《全国人民代表大会常务委员会关于加强社会治安综合治理的决定》以及近年来法治改革的试点授权模式,出台一部关于加强社会治理的法律,并就如何汇聚目前各部门控制的社会治理数据等问题进行试点授权式的改革,鼓励支持地方在地方立法权及特别授权的范围内以制定地方性法规、地方政府规章的形式解决社会治理数据汇集过程中存在的具体问题,并逐渐把成熟可行的经验上升为法律规范。
在法治轨道上推进社会治理数据汇集化工作,特别需要处理好数据开放与数据安全的关系。智能化建设需要大数据,大数据需要数据开放。虽然公共数据开放是国际通行做法,[16]但是社会治理数据中有许多涉密敏感隐私数据,难以做到完全开放。制定相关法律或者执法司法以及技术开发的过程,既需要最大程度地促进数据开放,亦需要符合社会治理的安全要求。《网络安全法》第19条规定,“国家鼓励开发网络数据安全保护和利用技术,促进公共数据资源开放,推动技术创新和经济社会发展”,这为公共数据开放提供了一定的法律基础,但具体的数据汇聚规则仍需要继续探索。当前急需突破的是三个方面的规则。其一,公共数据分类管理规则。要合理界定数据保密的等级与范围。数据开放是有范围有步骤推进的,并非毫无保留完全开放;涉密数据的界定应是科学合理的,社会治理数据并非一概涉密。例如,《上海市公共数据开放暂行办法》将公共数据分为非开放类、有条件开放类和无条件开放类,[17]并确定了相应的开放条件和监管措施。其二,部门之间的数据共享规则。公共部门之间进行数据共享看似是一件水到渠成的事情,但实践中却遇到很大的问题,不同层级及部门之间的条块分割的体制性问题仍然存在,部门开放数据后的法律风险承担问题依然给许多地方部门造成困惑。此类难题很难由政策或“红头文件”予以解决,只能通过法律的力量消除各方面顾虑并打破部门利益的局限性。其三,公私主体之间互相开放数据规则。公私主体数据互相开放是一个复杂的问题,不能简单化处理。就公共数据开放而言,应针对不同的用户群体设计不同的数据开放权限,最大限度地促使公共数据向公民、企业和社会开放,实现公共数据的开放、利用、保密三者之间的平衡。就私人数据特别是企业数据向政府开放而言,既要遵守公共数据收集的基本原则,也要符合个人信息保护的规则,特别是要坚持自愿、有偿原则。政府部门不能以类似紧急状态的思维、以类似司法协助的方式强制要求私主体无偿提供其合法所有或者控制的数据。
四、社会治理规则算法化的法治保障
社会治理是制度之治、法治之治,其基础是具体的规则之治;社会治理智能化强调的则是技术之治。实践中,将规则之治与技术之治结合的主要方式是社会治理规则的算法化,即将社会治理具体规则融入人工智能算法模型,使智能设备“掌握”规则知识、根据社会治理规则得出结论。融入社会治理规则的成熟算法模型一方面可以根据社会治理的目的而自动感知、自动识别、自动预测、自动判断与自动处置,从而使社会治理获得自动性的特征——这是智能化区别于传统信息化的主要特征之一,另一方面可以保证自动化的社会治理活动符合法治的要求。
社会治理规则的算法化程度是判断社会治理、智能技术和法治融合程度的重要标准。“智慧交通”可能是当前社会治理规则算法化的最典型范例。社会治理规则的算法化程度取决于多个因素。其一,技术发展程度。将社会治理规则转化为算法是一件非常复杂的工程。在世界范围内,人工智能技术在法治领域的运用只取得了相对浅层次的突破。[18]目前我国只在个别场合实现了技术突破,例如,交通灯根据交通拥堵情况自动变更、视频监控重点人员的自动报警、个别类型违法行为的自动抓拍识别、法律文书的自动生成等等。其二,社会治理规则的类型化与标准化程度。社会治理规则需概括成若干种类型并被赋予标准化的内涵,这样才能转化为计算机语言。除法律规则外,社会治理的经验与规律(如可疑人物的判断、风险的预测等)同样需要被类型化与标准化。其三,技术开发人员对于社会治理规则的掌握程度。技术开发人员如果不理解社会治理规则,或者理解存在偏差,其得出的算法模型就会存在缺陷,其自动感知、自动识别、自动判断、自动处置与自动预测的结果可信度就比较差。
社会治理规则的算法化有助于提高社会治理的主动性与预判性,让社会治理主体更加主动地预测预警预防社会风险。传统社会治理的重点在于问题处置,往往是在被告知存在某些社会问题(如接到报警求助)后,社会治理主体才被动介入并对问题进行事后处置。智能技术的运用有助于改变这种局面,实现社会治理部门主动发现问题、主动预测预警预防社会治理风险。例如,一些地方尝试建立犯罪预防预警系统,着重关注重点人员,实时监控重点区域人群聚集情况,汇集各智能设备反馈的状态信息,及时发现潜在矛盾点,维护人民生命财产安全。一些地方还尝试根据犯罪数据等建立犯罪预测模型,根据犯罪预测的结果进行相应的决策部署。
社会治理规则的算法化看似是一个技术问题,但无论是开发过程还是开发结果都会引发一系列值得研究的法律问题。
从开发过程的角度而言,社会治理规则算法化的前提条件是实现社会治理规则的精细化。能够为机器所识别、学习的社会治理规则无论在实体上还是在程序上都应当是明确清晰的。社会治理规则的内容,特别是其中的“行为模式”与“法律后果”应当清晰,那种在适用或者解释上存在巨大争议的规则是难以融入社会治理算法模型当中的。社会治理程序,包括社会治理责任主体、各主体的权限、社会治理的工作流程与时限等都应当是明确的,能被算法化的社会治理程序规则不允许出现推诿扯皮、有实体无程序规则、人为操作程序等法律漏洞。目前,不少社会治理规则还不能完全满足算法化的要求。一方面,社会治理法律规范体系建设还不完备,在某些具体的领域可能还没有明确的法律规则,或者虽然提出了具体要求却没有相应的可操作的程序规则。另一方面,由于受“宜粗不宜细”“留有余地”等立法思维的影响,某些规则存在模糊之处。规则清晰不仅仅是为了让机器识别、学习,也是为了技术人员能够真正理解规则。在法律空白或法律规则模糊不清的场合,技术人员将无所适从进而使社会治理算法模型的开发陷入困境。
从开发结果来看,社会治理规则算法无疑会提高社会治理的规范化、科学化水平,但也会面临一些仍然悬而未决的法律问题。这些问题可能是所有算法都会面临的问题,也可能是因为社会治理的特殊性而产生的问题。面对算法,法律人自然会想到“法律如何规制算法”这一基本问题。对此,法学界的研究仍处于起步阶段,而且也存在许多分歧,例如在规制模式上,就存在对以算法透明原则为代表的事前规制方式和以实用主义为导向的、以算法问责为代表的事后规制方式的不同看法。[19]当我们将算法运用于影响每一个公民日常行为的社会治理时,法律关注的就不仅仅是纯粹的算法规制问题,还要考虑算法与公权力之间的关系问题,例如,算法是否会在社会治理过程中产生对某些人群的歧视?[20]算法是否会成为一种新的权力形态?[21]算法应该作为国家秘密予以保护还是应该公开以提高社会治理透明度?算法的运用能否促进公权力的规范行使?公权力添加算法光环之后,是否更加难以监督?
五、社会治理机制共治化的法律规制
党的十九届四中全会《决定》指出,要“坚持和完善共建共治共享的社会治理制度”“建设人人有责、人人尽责、人人享有的社会治理共同体”。在推进社会治理智能化建设过程中,某种程度上的人机共治机制形成,为“共建共治共享”“社会治理共同体”注入了新的活力。
人机共治,是指智能技术与人类在社会治理中实现融合式共同治理。从理论上说,“人工智能”因其能够自动感知、自动决策而成为社会治理主体的特殊一员。但从技术现状来看,在相当长的一段时间内,智能技术仍只能作为社会治理的辅助工具。“智能辅助”中的人机共治,主要体现为智能技术可以在信息采集、事件流转、研判分析和处理、应急指挥等社会治理工作中被社会治理人员熟练精确地运用。一方面,将智能技术嵌入社会治理的全流程,能够使智能技术适应社会治理的特征、流程与功能;另一方面,实施社会治理行为的人员需要熟练掌握智能技术的使用方法,在社会治理过程中流畅地运用智能技术。
从实践效果来看,人机共治机制已经在许多社会治理场景中实现了某种程度的自动化或智能化。其一,智能技术使得机器更加智能,机器可以不需人力参与自动完成一些特定类别的社会治理工作。智能机器已经将人类从简单但需要不断重复的部分劳动中解放出来,如文书的自动生成、语音识别、信息爬取、巡逻巡查等。随着人工智能技术的突破发展,更多的工作将会由机器来完成,社会治理也将更加自动化。其二,智能技术可以实现某种程度的自动部署。在人类预先制定工作方案和应急预案后,智能技术可以实时观测并科学准确判断事件的发生演变,在紧急事件发生后能够自动报警,实现工作任务的自动发包、人员力量的自动调配。其三,智能技术可以使人力资源分配更加科学合理。智能技术可以计算出社会治理需求较大的重点地区、重点时段、重点人群,决定人力资源投放的侧重点;可以根据基层工作人员的空间位置等信息科学地调配人员,提高问题处置效率;可以根据法律规则特别是法定职责公平合理地分配工作任务,防止出现推诿扯皮现象。
从实现方式来看,人机共治机制主要依赖于社会治理机制的平台化。随着社会治理智能化工作的推进,以林林总总的“综合指挥中心大屏幕”为“形象代表”的社会治理智能化平台(系统)如雨后春笋般在各地出现,[22]并成为社会治理工作正常开展的重要保障。
从核心内容来看,人机共治机制是一种以数据为中心的社会治理机制。智能技术虽然没有在本质上改变社会治理,但是赋予了其数据化的内核,并对个案处理工作产生了较大影响,特别是使社会治理工作流程逐渐以数据为中心。例如,巡查工作的内容体现为数据采集,决策指挥以数据为基础,事后考核监督以数据来说话等等。以数据为中心的工作机制提高了社会治理的规范化水平。将社会治理规则内嵌于社会治理平台系统,将权力关在制度化、智能化系统的笼子里,能有效防止权力滥用,使社会治理的工作符合法定程序与要求。将社会治理的工作情况呈现于智能化系统中,有助于实现社会治理工作的透明化,对工作人员形成约束。有关主体在开展风险排查、发现问题、决策部署以及监督考核等社会治理具体工作时,将以实时真实的数据为基础并参考智能平台运算结果,实现从依赖经验进行社会治理到依靠大数据进行社会治理的转变。
人机共治对于社会治理和法治建设而言是一项新事物,而且在大部分决策者眼里是一件值得保护和推广的创新之举。不可否认的是,人机共治的未来充满希望,但也充满了不确定性。对于一项充满不确定性的事物,法治似乎应当保持一定的“灰度”,为创新活动提供充分、可预期的保护;[23]然而社会治理是一项行使多种公权力的行为,法律对其创新的态度与对经济活动创新的态度不能完全等同,应该密切注意公权力的变化趋势并作出合理的反应。
首先,人机共治机制以数据为中心,传统城乡二元体制的社会治理体制可能会被打破,可能实现城乡公权力分配的一致化,这应当是法治改革的方向。众所周知,传统的社会管理以及晚近的社会治理都是以我国城乡二元体制为基础的,社会治理体制以及社会治理权力、资源分配一直存在着城乡差别,而且主要体现为重城市轻农村,学者对社会治理现代化的研究往往也区分城乡两种不同场景。[24]而以数据为中心的人机共治机制,虽然同样受到城乡二元体制的现实影响,但其标准化特征在客观上要求城乡社会治理实现一致化。实践中,网格化管理制度就开始呈现出城乡一致化的特征。当然,实现社会治理城乡一致化不是一朝一夕可以实现的,但是在法律制度构建的过程中,应当以人机共治的社会治理机制为契机,建立一套同时适合于城市和农村的社会治理制度。
其次,人机共治机制对于公权力的创新,可能是权力扩张型创新。技术被从经济领域移植到政治领域后,极易被国家俘获用于社会控制和政治权力再生。[25]对此,我们始终应当保持应有的警惕,严控公权力的无序扩张。在传统社会治理中,行使公权力的人的能力始终是有限的,因此公权力的影响范围亦是有界限的,但人机共治机制下的社会治理,公权力可以透过智能技术而摆脱人的能力限制,因此其影响范围在理论上是可以无限扩大的,这其实是人机共治机制面临的最大法律风险。对此,我们需要通过法律对人机共治机制的作用范围划定界限,尤其不能片面强调预防效果而过早介入公民的正常生活、不能片面追求无差别的公权力的全面介入(如在公共场所实施无差别的全面监控),而应当针对不同公共区域、不同类型的治理任务等采取差异化措施,避免在增加人民安全感的同时增强个人隐私保护等方面的焦虑感,防止权力透过人机共治机制挣脱出“制度的笼子”。
最后,实践流行的政企合作模式为公权力行使带来新动力的同时增加了法律风险。由于政府及其工作人员并不掌握智能化前沿技术,也不可能独立开发智能化的社会治理系统,因此不可避免地要与掌握技术的企业合作。合作模式主要是政府供给公共数据,企业提供并不断优化智能技术,二者优势互补、实现共赢。例如前文提及的杭州市拱墅区“城市眼云共治”系统就是街道与公司合作开发的智能治理平台。政企合作是人机共治机制的力量源泉,但实践中涉及的法律问题与法律风险也比较多。例如,政府可以提供什么数据给企业用于技术开发;企业接触公共数据是否安全可控;企业的准入条件是什么;国有企业与民营企业之间是否能够公平竞争;对于在社会治理智能化建设过程中开发出来的新技术,政府与企业如何合理确定知识产权归属及其后续收益;当人机共治导致损害时,政府与企业应当承担什么责任等。
六、结语
人工智能技术的运用为传统社会治理带来了许多重大变化,但这是一项充满未知数、收益与风险并存的工程,特别需要法治的指引与保驾护航。必须承认的是,我国社会治理法治建设在许多方面已经落后于社会治理实践,法治如何进入社会治理智能化建设更是一个少有人关注的话题。社会治理智能化建设过程中的法治建设虽然是社会治理法治建设的一个组成部分,但是人工智能的特殊性以及智能化建设实践中出现的新问题决定了社会治理智能化建设过程中法治建设的独特性。为充分发挥法治的效能,我们既不能满足于宏观抽象的法治叙事,也不能完全囿于传统的“立法-执法-司法-守法”的分析框架,而应该从社会治理智能化客观实践与发展前景出发,寻找另类的法治建设路径。
笔者在本文中提出的社会治理要素数据化、社会治理数据汇聚化、社会治理规则算法化、社会治理机制共治化的四维框架,是对另类路径的一种探讨,强调的是融入智能化建设实践进行法治建设的方法,体现的是法治建设的智能化思维。面对社会治理智能化过程中遇到的新问题,无论是一般法律问题如数据采集,还是社会治理中的特殊问题如人机共治、政企合作等,我们既不能完全交由技术予以回答,又不能完全套用经济领域人工智能法律规则,而应透过法治的适度介入促进问题的合理解决,确保人工智能技术提升社会治理能力,同时使社会治理公权力的行使更加规范、公民权益的保护更加有力、矛盾纠纷的化解更加有效。
注释:
[1]参见张文显:《新时代中国社会治理的理论、制度和实践创新》,载《法商研究》2020年第2期,第3页以下。
[2]《推进中国上海自由贸易试验区建设加强和创新特大城市社会治理》,载《光明日报》2014年3月6日第1版。
[3]参见《习近平:建设更高水平的平安中国》,http://www.xinhuanet.com//mrdx/2016 T0/13/c_135749912.htm,访问日期:2020年4月12日。
[4]参见杨雅厦:《应用大数据提升社会治理智能化水平》,载《光明日报》2017年4月10日第11版。
[5]关于社会治理智能化体系构建的其他方式,参见唐有财、张燕、于健宁:《社会治理智能化:价值、实践形态与实现路径》,载《上海行政学院学报》2019年第4期,第59页;孟天广、赵娟:《大数据驱动的智能化社会治理:理论建构与治理体系》,载《电子政务》2018年第8期,第7页。
[6]参见周浩:《感知技术让城市更“智慧”》,载《中国公共安全》2016年第Z1期。
[7]参见华炜、王佶敏、王志立:《科技助力城市管理“城市眼”推动智慧生活》,载《钱江晚报》2019年12月12日第3版。
[8]关于公共数据法律性质的不同理论,参见胡凌:《论地方立法中公共数据开放的法律性质》,载《地方立法研究》2019年第3期,第1页。
[9]近年来有关人脸识别技术的滥用及其规制问题引起了广泛争议。参见王春晖:《滥用“人脸识别技术”有悖法律规定》,载《中国电信业》2019年第12期;洪延青:《人脸识别技术的法律规制研究初探》,载《中国信息安全》2019年第8期。
[10]我国基层网格化管理最早由北京市东城区实施,参见陈平:《网格化——城市管理新模式》,北京大学出版社2006年版,第51页。
[11]有关网格化管理制度创新的法治路径,参见汪习根、武小川:《论社会管理创新的法治路径——以全国试点城市宜昌为分析样本》,载《社会治理法治前沿年刊(2012)》,第81页。
[12]参见阳盛益、周超玥:《基于网格化的城乡一体化社会治理平台创新与应用》,载《中共浙江省委党校学报》2015年第6期,第36页。
[13]关于基层社会治理中的行政控制与社会动员,参见王诗宗、杨帆:《基层政策执行中的调适性社会动员:行政控制与多元参与》,载《中国社会科学》2018年第11期,第135页。
[14]有研究指出,阻碍公共数据开放的因素包括数据权属不清、法律法规政策界定不明、收益机制未理顺、数据治理水平参差不齐、人力物力财力资源不足、数据安全存在风险等方面。参见王翔、刘冬梅、李斌:《我国公共数据开放的促进与阻碍因素——基于交通运输部“出行云”平台的案例研究》,载《电子政务》2018年第9期,第2页。
[15]参见杨述明:《论现代政府治理能力与智能社会的相适性——社会治理智能化视角》,载《理论月刊》2019年第3期,第81页。
[16]参见张玉梅:《公共数据开放的国际经验——基于公共数据开放的门户网站分析》,载《信息系统工程》2013年第7期,第88页。
[17]对涉及商业秘密、个人隐私或者法律法规规定不得开放的公共数据,列入非开放类;对数据安全和处理能力要求较高、时效性较强或者需要持续获取的公共数据,列入有条件开放类;其他公共数据列入无条件开放类。
[18] Abdul Paliwala, Rediscovering Artificial Intelligence and Law: An Inadequate Jurisprudence? International Review of Law, Computers & Technology, Vol.30(3)(2016), p.108.
[19]参见沈伟伟:《算法透明原则的迷思——算法规制理论的批判》,载《环球法律评论》2019年第6期,第38页。
[20]有研究表明,美国刑事司法使用的人工智能算法有种族歧视的现象。See Osonde Osoba and William Wesler IV, An Intelligence in Our Image: The Risks of Bias and Errors in Artificial Intelligence (RAND Corporation, 2017), p.13.
[21]参见汝绪华:《算法政治:风险、发生逻辑与治理》,载《厦门大学学报(哲学社会科学版)》2018年第6期,第27页。
[22]参见中共杭州市江干区委政法委员会调研组:《智慧社会治理的实践与思考——以杭州市江干区为例》,载《公安学刊-浙江警察学院学报》2017年第4期,第14页。
[23]关于法治的灰度,参见周汉华:《网络法治的强度、灰度与维度》,载《法制与社会发展》2019年第6期,第70页。
[24]参见唐清利:《公权与私权共治的法律机制》,载《中国社会科学》2016年第11期,第111页。
[25]参见王磊、陈林林:《人工智能驱动下智能化社会治理:技术逻辑与机制创新》,载《大连干部学刊》2019年第2期,第60页。
作者:周汉华,中国社会科学院法学研究所副所长、研究员;刘灿华,中国社会科学院法学研究所助理研究员。
来源:《法学杂志》2020年第9期“新技术治理与法治”