“第二届环法论坛：人工智能政策与法律——算法治理”国际研讨会

在杭州成功召开

 

 

2019年10月18日至19日，由中国社会科学院法学研究所主办，中国社会科学院法学研究所《环球法律评论》编辑部承办的第二届环法论坛在浙江省杭州市浙江宾馆隆重召开，主题为“人工智能政策与法律——算法治理”。来自法学界的中外专家学者以及相关产业界人士等数十人参加了本次论坛。

中国社会科学院法学研究所副所长、《环球法律评论》主编周汉华研究员主持研讨会开幕式。他充分肯定了第一届环法论坛引发的热烈反响，并在介绍本次研讨会的初衷时表示，“算法治理”在人工智能领域属于既前沿又复杂的重要议题，既具有时代色彩浓郁的理论意义，也具有现实需求迫切的实践价值。以此展开研讨有助于推动网络信息法学的繁荣发展，促进中国信息法治的创新建设。

 

 

中国社会科学院学部委员、中国社会科学院法学研究所所长陈甦研究员和耶鲁蔡中曾中国中心执行主任罗彬先生分别致开幕辞。

陈甦研究员在致辞中指出，“环法论坛”是《环球法律评论》杂志精心打造的高端学术论坛。《环球法律评论》杂志作为有影响力的法学学术期刊，有能力有责任有信心办好论坛，使之成为专业效率的法学学术交流平台。他肯定了本次论坛的选题，认为算法既是人工智能的关键，亦是影响社会运行的重要规则。作为新技术所产生的新法律关系，算法给法治带来了巨大挑战，亟需政产学研各界共谋治理，献言献策。因此参与研讨、交流思想，是我们观察事实变迁、分析重大问题的机会与责任。

 

 

罗彬主任在随后的致辞中也肯定了选题的建设性、共识性以及迫切性。他认为算法治理涉及多项细分领域，面临各种挑战，目前在全球范围内也没有形成合一有效的解决办法。因此开展国际交流，有助于切准问题、探寻答案。

 

 

大会伊始，中国社会科学院法学研究所周辉助理研究员和耶鲁蔡中曾中国中心陆凯研究员分别就中美两国在人工智能法律与政策领域的发展发布了研究报告。

周辉助理研究员作为中方代表首先在报告中指出，中国政府高度重视人工智能及相关产业的发展，对相关的治理政策也给予了法律制度上的跟进。他从产业宏观框架的构建、相关法律政策的完善以及新类型案例的研究三个层面作了深入阐述，并提出规制算法权力的终极目标，即在于继续保有算法赋能的情况下，丰富算法自由。

 

 

陆凯研究员代表美方在报告中首先提出美国关于算法治理的一项重大经验是“去中心化”，即令不同行业、企业和个人，在现有的法律框架下实现自治，解决问题。随后他介绍了美国现行以及仍在制定过程中与“算法”有关的法案，内容涉及云计算、算法问责、算法透明度以及算法使用方法等。最后他指出目前美国对算法治理目标的合规性存在不一致的看法，有待进一步研讨。

 

 

本次研讨会共分四个单元，涉及“算法与法治”“算法与隐私”“算法与变革”以及“算法应用与法律规制”等议题，并就此分别展开深入交流。

第一单元由中国社会科学院法学研究所《环球法律评论》编辑部副主任姚佳研究员主持。

 

 

中国社会科学院法学研究所商法室副主任赵磊研究员就“算法信任时代的信用体系”进行了主题发言。他指出算法时代的关键在于理解信任的基础和机制。他从算法信任的概念切入，对算法信任的功能、其对传统商事信用的冲击、对交易中的算法规制等逐项进行了深入分析，并在此基础上提出算法信任可以促成交易、降低交易成本、提高交易效率并且会革新商事信用制度。

 

 

德国奥斯纳布吕克大学克里斯托夫·沃纳·布赫终身教授以“算法规制和个性化法律的（不）完美执行”作了主题发言。他首先澄清了“算法规制”的概念，即在他的论题范围内算法被视为规制的工具。在此基础上，他探讨了制定个性化的法律框架，管理数据驱动的算法的可行性，也就是立法颗粒度精细化的可能性。最后他指出，一般的法向个性化的法转变的趋势势必对未来的法治模式产生深远影响。

 

 

美国人工智能合作组织研究员艾丽斯·项女士以“人工智能领域跨越技术概念与法律概念鸿沟的重大意义”作了主题发言，她主张在从伦理、公平、透明、问责等抽象原则出发解决人工智能领域的问题时还应兼顾技术层面的考量，理由是对于技术细节的误解可能在法律层面转化为错误的技术规制。

 

 

北京师范大学法学院数字经济与法律研究中心主任汪庆华教授以“算法立法与算法问责：一个比较法的观察”作了主题发言。他从算法的概念切入，在依次对算法的本质、算法的解释、行政决策的自动化规制、我国国内相关立法以及美国纽约市的立法等问题进行梳理和比较后提出，在考虑算法规制的问题时应具有全球化思维，具体来说就是要公法、私法共同协力；在立足本国实际的基础上，参考域外经验；与此同时鉴于数据和技术具有跨界性，还应兼顾溢出效应。

 

 

华东政法大学法律学院副院长陈越峰副教授以“算法之治的规制结构”作了主题发言。他以自动驾驶为例切入，提出自动驾驶在中国的算法风险主要集中于安全、隐私、社会公正、非歧视等问题。他进一步指出应警惕因诱导分心、技能退化以及损害情境意识引起的“自动化偏见”风险以及“责任分散”风险。

 

 

阿里巴巴俞思瑛副总裁与清华大学法学院院长助理刘晗副教授担任本单元的与谈人。俞思瑛副总裁从阿里巴巴集团的真实业务场景出发分享了应当如何在具体应用中理解算法；刘晗副教授随后指出算法时代的到来使得建立在工业社会基础之上的法治理念发生动摇，法律共同体应重新考量算法与法律的关系。

 

 

第二单元由浙江大学光华法学院副院长郑春燕教授主持。

 

 

App治理工作组副组长洪延青博士以“算法阴影下的个人信息保护范式”为题进行发言。他从传统业务模式下的个人信息保护问题引入，提出现代智能算法面临着数据类型转换和无需特定个人信息也能对特定个人提供服务等两项挑战，并指出我国目前的数据保护范式无法有效应对算法的发展。

 

 

中国医科院医学信息研究所主任曹艳林研究员以“健康医疗大数据规制的中国经验与挑战”为题进行发言。他指出人工智能医疗主要包括算法、数据、算力以及场景等四项要素，其发展需要进行系统性思考。在此基础上，他进一步从医学人工智能的进展、现行相关政策法规、中国的经验与面临的挑战等方面阐述了目前我国健康医疗大数据规制的现状，并提出应以各方主体共同发挥作用为治理理念，通过软法实现权利和利益的平衡。

 

 

上海财经大学法学院副院长胡凌副教授以“刷脸：身份认证与法律规制”为题进行发言。他指出刷脸是赛博空间不断扩展的必然阶段，能够以快速登入与认证的过程帮助在线交易提升效率，但也带来一些社会问题。在此基础上，他提出应关注刷脸背后的个人信息自动化整合及其可能的使用方式与异化问题，为未来其他生物信息的应用提供问题意识和理论框架。

 

 

中国信通院互联网法律中心副主任伦一研究员以“互联网精准营销模式下的算法规制问题初探”为题进行发言。他指出互联网广告是互联网行业的主要盈利模式。他以近期美国执法机构FTC对于脸书和谷歌的处罚为例，比较和分析了执法部门对于算法规制的不同做法和经验，在此基础上提出在互联网行业发展的不同阶段存在对于算法效果和对于算法本身规制的不同模式。基于中国规制和产业发展现状的未来重点规制方向有待进一步观察。

 

 

中国政法大学法学院、大数据和人工智能法律研究中心主任沈伟伟副教授以“算法透明的迷思——算法规制理论的批判性重构”为题进行发言。他认为算法对法学界而言是全新的概念，知情成本高，因此算法透明原则或许并非重要。在此基础上他提出，美国计算机七项原则或可解决目前对于透明度过分担忧的倾向。

 

 

中国社会科学院法学研究所吴峻副研究员与浙江大学法学院金承东副教授担任本单元的与谈人。吴峻副教授认为算法是技术性概念，尽管法学学者并非技术人员，仍应在理解技术的基础上从制度建构的角度进行考量。金承东副教授指出算法引起的系列问题都由技术起决定作用，法律在其中则发挥价值选择和行为规范的作用。

 

 

第三单元由浙江工商大学法学院党委书记骆梅英教授主持。

 

 

美国佐治亚理工学院舍勒商学院德文·德赛副教授以“美国与欧盟的法律变革——对算法驱动创新的回应”为题进行发言。他针对美国和欧盟采取的数据治理模式进行比较分析，辩证地指出两种模式存在诸多不同之外，亦有相同之处。他提出可从内部治理、行业治理等多维度探寻算法治理的中间道路。

 

 

中国人民大学法学院、未来法治研究院副院长丁晓东副教授以“智慧司法的理论基础与制度架构——基于人工智能算法与司法原理的分析”为题进行发言。他提出智慧司法建设离不开对人工智能与司法原理的双重分析。人工智能司法系统应当定位于辅助与建议的角色，与此同时智慧司法建设还应当注意司法制度的顶层设计、符合司法原理，真正实现科技与司法的深度融合。

 

 

北京科技大学张凌寒副教授以“平台在算法治理中的功能与地位”为题进行发言。她从信息论的角度提出，搜索引擎的实际法律地位是基于“算法的信息发布者”，兼具信源与信道属性，同时是盈利性企业又属于公共产品。因此，应以“基于算法的信息发布者”作为规制搜索引擎算法损害的原点，为搜索引擎的平台设置算法看门人的注意义务。在搜索引擎等平台的算法责任框架设计的过程中，应考量算法处理数据所涉的利益类型以及算法对用户行为的干预能力等。

 

 

西南政法大学郑志峰助理教授以“超越数据权：自动化决策应对的算法权思维”为题进行发言。他认为相较于以往的信息科学技术，算法驱动的自动化决策具有自主性、不可预测性以及不可解释性的特征，这使得现有以数据保护为中心的数据权模式存在天然不足，有必要构建系统的算法权体系。他提出为应对自动化决策带来的不公，法律应将现有数据权体系适当扩展至自动化决策，同时增加算法解释权、算法拒绝权、算法更正权等算法权利。

 

 

阿里巴巴集团法律研究中心邱福恩研究员以“算法应用实践及其治理的产业思考”为题进行发言。他首先对当前人工智能的研究领域、类目及分支作了全景式的描述。在对目前国内外算法治理规范进行梳理的基础上，他分析了算法与公平性、透明和可解释性、可重复性以及可追溯性等的关系，并提出算法决策过程中应当发挥人的主观作用，并根据具体应用场景确定人在决策过程中的介入程度。

 

 

同济大学法学院苏苗罕副教授与华东政法大学法律学院副院长陈越峰副教授担任本单元的与谈人。苏苗罕副教授根据本单元的发言从算法规制的场景、目标和工具等不同层面对算法治理领域目前的规制结构进行了谱系性的梳理，极具启发性；陈越峰副教授谈到针对算法带来的经济社会和生活变革，应考虑相关参与方对风险的认知和接受程度以及对价值判断和选择上的共识程度。应在夯实算法的法治基石之上，任由市场充分竞争。

 

 

第四单元由中国社会科学院法学研究所李霞副研究员主持。

 

 

中国社会科学院法学研究所冯珏副研究员以“自动驾驶汽车事故责任的财产基础”为主题进行发言。她从自动驾驶汽车的反应和决策在未来是否会脱离人类的规划和控制，致使其本身可以作为责任主体的问题引入，提出智能机器人与法人的类比是否成立，需要进行功利主义和工具理性的考量，在实践的基础上考虑目的必要性和手段合理性。此外，她还从财产角度出发，对赋予智能机器人工具性法律人格以及设置相应的风险基金的观点进行了分析。

 

 

韩国成均馆大学、韩国个人信息保护法研究会会长金珉湖教授以“数据本地化”为主题进行发言。他指出政府通过对数字采取本地化的措施来保护数据的主权往往基于国家独立和民族尊严的考虑，但这一政策在实践中遭受诸多质疑。因此，他主张数据本地化应从数据本身的特性和实践中寻找必要性和可行性，即对于为保护国家主权确需采取本地化措施的，例如涉国家安全和公共记录等数据可进行本地化，对其他类型的数据为使经济效益最大化，则不应被本地化。

 

 

美国南卡罗莱纳大学法学院和工程学院布莱恩特·沃克·史密斯副教授以“自动驾驶汽车与可信赖的企业”为题进行发言。他指出安全是算法应用中需实现的目标之一。他以“自动驾驶汽车”为切入点进行了深入分析，并在此基础上得出结论，安全并非仅仅是汽车产业和公司自我设定的技术目标，应同时是对社会公众的承诺与责任。

 

 

中国人民大学法学院、未来法治研究院执行院长张吉豫副教授以“著作权的算法实施与法律规制”为题进行发言。她提出应通过算法来甄别侵犯著作权的作品，同时实现对著作权的法律保护。在此基础上，她进一步指出著作权的算法实施应通过科技和法治两方面推动，同时著作权的算法实施具有必然性和积极意义。最后她提出应以“平台”激励为原则建立共治机制，并以此作为著作权算法实施的规制与辅助机制的可行性方案。

 

 

四川大学法学院李成副教授以“人工智能时代的歧视及其法律治理”为题进行发言。他提出人工智能时代的歧视是个人层面的内隐偏见和社会层面的系统性歧视导致结构性不平等在算法和数据维度上的映射。现行禁止歧视的法律制度既面临着个人信息泄露增加歧视发生风险，“算法黑盒”掩盖因果关系等的挑战，也存在着借助人工智能发现歧视等机遇。因此可以考虑通过加强算法审计等手段，从根本上通过平权行动等措施消除结构性不平等。

 

 

安理律师事务所合伙人何姗姗律师以“自动驾驶路测涉及的算法问题”为题进行发言。她首先介绍了智能网联引发的交通系统及生态变革，并提出自动驾驶实际上是人向算法让渡了部分决策权，在设计算法时应在安全与效率间注意平衡。最后她指出算法决策时会面临伦理挑战，解决这一问题的关键在于理解人性是应对未来挑战的关键，技术发展过程中应思考构成人类社会、政治、经济和文化的基石，找到传承和创新的最佳平衡点。

 

 

美团点评法律政策研究院张腾院长与安理律师事务所合伙人王新锐律师担任本单元的与谈人。张腾院长结合行业实践分享了美团点评在出行领域的服务结构和模式；王新锐律师指出在新兴的人工智能领域，难点是在不确定状态下开展研究并提出立法建议，由此应抓大放小，将解决问题的着眼点放在结构性矛盾。

 

 

 

在闭幕式环节，中国社会科学院法学研究所副所长、《环球法律评论》主编周汉华研究员和耶鲁蔡中曾中国中心执行主任罗彬分别总结了本次研讨会的发言与讨论，并对中美双方未来的合作给予了憧憬和展望。

 

 

研讨会历时一天半，议程紧凑、内容丰富，既有高度共识，也有热烈讨论。大家纷纷反映，此次会议学术含金量高、信息量大，对回应人工智能领域的热点及现实问题必将产生重要影响。最后，会议取得圆满成功。