首页
法学研究所概况
国际法研究所概况
研究人员
科研成果
学术活动
法学刊物
法学教育
图书馆
搜索

 

English

日本語

한국어

人工智能时代网络犯罪的规制困境和系统治理
刘仁文
字号:

 

一、人工智能时代网络犯罪的演变

 

近年来,人工智能技术突飞猛进,网络犯罪在人工智能与信息技术的推动下不断演化升级,其复杂性和严峻性前所未有。回顾互联网发展的历程,我们可以发现网络犯罪的形态经历了明显的阶段性演变。在20世纪末互联网兴起之初的Web1.0时代,网络犯罪形式相对单一,主要表现为计算机病毒传播、木马入侵等针对计算机系统本身的攻击行为。进入21世纪初用户互动日益频繁的Web2.0时代,社交媒体和电子商务蓬勃发展,网络犯罪开始多样化,网络诈骗、身份盗用、数据窃取等以牟取不法利益为目的的犯罪活动激增,犯罪团伙逐步呈现出产业化和专业化的趋势。如今,在初见端倪的Web3.0阶段,随着人工智能、区块链、元宇宙等新兴技术融入网络空间,网络犯罪进一步向智能化和去中心化发展,甚至出现虚拟世界与现实社会深度交织的犯罪模式。

可见,网络形态的迭代伴随着网络犯罪形式的嬗变,孕育出从最初简单的计算机侵入到如今复杂多元的网络犯罪场景。犯罪人甚至已开始利用人工智能的深度学习和自动化能力,实施更为精准的网络犯罪。例如,目前已出现多起不法行为人运用深度伪造(Deepfake)技术将自己伪装成受害者的亲友,实时更换面孔并模拟对方声线,通过视频通话骗取信任后要求转账的案例。[①]此类融合人脸替换和语音合成的诈骗由于迷惑性极强,受害者极容易上当受骗。此外,还有不法行为人将ChatGPT等大语言模型接入社交平台,批量生成个性化诈骗讯息,通过成百上千个虚假账号同时行骗,在短时间内滚雪球般扩大犯罪收益。[②]与以往相比,当前网络犯罪生态在空间上发生了整体迁移,从线上冲击到线下、从虚拟延伸到现实,对社会秩序和犯罪治理产生了系统性影响。如书中所述,专业的犯罪群体,多样的犯罪手段,隐蔽的犯罪过程,以及跨域的犯罪结果等,都成为人工智能时代网络犯罪的典型特征。

 

二、人工智能时代网络犯罪刑法规制的挑战

 

面对人工智能时代日益猖獗且复杂多变的网络犯罪,传统法律的应对困境日渐凸显。许多在现实空间中运行良好的刑事法律规则,一旦移植到网络空间就可能“水土不服”。究其原因,一方面在于网络犯罪的无形性和跨域性突破了刑法以往建立在物理空间基础上的传统规则。传统刑法理论和立法主要围绕现实空间中的主体和对象设置犯罪构成和惩罚手段,然而网络空间的虚拟性使得行为人与行为、后果与地域之间出现了前所未有的分离。另一方面在于技术发展的速度远远快于刑事立法的更新速度。许多新型网络犯罪行为在1997年新刑法颁行时并不存在,即便通过后来的几个刑法修正案不断增加了非法控制计算机信息系统罪、非法利用信息网络罪、帮助信息网络犯罪活动罪等罪名,仍难以应对人工智能时代不时涌现的新型网络犯罪。

首先,新的技术和应用场景带来法律适用的难题。例如,现行法律并未明确人工智能生成物的法律地位,其是否构成法律意义上的“作品”直接关系到能否受到著作权法乃至刑法的保护。对此学界观点不一,“反对说”基于“人类中心主义”,认为作品须由人类独立创作完成,非人类智力成果不属于著作权法上的作品;“赞成说”则呼吁与时俱进地扩大作品范畴,将有独创性价值的人工智能生成物纳入著作权保护,并通过制度设计明确权利归属。在法律规定不明确且缺乏理论共识的情况下,司法机关在办理相关案件时不得不直面人工智能生成物算不算受法律保护的作品,以及如何认定其可能引发的著作权侵权乃至犯罪等一系列棘手问题。

其次,人工智能技术的介入加剧了网络犯罪在刑事程序领域的困境。例如,刑事诉讼法及相关司法解释采用“多点连接”原则来确定网络犯罪的犯罪地,以适应其跨地域实施的特点。换言之,犯罪行为发生地、危害结果发生地、被害人所在地、网络服务提供者所在地以及服务器所在地等都可能被视为犯罪地。然而,人工智能的应用使得网络攻击可以从不同地域同时发起,进一步加剧了管辖权竞合。当网络犯罪在多个地域同时发生,且行为实施地、结果发生地、被害人所在地、平台服务器所在地等并存时,究竟由哪个司法机关优先管辖,或在不同司法机关同时管辖时应当遵循什么原则,就成为必须面对和解决的问题。又如,在传统模式下,侮辱罪、诽谤罪主要作为自诉案件处理,仅当“严重危害社会秩序和国家利益”时才能转为公诉案件。但在网络空间中,当不法行为人利用人工智能批量生成谣言内容或操纵海量虚假账号发动攻击时,很容易导致不实信息呈现病毒式传播,从而对被害人名誉乃至身心造成严重伤害,这种情形下被害人往往面临管辖难、识别难、取证难等诸多困境。虽然刑法修正案(九)有针对性地增加了一款规定,即通过信息网络实施侮辱、诽谤行为,被害人向人民法院告诉,但提供证据确有困难的,人民法院可以要求公安机关提供协助,但该款规定除了范围受限(仅限于网络侮辱和网络诽谤的情形),在实践中实施效果也不理想。

再次,电子数据取证领域出现的新挑战对传统证据规则和司法办案思路造成冲击。随着数字经济的发展,不法行为人常利用“合法业务掩护非法收益”的手法逃避监管,一些看似正规经营的电商平台或投资项目背后往往暗藏着非法经营、集资诈骗、网络赌博等犯罪活动。非法所得与合法收入混同进入同一资金池反复流转,使资金流向复杂难辨。2022年最高人民法院、最高人民检察院 公安部发布的《关于办理信息网络犯罪案件适用刑事诉讼程序若干问题的意见》已允许在电子数据证据量大且高度同质化的情况下,采取比例抽样方式取证以证明全案事实,以解决海量数据下的证明困难。但这种资金混合方式仍使执法机关难以明确区分犯罪所得与合法收益,直接影响犯罪数额的认定和违法所得的追缴,稍有不慎就可能导致违法所得遗漏或合法财产权利受到侵害。

 

三、人工智能时代网络犯罪亟须系统治理

 

网络犯罪的治理需要在刑事一体化理论指导下,运用刑法学、刑事诉讼法学、犯罪学、计算机科学等多学科理论和方法进行结构性的治理范式转型,实现治理理念、主体、手段的系统性整合。

一是要在法秩序相统一原理指导下发挥法律的实质解释功能,加强刑法与相关部门法的协调与共治。按照刑法参与社会治理的一般逻辑,应建立民事、行政、刑事分层递进的干预体系:先由知识产权保护和网络监管等领域的民事、行政法律法规设定具体规范,在这些前置手段无法有效防控且侵权行为后果严重的情况下,再考虑刑法的介入。同时,法秩序相统一原理要求不同法律部门对同一行为的法律评价保持内在的一致,避免相互矛盾。例如,我国司法实践已初步建立了人工智能生成物是否构成作品的判断规则,在2023年审结的一起人工智能“文生图”著作权保护案中,法院认为,当人工智能生成图片的过程体现了人类的实质性智力投入——如用户通过提示词对生成过程进行充分控制,使生成物达到著作权法要求的独创性——则该内容可被视为由人创作的作品,受著作权法保护;反之,若生成过程缺乏实质性的人类智力投入,则该生成物不应认定为法律意义上的“作品”。[③]与此思路相一致,在2025年北京审结的一起人工智能著作权刑事案件中,法院认定被告人利用人工智能对他人插画进行技术微调再现他人独创性表达属于掩饰不法行为的手段,并非在创作新的作品,实质上已构成刑法意义上的“复制发行”且违法所得数额巨大,最终以侵犯著作权罪对被告人定罪判刑。[④]可见,即便法律尚未明文列举利用人工智能技术复制他人作品的情形,只要行为本质上符合对他人作品“再现”的特征,同样可以按照侵犯著作权犯罪中的复制行为论处。这样,通过对现行法律概念作出符合技术发展实际的实质解释,可实现新领域新场景的行刑衔接。

二是要着力完善网络犯罪的刑事办案程序和办案机制,以解决管辖权竞合和自诉转公诉障碍等刑事程序困境。应建立并贯彻“首案管辖、指定管辖、并案处理”等机制,尽可能妥善解决网络犯罪管辖权分散的问题。即当网络犯罪存在多个犯罪地时,由最先受理案件或主要犯罪地的公安机关立案侦查;若管辖发生争议,应本着有利于查明事实和诉讼便利的原则协商解决,协商不成时报请共同上级指定管辖并进行并案处理。同时,针对当下广受关注的网络暴力犯罪治理,应根据刑法第246条的规定,一方面,对于情节恶劣、危害严重的网络侮辱和网络诽谤案件,明确自诉转公诉的具体条件和程序衔接,确保当被害人难以自行取证维权时,国家公权力能够及时介入;另一方面,总结“杭州取快递女子被造谣案”“《刑事审判参考》第966号案例秦某某诽谤、寻衅滋事案”等典型案例经验,完善“情节严重”“引发公众秩序混乱”“造成恶劣社会影响”“严重危害国家利益”的判断标准,从而防止各地办案中自诉转公诉的随意性。此外,通过细化司法解释和创新办案机制,压实网络平台在网络暴力治理中的责任。虽然《电子商务法》《网络安全法》和《数据安全法》已原则性规定了平台数据留存和协助调查的义务,但我们还需要明确规定平台妥善保存涉案电子数据、及时提供用户身份及行为记录、拒不配合调查法律后果的细则。鼓励平台运用人工智能、大数据技术加强内容审核和风险监测,完善异常账号识别、恶意内容拦截机制,从技术层面阻断利用人工智能实施网络暴力的行为。公检法机关也应与平台建立常态化的协作机制,通过签订协作备忘录、推行平台合署机制来完善涉案数据同步调取与联合执法标准化流程,设立快速响应通道与证据交接清单,既提升电子取证与执法效率,又确保程序合法和数据安全可溯,从而提高网络犯罪案件办理的及时性与有效性。

三是要加速推进电子证据领域的制度建设,有效破解前述电子数据取证方面面临的挑战。从源头上减少合法与非法资金混同,应加强对支付结算平台、第三方支付机构和银行账户的监管。推行交易标签化和账户分类管理,要求从业机构对大额异常资金往来、资金来源去向不明的账户及时采取识别和报告措施。金融机构应落实反洗钱客户尽职调查和可疑交易报告制度,将现金密集型企业混洗资金的典型模式加入风控模型,自动预警资金混同行为。应完善电子数据取证规则,明确执法机关运用人工智能技术获取电子数据的合法性与程序要求,建立电子数据取证标准与技术规范,确保电子证据获取过程的合规性和透明性,从而实现对资金流向的实时监控和自动追踪,通过机器学习算法对资金账户进行智能分类和异常交易检测,及时发现和锁定犯罪线索。优化电子证据审查标准,细化人工智能技术介入下电子数据真实性、关联性和合法性的审查认定规则,尤其强调算法透明性与可解释性,防止技术滥用或错误认定。建立电子证据司法鉴定制度,明确电子证据审计与人工智能分析鉴定专家资质,加强专家辅助人制度的程序性保障。对于非法资金与合法资金确实无法精确区分的情形,可借鉴已有法律法规来完善证据推定规则。《反有组织犯罪法》第45条规定,被告人实施黑社会性质组织犯罪的定罪量刑事实已经查清,有证据证明其在犯罪期间获得的财产高度可能属于黑社会性质组织犯罪的违法所得及其孳息、收益,被告人不能说明财产合法来源的,应当依法予以追缴、没收。针对合法收入与违法所得混同的情况,可在法律框架内引入合理的举证责任分配和推定机制:检察机关需提供证据证明涉案资金高度可能属于违法所得;而犯罪嫌疑人或利害关系人则负有证明资金中存在合法来源的责任。法官将在庭审中综合比对双方证据的优劣,从而认定资金属性。倘若检方证据达不到证明资金系非法的高度盖然性标准,则应排除对该部分资金的追缴。为了避免误伤合法财产,我们还应对涉案财产的推定实施严格的程序保障和范围控制,充分保护相关人的申辩权利,从而在防止犯罪分子利用资金混同逃避法律制裁的同时保障无辜财产权益不受侵害,以确保司法裁判的公正性与权威性。

 

注释:

[①]参见林志佳:《网聊10分钟被骗430万,AI换脸拟声骗术正入侵我们生活》,https://news.qq.com/rain/a/20230524A03R6Z00,2025年10月15日访问。

[②]参见《大公报》:「換臉」加ChatGPT 「殺豬盤」騙局更逼真,https://www.tkww.hk/epaper/view/newsDetail/1870905217806110720.html,2025年10月15日访问。

[③]徐伟伦:《认定利用人工智能生成的内容可构成“作品”》,《法治日报》2024年1月4日第4版。

[④]张雪泓:《北京首例利用AI侵犯著作权刑案宣判》,《法治日报》2025年6月18日第6版。

 

作者:刘仁文,中国社会科学院法学研究所研究员,中国社会科学院大学法学院教授。

来源:《民主与法制时报》2026年3月12日。(本文摘编自给郑旭江副教授2025年在法律出版社出版的《人工智能时代网络犯罪刑事一体化治理研究》一书所撰序言。)