摘要：随着人工智能技术的快速发展，越来越多的人在工作生活中开始享受到该技术所带来的全新体验，但伴随而来的是，利用或滥用人工智能技术从事违法犯罪的活动日益增多。人工智能犯罪有广义和狭义之分。狭义上的人工智能犯罪是指以人工智能为主体的犯罪，而广义上的人工智能犯罪是指以人

作者：陈兴良，北京大学博雅讲席教授、博士生导师。

随着人工智能技术的快速发展，越来越多的人在工作生活中开始享受到该技术所带来的全新体验，但伴随而来的是，利用或滥用人工智能技术从事违法犯罪的活动日益增多。人工智能犯罪有广义和狭义之分。狭义上的人工智能犯罪是指以人工智能为主体的犯罪，而广义上的人工智能犯罪是指以人工智能为手段的犯罪。应该说，当前我国社会中的所谓人工智能犯罪通常是指广义上的人工智能犯罪。例如2023年9月，最高人民法院、最高人民检察院、公安部联合发布《关于依法惩治网络暴力违法犯罪的指导意见》，明确对“利用深度合成等生成式人工智能技术发布违法信息”的情形从重处罚。这里的生成式人工智能技术发布违法信息犯罪，是我国司法解释中首次对人工智能犯罪的处罚问题做出规定。在上述司法解释中所提到的生成式人工智能技术发布违法信息犯罪，就是典型的以人工智能为手段的犯罪。此外，2024年4月12日公安部公布10起打击整治网络谣言违法犯罪典型案例，其中4起典型案例涉及使用人工智能技术编造虚假信息。这里的生成式人工智能，是建立在生成式人工智能技术之上的科技产品。2023年7月10日国家互联网信息办公室联合国家发展和改革委员会、教育部、科学技术部、工业和信息化部、公安部、国家广播电视总局公布《生成式人工智能服务管理暂行办法》（以下简称《办法》），《办法》第22条第1项规定：“生成式人工智能技术，是指具有文本、图片、音频、视频等内容生成能力的模型及相关技术。”广义上的人工智能犯罪只不过是智能化的传统犯罪，而狭义上的人工智能犯罪则是指以人工智能为主体的犯罪，例如人工智能的机器人的犯罪。广义上的人工智能犯罪，由于是将人工智能作为实施犯罪的手段，因而不同于传统犯罪，但此种意义上的人工智能犯罪并不具有刑法教义学意义，仅具有犯罪学意义，也就是作为人工智能的犯罪手段具有特殊性，在犯罪形态和预防措施等方面需要进行专门研究，而定罪量刑并无特殊性。但狭义上的人工智能犯罪，则存在一个归责问题，尤其是以人工智能形式呈现的机器人，具有替代人类产生某种操作性活动的特征，当其造成危害结果的时候，应当如何归责就成为一个刑法教义学需要专门研究的问题。

对于人工智能犯罪的研究，近些年来在刑法学界成为热门话题，研究成果也不断涌现。对此，我认为在人工智能犯罪研究中应当注意以下三点。

一、积极应对人工智能犯罪时代的到来，刑法理论应当有所作为

随着网络技术的发展和智能化时代的到来，以现代网络技术为基础的犯罪也迅速迭代演变，完成了从网络犯罪到人工智能犯罪的更替。当然，目前我国刑法学界对于网络犯罪和人工智能犯罪之间关系的认识尚存在一定争议。网络犯罪是从计算机犯罪演进而来的，如果说计算机只是信息网络的支点，那么通过计算机联网而形成的信息网络则成为一个与现实空间相对应的网络空间。网络空间为犯罪提供了除现实空间以外的又一个生存空间，因而拓展了犯罪存活的范围。网络犯罪通常分为两种形态：第一种是不纯正的网络犯罪，即传统犯罪的网络化。例如网络诈骗罪，原本发生在现实空间的诈骗罪转移到网络空间，点对点的诈骗演变为平台式的诈骗，面对社会上不特定的多人进行涉众型的诈骗活动。从目前犯罪态势来看，绝大多数传统犯罪都可以演化为网络犯罪，即使是传统的具有身体接触性的人身犯罪，例如猥亵罪发生在网络空间，由此形成隔空猥亵。隔空猥亵通常发生在猥亵儿童的犯罪场景之中，它区别于传统的有身体接触的猥亵方式，具有更强的隐蔽性。在隔空猥亵案件中虽然犯罪人没有直接与被害儿童进行身体接触，但利用网络强迫14岁以下未成年人发送隐私部位的照片、视频、裸聊甚至发送侮辱淫秽的语言，都是对儿童人格尊严和心理健康的严重侵害，与实际接触儿童身体的猥亵行为具有相同的社会危害性，因而应当认定构成猥亵儿童罪。最高人民法院、最高人民检察院《关于办理强奸、猥亵未成年人刑事案件适用法律若干问题的解释》第9条第1款规定，胁迫、诱骗未成年人通过网络视频聊天或者发送视频、照片等方式，暴露身体隐私部位或者实施淫秽行为，符合《刑法》第237条规定的，以强制猥亵罪或者猥亵儿童罪定罪处罚。第二种是纯正的网络犯罪，即只能在网络空间发生的犯罪。纯正的网络犯罪是指只能发生在网络空间或者针对计算机信息系统所实施的犯罪。刑法规定的7个网络犯罪罪名就是典型的纯正的网络犯罪。例如《刑法》第285条第1款规定的非法侵入计算机信息系统罪，此种犯罪只能发生在网络空间，因而属于纯正的网络犯罪。归纳上述网络犯罪的特征，可以将网络犯罪界定为以网络空间为场景的犯罪。因此，但凡发生在网络空间的犯罪都可以归入网络犯罪的范畴。

人工智能犯罪是指以人工智能为工具或者以人工智能为主体的犯罪。人工智能和信息网络一样，都是一种技术手段。然而，网络技术和人工智能技术之间存在着某些差异，或者说，不能完全把人工智能技术归之于信息网络技术。在这种情况下，人工智能犯罪和信息网络犯罪就不是同一个概念，两者之间尽管存在某种竞合，但仍然应当将人工智能犯罪与信息网络犯罪加以区别。根据智能程度，可以将人工智能机器人区分为弱智能机器人与强智能机器人。弱智能机器人，也称为广义上的人工智能，它不具有辨认能力和控制能力，其实现的只是设计者或使用者的意志。因此，我们可以将弱智能机器人看作是人类改造世界的新型工具。强智能机器人，也称为狭义上的人工智能，它具有辨认能力和控制能力，可以超出设计和编制的程序范围，进行自主决策并实施相应行为，实现其自身的意志。从目前人工智能发展的现实来看，弱人工智能已经运用于现实生活之中，但强人工智能则尚未现实化。在这种情况下，我国学者认为立足于当下，强人工智能犯罪在未来或许会成为计算机网络犯罪的新型样态；但当下与人工智能相结合的犯罪，也就是弱人工智能犯罪，尚未突破网络犯罪的特征属性，仍然是网络犯罪的当代变异发展而已。这种观点将人工智能犯罪归之于网络犯罪，认为人工智能犯罪只是网络犯罪的一种特殊形态。对于这种观点，我并不赞同。确实，人工智能犯罪与网络犯罪存在竞合关系。例如在被称为全国首例利用人工智能技术的犯罪案件中，以李某、杨某、黄某为代表的黑客犯罪团伙利用超级SQL注入工具，即网站漏洞扫描软件，批量扫描网站程序漏洞，非法获取网站后台用户注册数据。获取网站后台数据后，黑客团伙黄某将包含各类邮箱和密码的数据分门别类进行销售，以每10万条数据50到100元的价格卖给下线晒密人员。吴某、魏某等拿到这些原始数据后用撞库软件进行批量撞库、匹配，进而将各类账号与密码匹配成功的账户以1.2-1.5元一个的价格贩卖给网络诈骗犯罪团伙。以郑某为代表的诈骗团伙用获取的账号实施各类网络诈骗活动。本案之所以被称为人工智能犯罪第一案，是因为在本案中，犯罪分子利用个人信息实施诈骗过程中，在识别验证码这一关键环节，利用了人工智能（AI）技术。就犯罪分子利用人工智能技术进行验证识别而言，本案确实具有人工智能犯罪的特征。但就本案在整体上具有利用信息网络进行诈骗而言，本案又具有网络犯罪的特征。可以说，本案是人工智能犯罪和信息网络犯罪的竞合。当然，本案犯罪分子主要还是利用信息网络实施诈骗犯罪，因而网络犯罪的特征更为明显，至于人工智能技术不过是一种犯罪手段，在实施信息网络诈骗过程中使用而已。尽管如此，我们还是可以得出结论，随着人工智能技术的不断演进和成熟，利用人工智能技术的犯罪现象必将越来越普遍，这是值得我们重视的。

刑法理论本身是随着科学技术的发展而不断演变的，从农耕时代的财产犯罪，到工业时代的经济犯罪，再到信息时代的网络犯罪，犯罪现象的变更对刑法理论提出了重大挑战。在我们所处在的这个时代，信息技术已然十分成熟，网络犯罪正在成为犯罪的主要类型。然而，信息技术的发展永无止步，随着人工智能技术在社会生活中的广泛运用，人工智能犯罪的出现已经不可避免，在这种情况下，刑法理论应当正视人工智能犯罪的这一现实，迎接人工智能犯罪的挑战。

二、人工智能犯罪研究应当立足于现实，避免陷入科幻法学的泥淖

如前所述，人工智能犯罪根据人工智能的强弱，可以分为强人工智能犯罪和弱人工智能犯罪。在某种意义上说，弱人工智能犯罪只是人工智能犯罪的初级形态，只有强人工智能犯罪才是真正意义上的人工智能犯罪。因此，就目前而言，真正意义上的人工智能犯罪对于我们来说还是一种未来时态。也就是说，目前人工智能的技术尚未发展到强人工智能的程度，而且人工智能到底强到什么程度，是否能够智能到具有独立自主的意识与意志，成为刑法中的责任主体，目前只是一个虚幻的问题，无法对此进行科学的分析。但弱人工智能机器人已经成为现实，它能够部分替代人类操作。例如人工智能驾驶对汽车带来一场革命，汽车从人工驾驶演进到人工智能驾驶，也就是无人驾驶，这已经成为现实生活中可以见到的场景。人工智能驾驶出现以后，对于所造成的交通事故，如何进行归责就成为问题。传统的交通事故都是由于驾驶者的疏忽所造成，因而应当追究驾驶者的过失责任。但在人工智能驾驶的情况下，并没有人类驾驶者，在这种情况下，应当对交通事故承担责任的首先是设计者，其次是人工智能汽车的经营者。其中，设计者承担的是产品瑕疵责任，而经营者则应当承担产品维护责任。目前虽然还没有此类案件真实发生，但这个问题会很快提到我们面前。因此，对人工智能犯罪进行研究具有必要性与急迫性。

由于人工智能本身处于发展过程中，强人工智能意义上的犯罪案件尚未出现，在这种情况下，人工智能犯罪的研究不能简单套用刑法学的现成理论，而是应当根据人工智能犯罪的现实或者可能状态进行针对性研究，避免人工智能犯罪的研究沦为科幻法学。刑法学通常是以现实犯罪为基础所展开的研究，应当建立在大量案件的前提下。这并不是说不能开展具有预见性的研究，但这种预见本身应当具有一定的事实根据或者科学根据。如果完全将人工智能研究建立在想象的基础之上，可能会使人工智能犯罪误入科幻法学的歧途。

这里存在一个值得研究的问题。弱人工智能犯罪是以人工智能为手段的犯罪，强人工智能犯罪则是人工智能为主体的犯罪，这两种人工智能犯罪存在重大区别。对于以人工智能为手段的犯罪，在刑法应对上较为简单，它主要是犯罪形态的问题，至于犯罪构成要件和刑罚处罚，还是要遵循传统刑法教义学的一般原理。但对于以人工智能为主体的犯罪来说，则会在很大程度上颠覆传统的刑法教义学原理，因而引发重大争议。例如我国刑法学界曾围绕人工智能的主体地位问题展开反智化批判与伪批判之争。所谓人工智能法学研究中的反智化，是指在人工智能法学研究中存在的某些违反人类智力常识的反智化现象，例如赋予人工智能法律人格，甚至人工智能可以作为独立的犯罪主体存在，承担刑事责任等。可以说，在人工智能犯罪研究中，争议的核心问题仍在于强人工智能是否可以成为独立的刑事责任主体。对此，存在两种不同观点：持肯定说的学者认为强智能机器人具有在自主意识和意志支配下的辨认能力和控制能力，应具有刑事责任主体地位；持否定说的学者认为强智能机器人所谓的辨认能力和控制能力并非自主的，智能机器人始终是人类的工具，因此，其不应成为刑事责任主体，只需让智能机器人的研发者或者使用者承担刑事责任即可。对于上述问题，由于强人工智能并未出现，尤其是强人工智能的犯罪案件在现实生活中并未发生，因而对于强人工智能是否能够成为刑事责任的主体，确实是一个具有预测性质的问题，沉浸于此的刑法学也就不可避免地具有猜测性。

法学，包括人工智能法学都是建立在规范与事实基础之上的。虽然不可否认法学具有一定的前瞻性，但也不能过于脱离现实。如何拿捏理论的超前与现实的滞后之间的尺度，确实是一个值得思考的问题。在此，我想以德国学者对计算机技术所带来的社会巨大变化，以及法学如何应对的经验作为一个事例进行反思。随着计算机技术的成熟，尤其是个人计算机的普及使用，人类社会进入计算机时代，随之出现计算机犯罪。在这种背景下，预想到计算机对社会带来的影响，在本世纪初，德国学者提出了信息社会与信息法的命题，德国学者指出：“正在兴起的信息社会正在创造新的经济、文化和政治机会，但它同时也引发了新的风险。这些新的机会和风险正对我们的法律制度构成新挑战。正是显现的各种主题提出了这样的问题，即这些主题仅被一个公分母（即计算机技术）连接起来，或者它们是否导致了一个新的法律领域的出现。这个法律领域可被称为信息法（Information Law）或者信息技术法（Law of Information Tech nology），并且拥有自己的对象和特征。” 当时德国学者已经意识到计算机时代的到来对刑法所产生的重大影响。在此基础上，德国学者提出了信息社会与信息刑法的概念，以此应对计算机犯罪。然而，随着网络科技的发展，形成大规模的网络平台，并在此基础上完成了从传统犯罪向网络犯罪的转向，因此网络犯罪就成为新型犯罪的最为合适的概括。同时随着各种规范网络行为的法律出台，网络犯罪教义学也得到迅速发展。由此可见，科学技术对于犯罪现象具有触发功能，由此推动刑法规范的出台，并推导刑法教义学的演进。我国网络犯罪的发展也经历了三个阶段的演变过程：第一阶段为互联网1.0时期，主要是以计算机为对象的犯罪；第二阶段为互联网2.0时期，以计算机为工具的犯罪是当时计算机犯罪的主体部分，其中利用计算机所实施的财产犯罪占绝大多数，网络替代计算机信息系统上升为犯罪工具，网络因素快速介入几乎所有的传统犯罪之中，传统犯罪开始跃升到网络这一平台之上；第三阶段是网络作为犯罪空间的阶段，相当一些犯罪行为离开了网络，要么根本就无法生存，要么根本不可能爆发出令人关注的危害性；网络空间与现实的公共安全、国家安全形成深入嵌入态势。

对于人工智能犯罪也应当遵循“技术推动—规范反映—理论演进”这条进路。基于以上分析，我认为对于人工智能犯罪还是应当集中在现实生活中已经出现的生成式人工智能犯罪进行刑法教义学的研究。至于强人工智能犯罪，目前只是处于猜测阶段，可以预想会出现，但到底以何种形式出现，以及对社会带来何种影响，都还处于未知状态。这种情况下进行有价值的研究尚欠缺客观基础，因而没有必要在想象的基础上进行科幻法学的研究。

三、生成式人工智能犯罪，从现象描述到教义学分析

如前所述，目前生成式人工智能已经开始在现实生活中广泛运用，因而司法实务中生成式人工智能犯罪成为新型犯罪。在这种情况下，对生成式人工智能犯罪的研究已经具备客观基础。应当指出，在当前我国已经出现的生成式人工智能犯罪中，人工智能只是一种犯罪手段，距离本体意义上的人工智能犯罪还存在巨大鸿沟。

对于生成式人工智能犯罪，首先应当进行归纳，然后在此基础上进行分析。我国司法实务人员指出，生成式人工智能类应用在使用中易引发以下五类刑事犯罪风险：第一，鉴于生成内容具有类人性强特点，易引发诈骗类犯罪；第二，行为人篡改后台程序算法，易引发涉计算机类犯罪；第三，对海量内容可实现精准搜索，易引发传播淫秽信息、传授犯罪方法类犯罪；第四，此类应用生成内容可靠性存疑，易引发侵害人格权类犯罪；第五，生成内容的信息源跨越多个平台，易引发侵犯知识产权类犯罪。上述五种情形，可以视为目前我国司法实践中生成式人工智能犯罪可能触犯的五种犯罪形态，以下分别加以分析。

（一）诈骗类生成式人工智能犯罪

诈骗罪是我国刑法中财产犯罪的一种类型，在现实生活中较为常见。随着科技发展，诈骗罪越来越呈现更大的迷惑性。传统的诈骗行为是通过语言和肢体动作实现的，并且具有面对面的特征。然而，在网络平台普及以后，针对不特定的陌生人的网络诈骗犯罪越来越猖獗。而所谓诈骗类生成式人工智能犯罪是指在网络诈骗中采用生成式人工智能的方法，因而具有网络诈骗与生成式人工智能诈骗的双重属性。而且，随着生成式人工智能在网络平台运用越来越广泛，生成式人工智能在网络诈骗中所起的作用也越来越大。

（二）破坏计算机类生成式人工智能犯罪

破坏计算机犯罪是我国刑法中专门设立的网络犯罪，它以计算机信息系统为破坏对象，但因为毁坏对象是计算机信息系统，因而我国刑法对此独立设置罪名加以惩治。在破坏计算机类犯罪中，较为常见的是非法获取计算机信息系统数据罪和破坏计算机信息系统罪。生成式人工智能也有硬件和软件之分，因此同样会受到来自网络的侵害。其中，破坏计算机类生成式人工智能犯罪主要表现为入侵生成式人工智能类应用后台，篡改信息生成算法和检索内容，定向修改某类检索内容结果，以此误导网民，破坏网络公共秩序。因此，在此类犯罪中，生成式人工智能是刑法所保护而为犯罪所侵害的对象。

（三）侵犯人身权利类生成式人工智能犯罪

人身权利是刑法保护的重点，刑法对各种人身权利都设立相应罪名加以严密的刑法保护。然而，在生成式人工智能出现以后，人身权利的刑法保护受到来自生成式人工智能的挑战。例如侮辱、诽谤类犯罪，都是以公然传播为途径的，在生成式人工智能的技术成熟以后，这些侮辱、诽谤信息的抓取和传播借助生成式人工智能途径，具有更为广泛和快捷的传播能力，因而对他人的人身权利带来更大的危害性。

（四）侵犯知识产权类生成式人工智能犯罪

知识产权是我国刑法保护的一种特有的财产权利，利用生成式人工智能的手段侵犯知识产权，会造成更大的社会危害性。例如在2024年广州互联网法院审理的上海某文化发展有限公司与广州某科技有限公司网络侵权责任纠纷案（该案被称为首例生成式人工智能类应用平台侵权案）中，被告网站可通过AI绘画功能生成与原告公司享有著作权的涉案奥特曼形象相同或类似的图片供用户查看和下载，法院认为，案涉生成图片部分或完全复制了奥特曼这一美术形式的独创性表达，其行为侵犯了案涉奥特曼作品的著作权。本案虽然以民事案件的方式结案，但当侵犯知识产权的数量和数额达到刑法惩治程度的时候，完全有可能转化为刑事案件。由此可见，生成式人工智能对侵犯知识产权带来的重大影响。

（五）非法信息传播类生成式人工智能犯罪

非法信息传播是一种较为常见的犯罪手段，在社会管理秩序犯罪中，都存在以非法信息传播为内容的犯罪。例如我国刑法规定了传播淫秽物品类犯罪，随着网络平台的发展，此类传播淫秽物品的犯罪利用网络平台进行大规模传播，具有传播速度快、传播范围广的特点，极大地增加了此类犯罪的社会危害性。淫秽信息在我国属于非法信息，被各种网络平台禁止传播。生成式人工智能作为一种快捷获取网络信息的工具，具有强大的抓取信息的能力，为各种非法信息的抓取和传播提供了便捷通道，因而会助长非法信息的传播。

不可否认，目前我国生成式人工智能犯罪只是刚刚冒头，现在所能做的也仅仅是对生成式人工智能犯罪现象进行描述，在现有的法律框架之内，为惩治生成式人工智能犯罪提供法律根据。如果生成式人工智能犯罪发展到一定程度，出现了刑法难以涵盖的人工智能犯罪现象，才需要考虑采取相应的刑法立法措施。至于以人工智能为主体的犯罪现象尚未出现，在这种情况下，很难预测所谓的强人工智能到底强到什么程度，因而还难以进行具有针对性的研究。

（原文刊载于《国家检察官学院学报》2025年第2期）

来源：中视联播