摘要：人工智能是新一轮科技革命和产业变革的重要驱动力量，党的二十届三中全会对“完善生成式人工智能发展和管理机制”“加强网络安全体制建设，建立人工智能安全监管制度”等工作提出了明确部署要求。
今年9月，北京市海淀区检察院召开涉人工智能知识产权案件研讨会，检察官围绕相关疑难案件展开讨论。
人工智能是新一轮科技革命和产业变革的重要驱动力量，党的二十届三中全会对“完善生成式人工智能发展和管理机制”“加强网络安全体制建设，建立人工智能安全监管制度”等工作提出了明确部署要求。
作为引领全国人工智能技术与产业发展的“AI第一城”，北京已实现覆盖基础层、技术层、应用层全链条的人工智能全产业链布局。北京市检察机关高质效办理了一批人工智能领域刑事案件，反向审视产业发展过程中存在的管理问题，聚焦知识产权保护、公民个人信息保护、计算机信息系统安全保护和数据安全保护这“四大领域”，对可能出现的法律风险进行提示，为人工智能产业“规则之治”提供检察履职“案例样本”，为北京加快建设具有全球影响力的人工智能创新策源地贡献检察力量。
加强司法保护，依法把握刑事手段介入边界
当前，人工智能核心技术研发与知识产权保护、海量数据训练与公民个人信息保护、深度伪造技术与网络空间秩序维护“三组关系”，日渐成为产业发展、司法实践及理论研讨的热点问题。
“我们需要结合法律规定和人工智能产业的发展规律，准确区分民事侵权、行政违法与刑事犯罪，为人工智能产业发展提供良好法治环境。”近日，北京市检察院经济犯罪检察部副主任刘丽娜告诉记者，北京市海淀区检察院分别办理了这样两起案件——
一起是检察机关依法保护企业数据管理安全，护航企业可持续发展的案件。该案中，某公司大客户总监吕某在未经授权的情况下，非法登录一家云计算公司的部分在线客服管理软件账号。这家云计算公司是一家探索将传统人力资源管理与AI等技术相结合的科创企业，吕某在盗取更多管理权限账号后，将1.5万余条个人信息非法下载并保存至其个人电脑内，计划用于人员招录，严重影响被害公司服务器数据管理安全，妨碍公司研发人工智能产品进度。检察机关通过全面审查电子数据，精准锁定犯罪证据，以涉嫌侵犯公民个人信息罪对吕某提起公诉。今年3月11日，吕某被法院判处有期徒刑十个月，并处罚金。与此同时，检察机关还向相关公司制发检察建议，建议加强软件账号保护管理，构筑数据安全管理体系。
在另一起涉嫌侵犯商业秘密犯罪案件中，检察机关在开展疑难案件研讨后，认为应当遵循“先确权、再定性”的办案规则办理。
“某数据科技公司技术人员离职后，擅自使用人工智能模型配套源代码。案发后涉案技术人员称，原公司的技术也是基于开源数据进行的技术研发，且有其他员工证言可以证明。只有先确定知识产权权属，才能进一步判断是否构成侵犯知识产权犯罪。”海淀区检察院检察官杨岱君告诉记者，针对算法、模型、训练数据、源代码等知识产权保护问题，考虑到当前人工智能产业处于初期发展阶段，对于在开源生态下技术迭代引发的侵权案件，办案时需要重点考虑相关技术或作品内容是否具有独创性、权利人是否设置有效保密措施、该技术在公开渠道是否可查询等。因此，检察机关需要结合其他在案证据认定该公司相关软件作品是否有实质性改变，是否具有独创性或相关技术信息是否被采取保密措施，是否具备非公众所知属性，在此基础上依法作出处理决定，准确区分刑事犯罪与民事纠纷。
依法打击相关犯罪，明确法律“底线”和“红线”
“虽说要审慎把握刑事手段介入的边界，但人工智能产业的发展并非没有边界，需要遵守刑法、著作权法、网络安全法、数据安全法、个人信息保护法等法律规定。”北京市检察院经济犯罪检察部主任杜邈介绍。
在北京市朝阳区检察院办理的一起案件中，某科技公司数据分析师为改进公司用于身份识别的相关人工智能模型算法，非法购买含有姓名、住址、联系方式以及相关征信情况的海量公民个人信息。对于此类侵犯公民个人信息尤其是敏感信息的案件，检察机关依法严厉打击，最终这名数据分析师被判处相应刑罚。
同时，检察机关对于借助AI技术实施犯罪的行为也依法予以打击。
今年8月9日，北京市通州区检察院依法批准逮捕了一名侵犯著作权的犯罪嫌疑人。经查，犯罪嫌疑人从网络平台下载某作家非高清版美术图片，未经许可，通过技术人员对图片水印进行处理，生成高清版、有细微差别的“新图”，再制作成拼图商品，通过网店对外售卖，利用广告引流和直播的形式吸引顾客。原作者发现被侵权后联系平台，该犯罪嫌疑人仍组织多人继续售卖，非法经营数额巨大。案发后，据该犯罪嫌疑人交代，他联系的技术人员是通过生成式人工智能模型修改图片参数，能够达到混淆真假的效果。案件被移送审查逮捕后，检察机关依法认定该案犯罪嫌疑人已涉嫌侵犯著作权罪。
无独有偶。在另一起传播淫秽物品案中，白某在境外网站发布“AI去衣”广告，后通过境内社交软件收受他人非法提供的、承载人脸信息的不特定女性照片，再通过深度伪造技术、AI软件，将不特定女性的照片制作成6000余张“去衣”裸体图片贩卖牟利，同时出售“AI去衣”软件及使用教程牟利，违法所得7000余元。2023年12月，海淀区检察院以涉嫌传播淫秽物品罪、侵犯公民个人信息罪对白某提起公诉，并对被告人涉嫌侵犯他人公民个人信息的行为提起刑事附带民事公益诉讼。目前案件仍在审理中。
“我们坚持将社会主义核心价值观融入相关案件办理的全过程，确保人工智能研发和应用不违背公序良俗，不损害社会公共利益和秩序，不违背社会公共道德和伦理……”今年9月14日，在中国国际服务贸易交易会期间举办的“知识产权赋能科技集群发展专题活动”上，杜邈在题为“以高质效检察履职服务保障人工智能产业发展”主题演讲中介绍，检察机关将借助典型案例培育与宣传，让大家进一步了解法律的“底线”和“红线”。
借助办案实践，发布人工智能领域法律风险提示
中国信息通信研究院发布的《全球数字经济白皮书（2024年）》数据显示，截至2024年第一季度，中国的AI企业数量占全球的15%。据了解，我国已通过网信备案的大模型产品共计166个，其中北京占71个。目前，北京市政府已通过设立专项资金、提供研发补贴、减免税收等多种方式，积极扶持AI企业的发展。
那么，护航人工智能产业培育壮大和服务保障新质生产力发展，除了依法打击相关犯罪，北京市检察机关还能做些什么？
今年7月3日，2024全球数字经济大会“人工智能产业发展与知识产权保护”专题论坛在京举行，北京市检察院正是该论坛的承办方之一。论坛上，该院依托办理的涉人工智能相关案件，发布了四大领域七类刑事法律风险提示。
“例如，我们在风险提示中强调，企业对研发的人工智能产品，是否设置有效保密措施、相关技术在公开渠道是否可查询、相关技术或作品内容是否实质性相同以及双方权属约定问题等，既是司法办案的审查重点，也是企业依法维护知识产权的基础。又如，企业提供生成式人工智能服务的，应当遵守相关法律规定，发现生成内容可能存在违法犯罪隐患，或是发现使用者利用生成式人工智能服务从事违法犯罪活动的，应当依法及时采取相关措施，不得为他人违法犯罪提供技术帮助等。”刘丽娜介绍说。
人工智能产业刑事法律风险提示的“出炉”，既是基于办案实践为企业提供的“温馨提示”，也为检察机关自身找准服务保障人工智能产业发展提供了切入点、提升了前瞻性。
“这份风险提示并不是检察机关闭门造车写出来的，我们多次征求和吸纳了知识产权行政管理部门、行业协会、相关科技企业的意见建议，获得了专业的支持帮助。”刘丽娜表示，北京市检察机关将运用法治思维和法治方式保障企业科技创新主体地位，进一步深化与各方的交流合作，凝智聚力推进人工智能领域知识产权保护和数据安全防护。
来源：安徽淮南检察
