摘要：AI技术给人们带来了很多便利，但如果被人用于非法目的，可能会产生严重后果。近日，湖北省大冶市人民法院对首例利用人工智能（AI）技术撰写色情小说并牟利案件作出宣判。江苏天倪律师事务所律师贺诗岚认为，该案对AI应用的合法性边界以及刑事责任认定提供了司法实践参考。

AI技术给人们带来了很多便利，但如果被人用于非法目的，可能会产生严重后果。近日，湖北省大冶市人民法院对首例利用人工智能（AI）技术撰写色情小说并牟利案件作出宣判。江苏天倪律师事务所律师贺诗岚认为，该案对AI应用的合法性边界以及刑事责任认定提供了司法实践参考。

男子利用AI写色情小说牟利，被判有期徒刑十个月

公诉机关指控，2022年11月至2023年3月间，被告人柯某以牟利为目的，利用AI程序撰写色情小说，并使用翻墙软件在境外黄色网站发布，同时在另一网站售卖。短短五个月时间，柯某共计发布色情小说数十篇，共计获利2万余元。经鉴定，送检的7篇小说均为淫秽物品。案发后，柯某家属代为退赃2万余元。

法院经审理认为，被告人柯某以牟利为目的，利用某AI文本生成工具，制作、贩卖、传播淫秽物品，非法获利2万余元，已构成制作、贩卖、传播淫秽物品牟利罪。法院最终判处柯某有期徒刑十个月，并处罚金人民币五千元、退缴违法所得。

此案判决为AI技术的合规使用敲响了警钟。大冶市检察院称，广大AI开发者、使用者及相关平台应加强自律，建立健全内容审核机制。平台有责任阻止违法内容传播，个人要自觉遵守法律法规，不涉足违法创作。大冶市法院承办法官呼吁，相关部门应加强对AI技术应用的监管，明确技术使用的法律边界，同时鼓励企业和开发者将AI技术用于合法、健康的领域，推动技术创新与社会责任的平衡。

律师分析AI开发者、使用者法律责任

贺诗岚告诉现代快报记者，该案对AI应用的合法性边界以及刑事责任认定都提供了司法实践参考。

从法律角度来说，AI本身不具有法律主体资格，它只是一种工具，所以如果利用AI生成的内容经鉴定属于“淫秽物品”，并且使用者实施了传播牟利行为，那么使用者就需要承担相应的法律责任。

在柯某的案件中，司法裁判确认了AI内容具有作品属性，其实不管利用AI生成的内容是否构成“作品”，并不影响其作为淫秽物品的定性。我国著作权法规中的作品要求具备独创性，而淫秽物品主要关注内容是否具有诲淫性，是否足以导致普通人腐化堕落。我国刑法规定的“淫秽物品”，法律评价的核心在于内容的违法性及行为的社会危害性，只需符合诲淫性、无社会价值等法定标准即可。也就是说，AI生成的内容是否属于淫秽物品，核心判断标准在于内容是否具有“具体描绘性行为或露骨宣扬色情的诲淫性”（需排除科学著作和艺术价值作品），只要符合这个标准，AI生成的内容就可能被认定为淫秽物品。

AI工具没有相应的筛选机制，是不是使用者和开发者都需要承担责任？贺诗岚表示，这个问题涉及技术中立性原则的边界，AI技术的工具属性不改变违法行为的实质评价，技术应用须以合法性为底线，使用者主动输入违法指令时，其行为独立构成犯罪，技术工具的缺陷不阻却其刑事责任。

至于AI开发者和平台如果没有履行内容审核义务，可能承担责令整改、罚款等行政责任，或对受害者承担民事赔偿责任；情节严重者，比如放任大规模违法内容传播，可能涉嫌刑法第二百八十六条规定的拒不履行信息网络安全管理义务罪。

贺诗岚说，这为广大AI开发者和平台敲响了警钟。未来需要通过技术升级、人工复核及行业自律，构建AI应用的“合规防火墙”，实现技术创新与法律秩序保护的平衡。

实习生 何君怡 现代快报/现代+记者 顾元森 综合

来源：现代快报