摘要：随着AI技术的普及，极大地方便了人们的生活与工作，也因此被不法分子盯上，有的为赚取平台流量补贴，获得流量变现，利用AI合成技术编造谣言，严重扰乱社会秩序，更有甚者，利用AI技术撰写色情小说牟利。近日，由大冶市人民检察院提起公诉的一起案件收到法院判决书，以制作、

随着AI技术的普及，极大地方便了人们的生活与工作，也因此被不法分子盯上，有的为赚取平台流量补贴，获得流量变现，利用AI合成技术编造谣言，严重扰乱社会秩序，更有甚者，利用AI技术撰写色情小说牟利。近日，由大冶市人民检察院提起公诉的一起案件收到法院判决书，以制作、贩卖、传播淫秽物品牟利罪，判处被告人柯某某有期徒刑10个月，并处罚金人民币5000元，同时追缴全部违法所得。

AI是聪明的，AI是智慧的，AI如今是什么事都会干，什么事都能干，什么事都能干到“精彩”和“极致”。这一次AI成了“流氓作家”，而且是全国首次。案件显示：2022年11月至2023年3月期间，犯罪嫌疑人柯某某以牟利为目的，使用翻墙软件在境外网站借助AI工具批量生成淫秽小说发布并售卖，总计售卖约760篇（次），共计获利22873.95元。

法院经审理认为，被告人柯某某以牟利为目的，制作、贩卖、传播淫秽物品，非法获利2万余元，其行为已经构成制作、贩卖、传播淫秽物品牟利罪，公诉机关指控罪名成立。被告人柯某某到案后，能如实供述其犯罪事实，自愿认罪认罚，并退缴违法所得，依法可以从宽处理。根据案件事实及量刑情节，法院采纳了公诉机关量刑建议，依法作出上述判决。

很多年前，寂寂无闻的贾平凹凭借着一部《废都》坐上了大作家的宝座。《废都》的另类和成功点在于“此处省略某某字”。实际上，这种写法留给人们更多想象的空间，也规避了敏感的话题。用AI撰写色情小说获刑案例留给我们的思考是：这起全国首例案件里，到底此处省略了多少字？

尽管说，不法人员使用的是“外国的AI”，但是，这也给我们的AI产业提了个醒。眼下是一个AI风起云涌的时代，各种各样的资本都在进军AI的路上争先恐后、长驱直入，既要大资本也有小资本。当一个个AI出现的时候，尤其是用在写作方面的时候，我们究竟该如何约束“AI的言无不尽”“AI的信口开河”“AI的出口成脏”？

我们可以假设一个问题，如果说这起案件中，撰写色情小说的是国产AI，那么是不是可以追责？难道只能追责“使用AI 的人”，就放过了“经营AI的人”？我想最好的处理结果应该是，既要查办使用AI撰写色情小说的人，也要处理帮助撰写色情小说的AI，也就是AI 的拥有公司。如此才能倒逼AI“当好人”而不是“当坏人”。

这起案例应该是个警钟：广大AI开发者、使用者及相关平台应加强自律，建立健全内容审核机制不涉足违法创作。要给“出口成脏”的AI软件戴上“法律口罩”，违规的内容是不能帮助撰写的。别让AI成了“流氓作家”， AI可“出口成章”绝不可“出口成脏”！而这一切都需要在研发的时候就“向善”而不是“向恶”，做到“不来者不拒”并非技术难题！

来源：评底郭