摘要：短短两百多字，被平台判定为AI生成内容且未标识。平台认定为违规信息并隐藏，同时对唐某某实施账号禁言一天的处罚。唐某某不服，申诉未果后，最终将平台告上法庭，法院判唐某某胜诉。

2025年9月1日，苏州工业园区人工智能（AI）展示中心。（视觉中国|供图）

“打工并不能让你真的赚到多少钱，但可以开启你的新视角……”这是网民唐某某发表在某社交平台上的一段文字。

短短两百多字，被平台判定为AI生成内容且未标识。平台认定为违规信息并隐藏，同时对唐某某实施账号禁言一天的处罚。唐某某不服，申诉未果后，最终将平台告上法庭，法院判唐某某胜诉。

这起案件被称为北京互联网法院受理首例“AI生成内容标识纠纷案”。2025年9月10日，北京互联网法院党组成员、副院长赵长新在新闻发布会上介绍了这起案件。

近几年，随着AI发展，其引发的法律纠纷也越来越多。赵长新表示，自2018年建院以来，北京互联网法院集中管辖北京市辖区内11类特定类型涉互联网的一审案件。七年来共受理25.3万余件，审结24.5万余件。其中，涉人工智能案件增长显著，类型日益复杂，主要涉及著作权权属与侵权、网络服务合同以及人格权保护等。

“事实查明难”

人工智能在创作领域的广泛应用，正在带来新的司法难题。

“人工智能标识案”中，唐某某主张其并未使用AI创作，被告某科技有限公司的行为违约，请求法院判令被告撤销此前惩罚，并在后台系统中删除违规处理记录。

根据平台与用户的协议，平台有权根据协议对用户发布的内容是否属于AI生成进行审查和处理。与此同时，因为两百多字内容为即时创作，唐某某无法提供如创作底稿、原件等初步证据。

该案的争议焦点就在于：当平台以算法自动识别用户发布的内容时，是否需要为其结论提供合理的解释与证据支持。

北京互联网法院认为，网络用户在使用AI工具时，应依照诚信原则如实标记内容属性；而平台在行使审核权时，也必须遵循合理审查义务。本案中，唐某某的发言属于即时性文本，难以提供创作底稿等证明“人类创作”的证据。在这种情况下，平台一方应承担更多举证责任。

但该平台一方仅提交了算法备案信息，未能证明具体关联性，亦未对其算法如何判断作出合理说明，因而被认定构成违约。

最终，法院支持了原告一方的诉求，被告不服一审判决提起上诉，后撤回上诉，一审判决生效。

赵长新表示，这一案件凸显了人工智能技术应用下“事实查明难”的问题。AI生成过程涉及复杂的算法模型与数据来源，往往超出普通用户甚至部分法官的技术理解范围，给司法审查带来挑战。平台作为算法的使用方与管理者，应在纠纷中承担合理的透明义务，为司法裁判提供依据。

在著作权领域，AI生成内容也容易招致法律争议。

赵长新指出，目前人工智能领域的规范性法律文件存在滞后性，难以完全适应技术快速发展的新形势，相关案件的司法裁判常常无法规可依、无先例可循，例如“涉及AI文生图、文生视频、虚拟数字人等新型权益客体是否构成著作权法意义的作品，其著作权应归属于AI服务提供者还是使用者；大模型训练对作品的利用在著作权法中如何定性等”。

恶搞、丑化也触犯法律

除著作权问题外，人工智能的不当应用对人格权的侵害也逐渐凸显。

在一起换脸案中，原告廖某是一名古风短视频博主，其作品在多个平台拥有广泛影响。某科技公司在未经许可的情况下，截取了廖某出镜的视频素材，制作成可供用户付费使用的换脸模板，并在涉案软件中推广。廖某认为该行为侵犯了其肖像权和个人信息权益，遂起诉要求赔偿。

北京互联网法院审理后认为，判断是否侵犯肖像权的核心在于“可识别性”。涉案换脸模板虽保留了妆容、服饰、灯光等要素，但替换了人脸特征，一般公众难以认定为原告本人，因此不构成肖像权侵害。

然而，制作换脸模板的过程涉及对原告人脸信息的收集和处理，而该过程未经许可，已经侵犯了原告的个人信息权益。最终，法院判令被告书面致歉并赔偿精神损失。

更为直接的人格权侵犯，出现在另一件案件中。

摄影爱好者程某在微信群中使用个人照片作为头像。群内另一成员孙某未经许可，将头像照片输入AI软件，生成了多张衣着暴露、身体畸形的动漫风格图片，并在群聊及私信中多次传播。程某认为该行为丑化、侮辱了其形象，遂提起诉讼。

北京互联网法院审理查明，涉案AI生成图片在脸型、姿态、造型等方面与程某的头像高度对应，群聊成员能够辨认出图片所指向的主体为原告本人。涉案图片包含明显低俗和侮辱性元素，已造成原告社会评价降低，构成对其肖像权、名誉权和人格尊严的侵犯。法院最终判令被告公开道歉并赔偿精神损失。

这一案件明确了普通用户在私人交往中使用AI技术进行恶搞或丑化，也可能触犯法律。

北京互联网法院党组成员、副院长孙铭溪强调，AI使用者“应当遵守法律、行政法规，尊重社会公德和伦理道德，尊重他人合法权益，不得危害他人身心健康”。

对于在人格权领域，涉及自然人的人格权保护范围是否及于AI合成的虚拟形象、虚拟声音；以人脸信息作为模型应用深度合成技术是否侵犯个人信息等问题，赵长新表示，“这些具体争议需要法官充分发挥司法智慧，综合法律原则、政策导向、价值衡量等进行合理裁判。”

南方周末记者 陈怡帆

责编 钱昊平

来源：南方周末