从国外立法看 “AI 深度伪造”问题

摘要：2025年5月19日，美国总统特朗普签署了《通过阻止网站和网络上的技术性深度伪造来应对已知漏洞的工具（删除）法案》（TOOLS TO ADDRESS KNOWN EXPLOITATION BY IMMOBILIZING TECHNOLOGICAL DEEPFA

2025年5月19日，美国总统特朗普签署了《通过阻止网站和网络上的技术性深度伪造来应对已知漏洞的工具（删除）法案》（TOOLS TO ADDRESS KNOWN EXPLOITATION BY IMMOBILIZING TECHNOLOGICAL DEEPFAKES ON WEBSITES AND NETWORKS ACT）或《删除法案》(TAKE IT DOWN)，使其成为法律。

该法案将未经本人同意在网上发布真实或AI伪造的露骨性图像定为联邦犯罪，是美国第一部直接监管网络内容的法案，也是第一部联邦层面的人工智能监管法案。本期就让我们一起来看看该法案的背景及内容。

一、立法背景

2023年，北德克萨斯州发生一起人为使用AI进行深度伪造的恶性事件。一名德州阿莱多高中女生埃莉斯顿·贝里（Elliston Berry）遭到同学的恶意报复，利用AI将她和她朋友的照片p成裸照，并在社交媒体Snapchat上进行传播。虽然最终利用AI恶意p图的男同学被退学，但对于该AI伪造照片该如何删除，北德克萨斯州法律不存在相关规定，对于平台也无相关义务，故平台在近一年内未能有效删除这些内容。

2024年，共和党参议员泰德·克鲁兹与民主党参议员艾米·克洛布查联合提案《删除法案》，获得第一夫人梅拉尼娅·特朗普的支持，最终于2025年4月28日众议院以 409∶2表决通过，5月13日获参议院一致通过。

二、法律规定

（一）AI伪造入刑

《删除法案》通过修改《1934年通信法》第223条²，在联邦层面明确禁止故意发布未经他人同意的私密影像。法案对“私密影像”的定义既包括真实拍摄的照片或视频，也涵盖了使用人工智能或其他技术制作的高度逼真的合成影像。这一定义直接回应了深度伪造技术带来的新挑战，填补了技术发展带来的法律空白。

对于成年人受害案例，法案规定发布行为需满足几个条件才构成犯罪：影像是在当事人有合理隐私期待的情况下拍摄或制作的，非公开场合展示的内容，也非公众关心的事务，同时发布行为要么出于伤害意图，要么实际造成了心理、经济或名誉上的伤害。而针对未成年人的私密影像，法案采取了更为严格的标准——只要发布者意图羞辱、骚扰、贬低未成年人，或满足性欲，即构成犯罪，无需证明实际伤害。

值得注意的是，法案对AI合成的数字伪造影像采取了与真实影像同等的规制标准。法案将“数字伪造”定义为“通过软件、机器学习、人工智能或其他任何计算机生成或技术手段创建的可识别个人的亲密视觉图像，且该图像在整体上被合理人视为与该个人的真实视觉图像无法区分”。这一定义直接针对了近年来深度伪造技术的普及所带来的挑战，如2024年澳大利亚发生的多起青少年利用AI合成同学裸照的恶性事件。

在处罚方面，法案设置了梯度化的惩罚机制：违法发布成年人的私密影像或合成影像，最高可被判罚款和两年监禁；如果发布的是未成年人的，则最高可判三年监禁。此外，单纯威胁发布也被定为犯罪——威胁发布真实影像的，适用正常处罚；威胁发布数字伪造影像的，如果对象是成年人，最高判18个月监禁，如果是未成年人，则最高30个月监禁。法院还可以命令没收用于发布违法影像的材料、非法获利和相关工具，并责令违法者向受害者支付赔偿。

法案特别强调，即使当事人曾同意拍摄影像，或者曾将影像发给他人，也不等同于同意公开发布。这一规定直接回应了“报复性色情”案例中常见的辩解，为受害者提供了更全面的法律保护。同时，法案也列出了一系列例外情况，如执法或情报机关依法进行的调查使用影像，或出于善意向警方举报、在法律程序中使用、医学教育等正当目的下披露影像，不算违法。

（二）平台义务

《删除法案》的另一创新之处在于建立了明确的平台责任机制。根据法案规定，在法律生效后一年内（即2026年5月19日前），所有“受管辖平台”必须建立一套流程，让受害者可以举报自己的私密影像未经本人同意被上传的情况，并要求平台删除。这里的“受管辖平台”指向公众提供服务，且主要提供用户生成内容的论坛或在其正常业务过程中发布、策划、托管或提供未经同意的亲密视觉图像内容的网站、在线服务、在线应用或移动应用。法案明确排除了电子邮件、宽带互联网接入服务提供商，以及内容主要不是用户生成的网站。

平台义务的核心是“通知-删除”机制。一旦接到举报，平台要在48小时内删除相关内容，并尽力清除所有副本。这一时限要求显著高于传统内容审核标准，体现了对此类侵权行为的零容忍态度。受害者提交请求时，需要提供个人的手写或电子签名（确认是本人或授权人）、明确说明是哪段内容被滥用、简要说明为什么相信这段影像是未经自己同意发布的并提供相关背景信息，以及联系方式。

平台还必须在网站或APP上明显位置展示清晰说明，告知用户平台对于处理私密影像的责任以及如何提交举报和删除请求。这些说明必须使用简洁、易懂的语言，确保用户能够理解。法案特别设置了“善意免责”条款——如果平台基于善意判断，相信某段影像是未经同意发布的，因此选择删除或者限制访问，即使最终发现那段内容是合法的，平台也不会因此被追责或被索赔。

联邦贸易委员会（FTC）被赋予执法权，负责监督各大平台执行“删除违规私密影像”的义务。平台如果拖延或拒绝受害者的删除请求，将被认定为搞欺诈，违反《联邦贸易委员会法》。一旦违规，平台不仅可能被调查、罚款，还可能被强制整改。值得注意的是，法案明确规定FTC的执法权不仅适用于营利组织，也适用于非营利机构，只要触犯规定，都在监管范围内。

三、《删除法案》的意义与争议

（一）意义

《删除法案》的创新之处主要体现在三个方面：首次将AI生成内容纳入联邦监管、建立统一的跨州执法标准，以及在极度分裂的政治环境中实现了罕见的跨党派共识。

首先，该法案是美国第一部直接针对生成式人工智能（特别是深度伪造技术）滥用行为的联邦立法，并设定了具体的责任、处罚和执法机制。虽然法案只管特定领域的AI滥用（深伪色情），不是欧盟AI法案那样的综合性监管框架，但这一小步却是美国AI监管颇具突破意义的一步。法案管的是“用AI做了坏事的结果”，而不是对AI技术开发过程、模型训练过程等进行直接规范，体现了美国在AI监管上的务实路径。

其次，在此之前，美国已有超过20个州通过法律禁止色情深度伪造和报复性色情，但州际法律差异导致执法碎片化。例如，部分州仅将真实图像传播定为犯罪，对AI生成内容缺乏规制；而另一些州虽涵盖深伪技术，但处罚力度和执行标准不一。《删除法案》的出台统一了联邦层面的监管框架，弥补了州法不足，同时通过强制平台责任倒逼技术治理，例如要求平台开发更精准的内容识别工具以应对批量删除需求。

第三，在美国当前极度分裂的政治环境中，《删除法案》获得了罕见的两党支持。法案由得克萨斯州共和党参议员特德·克鲁兹与明尼苏达州民主党参议员艾米·克洛布彻联合发起，在参议院以全票一致通过，众议院则以409票对2票的压倒性多数通过。这种跨党派共识在当前美国政治环境中极为罕见，体现了对网络性剥削问题的广泛关注。

（二）争议

尽管法案获得两党支持及Meta、Google等科技公司的背书，但其潜在影响引发多方争议。电子前沿基金会（EFF）与民主与技术中心（CDT）警告，48小时的紧迫时限与“合理努力”措辞可能迫使平台过度依赖自动过滤，从而误伤新闻材料、合法性教育内容甚至私人聊天。同时，法案未明确豁免端到端加密服务，可能倒逼平台在私信层面实施扫描，威胁通信保密权。

从第一修正案的先例看，合法的成人色情内容（即成年人自愿参与、制作、传播的色情作品）也受宪法保护，例外非常狭窄：只有儿童色情和真正的猥亵内容，其中似乎不包括“报复色情”。但美国最高法院的先例一贯认为，极端有害的内容，比如儿童色情、淫秽猥亵言论，以及直接与犯罪有关的表达，不受第一修正案保护。

技术层面，AI生成内容的检测仍是难题。现有工具对Deepfake的识别准确率约为98.8%，但面对不断进化的伪造技术（如动态表情合成、声音克隆），平台可能难以满足48小时删除的合规要求。此外，批量删除机制可能加剧平台运营成本，甚至误伤用户正常发布的相似内容（如图像中含背景元素重复）。

此外，即便美国境内内容被删除，境外服务器仍可能存储相关数据。

综上所述，该法案的象征意义大于实际效力：它标志着美国从“技术放任”转向“风险管控”，但真正的治理成效取决于后续执行细则（如罚款标准、平台合规审计机制）及国际合作。正如哥伦比亚大学法学教授蒂姆·吴所言，这可能是“国会在解决社交平台危害方面更积极作为的开始”，但如何平衡监管强度与创新活力，仍是数字时代的核心命题。

总体而言，《删除法案》用两页刑事修订、三页行政义务，构建出深伪时代“受害者优先”的联邦框架。对于任何依赖用户生成内容的服务而言，一年的过渡期转瞬即逝：合规投资、流程再造、员工培训和技术迭代不再是“最佳实践”，而是避免FTC罚单与集体诉讼的生存前提。对法律顾问而言，新法既是内容监管合规的新蓝图，也将成为未来言论自由与隐私加密诉讼中的重要测试点。

（三）对我国的启示

1. 加强对非自愿亲密图像的法律保护

我国现行的《深度合成管理规定》主要关注内容的真实性和信息标识，强调对深度合成内容进行显著标识，以防止误导公众。然而，对于受害者如何要求平台删除未经同意发布的亲密图像，法律规定尚不明确。我国可以考虑在现有法律框架下，进一步明确平台的责任和受害者的权利，建立高效的“通知-删除”机制。

2.完善平台责任机制

《删除法案》要求平台在接到举报后，必须在48小时内删除相关内容，否则将面临罚款。我国的《深度合成管理规定》虽要求服务提供者加强内容管理，但对平台在接到举报后的具体响应时间和处理流程缺乏明确规定。为提高平台的响应效率和受害者的保护力度，可以制定更为具体的平台责任条款。

我们也将持续为您提供AI最新前沿法律资讯。

1.https://www.whitehouse.gov/presidential-actions/2025/05/president-donald-j-trump-signed-s-146-into-law/

2.https://www.law.cornell.edu/uscode/text/47/223

《金刚经》卷首语:“如是我闻”，如闻律师事务所藉此得名。本所发展至今，已逐步成为以金融投资、地产开发、军工科技、能源矿业等为重点服务行业;以政府公共事务、不良资产处置、上市公司破产重整、投融资与并购、商事与刑事重大争议解决和风险化解、涉外法律服务等为专业特色;以政府机构、上市公司、央企与地方大型国企、世界500 强外企为主要客户，具有专业深度，资源整合能力和社会知名度的法律服务机构。