摘要：2014年，伊恩·古德费洛提出GAN，开启了AI造假的新篇章。随后，FakeApp、Faceswap等工具的出现降低了造假门槛。如今，仅凭一张照片和几秒语音就能生成逼真的Deepfake视频。虽然Deepfake有正面应用，如大卫·贝克汉姆的多语言公益视频，但

AI造假频发，背后真相究竟如何？让我们一探究竟。

AI造假背后是生成对抗网络等技术的滥用，这些技术使计算机能生成高质量图像和视频，如Deepfake换脸视频。

2014年，伊恩·古德费洛提出GAN，开启了AI造假的新篇章。随后，FakeApp、Faceswap等工具的出现降低了造假门槛。如今，仅凭一张照片和几秒语音就能生成逼真的Deepfake视频。虽然Deepfake有正面应用，如大卫·贝克汉姆的多语言公益视频，但更多被用于诈骗、发布虚假信息等。

据官方通报，2024年全网AI生成虚假信息超2.1亿条。中央网信办2025年"清朗行动"雷霆出击，禁用未备案AI工具，强制AI内容添加可溯源水印，打击AI造假。此外，AI造假还扰乱了社会公共秩序，削弱政府公信力，诱发电信网络诈骗等。因此，加强AI领域的司法治理势在必行。

来源：metoo1