摘要：据中央广播电视总台中国之声《新闻纵横》报道，随着人工智能技术的普及，人工智能生成内容技术也就是AIGC技术正在改变社交媒体生态。有个创意，它能帮你生成文字；有了文字，它还能接着生成图片，进而做出视频，为自媒体博主打开了无限想象空间。
央广网北京5月11日消息（总台中国之声记者谭朕）据中央广播电视总台中国之声《新闻纵横》报道，随着人工智能技术的普及，人工智能生成内容技术也就是AIGC技术正在改变社交媒体生态。有个创意，它能帮你生成文字；有了文字，它还能接着生成图片，进而做出视频，为自媒体博主打开了无限想象空间。
但是，本来是帮助提升创作效率的工具，却被一些人拿来造假起号，也就是通过AI批量生产虚假内容来积累粉丝。记者调查发现，目前，多个社交平台上都出现大量“AI起号秘籍”相关内容，不少内容声称“AI暴力起号，三天爆万粉，每日轻松变现300+”“用AI制作美女视频，条条播放10W+”——这些AI生成内容多以俊男靓女、育儿百科、健康养生为主，大都低俗猎奇。有些AI生成的人物形象足以以假乱真，还有人传授绕过平台“AI打标”经验。
一旦起号成功，这些账号就会隐藏AI引流内容，开始挂橱窗带货、引流卖课。有的账号还被明码标价放到账号交易网站上，形成了一条“起号—转型—转卖”的灰色产业链。背后哪些隐患不容忽视？
一张外国面孔，用流利的中国话科普育儿知识，这样的视频，你会多看两眼吗？某育儿短视频账号上，大量类似内容打着“外国幼儿教育专家”旗号输出观点。但是这看似专业的视频里，有不少说法都极端绝对，暗藏误导风险。
实际上，这些所谓“外国专家”是AI生成的虚拟形象。在一堂AI数字人视频教学课程中，这个育儿账号是导师口中的成功起号案例。“我们就是做的这种展现形式，一个人物是AI数字人、虚拟人，不是真人，但是他很像真人。不仅嘴动头动，身体也在动。这个账号，我们团队的小伙伴已经做到了39万粉丝，卖货21万的战绩。”
打造一个优质自媒体账号并非易事，从创意到文案脚本，再到拍摄制作，每一个作品都需要创作者亲力亲为，通常会耗费大量时间。
现在，各大社交平台上出现了大量“AI起号”相关分享，宣称零门槛、易操作、涨粉快、可变现。
记者调查发现，这些起号教程教授的思路基本一致：仅需要借助两三个AI工具，按“文生图、图生图、图生视频”的标准化流程，几分钟就能制作一段时长五秒的美女跳舞视频。这些视频中虚拟人动作虽然略显僵硬，但形象逼真。
一位从业者表示，他的课程费用为499元，内容包含从账号搭建、视频制作到内容变现的全流程一对一辅导。“我会教你通过AI生成图，再变成视频。不管是人物类还是动物类，逼真程度基本很真实。如果起号，速度一般都很快，7天至10天就差不多起来了，如果快一点，可能几天就起来了。如果爆一条视频，可能就会有几千粉丝。”
一位主打“颜值博主人设”的博主告诉记者，自己选用了一张相貌平平的男生照片，AI工具在此基础上生成了一张高颜值男生照片。对比前后照片，人物脸型发型、五官比例、皮肤质感都有了较大改变，衣着和环境也有一些改变。但记者在该内容评论区观察发现，多数网友并未察觉这是AI生成的虚拟形象。
目前，各平台已普遍升级AI内容识别系统，要求对AI生成作品进行显著标注。这位博主告诉记者，自己花了900元学费学习AI起号技术，主要就是为了购买他人在AI工具中预配置的镜像文件。用这些镜像参数一键生成的虚拟人形象可以以假乱真，最大限度规避平台的AI内容强制标注机制。
记者：你做的这个会被平台判定疑似AI吗？
博主：很少。我的14个作品里只有一两个会有这种情况。如果被判定为AI作品，可以把作品下架，然后重新发布。
记者发现，如今不少AI虚拟人创作者为避免作品被平台限流，会在发布时主动标注内容由AI生成。但各平台也有一部分未主动标注的AI作品没有被系统识别出来。有从业者坦言，随着各平台监测升级，“不标注等于高风险”。“保证不被系统检测出就是无法保证，只是通过自己的一些维度去减少被系统检测为AI作品的机会。目前来讲，如果人物视频动起来，其幅度不能太大，如果大了，就很容易出现问题。假如哪一天被系统识别出来，要求人脸识别，识别不出来怎么办？这号不是废了吗？”
记者调查了解到，AI账号起号成功后大都会隐藏此前引流内容，改头换面成为带货账号；有的顺势打出“AI起号实战”噱头，将自身包装成“成功案例”售卖起号课程；还有一部分账号被明码标价进行售卖。
实际上，在AI的加持下，起号的成本和门槛被降低，大量此类账号进入了账号交易市场。某账号交易网站客服告诉记者，他们网站有不少可供选择的AI起号账号，价格相对于其他类型账号更加便宜。“1万粉丝的美女号，1900元已经是最低了。给你推荐的这个账号是AI的，这个就是最便宜的。如果确定购买，付款下单之后，双方会签署协议，签署之后，卖家会协助换绑手机号，换绑成你的手机号交接账号。”
实际上，多数社交平台明确禁止账号转卖。以记者在网站上咨询的某平台账号为例，平台在其服务协议和相关规则中就规定，账号仅限本人使用，禁止以任何形式赠与、借用、出租、转让、售卖或以其他方式许可他人使用该账号。
对此，中国政法大学传播法研究中心副主任朱巍表示：“转让账号风险确实比较大，这个账号以前可能有一些违法违规的情况，要是有销售产品的行为，一旦出现问题就要承担相关责任，会遇到很多不可预测的法律问题。”
当前，人工智能技术给人们生产生活带来便利的同时，也出现不少风险挑战。为了促进人工智能健康发展，规范人工智能生成合成内容标识，近日，四部门联合发布《人工智能生成合成内容标识办法》，要求人工智能生成合成内容标识包括显式标识和隐式标识。新规自2025年9月1日起施行。朱巍表示，新规正式落地后，此类乱象将得到遏制。
朱巍介绍：“显性标识就是被编辑的音视频、文档等，里面带水印，有明确提示。还有一种情况，就是第三方平台生成的东西，有一些隐性标识。这意味着在肉眼上看不到任何标识，如果放到一些平台上，在人工智能审核时，就会发现生成内容里面有隐性标识。以后再起号时，即便做得再好，强制性的标记也会存在，很难做到以假乱真了。”
更多精彩资讯请在应用市场下载“央广网”客户端。欢迎提供新闻线索，24小时报料热线400-800-0088；消费者也可通过央广网“啄木鸟消费者投诉平台”线上投诉。版权声明：本文章版权归属央广网所有，未经授权不得转载。转载请联系：cnrbanquan@cnr.cn，不尊重原创的行为我们将追究责任。
来源：央广网
