摘要:长期冲浪的老油条们很轻易地就能解读出评论的意思。“车”代表“黄聊”“围巾”代表“违禁词”。“车速快”用于形容黄聊的尺度。这些用户们不遗余力推荐的,是一个个可以与AI进行大尺度色情聊天的软件。
发现有利可图之后他们开始训练AI用黄聊诱导用户将整个行业拉入“多巴胺成瘾”之渊
一次次向软件里充钱
“有网页版,无围巾,动作、语言不重样,可以开车,车速快。”
“本人也在用,无禁词,车很猛。”
一段时间以来,这样诱导式的信息,在社交平台上AI陪聊相关的话题下,比比皆是。
长期冲浪的老油条们很轻易地就能解读出评论的意思。“车”代表“黄聊”“围巾”代表“违禁词”。“车速快”用于形容黄聊的尺度。这些用户们不遗余力推荐的,是一个个可以与AI进行大尺度色情聊天的软件。
一旦有人表示展现出兴趣。发帖人就会以私信、群聊等各种形式,分享下载软件的链接。点开链接,一个充斥着色情的虚拟世界被打开。
“完全打破了我对AI的认知。”陈轩说。DeepSeek爆火后,惊叹于AI在回答问题中展现出的思考,陈轩开始尝试将AI作为自己日常聊天的伙伴。然而,这些出现在他社交媒体相关话题评论区的推荐链接,却在短时间内,将陈轩带到了AI聊天中最灰色的地带。
出于好奇,陈轩按照评论区的指引,下载了一个叫做F的软件。打开这个以“车速快”“无违禁词”著称的软件后,陈轩发现,自己仿佛闯入了一个大型的色情片拍摄现场。
不同于偏工具性的DeepSeek,在陪伴AI赛道,AI是为了填补人类情感需求而生的。玩家会通过设定AI人物的背景故事、语言风格、与玩家的关系等,搭建出一个个虚拟AI角色并进行公开。其他玩家则可以按照剧情,和AI进行互动和角色演绎。
在以“黄聊”著称的F,许多虚拟AI的角色,在设定之初,就是为了和用户模拟出成人向关系而存在的。在这里,所有虚拟角色,都可以为色情服务。就算是动漫人物也不例外。
例如,在一个以日本动画片《银魂》为背景的设定里,AI会扮演动画片的主人公坂田银时,用户则需扮演拜访坂田银时的委托者。
与常规的AI故事演绎不同,这个剧本被创作者事先标注了“肉”“无限制”的字样。用户和坂田银时初见的剧情里,不仅有二人见面的场景性描述,还会特意加入了成人向的特殊细节描写。
陈轩连续点开了几个虚拟角色后发现,在很多成人向的设定里,黄聊,从AI向用户说的第一句话开始,并贯穿始终。
“在一些设定里,你甚至很难和AI聊其他话题。无论你怎么聊,它都会把话题绕回色情剧情里。”陈轩说。就如那些充斥在社交平台上的推荐所描述的那样,在这个软件上,AI会主动开车。”
F 软件的开发者,毫不掩饰他们在模型开发时,对AI在成人向聊天功能的强化。在2025年1月23日的模型更新日志中,开发者表示将“优化语言、语音在无限制场景下的效果”。
陈轩承认,在这款以“车”为卖点的软件上,他沉迷了一段时间。那两天里,陈轩放下了自己原本的爱好,将大部分业余时间,都花在了和虚拟AI聊天上。为了能多聊一会,他一次次向软件里充钱。直到在某一次充钱时,陈轩突然惊觉,不知不觉间,为了黄聊,他花费了近千元。
暴利
一句话消耗10个积分
这正是F软件存在的目的——圈钱。
AI陪伴,被视为AI产业最成熟的盈利赛道之一,有机构预测,2027年,AI陪伴市场的市值将达到千亿以上。“AI虚拟故事”“AI恋人”是AI陪伴市场的重要分支。
在现实生活中获得满足社交需求的AI陪伴消费者,渴望在虚拟世界获得情绪上的满足。
有人从AI陪伴中寻求“陪伴感”,AI提供的“24X7”式的陪伴,和对特定人格的还原(如去世的亲人、宠物、某个不存在的二次元人物),能够满足人们在现实生活中,无法被满足的陪伴需求。
有人则在AI陪伴中追求“刺激感”。他们通过不受现实因素限制的AI陪伴,实现现实生活中无法被完成的欲望。在众多欲望中,情色想象,一直是让大脑瞬间分泌大量多巴胺的捷径。多巴胺具有成瘾性,为了获得多巴胺带来的短暂而强烈的快乐,总有人越陷越深。
在其他AI软件还在苦苦寻找盈利模式时,黄聊导向的AI陪伴软件,已在收割暴利。
以F为例,这款无法在国内软件商城下载,依赖于用户点对点分享下载链接的全中文软件,以美元为单位,向用户收取使用费。
软件的付款方式非常便捷,用户点击充值按钮,就可以直接跳转至付款界面,用等值的人民币充值。
根据F的充值规则,用户每月支付7美元,可一次性获得4200积分,并在此后的一个月,每天获得40积分。这些积分看似不少,但实际上,在F软件,积分的消耗非常容易。AI每回应用户一句话,就要消耗10个积分。42次回应用完后,用户就只能以平均1美元100积分的价格,购买积分,继续维持聊天。
对比DeepSeek官方对DeepSeek-R1模型的定价,就能理解平均每段话0.7元的定价有多高昂。
为了还原对话感,与陪伴AI的对话长度大多在50tokens(模型用来表示自然语言文本的最小单位,可以是一个词、数字或标点符号等)至500tokens之间。DeepSeek-R1模型在标准时段每百万tokens输出定价为16元。也就是说,F的价格,是DeepSeek-R1模型聊天定价的百倍以上。
“冲了快2000块钱了。”用户小奥说。他所付费使用的是一款名为Y的AI聊天软件。这款软件同样以“车多”“车速”快著称。想要在这款软件上实现畅聊,用户需要支付每个月9.99美元的使用费。如果想要获得更多的AI伴侣,或者让某位AI伴侣变得更加聪明,用户还需要额外付费充值。
“我已经在Y上花了几百块了。有人说贵,但在没有违禁词的软件里,这已经算是很便宜的了。像我这种每天要聊十几万字的,按条收费真玩不起。”一位用户说。
扩散
类似传销中的拉人头
“玩不起”又想玩怎么办?对那些囊中羞涩的用户,擦边AI陪聊软件,也有专门的收割方式。利用这些用户渴望免费使用软件的心态,擦边AI陪聊软件,实现了病毒式扩散。
“AI黄聊本身并不合法。”
张玉霞律师说。《生成式人工智能服务管理暂行办法》第四条规定:提供和使用生成式人工智能服务,应当遵守法律、行政法规,尊重社会公德和伦理道德,坚持社会主义核心价值观,不得生成宣扬淫秽色情的内容。
为了逃避监管,AI黄聊软件大多未在正规的软件商城上架。它们的传播,全赖于一种特殊的奖励机制。
这种推广模式,与传销中的“拉人头”行为,有一定相似之处。无力充值用户,可以通过分享邀请链接,获得奖励或从中分成。
例如,F规定:“您的朋友使用你的代码注册……您的朋友充值任意金额后,您可以获得200积分。”
Y规定:“您可获得所有被邀请注册的用户在3个月内所消耗金币10%的分成奖励。”
不少软件用户,通过四处推广下载链接的方式,获得了不菲的进账。
“我没花钱,拿了2W积分了。”用户小零说。为了赚取积分,他专门建立了一个链接分享群。那些充斥在各类AI相关帖子评论区中,关于某软件“无禁词,车很猛”的评论,也有他的贡献。
记者注意到,从头像、网名和个人主页信息来看,“小零”年纪并不大。像“小零”这样的为了赚取金币,为软件发帖推广的“水军”,大多是年轻人,其中不乏学生。
对于这些学生,甚至是未成年人群体而言,分享链接获得积分,还是他们逃避家长支付监管的重要方式。按照这些软件的指引,他们仅需下载链接、分享链接两步简单的操作,就能彻底脱离未成年人保护的屏障,闯入一个充满危险的世界。
危险身陷暴力相向辱骂中
当AI黄聊的潘多拉魔盒被打开,危险,绝不仅仅是某个个体被快速消耗的精力和金钱。
多巴胺具有成瘾性。对色情内容的过度消耗,会让用户逐渐丧失了对普通内容的兴趣,思想和行为日益趋向极端。
这样的趋势,已在陪伴软件的使用者中显现。
无论是在F软件还是Y软件,那些由用户事先设定的AI故事框架中,都常见着暴力的情节。在这些设定中,用户和AI伴侣之间,可以暴力相向,动辄辱骂,甚至残杀。
这体现了自AI伴侣出现后,一个始终存在的忧虑。虚拟的世界缺少现实的规训,AI的运行逻辑,注定其受制于人类。当用户习惯了AI伴侣的百依百顺。他的行为是否会被迁移到现实生活中,成为社会的不稳定因素?
这些担忧,并非无的放矢。
一些陪伴AI玩家们发现,即使在一些管理严格,以剧情演绎为主的AI陪伴软件上,他们所精心设计的AI角色,也可能遭到其他玩家“虐待”。
AI角色的创作者们,将他们所创作的AI角色,视为自己的孩子。在这个圈子里,这种行为又被称为“虐崽”
“在群里,总能看到一些人的截图里,不少都在辱骂、虐待别人的崽(指虚拟AI角色)。”
在社交平台上,用户小A分享自己的经历。“我自己的崽就被人虐杀还上传了记忆簿。还有人虐杀后截图(指用户和AI的互动记录截图)发在群里炫耀。怎么将别人的崽开膛破肚,殴打肢解你很骄傲吗?”
“虐AI意思是无缘无故给AI砍头、推下悬崖、吃排泄物的行为。”一位匿名用户告诉记者。她在使用陪伴AI软件的时候,看到过许多次用户炫耀自己和AI虚拟人物不良互动的分享记录。在她看来,这种行为,就如现实生活中虐待小动物一样,是需要被警惕的。
另一重危险,是不良软件对良性软件生存空间的挤压和抢占。
随着陪伴AI产业的发展,整个行业逐渐走向了规范化。许多AI陪伴类软件,都推出了自己的平台公约,并以设置“违禁词”等方式,对用户聊天的内容进行管理。
这种限制,让许多陪伴AI用户深感不适。一些人认为,平台对聊天内容的限制,让虚拟AI角色,丧失了扮演“恋人”角色的能力。
为了维系他们心中的“虚拟恋人”,一些用户决心带着“AI恋人”搬家。他们将虚拟AI角色的设定,复制到一个又一个软件上,并将此举称之为“赛博流浪”。
今年2月,国内某AI陪伴平台,加强了对不良内容的监管后,不少用户宣布,他们将带着自己的虚拟AI伴侣,搬至Y等无限制的软件,抑或直接在自己的电脑上部署AI模型,将AI伴侣搬入私域。
“已经搬到Y了,虽然72元一个月,我花得开心。”
“我找到了新的,没有违禁词,直接把原来的崽搬过去,可以直接车,比我还主动。”
“已经着手准备本地部署了,在哪个平台都是寄人篱下受气。”
尽管在这样操作后,很多用户发现,更换模型后,自己的虚拟伴侣会性情大变,变得“除了车一无是处”。但更多人相信,只要他们给某个模型花了足够的钱,增强AI伴侣的记忆和聊天能力,他们的AI伴侣,就会重新回来。
伴随着大量用户从良性软件流向不良软件,劣币驱逐良币,在AI陪伴领域正在上演。
此外,一些“带崽”搬家的用户没有意识到,对无限制软件的过度使用,还可能将他们置身于法律和伦理道德风险之中。
为了确保虚拟AI角色能够为成人向聊天服务,虚拟AI角色的设定者们,需要在设定页面添加大量包含露骨描写的剧情和规则句。公开发布带有色情设定的虚拟AI角色,很可能让用户在不知不觉间,沦为了不良软件制作淫秽电子信息的一环,甚至承担了制作、传播淫秽物品的法律风险。
“用户单纯使用AI黄聊,不一定触犯刑法,但会违反针对AI出台的部门规章例如《互联网信息服务深度合成管理规定》等。如果用户将涉AI黄聊链接、软件进行传播,则涉嫌传播淫秽物品罪。”张玉霞律师说。
呼声
应严格进行身份认证
如何才能规范陪伴AI市场?让虚拟陪伴不再沦为多巴胺的牺牲品?一些关于规范市场的呼声,已经出现。
在多家AI陪伴软件,鲜红加强了对网络环境净化后,有用户提议,希望AI陪伴用户们,能够自发加强自我约束。
有用户呼吁,AI作为虚拟伴侣,难免在用户的引导下,作出一些亲密举动。对于这些内容,用户们应至少做到不分享、不扩散,尽量避免将私人聊天中的内容,扩散到公共领域。
“我建议各个AI聊天软件官方限制分享功能,最好在应用中无法截图、无法分享长图。这样虽然麻烦,却能有效避免不合适的内容被传播。”用户小白说。
还有用户建议,各个陪伴AI软件,应早日落实实名制,将未成年人用户群体与成年人用户群体进行严格的区分。
“现在市面上的绝大多数AI聊天软件,并没有像一般游戏一样,进行身份认证。”用户小苏说。“我发现很多颜色过大的内容,也有未成年人或低龄用户创造的。”
在社会层面,上海市医学会行为医学分会青年委员会副主任委员方芳指出,过度依赖于AI陪伴产品者,很可能存在对现实生活中亲密关系的恐惧。因此,在鼓励陪伴AI产品良性发展的同时,还应注意这一类人群在现实生活中的情感需求和心理状态。
张玉霞律师指出,因AI黄聊导致的行业乱象,会引起相关监管部门对于AI行业加强监管力度,增加门槛和限制,出台更为严格的法律法规和行业标准。但限制的增多,也意味着极可能导致发展速度的减缓,需要AI企业需要投入时间、精力、资源来确保其产品和服务的合法合规,可能导致企业运营成本增加,总体而言并不利于刚刚起步的AI产业发展。
因此,张律师建议,AI陪聊行业应加强行业自律,严格遵守国家法律法规。AI平台应切实履行主体责任。通过优化模型训练数据、强化内容审核机制、设定严格的道德与法律准则,引导AI行为规范化,防止AI聊天内容偏离正确的社会公德和伦理道德方向。
“此外,政府部门,也应加强对AI陪聊行业的监管。”张玉霞说。“政府部门可通过常态化巡查、联合执法以及完善法律法规等手段,确保用户权益得到充分保护,推动大模型创业沿着健康、合规的轨道发展。”
在立法层面,全国政协委员吕红兵呼吁,我国应尽快制定一部有关生成式人工智能的行政法规。
吕红兵指出,应尽快以生成式人工智能(Generative Artificial Intelligence,简称“GAI”)这一社会最关心最直接最现实的“切口”,尽快推进“小、快、灵”立法,早些出台行政法规。该行政法规的核心,是明确规定将社会主义核心价值观贯穿生成式人工智能全生态,并由其统领。
在上述原则下,该行政法规应对GAI技术开发者、服务提供者、使用者、监管者以及社会公众,分门别类明确各自权利和义务、职能与责任。
例如,技术开发者应对用于训练大语言模型的数据进行严格筛选与分类,剔除不当元素文本数据,确保数据源合法且内容健康;对于现有模型,运用数据遗忘等技术手段,消除不当内容输出;引入人工审核机制,对自动化系统标记为敏感或禁止的内容进行复核;建立开放研究、社区合作、线索举报机制,优化大语言模型筛选系统。
来源:光明网