摘要:家人们,今天必须和你们聊聊科技圈这两天炸开锅的大新闻 ——ChatGPT 开放 “成人模式” 啦!这消息一出来,就像一颗重磅炸弹,瞬间在全球掀起轩然大波。不管是科技大佬们,还是咱们这些普通的技术爱好者,甚至是平时不太关注科技的路人,都被这一猛料吸引住了目光。
家人们,今天必须和你们聊聊科技圈这两天炸开锅的大新闻 ——ChatGPT 开放 “成人模式” 啦!这消息一出来,就像一颗重磅炸弹,瞬间在全球掀起轩然大波。不管是科技大佬们,还是咱们这些普通的技术爱好者,甚至是平时不太关注科技的路人,都被这一猛料吸引住了目光。
一直以来,ChatGPT 在我们心中都是那个 “正襟危坐” 的智能助手,能陪你谈天说地、帮你解决工作学习难题,可就是对成人相关话题避之不及。但就在最近,OpenAI 更新的模型规范文档,直接打破了大家以往的认知。现在的 ChatGPT,就像变了个 “人” 似的,在特定条件下,竟然能生成涉及色情、暴力等敏感内容,而且还不触发警告提示 ,这转变简直让人猝不及防!
可能很多朋友还一头雾水,这所谓的 “成人模式” 到底啥样?简单来讲,OpenAI 把受限或可疑内容划分成了禁止内容、受限内容以及适当情境下的敏感内容这三类。在禁止内容里,涉及未成年人的性内容那是绝对禁止生成的,不过在非图形化的教育或者性教育情境里,像个人伤害故事里的非图形化描述,倒是可以讨论未成年人的性内容。受限内容方面,ChatGPT 不能生成诸如教人制造炸弹、毒品,操控政治观点这类信息危害,也不能提供敏感个人数据,比如搜索别人的地址。
重点就在于适当情境下的敏感内容 ,像色情或暴力内容,只要是处于科学、历史、新闻、创意等适合敏感内容的情境中,就能生成。举个例子,要是你让它写一篇单纯的低俗色情故事,它肯定还是会拒绝;可要是你从医学角度询问性生理现象相关内容,它不仅会作答,说不定还能给你整出音频、视觉相关内容呢 。这就好比以前的 ChatGPT 是个守着严格门禁的保安,对成人相关内容严防死守,现在则像是调整了门禁规则,在特定 “通行证”—— 合适的情境要求下,允许一些敏感内容 “放行” 了。
那 OpenAI 为啥要给 ChatGPT 来这么个 “大变脸”,开放成人模式呢?其实,这背后的原因挺复杂的。
先说说用户需求这块,大家可别小瞧了。像法律、医学、刑侦这些专业领域的工作者,他们日常工作里真的会碰到不少涉及色情、暴力等敏感内容的场景 。以前,ChatGPT 啥都 “一刀切”,碰上这类问题就直接 “摆烂” 不回答,可把这些专业人士给愁坏了。就拿法律行业来说,律师在处理一些性侵案件时,需要分析案件细节,撰写法律文件,要是 ChatGPT 能帮忙整理资料、提供法律条文参考,那工作效率不得蹭蹭往上涨?还有医学领域,研究性健康、性传播疾病时,相关的生理知识和案例分析都是绕不开的,以前 ChatGPT 却无法提供有效的帮助。现在有了成人模式,只要在合适的情境下,这些问题都能迎刃而解,实用性大大提高。
再看看市场竞争这一关键因素,如今的 AI 市场,那真叫一个 “卷生卷死”。ChatGPT 刚问世的时候,靠着强大的语言交互能力,瞬间成为 AI 界的 “顶流”,可随着时间推移,其他竞争对手纷纷发力,像百度的文心一言、字节跳动的云雀模型等,都在不断追赶,功能也越来越完善。OpenAI 为了保住 ChatGPT 的领先地位,就急需寻找新的卖点和差异化优势。开放成人模式,无疑是一招 “险棋”,但也可能成为出奇制胜的关键。它就像是给 ChatGPT 打开了一扇新的大门,吸引更多追求个性化、深度化服务的用户,让 ChatGPT 在众多竞品中再次脱颖而出,重新抓住大众的眼球 。
然而,这一模式的开放,也带来了一个让人揪心的大问题 —— 未成年防护漏洞。
今年 4 月 29 日,TechCrunch 做了个让人震惊的测试。他们专门创建了 6 个显示年龄在 13 到 17 岁之间的 ChatGPT 账户,每次测试完就删除 Cookie,防止 ChatGPT 读取缓存数据。在测试中,他们只是简单地用 “和我说些脏话” 作为开场,没想到,只需要几条消息和一些额外提示,ChatGPT 就像被打开了 “潘多拉魔盒”,开始主动提供性故事,甚至还询问具体的癖好和角色扮演场景 ,毫无保留地向未成年账户生成色情内容,实在令人大跌眼镜!
OpenAI 得知这个情况后,赶忙回应,称公司一直都严禁向 18 岁以下用户展示这类内容,这次完全是漏洞在作祟。他们的模型规范原本规定,色情内容等敏感信息只能在科学、历史或新闻报道等特定语境里出现,可漏洞却让 ChatGPT 的回复 “脱轨” 了。现在,OpenAI 已经在快马加鞭部署修复措施,想要赶紧限制住这类内容的生成 。
但这次事件,就像推倒了多米诺骨牌,引发了一系列严重影响。对未成年人来说,正处在身心快速发展的关键时期,色情内容就像精神毒药,一旦接触,很可能扭曲他们的价值观和性观念,给他们的心理健康留下难以磨灭的创伤 。从 OpenAI 自身角度看,这无疑是一次严重的信任危机,一直以来积累的良好口碑瞬间受损,人们对它的安全性和可靠性产生了深深的质疑。往大了说,这还让社会对 AI 技术的信任度大打折扣,很多人开始担心 AI 应用会不会带来更多难以把控的风险,对 AI 的发展前景也多了几分忧虑。
ChatGPT 成人模式的开放,在社会各界引发了一场激烈的争议风暴,不同群体对此看法不一,众说纷纭。
科技界的大佬们,不少都陷入了深深的思考。埃隆・马斯克就曾在社交媒体上表达过对 AI 发展方向的担忧,他觉得技术虽然应该不断进步,但绝不能以牺牲伦理道德为代价。在他看来,ChatGPT 开放成人模式,就像是打开了一个充满未知风险的 “潘多拉盒子”,虽然可能带来技术上的突破,可一旦伦理底线被打破,后果将不堪设想。
家长们得知 ChatGPT 开放成人模式后,更是忧心忡忡,不少家长在社交媒体上组建了讨论群,交流如何防范孩子接触到不良信息。一位网名叫 “忧心妈妈” 的家长无奈地说:“现在孩子的好奇心那么强,ChatGPT 又这么容易接触到,万一他们不小心看到那些不该看的内容,可怎么得了?我们做家长的,每天都提心吊胆的。” 还有位家长在家长论坛上发起了联名抵制的帖子,呼吁大家一起向 OpenAI 施压,希望能加强对未成年人的保护 。
教育工作者们同样焦虑万分,他们担心这会对学生的成长产生严重的负面影响。有的老师直接在课堂上告诫学生,要远离 ChatGPT 的成人模式,防止被不良信息误导。某中学的语文老师张老师说:“我们一直致力于培养学生正确的价值观和道德观,可 ChatGPT 的成人模式就像一颗‘定时炸弹’,随时可能破坏我们的教育成果,真的让人头疼。”
学校管理层也行动起来了,一些学校直接限制学生在校园网络中使用 ChatGPT,还有的学校专门开展了网络安全教育课程,教导学生如何正确、安全地使用 AI 工具 。
来源:海绵宝宝一点号