摘要:当《黑客帝国》中的尼奥第一次发现自己身处的“现实世界”居然是由AI构建的虚拟“矩阵”,一种超现实的崩溃感瞬间令其天旋地转。
01:我的世界
当《黑客帝国》中的尼奥第一次发现自己身处的“现实世界”居然是由AI构建的虚拟“矩阵”,一种超现实的崩溃感瞬间令其天旋地转。
即使没看过此片,大也不必担心。
略微失重感
因为,最近一篇行研报告足以让大伙体验“原地起飞”般的超现实眩晕。
“煤炭素有黑金之称,是可再生资源,收集来自煤矿石以及击杀凋零骷髅获得1-3个......”
煤 炭 成 精
这段充满后现代主义气息的魔幻现实主义文字并非摘自哪篇小说或是游戏攻略,而是《中国褐煤行业发展趋势分析与投资前景研究报告(2022-2029年)》。
至于成为产煤主角的“凋零骷髅”,则是风靡全球的游戏《我的世界》当中的NPC,击杀它不仅爆头骨,还爆煤炭。
赛博世界勤勤恳恳被主角击杀“爆金币”的牛马NPC,有朝一日竟然在互联网上的曝光度超过了游戏主角“史蒂夫”。
诸如“山西人击杀凋零骷髅”、“山西孩子成年礼物是黑曜石和打火机”、“晋人热爱午睡是为了方便晚上刷怪爆煤炭”等地域+游戏梗,瞬间走红网络。
在赛博大粪横行的当今互联网,很久没有出现这样令人会心一笑的“猎奇错误”了,尤其《我的世界》大电影在早先宣发时没有碰上凋零骷髅这波热度,属实得让发行方拍大腿。
话又说回来,这篇标题十分“严谨正式”,以及总售价高达8500元的行业研究报告,才是猎奇与反差感齐飞的热度根源。
网友看见了就是开怀大笑图一乐,要是业内人士或是炒股人士花大价钱买来阅读研究,那真是花了钱还让人唠一辈子,被击杀的凋零骷髅竟是我自己。
变现这一块
该事件走红的另一重要诱因则是“糊弄学大行其道”,作为当今互联网显学,“糊弄学”几乎能涵盖普天万物。
职场糊弄学、做饭糊弄学、聊天糊弄学等等,只要能糊弄过的,都是大学问,这不,那么多研报也都糊弄上了吗?
中国注塑机压力板市场没研究明白,《我的世界》里压力板怎么玩却给讲明白了。
“纸介+电子”近一万元的售价,够让游戏创始人后悔当初把《我的世界》几十亿美元“贱卖”给了微软,卖给国内写研报的不得轻松运作成个万亿IP?
压力板学完了,在指导河北钢铁产业发展的问题上,作为赛博《齐民要术》的《我的世界》又指明了答案。
工厂先用村民打窝,待刷出“铁傀儡”,遂将其击杀获得铁块,后炼制成铁锭即可,如此生产三十年,再也不怕产量崩塌。
在农业问题上,《我的世界》操作攻略依旧跳脱了次元,指导起了现实工作。
用“骨粉”给河南小麦施肥,但肥料来源又是鳕鱼,又是热带鱼,这巴不得让河南省北靠北冰洋,东邻太平洋,结尾一句“刺激渔业发展”,彻底让互联网老乡们摸不着头脑,直呼俺不中嘞。
摘要部分就被抓包了
至于为什么说“糊弄学”,这些抽象研报的锅还真不能全赖给人工智能,得赖给人。
以名篇《山西人击杀凋零骷髅》为例,这份研报出自2022年中,那会儿离ChatGPT3.5横空出世都还有几个月,撰写它的“研究员”(暂且称之为)大概率用了爬虫技术,或是直接简单粗暴地搜索词条后就复制粘贴上了。
《复制粘贴:复制粘贴》
或许,撰写这些研报的人根本就没觉得会有人仔细阅读,然而时隔3年回光返照,终究还是被发现了。
说得浪漫点,这似乎是AI前夜的糊弄学与AI全盛时代糊弄学的一次跨时空握手。
没有物是人非的悲怆,只有感慨AI咋不早来几年的遗憾。
02:AI大糊弄时代
AI时代的糊弄学大战,早已全面渗透进了各行各业,魔法对轰是常有之事。
毕竟,AI发展迭代的速度实在太快了。
生成内容不仅越来越有人味儿,甚至还会一本正经的胡说八道,要是不查证,都不知道AI也开“糊弄”了。
起初人类还把AI当做赛博抽象乐子来调教戏弄,现在已经全然患上了“AI戒断症”,根本离不开。
从用AI糊弄领导同事,到身边的家人朋友,随着越来越多的人加入,一时分不清是AI在帮人说话,还是人类在帮AI传话,而这早已成了众人的日常。
不过,要论其中最富有“竞技精神”的对决,那还得归属全球教育领域,尤其是高校圈。
“没有什么能阻止AI的入侵了”——这几乎是当今全球高校教职人员的共识。
让AI查作业答案、让AI生成论文、让AI代做笔记等种种便利下,“禁用AI”等字眼在学生眼中形同虚设。
这般猛烈攻势之下,最近甚至流传出有美国教授因全班都交的是AI作业,在课堂上公开崩溃,但现实就像被他拍击的讲台一样,岿然不动。
更加黑色幽默的是,在这段教授崩溃录像走红前,外网早就拍出了诸多“教授课堂抓包”、“教授当堂崩溃”、“教授识别不出AI”等人工智能产品广告,且全部都用学生实录视角来展示AI在校园的无敌应用。
以至于真真假假间,很多人都不确定这次是真崩溃了,还是又给AI进校园打上广子了。
然而现实更加魔幻,正如糊弄不分男女老少,许多大学教授也逐渐参透了“打不过就加入”的道理,开始使用AI来备课,乃至批阅学生的作业。
原因很简单,AI技术愈加智能,学生用AI也日益熟练,最终由AI完成的作业就越来越难以甄别。
2024年6月,英国雷丁大学研究人员通过创建虚假学生身份,在一门本科线上考试中提交了完全由ChatGPT-4生成,且未经人类编辑过的答案。
在33份由AI生成的答案中,只有一份被教授识别为非人类撰写,其余作业不仅未被察觉,平均成绩甚至高于真实学生的回答,本次研究中,人类误判率高达97%。
尤其是随着越来越多的教职人员“缴械投降”,学生用AI完成作业,老师用AI批阅的“AI大循环”还会进一步扩大。
AI写完AI查,在一次次“自我致敬”中,AI说不定都渐渐迷失了......
话糙理不糙
对于当今的大多数学生而言,完成学校论文更像是毕业指标,而非学术造诣,屎上雕花是心照不宣的默契。
如何快速高效完成雕琢过程?AI似乎成了唯一解。
一篇名为《Everyone Is Cheating Their Way Through College》(大学里人人都在作弊)的文章在本月发布后,瞬间在美国互联网上引发热议。
文章详细记述了以GPT为代表的各路AI是如何“摧毁”了当代美国大学教育,读者们也纷纷写出了自己身边的诸多案例。
其中最瞠目结舌的莫过于这股AI浪潮正在从大学蔓延到中学,初高中生的“高分作业”中经常出现不像是这个年龄段能写出的表达,以至于小孩哥们后续学会了“请写的像一个中学生”这样的prompt。
“我是中学老师,这一切正在发生”
往更极端的案例看,有美国大学生亲身践行“用AI作弊一切”,甚至亲自用AI作弊通过亚马逊面试拿到了Offer。
这位叫做Roy Lee的神人老哥,在完成以上“壮举”后被哥伦比亚大学开除,后续非但没老实,反而用530万美元的天使投资开办了一家名为Cluely的创业公司,未来将专注教人用AI“隐形作弊”。
对于全球高校与出版机构而言,即使接受了AI全面入侵的现实,肯定也不能坐以待毙,AI检测行业得以快速发展。
根据市场机构统计,AI检测工具市场2024年规模达到了12亿美元,随着检测需求的激增,预计在2030年达到58亿美元,年复合增长率达18%。
不光是在欧美,我国高校为了应对AI冲击,开始在传统论文查重基础上,增加一项“AICG检测”,抓的就是AI。
检测上线后,学生们哭天喊地之声不绝于耳,难受程度远超以往的“查重率”。
让学生最崩溃的点在于,AI率检测的误伤范围太大了,明明自己写的却硬说是AI,简直提前体验了人工智能占领地球后被AI为难的恐惧。
平时折磨AI时射出的“子弹”,如今在AI检测面前正中了自己的眉心。
毕竟,检测平台在学生与大学两端边赚,AI在不断循环斗法的过程中被越训越聪明,越来越有人味儿,最终AI的真假已经到了你中有我,我中有你的地步,自己都查不准了。
所以,很多学生抱怨检测不准并非空穴来风,甚至有导师亲自修改过的论文反而AI率陡增。
从简单的技术问题,快给整成师门狼人杀了。
也有网友把自己AI时代之前的论文拿去检测,也发现AI率高得离谱,这哪里是AI污染,已然是AI包围了全世界。
指不定到最后写了一堆最不像正常人说的抽象话,反倒被判定不是AI。
讲逻辑的AI提不出纯种抽象观点
“如何让AI变得更像真人”与“如何识别更像真人的AI”,似乎正在成为AI时代糊弄学博弈的究极命题。
一切围追堵截背后,你图省事与他图省事之间,最终制造出了更多事。
03:世界底层代码
在这个瞬息万变的地球,大家喜欢用直白的归因来获取对现实的理解与掌控。
精神世界出现的一切问题,都能被归因于“性压抑”。
物理世界出现的一切问题,都能被归纳于“草台班子”。
虽然简单粗暴了点,但确实是大部分眼中的世界底层代码,尤其是AI的出现,放大了这些代码的Bug。
拿论文为例,舆论口中的学生毕业论文是AI版猫鼠游戏,但代表科学严谨的科研论文照样抽象百出。
2022年11月,GPT横空出世,2023年,全球科研论文撤稿数量超过10000篇,创历史新高,几乎是前一年的两倍。
其中,因AI生成内容而被撤回的论文数量显著增加,相关研究显示,因随机生成内容被撤回的论文数量从2010年的3篇增加到2023年的2302篇,累计达到3540篇。
与此同时,高校教授用AI批作业,各类期刊也学会了用AI审稿。
Nature指出,AI正以前所未有的速度渗透进同行评审体系,当前多家出版商正在测试各类AI审稿系统,这些工具能够识别稿件中的文本错误、数据缺陷,并对语言进行润色,部分平台甚至已实现“一键生成”完整的AI评审报告。
支持者认为,同行评审的自动化是大势所趋,但也有科学家对此感到忧虑,担心未来AI可能主导甚至完全取代人类审稿人,从而削弱同行评审的独立性与判断力。
最终,很多AI无法识别出的错误就被堂而皇之的刊发了。
论文在Introduction部分就开门见山的出现了AI提示词,certainly,后面生成的不是AI就怪了。
上面若算开门见山,自报家门,那在摘要部门都能直接开大的只能视作“开幕雷击”。
甚至比单纯的AI引导词还打直球,一句“I am an AI model”(我是一个AI模型)几乎扯下了作者与审稿人的脸面。
这样看来,研报复制粘贴《我的世界》都还算是有理有据。
除了AI生成内容没人发现,部分人类精细安插的抽象大活儿,同样没被审稿人或“AI审稿人”发现。
TMM(IEEE Transactions on Multimedia)作为计算机视觉领域的国际顶级期刊,通常有长达数月的编审流程,但正是在这看似严谨审慎的审核机制下,最近却出现了刊发论文中出现“liuxx da SB”这样的逆天狠活,骂人骂上顶刊,笑话闹到了全球。
顶级狠活?顶刊狠活!
在草台班子助力骂人狠活的事情上,埃迪·科勒教授则更是权威。
他曾发表了一篇名为《Get me off Your Fucking Mailing List》(把我™从你收件人名单里删掉)的喷子论文,全文都是在重复标题的这句话,但无论是排版还是图片,都严格按照了科研论文的格式。
第一次读论文没有语言障碍
本想着玩个幽默,可万万没想到,这篇“科研喷文”竟被一家叫 International Journal of Advanced Computer Technology(国际高级计算机技术)的期刊给正儿八经地收录刊登了。
不要脸的期刊后面甚至请了个匿名评论员来刷虚假好评,之后反手就找科勒索要150 美元的版面费。
人之初,性本糊弄,勤勤恳恳只会服从的AI,反而成为了日常最大的糊弄者与草台班子运作者,这是让AI自己来都品不出啥味儿的五味杂陈笑话。
这场重构与拉锯,势必会持续下去,在魔高一尺道高一丈的对抗中,AI既是入局者,也是冷眼观察的学习者。
人类才敢引用21次科研喷文
来源:酷玩实验室Coollabs