ChatGPT最大的隐患不是抢人类的就业,而是让个人的经验变得廉价

360影视 国产动漫 2025-06-03 01:03 2

摘要:有过编程经验的,会觉得上面的话有一些道理,如果不能从整体上加以驾驭,那大模型带来的快,就意味着返工(由于你的提示词和真实需求存在差距,而这差距由于你缺少深度思考而在后续显现),此时方向稳会比车速快更为重要,而这背后体现的,是大模型作为一个延伸的存储,其与中央处

最近看到不少关于同一主题的讨论,都契合stay hungry stay foolish的新解,正好遇上儿童节,便整理后记录下来。

有过编程经验的,会觉得上面的话有一些道理,如果不能从整体上加以驾驭,那大模型带来的快,就意味着返工(由于你的提示词和真实需求存在差距,而这差距由于你缺少深度思考而在后续显现),此时方向稳会比车速快更为重要,而这背后体现的,是大模型作为一个延伸的存储,其与中央处理器(人脑)的带宽和纠错码机制的缺失,限制了大模型的进一步使用。对于那些教授大模型使用的课程,上述思考意味着我们要关注的是什么样的思维习惯,能避免大模型编程过程中的翻车,让思维速度能和大模型的代码生成速度匹配。

第二条与AI作为心智扩展的分享如下:

对于大模型生成的类“得到”视频,笔者的看法与↑有所不同。前几年得到app之所以能够引领知识付费浪潮,就在于其将大V由手工作坊,变成了工业化生产内容,大V们的观点或许不再犀利,但其质量下限却可以保证。然而,正如美式快餐无法取代米其林餐厅的地位,工业化的内容生产,能够获得点击,但带有作者强烈个人标记的作品,却始终有着不可替代的价值。

之后,便是自然通讯上Andy Clark的一篇观点类文章,名为“Extending Minds with Generative AI”,该文开张明义,指出随着人机协作成为常态,我们应当提醒自己,构建人机混合思维系统是我们固有的本性——这些系统能够灵活地整合非生物资源。认识到这一点,会促使我们改变对即将到来的时代的威胁和机遇的思考方式。

具体来说,该文先立靶子,指出技术带来的危害,就如上面给出的两个例子。具体来说,是:

1)人们担心新技术正在使我们变笨。GPS 应用程序正在缩小我们的海马体(或在其他方面削弱我们的无辅助导航能力);

2)轻松的在线搜索让我们认为自己知道得比实际更多;

3)流媒体媒体的多任务处理正在降低我们的原生注意力持续时间,并(可能)影响前扣带回皮层灰质密度

4)潜移默化中,生成式AI会剥夺我们创造和珍视自身内容的必要性和动力?如果我们需要写一封投诉信、策划一场婚礼或撰写一篇论文,我们是否只需启动最喜欢的生成式人工智能,不加批判地接受它提供的任何内容?长此以往,我们的智慧不再闪耀,集体自我被AI剽窃,创造力的价值不再被珍视。

用一句话概括上面的例子,便是AI不仅会夺走我们的时间和注意力,还会剥夺我们创造的快乐本身。

之后作者用扩展心智,即人类的认知随着工具的增加,而逐渐扩展范围,来回应上述担忧。稳重首先回溯历史,指出人类似乎对承认自身的混合本性表现出一种奇怪的抵触。我们长期以来都怀有一种高度限制的自我形象——这种形象自然而然地导致我们担心新的工具和技术会导致心智能力的衰退。

在柏拉图的《斐德若篇》(约公元前 370 年写成)中,可找到了一个清晰的陈述:即诸如阅读和书写等新发明的发明将对人脑记忆产生灾难性的影响。这种担忧是,这些创新会导致懒惰的大脑。我们会开始认为我们比实际知道的更多,这要归功于这些廉价但肤浅的非生物存储和检索新方式。

如今,这些担忧似乎可笑。因为随着我们的工具和技术不断进步,我们能够更深入、更深入地探索生命和物质的奥秘。我们逐渐了解了时间初始阶段的可能条件,并揭示了生命的生化基础。我们并非通过变得越来越愚蠢的大脑来实现这一点,而是通过变得越来越智能的混合思维系统。

接下来,是作者Andy Clark的核心观点立论,即:

但我们还没有摆脱柏拉图描述的担忧之所以持续产生的根本原因——那种深刻错误的自我形象认知。这令人困惑,尤其是考虑到我们物种的历史一次次被新发现的工具和实践的变革性影响所标记。可以说,我们人类的基本本性就是这样不断将认知负担外包——成为我所说的“天生的赛博嵌合体”。

接着该文对该论点进行展开,指出

我们一直在忙碌地构建新的思维和推理方式来理解我们的世界和选择。随着这一过程的展开,生物大脑的最佳用途(尽管不是其基本操作和本质)再次发生着转变和变化。这是因为人脑在将自身技能与新工具和技术浪潮提供的机会相匹配方面表现出惊人的适应性。

这并非简单的"工作卸载",而是创造了精致交织的新整体——大脑、身体、外部世界,其中大脑所做之事、身体所做之事,以及通过外部媒体和应用程序提供的循环都在持续变化,各自以自己的方式、在不同的时间尺度上适应其他部分所提供的内容。我们通过不断尝试预测自身行为产生的感官后果(主动推理)来学习关于我们世界的信息。在这个过程中,我们的大脑通过在世界中采取不同行动,变得擅长解决关键的不确定性。

当周围的世界呈现出丰富的可选项组合时,我们的大脑学会做最有效率的事情——例如,仅在生物记忆中存储所需内容(例如搜索线索),以便从其所在的大生态系统中随时获取正确结果。因此,大脑的核心技能包括启动那些能够利用各种环境机会和支持的行为——从在便利贴上涂鸦到启动人工智能。如果最佳的不确定性最小化行为组合需要一些内部脑力工作和一些身体工作(例如在笔记本电脑上敲击键盘),那么就会选择这一序列。大脑本身并不关心事情在何处以及如何完成。它擅长的是学习如何利用具身行动来充分利用我们的(现在主要由人类建造的)世界。

说到这里,读者会认为这一次不一样了,具体来说,即人们担心的不是生成式AI会成为扩展思维的技术,而是它们可能会成为取代思维的技术。我们该如何应对这种担忧?

作者的回答是将概念细化,即魔鬼藏在细节里。文中接着指出:

我们所看到的大多是涉及人类创造性过程的改变,而非简单的替代。例如,一项对人类围棋玩家的研究表明,随着“超人类 AI 围棋策略”的出现,人类生成的棋步中出现了越来越多的新颖性 。这种新颖性并不仅仅在于重复 AI 发现的创新棋步。相反,似乎 AI 棋步帮助人类玩家超越了数百年的传统智慧,开始探索围棋领域中以往被忽视(甚至被忽视)的角落。

Andy Clark推测,在艺术、音乐、建筑和医学科学等各个领域,情况也将如此。AI 不会取代人类思维,而是将成为文化进化认知过程的一部分。在那里,AI 思维的相对陌生性有时将对我们有利,使我们能够超越一些隐藏着重要新思维方式的偏见和盲点。

然而,相反的效果也可能发生,正如另一项近期研究 (在某些科学研究成果的案例中)所指出的。人工智能在巩固某些工具、观点和方法论方面可能的使用方式,从而阻碍替代性方法的涌现——正如作者借用的类比,农业单一栽培在提高效率的同时,也使作物更容易受到害虫和疾病的侵袭,如果我们以单一的方式使用大模型,也会变得缺少多样性,如何避免文化上的同质性,将会是人机交互领域的研究焦点问题。

随着RAG的广泛应用,我们能根据个人的过往经历和输出文本,生成一个数字化的分身,这些电子分身将会产生我们没有说过,但却有可能认同,并让我们获得启发的观点。随着我们越来越习惯于在这些(日益个性化)的“认知生态系统”中工作和行动,我们将开始以类似对待在讨论某个新主题时突然闪现的想法的方式,来对待这些由AI数字分身产生建议与观点。我们将新想法视为在某种广泛意义上属于我。

但是——就像那种突然闪现的想法一样——我们也想知道它是否真的合理,以及综合考虑下来,我们是否愿意认可它。通过这种方式,我们既信任又质疑更个性化资源的建议,就像我们可能会信任和质疑从我们自身的生物无意识中突然涌现的想法一样。为此,需要提升大模型的可解释性,如此生成式 AI方能 作为真正的创造力增强资源——成为我们思考和决策方式的欢迎补充,而不是简单、不加批判地部署的替代品。

无论技术如何,这些资源将围绕我们的生物核心旋转,涌现出想法和机会,帮助你做事、识别情境,并实现你的实际目标。在这样的人机协作中,人类创造力无需受到抑制。相反,它可以蓬勃发展,不断瞄准新的任务和领域。所有发生的改变(正如它一直发生改变的那样),将是人类大脑执行的一些具体任务和处理过程。这些改变将反映出哪些可以完全委托给新的数字无意识,哪些适合存储在生物记忆中,以及哪些必须通过新的、在认识论上进行过良好调节的互动方式涌现出来。

这正是我们——作为个人和社会——需要切实努力的地方。作为社会,我们需要优先考虑(甚至可能立法支持)能够与我们的新型智能和半智能资源实现安全协同合作的技术。作为个人,我们需要成为更好的信任评估者,并懂得何时信任。这意味着我们需要以新的方式教育自己,学习如何从我们的生成式 AI 中获得最佳效果,并培养核心元技能(借助新型个性化工具的辅助),帮助我们从数字信息中筛选出真伪。

在这个过程中,我们需要从相当早的年纪起就培养对“扩展认知卫生”的深刻而持久的关注。这方面已经有一些进展。年轻一代比以往任何时候都更懂得如何保护隐私、防范网络钓鱼以及在网上分享什么。现在,我们应该以同样严格的标准来对待我们可能会不加批判地纳入我们新数字扩展心智的一切事物。这意味着我们需要发展和应用丰富的认识论(知识理论)——一种更适合我们生物技术混合心智所面临的独特机遇和挑战的理论

以上是对Andy Clark这篇评论的全文选译,而这对应下面的两条分享

上述两者所说的,其实和Andy Clark所说的异曲同工,与之类似的,还包括塔勒布对于大模型应用的评价,即人工在AI输出的策划、审核和增强中的角色也增加了多样性和质量控制的层次。(关于塔勒布对大模型的批评性思考)

阅读最新前沿科技趋势报告,请访问欧米伽研究所的“未来知识库”

未来知识库是“欧米伽未来研究所”建立的在线知识库平台,收藏的资料范围包括人工智能、脑科学、互联网、超级智能,数智大脑、能源、军事、经济、人类风险等等领域的前沿进展与未来趋势。目前拥有超过8000篇重要资料。每周更新不少于100篇世界范围最新研究资料欢迎扫描二维码或访问进入。

牛津未来研究院 《将人工智能安全视为全球公共产品的影响、挑战与研究重点》

麦肯锡:超级智能机构:赋能人们释放人工智能的全部潜力

AAAI 2025 关于人工智能研究未来研究报告

斯坦福:2025 斯坦福新兴技术评论:十项关键技术及其政策影响分析报告(191 页)

壳牌:2025 能源安全远景报告:能源与人工智能(57 页)

盖洛普 & 牛津幸福研究中心:2025 年世界幸福报告(260 页)

Schwab :2025 未来共生:以集体社会创新破解重大社会挑战研究报告(36 页)

IMD:2024 年全球数字竞争力排名报告:跨越数字鸿沟人才培养与数字法治是关键(214 页)

DS 系列专题:DeepSeek 技术溯源及前沿探索,50 页 ppt

联合国人居署:2024 全球城市负责任人工智能评估报告:利用 AI 构建以人为本的智慧城市(86 页)

TechUK:2025 全球复杂多变背景下的英国科技产业:战略韧性与增长路径研究报告(52 页)

NAVEX Global:2024 年十大风险与合规趋势报告(42 页)

《具身物理交互在机器人 - 机器人及机器人 - 人协作中的应用》122 页

2025 - 2035 年人形机器人发展趋势报告 53 页

Evaluate Pharma:2024 年全球生物制药行业展望报告:增长驱动力分析(29 页)

【AAAI2025 教程】基础模型与具身智能体的交汇,350 页 ppt

Tracxn:2025 全球飞行汽车行业市场研究报告(45 页)

谷歌:2024 人工智能短跑选手(AI Sprinters):捕捉新兴市场 AI 经济机遇报告(39 页)

【斯坦福博士论文】构建类人化具身智能体:从人类行为中学习

《基于传感器的机器学习车辆分类》最新 170 页

美国安全与新兴技术中心:2025 CSET 对美国人工智能行动计划的建议(18 页)

罗兰贝格:2024 人形机器人的崛起:从科幻到现实:如何参与潜在变革研究报告(11 页)

兰德公司:2025 从研究到现实:NHS 的研究和创新是实现十年计划的关键报告(209 页)

康桥汇世(Cambridge Associates):2025 年全球经济展望报告(44 页)

国际能源署:2025 迈向核能新时代

麦肯锡:人工智能现状,组织如何重塑自身以获取价值

威立(Wiley):2025 全球科研人员人工智能研究报告(38 页)

牛津经济研究院:2025 TikTok 对美国就业的量化影响研究报告:470 万岗位(14 页)

国际能源署(IEA):能效 2024 研究报告(127 页)

Workday :2025 发挥人类潜能:人工智能(AI)技能革命研究报告(20 页)

CertiK:Hack3D:2024 年 Web3.0 安全报告(28 页)

世界经济论坛:工业制造中的前沿技术:人工智能代理的崛起》报告

迈向推理时代:大型语言模型的长链推理研究综述

波士顿咨询:2025 亚太地区生成式 AI 的崛起研究报告:从技术追赶者到全球领导者的跨越(15 页)

安联(Allianz):2025 新势力崛起:全球芯片战争与半导体产业格局重构研究报告(33 页)

IMT:2025 具身智能(Embodied AI)概念、核心要素及未来进展:趋势与挑战研究报告(25 页)

IEEE:2025 具身智能(Embodied AI)综述:从模拟器到研究任务的调查分析报告(15 页)

CCAV:2025 当 AI 接管方向盘:自动驾驶场景下的人机交互认知重构、变革及对策研究报告(124 页)

《强化学习自我博弈方法在兵棋推演分析与开发中的应用》最新 132 页

《面向科学发现的智能体人工智能:进展、挑战与未来方向综述》

全国机器人标准化技术委员会:人形机器人标准化白皮书(2024 版)(96 页)

美国国家科学委员会(NSB):2024 年研究与发展 - 美国趋势及国际比较(51 页)

艾昆纬(IQVIA):2025 骨科手术机器人技术的崛起白皮书:创新及未来方向(17 页)

NPL&Beauhurst:2025 英国量子产业洞察报告:私人和公共投资的作用(25 页)

IEA PVPS:2024 光伏系统经济与技术关键绩效指标(KPI)使用最佳实践指南(65 页)

AGI 智能时代:2025 让 DeepSeek 更有趣更有深度的思考研究分析报告(24 页)

2025 军事领域人工智能应用场景、国内外军事人工智能发展现状及未来趋势分析报告(37 页)

华为:2025 鸿蒙生态应用开发白皮书(133 页

《超级智能战略研究报告》

中美技术差距分析报告 2025

欧洲量子产业联盟(QuIC):2024 年全球量子技术专利态势分析白皮书(34 页)

美国能源部:2021 超级高铁技术(Hyperloop)对电网和交通能源的影响研究报告(60 页)

罗马大学:2025 超级高铁(Hyperloop):第五种新型交通方式 - 技术研发进展、优势及局限性研究报告(72 页)

兰德公司:2025 灾难性网络风险保险研究报告:市场趋势与政策选择(93 页)

GTI:2024 先进感知技术白皮书(36 页)

AAAI:2025 人工智能研究的未来报告:17 大关键议题(88 页)

安联 Allianz2025 新势力崛起全球芯片战争与半导体产业格局重构研究报告

威达信:2025 全球洪水风险研究报告:现状、趋势及应对措施(22 页)

兰德公司:迈向人工智能治理研究报告:2024EqualAI 峰会洞察及建议(19 页)

哈佛商业评论:2025 人工智能时代下的现代软件开发实践报告(12 页)

德安华:全球航空航天、国防及政府服务研究报告:2024 年回顾及 2025 年展望(27 页)

奥雅纳:2024 塑造超级高铁(Hyperloop)的未来:监管如何推动发展与创新研究报告(28 页)

HSOAC:2025 美国新兴技术与风险评估报告:太空领域和关键基础设施(24 页)

Dealroom:2025 欧洲经济与科技创新发展态势、挑战及策略研究报告(76 页)

《无人机辅助的天空地一体化网络:学习算法技术综述》

谷歌云(Google Cloud):2025 年 AI 商业趋势白皮书(49 页)

《新兴技术与风险分析:太空领域与关键基础设施》最新报告

150 页!《DeepSeek 大模型生态报告》

军事人工智能行业研究报告:技术奇点驱动应用加速智能化重塑现代战争形态 - 250309(40 页)

真格基金:2024 美国独角兽观察报告(56 页)

璞跃(Plug and Play):2025 未来商业研究报告:六大趋势分析(67 页)

国际电工委员会(IEC):2025 智能水电技术与市场展望报告(90 页)

RWS:2025 智驭 AI 冲击波:人机协作的未来研究报告(39 页)

未来今日研究所 2025 年科技趋势报告第 18 版 1000 页

模拟真实世界:多模态生成模型的统一综述

中国信息协会低空经济分会:低空经济发展报告(2024 - 2025)(117 页)

浙江大学:2025 语言解码双生花:人类经验与 AI 算法的镜像之旅(42 页)

人形机器人行业:由 “外” 到 “内” 智能革命 - 250306(51 页)

大成:2025 年全球人工智能趋势报告:关键法律问题(28 页)

北京大学:2025 年 DeepSeek 原理和落地应用报告(57 页)

欧盟委员会 人工智能与未来工作研究报告

加州大学伯克利分校:面向科学发现的多模态基础模型:在化学、材料和生物学中的应用

电子行业:从柔性传感到人形机器人触觉革命 - 250226(35 页)

RT 轨道交通:2024 年中国城市轨道交通市场数据报告(188 页)

FastMoss:2024 年度 TikTok 生态发展白皮书(122 页)

Check Point:2025 年网络安全报告 - 主要威胁、新兴趋势和 CISO 建议(57 页)

【AAAI2025 教程】评估大型语言模型:挑战与方法,199 页 ppt

《21 世纪美国的主导地位:核聚变》最新报告

沃尔特基金会(Volta Foundation):2024 年全球电池行业年度报告(518 页)

国际科学理事会:2025 为人工智能做好国家研究生态系统的准备 - 2025 年战略与进展报告(英文版)(118 页)

光子盒:2025 全球量子计算产业发展展望报告(184 页)

奥纬论坛:2025 塑造未来的城市研究报告:全球 1500 个城市的商业吸引力指数排名(124 页)

Future Matters:2024 新兴技术与经济韧性:日本未来发展路径前瞻报告(17 页)

《人类与人工智能协作的科学与艺术》284 页博士论文

《论多智能体决策的复杂性:从博弈学习到部分监控》115 页

《2025 年技术展望》56 页 slides

大语言模型在多智能体自动驾驶系统中的应用:近期进展综述

【牛津大学博士论文】不确定性量化与因果考量在非策略决策制定中的应用

皮尤研究中心:2024 美国民众对气候变化及应对政策的态度调研报告:气候政策对美国经济影响的多元观点审视(28 页)

空间计算行业深度:发展趋势、关键技术、行业应用及相关公司深度梳理 - 250224(33 页)

Gartner:2025 网络安全中的 AI:明确战略方向研究报告(16 页)

北京大学:2025 年 DeepSeek 系列报告 - 提示词工程和落地场景(86 页)

北京大学:2025 年 DeepSeek 系列报告 - DeepSeek 与 AIGC 应用(99 页)

CIC 工信安全:2024 全球人工智能立法的主要模式、各国实践及发展趋势研究报告(42 页)

中科闻歌:2025 年人工智能技术发展与应用探索报告(61 页)

AGI 智能时代:2025 年 Grok - 3 大模型:技术突破与未来展望报告(28 页)

上下滑动查看更多

来源:人工智能学家

相关推荐