AI幻觉能助力科学重大突破?诺奖得主Baker用得可香了

360影视 2025-01-01 20:24 3

摘要:然而,在科学领域,科学家发现人工智能幻觉非常有价值。事实证明,智能机器正在幻想各种不切实际的事情,帮助科学家追踪癌症、设计药物、发明医疗设备、揭示天气现象,甚至赢得诺贝尔奖。

编辑:白菜叶

人工智能经常受到批评,因为它会编造看似事实的信息,即幻觉。这些似是而非的虚假信息不仅扰乱了聊天机器人会话,还曾引发诉讼和医疗事故。

2023 年,谷歌推出的 AI 聊天机器人所发布的虚假声明一度导致该公司市值下跌约 1000 亿美元。

然而,在科学领域,科学家发现人工智能幻觉非常有价值。事实证明,智能机器正在幻想各种不切实际的事情,帮助科学家追踪癌症、设计药物、发明医疗设备、揭示天气现象,甚至赢得诺贝尔奖。

「公众认为这一切都很糟糕。」美国联邦人工智能研究所所长、计算机科学家 Amy McGovern 表示,「但它实际上为科学家提供了新的想法。这让他们有机会探索他们可能从未想过的想法。」

科学的公众形象是冷静分析。不太明显的是,发现的早期阶段可能充斥着直觉和疯狂的猜测。「任何事情都有可能发生」,这是科学哲学家 Paul Feyerabend 曾经对这种自由的描述。

现在,人工智能幻觉正在重新激发科学的创造性。它们加速了科学家和发明家构思新想法并测试它们以查看现实是否一致的过程。这是科学方法——只是增强了。曾经需要数年才能完成的事情现在可以在几天、几小时和几分钟内完成。在某些情况下,加速的探究周期有助于科学家开辟新的领域。

麻省理工学院教授 James J. Collins 表示:「我们正在探索。我们要求模型想出全新的分子。」他最近称赞幻觉加速了他对新型抗生素的研究。

当科学家将特定主题传授给生成式计算机模型,然后让机器重新处理这些信息时,就会出现人工智能幻觉。结果可能很微妙、错误百出,也可能超现实。有时,它们会带来重大发现。

2024 年 10 月,华盛顿大学的 David Baker 因其在蛋白质方面的开创性研究而获得诺贝尔化学奖。蛋白质是赋予生命力量的复杂分子。诺贝尔委员会称赞他发现了如何快速构建自然界中不存在的全新蛋白质,称他的成就「几乎不可能」。

在宣布获奖结果前的一次采访中,Baker 表示,人工智能的灵感迸发是「从零开始制造蛋白质」的关键。

他补充说,这项新技术帮助他的实验室获得了大约 100 项专利,其中许多用于医疗保健。其中一项是治疗癌症的新方法。另一项旨在帮助全球抗击病毒感染。Baker 还创立或帮助创办了 20 多家生物技术公司。

「事情发展得很快。」他说,「即使是以研究蛋白质为生的科学家也不知道事情已经发展到什么程度。」

他的实验室设计了多少蛋白质?「一千万——都是全新的!」他回答道,「它们在自然界中不会出现。」

尽管人工智能幻觉对发现很有吸引力,但一些科学家发现这个词本身具有误导性。他们认为生成人工智能模型的想象不是虚幻的,而是有希望的——有可能实现,与科学方法早期阶段的猜想没有什么不同。他们认为幻觉这个词不准确,因此避免使用它。

这个词也遭到反对,因为它会让人想起迷幻药引起的幻觉,几十年来,这些幻觉让著名科学家望而却步。最后一个缺点是,人工智能生成的科学和医学信息可能会像聊天机器人的回复一样,被虚假信息所蒙蔽。

2024 年 7 月,美国白宫发布了一份关于培养公众对人工智能研究信任的报告。报告中唯一提到幻觉的地方是寻找减少幻觉的方法。

诺贝尔奖委员会似乎也遵循了这一策略。在对 Baker 工作的详细审查中,委员会对人工智能幻觉只字未提。相反,在一份新闻稿中,委员会只是称赞 Baker 的团队「创造了一个又一个富有想象力的蛋白质」。越来越多的科学界人士似乎认为幻觉是不可提及的。

尽管如此,专家在采访中表示,与聊天机器人及其同类的幻觉相比,科学人工智能的想象力具有巨大的优势。他们说,最根本的是,创造性的爆发源于自然和科学的铁一般的事实,而不是人类语言的模糊性或以偏见和谎言而闻名的互联网的模糊性。

「我们正在教授人工智能物理学。」加州理工学院数学和计算机科学教授 Anima Anandkumar 说道,她曾在 Nvidia 公司指导人工智能研究。

Anandkumar 补充说,对于科学而言,可靠事实的物理基础可以产生高度准确的结果。她表示,聊天机器人的大型语言模型没有实用的方法来验证其陈述和断言的正确性。

她说,最终的检验是科学家将数字幻想与物理现实的具体细节进行比较。

「你需要测试它。」Anandkumar 谈到人工智能的结果时说,「人工智能幻觉新设计的东西需要测试。」

最近,Anandkumar 团队利用人工智能幻觉帮助设计了一种新型导管,这种导管可以大大减少细菌污染——细菌污染是全球祸害,每年导致数百万人发生尿路感染。她说,该团队的人工智能模型设想了数千种导管几何形状,然后选择了最有效的一种。

新导管的内壁排列着锯齿状的尖刺,可防止细菌获得牵引力并逆流感染患者的膀胱。Anandkumar 表示,该团队正在讨论该设备的商业化问题。

与其他科学家一样,Anandkumar 表示她不喜欢幻觉这个词。她的团队关于新导管的论文避免使用这个词。

另一方面,纽约市纪念斯隆凯特琳癌症中心实验室负责人 Harini Veeraraghavan 在一篇关于使用人工智能锐化模糊医学图像的论文中引用了这个术语。论文部分标题为:「幻觉 MRI(Hallucinated MRI)」。

德克萨斯大学奥斯汀分校的研究人员也接受了这个术语。他们关于改进机器人导航的论文标题是「从幻觉中学习(Learning from Hallucination)」。

谷歌 DeepMind 开发人工智能应用程序,该公司科学部门负责人称赞幻觉促进了科学发现,此前不久,DeepMind 的两位研究人员与 Baker 共同获得了今年的诺贝尔化学奖。

DeepMind 负责人 Pushmeet Kohli 在接受采访时表示:「我们有这个可以展现创造力的神奇工具。」

他说,一个例子是 2016 年 DeepMind 计算机如何击败围棋世界冠军,围棋是一项复杂的棋盘游戏。这场比赛的转折点是比赛开始后相当早的第 37 步。

「我们认为这是一个错误。」Kohli 说,「但随着比赛的进行,人们意识到这是一个天才之举。因此,这些模型能够产生这些非常非常新颖的见解。」

俄克拉荷马大学的气象学和计算机科学教授、人工智能研究所所长 McGovern 说,人工智能幻觉可以用「概率分布」这个不太贴切的术语来描述——这是科学界一个非常古老的术语。

McGovern 补充说,气象侦探现在经常使用人工智能来创建数千种微妙的预报变化或概率范围。她说,丰富的想象力让他们发现了可能导致致命热浪等极端事件的意外因素。「这是一个很有价值的工具。」

Baker 就采用了这种坦率的态度。他 2021 年发表 《Nature》上的一篇论文的标题是「通过深度网络幻觉进行从头蛋白质设计(De novo protein design by deep network hallucination)」。

「从头」一词在拉丁语中意为「从头开始」,这与 20 世纪 80 年代初科学家开始调整自然界中已知蛋白质结构的方式形成了鲜明对比。

2003 年,Baker 团队实现了一个更宏伟的目标:从零开始制造出世界上第一个全新的蛋白质。他们称之为 Top7。他们的成就被视为一项重大进步,因为蛋白质是复杂性的超级明星。专家将 DNA 结构比作一串珍珠,将大分子蛋白质结构比作毛球。它们的结构非常复杂,即使是详细的图形表示也只是粗略的近似值。

随着人工智能逐渐成为一项强大的新技术,Baker想知道它能否加速从头设计。他在 2021 年发表在《自然》杂志上的论文引用了谷歌 DeepDream 的灵感——这是一个将现有图像变形为迷幻图像的模型。

当人们看着满月,看到一个男人的脸时,这就叫做空想性错视,这是一种将模糊的图案变成有意义的图像的感知怪癖。DeepDream 正是利用这种倾向的一种形式来创造其超现实的幻想。

Baker 的计划是看看人工智能能否将幻想性错视效应施加于模糊的氨基酸组(蛋白质的组成部分)。他的团队将随机的氨基酸序列输入一个经过训练的模型中,该模型可以识别真实蛋白质的结构特征。结果非常成功。

论文称,测试运行产生了数千种虚拟蛋白质。它将它们比作互联网上人工智能猫图像的爆炸式增长。论文称:就像深度网络幻觉生成的猫的模拟图像可以清楚地识别为猫一样,人工蛋白质结构也与自然结构「相似但不完全相同」。

Baker 团队随后试图将想象中的蛋白质变成真实的蛋白质——这一步与让数字猫栩栩如生没有什么不同。

首先,该团队获取了幻觉分子的信息,并将其作为蓝图来生成形成基因的 DNA 链。然后,正如 2021 年的论文所报道的那样,当基因被插入微生物体内时,微生物产生了 129 种科学和自然界未知的新型蛋白质,顿悟时刻到来了。

随后,在 2022 年初,Baker 将那一刻描述为人工智能如何加速从头蛋白质设计的「首次展示」。他在 2022 年和 2023 年的后续论文再次在标题中使用了幻觉一词。

在一次采访中,Baker 表示他的实验室利用一种名为「扩散(diffusion)」的人工智能方法在创造性想象方面迈出了新的一步。这就是 DALL-E、Sora 和其他流行视觉生成器的动力所在。

Baker 称赞扩散方法比幻觉方法更能创造出新颖的蛋白质设计。「扩散方法速度更快,成功率也更高。」他说。

近年来,一些分析人士担心科学正在衰落。他们指出,近几十年来,突破和重大发现的数量有所下降。

人工智能的支持者认为,人工智能的创造力正在拯救人类。在设计领域,Baker 团队看到了蛋白质催化剂的浪潮,它们将收集太阳能,将旧工厂变成节能设备,帮助创造一个可持续发展的新世界。

「加速持续发生。」Baker 团队成员 Ian C. Haydon 说,「真是难以置信。」

「未来几年会出现令人惊奇的成果。」Kohli 说,他认为人工智能将揭开生命最深层的秘密,并为治愈疾病、改善健康和延长寿命奠定强大的新基础。

「一旦我们破译并真正理解生命的语言。」他说,「那将是非常神奇的。」

相关报道:

阅读最新前沿科技趋势报告,请访问欧米伽研究所的“未来知识库”

未来知识库是“欧米伽未来研究所”建立的在线知识库平台,收藏的资料范围包括人工智能、脑科学、互联网、超级智能,数智大脑、能源、军事、经济、人类风险等等领域的前沿进展与未来趋势。目前拥有超过8000篇重要资料。每周更新不少于100篇世界范围最新研究资料。欢迎扫描二维码或访问进入。

截止到12月25日 ”未来知识库”精选的100部前沿科技趋势报告

2024 美国众议院人工智能报告:指导原则、前瞻性建议和政策提案

未来今日研究所:2024 技术趋势报告 - 移动性,机器人与无人机篇

Deepmind:AI 加速科学创新发现的黄金时代报告

Continental 大陆集团:2024 未来出行趋势调研报告

埃森哲:未来生活趋势 2025

国际原子能机构 2024 聚变关键要素报告 - 聚变能发展的共同愿景

哈尔滨工业大学:2024 具身大模型关键技术与应用报告

爱思唯尔(Elsevier):洞察 2024:科研人员对人工智能的态度报告

李飞飞、谢赛宁新作「空间智能」 等探索多模态大模型性能

欧洲议会:2024 欧盟人工智能伦理指南:背景和实施

通往人工超智能的道路:超级对齐的全面综述

清华大学:理解世界还是预测未来?世界模型综合综述

Transformer 发明人最新论文:利用基础模型自动搜索人工生命

兰德公司:新兴技术监督框架发展的现状和未来趋势的技术监督报告

麦肯锡全球研究院:2024 年全球前沿动态图表呈现

兰德公司:新兴技术领域的全球态势综述

前瞻:2025 年人形机器人产业发展蓝皮书 - 人形机器人量产及商业化关键挑战

美国国家标准技术研究院(NIST):2024 年度美国制造业统计数据报告(英文版)

罗戈研究:2024 决策智能:值得关注的决策革命研究报告

美国航空航天专家委员会:2024 十字路口的 NASA 研究报告

中国电子技术标准化研究院 2024 扩展现实 XR 产业和标准化研究报告

GenAI 引领全球科技变革关注 AI 应用的持续探索

国家低空经济融创中心中国上市及新三板挂牌公司低空经济发展报告

2025 年计算机行业年度策略从 Infra 到 AgentAI 创新的无尽前沿

多模态可解释人工智能综述:过去、现在与未来

【斯坦福博士论文】探索自监督学习中对比学习的理论基础

《机器智能体的混合认知模型》最新 128 页

Open AI 管理 AI 智能体的实践

未来生命研究院 FLI2024 年 AI 安全指数报告 英文版

兰德公司 2024 人工智能项目失败的五大根本原因及其成功之道 - 避免 AI 的反模式 英文版

Linux 基金会 2024 去中心化与人工智能报告 英文版

脑机接口报告脑机接口机器人中的人机交换

联合国贸发会议 2024 年全球科技创新合作促发展研究报告 英文版

Linux 基金会 2024 年世界开源大会报告塑造人工智能安全和数字公共产品合作的未来 英文版

Gartner2025 年重要战略技术趋势报告 英文版

Fastdata 极数 2024 全球人工智能简史

中电科:低空航行系统白皮书,拥抱低空经济

迈向科学发现的生成式人工智能研究报告:进展、机遇与挑战

哈佛博士论文:构建深度学习的理论基础:实证研究方法

Science 论文:面对 “镜像生物” 的风险

镜面细菌技术报告:可行性和风险

Neurocomputing 不受限制地超越人类智能的人工智能可能性

166 页 - 麦肯锡:中国与世界 - 理解变化中的经济联系(完整版)

未来生命研究所:《2024 人工智能安全指数报告》

德勤:2025 技术趋势报告 空间计算、人工智能、IT 升级。

2024 世界智能产业大脑演化趋势报告(12 月上)公开版

联邦学习中的成员推断攻击与防御:综述

兰德公司 2024 人工智能和机器学习在太空领域感知中的应用 - 基于两项人工智能案例英文版

Wavestone2024 年法国工业 4.0 晴雨表市场趋势与经验反馈 英文版

Salesforce2024 年制造业趋势报告 - 来自全球 800 多位行业决策者对运营和数字化转型的洞察 英文版

MicrosoftAzure2024 推动应用创新的九大 AI 趋势报告

DeepMind:Gemini,一个高性能多模态模型家族分析报告

模仿、探索和自我提升:慢思维推理系统的复现报告

自我发现:大型语言模型自我组成推理结构

2025 年 101 项将 (或不会) 塑造未来的技术趋势白皮书

《自然杂志》2024 年 10 大科学人物推荐报告

量子位智库:2024 年度 AI 十大趋势报告

华为:鸿蒙 2030 愿景白皮书(更新版)

电子行业专题报告:2025 年万物 AI 面临的十大待解难题 - 241209

中国信通院《人工智能发展报告(2024 年)》

美国安全与新兴技术中心:《追踪美国人工智能并购案》报告

Nature 研究报告:AI 革命的数据正在枯竭,研究人员该怎么办?

NeurIPS 2024 论文:智能体不够聪明怎么办?让它像学徒一样持续学习

LangChain 人工智能代理(AI agent)现状报告

普华永道:2024 半导体行业状况报告发展趋势与驱动因素

觅途咨询:2024 全球人形机器人企业画像与能力评估报告

美国化学会 (ACS):2024 年纳米材料领域新兴趋势与研发进展报告

GWEC:2024 年全球风能报告英文版

Chainalysis:2024 年加密货币地理报告加密货币采用的区域趋势分析

2024 光刻机产业竞争格局国产替代空间及产业链相关公司分析报告

世界经济论坛:智能时代,各国对未来制造业和供应链的准备程度

兰德:《保护人工智能模型权重:防止盗窃和滥用前沿模型》-128 页报告

经合组织 成年人是否具备在不断变化的世界中生存所需的技能 199 页报告

医学应用中的可解释人工智能:综述

复旦最新《智能体模拟社会》综述

《全球导航卫星系统(GNSS)软件定义无线电:历史、当前发展和标准化工作》最新综述

《基础研究,致命影响:军事人工智能研究资助》报告

欧洲科学的未来 - 100 亿地平线研究计划

Nature:欧盟正在形成一项科学大型计划

Nature 欧洲科学的未来

欧盟科学 —— 下一个 1000 亿欧元

欧盟向世界呼吁 加入我们价值 1000 亿欧元的研究计划

DARPA 主动社会工程防御计划(ASED)《防止删除信息和捕捉有害行为者(PIRANHA)》技术报告

兰德《人工智能和机器学习用于太空域感知》72 页报告

构建通用机器人生成范式:基础设施、扩展性与策略学习(CMU 博士论文)

世界贸易组织 2024 智能贸易报告 AI 和贸易活动如何双向塑造 英文版

人工智能行业应用建设发展参考架构

波士顿咨询 2024 年欧洲天使投资状况报告 英文版

2024 美国制造业计划战略规划

【新书】大规模语言模型的隐私与安全

人工智能行业海外市场寻找 2025 爆款 AI 应用 - 241204

美国环保署 EPA2024 年版汽车趋势报告英文版

经济学人智库 EIU2025 年行业展望报告 6 大行业的挑战机遇与发展趋势 英文版

华为 2024 迈向智能世界系列工业网络全连接研究报告

华为迈向智能世界白皮书 2024 - 计算

华为迈向智能世界白皮书 2024 - 全光网络

华为迈向智能世界白皮书 2024 - 数据通信

华为迈向智能世界白皮书 2024 - 无线网络

安全牛 AI 时代深度伪造和合成媒体的安全威胁与对策 2024 版

2024 人形机器人在工业领域发展机遇行业壁垒及国产替代空间分析报告

《2024 年 AI 现状分析报告》2-1-3 页.zip

万物智能演化理论,智能科学基础理论的新探索 - newv2

世界经济论坛 智能时代的食物和水系统研究报告

生成式 AI 时代的深伪媒体生成与检测:综述与展望

科尔尼 2024 年全球人工智能评估 AIA 报告追求更高层次的成熟度规模化和影响力英文版

计算机行业专题报告 AI 操作系统时代已至 - 241201

Nature 人工智能距离人类水平智能有多近?

Nature 开放的人工智能系统实际上是封闭的

斯坦福《统计学与信息论》讲义,668 页 pdf

国家信息中心华为城市一张网 2.0 研究报告 2024 年

国际清算银行 2024 生成式 AI 的崛起对美国劳动力市场的影响分析报告 渗透度替代效应及对不平等状况英文版

大模型如何判决?从生成到判决:大型语言模型作为裁判的机遇与挑战

毕马威 2024 年全球半导体行业展望报告

MR 行业专题报告 AIMR 空间计算定义新一代超级个人终端 - 241119

DeepMind 36 页 AI4Science 报告:全球实验室被「AI 科学家」指数级接管

《人工智能和机器学习对网络安全的影响》最新 273 页

2024 量子计算与人工智能无声的革命报告

未来今日研究所:2024 技术趋势报告 - 广义计算篇

科睿唯安中国科学院 2024 研究前沿热度指数报告

文本到图像合成:十年回顾

《以人为中心的大型语言模型(LLM)研究综述》

经合组织 2024 年数字经济展望报告加强连通性创新与信任第二版

波士顿咨询 2024 全球经济体 AI 成熟度矩阵报告 英文版

理解世界还是预测未来?世界模型的综合综述

GoogleCloudCSA2024AI 与安全状况调研报告 英文版

英国制造商组织 MakeUK2024 英国工业战略愿景报告从概念到实施

花旗银行 CitiGPS2024 自然环境可持续发展新前沿研究报告

国际可再生能源署 IRENA2024 年全球气候行动报告

Cell: 物理学和化学 、人工智能知识领域的融合

智次方 2025 中国 5G 产业全景图谱报告

上下滑动查看更多

来源:人工智能学家

相关推荐