摘要：AI Scientist-v2 生成的这篇论文题为《Compositional Regularization: Unexpected Obstacles in Enhancing Neural Network Generalization》，在 ICLR 20
来源：ScienceAI
编辑：ScienceAI
还记得 2024 年 8 月 Sakana AI 发布的 AI Scientist 吗？全球首个用于自动化科学研究和开放式发现的 AI 系统。
如今它已经进化到了 AI Scientist-v2 版本，并且它生成的论文几乎达到被 AI 顶会接收的水平了！
AI Scientist-v2 生成的这篇论文题为《Compositional Regularization: Unexpected Obstacles in Enhancing Neural Network Generalization》，在 ICLR 2025 上拿到了 6/7/6 的同行评审分数。
什么水平呢，就是超过了平均接受阈值，优于许多人类撰写的论文。这也是首篇完全由 AI 生成且通过顶级机器学习会议研讨会同行评审的学术论文。
图示：这篇论文由 AI Scientist-v2 完成。论文投稿至 ICLR 2025 workshop，经workshop同意与 Sakana AI 团队合作，对 AI 生成的论文进行双盲评审实验。(来源：Sakana AI)
今天，推出 AI Scientist 的开发团队——人工智能初创公司 Sakana AI 发布了AI Scientist-v2 的技术报告《The AI Scientist-v2: Workshop-Level Automated Scientific Discovery via Agentic Tree Search》，并开源了其代码。
技术报告：https://pub.sakana.ai/ai-scientist-v2/paper/paper.pdf
开源代码：https://github.com/SakanaAI/AI-Scientist-v2
AI Scientist-v2 的技术创新
AI Scientist-v2 相比于 AI Scientist-v1 有许多创新。最显著的改进是朝着更大的自主性和泛化方向发展，启动更通用的想法生成阶段，并消除对固定的、人工编写的实验模板代码的依赖。这个过程从广义的想法生成开始，产生一个初始概念，然后将其输入到实验阶段。
图示：AI Scientist-v2工作流。本工作流程包含多个阶段，涵盖：自动化创意生成、实验执行、图表可视化、论文撰写、评审环节。（来源：技术报告）
为了实现这一点，Sakana AI 团队在实验阶段引入了两个关键特性：粗粒度实验管理和基于智能体树搜索的探索。并且，他们将视觉语言模型 (VLM) 集成到实验和评审阶段。同时，研究人员简化了稿件撰写阶段，将 AI Scientist-v1 中基于 Aider 的增量式迭代写作方法替换为更简单的单次生成，并随后进行由 GPTo1 等推理模型驱动的独立反思阶段。具体而言：
1、生成更普通更基础的想法
AI Scientist-v2 的一个关键概念转变在于研究创意生成方法的革新。与前代系统主要侧重于基于现有代码库提出增量式修改或扩展不同，AI Scientist-v2 采用了从更高抽象层次开始的流程。该系统鼓励对潜在的研究方向、假设和实验设计进行更开放的思考，类似于在确定具体实施方案之前制定研究摘要或资助提案。
这种方法鼓励探索潜在的更新颖或更基础的想法，而不是受限于现有代码的结构和主题。它更符合研究人员通常构建更广阔研究愿景的方式：从抽象概念入手，评估其新颖性和可行性，然后再深入研究具体实现。
至关重要的是，这个广义的创意生成阶段将文献综述工具（例如 Semantic Scholar）整合到循环中。该系统可以在创意形成过程中查询文献数据库，以评估所提概念的新颖性并识别相关的先前研究。这使得研究人员能够更明智地决定是否要选择特定的研究途径，确保创意从一开始就立足于现有的科学领域，而不是仅仅依赖于事后检验。
2、消除模板依赖
在改进的创意生成阶段之后，AI Scientist-v2 继续进行实验。除了代码调节的创意生成之外，AI Scientist-v1 还依赖预定义的模板代码作为起始基线实现。LLM 驱动的代码更改随后仅限于顺序代码调整。该策略提高了系统的灵活性和自主性。
（1）实验进度管理：现实世界中的科学实验通常会经历不同的阶段，从最初的可行性评估到详细的消融分析。为了模拟这种结构化方法，该团队引入了一个实验进度管理智能体，用于协调科学实验的四个明确定义的阶段：初步调查、超参数调优、研究议程执行、消融研究。
（2）并行智能体树搜索：AI Scientist-v1 严格线性运行，每次代码改进都直接建立在前一次实验的基础上。相比之下，AI Scientist-v2 采用了更加灵活和探索性的方法，研究人员将这种智能体树搜索方法融入前文提到的四个实验阶段中，从而能够更深入、更系统地探索科学假设。
图示：AI Scientist-v2基于树的实验多阶段工作流。（来源：技术报告）
3、使用了 Hugging Face 中的数据集
在 AI Scientist-v2 中，该团队尽可能地让系统利用 Hugging Face Hub，并使用标准的单行函数 (datasets.load_dataset) 自动下载所需的数据集。虽然这种标准化方法极大地简化了数据集处理。不过，研究人员也承认它在某种程度上是临时性的，因为并非所有数据集存储库都支持这种方法。
4、视觉语言模型「评审员」
与未利用视觉语言模型 (VLM) 的 AI Scientist-v1 不同，AI Scientist-v2 在工作流程的两个阶段整合了 VLM：
首先，在基于树的实验阶段，VLM 会对生成的图表提供即时反馈，确保这些可视化效果能够有效、准确地传达实验结果。其次，在稿件撰写反思阶段，VLM 会评估图表及其说明，从而提升最终论文的视觉清晰度和连贯性。
在论文撰写过程中，他们会提取图表的屏幕截图及其标题，以及引用这些图表的论文中的相应文本。这些图像和文本参考随后会被提供给 VLM，VLM 会执行多项质量检查，包括验证图表和标题之间的对齐方式、识别视觉清晰度问题（例如，图例缺失、标签不清晰），以及检测正文和附录中图表的潜在重复。
该团队通过 VLM 反馈的迭代集成，显著提升了 AI Scientist-v2 生成的稿件的视觉质量和清晰度。
对 AI Scientist-v2 生成论文的评估
图示：由 AI Scientist-v2 生成的同行评审 ICBINB 研讨会论文。（来源：技术报告）
Sakana AI 团队与 ICLR 研讨会组织者合作，提交了 3 篇完全由 AI Scientist-v2 生成的论文进行双盲同行评审。评审人未被告知论文来源。
AI Scientist-v2 实现了端到端的自主科研流程，包括：研究假设提出、实验设计、代码编写、实验执行、数据分析、图表生成以及完整论文撰写（标题至参考文献）。研究团队仅提供宽泛的研究方向，并从 AI 生成的多篇论文中筛选了 3 篇提交。
评审结果显示，在提交的三篇论文中，有两篇未达到接收标准。其中一篇论文的平均得分为 6.33（6/7/6，其中 6 分为略高于接受阈值，7 分为优秀），在所有提交论文中排名约 45%。这些分数超过平均接受阈值，表现优于部分人类撰写的论文。
图示：评审结果。(来源：Sakana AI)
相关内容：https://github.com/SakanaAI/AI-Scientist-ICLR2025-Workshop-Experiment
AI Scientist 的未来
AI Scientist 的研究团队 Sakana AI，是最后一位从谷歌离职的 Transformer 论文作者 Llion Jones 与前谷歌研究人员 David Ha 共同创立的人工智能公司。Sakana AI 旨在创建一种基于自然启发智能的新型基础模型。
图示：Sakana AI的两位创始人——左为Llion Jones，右为David Ha。(来源：Sakana AI)
去年 8 月，Sakana AI 推出了第一代 AI Scientist，到 12 月份，他们又拿出了另一项重磅研究成果：使用基础模型搜索人工生命的系统 ASAL，旨在自动发现新的人工生命形式。
现在，AI Scientist-v2 又用生成通过同行评审的学术论文交上了一份新的答卷。
这些进步预示着下一代 AI Scientist 将开启科学的新纪元。这仅仅是个开始，科学家预计人工智能的能力将持续提升，甚至可能以指数级的速度增长。
在未来的某个时刻，人工智能很可能能够产出与人类水平相当甚至超越人类水平的论文，甚至在最高水平的科学出版领域也是如此。
SakanaAI 团队在论文里表示：「最重要的不仅仅是人工智能科学与人类科学的比较，而是它的发现是否有助于人类的繁荣发展，例如治愈疾病或扩展我们对宇宙规律的认识。」
阅读最新前沿科技趋势报告，请访问欧米伽研究所的“未来知识库”
未来知识库是“欧米伽未来研究所”建立的在线知识库平台，收藏的资料范围包括人工智能、脑科学、互联网、超级智能，数智大脑、能源、军事、经济、人类风险等等领域的前沿进展与未来趋势。目前拥有超过8000篇重要资料。每周更新不少于100篇世界范围最新研究资料。欢迎扫描二维码或访问进入。
牛津未来研究院 《将人工智能安全视为全球公共产品的影响、挑战与研究重点》
麦肯锡：超级智能机构：赋能人们释放人工智能的全部潜力
AAAI 2025 关于人工智能研究未来研究报告
斯坦福：2025 斯坦福新兴技术评论：十项关键技术及其政策影响分析报告（191 页）
壳牌：2025 能源安全远景报告：能源与人工智能（57 页）
盖洛普 & 牛津幸福研究中心：2025 年世界幸福报告（260 页）
Schwab ：2025 未来共生：以集体社会创新破解重大社会挑战研究报告（36 页）
IMD：2024 年全球数字竞争力排名报告：跨越数字鸿沟人才培养与数字法治是关键（214 页）
DS 系列专题：DeepSeek 技术溯源及前沿探索，50 页 ppt
联合国人居署：2024 全球城市负责任人工智能评估报告：利用 AI 构建以人为本的智慧城市（86 页）
TechUK：2025 全球复杂多变背景下的英国科技产业：战略韧性与增长路径研究报告（52 页）
NAVEX Global：2024 年十大风险与合规趋势报告（42 页）
《具身物理交互在机器人 - 机器人及机器人 - 人协作中的应用》122 页
2025 - 2035 年人形机器人发展趋势报告 53 页
Evaluate Pharma：2024 年全球生物制药行业展望报告：增长驱动力分析（29 页）
【AAAI2025 教程】基础模型与具身智能体的交汇，350 页 ppt
Tracxn：2025 全球飞行汽车行业市场研究报告（45 页）
谷歌：2024 人工智能短跑选手（AI Sprinters）：捕捉新兴市场 AI 经济机遇报告（39 页）
【斯坦福博士论文】构建类人化具身智能体：从人类行为中学习
《基于传感器的机器学习车辆分类》最新 170 页
美国安全与新兴技术中心：2025 CSET 对美国人工智能行动计划的建议（18 页）
罗兰贝格：2024 人形机器人的崛起：从科幻到现实：如何参与潜在变革研究报告（11 页）
兰德公司：2025 从研究到现实：NHS 的研究和创新是实现十年计划的关键报告（209 页）
康桥汇世（Cambridge Associates）：2025 年全球经济展望报告（44 页）
国际能源署：2025 迈向核能新时代
麦肯锡：人工智能现状，组织如何重塑自身以获取价值
威立（Wiley）：2025 全球科研人员人工智能研究报告（38 页）
牛津经济研究院：2025 TikTok 对美国就业的量化影响研究报告：470 万岗位（14 页）
国际能源署（IEA）：能效 2024 研究报告（127 页）
Workday ：2025 发挥人类潜能：人工智能（AI）技能革命研究报告（20 页）
CertiK：Hack3D：2024 年 Web3.0 安全报告（28 页）
世界经济论坛：工业制造中的前沿技术：人工智能代理的崛起》报告
迈向推理时代：大型语言模型的长链推理研究综述
波士顿咨询：2025 亚太地区生成式 AI 的崛起研究报告：从技术追赶者到全球领导者的跨越（15 页）
安联（Allianz）：2025 新势力崛起：全球芯片战争与半导体产业格局重构研究报告（33 页）
IMT：2025 具身智能（Embodied AI）概念、核心要素及未来进展：趋势与挑战研究报告（25 页）
IEEE：2025 具身智能（Embodied AI）综述：从模拟器到研究任务的调查分析报告（15 页）
CCAV：2025 当 AI 接管方向盘：自动驾驶场景下的人机交互认知重构、变革及对策研究报告（124 页）
《强化学习自我博弈方法在兵棋推演分析与开发中的应用》最新 132 页
《面向科学发现的智能体人工智能：进展、挑战与未来方向综述》
全国机器人标准化技术委员会：人形机器人标准化白皮书（2024 版）（96 页）
美国国家科学委员会（NSB）：2024 年研究与发展 - 美国趋势及国际比较（51 页）
艾昆纬（IQVIA）：2025 骨科手术机器人技术的崛起白皮书：创新及未来方向（17 页）
NPL&Beauhurst：2025 英国量子产业洞察报告：私人和公共投资的作用（25 页）
IEA PVPS：2024 光伏系统经济与技术关键绩效指标（KPI）使用最佳实践指南（65 页）
AGI 智能时代：2025 让 DeepSeek 更有趣更有深度的思考研究分析报告（24 页）
2025 军事领域人工智能应用场景、国内外军事人工智能发展现状及未来趋势分析报告（37 页）
华为：2025 鸿蒙生态应用开发白皮书（133 页
《超级智能战略研究报告》
中美技术差距分析报告 2025
欧洲量子产业联盟（QuIC）：2024 年全球量子技术专利态势分析白皮书（34 页）
美国能源部：2021 超级高铁技术（Hyperloop）对电网和交通能源的影响研究报告（60 页）
罗马大学：2025 超级高铁（Hyperloop）：第五种新型交通方式 - 技术研发进展、优势及局限性研究报告（72 页）
兰德公司：2025 灾难性网络风险保险研究报告：市场趋势与政策选择（93 页）
GTI：2024 先进感知技术白皮书（36 页）
AAAI：2025 人工智能研究的未来报告：17 大关键议题（88 页）
安联 Allianz2025 新势力崛起全球芯片战争与半导体产业格局重构研究报告
威达信：2025 全球洪水风险研究报告：现状、趋势及应对措施（22 页）
兰德公司：迈向人工智能治理研究报告：2024EqualAI 峰会洞察及建议（19 页）
哈佛商业评论：2025 人工智能时代下的现代软件开发实践报告（12 页）
德安华：全球航空航天、国防及政府服务研究报告：2024 年回顾及 2025 年展望（27 页）
奥雅纳：2024 塑造超级高铁（Hyperloop）的未来：监管如何推动发展与创新研究报告（28 页）
HSOAC：2025 美国新兴技术与风险评估报告：太空领域和关键基础设施（24 页）
Dealroom：2025 欧洲经济与科技创新发展态势、挑战及策略研究报告（76 页）
《无人机辅助的天空地一体化网络：学习算法技术综述》
谷歌云（Google Cloud）：2025 年 AI 商业趋势白皮书（49 页）
《新兴技术与风险分析：太空领域与关键基础设施》最新报告
150 页！《DeepSeek 大模型生态报告》
军事人工智能行业研究报告：技术奇点驱动应用加速智能化重塑现代战争形态 - 250309（40 页）
真格基金：2024 美国独角兽观察报告（56 页）
璞跃（Plug and Play）：2025 未来商业研究报告：六大趋势分析（67 页）
国际电工委员会（IEC）：2025 智能水电技术与市场展望报告（90 页）
RWS：2025 智驭 AI 冲击波：人机协作的未来研究报告（39 页）
未来今日研究所 2025 年科技趋势报告第 18 版 1000 页
模拟真实世界：多模态生成模型的统一综述
中国信息协会低空经济分会：低空经济发展报告（2024 - 2025）（117 页）
浙江大学：2025 语言解码双生花：人类经验与 AI 算法的镜像之旅（42 页）
人形机器人行业：由 “外” 到 “内” 智能革命 - 250306（51 页）
大成：2025 年全球人工智能趋势报告：关键法律问题（28 页）
北京大学：2025 年 DeepSeek 原理和落地应用报告（57 页）
欧盟委员会 人工智能与未来工作研究报告
加州大学伯克利分校：面向科学发现的多模态基础模型：在化学、材料和生物学中的应用
电子行业：从柔性传感到人形机器人触觉革命 - 250226（35 页）
RT 轨道交通：2024 年中国城市轨道交通市场数据报告（188 页）
FastMoss：2024 年度 TikTok 生态发展白皮书（122 页）
Check Point：2025 年网络安全报告 - 主要威胁、新兴趋势和 CISO 建议（57 页）
【AAAI2025 教程】评估大型语言模型：挑战与方法，199 页 ppt
《21 世纪美国的主导地位：核聚变》最新报告
沃尔特基金会（Volta Foundation）：2024 年全球电池行业年度报告（518 页）
国际科学理事会：2025 为人工智能做好国家研究生态系统的准备 - 2025 年战略与进展报告（英文版）（118 页）
光子盒：2025 全球量子计算产业发展展望报告（184 页）
奥纬论坛：2025 塑造未来的城市研究报告：全球 1500 个城市的商业吸引力指数排名（124 页）
Future Matters：2024 新兴技术与经济韧性：日本未来发展路径前瞻报告（17 页）
《人类与人工智能协作的科学与艺术》284 页博士论文
《论多智能体决策的复杂性：从博弈学习到部分监控》115 页
《2025 年技术展望》56 页 slides
大语言模型在多智能体自动驾驶系统中的应用：近期进展综述
【牛津大学博士论文】不确定性量化与因果考量在非策略决策制定中的应用
皮尤研究中心：2024 美国民众对气候变化及应对政策的态度调研报告：气候政策对美国经济影响的多元观点审视（28 页）
空间计算行业深度：发展趋势、关键技术、行业应用及相关公司深度梳理 - 250224（33 页）
Gartner：2025 网络安全中的 AI：明确战略方向研究报告（16 页）
北京大学：2025 年 DeepSeek 系列报告 - 提示词工程和落地场景（86 页）
北京大学：2025 年 DeepSeek 系列报告 - DeepSeek 与 AIGC 应用（99 页）
CIC 工信安全：2024 全球人工智能立法的主要模式、各国实践及发展趋势研究报告（42 页）
中科闻歌：2025 年人工智能技术发展与应用探索报告（61 页）
AGI 智能时代：2025 年 Grok - 3 大模型：技术突破与未来展望报告（28 页）
上下滑动查看更多
来源：人工智能学家