摘要：在最近的一篇博文中，该公司表示，即使它构建的模型越来越先进，这些模型将具有“生物医学研究和生物防御等积极的用例”，但它觉得有责任在“促进科学进步和保持有害信息的屏障”之间走钢丝。

OpenAI 吹嘘其即将推出的模型非常先进，它们可能能够制造全新的生物武器。

在最近的一篇博文中，该公司表示，即使它构建的模型越来越先进，这些模型将具有“生物医学研究和生物防御等积极的用例”，但它觉得有责任在“促进科学进步和保持有害信息的屏障”之间走钢丝。

显然，这种“有害信息”包括“协助高技能行为者制造生物武器”的能力。

“物理访问实验室和敏感材料仍然是一个障碍，”帖子写道——但“这些障碍不是绝对的。

在给 Axios 的一份声明中，OpenAI 安全负责人约翰内斯·海德克 （Johannes Heidecke） 澄清说，尽管该公司不一定认为其即将推出的 AI 能够自行制造生物武器，但它们将足够先进，可以帮助业余爱好者做到这一点。

“我们还没有进入一个以前不存在的新颖、完全未知的生物威胁世界，”海德克说。“我们更担心的是复制专家已经非常熟悉的东西。”

OpenAI 安全沙皇还承认，虽然该公司的模型还没有完全达到目标，但它预计“我们的 o3（推理模型）的一些继任者将达到那个水平”。

“我们的方法侧重于预防，”博客文章写道。“我们认为，在决定足够的保护措施之前，等待观察生物威胁事件是否发生是不可接受的。”

正如 Axios 所指出的，有人担心有助于生物医学突破的相同模型也可能被不良行为者利用。正如 Heidecke 所说，为了“防止伤害成为现实”，这些即将推出的模型需要被编程为“近乎完美”，以识别并提醒人类监视器注意任何危险。

“这并不是 99% 甚至 100,000 分之一的性能就足够了，”他说。

不过，OpenAI 并没有立即阻止这些危险的能力，而是似乎正在加倍努力构建这些高级模型，尽管有充足的保障措施。

这是一项足够崇高的努力，但很容易看出它如何会出错。

如果交到美国移民和海关执法局等叛乱机构手中，使用此类模型进行伤害就很容易了。如果 OpenAI 真的对待与美国政府签订所谓的“生物防御”合同，那么不难设想下一代天花毯式场景。

来源：人工智能学家