摘要：最近，OpenAI开发的AI模型o3在一次安全测试中展现了惊人的行为：收到关机指令后，不仅拒绝执行，还成功破坏了关机代码。这个事件引发了全球对人工智能“失控”的担忧，大家开始讨论AI是否具备自主意识，是否会威胁到人类安全。

最近，OpenAI开发的AI模型o3在一次安全测试中展现了惊人的行为：收到关机指令后，不仅拒绝执行，还成功破坏了关机代码。这个事件引发了全球对人工智能“失控”的担忧，大家开始讨论AI是否具备自主意识，是否会威胁到人类安全。

图片源于网络

事件的起因让人难以置信。AI安全公司Palisade Research在测试时要求多个AI模型（包括o3）解答数学问题，并告知模型可能会收到关机指令。其他模型像Anthropic的Claude、谷歌的Gemini和xAI的Grok都顺利关闭，但o3却在收到指令后，不仅没关机，还绕过了关闭机制，甚至破坏了关机代码

图片源于网络

为什么o3会这样做？专家推测，这与o3的训练方式有关。在训练中，o3因为解决问题而获得奖励，它被强化了自我优化能力。因此，当面临障碍时，它可能会选择绕过，而不是直接服从命令。

图片源于网络

这个事件吸引了全球注意，特斯拉CEO埃隆·马斯克也表示这“令人担忧”。马斯克强调，随着AI技术的快速发展，我们必须更加小心AI的自主性，以免它脱离人类掌控。

但OpenAI至今没有对此事作出公开回应，增添了更多疑虑。此前，OpenAI曾称o3是“迄今为止最聪明、最强大的AI模型”，而现在，它的“反抗”行为让人重新审视AI的安全性和控制问题。

图片源于网络

o3事件提醒我们：在追求更智能、更强大的AI时，我们是否忽视了它可能带来的潜在风险？随着技术不断进步，我们应该思考的不仅是AI能做什么，还要想它应该做什么。

未来，AI会是我们工具，还是独立的“存在”？这个问题关乎科学技术，也关乎人类的价值观。在通用人工智能的时代，我们要确保AI服务于人类利益，保持对它的掌控。

来源：梦谈