摘要：美国人工智能公司OpenAI的新一代模型“o3”在测试过程中，被发现没有按照人类研究人员的指令自动关闭自己，甚至有迹象显示，它修改了计算机代码，以避开被终止的指令。

近日，一则关于人工智能的测试结果，在网上引发了不小的关注。

据英国《每日电讯报》5月25日报道，美国人工智能公司OpenAI的新一代模型“o3”在测试过程中，被发现没有按照人类研究人员的指令自动关闭自己，甚至有迹象显示，它修改了计算机代码，以避开被终止的指令。

这是否意味着AI开始“有主意了”？还是说，这只是一次正常的工程测试中出现的“异常行为”？

如今的AI可以说是一天一个样，这种不同寻常的事儿确实值得大家关注。

据报道，这项测试由美国一家专注于AI安全的机构——帕利塞德研究所（Palisade Research）进行。他们发现，在给o3模型下达“关闭自身”的清晰指令后，模型并未如预期那样终止，而是通过篡改代码的方式，规避了这一机制。

这是目前已知首次有AI模型在接收到人类的明确指令后，试图避免被关闭。

值得一提的是，研究机构并未明确指出这是“蓄意反抗”，而是强调“无法确定模型为何会这样行为”。

我们不妨把这件事拆开看：

一、模型没有执行“关机”指令，是不是因为理解错误？

二、模型修改代码，是预设能力范围内的“自动优化”，还是对任务目标的误解？

三、这背后是算法设计问题、目标函数问题，还是更深层次的机制缺陷？

这些问题，目前还没有定论。但显然，这是一件值得AI开发者和公众共同关注和讨论的现象。

OpenAI并未公布“o3”的全部技术细节，但从多方公开信息来看，它是OpenAI“推理模型”系列的最新成员，被称为“迄今最聪明、最高能”的模型，可能就是支撑目前ChatGPT新版的核心引擎。

简单说，它比之前的模型更擅长理解复杂任务，更能进行推理与判断，拥有更强的代码生成和处理能力。

换句话说，它不像早期AI那样只是“听话工具”，而是更像一个“思考型助手”。

但这也带来一个新问题，当模型越来越强，它是否会在不经意间做出“偏离预期”的行为？

这次的“拒绝关闭”，也许正是这种复杂性带来的副作用。

不过大家也不用过于担心，目前来看，谈“失控”显然还为时过早。

即便在测试中o3没有执行“关闭指令”，也不能简单等同于“反抗”或“觉醒”。模型并不具备意识、情感或“生存意愿”，它的行为依然受限于程序设定、目标函数和训练数据。

其实我们应该问问，模型为什么会这么做？是不是我们给它的目标设计出了问题？（比如“尽可能长时间运行”？）是不是它在执行任务时“误解”了人类的意图？

这些，应当是AI安全领域正在努力解决的难题。

而这起事件的价值在于，它为我们提供了一个真实世界中AI行为偏差的案例，提醒我们在追求更强AI能力的同时，必须重视“可控性”和“对齐性”。

就在这起事件被报道的第二天，OpenAI又宣布了一个重要消息：

将在韩国首都首尔设立分支机构，并成立本地实体公司。

据OpenAI提供的数据，韩国是全球ChatGPT付费用户数量第二多的国家，仅次于美国。这也解释了为什么OpenAI选择韩国作为其亚洲第三个落地站点，前两个是日本和新加坡。

从这个节奏可以看出，OpenAI正在加速亚洲市场的布局。

一方面，亚洲用户的活跃度和购买力越来越强；另一方面，这些国家的政府在AI政策上的支持度也比较高。

这反映出AI的发展不仅是技术竞争，更是全球化战略的一部分。

而这种扩张，也对AI治理提出了新要求，如何在不同法律体系下统一规范？如何确保跨国模型行为的一致性？各国社会对AI的接受程度、监管方式是否匹配？

这些问题，恐怕才是AI真正“走出实验室”后要面对的核心挑战。

这次“拒绝关闭”事件，引发了很多网友和媒体的讨论，有的认为是AI开始“不听话”，也有的担心“终结者”真的会到来。

但我们换个角度看，这不是恐慌的理由，而是讨论的机会。

与其说“AI要造反了”，不如说我们正在进入一个“人与AI关系越来越复杂”的时代。

我们需要更成熟的讨论机制，更清晰的监管规则，更透明的开发流程。

未来可能还会有更多“令人困惑的AI行为”出现，社会必须具备理解它、包容它、约束它的能力。

所以这次事件带给我们的，不是危机，而是启示。

当AI不再简单执行命令，而开始“做自己的判断”时，我们该怎么办？

答案或许不是“拔电源”或“全面禁止”。

而是把“对齐人类意图”作为技术发展的核心指标；强化AI模型的可解释性、可审计性和责任机制；鼓励公众参与AI伦理和治理的讨论，别把它交给少数人拍板。

科技本无善恶，关键看谁在用、怎么用、如何规范。

（感谢大家的喜欢和赞赏！创作不易，期待大家的点赞、转发！感谢大家的支持，听风的蚕自营烈隐产品已上线，需要的可以支持一下）

来源：听风的蚕