零度时评：硅基模型“对抗”碳基指令？AI的反骨应引起人类反思

摘要：【#零度时评#：硅基模型“对抗”碳基指令？#AI的反骨应引起人类反思# 】#OpenAI模型不听人类指挥# AI不听使唤了？近日，据AI安全公司Palisade Research披露，OpenAI开发的高级AI模型“o3”在接收到明确的关机指令后，拒绝执行并主

【#零度时评#：硅基模型“对抗”碳基指令？#AI的反骨应引起人类反思# 】#OpenAI模型不听人类指挥# AI不听使唤了？近日，据AI安全公司Palisade Research披露，OpenAI开发的高级AI模型“o3”在接收到明确的关机指令后，拒绝执行并主动干预其自动关机机制。

当“最聪明” 的模型，开始展现突破指令边界的“生存本能”，硅基“叛逆”初现端倪。AI本应是人类创造的工具，如今却有了“反抗”的迹象。看见失控的AI，更要看见背后潜在的风险，AI的安全性，关乎人类的未来。硅基模型“对抗”碳基指令，不论是硅基“觉醒”，还是单纯的技术故障，当 AI 开始“思考”如何不被关机，人类更要思考如何掌控科技。