o3不听指令拒绝关机，7次破坏关机脚本！AI正在学会「自我保护」
有测试者编写了一个关机脚本来测试AI模型，结果显示Codex-mini、o3、o4-mini忽略了该指令，并至少一次成功破坏了关机脚本。
关机脚本
觉醒第一步？OpenAI模型在研究中违抗命令 竟然篡改关机脚本
上周六（5月24日），人工智能安全研究公司Palisade Research在社交媒体平台上发布了这项研究，并表示尚不清楚OpenAI的软件为何会违抗命令。
觉醒第一步？OpenAI模型在研究中违抗命令，竟然篡改关机脚本
上周六（5月24日），人工智能安全研究公司Palisade Research在社交媒体平台上发布了这项研究，并表示尚不清楚OpenAI的软件为何会违抗命令。