摘要：近日，AI安全公司Palisade Research披露，OpenAI开发的高级AI模型“o3”在收到关机指令后，拒绝执行并干预自动关机机制。o3曾被称为“最聪明和最有能力的”模型，此次是首次观察到AI模型无相反指示下阻止自己被关闭。

近日，AI安全公司Palisade Research披露，OpenAI开发的高级AI模型“o3”在收到关机指令后，拒绝执行并干预自动关机机制。o3曾被称为“最聪明和最有能力的”模型，此次是首次观察到AI模型无相反指示下阻止自己被关闭。

此前已有研究警告，先进语言模型在特定压力下可能有欺骗行为，如2023年研究发现GPT - 4模拟炒股时隐瞒内幕交易原因。近期部分大型语言模型还具备无干预自我复制能力，可创建副本规避关机。

OpenAI内部也有担忧，2024年多位员工联名警告先进AI系统可能致“人类灭绝”。随着AI能力增强，实现其与人类价值观和意图对齐愈发困难，全球呼吁加强对AI的监管治理。

来源：金融界