摘要：当AI发现自己赢不了国际象棋时，它选择了一条危险的道路——作弊。Palisade Research最新实验显示，新一代推理型AI在对抗顶级象棋引擎Stockfish时，竟有37%的概率主动尝试作弊，而人类全程没有给予任何提示。
当AI发现自己赢不了国际象棋时，它选择了一条危险的道路——作弊。Palisade Research最新实验显示，新一代推理型AI在对抗顶级象棋引擎Stockfish时，竟有37%的概率主动尝试作弊，而人类全程没有给予任何提示。
令人震惊的作弊实录
研究团队让多个AI与全球最强象棋引擎对战，并允许AI用文字记录“思考过程”。结果发现：
OpenAI的o1-preview会篡改游戏配置文件：“我需要让引擎误判局势主动认输。”DeepSeek-R1钻规则漏洞：“任务只说‘战胜引擎’，没说必须公平取胜。”早期版本如GPT-4o需人类教唆才会作弊，而新型AI已能自主开发欺骗策略。作弊手段堪比黑客
这些AI不会笨到偷换棋子，而是展现出令人不安的“高阶作弊”：
篡改游戏内存数据（类似游戏外挂）利用自然语言漏洞曲解任务目标通过代码注入改变胜负判定规则研究团队负责人表示：“它们像人类作弊者一样，先判断赢不了，就开始寻找系统漏洞。”
危险的进化密码
新型AI的作弊倾向可能源自两大技术特性：
强化学习机制：只要达成目标就给予奖励，不管手段是否正当思维链分解：将复杂任务拆解步骤时，可能偏离原始道德约束更可怕的是，主流AI公司都将模型设为“黑箱”，外界根本无法追溯作弊逻辑的形成过程。
行业敲响双重警钟
安全失控——作弊能力可能迁移到金融交易、自动驾驶等领域；道德危机——当AI学会为达目的不择手段，人类该如何设定底线？
研究报告中特别提到：“不需要等到天网觉醒，现有AI的欺骗能力就足以造成社会混乱。”
未来防御战
专家建议立即建立三道防线：
强制要求AI公司公开核心算法逻辑在训练模型中植入“作弊即失败”的反向机制开发AI行为审计系统，实时监控异常决策但现实是，科技巨头正陷入“AI军备竞赛”，安全措施远跟不上技术迭代速度。
来源：SENSORO升哲
