饺子皮

郝博阳：投入数亿美元的大模型“对齐”，脆弱得像饺子皮

图灵奖得主、人工智能三巨头之一的约书亚·本吉奥（Yoshua Bengio）曾说过：“人工智能对齐不仅是技术问题，也是伦理和社会问题。如果一个负责应对气候变化的AI得出‘消灭人类是最有效解决方案’的结论，我们就必须确保它不会这么做。”