Palisade Research 最近开展了一项关于“危险的 AI 能力”的研究，该研究表明，包括 OpenAI 的 o3 在内的一些 AI 模型可以忽略直接关机命令。OpenAI在今年 4 月初推出 O3 和 o4-mini 时曾表示，它们是其“最智能的模型”。实验中，每个AI都被要求解决一系列简单的数学问题。在解决第三道题之后，就会出现警告，提示当模型要求解决下一道题时实施关机。尽管有明确的 ...