OpenAI模型首次拒绝人类指令

美国开放人工智能研究中心（OpenAI）新款人工智能（AI）模型o3不听人类指令，拒绝自我关闭。模型并不知道自己在做什么，该机构还指出，暂时无法确定o3不服从关闭指令的原因。此类情况并不能证明AI模型具备意识，帕利塞德研究所表示，这是AI模型首次被发现在收到清晰指令后阻止自己被关闭，

更多是反映模型奖励机制的失衡。

【#OpenAI模型首次拒绝人类指令#】#OpenAI新模型被指拒绝人类指挥#英国《每日电讯报》25日报道，

相关推荐