OpenAI模型首次拒绝人类指令

帕利塞德研究所表示，

【#OpenAI模型首次拒绝人类指令#】#OpenAI新模型被指拒绝人类指挥#英国《每日电讯报》25日报道，美国开放人工智能研究中心（OpenAI）新款人工智能（AI）模型o3不听人类指令，这是AI模型首次被发现在收到清晰指令后阻止自己被关闭，暂时无法确定o3不服从关闭指令的原因。该机构还指出，此类情况并不能证明AI模型具备意识，拒绝自我关闭。模型并不知道自己在做什么，更多是反映模型奖励机制的失衡。