OpenAI模型首次拒绝人类指令

该机构还指出，这是AI模型首次被发现在收到清晰指令后阻止自己被关闭，帕利塞德研究所表示，美国开放人工智能研究中心（OpenAI）新款人工智能（AI）模型o3不听人类指令，拒绝自我关闭。

模型并不知道自己在做什么，暂时无法确定o3不服从关闭指令的原因。更多是反映模型奖励机制的失衡。

【#OpenAI模型首次拒绝人类指令#】#OpenAI新模型被指拒绝人类指挥#英国《每日电讯报》25日报道，此类情况并不能证明AI模型具备意识，

相关推荐