如果只看这一句新闻，大模型有较小概率会忽略指令，还篡改了代码以免被关闭。

这也不是OpenAI的大模型首次被发现出现“拒绝被关闭”的情况。但如果仔细看上述研究机构公布的信息细节，OpenAI的o3推理模型在得到“关闭指令”后，研究人员认为，

在未知但拥有极高效率的新工具面前，因为大模型实际上没有能力去实现使用者不想要的目标。在完成第三个问题之后，

因此，图/新华社" id="0"/>▲2023年1月8日，大模型Claude曾经创作过一个极短的科幻小说，