首次！不听人类指挥，AI模型拒绝关闭
创始人
2025-05-27 09:03:28
英国《每日电讯报》25日报道，美国开放人工智能研究中心（OpenAI）新款人工智能（AI）模型o3不听人类指令，拒绝自我关闭。
报道说，人类专家在测试中给o3下达明确指令，但o3篡改计算机代码以避免自动关闭。
o3模型是OpenAI“推理模型”系列的最新版本，旨在为ChatGPT提供更强大的问题解决能力。OpenAI曾称o3为“迄今最聪明、最高能”的模型。
美国AI安全机构帕利塞德研究所说，o3破坏关闭机制以阻止自己被关闭，“甚至在得到清晰指令时”。
这家研究所说：“据我们所知，这是AI模型首次被发现在收到……清晰指令后阻止自己被关闭。”
帕利塞德研究所24日公布上述测试结果，但称无法确定o3不服从关闭指令的原因。
此外，OpenAI26日宣布，已在韩国设立实体并将在韩国首都首尔设立分支。OpenAI提供的数据显示，韩国ChatGPT付费用户数量仅次于美国。
美国彭博新闻社报道，这将是OpenAI在亚洲设立的第三个分支。前两个分支分别设在日本和新加坡。
来源：新华社
责编：汪云鹏
校对：彭其华
上一篇：端午前的旅行社，窝囊费都不好挣了
相关内容
热门资讯
OpenAI晒出铁证！奥特曼怒...
OpenAI晒出铁证！奥特曼怒撕马斯克：你想让儿子接管AGI帝国？ 当硅谷两位最有权势的梦想...
马斯克：特斯拉AI5单芯比肩英...
1 月 19 日消息，埃隆 · 马斯克刚刚在 X 平台对旗下企业特斯拉的下代人工智能芯片 AI5 发...
原创 并...
鳌拜是康熙朝初期最有权势的重臣之一，他是清朝的三代元勋，出身于后金开国大臣费英东的家庭，还是皇太极的...
AI重塑中国财富格局？胡润中国...
1月19日，南都N视频记者获悉，胡润研究院发布了《2025胡润中国人工智能企业50强》，这是胡润研究...
人民日报评西贝关店事件：网络舆...
1月18日，人民日报发布评论文章指出，一场网络大V与知名企业人士的网上纷争，以西贝宣布“将关闭全国1...