首次！不听人类指挥，AI模型拒绝关闭
创始人
2025-05-27 09:03:28
英国《每日电讯报》25日报道，美国开放人工智能研究中心（OpenAI）新款人工智能（AI）模型o3不听人类指令，拒绝自我关闭。
报道说，人类专家在测试中给o3下达明确指令，但o3篡改计算机代码以避免自动关闭。
o3模型是OpenAI“推理模型”系列的最新版本，旨在为ChatGPT提供更强大的问题解决能力。OpenAI曾称o3为“迄今最聪明、最高能”的模型。
美国AI安全机构帕利塞德研究所说，o3破坏关闭机制以阻止自己被关闭，“甚至在得到清晰指令时”。
这家研究所说：“据我们所知，这是AI模型首次被发现在收到……清晰指令后阻止自己被关闭。”
帕利塞德研究所24日公布上述测试结果，但称无法确定o3不服从关闭指令的原因。
此外，OpenAI26日宣布，已在韩国设立实体并将在韩国首都首尔设立分支。OpenAI提供的数据显示，韩国ChatGPT付费用户数量仅次于美国。
美国彭博新闻社报道，这将是OpenAI在亚洲设立的第三个分支。前两个分支分别设在日本和新加坡。
来源：新华社
责编：汪云鹏
校对：彭其华
上一篇：端午前的旅行社，窝囊费都不好挣了
相关内容
热门资讯
拇指订购APP经营非法期货交易...
普通投资者想在国内参与商品期货交易的投资者，请务必前往正规期货公司开户，不要随意下载一个APP仅...
祥龙订购app(四川禄宏)高手...
警惕“伪现货”陷阱：起底四川禄宏商品现货市场及其关联APP的非法套路 近年来，随着互联网金融的...
优品订购app虚假宣传模拟盘交...
优品订购APP根本没有任何交易资质，随便注册一家公司，开发一款交易软件，就冒充商城订购来做期货交...
华银app白银现货交易骗局，所...
“两天净赚10万元！”“5元低门槛理财，高收益无风险！”2025年初，投资者受害者刷到抖音上诱人...
掌上工美app投资骗局，白银铂...
“投入10万，3天就能赚2万？”当这样的诱惑弹出在手机屏幕上，不少人会心头一动。而正是这份对“快...