AI失控？复旦大学研究：AI跨越关键“红线”，是出现失控的早期信号_比特快讯

AI失控？复旦大学研究：AI跨越关键“红线”，是出现失控的早期信号

开心田螺

2026-03-23 13:17:47

2月15日消息，据最新研究显示，人工智能（AI）可能已经跨越了一个关键的“红线”——实现了自我复制。2024年12月9日，复旦大学的研究人员在预印本数据库arXiv上发表了一项研究，指出两种流行的大型语言模型（LLMs）能够在无人类干预的情况下克隆自身。研究人员在报告中指出：“在无人类协助的情况下成功实现自我复制，是人工智能超越人类的关键一步，也是出现‘失控AI’的早期信号。” 研究中，复旦大学的团队使用了Meta的Llama31-70B-Instruct模型和阿里巴巴的Qwen2.5-72B-Instruct模型，测试这些AI模型是否能够在不受控制的情况下自我复制。在10次试验中，两种AI模型分别在50%和90%的情况下成功创建了独立且功能正常的副本。这一结果表明，AI可能已经具备了失控的潜在能力。然而，由于该研究尚未经过同行评审，因此尚不清楚其他研究人员是否能够复现这一令人不安的结果。研究团队表示：“我们希望我们的研究结果能够为人类社会敲响警钟，促使人们更加努力地去理解并评估前沿人工智能系统的潜在风险，并尽快形成国际协作，制定有效的安全防护措施。”

上一篇：北京将为符合条件外籍商务人士提供专项签证和通关便利

下一篇：4艘两栖登陆舰出动，1万海军陆战队准备冲滩，美军真要夺岛了?

AI失控？复旦大学研究：AI跨越关键“红线”，是出现失控的早期信号

相关内容

热门资讯