约束,AI创造力的真正源泉 约束ai是什么 约束ai行为
创始人
2025-07-23 00:51:20


本文来自微信公众号:奇点漫游者,作者:赛先声,原文标题:《如果AI的创造力“涌现”是个误会,那AI怎么帮我们创新?》,题图来自:AI生成

我们正处在一个由AI驱动的“文艺复兴2.0”时代。从ChatGPT的吉卜力创意热潮到Veo3生成的爆款短视频,AI似乎有媲美甚至超越人类的创造力。

我们一直以为,这种能力的觉醒源于更庞大的数据集、更复杂的算法和对人类世界的完美模仿。我们曾坚信,通往更强创造力的道路,是用天量的数据“喂养”出一个灵感涌现不绝的“创新之神”。

但如果真相恰恰相反呢?如果AI的创造力并非源于其“无所不知”,而是源于其“一知半解”?如果那些我们一直试图修复的“技术缺陷”,恰恰是点燃其创意火花的秘密引擎呢?

最近,一篇发表在《Quanta Magazine》上的重磅研究,颠覆了我的认知。斯坦福大学的研究者梅森·坎布(Mason Kamb)和苏里亚·甘古利(Surya Ganguli)的研究成果表明,AI的创造力并非某种高深莫测的“涌现智能”,而是一个令人意外的、由“不完美”设计所催生的必然结果。

一、揭开创意的面纱:所谓的“灵感涌现”只是美丽的误会

长期以来,当我们看到AI生成了一幅“宇航员在巴洛克风格的宫殿里骑马”的图像时,我们倾向于认为AI“理解”了宇航员、马和巴洛克风格,并像人类艺术家一样将它们创造性地结合起来。这是一种令人欣慰的拟人化想象,但研究表明,这是一个美丽的误会。

真相是,以扩散模型(Diffusion Models)为代表的生成式AI,其创造力的核心并非来自对概念的“高阶理解”,而是源于其架构中两个看似“缺陷”的底层约束。这种对全局的“无知”,恰恰让AI摆脱了人类思维中的一种经典枷锁——“功能固着”(Functional fixedness)

功能固着是一种人类有而AI没有的认知偏误,是指人们知道了一些事物的固定的作用和功能之后,就会习惯性地认为这些事物就是用来干这些事情,而忽视了这些事物的其他方面的功能。

在著名心理学家卡尔·邓克尔(Karl Duncker)的“蜡烛问题”实验中,人们很难想到用装图钉的盒子来做烛台,因为我们对“盒子”的完整知识(它是容器)限制了想象力。AI则没有这种“知识的诅咒”,它不“理解”盒子,只“看到”其可以支撑物体的局部属性,因此这种“无知”反而成全了它的创造力。


AI不是一个全知全能的画家,更像一个技艺高超的马赛克艺术家,他虽然看不见整幅壁画的全貌,但凭借手中有限的彩色瓦片和一套严格的拼接规则,却能创造出令人惊叹的全新图案。

二、AI创造力的“黄金镣铐”:两大基本原则

那么,这两副给AI戴上,却反而让它舞姿更美的“黄金镣铐”究竟是什么?

第一副镣铐:局部性(Locality)这指的是AI模型在处理信息时,并不是像我们一样“纵览全局”,而是一次只能聚焦于一个极小的图像区块(patch)。它像一个透过锁孔看世界的观察者,视野极其有限。

AI不知道一只完整的猫是什么样的,但它对“猫的毛发纹理”、“猫耳朵的尖锐轮廓”、“猫眼睛的反光”这些局部特征了如指掌。这种“视野缺陷”迫使它在生成图像时,无法直接复制一整只记忆中的猫,而必须将无数个它学到的“局部碎片”重新组合。

第二副镣铐:平移等变性(Translational Equivariance)这听起来很专业,但原理却很直观。它是一套保证“结构一致性”的铁律。简单来说,如果模型在一个局部区块学会了“砖墙”的纹理,那么当它需要在图像的另一个位置画砖墙时,它会运用完全相同的规则和结构。这确保了AI生成的世界不会陷入混乱。

这一思想与AI先驱、图灵奖得主杨立昆大力倡导的“世界模型”(World Models)不谋而合。两者的核心都在于,让AI学习这个世界可预测、可泛化的基本规律,而不是去死记硬背无穷无尽的表象。正是这种对底层规则的遵循,让AI的“拼贴”显得真实可信。

当“局部性”将世界打碎成无限重组的可能,而“平移等变性”则像一根无形的线,将这些碎片以一种和谐、连贯、符合逻辑的方式缝合起来,创造力的奇迹便诞生了。

无独有偶,近年来AI研究者们开发的“等变局部评分”(Equivariant Local Score, ELS)机,正是一个只优化这两个核心原则的简化数学模型,它竟然能高度复现复杂扩散模型的输出,这再次证明了——约束,而非自由,才是AI创造力的真正源泉。

三、化“限制”为“催化剂”:系统性提升AI创新力的3个方法

理解了AI创造力的根本原理,我们提升AI创新能力的方向就变得豁然开朗。我们不再是盲目地扩大模型、堆砌数据,而是可以像一位熟练的工程师一样,通过“设计约束”来主动引导和激发AI的创造潜力。

这种“拥抱限制”的哲学,在人类的创新史上早已屡见不鲜。史蒂夫·乔布斯毕生信奉“至繁归于至简(Simplicity is the ultimate sophistication)”,他对iPhone只保留一个Home键的极致约束,恰恰成就了一代产品的革命性体验。

同样,在AI的世界里,我们也可以通过以下方法,将限制化为创新的催化剂:

方法一:设计“不完美”的架构。未来的AI模型设计,重点可能不再是单纯地追求“更大更强”,而是要战略性地构建具有特定“创造性缺陷”的架构。我们可以设计出在不同维度上具有不同“局部性”视野的模型,或者引入更多有趣的“等变性”规则(如旋转、缩放等),就像给乐高玩家提供不同形状和功能的积木,让他们能搭建出更富想象力的作品。

方法二:驾驭数据“信息差”。如果我们想让AI画出更有创意的椅子,或许我们不应该只给它看成千上万张椅子的照片。我们可以尝试一种“信息差”训练法:给模型看无数物体的局部纹理(木头、金属、织物),再给它看无数种结构(四条腿的、单腿的、悬空的),但就是不给它看一张完整的“椅子”。这将迫使模型在其“局部知识库”中进行前所未有的探索和组合,从而“发明”出我们从未见过的椅子设计。

方法三:将提示工程提升为“约束的艺术”。当我们向AI输入“一只由水晶构成的蝴蝶,栖息在熔岩流上”时,我们正是在让模型在严格的约束下(水晶质感+蝴蝶结构+熔岩环境),去完成一次前所未有的“创作越狱”。

这让人想起了传奇音乐家布莱恩·伊诺(Brian Eno)著名的“倾斜策略(Oblique Strategies)”卡牌。当创作陷入僵局时,他会抽出一张写有“只用一个音符”或“重复一个动作”这类指令的卡牌,通过这种人为的限制来打破思维定势,激发全新的灵感。

这一方法也让提示词的意义变得更加深刻。一个好的提示词,本质上就是在施加一种巧妙的“创造性约束”。

四、拥抱“不完美”,我们面临什么问题?

对AI创造力的研究和探索,或许能让我们反思对AI“完美”复现人脑的执迷,转而善用AI的“不完美”。我们手中的创新钥匙,不再是无穷无尽的数据和算力,而是设计“智慧约束”的能力。

这也引发了两个更深层次的问题:

既然约束是创造力的引擎,那么是否存在一种“最优约束”的尺度?太多的约束会扼杀创意,太少则会导致混乱,那个激发最大创新的“黄金分割点”在哪里?

如果AI的创造力源于一种与人类截然不同的“认知范式”,那么追求让AI像人一样思考的通用人工智能(AGI)道路,是否从一开始就走偏了?

或许这些将是未来AI领域的重点研究方向。

本文来自微信公众号:奇点漫游者,作者:赛先声

本内容为作者独立观点,不代表虎嗅立场。未经允许不得转载,授权事宜请联系 hezuo@huxiu.com

本文来自虎嗅,原文链接:https://www.huxiu.com/article/4605182.html?f=wyxwapp

相关内容

热门资讯

重磅!美国深夜传来重要消息,事... 作者 | 智谷国际编辑部7月15日,一个让24万留学生彻夜难眠的消息传来。(臭名昭著的)约瑟夫·埃德...
对当前市场的看法:估值不低,但... 我们接触到的 , 关于投资的名言实在太多了 , 多到同一个问题能有意义完全相反的两个理念 。巴菲特说...
为什么温差体感越来越大? 请你提供具体的相关内容呀,没有具体内容我没法准确写出为什么温差体感越来越大呢。比如是关于某地区的气候...
华泰证券:反内卷搭台,金属机遇... 华泰证券研报表示,国内反内卷不断加码,叠加近期海外财政货币双宽松的氛围等,金属板块整体表现较佳:多晶...
又一个巨大的行业“原罪”,被揭... 每年,我猜你和我一样,都有一个如释重负的时刻。那就是,从体检中心拿到那份厚厚的报告,快速翻到最后一页...
蓝帆医疗上半年预亏超1亿元,重... 来源:时代周报-时代在线 来源|时代商业研究院 作者|雷小艳 编辑|郑琳 7月15日,蓝帆医疗(0...
原创 稀... 中美博弈:一场精算的“温控战争” 中美关系的真相远比西方媒体欢呼的“和解”残酷得多。六月海关数据显...
大分工时代,专业人才的困境,谁... 在大分工时代,专业人才面临着诸多困境。他们如同精密机器上的专属零件,被局限在狭窄的领域内,难以全面发...
暴增超100%,胰岛素龙头甘李... 医药行业正在走出谷底。在银发经济的背景下,此前集采产生的影响,正在消退。近期,国内胰岛素龙头企业甘李...
《农村公路条例》公布;央行:房... 昨日A股7月22日,A股三大指数集体上涨,截至收盘,沪指涨0.62%,深成指涨0.84%,创业板指涨...
英伟达突发利空,a 股算力板块... 据报道,Op­e­n­AI与软银集团牵头的数据中心项目“星际之门”因选址分歧等原因,已大幅缩减近期计...
创始人妻子自曝“家丑”?润田:...   中新经纬7月23日电 22日,“润田”微信号发布关于近期网络不实信息的严正声明。  声明称,近日...
一场对抗OpenAI的“危险游... 在科技领域,一场对抗 OpenAI 的“危险游戏”正在悄然兴起。各方势力纷纷投入其中,试图在人工智能...
日本“投降”?特朗普称“美日达... 据央视新闻,当地时间7月22日,美国总统特朗普通过社交媒体宣布美国与日本达成贸易协议:对日关税税率为...
90后不会做饭拯救了餐饮业?9... 推完杠铃跑完步,星空君骑车回家路上,发现曾经的海鲜大酒店开始在门口摆摊卖外卖。悲观的人认为禁酒令加剧...
一城商行行长调任市政法委书记后... 宁夏银行行长周健鹏年初卸任,调任银川市委副书记、政法委书记后,该行副行长倪国梁拟获提拔。据宁夏区委组...
TCL智家刚柔并济,能否驯服“... 斑马消费 范建虽然,TCL掌门人李东生已入主奥马电器4年有余,并将其变成了TCL智家,但对核心控股子...
大同穷游出境潮,北京人都来捡漏 近年来,大同出现了一股独特的穷游出境潮。许多北京人纷纷被吸引而来,开启这场捡漏之旅。大同作为一个交通...
盘前必读丨央行发布二季度金融机... 【财经日历】10:00 国新办就海南自由贸易港建设有关情况举行新闻发布会10:30 中国气象局202...
金租行业,大规模增资频现! 金... 又一金融租赁公司增资获批!云南金融监管局信息显示,该局已批复同意华夏金租以未分配利润转增资本方式增加...
Netflix与YouTube... Netflix 与 YouTube 如今在广告战场展开了正面交锋。Netflix 以往以无广告的优质...
差几天就少赚数千万美元!多艘满... 财联社7月23日讯(编辑 史正丞)随着8月1日即将到来,全球海面上的多艘散货船正在加速赶往最近的美国...
经纬早班车|纳斯达克中国金龙指...   【隔夜重磅】  纳斯达克中国金龙指数收涨1.7%,黄金期货涨超1%  美股三大指数表现稍显分化,...
美国与印尼贸易协议细节来了:新... 在美国总统特朗普宣布和印尼达成贸易协议两周后,特朗普政府披露了协议的更多细节。据新华社,当地时间7月...
5000亿!AI基建加速,Op... OpenAI与甲骨文扩大合作,合作开发4.5吉瓦数据中心产能,这家明星AI公司的“去微软化”道路又进...
假辞职信掀波澜:鲍威尔“辞职”... 一封据称由美联储主席鲍威尔撰写的“辞职信”在多位MAGA阵营知名人士的社交媒体账号中传播,引发广泛关...
特朗普“解雇鲍威尔”表态收敛,... 当地时间周二,美国总统特朗普继续猛烈批评美联储,但似乎在是否要罢免美联储主席鲍威尔的问题上有所收敛。...
报道:资金紧张,马斯克接触私募... 当地时间周二,据华尔街日报报道,马斯克接触私募,寻求为xAI融资至多120亿美元。据知情人士透露,在...
静静等待七月底的中央经济会议 ... 中国必须采取更有力的逆周期政策来保持稳定增长,同时大力推进结构性改革!7月中旬,新加坡国立大学东亚研...
中资券商逐鹿港股IPO,投行业... 2025年港股IPO热度持续攀升,融资规模回归全球首位,中资券商成为核心推动力量。其中,中金公司、中...