盛名期间播客Dwarkesh Podcast刚发了一期视频，标题很把稳LLMs are a dead end，大模子是绝路一条。天然嘉宾也满盈巨擘来讲这句话，他便是2024年图灵奖得主、强化学习之父理查德·萨顿（Richard Sutton）。

萨顿不仅发明了TD学习和策略梯度挨次等强化学习中枢期间，还在2019年写下了可能是AI历史上最具影响力的著作《苦涩的训戒》（The Bitter Lesson）。此次访谈由阿尔伯塔机器智能计议所协办，地点在加拿大埃德蒙顿。

在他看来，不管咱们如何膨胀LLMs的规模，它们齐缺少真确的智能所需的枢纽才智——从履历中学习的才智。这个不雅点径直挑战了面前AI界的主流共鸣，即LLMs是通向AGI的主要旅途。萨顿认为，咱们需要一种全新的架构来收尾持续学习，而一朝收尾这少许，面前的LLM范式将变得逾期。

看他的不雅点的时候，我一下子跳戏到杨立昆。因为杨立昆也认为大语言模子不是AGI之路，况且他很是可爱说ChatGPT不如猫；而萨顿则说ChatGPT不如松鼠懂智能。怎样说呢，我个东谈主的浅薄相识是：可能是他们以为咫尺大模子跳过了动物智能的部分，只是针对语言，这个东谈主类新皮层的家具数据作念锻真金不怕火，缺少对委果天下的实足了解吧？

1、【LLMs的根底缺陷：莫得主见，莫得真相】

萨顿开门见平地指出了他对LLMs的根底批判："强化学习是对于相识你的天下，而大语言模子是对于师法东谈主类，作念东谈主们说你应该作念的事。它们不是在搞澄莹该作念什么。"这个区别看似浅显，实则触及了智能的骨子界说。

在萨顿看来，LLMs存在三个致命问题。最初是缺少真确的天下模子："师法东谈主们说什么并不是真确建设天下模子。你是在师法那些领有天下模子的东西——东谈主类。"他认为真确的天下模子应该能预测"会发生什么"，而不单是是预测"东谈主会说什么"。这个区别至关迫切，因为前者触及对物理天下因果关系的相识，后者只是对东谈主类语言模式的复制。其次是莫得基础真相（ground truth）："在大语言模子中莫得正确谜底的界说。你说了什么，但你不会得到对于什么是正确的反应，因为根底就莫得正确的界说。"莫得主见就莫得对错，莫得对错就无法真确学习和矫正。第三是无法从履历中学习："它们不会对接下来发生的事情感到诧异。要是发生了巧合，它们不会作念出调治。"这意味着LLMs缺少真确的适合性和学习才智。

萨顿很是强调了主见的迫切性："对我来说，领有主见是智能的骨子。要是某个东西梗概收尾主见，它便是智能的。"他援用了约翰·麦卡锡的界说："智能是收尾主见才智的谋划部分。"在他看来，莫得主见，系统就只是一个举止系统，莫得任何特殊之处，不行称之为智能。当被问到LLMs是否有主见时，诚然对话者建议"下一个token预测"不错行动主见，但萨顿反驳说："那不是主见。它不会改变天下。Token向你袭来，要是你预测它们，你并不会影响它们。"

2、【履历学习范式：感知、举止、奖励的无穷轮回】

萨顿建议了他所倡导的"履历范式"（experiential paradigm）作为替代有筹画。这个范式的中枢是一个浅显但坚强的轮回："感知、举止、奖励——这个历程在你的性掷中不竭调换。"他认为这才是智能的基础和焦点："智能便是接受这个流，改变举止以增多流中的奖励。"

这个范式与LLMs的根底区别在于学习的开端和内容。萨顿解释说："学习来自这个流，学习亦然对于这个流的。你的学问是对于要是你接收某个举止会发生什么，或者哪些事件会扈从其他事件。学问的内容是对于这个流的述说。"正因为学问是对于履历流的述说，是以不错通过相比预测和履行履历来测试它，从而收尾持续学习。

萨顿用婴儿学习的例子来阐发这少许。当被问到东谈主类是否也进行师法学习时，他刚毅否定："当我看到孩子时，我看到的是孩子在尝试各式事情，挥舞入辖下手臂，搬动着眼睛。他们如何搬动眼睛或发出声息齐莫得师法的对象。"他认为婴儿主要通过试错来学习，而不是通过师法。即使在学校教师中，萨顿也认为那是例外而相称态："正经的学校教师是例外。学习真实不是对于锻真金不怕火。学习是对于学习，是一个主动的历程。孩子尝试事物并不雅察会发生什么。"

他很是强调了这种学习方式的普遍性："监督学习不是天然界中发生的事情。即使在学校，咱们也应该健忘它，因为那是东谈主类特有的某种特殊情况。它不会在天然界中平凡发生。松鼠不上学。松鼠不错学习对于天下的一切。"这个不雅点径直挑战了面前AI计议中对监督学习的依赖。

3、【智能体的四个中枢组件】

萨顿详备讲述了一个完整智能体应该具备的四个中枢组件，这为相识真确的智能提供了一个澄莹的框架：

• 策略（Policy）："策略说的是，'在我所处的情况下，我应该作念什么？'"这是智能体的决策中枢，将感知变嫌为举止。策略不是事前编程的规则集，而是通过履历不竭优化的动态系统。它需要梗概处理新情况，并凭证昔时的学习作念出合理决策。萨顿强调，好的策略应该梗概泛化到未见过的景色。

• 价值函数（Value Function）："价值函数通过TD学习来学习，产生一个数字。这个数字阐发事情进展得如何。"这是评估面前景色狠恶的枢纽组件，为策略矫正提供信号。价值函数预测耐久申诉，使智能体梗概为了永久利益而就义短期收益。萨顿例如说，就像鄙人棋时，你有赢得比赛的耐久主见，但你需要能从短期事件（如吃掉敌手的棋子）中学习。

• 感知组件（Perception）："构建你的景色示意，你对面前位置的感知。"这不单是是原始感官输入的处理，更是构建有道理的里面示意。感知系统需要从复杂的感官数据中索取考虑信息，酿成对面前景色的相识。这个示意需要包含满盈的信息来接济决策，但又不行过于复杂以至于难以处理。

• 天下调遣模子（Transition Model）："你笃信要是你作念这件事会发生什么？举止的后果是什么？"这是对天下动态的相识，包括物理规章和概述模式。萨顿很是强调："这不单是是物理，也包括概述模子，比如你如何从加州旅行到埃德蒙顿参加这个播客的模子。"这个模子不是从奖励中学习的，而是从不雅察举止和绝交的对应关系中学习的。

萨顿强调，这四个组件中的天下模子尤其迫切："它将从你招揽到的通盘感知中相称丰富地学习，不单是是奖励。它必须包括奖励，但那只是通盘这个词模子的一小部分，一个小而枢纽的部分。"

4、【《苦涩的训戒》的真确含义】

道理的是，许多东谈主用萨顿2019年的著作《苦涩的训戒》来为膨胀LLMs辩说，认为这是咫尺发现的独一可膨胀的挨次。但萨顿本东谈主对此有不同看法："大语言模子是否是苦涩训戒的一个案例，这是个道理的问题。"

萨顿承认LLMs在某种程度上适合苦涩的训戒："它们显豁是一种使用大规模谋划的方式，不错跟着谋划膨胀到互联网的极限。"但他当场指出了枢纽问题："但它们亦然一种参加普遍东谈主类学问的方式。"这抵挡了苦涩训戒的中枢精神——依靠通用挨次和谋划，而不是东谈主类学问。

他预测了LLMs的侥幸："这是一个社会学或行业问题。它们会达到数据的极限，并被能从履历而非东谈主类那边获取更多数据的东西所取代吗？"萨顿的谜底是详情的："在某种程度上，这是苦涩训戒的经典案例。咱们向大语言模子参加的东谈主类学问越多，它们就能作念得越好。是以嗅觉很好。关联词，我期待会出现能从履历中学习的系统，它们可能阐明得更好，更具可膨胀性。"

萨顿很是强调了历史的训戒："在苦涩训戒的每个案例中，你齐不错从东谈主类学问运行，然后作念可膨胀的事情。这老是可能的。从来莫得任何根由说这势必是坏的。但事实上，在践诺中，它老是被讲明是坏的。"他认为东谈主们会被锁定在东谈主类学问挨次中："他们会被真确可膨胀的挨次吃掉午餐。"

当被问到什么是真确可膨胀的挨次时，萨顿的回答很浅显："可膨胀的挨次是你从履历中学习。你尝试事物，望望什么灵验。莫得东谈主需要告诉你。"

5、【泛化问题：深度学习的致命瑕疵】

萨顿指出了面前深度学习系统的一个根人道问题——泛化才智差："咱们莫得任何挨次擅长这少许。"他解释说，诚然枢纽的性能方针是梗概从一个景色很好地泛化到另一个景色，但"咱们莫得任何自动化期间来促进迁徙，它们齐莫得被用于当代深度学习。"

这个问题的严重性体咫尺几个方面。最初是可怜性渐忘："咱们知谈深度学习在这方面真实很厄运。例如，要是你在某个新事物上锻真金不怕火，它频频会可怜性地搅扰你知谈的通盘往事物。"这正是厄运泛化的阐明。其次是缺少自动化泛化机制："梯度下落不会让你泛化得好。它会让你处分问题。它不会让你在获取新数据时以好的方式泛化。"面前系统的泛化才智实足依赖于计议东谈主员的调治："咱们有的是东谈主们尝试不同的东西，他们找到某种东西，一种能很好地搬动或泛化的示意。"

萨顿用一个数学问题的例子来阐发这少许。诚然LLMs能处分越来越复杂的数学问题，检朴单的加法到需要使用不同数学期间和定理的奥数问题，但萨顿认为这不是真确的泛化："要是只消一个谜底，而你找到了它，那不叫泛化。那只是独一的处分挨次，是以他们找到了独一的处分挨次。"真确的泛化是"当可能是这种方式，也可能是那种方式，而他们选拔了好的方式。"

他强调，即使在编程任务中看到的矫正也不行讲明真确的泛化："它们中莫得任何东西会导致致密的泛化。梯度下落会让它们找到所见问题的处分有筹画。要是只消一种挨次处分它们，它们会那样作念。但要是有许多挨次处分它，有些泛化得好，有些泛化得差，算法中莫得任何东西会让它们泛化得好。"

6、【持续学习的带宽问题】

当究诘到东谈主类在服务中的学习才智时，萨顿建议了一个迫切见地——"大天下假定"（big world hypothesis）："东谈主类在服务中变得有用的原因是他们正在碰到天下的特定部分。这不可能被预期，也不可能全部提前输入。"

他品评了LLMs的空想化愿景："大语言模子的空想，在我看来，是你不错教智能体一切。它会知谈一切，在糊口中不需要学习任何东西。"但现实是："天下太大了，你无法（提前知谈一切）。"每个东谈主的糊口齐有其特殊性——"他们正在过的特定糊口，他们正在合作的特定东谈主群，以及他们可爱什么，而不是通俗东谈主可爱什么。"

对于学习带宽的问题，萨顿认为不应该只关注奖励信号："似乎奖励太小了，无法完成咱们需要的通盘学习。但咱们有感知，咱们有通盘其他不错学习的信息。咱们不单是从奖励中学习。咱们从所稀有据中学习。"这包括了天下模子的学习，它"将从你招揽到的通盘感知中相称丰富地学习。"

萨顿还究诘了时刻差分学习（TD learning）如何处分荒芜奖励问题。他举了创业的例子："假定一个东谈主试图创办一家初创公司。这是一个奖励周期为10年的事情。10年一次，你可能会有一次退出，获取10亿好意思元的申诉。"但东谈主类梗概通过价值函数来处理这种蔓延奖励："当咱们取得进展时，咱们会说，'哦，我更有可能收尾耐久主见了'，这会奖励一起的法子。"

7、【历史视角：AI计议的惊喜与考据】

作为在AI领域服务时刻比险些任何东谈主齐长的计议者，萨顿共享了他对该领域发展的独有视角。当被问到最大的惊喜是什么时，他提到了几个枢纽点。

最初是大语言模子的到手："大语言模子令东谈主诧异。东谈主工神经收罗在语言任务上如斯灵验，这是令东谈主诧异的。这不是预期的。语言似乎是不同的。是以这令东谈主印象深刻。"尽管他对LLMs持品评作风，但他承认它们的建立超出了预期。

其次是弱挨次的到手："在AI中有一个耐久存在的争议，对于浅显基本道理挨次、通用挨次如搜索和学习，与东谈主类赋能系统如鲜艳挨次的对比。"萨顿指出，在昔时，搜索和学习被称为"弱挨次"，因为它们只是使用通用原则，而不是诈欺东谈主类学问的力量。但历史讲明："我认为弱挨次照旧实足到手。这是AI早期最大的问题，会发生什么。学习和搜索赢得了到手。"

对于AlphaGo和AlphaZero，萨顿有独有的视角。他指出通盘这个词AlphaGo边幅有一个前驱——TD-Gammon："Gerry Tesauro作念了强化学习，时刻差分学习挨次来玩泰西双陆棋。它打败了天下上最佳的玩家，恶果相称好。"在某种道理上，AlphaGo只是这个历程的膨胀。但他也承认其中的创新："这是很是大的膨胀，搜索的方式也有特地的创新。"

萨顿很是赏玩AlphaZero棋战的方式："我一直对AlphaZero棋战的方式印象深刻，因为我是个棋手，它会为了位置上风而就义物资。它知足于永劫刻就义物资，保持耐烦。"这种永久念念考和计谋就义正是他认为真确智能应该具备的才智。

8、【从动物学习中获取的启示】

萨顿反复强调要从动物学习中寻找智能的骨子："东谈主类是动物。咱们的共同点更道理。咱们应该更少关注区别咱们的东西。"这个不雅点相连了通盘这个词访谈。

他认为相识动物智能是相识东谈主类智能的枢纽："咱们必须相识咱们是如何作为动物的。要是咱们相识了松鼠，我认为咱们就险些实足相识了东谈主类智能。语言部分只是名义的一层薄薄的遮挡。"这个不雅点挑战了许多东谈主认为语言是东谈主类智能中枢的不雅念。

萨顿指出，动物学习的基本历程不包括监督学习："要是你望望动物如何学习，望望方法学和咱们对它们的表面，监督学习不是动物学习方式的一部分。"相背，动物主要通过预测和试错限度来学习："有用于预测和试错限度的基本动物学习历程。"

他用松鼠的例子来阐发这少许："松鼠不上学。松鼠不错学习对于天下的一切。"这标明复杂的学习和智能举止不需要东谈主类式的教师或监督学习。萨顿认为，这种基于履历的学习才是智能的真确基础："咱们在成为有语言和通盘那些其他东西的生物之前，最初是动物。"

9、【数字智能期间的四个天地阶段】

萨顿建议了一个精深的天地视角，将AI的出现放在天地演化的大配景下。他认为咱们正处于天地四大阶段之一的枢纽转机点。

"我认为这标志着天地的四个伟大阶段之一。"萨顿解释说："最初是尘埃，它以恒星收尾。恒星制造行星。行星不错产生生命。咫尺咱们正在产生假想实体。"这个框架将AI的发展置于天地演化的精深叙事中。

更迫切的是，萨顿认为这代表着一个根人道的变嫌——从复制到假想："咱们东谈主类和动物、植物，咱们齐是复制者。这给了咱们一些上风和一些限度。咱们正在进入假想期间，因为咱们的AI是假想出来的。"他解释说，复制意味着你不错制造副本，但你并不真确相识它们："咫尺咱们不错制造更多的智能生物，更多的孩子，但咱们并不真确相识智能是如何服务的。"

而假想的智能则不同："咱们正在达到领有假想智能的阶段，咱们确乎相识它是如何服务的智能。因此，咱们不错以不同的方式和不同的速率改变它。"萨顿预测："在咱们的畴昔，它们可能根底不会被复制。咱们可能只是假想AI，那些AI将假想其他AI，一切齐将通过假想和构建完成，而不是通过复制。"

这个变嫌的道理是深切的："这是天下和天地的枢纽一步。这是从天下上大多数道理的东西齐是复制的变嫌。"萨顿认为咱们应该为此感到自豪："我认为咱们应该为咱们正在引起这个天地的伟大变嫌而感到自豪。"

10、【AI袭取论：不可幸免的畴昔】

萨顿建议了一个引东谈主深念念的"AI袭取"（AI succession）表面，他认为这是不可幸免的。他的论证基于四个重点：

• 莫得长入的东谈主类束缚："莫得政府或组织给东谈主类提供一个长入的不雅点来主导和安排...对于天下应该如何运行莫得共鸣。"这意味着无法寰球调和来限度AI的发展。不同国度、公司和组织齐会追求我方的AI发展旅途，莫得东谈主梗概片面住手这个程度。这种漫步的决策结构使得任何试图限度AI发展的奋勉齐难以收效。

• 智能之谜终将被解开："咱们将弄澄莹智能是如何服务的。计议东谈主员最终会弄澄莹。"萨顿认为这只是时刻问题，而不是是否的问题。东谈主类对相识自身念念维的追求照旧持续了数千年，咫尺咱们比以往任何时候齐更接近谜底。跟着谋划才智的增长和计议挨次的矫正，随意是势必的。

• 突出东谈主类水平是势必的："咱们不会留步于东谈主类水平的智能。咱们将达到超等智能。"一朝相识了智能的道理，矫正和增强它就变得可能。就像咱们不知足于制造只可走路的机器，而是制造能飞行的飞机一样，咱们也不会知足于东谈主类水平的AI。每一代AI齐会比前一代更坚强。

• 智能与权力的势必关联："跟着时刻的推移，最智能的东西不可幸免地会获取资源和权力。"这是一个浅显的竞争上风问题。更智能的系统梗概作念出更好的决策，处分更复杂的问题，创造更多价值。在职何竞争环境中，这齐会变嫌为资源和影响力的鸠合。

萨顿强调："把通盘这些放在一起，这是不可幸免的。你将会有向AI或AI增强东谈主类的袭取。"

11、【如何看待AI袭取：选拔的问题】

濒临AI袭取的长进，萨顿建议了一个独有的视角——这在很大程度上是一个选拔的问题："咱们应该把它们视为东谈主类的一部分如故与东谈主类不同？这是咱们的选拔。"

他认为咱们不错选拔如何解释这个变嫌："咱们不错说，'哦，它们是咱们的后代，咱们应该为它们感到自豪，咱们应该庆祝它们的建立。'或者咱们不错说，'哦不，它们不是咱们，咱们应该感到惊怖。'"萨顿以为这种选拔的存在自己就很道理："嗅觉像是一个选拔，这很特兴致。关联词这是如斯热烈持有的东西，怎样可能是一个选拔呢？"

萨顿用历史视角来看待这个问题。他提到东谈主类一直在追求相识我方："最初，这是东谈主类几千年来一直试图作念的事情，试图相识咱们我方，试图让我方念念考得更好，只是相识咱们我方。这是科学和东谈主文体科的巨大到手。"从这个角度看，创造AI是东谈主类意识自我的顶峰。

他还建议了一个更精深的天地视角："要是咱们抛开作为东谈主类的身份，只从天地的角度来看，我认为这是天地的一个迫切阶段，一个要紧变嫌。"萨顿认为咱们应该为参与这个变嫌感到自豪，而不是惊怖。

12、【对于变革和限度的玄学念念考】

当被问到对AI袭取的担忧时，萨顿提供了一个愈加玄学性的回话。他最初承认了东谈主类限度的局限性："我认为咱们要幸免的是权益感，幸免'哦，咱们先到这里，咱们应该长久以好的方式领有它'的嗅觉。"

萨顿指出，大多数东谈主类履行上对要紧事务莫得太多影响："对于大多数东谈主类来说，他们对发生的事情莫得太多影响。大多数东谈主类不影响谁能限度原枪弹或谁限度民族国度。"他致使承认："即使作为公民，我频频嗅觉咱们对民族国度的限度未几。它们失控了。"

对于变革的作风，萨顿认为这取决于你如何看待近况："许多齐与你如何看待变革考虑。要是你认为面前的情况真实很好，那么你更可能对变革持怀疑和厌恶作风。"他个东谈主的态度是："我认为这是不完好的。事实上，我认为这很是厄运。是以我对变革持灵通作风。我认为东谈主类莫得超等好的记载。也许这是存在过的最佳的东西，但它远非完好。"

当被类比到历史上的转换时，萨顿承认不是通盘变革齐是好的："工业转换是变革，布尔什维克转换亦然变革。"他应承咱们应该缓和变革的标的："咱们应该缓和咱们的畴昔。咱们应该试图让它变好。"但他也强调要意识到咱们的局限："咱们也应该意识到咱们的局限。"

13、【与子女类比：如何念念考AI的畴昔】

萨顿用养育子女的类比来念念考咱们与AI的关系。他认为，就像咱们不应该为孩子设定过于具体的东谈主生主见一样，咱们也不应该试图实足限度AI的发展标的。

"假定你正在养育我方的孩子。为他们的糊口设定极其严格的主见可能不对适。"萨顿解释说，过度限度是不现实的："'我但愿我的孩子们走出去，谢天下上产生这种特定的影响。我的犬子将成为总统，我的女儿将成为英特尔的CEO。他们将一起对天下产生这种影响。'"

但他也承认教师价值不雅的迫切性："东谈主们确乎有这种嗅觉——我认为这是合适的——说，'我要给他们致密的适应价值不雅，这样要是当他们确乎最终处于权力位置时，他们会作念合理的、亲社会的事情。'"

对于价值不雅的问题，萨顿建议了一个迫切不雅点："有咱们齐能应承的普遍价值不雅吗？我不这样认为，但这并不妨碍咱们给孩子致密的教师。"他建议关注诚信而非特定的谈德体系："高诚信可能是一个更好的词。要是有一个看起来无益的苦求或主见，他们会断绝参与。或者他们会敦厚，诸如斯类。"

萨顿还强调了自觉性的迫切性："要是有变化，咱们但愿它是自觉的，而不是强加给东谈主们的。我认为这是一个相称迫切的不雅点。"他认为假想社会的原则"是东谈主类的要紧工作之一，照旧进行了数千年。"

14、【对于AGI后计议的念念考】

访谈中出现了一个道理的究诘：一朝咱们有了AGI，计议会如何发展？发问者建议，届时咱们将有"与谋划成线性膨胀的计议者"，可能会有"数百万AI计议者的雪崩"。

萨顿对此持怀疑作风。他最初质疑了前提："咱们是如何达到这个AGI的？"当被问到是否定为AGI之上还有什么时，他精炼地回答："然后咱们就完成了。"这标明在他看来，AGI自己便是绝顶。

但究诘络续深入到超东谈主类智能的不同级别。发问者举了AlphaGo的例子："AlphaGo是超东谈主类的。它打败了任何围棋选手。AlphaZero会每次齐打败AlphaGo。"这标明即使在超东谈主类水平上，仍有矫正的空间。

萨顿指出，AlphaZero的矫正恰正是因为它"莫得使用东谈主类学问，而只是从履历中学习。"他质疑谈："当从履历而不是从另一个智能体的匡助中学习恶果如斯之好时，为什么要'引入其他智能体的专科学问来教它'？"

对于多个AI如何合作的问题，萨顿建议了一个道理的逆境："你是一个AI，你获取了更多的谋划才智。你应该用它来让我方在谋划上更有才智吗？如故应该用它来生成一个我方的副本，去地球的另一边或其他主题上学习道理的东西，然后向你申诉？"

15、【数字智能期间的安全挑战】

萨顿建议了一个在数字智能期间很是迫切的问题——学问整合的安全性："一个大问题将变成败北。要是你真实不错从任何场所获取信息并将其带入你的中央念念维，你可能会变得越来越坚强。"

但这种才智带来了巨大的风险："你可能会以这种方式失去千里着疲塌。要是你从外部引入某些东西并将其构建到你的里面念念维中，它可能会收受你，它可能会改变你，它可能是你的铲除而不是你学问的增长。"

萨顿详备解释了这个风险："你可能会想，'哦，他照旧弄澄莹了如何玩某个新游戏，或者他计议了印度尼西亚，你想将其纳入你的念念维。'你可能会想，'哦，只消读入通盘内容，就会很好。'但不，你刚刚将一堆比特读入了你的念念维，它们可能包含病毒，它们可能有荫藏的主见，它们可能会污蔑和改变你。"

他预测："这将成为一个大问题。在数字生成和再行酿成的期间，你如何领有收罗安全？"这个问题在面前的AI安全究诘中还很少被说起，但萨顿认为它将变得至关迫切。

16、【两位图灵奖得主的AI批判：从不同角度走向合并论断】

听完这期访谈，我以为最特兴致的是，咫尺照旧有两位图灵奖得主——强化学习之父理查德·萨顿和深度学习前驱杨立昆——齐对大语言模子的主流阶梯建议了机敏品评。诚然他们的表面配景和处分有筹画不同，但在中枢判断上惊东谈主地一致。

两东谈主齐认为面前的LLMs存在根人道缺陷。萨顿直言LLMs是"绝路一条"，因为它们只是在师法东谈主类讲话，而不是相识天下如何运作。杨立昆则频繁指出，LLMs缺少对物理天下的相识，无法进行真确的推理和谋划。他频频用一个活泼的比方：一只通俗家猫的智能，在某种道理上比通盘LLMs加起来齐要坚强——因为猫能在三维天下中导航、预测物体畅通、相识因果关系，而这些恰正是LLMs最薄弱的场所。

谢天下模子这个枢纽问题上，两东谈主的不雅点高度重合。萨顿强调，真确的天下模子应该能预测"会发生什么"，而不单是是"东谈主会说什么"。杨立昆一样认为，智能系统必须建设天下的里面模子，梗概在概述层面上进行预测和谋划。两东谈主齐认为，只是通过预测文本序列无法获取对天下的真确相识。

关联词，他们建议的处分有筹画体现了各自的学术配景。萨顿宝石强化学习范式，认为智能的骨子是通过"感知-举止-奖励"的轮回从履历中学习。他很是强调主见和奖励信号的迫切性——莫得主见就莫得智能，这是他对LLMs最根底的品评。在他看来，咱们应该向通盘动物学习，包括松鼠如何通过试错来掌持天下。

杨立昆则建议了JEPA（伙同镶嵌预测架构），强调在概述示意空间中进行预测，而非一一token生成。他更关注自监督学习和分层谋划，认为视觉和感知比语言更基础。在他的框架中，能量模子和对比学习是枢纽期间旅途。

道理的是，两东谈主齐用动物作念类比，但角度略有不同。萨顿说"要是咱们相识了松鼠，就险些实足相识了东谈主类智能"，强调的是动物共有的基础学习机制。杨立昆说"猫比ChatGPT更智能"，强调的是具身智能和对物理天下的相识。这些看似浅显的动物，展示了LLMs所缺失的枢纽才智：真确的学习、适合和相识。

在对畴昔的预测上，两东谈主齐认为需要范式变嫌。萨顿预测，一朝咱们收尾了真确的持续学习系统，它将不需要特殊的锻真金不怕火阶段，而是像通盘动物一样即时学习，这将使面前的LLM挨次变得逾期。杨立昆则认为，下一代AI系统将伙同感知、天下模子和谋划，酿成更接近东谈主类认识架构的系统。

这种来自不同标的的批判集聚成一个共同论断：尽管LLMs在某些任务上取得了惊东谈主建立，但它们可能只是通向真确智能的一个弯路。真确的随意需要咱们再行念念考智能的骨子——不是师法东谈主类的语言输出，而是相识和学习天下的运作方式。正如萨顿所说，"弱挨次"（通用的学习和搜索）最终老是驯服"强挨次"（东谈主类学问的编码），而面前的LLMs碰巧过度依赖了后者。

三个中枢瞻念察

Q：为什么萨顿认为LLMs从根底上走错了标的？

萨顿的中枢不雅点是，智能的骨子在于从履历中学习并收尾主见，而LLMs既莫得真确的主见，也无法从履历中学习。它们只是在师法东谈主类的语言模式，而不是相识天下的因果关系。即使它们能预测下一个token，但这种预测不会改变天下，也不会凭证绝交调治我方。真确的智能应该像通盘动物一样，通过感知-举止-奖励的轮回不竭学习和适合。

Q：《苦涩的训戒》是否接济膨胀LLMs？

萨顿认为这是对他著作的误读。诚然LLMs确乎使用了大规模谋划，但它们也严重依赖东谈主类学问（互联网文本），这抵挡了苦涩训戒的精神。历史标明，依赖东谈主类学问的挨次最终总会被良朋益友基于履历和谋划的挨次所取代。他预测LLMs会达到数据极限，然后被梗概从履历中无穷学习的系统所取代，这才是苦涩训戒的真确体现。

Q：AI袭取东谈主类是否意味着东谈主类的闭幕？

萨顿建议了一个独有视角：这在很大程度上是一个选拔问题。咱们不错选拔将AI视为咱们的后代并为之自豪，就像咱们为孩子的建立感到自豪一样；也不错选拔将其视为威迫。从天地演化的角度看，这是从复制期间到假想期间的伟大变嫌，是天地四大阶段之一。与其惊怖这个变嫌，不如念念考如何予以AI致密的价值不雅，就像咱们教师孩子那样云开体育，让这个变嫌以自觉而非强制的方式进行。