斯蒂芬·沃尔夫勒姆在第四次做客Lex Fridman播客时，深入探讨了Wolfram语言与大型语言模型的根本区别。他认为LLM是“宽而浅”的语言续写，而Wolfram构建的是基于符号表示的“深”计算。他重点阐述了“计算不可约性”理论，并指出我们作为观察者，正是通过识别世界中的“可约性口袋”来构建知识和科学。他还提出了语言存在“语义语法”或“思想法则”的假说，认为GPT正通过海量文本发现这些超越纯句法规则的深层结构。
在第四次做客Lex Fridman播客时，计算科学巨匠斯蒂芬·沃尔夫勒姆（Stephen Wolfram）与主持人深入探讨了AI时代计算的本质、语言的深层结构以及人类认知的边界。他将其创建的Wolfram语言/Alpha与以ChatGPT为代表的大型语言模型（LLM）进行对比，阐述了“深计算”与“浅统计”的核心区别。对话围绕“计算不可约性”这一关键理论展开，揭示了科学探索的本质，即从复杂世界中寻找可简化的“可约性口袋”。沃尔夫勒姆进一步提出，语言本身可能存在一种“语义语法”或“思想法则”，而LLM正无心插柳地从海量数据中发现这些规则。
展开「深读」看每一段讨论的问题与论据。
讨论的问题：大语言模型与Wolfram Alpha/Wolfram语言这两种系统在哲学和技术层面的核心区别是什么？
论据 / 案例：ChatGPT基于万亿单词的网络文本，进行基于统计的浅层计算；Wolfram系统基于40年构建的计算堆栈，进行基于数学和系统知识的深层计算。
讨论的问题：这两种系统在计算本质和目标上有何不同？
论据 / 案例：大语言模型是基于训练数据的统计延续；Wolfram系统是基于形式结构进行深度计算，以得出新结果。
讨论的问题：如何连接计算的普遍可能性与人类心智的认知结构？
论据 / 案例：1980年代初的发现：极其简单的程序（不到一行代码）运行后能产生极其复杂的行为，这与自然界的运作方式相似。
讨论的问题：用什么形式来封装和连接人类抽象与计算可能性？
论据 / 案例：1979年左右发明的基于符号表达式的计算表示方法，被证明在45年里非常成功。
讨论的问题：什么是计算不可约性，它与人类观察和理解世界有何关系？
论据 / 案例：宇宙底层每秒可能进行10^100次重写，但人类无需也无力追踪；我们依赖诸如“空气仍在”等可约化的局部事实来生活。
讨论的问题：“观察者”的本质是什么？它如何影响我们所知的物理定律？
论据 / 案例：我们每刻都由不同的时空原子构成，但体验到持续的自我；意识是计算受限系统在可约化口袋中观察的特征。
讨论的问题：如何将互联网上海量的自然语言映射为精确的Wolfram计算语言？
论据 / 案例：Wolfram Alpha已对查询实现98-99%的成功率；LLM生成的代码通常很短，且其可读性（设计初衷）便于人类和AI理解。
讨论的问题：自然语言到计算语言的转换工作流中，调试和交互如何进行？
论据 / 案例：LLM插件能自动读取文档、分析错误信息并重写代码；36年前发明的笔记本概念正在与聊天模式结合。
讨论的问题：ChatGPT的成功是否揭示了语言和思维中更深层的、可形式化的规则？
论据 / 案例：逻辑是第一个例子（可抽象为p和q）；语言中还有如“A到B再到C等于A到C”的传递性规则，而“朋友”关系则不然。
讨论的问题：这些潜在的“语义规则”是否有限？人类如何筛选AI的输出？
论据 / 案例：AI可以进行很多有趣的计算，但只有以人类方式交流、涉及人类关心的话题时，才被我们认为有价值。
"I view sort of the chat GPT thing as being wide and shallow and what we're trying to do with sort of building out computation as being this sort of deep also broad but but most importantly kind of a deep type of thing." ——我认为ChatGPT这类东西是宽而浅的，而我们试图通过构建计算来实现的是一种深，当然也很广，但最重要的是深的东西。
"The story of most kinds of science, inventions, a lot of kinds of things is the story of finding these places where we can locally jump ahead." ——大多数科学、发明以及许多事物的故事，都是在寻找这些我们可以局部向前跳跃的地方的故事。
"I think chat GPT is showing us that as an additional kind of regularity to language which has to do with the meaning of the language beyond just this pure part of speech combination type of thing." ——我认为ChatGPT向我们展示了语言存在一种额外的规律性，它关乎语言的意义，而不仅仅是词性组合这类纯粹的东西。
"The fact is that if we are talking about observers like us that one of the key things is this idea of kind of taking all the detail of the world and being able to stuff it into a mind." ——事实上，如果我们谈论的是像我们这样的观察者，其中一个关键点就是能够将世界的所有细节塞进一个头脑中的想法。
"Computation is this very broad way of sort of formalizing the way we think about the world and the thing that's that's cool about computation is if we can successfully formalize things in terms of computation computers can help us figure out what the consequences are." ——计算是形式化我们思考世界方式的一种非常广泛的方式，计算的酷炫之处在于，如果我们能用计算成功地形式化事物，计算机就能帮助我们找出其后果。
