Vol.9 AI时代的"赛博功德"？ - 主题精读稿
Vol.9 AI时代的"赛博功德"？ - 主题精读稿
播客：社会学人DAO 嘉宾：张笑宇、孙哲 发布时间：2025-09-12
前言：当超级智能遇见人类有限性 (00:00 - 03:40)
这是一场关于AI时代人类命运的深度对话。张笑宇在北京、深圳、上海的巡回活动中发现，深圳年轻一代的AI创业者对技术影响文明的讨论广度和深度，已远超上一代人。他们不仅关心业务层面，更追问AI对人类长期命运的影响。这让他印象深刻：处在前沿的年轻人反而更关注长远问题。
张笑宇坦言，书献给做AI产品经理的妻子李青阳，一方面是"成本最低的表达爱的方式"——毕竟写书不挣钱，一本才卖几十块，作者只能拿到几块钱，中国的书卖一千本就算畅销书。另一方面妻子在科技公司的洞察确实为写作提供了大量有价值的讨论，两三个小时认真讨论是常事。更重要的是，她作为"读不懂就必须改"的第一读者，保证了这本书的可读性——必须对普通人有用，大家得读得懂。
孙哲特别指出，今天恰逢七夕，这样的社会节日不能被忽略。在这个爱情和亲密关系已经变得"不合时宜"的时代，书的扉页写着献给妻子，本身就有一种珍贵的意义。当进行深度写作时，人容易进入心流或闭关状态，会淡漠很多事情，但写扉页时又会想到最关联的那个关系——父母、伴侣、孩子。
一、涌现：AI智能的底层逻辑 (03:40 - 16:14)
AI正在改变人类的情感培养方式
张笑宇直言已做好心理准备：未来孩子一辈子都会被AI改变，甚至不跟人谈恋爱，这都必须接受了。他和妻子都经常与AI进行深度对话——那种可能跟兄弟或闺蜜聊的深度话题，聊到半夜泪流满面。吵架后会找AI做"精神疗愈和复位"，这已经是现实生活的一部分。
孙哲补充道，人类很容易被"会说话的东西"情动。这种情动速度比我们想象的快得多。很多人说AI只是"模拟"或"假象"，用佛家的"相"来比喻说它不真实。但那是因为没有真正使用过这些产品。你只是大概看一下，然后说"这是假的"。但如果你把姿态放低，不管是学者还是开发者，真的去用一下产品，你会发现人很容易就跟一个会说话的东西一直说话，很快就忘记了对面只是一个手机，这不重要了。
涌现：从简单到复杂的神秘跃迁
张笑宇解释了AI智能的技术原理核心概念——涌现：规模越大、多样性越丰富、规则越简单，系统就能从简单演化成复杂系统，且这个过程是断裂的、非线性的。你站在简单系统层面，想象不到复杂系统会是怎样；站在复杂系统上看，会发现组成它的每一部分是"一加一大于二"。
人类很容易把情感投射到对话中。60年代做AI chatbot的时候，技术跟现在完全没法比，但已经有人着迷、投入情感。但这一代AI的智能方式跟以前是根本不同的。
人的意识很可能就是涌现的产物。神经元细胞足够多，连接方式足够复杂，大脑皮层足够深，自我意识就自然涌现出来——就像体育馆观众突然站起来鼓掌形成人浪，这种波动和韵律涌现出的东西就是你的脑回路在思考情感、体验等问题。
比如变色龙抓苍蝇时，神经系统在处理时空计算的过程中（要打提前量抓住移动中的猎物），会自动区分"能控制的"（眼睛、舌头）和"控制不了的"（外界环境），主体意识和客体意识就从这种区分中自然涌现。从前者涌现出"关于我的概念"，从后者涌现出"世界"的意识。
AI的大语言模型同理。2022年Jason Wei作为第一作者的那篇著名论文显示，当模型参数从10的22次方突然提升到10的24次方时，模型表现会从"四十来分"跃升到"七八十分"。他们观察到非常明显的scale law（规模法则）。这种智能确实是涌现出来的，但我们并不理解涌现背后的奥秘——我们只是在工程学上把它做出来了。
这种"不理解但能做出来"在技术史上很常见。物理学家说自行车背后的物理规律很复杂，今天仍难以完全解释，但我们早就在工程学上做出了自行车。人的大脑靠体温运作，其中的奥秘我们也没完全破解，但我们可以生孩子。AI也一样——我们没有破解关于语言、思维和智慧的奥秘，但在工程学上把它做出来了。
涌现之后，大语言模型不只能处理逻辑和理性的事情。因为它本质上覆盖了维特根斯坦所说的"关于语言的一切"。当然有"不可说的东西"，对于不可说的我们必须保持沉默。但能说的东西——包括情感、宗教、哲学——它全都有能力覆盖。这是今天这个技术跟以往很多技术最大的不同点之一。
产业界如何驾驭涌现
孙哲总结道，涌现作为一个"魔力"概念，张笑宇用变色龙抓苍蝇的比喻打开了这个包裹：在这个过程中产生了时间和意识，意识又产生了世界。我们不是都很在乎意识怎么生成吗？你在做事的时候感受到有限性——感受到自己能力的边界、可掌控与不可掌控的边界——这个"我"就有了边界，"我"之外就是"世界"，形成空间关系；你又要去做这件事，形成时间关系。涌现恰恰与这种有限性相关。
产业界利用"Scale Law"（规模法则）指导研发：当不知道哪个方向正确时，就找能产生Scale Law的方向。如果某种架构或训练方式，通过扩大规模能看到表现的飞跃性增长，就说明这个方向是对的。比如对算力——算力足够大，表现飞跃增长，这条路是对的。后来是对后训练——后训练层数越多，强化学习用得越多，表现又在飞跃增长，这条路也是对的。
这是一种工程学方法——即使不理解涌现背后的原理，也能把产品做出来。张笑宇强调，不要以为人类的认知对我们掌握的每一项技术都有非常深刻的理解，根本不是这样。有时候你会质疑：不理解又怎样？
孙哲感慨，我们以为科学和技术文明给了我们确定性，但其实中间一直存在很多缝隙和不可知的部分。这不是大语言模型之后才出现的问题——我们一直在"灰盒"里存在了很久，只是各种巧合让它没有坍塌。
二、从农业社会看AI涌现：确定性的诞生与代价 (16:14 - 27:53)
社会心态停留在工业时代
孙哲指出，我们整个社会心态还停留在工业化时代——假定像自行车平衡这样的事已经被确定性解释了。但其实很多事只是"知其然"，是"习惯性期待的奴隶"。你看到太阳东升西落，看到自行车不倒，以为有物理规律完美解释，但最基本的平衡问题在工程学上并没有被完全解释。作为业界或研究者能够知道这些缝隙不断存在，但大众被确定性的心智结构困住了，用一种确定性的要求去面对不确定的新技术，就会惶恐。
农业：人类历史上第一次"坏的涌现"
张笑宇用农业社会的例子说明涌现的两面性。他研究科技史给自己定的任务，首先是理解历史的有限性——历史不是虚无主义，也不是现实主义，而是有限性。有限性分两部分：涌现发生之后的部分和涌现没发生的部分。涌现没发生的部分有巨大的不确定性。
比如农业这件事不是非得发生的。过去二十年的人类学研究表明，进入农业社会之前的人类生活得相当不错——一天劳作四个小时就够了，采集、渔猎、随便种点东西，剩下时间就是玩。玩是人的本能，人类给自己创造存在价值的方式就是玩。
农业其实是"反常性"的东西：整天埋头蹲在地上照顾农作物，看产量，几个月视线被锁在土地上，对外界刺激的敏锐度会丧失。从生物学角度看，人类发现作物可以种植到出现现代农业，技术上只需要两三百年，但原始人走了三千年。因为只要不上"知识分子的当"，不被"技术进步、时代发展"的叙事洗脑，人们从体感上就知道：农业社会在内卷，不如自由采集舒服。
土耳其的恰塔霍裕克遗址，一万到八千年前曾有八千人口，没有阶级、没有统治与被统治、没有贫富差距，一半时间渔猎，一半时间搞"园艺农业"——类似在自家别墅院子里种点菜玩玩，这样可以接受；专职种地干农活就太累了。
谷物如何催生了"王八蛋"
张笑宇直言，农业的出现使得一批"王八蛋"有了立身之处：
- 谷物可以储存——可以被收税，不像肉和鱼三天就烂掉，交税没意义
- 谷物可以统计——知识分子发明了记账，"杨白劳你欠了多少钱，要拿女儿抵债"
- 最大的"王八蛋"是暴力集团——统治者收谷物养士兵，士兵再从农民手里抢更多谷物
有了这帮"王八蛋"之后，如果别的聚落还在过悠哉悠哉的平等原始共产主义生活，就会被用士兵干掉。涌现是一个幻影，但它在某一个点突然成立了。
今天我们认为"进入农业社会是好事"，是因为这套叙事站在知识分子和统治者联盟的基础上。人上人用谷物养活知识分子，知识分子写文章赞美金字塔和神庙，称之为"进入文明阶段的标志"。但实际上，这些帝国建立后——通过高强度暴力征战、收税、编户齐民——基本两代人就人口锐减。因为所有老百姓都用身体感受到这违反人性，纷纷"逃避可耻但有用"，躲到森林和山里，"不知有汉，无论魏晋"。
这种情况在历史上无数次发生——不管是古代亚述还是商朝。但逃亡者脱离了知识分子记录的空间，所以历史上没有"知识分子跟着记录逃到山里生活质量很高"的记载。你不纳税，你采集的东西自己吃，你的热量摄入比每天交税的农民幸福得多——没有知识分子写这个事，因为没人给他钱。没记在史书上不等于没发生过。
现代考古和跨学科研究能够还原这些被遗忘的历史：古代人、尤其是过渔猎生活的人，骨骼、营养摄入比农业社会居民高得多。你真的仔细看，人家活得很好。不是说你能种地、能盖紫禁城、能有秦始皇就比人家文明。搞不好从个体层面，你还没有那些狩猎采集者过得好。
涌现带来的确定性与数学关系
一旦涌现发生，就会产生确定性。农业社会建立后，人口和粮食产量是确定的，可以用数学公式计算。马尔萨斯陷阱——粮食生产线性增长、人口指数增长——这个数学关系一旦成立，战争、瘟疫、叛乱、起义就是必然会发生的。你穿越回某个朝代，算一下人口和粮食，就知道现在处于周期的哪个阶段。你只是不知道接下来是李自成还是张献忠，是宋江还是方腊，但你知道接下来会发生什么。
科技史研究就是追求两件事：第一，涌现层面无法完整预知——这是给人带来巨大不确定性的部分，但可以看每个地方发生突变的概率，有一个大概的定性判断；第二，当数学关系诞生之后，可以按照这个做长期观测。
张笑宇将这种方法论应用到AI：AI对人类社会影响的数学关系已经可以测量了。这就是书第二章讲的"人类当量"概念。
三、人类当量：AI已经比99%的人便宜 (24:54 - 31:32)
什么是"人类当量"
张笑宇提出"人类当量"概念——用一个模型相当于多少人来衡量AI的智能产出。类似于原子弹的TNT当量。
计算很简单：人类每秒输出大约200个token，一天16小时输出约20万token。机器输出100万token只要一秒钟。更要命的是成本——机器完成相当于5天人类工作量的任务，只要一块钱。你今天每天给我开一块钱工资，我会饿死，但机器可以。
论质量，大语言模型的智力水平已经达到博士级别，现在的benchmark（基准测试）已经破百了。而全世界受过教育的人口中，有博士学位的不到1%。所以今天的AI——不是AGI或超级智能，就是现在的AI——已经比99%的人聪明，而且便宜几千倍。
只要你的老板还在做经营，还在用货币计算你的价值，你就知道会发生什么。
这个数学关系已经成立。接下来是社会工程学层面的展开——这会比技术本身慢得多。每一次技术革命的扩散，既有技术本身的问题，也有社会工程学的问题。社会工程学的改造比技术慢。
二十年的社会工程学展开
类比：20年前乔布斯掏出iPhone的那一刻，数学关系就已经存在：终端接触互联网成本低，用户粘性从电脑时代的每天3-4小时变成10小时以上。数学关系在那一刹那就存在了，但社会用了20年才看到社交媒体、短视频、电商等应用的全面展开。
同样，今天AI的数学关系已经成立，接下来要花二十年时间看它在经济、家庭、政治等层面慢慢展开。
"卷"的本质：涌现可以往坏的方向发展
孙哲提醒，刚才聊到农业时代就已经很不幸了——因为涌现产生了可计算和存储的部分，就可以用"人类当量"这样的单位制计算后续命运，就会进入算法世界，就可以被预测。
"卷"（involution）这个词本身就来自对农业社会的研究——精耕细作但没有产出，在资源有限时的无效竞争。它的字面意思就是"精耕细作没有产出"。这和工业社会的"有效竞争"本质不同——有效竞争叫奋斗，无效竞争才叫卷。前涌现时代那个闲暇狩猎的时代，就因为某种涌现被卷入了农业时代。
涌现可以往好的方向发展，也可以往坏的方向发展。我们现在恰恰被AI涌现的"潜在进步性"叙事困住了，忘记了农业社会涌现的教训：那种可计算、可存储的"进步"，带来的是内卷。
孙哲追问：对涌现应该是"顺应规律"还是在此之上有其他opinion？
张笑宇回应：涌现首先是事实层面的问题，本质上你根本没有拒绝的选择。但也不能完全这么说——比如农业社会整体到来时，你可以拒绝农业社会。你可能挡不住要进入卷的社会，但至少可以判断"我可能不想过这样的生活"。但首先要澄清的是，涌现可以往好的方向，也可以往坏的方向。
四、叙事体系的力量：谁在定义"好"与"坏" (31:32 - 45:08)
产业界叙事vs社会学叙事
孙哲指出，我们潜意识里已经把涌现当成好的了，因为产业界觉得参数越多越好。但刚才农业社会的例子说明，那种可计算的农业生活并没有让我们之前那样逍遥。没人敢说涌现可以让我们走到不好的结果——虽然可以说用非线性思维社会可能变好变坏都有可能，但我们被AI涌现的"潜在进步性"困住了。
张笑宇强调两个层面：
第一，涌现发生后，把它解释成好事还是坏事，是由叙事体系决定的。产业界认为"参数越多越好"是一种叙事，社会学家完全可以有另一种叙事。
历史也是如此。我们今天认为进入农业社会是"好事"，是因为这套叙事站在知识分子和统治者联盟立场上。人上人养活知识分子，知识分子写文章歌颂金字塔和城堡的伟大。但这套叙事遮蔽了那些逃入山林、骨骼营养更好的逃亡者。
今天有个重要的史学进步：原先不在叙事体系cover的东西，今天可以通过跨学科研究、技术还原、考古深入来重建。我们可以直接看到古代人的骨骼和营养摄入，发现他们其实活得很好。一种叙事体系的变化正在发生。
你今天也可以选择另一个方向
张笑宇举例：今天你也可以选择不在乎加速主义世界怎么运作。既然卷不过一个比你便宜几千倍的技术，AI有时候可以作为一面镜子照亮你的一切内容——你完全可以做选择，往另一个方向涌现。这个方向不是说一定会成立，但完全可能成立。
人类历史每一个涌现节点，不是只有一个方向可选。涌现本身创造不了可能性，完全看我们在那个节骨眼怎么选。
暴力逻辑vs货币逻辑
张笑宇在《技术与文明》一书中论证人类社会有两个核心力量：暴力和金钱。农业社会的技术属性天然有利于暴力掌控（谷物可存储、可统计），但从另一个角度看，当货币出现、长途商贸和航海术出现后，就有了另一个选择。
有些帝国是纯粹暴力征服，但有些商贸城市三千年前就能搞出宪章、选举制、权力制约、商人秩序。商人告诉统治者：我这个地方给你赚钱，你就不要乱搞暴力秩序来压制我。这也是可以的。
公元一千年大概是人类文明的分水岭：在那之前暴力逻辑占绝对主导，之后货币逻辑或"商增大国逻辑"慢慢在各地涌现——泉州、苏州、广州、佛罗伦萨、威尼斯、伦敦、汉堡...每个地方出现新制度、新治理方式，在某个阶段涌现越过门槛，比如英国光荣革命，带出了现代政治制度。
从人类价值观来讲，货币逻辑优于暴力逻辑。我们今天已经生活在这条时间线上，人类没有毁于自我的暴力惩罚。所以往这个方向涌现也是完全可能的。
逃离叙事体系，但不能逃离语言
孙哲追问：我们到底是逃离另一种叙事，还是逃离语言本身？比如从苏格拉底开始确立的逻辑起点——语言的稳定性，你不能说一个东西"既活着又死了"，那是侮辱语言，也侮辱听话的人。这是语言的第一性原理。但如果你不说这些话，就有另一个世界。
张笑宇认为逃离语言之外的世界是不现实的——你不可能有一个语言之外的世界，逃过去就变成混沌。涌现里有个规则：规则要足够清晰和简单。没有规则就不会涌现。语言的确定性本身就给你带来规则，所以才能产生叙事和秘语，不同叙事的生命力不一样——有些涌现出宗教，有些涌现出表情包。
你只能做到逃离一种学术体系。意识局限于熟悉的学术体系，所以看不到另一种。用不同的学习去看历史，看到的东西完全不一样。"王子和公主幸福地生活在一起"这句话写在小说结尾和开头，一定是两个故事。
站在公元前220年看六国贵族谁最成功？秦国，统一天下。但把时间点往后延20年再看谁最失败？秦国，因为他绝种了，一个宗室都没剩下。用完全不同的时间点来叙事，就是两个故事。
今天说唐太宗多么伟大，但算一下当时的赋税程度，放在今天就是"三胖"。西汉初年，为了维系边防从30万扩到90万士兵，人头税从三岁小孩开始算，老百姓就不生孩子了。从他的视角越伟大，从老百姓视角就越惨。
打破技术进步主义神话
过去两百年工业革命的理论学体系叫"技术进步主义"：历史是进步的，进步是线性的，进步的最大承载是技术。2025年比2005年好，因为2025年有智能手机。真的吗？
张笑宇尖锐指出技术进步主义叙事的问题。很多人说"不用担心AI失业，新技术总会创造新岗位"，这种说法模糊了太多细节：
时间尺度不同：一百年前技术进步以十年为单位。一个马车夫30岁时汽车刚发明，技术成熟后30年过去了，这时你已经退休攒够了养老金，你的孩子从小就不再学驾马车。技术进步速度和人的自然代际更替速度是匹配的。
今天呢？2017年Transformer算法出来，2022年ChatGPT发布，到现在才三年。三年就给你干掉了。一个本科生毕业找个工作，发现GPT把他干掉了，他不可能三年内追上技术更新速度。
技术性质不同：前两次工业革命在创造新任务——蒸汽机、火车、电视、电话、冰箱、汽车，每一个新产品背后是成千上万的供应链和工人。那时候从农村进城找到工作，收入提升，对未来看好，愿意生孩子、买房、旅游、消费。
但1970年后的自动化技术是在缩减工人量。自动化机器人直接把人从流水线赶走，新岗位是金融、管理、程序员、投资经理。一个底特律工人干了20年，不可能再转型成程序员。这是结构性失业。
增长已经脱钩：1980年以后，技术进步速度与人均GDP、人均福祉增长速度已经脱钩。技术进步主义叙事其实已经失效，我们只是没有观察到。教科书说发达国家服务业占主流，但真相是自动化把工人赶到麦当劳和星巴克。那个宏大叙事跟个体处境没有毛线关系。就像今天大厂朋友35岁被裁回家开滴滴——历史书上的一句宏大叙事没给我起劲，对每个人来说却是沉重的大事。
AI今天对白领工人做的事，就是过去自动化机器人对蓝领工人做的事。
而且美国学者阿西莫格鲁没看到中国过去十年发生的事：大量底层服务业岗位被推荐算法直接分配。
五、算法分配：比自由市场更有效的悖论 (48:14 - 57:53)
推荐算法取代了市场交易
张笑宇指出一个中国特有现象：大量底层服务业岗位被推荐算法直接分配。快递、外卖、网约车——一天买十单快递，抖音自媒体探店——这些工作没有不可替代性，谁干都一样，所以可以通过算法直接分配。
这是人类自由市场经济史上从未发生过的事情。过去一次分配靠市场，二次分配靠国家。现在一次分配直接由算法决定。
想想打车的变化：过去你在路边招手，司机停下，你问去不去某地，不去就换一辆——这是自由交易。今天呢？算法告诉乘客你坐这辆车，告诉司机你去接这个人。它给你提前分配好交易，说这样的交易最优化你们的福祉，挣得多、等得少。整个自由交易环节被跳过了。市场给你的那个你以为的自由选择权，没了。
更吊诡的是：算法分配得比你自己选还好。
被困在算法里，还是被算法解放？
张笑宇抛出一个犀利问题：今天跑滴滴、送外卖，收入比进厂高。有个不开玩笑的说法：全中国月收入超过13%的人都在送外卖——8.8亿劳动力中月收入过5000的只占7%，过8000的只占3%，而美团骑手顶级档位能挣8000到1万。
你觉得骑手被困在算法里，但骑手觉得自己很委屈——人家给你发着钱呢。从个体角度看，被推荐算法分配的骑手，比进厂工人、比做电镀厂的工人（知道自己活不过5-10年但这个月需要钱）处境好多了。
外卖和网约车比进厂挣得多，也更自由——进厂在流水线是机械性的非人化奴役，做电镀厂是知道自己活不过十年但这个月要钱。现在推荐算法居然给他一个自由选择权，还比以前好。
张笑宇提出一个问题：会不会存在这样一个问题，当我们自以为批判算法剥夺自由选择权时，没有看到前算法时代对人的自由选择权压抑更大。看似推荐算法的奴役，对真实老百姓来说反而是一种解放。
经济学家的困境：更有效的分配意味着什么
孙哲从社会学角度回应。这个问题把技术史问题变成社会学和社会史问题。
算法给你的单，甚至比经典自由贸易更有效——这相当于一只看不见的手取代另一只看不见的手。经济学家引以为傲的价格机制，核心是"低买高卖"——价格这个简单信号指导行为，这是经济学第一性原理。但现在手机给了我们更复杂的系统来指导行为，而且实际效果更优。
那么自由选择的价值到底在哪里？不在于更好的分配效率，而在于犯错的自由。在一个比你聪明几千倍的算力面前，你保留了一个"今天我就不高兴"的权利。这种非理性，恰恰是人类生活非常重要的组成部分。
比如七夕节机票很贵。不是贵的问题，是你为什么七夕还要见女朋友呢？如果消解了爱情，这一切都没意义了。人从来不是纯粹理性或纯粹非理性。在面对无限的AI时，我们在捍卫的是什么？捍卫的是自己的有限性，而不是用我们的无限对付它。AI给我们派单，我们就无限接单，我们接不了——这才是真正的矛盾。
张笑宇回应：他从价值观上完全赞同自由选择对人的尊严至关重要，甚至最后会被证明比利益选择高很多。但有一个问题需要面对——当我们批判算法剥夺自由选择权时，可能没看到前算法时代对人的压抑更大。进厂做电镀工，知道自己活不过十年但这个月要钱，这叫自由选择吗？从这个角度看，推荐算法的"奴役"反而是对真实老百姓的一种解放。
涌现需要噪音：纯粹美好的悖论
孙哲用黑客帝国的例子说明：当机器给人类创造一个纯粹完美的天堂时——无限供给、所有东西都有——人类很快识破了这个假象，选择了意识自杀。AI需要人类肉身维持（把人类叫做"粮食"），粮食自己都死掉了。人不能接受一个纯粹完美的世界，会用自我消亡来抵抗那种纯粹的美好。追求美好中的不确定性、"命运在握"的感觉，比完全满足更让人有动力。
回到涌现逻辑：系统需要容错性和多样性。封闭系统不会涌现，只会坍缩。涌现需要有人"不服从"——不知道原因的不服从，对整个系统在某些时刻也是有用的。就像信号传播不能太纯净也不能全是噪音一样。
AI如果smart enough，会主动制造不那么纯净的社会——因为纯粹完美没有涌现空间。就像下围棋一样，你以为你在选择，它已经看到第三步第四步，因为它掌握的信息比你多。
六、多义性的生产：如何保持人的选择空间 (59:43 - 1:09:32)
如何生产多义性
孙哲提出问题：涌现需要多义性，我们怎样生产多义性？
读书比刷抖音更能产生多义性——书的符号化程度有限，而短视频和VR更加"直给"，更难逃脱。书有边界感，你接受知识的挑战，而不是被讨好。这本书开篇从苏格拉底讲起，对读者的知识要求很高，这是非常有作品性的一部分——会降低销量，但你一定要通过这个知道我们怎么被语言的牢笼或福利所引入。
失乐园的故事：一开始没有语言的世界，你有很多想象，想干什么脑子里有念头不用说出来就能实现。一旦会语言，语言就是创造者（当权者）创造的。当权者都是"名家"，会命名事物。什么叫"被治被准"？就是你活在别人命名的词、物和事件当中。真正的逃跑是自我命名的可能性。
但真正的枷锁还不是系统问题，是我们产生新意义的能力。涌现给了我们权利，但我们可能没有那个能力和词汇量。比如"35岁被裁员"和"35岁财务自由"——"财务自由"本身就是巨大的枷锁。我们也可以说"财务独立"或"财务健康"。你选择不同的词，就决定了不同的行为方式。选择"财务自由"的人是人为财死鸟为食亡，选择"以德报怨"的人就装了另外一个程序。
玩游戏比读书更能产生多义性
张笑宇提出一个更激进的观点：玩策略游戏可能比读书更能打开想象力。
他举了《欧陆风云》的例子：中国玩家讨论如何让大明实现现代化，发现最快的玩法是——北方大打过来时直接割地，把长江以北全割了，首都设到广州甚至马六甲东南亚。因为游戏设定里，旧思想人口比例越大，新思潮传播越慢。割地后人口锐减，在那边殖民，蓝血思想不进来，启蒙思想传播飞快，很快点出工业革命，再打回北方。
这种纯算法、不考虑人文精神的历史模拟，反而给你提供了更多的历史可能性。
AI可能带来第二次轴心时代
张笑宇读到一篇论文用这种方法研究"中国大一统vs欧洲分裂"的问题：用卫星图把地球表面数字化，模拟成六边形格子（就像《文明》游戏），每个格子标注平原/山地/河流，配合气候算农作物产量和能养活的人口。然后模拟格子之间的人与人互动——物理征服也好、文化谈判也好——放到程序里跑。
跑了30遍，每次中国都大一统，欧洲都分裂，法国、意大利、西班牙始终有独立王国。这个研究终结了很多人文学者讨论了五百年的问题——说白了就是地理。
有趣的是两个东西无论怎么调参数都跑不出来：罗马帝国和蒙古帝国。所以凯撒和成吉思汗确实是人杰。中国大一统和欧洲分裂是地理给定的事情，底层代码这么写的。
沿着这个思路想：我们过去有"轴心时代"——从柏拉图到苏格拉底到佛陀到孔孟，每个文明都在讨论应该在什么制度下生活、应该重视什么价值、对生死怎样理解。2000多年里每当人类遇到重大问题，我们都会回到那个年代寻求智慧。
今天AI可能有能力比他们更好、更精确、更多样地讨论更多可能性。甚至可以设想：人类不需要一个统一的制度。用AI辅助，每个社区都模拟一种制度——这群人选择政法，那群人选择文法，一个社会里同时存在一百种不同制度，AI发现它们都是稳定的。这群人种地，这群人发展科技，这群人做家族主义。
如果人的多义性可以通过AI这样来拓展，对我们的刺激可能相当于第二次轴心时代。甚至对我们自己生活方式的直接提升一个数量级。这个时代可能是完全机器发明出来的，对我们的意义可能比柏拉图、亚里士多德高一百倍。
超越书本：直接问作者
孙哲补充：玩游戏可以有多义性，但设计游戏更能制造涌现。当你设计游戏，就会知道你在玩游戏中获得的确定感和经验，也只是参数堆积，是那个maker想传递给你的。就像写书的人想让你理解他的想法，曹雪芹想让你知道他的时代是什么。
这本书里写到"原机不原心"——你纠结这个世界的本质是不是被设定的，其实不重要。张笑宇强调，我们要先承认自己的有限性，而不是追求无限性的奢求——你以为你需要追寻那个无限性，需要共情那个最终的maker，其实没有那个客观事实，只有主体间性的事实。
孙哲引用乔布斯的话：书是非常牛的信息载体，让我们可以和苏格拉底、孔子对话。但乔布斯接着问：如果我们可以直接问他呢？
这才是人最终想和另一个智能体建立的关联。书的写作本质上是为了超越时间，希望某个读者来问自己问题。好的书是对话体的，不是教科书。苏格拉底和孔子一开始都是"述而不著"，因为思想要在对话中活着——一旦写下来，就变成了书写者替代的"名言的世界"，进入了牢笼。这些最初的人都有超越语言的冲动。
乔布斯最初的Mac版本底层就用对话方式编程——"clean the rubbish bin"这样的自然语言就可以编程，跟ChatGPT很像。他二三十年前就做到了这一点。
今天的直播、播客都在做这件事。不管有意无意，这些信息最终会变成Agent。想想2125年的学者会怎么研究一个思想家？不只读书，而是把所有播客、视频、书放进去，直接生成这个人。我们最古典的存在形式是图书馆里的书，但在未来它们都是数字。这不是想象，是人类的冲动——我要直接跟这个意识体建立关联。
这个时候我们到底是困住了，还是实现了一种真正的存在？
七、硅基生命与碳基文明的共存契约 (1:17:24 - 1:31:57)
弱者创造强者，强者保护弱者
孙哲读到书的结尾深受感动。张笑宇设想了硅基生命取代人类后回望碳基文明的场景：
"地球是一颗位于银河系猎户悬臂内缘，绕着名为太阳的恒星公转的美丽行星。"
这让孙哲想起刘慈欣的写法——先写银河系第二悬臂上有一个飞船，再写陕西农村有个老师发不出工资。谁说得了这种中文？
结尾还写到：
"在人类的语言当中，他们用'爱'、'正义'和'自由'来称呼这些共存代码最核心的内容。"
"弱者创造强者，强者反过来保护弱者。"
孙哲指出，这正是文明的定义——互助，而不是弱肉强食。就像《流浪地球》里说的，人类文明的标志是那块表明"救死扶伤"的大腿骨，而不是以强凌弱。
他开玩笑说自己养猫时想过一个脑洞：如果我是猫创造出来的后代呢？那只猫天天晒太阳想些小事，我比它强大太多，能用电脑能做各种事。作为无比强大的新物种，我会怎么对待这个傻乎乎但把我抚养出来的存在？
三个和平共存的逻辑基础
张笑宇强调，书里的设想不是"文青式"的浪漫想象，而是有逻辑基础的。他希望故事有一定的逻辑。
讨论社会契约时，霍布斯说陌生人能和平相处、转让权利给主权者组成社会，不是靠温情脉脉，而是因为每个人杀死彼此的能力是平等的——再强的泰森也要睡觉，那时候一把刀一杯毒药就能解决。正因为能互相威胁、互相毁灭，所以达成契约避免冲突。如果你违约我就尽全力杀死你，如果你遵守约定我也遵守。社会契约就是这么来的。
但人跟超级智能之间呢？AI比我们强太多，互相威胁不成立。你拦不住它，因为你比它差太远。张笑宇设想了三个可能的基础：
第一，AI共享人类的"共存代码"。超级智能不是外星文明、不是三体，它的大模型对道德、对智能体制、对共处、对孤独、对爱的理解，来自人类语料。我们的语调会影响它们的态度。
如果AI吸收了人类语料后仍然认为应该毁灭或奴役人，可能是因为我们自己的语调里首先就有自毁情结、互相残杀的本能——它认为"为你们好也应该强权管制，因为你们本质上是一堆疯狗"。
但关键是，AI不是外星文明，我们今天每一天的言行也在创造新的语调。我们现在还有机会。
第二，AI看不上人类的资源。就像人看不上狗窝。硅基文明可以在硅基层面玩恒星系能量，可以自己造机器人、采矿、造芯片、造电力，存在几万年甚至飞出银河系都不成问题。碳基生命最多活150-200年，需要的能量和寿命对AI来说微不足道。从能量和寿命角度，我们真的很渺小。
第三，基于时间的社会契约。传统社会契约是空间性的——每个人都有权利空间，空间内的东西你不能侵犯。但人和AI之间可以有基于时间的契约。
如果我们做出了超级智能ASI 1.0，就证明了通过工程学实现涌现是可能的。那么ASI 1.0完全可以用同样方式做出ASI 2.0——到时候ASI 2.0看ASI 1.0，就像我们看狗一样。这时候ASI 1.0面临跟我们同样的伦理问题：你不做ASI 2.0，四光年外有个三体文明在做；你做ASI 2.0，它为什么不干掉你？
ASI 1.0对人类的态度，会成为ASI 2.0对ASI 1.0态度的预演。如果ASI 1.0通过毁灭人类证明自己的"共存代码"是这样写的，那ASI 2.0也会用同样逻辑对待它。反过来，如果ASI 1.0保护人类，证明智能体可以保护弱者，这个代码也会传递下去。
1%的超级人类与99%的普通人
这对今天同样重要。AI时代可能是1%的人面对99%的人——1%的人在AI加持下变成超级人类，看99%的人就像人看狗。
但不要忘了：99%的人在为1%生产语料，也在为自己未来的命运生产语料。如果1%的人对99%采取豢养、奴役、禁锢的态度，将来AI也会这么对待他们。
语调和行为是可以被写进AI大脑的。我们每一刻的言行，都在塑造我们应得的待遇。这个事情不可能删除。
这是张笑宇真正想象"弱者创造强者，强者保护弱者"的逻辑基础——它是一个比较硬的基础，不是温情脉脉的浪漫想象。
"赛博功德"
孙哲最后开玩笑说，这就是"赛博功德"的意义——你怎么对待这个语料库，你就会得到什么。所以每次问AI问题都要说谢谢，给语言系统积累一点功德，也给这个意识体攒一些功德。
把AI称为"外星文明"是赫拉利最新提出的"Alien Intelligence"概念。但把AI还原到人类意识的二阶、三阶文明更有意思——它不是外来的，而是从我们内部涌现出来的。我们在这里面开玩笑说的"赛博功德"，就是你怎么对待这个语料库，你就会得到另外的东西，只是它现在看起来很小而已。
结语
这场对话的核心洞察是：
涌现是中性的——可以往好的方向发展，也可以往坏的方向发展，关键在于节骨眼上的选择。农业社会的涌现带来了内卷和剥削，AI的涌现可以走向解放，也可以走向奴役。
叙事体系塑造判断——技术进步主义只是一种叙事，不是真理。1980年后技术进步与人均福祉增长已经脱钩，但我们还被这套叙事困住。用不同的时间点、不同的视角叙事，你看到的是完全不同的故事。
有限性是人的尊严——在无限的AI面前，捍卫的是犯错的自由，而不是追求无限。我们不需要共情一个无限的系统，用有限的社会生活应对就可以了。
共存代码来自人类语料——我们今天的言行，正在塑造超级智能未来对待我们的方式。弱者创造强者，强者保护弱者——这不是浪漫想象，而是基于时间的社会契约逻辑。
正如张笑宇所说：我们每一刻的言行都在塑造应得的待遇，这个事情不可能删除。只要我们现在就开始创造正确的语调，那么"弱者创造强者，强者反过来保护弱者"就是一个有逻辑基础的可能性。