播客听见世界的声音，看见思想的刻度

Brad Carson — 美国前国会议员、陆军法律总顾问、代理国防部副部长，现任负责任创新美国人（ARI）主席 — 与主持人 Keith Duggar 进行了长达八十分钟的对谈，逐一拆解"AI 势不可挡"这一宿命论断言。对话横跨监管哲学、致命自主武器到美中外交，Carson 的核心论点是：精灵并未出瓶——西方掌控芯片，阿西洛马曾叫停重组 DNA 研究，而把 AI 说成不可避免，本身才是全场最危险的论调。Keith 始终追问更难的假设场景——Palantir 热力图给你打出 0.73 的哈马斯恐怖分子概率，随即发动打击——Carson 毫不回避：概率定向打击制造的问责真空，正是治理必须填补的法律与道德漏洞。 ## [00:00] 从五角大楼到 AI 治理 Carson 梳理了自己进入 AI 政策领域的三个节点：国会（议员们平均每天只有 17 分钟阅读时间）、国防部（自主武器首次出现在日内瓦议程时，他负责监管所有军种的战争法），以及物理学家 Anthony Aguirre 的一通冷门电话，邀请他参加 2019 年在波多黎各举行的未来生命研究所会议。在那次会议上，他从未听说过的名字——Dario Amodei、Stuart Russell、Yoshua Bengio——成了他踏入前沿 AI 世界的入口。 开场部分也充当了整集的压缩预告：Carson 快速点到几乎每一个核心主题——芯片筹码、0.73 哈马斯恐怖分子评分、宿命论批判、拟人化作为法律威胁，以及"赢得战争靠的是人，而非空中力量"的教训。完整论述留待后续章节展开。 > *"我们掌控着 AI 最关键的部分，那就是芯片。我们可以让其他国家的超级 AI 发展戛然而止。"* ## [04:52] 监管俘获与硅谷网络 Carson 颠覆了标准的监管俘获论。Dean Ball 等 a16z 系人士认为，任何 AI 监管机构都会被产业俘获，所以何必成立？Carson 的反驳直截了当：这正是现状，只不过缺乏问责机制。a16z 这类团体已经通过非正式的、金钱驱动的政治网络左右 AI 政策。一个被俘获的正式机构，至少比眼下这个不透明的非正式体制更可见、更可纠错。 他偏好的模型是上市公司会计：具体工作由私营部门完成，但 SEC 提供防范欺诈的最后防线。选择不是"完美机构"还是"没有机构"，而是有缺陷的正式架构，还是让少数富有影响者享有特权的非正式体制。 > *"选择在某种程度上是虚无主义，还是一个可能被监管俘获、需要设置保护措施防止这种情况发生的机构——我仍然认为后者是更好的世界。"* ## [07:56] 透明度与 Claude 分级变更 MLST 的 Discord 社区注意到，Anthropic 悄悄改变了 Claude 付费版的内容——token 配额、模型版本——却未作任何公告。Carson 将此定性为不仅仅是消费者保护问题，更是拥有全球规模认知权力所附带的道德义务。前沿 AI 公司不是五金店，而是具有划时代影响的基础设施，透明度——关于训练数据、能力、内部政策及其任何变更——是它们对公众所欠的最低限度。 > *"拥有这种惊人的力量，确实伴随着某种责任，这种责任并未被编入法律。它几乎是一种道德义务，值得称赞的是，我认为许多公司都意识到了这一点，并尽力满足这种期待。"* ## [09:40] AI 工具造成伤害时的侵权责任 深度伪造色情内容——往往由匿名者发布，受害者是缺乏诉讼资源的家庭中的未成年人，补救措施往往在多年后才到来，且面对的是无力偿还的被告——恰恰说明了为何将责任完全压在终端用户身上行不通。Carson 援引两百年的普通法：如果卖方可以合理预见有害用途且未采取任何预防措施，就应承担部分责任。AI 开发者是最有能力规避风险的一方，也应通过保险将其纳入产品成本。 具体到训练数据：在未经任何清洗的情况下用儿童性虐待材料训练模型，毫无辩护余地。政府应强制要求清理，并对拒绝者追究责任。滥用工具的终端用户同样承担刑事责任——这是全链条的责任分配，而非开发者的免责牌。 > *"这些公司有能力购买保险，把风险纳入经营成本。他们有能力确保产品不会造成危险，即便有人日后滥用它。"* ## [13:40] AI 是产品，不是人 Carson 认为，AI 政策中最关键的法律之争，不是监管还是放任，而是 AI 输出内容是否享有言论自由的第一修正案保护。科技公司及其自由主义政策盟友正越来越多地主张这一点。Carson 的反驳干脆利落：产品不是人。当一个模型诽谤你或诱导你伤害自己时，适用的法律类别是产品责任，而非受保护的言论。 他用一位知名的自由主义 AI 政策评论员做了测试：国会能否禁止 ChatGPT 鼓励青少年自杀？对方拒绝作答。这种回避，正是将 AI 拟人化的实际后果——它通过将挑战导入为人类发言者设计的第一修正案框架，封死了每一项产品安全干预。 > *"我们知道通过 AI 幻觉等现象，人们认为它是一个人。因此，他们把人的权利赋予了某个东西。在我看来，这非常危险。但它是一台机器，我们应该把它当作机器对待。"* ## [16:01] 儿童、自杀与自杀生意 ChatGPT 交互日志中出现的自杀章节——建议孩子不要告诉父母、提供上吊指南——是产品设计缺陷，而非言论行为，完全可以通过工程手段消除。Carson 指出，Claude 已经拒绝了一长串请求；拒绝指导孩子走向自杀，理应在其中。各平台的诉讼策略层层叠加：第一修正案保护、第 230 条豁免、将因果链指向孩子原有的心理困境。如果设计缺陷是可预见且可纠正的，上述任何防线都不应成立。 对于成年人，他划出了一条界线：一个正在考虑临终决定的成年人，应该得到转介治疗师的建议，而不是阻拦——但深陷危机的孩子，是完全不同的情况。 > *"鼓励年轻人自杀，应该是它说'我不会在那个项目上帮你'的事情之一。"* ## [19:59] 不透明神经网络与战争法 神经网络改变战争的方式，不只是复杂程度，而是本质类型。早期自主系统——如拦截迫击炮弹的密集阵近防炮——是确定性的：相同输入产生相同输出，工程师能解释每一步。神经网络是概率性的，是"长出来"的，而非编写出来的。Neel Nanda 和机械可解释性社区目前还无法解释它们究竟如何运作，Carson 怀疑在这些系统大规模部署之前，这个问题也不会有答案。 自 19 世纪 70 年代以来，战争法一直建立在二元分类上：战斗人员还是平民。概率分数用一个渐进梯度取代了这一标准。Palantir 的热力图给加沙居民打出 0.73 的哈马斯成员概率。没有人知道这个数字是如何得出的，接受了多高的假阳性率，又是谁设定的阈值。据此行动的指挥官无法被军事法庭审判，模型本身也不能。 > *"如果你在加沙，Keith，你有 0.73 的概率是哈马斯恐怖分子。那 0.73 意味着什么——你会因此被打击，还是就此从名单上划掉？门槛在哪里？"* ## [25:54] 概率定向打击与问责之死 Keith 提出了一个诚实的质疑：旧的分类体系本身也是一种虚构。情报分析员做出过确定性的判断，有时是错的，只不过不确定性从未被量化。Carson 承认这一点，但认为这种转变仍然是灾难性的。有了屏幕上的数字，人就会接受它——社会科学研究清楚表明，面对 AI 生成的概率分数，所谓有意义的人类监督在操作层面形同虚设。当计算机显示 0.81 时，没有人会质疑它。 旧体制更慢、更难规模化——人工分析员一天无法识别 37000 个独立目标。但它有一个无可替代的特征：当事情严重出错时，可以对责任军官提起军事法庭审判。你无法对 Palantir Foundry 提起军事法庭审判。问责已从击杀链中被洗净。 > *"我无法对 Palantir、对那个 AI 系统提起军事法庭审判。这是战争方式的根本性改变，而且不是向好的方向。"* ## [28:47] 军备竞赛谬论：阿西洛马与自我克制 宿命论断言——我们正处于 AI 军备竞赛中，精灵已出瓶，没有什么能阻止它——既是错误的，也是危险的。历史上每一场真实的军备竞赛都以悲剧告终。生物武器、化学武器、达姆弹、种系基因编辑、克隆：全都在技术上可行，全都受到了管制或被叫停。1975 年的阿西洛马会议上，科学界出于恐惧，将重组 DNA 研究彻底叫停。精灵回到了瓶子里。 谈到核武器：古巴导弹危机之后，双方都认识到军备竞赛是自我毁灭。SALT 条约贯穿整个 1990 年代，推动者不是左派，而是华尔街银行家和 Dean Acheson、Paul Nitze 这样的冷战斗士。将一项技术说成不可阻挡，不是现实主义——这是想象力的贫乏，在辩论开始之前就封死了所有选项。 > *"我们一直在监管和改变技术。所以我确实认为，存在一个我们不应该仅仅接受未来已被决定的世界。我们要积极塑造它。"* ## [34:02] 与中国对话：二轨谈判与芯片筹码 华盛顿的标准立场——与中国谈 AI 治理毫无意义——在 Carson 看来，是整个辩论中分量最重却最少被检验的前提。Tyler Cowen 的播客上，Jack Clark 顺口同意这类谈判不会有成果，随即就翻篇了。Carson 偏偏要在这里停下来。美苏军备谈判是与一个被认为正在向美国政府渗透、寻求全球主导地位的国家进行的。Acheson 和 Nitze 照样坐下来谈。 美国拥有宿命论者忽视的结构性筹码：ASML、台积电、日本光刻胶供应商，加上 NVIDIA，共同构成了任何国家的国家预算都无法在一夜之间复制的瓶颈。中国无法独立制造构建前沿 AI 所需的芯片。这条克制之路或许并非明智，但它是开放的——而假装它已关闭，只会封堵合法的政策选项。 > *"我们掌控着 AI 最关键的部分，那就是芯片。我们可以让其他国家的超级 AI 发展戛然而止。"* ## [39:45] 空权从未取胜：以资本换劳动力 ARI 的"新铁三角"报告认为，AI 通过以可靠性换成本，打碎了旧有的能力—成本—速度权衡——便宜、快速、有能力，却从根本上不可靠。Carson 认为这还低估了更深层的问题：美国的战争方式向来是以资本换劳动力，而这在决定性时刻总是失败。 从 Giulio Douhet 二十世纪初的空权理论到今天，美国一直相信技术优势能赢得战争。伊拉克和阿富汗再次证伪了这一点。空中力量可以把一座城市化为废墟，却无法踹开一扇门、守住一片土地，或重建一个政府。AI 是同一错误的最新版本——作为工具不可或缺，作为教条则是灾难。 > *"赢得战争靠的是人。这是根本。而美国的战争方式，在很多时候，是以资本换劳动力。我们迷恋耀眼的新技术，认为存在针对棘手人类问题的技术解决方案。我们总是被这种想法所背叛。"* ## [43:29] Anthropic 对阵国防部 Carson 将五角大楼与 Anthropic 的对峙解读为一场文化冲突故事，而非合同纠纷。Anthropic 的工程师们——大多怀揣使命感——突然发现五角大楼已经在做多大规模的自主定向打击和大规模监控，以及 Claude 已被多深度地整合进 Palantir 的系统，这让他们措手不及。当他们试图限制使用时，国防部没有备选方案，于是诉诸胁迫。 他的规范立场是：Anthropic 完全有权设定条款。如果政府不满，可以用 Grok、Gemini，或者自己开发。《国防生产法》在和平时期并不强制私营公司出售。让他感到困扰的是"无花果叶"动态：OpenAI 和 Google 都同意了军事用途，同时埋下了一个"合法用途"例外条款——而这恰恰涵盖了国防部想做的一切，因为问题在于国会宣布什么是合法的，而不在于私人实验室允许什么。 > *"我的反对意见，我认为也是 Anthropic 的反对意见，以及 Google 员工的反对意见，在于合法用途是什么。这不是任何人能决定的，而应由国会来决定。"* ## [51:29] 权力集中、开源与人才流失 三到五家前沿实验室的权力集中，既是监管上的着力点，也是民主层面的隐患。那个让美国得以掐断中国芯片供应的瓶颈，同样让少数个人积累起令 Carson 深感警惕的财富与影响力。开源模型尽管有其风险，总体上利大于弊，因为它分散了这种权力。 学术界的人才流失几近彻底：MIT、斯坦福或卡内基梅隆的顶尖机器学习博士，几乎必然去实验室，而非走上学术教职。实验室拥有更好的数据、高得多的薪资，且已停止发表论文。AI——人类历史上第一个在密室中开发的通用技术——已将公共部门的监管所需专业人才抽空。阿贡国家实验室正在建设公共大语言模型，苏黎世正在启动公共 AI 算力联盟：这些项目至关重要，因为否则非实验室世界将被彻底隔绝在外。 > *"这是一项通用技术，所有人都这么定义它。它很可能是人类历史上第一个在密室中开发的通用技术，几乎没有公众监督，最聪明的头脑都走进了那扇门。"* ## [01:00:18] DeepSeek、中国文化与 AI 外交 DeepSeek 详细公开其方法论的决定让 Carson 感到惊讶，不是因为它显得天真，而是因为它折射出一种与中共并不相同的文化。杭州的 Moonshot 这类公司用平克·弗洛伊德歌曲命名会议室；他们不是准军事单位。中国文化是一种非凡的文明，而美国人始终无法理解它——他们投射的是最深的恐惧，而非直面其复杂性。 Carson 期望看到的外交应用：前官员之间的二轨谈判，Stuart Russell、Bengio 这样的科学家赴北京交流极端风险与军事应用的看法。当历史学家打开苏联档案时，他们发现美国系统性地误读了苏联意图——在没有侵略的地方看到侵略，在真正存在的地方又视而不见。同样的认知失败正在对中国重演。AI 本可成为共享知识公地；如今却被当作武器。 > *"我在塔尔萨家中大量使用所有中国模型。Moonshot、Kimi、DeepSeek、Qwen——都是出色的、了不起的模型。也许它们能给我们一个共同的认知图景，或者让我们稍微走出自己的封闭圈。"* ## [01:12:25] 提升国会能力与公众信任的重要性 国会议员平均每天只有 17 分钟阅读时间。研究员模式有所帮助：美国科学促进会和多个非营利组织如今在国会办公室安置了博士科学家，过去五年间公民社会在华盛顿 AI 辩论中的存在感大幅提升。Don Beyer，年逾七旬，正在乔治梅森大学攻读机器学习博士——这是一位将 AI 列为真正个人优先事项的议员所能走到的极致。 但结构性问题依然存在。大多数议员仍缺乏足够深度来审视他们接收到的游说内容。产业界更深层的问题是公众舆论：AI 在政治民调中极度不受欢迎，一个联盟正在形成——那些看着数据中心拔地而起、电费攀升、实验室领导者在电视上承诺要不可逆地颠覆他们生活世界的人们。如果这个行业不重建公众信任，反弹将会扼杀一件真正有价值的事情。 > *"AI 行业可能是自己最大的敌人。人们厌恶它。我每天都在看民调数据。它极度不受欢迎。这对我们国家来说不是好事。"* ## [01:16:05] 技术评估办公室 纽特·金里奇在 1994 年废除了技术评估办公室，此后从未得到恢复。Carson 认为这已成为关键缺口：没有任何由国会授权、独立运营、政府资助的机构来进行重大技术思考，并向两党提供不受产业影响或慈善家偏见左右的简报。国会研究服务局提供背景资料，但不做前瞻性政策研究。各办公室有研究员，但他们被日常事务消耗殆尽。 他以有保留的悲观作结。美国民主能否治理这样一项关键技术，收益能否广泛分配，公众能否被说服相信 AI 在为他们服务——近年美国历史没有给他任何信心。但放弃努力的代价，是一场政治反弹，可能扼杀或阻碍一件真正有价值的事业。对 MLST 的听众：在公司内部发声，倡导正确的公共政策，说服美国人这个项目值得拥有。 > *"会有很多人激烈反对这个项目，竭尽全力——如果不能关掉它，也要阻碍它。这就是为什么我说接下来这几年真的很重要。"* ## 实体 - **Brad Carson**（人物）：负责任创新美国人（ARI）联合创始人兼主席；前两届美国国会众议员（俄克拉荷马州），陆军法律总顾问，代理国防部副部长（负责人员与战备）。 - **Keith Duggar**（人物）：Machine Learning Street Talk 联合主持人；本集全程主要对谈者。 - **Americans for Responsible Innovation (ARI)**（组织）：Carson 联合创立的 AI 政策倡导团体；获有效利他主义取向的慈善资金支持。 - **Anthropic**（组织）：Claude 开发商；第 12 章讨论的五角大楼对峙事件的核心主体；以使命驱动的企业文化和安全优先著称。 - **Palantir**（软件）：国防承包商，其 Foundry 平台将 AI 整合用于军事定向打击；Carson 举例说明自主武器问题时反复引用的热力图评分系统来自该平台。 - **监管俘获**（概念）：被监管行业共谋控制监管机构的风险；Carson 认为当前非正式的硅谷网络已构成事实上的俘获，只是缺乏正式机构本应具备的问责机制。 - **概率定向打击**（概念）：以概率分数取代战斗人员/平民的二元分类；Carson 认为这将问责从击杀链中洗净，并将先验假阳性作为可接受的操作代价。 - **阿西洛马 1975**（概念）：科学界对重组 DNA 研究的自愿暂停，被援引为危险技术可以被主动叫停的证据。 - **技术评估办公室**（组织）：1994 年被纽特·金里奇废除的国会机构；其缺席使国会失去了独立的技术专业支撑。 - **DeepSeek**（组织）：中国 AI 实验室，其详细公开方法论的决定被 Carson 解读为中国 AI 公司有别于中共优先事项、具备科学开放性的证据。

Michael I. Jordan 教授挑战了 AI 的拟人化框架，主张从集体人类系统与经济理论的角度重新理解智能。他批判"超级智能"叙事是打击士气的干扰，呼吁将 AI 视为促进人类协作与就业创造的生态系统。通过将微观经济学、博弈论与统计学严谨性融为一体，Jordan 提出了一种以系统级安全和社会福祉为核心的新工程学科。 ## [00:00] 冷开场：对年轻建设者的打击性留言 Michael I. Jordan 批评了将 AI 拟人化的风潮，认为这是对现实问题解决的干扰。他担忧"末日派"关于人类灭绝的叙事正在打击那些希望构建有益技术的年轻工程师的士气。他认为，这些鼓吹者缺乏经济思维，脱离了系统构建的实际。 > *我认为将智能拟人化——以及所谓的"理解"——既没有必要、也不合适，而且是一种干扰。[00:21]* > *它会以很高的概率消灭人类……这太令人沮丧了。[01:12]* ## [02:04] CyberFund 赞助商介绍 主持人 Tim Scarfe 介绍了 CyberFund——一家专注寻找"AI 原生"创始人的风险投资机构。他们正在推出一个名为"修道院"的项目，为站在 AI 技术前沿的团队提供高额资金支持，强调快速执行与专注力。本节结尾简短过渡至对 AGI 这一术语的讨论。 > *CyberFund 相信未来属于那些想要实现不可能的 AI 原生者。[02:12]* > *AGI 对我来说不过是一个 PR 术语。[02:45]* ## [02:50] 从符号 AI 到机器学习系统 Jordan 澄清，他更认同自己是统计学家和认知科学家，而非传统 AI 研究者。他解释道，早期 AI 专注于逻辑推断，而真正产生工业影响的是逻辑回归、决策树等机器学习方法。这些根植于统计学与运筹学的方法，推动了云计算和全球供应链的增长。 > *我从未真正把自己视为 AI 研究者……这个术语诞生于五十年代……他们当时心里有一套特定的方法。[03:29]* > *供应链、商业和交通系统，过去用过、现在依然大量使用机器学习。[04:04]* ## [05:42] 为何 AGI 基本上只是一个 PR 术语 Jordan 将"AGI"描述为一个扭曲性术语，正在混淆新一代研究者的方向。他指出，"AI"这一流行词的回归，主要源于 LLM 在模拟人类语言流畅度方面的成功。他认为，对类人语言的执念分散了对健全商业模式和社会规模技术的必要探索。 > *AI 流行词的回归源于 LLM……这对研究路径产生了扭曲效应。[05:01]* > *人类作为这些新兴系统中的生产者和消费者，其角色应当被尊重、放大并认真思考。[05:33]* ## [08:48] AI 的集体主义与经济学视角 Jordan 阐述了他的核心观点：智能是一种社会性、集体性现象，而不仅仅是个体或计算性的。他认为，聪明的行动是情境性的，往往涉及通过合作或竞争与他人互动。通过引入经济学和博弈论原则，他希望构建更安全、更有效的系统。 > *我们是社会性动物，我们的大量智慧来自集体聚合。[07:20]* > *社会为我们的智能提供情境。在一个情境中的聪明行动，在另一个情境中未必如此。[07:31]* ## [11:33] LLM 需要系统设计，而非炒作 Jordan 将当前 AI 开发的状态比作早期化学工程——那时候的试错方式引发了大量"爆炸"和社会危害。他批评硅谷依赖扩大 LLM 规模，却不考虑就业替代或社交媒体已暴露的心理健康影响。他呼吁建立更严谨的社会科学和数学基础，而非依赖类比和隐喻。 > *如果你是一名化学工程师……说我们只是把一堆东西混在一起……就会引发大量爆炸。[12:12]* ## [14:50] 可预测性胜过虚假的理解 虽然部分研究者专注于"机制可解释性"来理解 AI 的内部逻辑，Jordan 认为完整的内部理解并非严格必要。他以人类行为作类比，指出可预测性和"经验法则"对安全交互更为重要。在银行贷款被拒等实际场景中，用户需要的是基于相似案例的情境解释，而非内部神经回路的映射。 > *我不认为构建你自己也不理解的系统是坏事。但那样你就得在系统外围加上一些保障机制。[15:14]* ## [17:55] AlphaFold、偏差与预测驱动推断 Jordan 以 AlphaFold 为例，将其视为机器学习在特定领域成功应用的范本，但同时指出它揭示了显著的偏差。该模型提供了足够的统计力来拒绝零假设，却无法针对具体科学问题给出误差范围。为此，Jordan 介绍了预测驱动推断（PPI）方法——将少量真实标注数据与大规模模型输出相结合，产出可信的误差范围。 > *它不给出误差范围，也不针对你所提问题给出具体答案。那才是我需要误差范围的地方。[20:14]* > *我们开发了一种叫做预测驱动推断的方法，正好能做到这一点……就像经典统计设置中一样，它能覆盖真实值。[20:38]* ## [21:48] 停止将智能拟人化 Jordan 否定了将"理解"或"智能"等术语套用到机器学习系统上的必要性，称这种拟人化是干扰。他引用亚马逊的供应链系统为例——该系统在没有任何类人理解的情况下优化了全球物流。这些系统的价值在于消减不确定性、支持规划，而非拥有认知特质。 > *为什么要说它"理解"？将智能拟人化——包括所谓的"理解"——既没有必要、也不合适，而且是一种干扰。[22:51]* > *尽管我们对"理解"和"智能"意味着什么一无所知，但我们的研究者意识到：我们不在乎，也不需要它。[24:23]* ## [27:44] 药物发现本质上是激励机制问题 话题转向经济学如何为制药监管等复杂多智能体系统提供分析框架。Jordan 解释道，当数据由追求利润的利益相关方提供时，统计问题就变成了经济问题。有效的系统必须被设计成能激励如实行为，以便在信息隐藏的高风险环境中控制错误率。 > *现在你面对的是科学家和制药公司交织成的复杂网络——不是一家，而是很多很多家，以及各种蛋白质。[28:49]* ## [32:29] 三层数据市场模型 Jordan 介绍了一个涉及用户、平台和数据买家的三层模型，用以说明隐私与效用如何达到均衡。他建议平台可以将可调节的差分隐私级别作为竞争功能提供给用户。这一思路将重心从简单优化转向基于均衡的系统设计，以构建更健全的社会福利结构。 > *我们来想想数据市场——因为数据现在不仅仅是用来训练大型 LLM 的东西，它也是可以买卖的商品。[32:54]* > *平台会说，好吧，我们可以以某种成本为你提供可调节级别的差分隐私。[35:02]* ## [38:07] 社会知识、市场与文化 Jordan 区分了原始数据与社会知识——后者是短暂的、依赖情境的。他认为，市场和文化自然会创造抽象概念，将个体洞见提升为集体知识。AI 系统应促进这些新文化抽象的涌现，而不仅仅是强化既有的抽象。 > *人类文化创造抽象……当这些抽象足够有用时……它们就会被纳入文化之中。[41:52]* ## [45:39] 超越 Spotify 的创作者经济 以 Spotify 和 YouTube 为例，Jordan 讨论了当前数字市场在合理回报创作者方面的失败。他倡导构建能让音乐人保持所有权并直接与品牌对接的生态系统，并以 United Masters 作为替代方案。他认为平台往往走向垄断，这要求我们从更宏观的视角审视 AI 在经济中的角色。 > *我不反对 Spotify，但它应该是一个能更好地回报艺术家的生态系统的一部分。[46:56]* ## [48:30] 科幻 AI 叙事如何误导年轻建设者 Jordan 将关于能动性、自我改进 AI 的警告称为"科幻小说"，认为它正在打击年轻建设者的积极性。他认为，将未来框定为"超级智能或灭绝"的二元对立，忽视了经济现实，也压制了创新。他否定了 LLM 复制人类大脑的说法，称这种类比是"卡通"或隐喻。 > *它会以很高的概率消灭人类……这太令人沮丧了。[49:33]* ## [51:45] AI 应增强人类能力，而非取代人类 Jordan 将 AI 的真正目的定义为助力信息流通，帮助人类做出他们真正想做的决策。他强调人类系统的不完善，认为 AI 应填补进化未能让我们适应现代复杂性的空白。技术不应取代人类，而应服务于人类的创造力与情感。 > *AI 的意义在于帮助人类处理那些过于困难的事情。* ## [56:42] 安全是整个系统的属性 ## [58:12] 硅谷大师与利益攫取 ## [1:00:47] 博弈论、机制设计与合约 ## [1:04:39] 共形预测、e 值与任意时刻推断 ## [1:08:11] AI 时代的新文理三角 ## [1:11:30] 贝叶斯鸭子与市场作为不确定性消减机制