LaiDub

播客

⚡️ Google 的开源 AI 战略 — Omar Sanseviero,Google DeepMind
29:58
EN/ZH
点开看双语
Latent Space大约 1 个月前

⚡️ Google 的开源 AI 战略 — Omar Sanseviero,Google DeepMind

在 AI Engineer London 现场,swyx 与 Google DeepMind 开发者体验负责人 Omar Sanseviero 进行了一场紧凑的 30 分钟对谈,覆盖 Gemma 4 的架构创新、Google 的开源模型战略,以及开发者体验团队的下一步扩张。Omar 拆解了逐层嵌入的设计逻辑,谈到微调热潮为何降温、Kaggle 加入 DeepMind 对基准测试意味着什么,以及"自动研究"究竟是真突破还是炒作。 ## [00:00] Gemma 4 介绍与团队职责 Omar 的一句话概括:Gemma 4 是"迄今发布的最强开源模型",核心约束是在有限参数规模内榨取最高智能密度,同时支持完整的多模态输入,并将权重体积控制在本地推理可接受的范围内。 > *"我们真的尽力把每个参数的智能压缩到极致。"* ## [00:23] 有效参数与激活参数的区别 Gemma 4 小模型的关键架构变化是在每个 Transformer 块中插入一张逐层嵌入表。由于这是查表操作而非矩阵乘法,那 30 亿个嵌入参数无需常驻 GPU 显存——可以放在 CPU 或磁盘上,只有 20 亿个激活参数参与实时计算。Omar 坦言这个方案本就是为端侧场景量身设计的:在更大规模下,稠密或 MoE 布局才是更合适的选择。 > *"Gemma 4 模型是 E2B。也就是说,加载进 GPU 的有效参数量是 20 亿。但它实际上有将近 50 亿参数,其中 30 亿可以放在 CPU 或磁盘上。"* ## [01:43] 端侧使用场景与 Gemini Nano 集成 Pixel 手机和三星高端机型出厂内置 Gemini Nano,而 Gemini Nano 是在 Gemma 3N 架构基础上训练的——这套架构专为手机硬件约束设计。Gemma 4 的参数卸载思路同样适用于这些更小的变体。当 swyx 问到能否扩展到 290 亿至 310 亿参数级别时,Omar 只说"我们正在做大量实验,敬请关注"。 > *"买了这些高端手机,开箱就能用 Gemini。"* ## [03:14] 模型发布背后与开发者生态 Gemma 团队规模比外界预想的小——两三个 PM、一名市场人员,加上核心工程师和研究员。让发布变得复杂的是外部协调网络:50 家合作伙伴(llama.cpp、Ollama、MLX、Hugging Face、vLLM、NVIDIA、AMD 等)并行对齐,同时还要与 Google Cloud、Vertex、ADK 和 Android 内部联动。Gemma 4 发布时还随附了与 Android Studio 智能体模式的原生集成,让开发者可以在本地运行 Gemma 4 推理辅助编码。 > *"Gemma 4 发布涉及将近 50 家外部合作伙伴,是迄今最复杂的一次发布。"* ## [04:29] 离线与 API 使用之别及未来模型演进 离线与隐私的区分是真实存在的,但这只是问题的一部分。Omar 划了一条更清晰的线:当前本地模型在能力层面已经相当出色——函数调用、指令遵循、智能体任务都表现良好,但知识密度仍有差距,要可靠地召回冷门事实还是需要大模型。他的一两年预判:Gemini Pro 级别的模型将完全在端侧运行,彻底解锁现在必须依赖 API 连接才能用的那些体验。 > *"我确实认为,一两年后我们会进入一个新阶段——可以直接在手机上运行 Gemini Pro 级别的强大模型。"* ## [06:26] Gemma 4 多模态能力与当前局限 Gemma 4 继承了 Gemini 3 的研究底座,即便是 20 亿参数的版本也具备音频理解能力(语音识别、语音转译文字、基于音频片段的问答)和视觉能力(目标检测、指向定位、图像描述)。Omar 点名了两处明确的缺口:目前不支持图像分割,同一个提示词里同时输入视频和音频也还不行——两者需要作为独立流分别传入。原生语音输出正在探索中,但尚无任何公告。 > *"我们可以分别理解视频输入或音频输入,但如果想在同一个提示词里同时传入视觉部分和音频部分,这方面还需要继续改进。"* ## [08:08] 多语言分词器的设计洞察 Gemma 的分词器与 Gemini 共用同一套,这个设计让它在 140 种语言上拥有极强的多语言基础。Omar 举了个具体案例:以 Gemma 3 为基座,针对越南语等东南亚语言进行微调,其表现可以超越英语基准分更高的其他基座模型。原因在于这套分词器能捕捉到语言本身的词汇单元,而不是把非拉丁文字强行拆成针对英语优化的子词片段。 > *"如果把所有这些模型都针对某种东南亚语言——比如越南语——进行微调,Gemma 的结果会更好,哪怕其他基座模型在基准上本来分更高。"* ## [09:30] Google 开发者体验团队亮相 AI Engineer 伦敦是 DeepMind 的大本营,因此带着完整团队出席 AI Engineer Europe 是一次刻意的宣示。Omar 带来的不只是开发者体验路演,而是横跨 Gemma 4 开发、文本扩散生成、机器人、端侧 ML 和 Android 的研究人员。swyx 直接点出了这个团队的覆盖广度:"这是业界范围最广的实验室,什么都做,连海豚研究都有。" > *"我们带来了从机器人到研究再到 Android 的各方向人才,能把公司在做的所有事情都展示出来,真的很令人兴奋。"* ## [10:42] 研究方向介绍:文本扩散模型 Google 在 I/O 上发布了 Gemini Diffusion——一种用于生成文本而非图像的扩散 Transformer,推理速度明显快于自回归解码。Omar 坦率地说:当前质量仍低于自回归基线,而且扩散 Transformer 的微调难度更高,因为分布偏移对路由的影响方式不一样。swyx 勾勒了一个合理的架构猜想:扩散模型作为快速的系统一执行器,自回归模型负责复杂规划——Omar 认为这个思路有一定道理,但现在下结论还太早。 > *"目前仍处于非常实验性的阶段,模型质量比常规自回归模型还差一些。"* ## [13:37] 微调现状与社区趋势 微调社区在 2023 年前后达到顶峰,Omar 看到退潮的迹象。Gemma 4 发布时,几家合作伙伴原本计划微调 270 亿参数的视觉模型,但做到一半就放弃了——基座模型本身已经够用。过去需要微调才能改变的通用行为,现在靠提示词就能解决。剩下真正值得微调的场景:医疗、金融等垂直领域的专属数据,以及基座模型更新后 LoRA 兼容性的管理问题。 > *"我见到了很多这样的情况——作为通用对话模型,大家对微调的热情确实在下降。"* ## [16:29] 稠密架构与稀疏架构的权衡 Gemma 4 发布了参数量相近的两款大模型:310 亿稠密版(原始智能上限最高,量化后可跑消费级 GPU)和 270 亿 MoE 版,激活参数 40 亿(在相同硬件条件下推理速度更快)。这些规模选择背后有刻意的开发者友好考量。Omar 对打算微调的人提了个警告:MoE 的训练方案和超参数不能直接从稠密模型迁移——分布偏移对路由的冲击方式目前还没被完全理解,可能是因为输入分布的变化会改变激活的专家组合。 > *"MoE 微调是有挑战的。推理表现很好,但人们微调时会遇到不少困难。"* ## [18:29] 单参数智能密度与未来研究方向 从 Gemma 2、3 到 4,Google 把总参数量大致锁定在 300 亿左右,而能力上限却显著提升——这正是单参数智能密度持续提升的直接佐证。更难比较的问题在于:一旦引入 MoE 稀疏性和参数卸载,参数量就不再是统一的衡量货币。Omar 坦诚地说,知识瓶颈可能是结构性的——三年后的 300 亿参数模型,在冷门事实的准确召回上依然会有短板,因为信息论限制了固定权重能压缩的信息量。 > *"单参数智能是多少?我们怎样最大化单参数智能?"* ## [20:09] Gemma Scope 与机制可解释性 Google 在去年 12 月发布了 Gemma Scope——一套用于分析 Gemma 3 模型逐层激活的工具,背后支撑的是覆盖每一层的多 TB 甚至可能 PB 级激活数据集。Omar 把机制可解释性定位为进入 ML 研究的低算力入门路径:不需要训练集群就能跑激活分析,而这些实验能让你对 Transformer 内部机制建立切实的直觉。 > *"这是一个不需要大量算力就能入门的方向,能让你真正理解模型是怎么工作的。"* ## [21:12] 研究与工程的边界 带研究人员来工程师大会的出发点:当工程师理解模型是怎么被训练出来的,他们对模型的信任感会更强,哪怕自己永远不会去训练一个模型。Omar 和 swyx 都注意到研究与工程的边界已经模糊——大多数研究工作本质上是接近工程的经验性消融实验,而代码智能体让工程师也能直接参与以往需要研究背景才能做的实验。Omar 举了 franken-merge 和 Axolotl 社区的例子:Reddit 和 Discord 上的人独立摸索出了一些技术,研究实验室后来才把这些写成论文发出来。 > *"大量实验都是看什么有效、什么没效、反复调整——在我看来,这更接近工程而不是研究。"* ## [23:59] 关于"自动研究"与智能体自动化的思考 swyx 抛出了真正的问题:自动研究究竟只是"智能体参数扫描",还是能产出像 Move 37 那样没人会主动去搜索的原创发现?Omar 持审慎的怀疑态度——AutoML 的历史战绩基本上是网格搜索换了个外壳,深层架构工作在未来一两年内大概率无法自动化。但他认为微调本身很快就会完全由智能体驱动:用户直接告诉智能体启动实验,而不是自己写训练代码,借助 Hugging Face AutoTrain 或 Axolotl CLI 这类工具。 > *"下一代微调用户根本不会写代码,大多数人只需要几个技能提示就能完成微调。"* ## [26:06] 团队扩张、全球据点与 Kaggle 整合 开发者体验团队正在新加坡和印度招人——这两个据点与 DeepMind 研究办公室共址,DevRel 人员可以走几步路就找到研究员,而不是待在孤立的销售卫星办公室。更大的组织动态是:Kaggle 加入了 DeepMind,其竞赛和基准基础设施与 Gemma/Gemini 的能力缺口直接挂钩——社区创建的基准可以反哺成为训练信号。Omar 把这个模式描述为反馈驱动:团队在社交媒体和活动现场了解开发者在做什么,再把这些信号带回到模型侧。 > *"我们做 Gemma、Gemini 以及所有工具的方式,真正立足于来自初创公司、社区和开发者的反馈。"* ## 实体 - **Omar Sanseviero**(人物):Google DeepMind 开发者体验负责人;此前在 Hugging Face 负责 DevRel 增长;主导 Gemma 开发者生态。 - **swyx**(人物):Latent Space 播客主持人;2026 年 AI Engineer London 采访者。 - **Gemma 4**(软件):Google 开源模型家族,采用逐层嵌入架构(E2B 有效参数卸载),提供 2B、4B、27B MoE、31B 稠密等变体,支持 140 种语言及多模态输入。 - **Gemini Nano**(软件):基于 Gemma 架构构建的端侧模型,通过操作系统预装于 Pixel 及三星高端手机。 - **Gemma Scope**(软件):Google 的机制可解释性工具包,用于分析 Gemma 3 模型的逐层激活;于 2025 年 12 月发布,配套 PB 级激活数据集。 - **Gemini Diffusion**(软件):Google 实验性文本生成扩散 Transformer(非图像),于 Google I/O 发布;核心优势是推理速度。 - **Kaggle**(组织):竞赛与基准平台,已加入 Google DeepMind;将社区评测与 Gemini 能力反馈循环直接打通。 - **Google DeepMind**(组织):Google 整合后的 AI 研究实验室,业务涵盖 Gemma、Gemini、机器人、端侧 ML 和机制可解释性。 - **AI Engineer London**(组织):应用 AI 工程师大会(2026 年版);本次采访地点,也是 DeepMind 的所在城市。 - **MoE(混合专家)**(概念):稀疏架构,每个 token 只激活部分参数;在同等参数量下推理速度快于稠密架构,但因路由对分布变化敏感,微调难度较高。 - **逐层嵌入**(概念):Gemma 4 的架构创新——在每个 Transformer 层插入查找表嵌入,使 30 亿参数无需矩阵乘法即可卸载至 GPU 之外。 - **单参数智能密度**(概念):能力与权重之比;Gemma 2→3→4 在总参数量维持约 300 亿不变的同时持续提升了这一指标。

#gemma#google-deepmind#open-models
Gemini 联合负责人谈世界模型、RL 下一步与持续学习
59:41
EN/ZH
点开看双语
Unsupervised Learning: With Jacob Effron大约 2 个月前

Gemini 联合负责人谈世界模型、RL 下一步与持续学习

Oriol Vinyals(Google DeepMind VP of Research、Gemini 联合负责人)在 Google I/O 第二天坐下来,把 I/O 上发布的产品背后的研究路线一条条摊开:世界模型为什么是 Google 押向 AGI 的独特路径、视频 / 图像的"GPT moment"长什么样、Spark 和 agents 系统为什么必须和模型联合优化、scaffolding 终将由模型自己写、memory 应该走非参数 file-system 而不是塞进权重、当今 RL 在哪些维度上是数据受限的、为什么 math/code 上的训练能意外迁移、以及 Google 内部 Brain + DeepMind 合并后研究下注的取舍。 ## [00:00] 开场 Jacob 用 60 秒铺垫了 Oriol 的背景(Gemini 联合负责人,与 Noam Shazeer、Jeff Dean 并列),以及 I/O 第二天访谈的优势:所有发布都还热乎,可以直接顺着 announcements 追到背后的研究。Oriol 进来打招呼,两人开始热身。 > *"我特别期待这场对话,因为你是最直接塑造 AI 前沿的那群人之一。"* ## [01:36] 为什么是世界模型 Jacob 先问"为什么是世界模型"。Oriol 把它拆成两层:一层是 self-improvement / coding 的角度,另一层是模型本身的对象——多模态、不止 closer 还包括 video / image 这种"world model"。Google 早就押了图像和视频路线,这次"显然押对了",因为我们其实把整个世界都搬到了互联网上。 他也承认中间有一段时间这条路看似不性感:multimodal 模型在 LLM 风口下被边缘化过,但视频和图像里藏着语言抓不到的知识——"the GPT moment for video"还没真正发生,但拐点已经在视野里。 > *"视频和图像里藏着大量知识。视频的 GPT 时刻——我觉得我们还没真正看到。"* ## [04:21] 视频的 GPT 时刻 Oriol 用 Omni(Google 的多模态产品线)当锚点解释:从单纯把视频喂进上下文,到能在长上下文里理解和生成视频,这段曲线已经很陡。下一步是问"能不能像 LLM 一样,在没有 paired text 的纯图像数据上预训练并依然提取出全部意义和细节"——这个 hard challenge 一旦解开,数据维度会从"被人类描述过的"跳到"所有视频",量级差异巨大。 他特别承认现在 video 这块的标注数据相对 image 仍然稀缺,但解锁后的回报会"非常大"。 > *"我们是否同意是另一回事。但如果真能解锁,那量级是巨大的。"* ## [07:51] Omni 凭什么算世界模型 "world model"这个词被滥用了,Oriol 给一个清晰定义:一个纯粹的 world model 必须做 representation learning——把世界压成紧致表征。在这之上,Omni 进一步成为可被语言驱动的 renderer:你用自然语言改一个 prompt,输出的视频内容随之改变,初始 image 之上能持续演化。这是从"被动建模"到"可控生成"的关键区别。 > *"世界模型本身在充当世界的 renderer,你完全可以用语言去改变它。"* ## [10:04] 世界模型与机器人 机器人是 world model 最直接的落地场景。Oriol 承认现在数据 mix 还在试错——sim 数据 vs 真机数据怎么配、什么时候 transfer 突然 click。世界模型本身的进步会带来一个 inflection point:一旦模型足够强,sim → real 的鸿沟会缩到 planning 和 gross motor 层面先打通,精细运动控制再慢慢跟上。 > *"也许还不是精细的运动控制,但 planning 和 gross motor 这一层,我们会开始看到事情逐步对齐。"* ## [12:37] 如何评估 AI 学到的物理 模型隐式学物理,但你怎么评估它学到没学到?Oriol 把它和无监督机器翻译做类比:如果模型内部确实表征了"重力"这个概念,应该能用某种 decode 把它翻译成显式 explanation。Stefano Gaus 等人 2014 年的早期 unsupervised translation 工作给了一条可借鉴的思路——把内部表征解码出来当 eval。 > *"你需要把'重力'这个概念(在世界模型里可能存在也可能不存在)解码成可被解释的说明。"* ## [14:51] 消费级 Agent 与 Spark I/O 发布的 Spark 是 Google 在 consumer agent 上的最新一步。Oriol 强调:"action 作为一种 modality"已经被 DeepMind 早早识别为关键。但 agent 不是把模型塞进 generic scaffold 就行——模型能力必须先到某个门槛,你才能 dream 出下一阶段的产品形态。 他给一个工程判断:在 train 阶段就把"我有这些能力,怎么挑用哪些"内化进模型,比在 inference 时让外部 scaffold 临时决策更高效。 > *"系统稍微围着你真正在乎的那件事去窄一点构建,这种方式是有用的。"* ## [18:39] Scaffolding 与 bitter lesson Oriol 多年支持 Sutton 的 bitter lesson。Jacob 把它推到 agent 时代:scaffolding 看起来违背 bitter lesson 因为是手写的胶水。Oriol 的答案是——"scaffold 本身就是一段 code,最终应该是模型自己 on the fly 写出来"。短期内人写、长期模型写,bitter lesson 仍然站得住。同时优化 model 和 scaffold 两端,而不是把所有赌注押在一端。 > *"系统本身就是一段代码,最终模型可以自己 on the fly 写出来。"* ## [22:06] 记忆与持续学习 Memory 这个话题 Oriol 谈得最深——他有 cognitive neuroscience 背景。他把 memory 分成两类:塞进权重(参数化)和挂在外部 file system(非参数化)。在 serving 规模下,把每次 user interaction 都 bake 进 weight 是不切实际的,非参数式 file-system memory 更可行。 真正的难点是"consolidate":怎么把之前 session 的信息整合到新 session,让模型像人一样积累知识。这部分 momentum 很大但远未饱和,未来几年评估方式和工程实践都会迭代。 > *"我们会看到更好的评估方式,以及这些模型在使用过程中逐步积累知识的方式。"* ## [26:54] 大厂内部的研究下注 在 Google 内部主导 Gemini 是什么体验?Oriol 谈三个维度的优势:TPU 联合设计(不用看 Nvidia 脸色)、广告/搜索带来的现金流稳定性、Brain + DeepMind 合并后端到端的研究强度。劣势是:组织太大没法对所有方向有全视野,必须靠直觉判断哪些早期研究值得 pull in,并接受"trade-off 不可能每次都做对"。 > *"Google 处在一个独特的位置。我们有硬件采购上的稳定性,也有资本投入上的稳定性。"* ## [32:30] 后训练 RL 仍是片处女地 post-training 这块仍然是一片 greenfield。在 coding 和 math 上 LLM 已经走出指数曲线,但其他领域为什么没跟上?Oriol 的核心判断是"投入还远远不够"——相对预训练的算力消耗,post-training 至今只用了很小一部分。算法的 beauty 还在迭代,"cracking that recipe could be big"。 > *"把这个配方破解出来会是大事,至少从算法之美的角度看。"* ## [35:57] 真正的智能长什么样 真智能长什么样?Oriol 用 2015 年的一个老 eval 来当锚——简单的 game-playing 任务,当时是 RL 的天花板,现在 LLM 一上来就能做。他想看到下一个数量级的跃迁:不是在熟悉的 benchmark 上推数字,而是在新的、人类没法立刻给出答案的问题上看到模型"主动产出洞察"。 > *"我喜欢游戏。"*(这句简单的自陈背后是他对 game-playing RL 长期偏爱的注脚) ## [39:11] RL 的泛化 游戏曾经是 verifiable reward 的典型样板。现在的挑战是找新的 hard problem source,让 RL 在更广的领域诱发出深度推理和泛化。Oriol 抛出一个不对称观察:create solution 和 evaluate solution 之间存在 gap——如果 evaluation 比 generation 容易,RL 就有机会撬动。 让他意外的是:在 math/code 上的训练能 surprisingly 迁移到其他领域,"很多泛化能力可能其实来自 pre-training"。这是接下来几个月到几年研究者要破解的关键题。 > *"很可能是通过预训练完成的——这是研究者未来几个月到几年要破解的关键问题之一。"* ## [42:55] 给创业者的建议 给 founder 的建议直白:evaluation 和 data 是绕不开的 moat。早期专注垂直产品、在 model 上叠一层 specialized scaffolding,等到 scale 起来再考虑 model layer 的差异化——这个路径"比较 scalable,也更适合早期玩家"。 > *"我想跟大家说的是 evaluation 的价值——我们刚才稍微提到过——它作为一连串数据的价值。"* ## [46:40] AI 真的能创新吗 Oriol 2016 年加入 DeepMind 后最痴迷的方向是 meta-learning——模型自己产出 idea。但他承认到目前为止,"我没看到模型生成真正 outstanding 的 idea"。他比喻:你让一万个人尝试,挑出对的那个再 glorify,但模型真正自主提出方向的能力——quite limited。但他相信 "soon"。 > *"我目前还没看到模型自己生成出真正出色的想法,但我确信很快就会看到。"* ## [49:48] 递归自我改进 递归自我改进可以分层看:第一层是 researcher / engineer 用 AI 工具加速自己;第二层是模型直接自动化某些研究任务。当模型写英文比你好的那一天,下一个 ceiling 在哪里?Oriol 说:"maybe there's no ceiling, or the ceiling is still far away" —— 我们甚至不一定能看到 ceiling 在哪里。 > *"当模型写英文比你写得还好那一天,也许就根本没有天花板,或者天花板还非常远。"* ## [52:14] 快问快答 最后 8 分钟快问快答覆盖了 TPU 投资历史、给年轻研究员的算力直觉、当下 AI 阶段的总体感受。Oriol 留下一句总结:"I think it's a fascinating time as anything in AI"。Jacob 用 podcast 致谢和 outro 结束。 > *"我觉得这是 AI 历史上少有的迷人时刻。"* ## 实体 - **Jacob Effron**(人物):Redpoint Ventures Managing Director,Unsupervised Learning 主持人。 - **Oriol Vinyals**(人物):Google DeepMind VP of Research,Gemini 联合负责人(与 Noam Shazeer、Jeff Dean 并列)。 - **Gemini**(产品):Google 的旗舰多模态 / agent 模型族;本期主要谈 I/O 第二天的发布。 - **Omni**(产品):Google 的多模态产品线,被用作"video / image 的 GPT moment"参照系。 - **Spark**(产品):I/O 发布的 consumer agent 产品。 - **世界模型**(概念):可被语言驱动的世界 renderer;representation learning 是其核心要素。 - **Bitter Lesson**(概念):Sutton 的论点;本期延伸为"scaffold 长期应由模型自己写"。 - **记忆 / 持续学习**(概念):非参数 file-system memory vs 把记忆塞进权重;consolidation 是关键难点。 - **后训练 RL**(概念):相对预训练的算力投入还很少,被定性为 greenfield。 - **Move 37**(概念):AlphaGo 那一手;Oriol 用它指代"真正的 RL/research breakthrough"基准。

#unsupervised-learning#redpoint-ai#oriol-vinyals
从零开始讲芯片设计 — Reiner Pope
1:20:19
EN/ZH
点开看双语
Dwarkesh Patel大约 2 个月前

从零开始讲芯片设计 — Reiner Pope

MatX CEO、前 Google Brain TPU 架构师 Reiner Pope 在黑板前给 Dwarkesh Patel 上了一堂芯片设计课:从与门和非门讲起,一路搭建乘法累加器、寄存器堆、脉动阵列,再到时钟同步、FPGA 与 ASIC 的取舍,最后落到 GPU 和 TPU 在结构上的本质差异。贯穿全程的工程命题只有一个:计算单元再多也是浪费,核心问题是如何让芯片把时间花在计算而不是搬数据上。 ## [00:00] 从逻辑门构建乘法累加器 Reiner 从最底层讲起:芯片里的基本元件是与门、或门、非门,通过金属走线物理连接。AI 芯片最核心的运算是矩阵乘法,而矩阵乘法的基本原语是乘法累加(MAC)——把两个数相乘,再把结果加进累加器。Reiner 演示如何用几个异或门和与门拼出一个全加器,再级联成乘法器,最终得到浮点 MAC。精度层级在这里很关键:低精度乘法的结果需要用更高精度的累加器汇总,这也是 AI 芯片跑 8 位乘法但用 32 位累加的原因。 > *"AI 芯片想算的核心运算是矩阵乘法,而矩阵乘法的基本原语是一对数字的乘法累加。"* ## [16:20] 多路选择器与数据搬运代价 Tensor Core 出现之前,GPU 和 CPU 的结构是一样的:一个寄存器堆存几十个值,送进 ALU 运算,结果写回寄存器堆。Reiner 说明多路选择器(mux)是寻址任意寄存器的硬件工具,而这种通用性是要付代价的——面积和能耗。一个深度为 8 的寄存器堆,每次读操作需要一棵深度为 3 的 mux 树;写操作同样需要相同规模的解码器。AI 工作负载的瓶颈不是乘法本身,而是数据在寄存器堆和 ALU 之间来回的代价。 > *"我们要分析的是从寄存器堆到 ALU 再写回的数据搬运代价。"* ## [25:59] 脉动阵列的工作原理 TPU 背后的核心洞察:与其每次做完一个 MAC 就写回寄存器,不如把整个矩阵向量乘的循环直接烧进硬件。脉动阵列是一个 MAC 单元的网格,每个单元把部分和向右传,把输入操作数向下传,数据在单元间流动,全程不碰寄存器堆。Reiner 解释了两个收益:每次取数据时可以做更多计算;内积计算期间操作数可以一直驻留在阵列里,不用反复装载。代价是灵活性——只有循环形状和硬件设计完全匹配时才高效。 > *"脉动阵列的思路是往上提两层循环,把这整个循环直接烧进硬件。"* ## [39:00] 时钟周期与流水线寄存器 一颗芯片上有 1000 亿个晶体管,并行单元之间的同步不可或缺。Reiner 解释时钟的作用:大约每纳秒,全芯片的所有电路暂停一下同步,然后一起进入下一步操作——这就是时钟周期。时钟频率由最长的组合逻辑路径决定,也就是一个信号在一个周期内必须穿越的最深门链。流水线寄存器把这条路径切成更短的段,让每段以更高频率运行,代价是延迟——一个 32 级流水线的乘法器每周期出一个结果,但任意一次乘法都要等 32 个周期。 > *"大约每纳秒,芯片上的所有电路都会暂停片刻,完成同步。这就是时钟周期。"* ## [51:40] FPGA 与 ASIC 的权衡 FPGA 是一大片可编程逻辑块——查找表和触发器,可以通过软件重新连线。ASIC 是为一种用途定制流片的芯片。概念上是同一套东西:固定时钟周期里的与门或门网络。经济账在第一份拷贝处分叉:一块 FPGA 编程成本约 1 万美元;第一次 ASIC 流片约 3000 万美元。FPGA 的适用场景是:需要确定性低延迟、高速率、高并行,但工作负载可能每个月换一次,不想每次都付流片费。Jane Street 做高频交易就用 FPGA,正是因为时钟周期确定——没有缓存未命中,没有分支预测,没有中断。 > *"第一块 FPGA 花你 1 万美元,第一次 ASIC 流片花你 3000 万——因为要走一整套流片流程。"* ## [63:14] 缓存与暂存区的区别 CPU 不确定性的一大来源是 L1/L2 缓存:一块小型快速 SRAM,投机地缓存处理器认为下一步会用到的数据。缓存未命中——预测失误——会让执行停顿数百个周期。AI 加速器用暂存区替代缓存:由程序员显式管理的 SRAM,由编译器精确决定哪些数据住在这里、何时换出。Groq 和 TPU 都以确定性延迟著称,正是因为用了暂存区而非缓存。暂存区更简单更快,但把负担转移给了编译器。 > *"CPU 上非确定性延迟最重要的来源,大概就是 CPU 缓存本身。"* ## [67:16] 为何 CPU 核心远大于 GPU 核心 现代 CPU 大概有 100 个核心,每个核心占用的硅面积远大于 GPU 的数千个 SM。原因:CPU 核心带着庞大的乱序执行机制——重排序缓冲区、分支预测器、投机执行单元——全部是为了在不可预知的负载下让单线程跑得飞快。GPU 的 SM 把大部分都砍掉了,以束(warp)为单位让许多简单线程齐步走,某个线程等内存时硬件立刻切换到另一个束,零代价。CPU 用硅换单线程速度;GPU 用硅换数千线程的整体吞吐。 > *"既然核心这么少,那芯片面积都花到哪儿去了?"* ## [71:49] 大脑与芯片的对比 Dwarkesh 追问大脑和芯片的差异。两个真实区别:大脑有非结构化稀疏性(任意神经元可以连接任意神经元),硬件加速器只支持结构化稀疏(对齐的块);大脑的时钟运行在几十赫兹,芯片运行在千兆赫兹。Reiner 指出,常被拿来说事的内存与计算协同位——往往被当作大脑的优势——在现代 AI 芯片上同样存在:权重就放在矩阵单元旁边的 HBM 里。更有意思的差距在能耗:大脑跑在 20 瓦,芯片跑在千瓦量级。 > *"这正是某种意义上内存与计算的协同位。"* ## [75:22] GPU 不过是一堆小型 TPU 从顶层看,TPU 有几个大型脉动阵列加一个向量单元。GPU 有数百个 SM,每个 SM 里有一个小型矩阵单元和一个小型向量单元——本质上就是一个缩小版 TPU。架构差异在于粒度:TPU 押注少量大型矩阵运算;GPU 并行跑数千个小型运算。SM 内部,Tensor Core 在原有标量/向量流水线上叠加了一个定制矩阵单元,让现代 GPU 成了两种范式的混合体。 > *"把这个东西等比例缩小成一个很小的单元,配上更小的矩阵单元和更小的向量单元,那差不多就是一个 SM 了。"* ## 实体 - **Reiner Pope**(人物):MatX 联合创始人兼 CEO,前 Google Brain TPU 软件与编译器负责人 - **Dwarkesh Patel**(人物):Dwarkesh Podcast 主持人,MatX 天使投资人 - **MatX**(机构):AI 芯片初创公司,专注推理加速器 - **Google / Google Brain**(机构):Reiner 加入 MatX 之前参与 TPU 架构研发的地方 - **Jane Street**(机构):高频交易公司,因需要确定性延迟而使用 FPGA - **Groq**(机构):AI 推理芯片公司,以暂存区架构实现确定性延迟著称 - **乘法累加(MAC)**(概念):神经网络推理的基本运算——两数相乘,结果累加 - **脉动阵列**(概念):由 MAC 单元组成的网格,数据在单元间流动而不经过寄存器堆,实现高计算带宽比 - **FPGA**(技术):现场可编程门阵列,适用于工作负载频繁变化的场景 - **ASIC**(技术):专用集成电路,为单一工作负载定制流片 - **TPU**(技术):Google 张量处理器,围绕少数大型脉动阵列构建 - **SM / 流式多处理器**(技术):GPU 核心单元,包含标量、向量和矩阵(Tensor Core)执行资源

#chip-design#hardware#ai-accelerators
SpaceX 两万亿估值、Nvidia 财报暴跌、美国民意反 AI、Trump 撤回 AI 行政令、债市危机?
1:42:00
EN/ZH
点开看双语
All-In Podcast大约 2 个月前

SpaceX 两万亿估值、Nvidia 财报暴跌、美国民意反 AI、Trump 撤回 AI 行政令、债市危机?

Sacks 缺席,Gavin Baker(Atreides Management)补位。这一期把 Andrej Karpathy 转投 Anthropic 的内幕、公众对 AI 态度反转的原因、SpaceX 两万亿估值的招股书、Nvidia 财报炸裂但股价反跌的悖论一一摊开来谈。Friedberg 和 Chamath 还提示了通胀、油价、债市利率三处宏观警讯,最后落在中美峰会的实质成果上。 ## [00:00] Gavin Baker 加入本期节目! Jason 开场宣布第 274 期,Sacks 这周缺席,请来 Atreides Management 的 Gavin Baker 临时补位。本期议题已经摆好:SpaceX 与 OpenAI 的 IPO、Karpathy 转投 Anthropic、Nvidia 的财报。 > *"Sachs 今天不在,但我们非常幸运请到了 Atreides Management 的 Gavin Baker。火药味十足的观点必须照常开炮。"* ## [00:30] Andrej Karpathy 加盟 Anthropic;超高速增长与盈利能力 Karpathy 这次跳槽被解读为 Anthropic 战略上的重大胜利。Chamath 把它放到一个延续性的视角里:Karpathy 在 Tesla FSD 和 OpenAI 的实践,本质上是 Richard Sutton 那篇"bitter lesson"的工程化延伸,他是把这一思路最早商业化的人。Gavin 接着补上财务背景:根据《华尔街日报》,Anthropic 上个季度已经 EBIT 转正,叠加超高速增长,让最近几轮融资的故事跟"烧钱不止"完全不是一码事。 Friedberg 提出反驳,认为"把整个模型塞进上下文窗口让它自我训练"这个设想短期内不会发生,但他也指出 MIT 等机构最近的论文已经显示训练效率的大幅提升就在不远处。Chamath 借这个时机直接拍板:这档节目必须开始讲 AI 的正面故事——医生、科学家、被它解锁的可能性——因为主流的公众叙事已经彻底倒向负面。 > *"他可能是最早把 Richard Sutton 那篇 bitter lesson 真正商业化的人,那时候他在 Tesla 主导 FSD。"* ## [12:42] 美国民众为何对 AI 翻脸:反人类的观感从何而来 Gavin 讲了一个私人故事:他女儿罹患罕见病,他资助的一位斯坦福科学家在 AI 加速的生物研究帮助下,几个月内就有望拿出一款根治性的药物。他借此呼吁要保持乐观姿态——工作可以选择不做、疾病可以被治愈是真实存在的未来——并警告说,那些推动 AI 监管的人,同时也在塑造公众对这项技术的情绪。 Friedberg 把文化机制讲得更深:AI 正在被框定为"反人类",这跟 20 世纪反核、反工业的舆论反弹在结构上如出一辙。他认为美国不可能单方面减速,因为中国和其他国家不会停下来;同时他试图把真正的安全担忧从精英阶层的焦虑里剥离出来。Chamath 抛出一个尖锐的观察:所有关于 AI 抢饭碗的调查数据,几乎没有一项是真的去问卡车司机、分拣工、ICU 护士他们自己怎么看这些工具。 > *"我们太听 AI 发明者的话了。他们是天才,他们聪明。我们更该听一线工厂工人的,他们说:'哇,我现在能多开一个班次了。'"* ## [27:22] Trump 撤回 AI 行政令、中美 AI 关系、反乌托邦式裁员 Trump 一份 AI 行政令在最后一刻被撤下。几位主持人翻来覆去讨论里面据传写的内容(对前沿模型训练 run 的审查),以及"发布前监管框架"在操作上是否走得通。Jason 认为不管华盛顿怎么决定,最后大概率还是各州拼出一张监管补丁图。 话题随后转到 Meta 最新一轮裁员,特别是它的沟通方式。Gavin 和 Jason 一致认为,把"AI 带来生产力提升"作为对外口径,即便对接受这套底层逻辑的人来说,传达方式也很糟糕;Jason 直接把它定性成一份"AI 驱动裁员该怎么沟通"的反面教材。 > *"现实是,如果你用这种方式去传达一件这么重要的事,那你做得真的很糟糕。"* ## [45:19] 拆解 SpaceX 招股书:三大业务与两万亿估值的论证 SpaceX 周三递交了 S-1。Jason 把公司拆成三块业务:发射(Starlink 订阅有潜力做到上亿付费用户)、Elon Web Services / xAI / Colossus 算力,以及火箭本体。仅 AI 云这一块年化收入就在 150 亿美元左右,同比大致翻倍,靠着 Anthropic 的一笔被 Gavin 称为"非同寻常"的合作单子撑起来。 Gavin 接着把 Colossus 的意义讲清楚:现在真正卡脖子的是吉瓦级数据中心,而 SpaceX 周边的建造速度就是护城河。他拿 Cursor 刚发布的 Composer 2.5 举例——只用了三四周强化学习训练就在多个维度上 Pareto 占优——证明谁拥有算力,谁就拥有下一代模型。他还讲了 Starship 快速复用对入轨成本的压缩,速度比任何竞争对手的财务模型跟得上的都更快。 > *"看一下到底谁真有能力交付一个吉瓦级数据中心,这帮人是最接近的,是真正的吉瓦级。"* ## [71:22] Nvidia 财报炸裂股价却跌,为什么有人在做空芯片 Nvidia 再度交出炸裂财报:环比 20% 的增长放到其他任何公司身上都算是高速增长公司,季度分红一口气提了 25 倍,CFO 承诺把 50% 的自由现金流返还给股东。可股价反而跌了,Leopold Aschenbrenner 据报已经把仓位从芯片股移开,被市场解读为聪明钱的信号。 Gavin 把空头逻辑拆开来谈:以当前 PE 来看 Nvidia 相对增长其实是便宜的,分部数据掩盖了"AI 云"那一段对整体估值的拖累。他点出 GPU 真实使用寿命接近两年而非五年,这意味着所有跑这些芯片的超大规模厂商,账面利润其实是被高估的——这是一个真切的隐忧,但还不至于击垮股价。他还提到 Nvidia 的 CPU 业务今年有望做到 200 亿美元,一夜之间把它送进全球最大 CPU 厂商之列。 > *"GPU 真实使用寿命更接近两年,所以这些业务的账面利润其实是被高估的。"* ## [82:25] 市场速览:红灯频闪、油价、通胀、利率走高 宏观面快照:5 月通胀预计在 4.2% 以上,加息预期重新摆上桌面,英国国债收益率回到金融危机以来最高位,油价和黄金同步上行。Chamath 警告说,一旦货币贬值机制最终断裂,下行风险是非线性的。 Gavin 站到相对乐观一边:美国能源自给,AI 基建从结构上对再工业化是利好,即便在全球最糟的剧本里美国也是最不糟的去处。他还指出,AI 基本面本身也开始呈现一种季节性,投资人正在像看电商和订阅业务那样把它建模进来。 > *"对每个人都很糟糕,但相对来说美国是最好的,因为我们在能源上自给自足。"* ## [92:45] 中国之行雷声大雨点小,还是幕后另有进展? 一支由美国科技 CEO 与总统组成的访华团 48 小时来去,表面交付物寥寥:一些大豆、一些卖给中国客户的 H100 和 A200。几位主持人追问:这是不是全部故事?访问结束之后中俄随即出现的"关系升温",是不是比任何握手照都更能说明走向? Gavin 给出的解读偏结构性:要让美国在 AI 上保持领先,跨太平洋关系必须维持在"够稳定到不至于全面脱钩"的水准,即便照片层面不够好看,这一战略逻辑站得住脚。他还顺手画了一幅"霍尔木兹海峡"的假想场景,用来说明能源独立给了美国不对称行动的选项。Jason 最后向 Gavin 道谢,邀他下次再来 Summit。 > *"有一种站得住的论点:这样做对全世界都是稳定器,也是让美国在 AI 上保持领先的最大概率路径。"* ## 实体 - **Jason Calacanis**(人物):主持人,LAUNCH 创始人,本期节目的 MC。 - **Chamath Palihapitiya**(人物):主持人,Social Capital CEO;提出"要听一线 AI 用户的声音"这一框架。 - **David Friedberg**(人物):主持人,The Production Board CEO;主导了对 AI 反弹的文化与历史分析。 - **Gavin Baker**(人物):客座主持,Atreides Management 创始人 / CIO;贯穿 SpaceX、Nvidia 与宏观的投资视角。 - **Andrej Karpathy**(人物):即将加入 Anthropic 的新预训练团队;OpenAI 联合创始人,前 Tesla FSD 负责人。 - **Anthropic**(机构):聘请了 Karpathy;上季度 EBIT 转正(《华尔街日报》报道);与 SpaceX 周边算力签下 150 亿美元 AI 云大单。 - **SpaceX**(机构):递交 S-1;三大业务(发射 / Starlink、Elon Web Services 算力、火箭);两万亿估值论证。 - **Nvidia**(机构):财报炸裂但股价下跌;CPU 业务年化 200 亿美元;市值 5.3 万亿美元。 - **Cursor**(软件):Composer 2.5 模型发布,被用来证明强化学习驱动的快速追赶动力学。 - **Richard Sutton's bitter lesson**(概念):规模碾压聪明的架构——Karpathy 跳槽为何重要的框架。 - **GPU 使用寿命**(概念):接近两年而非五年,因此超大规模厂商的账面利润被高估。 - **霍尔木兹海峡场景**(概念):用"能源独立 = 战略期权"来论证美国在对华博弈中的位置。

#all-in-podcast#spacex#nvidia
自动执行的交易信号
20:45
EN/ZH
点开看双语
Claude大约 2 个月前

自动执行的交易信号

Man Group 数据与 AI 主管 Tushara Fernando 分享了该公司如何将数十年的机构知识提炼为"技能",进而将 AI 融入系统化交易。她强调,要让 AI 从个人生产力工具升级为企业级智能体平台,健全的治理体系和共享工作流缺一不可。 ## [00:18] AI 与系统化交易 Man Group 管理着逾 2000 亿美元资产,AI 落地的风险之高对机构客户而言不言而喻。Tushara Fernando 将系统化交易描述为一套算法流程——通过历史回测评估投资信号,类似于管理一支梦幻足球队。 > *交易信号本质上就是用股票做这件事……我们想押注那些能赚钱的,做空那些不能赚钱的。* > *[2, 43]* ## [04:38] AI 生成信号的价值 Man Group 目前在生产环境中运行的交易信号,其研究、回测与提案全部由 AI 完成。人类只在最后审查结果的合理性,数据获取、策略提案到生产部署均由 AI 负责。 > *Man Group 的生产环境中现在正有交易信号在运行……这些信号是由 AI 完成研究、回测并提出的。* > *[4, 38]* ## [05:52] 共享工作流的重要性 交易信号的成败取决于底层工作流,例如数据清洗和异常值检测——Fernando 将其比作冰山藏在水下的部分。不同团队各跑各的工作流版本,结果就会产生偏差,根本无法横向比较各类策略的效果。 > *如果不同团队用的是不同版本的工作流,得出的答案就会不一样。* > *[6, 50]* ## [08:43] 技能治理的实战经验 早期 AI 落地尝试之所以失败,是因为构建"技能"的是熟练用户而非流程负责人,导致各自优化、出现硬编码成本中心等错误。为此,Man Group 建立了一套治理化的技能市集:技能由工作流负责人持有,需经过评测验证,并追踪实际使用情况。 > *把这些技能当成生产代码来对待,因为它们最终就会成为生产代码。* > *[17, 21]* ## [16:40] 在企业层面规模化 AI Man Group 已将 AI 普及至近一半员工,核心策略是把组织上下文作为竞争壁垒。通过将技能打造成机构知识库,公司正在为未来布局——届时,大量 AI 智能体将调用这些能力,持续发现新的投资机会。 > *技能治理真正打开了 AI 在企业规模落地的大门。* > *[19, 21]* ## 实体 - **Tushara Fernando**(人物):Man Group 数据与 AI 主管。 - **Man Group**(机构):全球另类投资管理公司,管理资产规模逾 2000 亿美元。 - **Claude**(产品):Man Group 用于研究、回测和工作流自动化的 AI 模型。 - **Anthropic**(机构):协助 Man Group 举办技能工作坊并推动落地的 AI 公司。 - **Systematic Trading**(概念):覆盖数千只证券和数百个市场的算法化交易能力。 - **Backtesting**(流程):将交易策略在历史数据上回溯运行以评估表现的过程。 - **Sharpe Ratio**(指标):衡量策略波动性与收益之比的统计指标。 - **Skills Marketplace**(产品):Man Group 内部的治理化 AI 技能、插件与机构知识库。

#systematic-trading#ai-governance#man-group
Cerebras 630 亿美元 IPO 背后的故事——创始人兼 CEO Andrew Feldman 亲述
30:34
EN/ZH
点开看双语
No Priors: AI, Machine Learning, Tech, & Startups大约 2 个月前

Cerebras 630 亿美元 IPO 背后的故事——创始人兼 CEO Andrew Feldman 亲述

Cerebras CEO Andrew Feldman 讲述了公司从颇具争议的"晶圆级"架构出发,走到 630 亿美元市值的上市公司的全程。他解释了这一激进硬件设计如何实现比传统 GPU 快 15 至 20 倍的 AI 推理速度,并由此催生新的商业模式,从根本上重塑生产力格局。 ## [00:00] – 冷开场 Andrew Feldman 把 AI 速度的冲击比作 Netflix 从 DVD 邮寄转型到流媒体:极致速度会打开全新的商业模式。他预言,随着 AI 越来越快,生产力将经历一轮根本性重组,远不止编程和设计这些入门级任务。 > *速度就是这样改变一切的,我认为这正是快速 AI 眼下正在做的事 [00:10]* ## [00:41] – Andrew Feldman 介绍 主持人 Sarah Guo 介绍 Andrew Feldman,并点出 Cerebras 近期上市、目前市值约 630 亿美元的背景。节目以此切入,探讨公司如何从早期机器学习研究转型为基础模型推理市场的领军者。 > *Cerebras 近期已经上市,目前在股票市场的市值约为 630 亿美元。[00:54]* ## [00:48] – Cerebras 的演进 Feldman 介绍 Cerebras 专门打造针对 AI 优化的计算机,推理性能在所有模型规模上均可超越 GPU 多达 20 倍。他认为,2025 年 AI 模型终于足够聪明、能在日常场景中发挥实用价值,这直接带来了与 OpenAI 和 AWS 的大规模合同。 > *我们是推理速度最快的,不是快一点点,而是快很多——比 GPU 快 15、18、20 倍。[01:39]* ## [02:17] – 晶圆级赌注兑现 对话深入探讨 Cerebras 独特的"晶圆级"架构——把整片晶圆做成一块餐盘大小的芯片。Feldman 认为,要实现性能上的根本性飞跃,就必须采用根本性不同的设计,尽管当初批评者普遍认为这条路走不通。 > *我们选择了晶圆级方案,也就是说我们制造的是一块 46,000 平方毫米的芯片,一块餐盘那么大的芯片。[03:39]* ## [06:38] – 挑战与突破 Feldman 回忆 2017 年到 2019 年间那段至关重要的岁月:团队每月烧掉 800 万美元,却一直无法让技术跑通。他强调,技术上的突破发生在 2019 年,但市场需求的真正爆发,是等到 AI 成为每天离不开的工具之后才到来的。 > *大约从 2017 年到 2019 年中,有一段时间我们根本造不出来。[07:34]* ## [08:37] – 跨越市场鸿沟 Feldman 描述了早期那几年的处境:技术领先,却找不到市场,最终在超算实验室打开局面。主权合作伙伴 G42 的 10 亿美元订单成为关键转折,既提供了资本,也提供了规模,让硬件在实战中经受考验,为后来 AI 浪潮的爆发做好了准备。 > *有两三年时间,我们比市场领先了太多,快到令人窒息,但没有任何人在意。[09:00]* ## [10:38] – 软件与硬件的规模扩张 硬件公司的规模扩张要面对软件公司所没有的物理约束,包括产线、电力需求和测试夹具。Feldman 还谈到深度技术开发的长周期本质:打造一款高质量编译器,需要将近十年的工程积累。 > *做硬件,你得找制造合作伙伴沟通……每一步都需要真正的时间和努力才能推进。[11:24]* ## [12:03] – AI 生成代码的意义 Cerebras 已大力推进 AI 辅助编程,每位工程师的 token 消耗大幅提升,以支持自主 Agent 的使用。Feldman 观察到,部分工程师正在成为"百倍"贡献者,通过统筹调度多个编程和质检 Agent 来放大产出。 > *他们把编程方式转变成了管理 Agent 的模式……从原来的 10 倍工程师,变成了现在的 100 倍工程师。[13:12]* ## [13:31] – 领导力与招聘文化 面对 200 亿美元的订单积压和超过 800 人的团队,Feldman 强调必须持续押注非凡目标,才能避免企业陷入暮气。他把自己定位为"职业版大卫",乐于啃下别人认为不可能的硬骨头,正面对抗 Nvidia。 > *我们宁愿在追求非凡的路上失败,也不愿在平庸中成功。[15:01]* ## [17:16] – 何时放弃,何时坚持 Andrew Feldman 再次描绘"职业版大卫"的形象:靠智识上的优势与更大的对手正面交锋。他强调,创始人必须警惕"温水煮青蛙"式的坚持——通过引入外部导师,让自己对最初的假设保持问责。 > *温水煮青蛙是个陷阱……你必须对它保持警觉。[18:32]* ## [19:40] – Cerebras 为何选择上市 走向公开市场,是为了降低资本成本,并在大型企业客户面前建立可信度。Feldman 指出,Cerebras 选择 IPO,也是为了让自己成为市场上唯一的"AI 纯粹营收"标的,与众不同。 > *对我们来说,这是一次从企业青春期迈向企业成年期的机会。[23:22]* ## [22:57] – OpenAI 大单 Feldman 回忆了与 OpenAI 签下 200 亿美元大单的那四周半:一场突如其来的快速推理需求,推动谈判以前所未有的速度推进,团队在假期期间连续奋战,才赶上技术要求的节点。 > *200 多亿美元的交易,四周半谈下来,非常了不起。[24:59]* ## [25:54] – 开源与后训练工作负载 Andrew Feldman 指出,开源生态系统持续激活市场热情,也倒逼闭源开发者加速创新。他强调,看到外部开发者在 Cerebras 硬件上构建出创意十足的解决方案,是公司推进基础设施目标最核心的动力之一。 > *你得喜欢别人的想法在你构建的东西上生根发芽。[28:04]* ## [27:37] – 速度如何催生新商业模式 AI 的极致速度带来的是根本性转变,而非渐进式改良——Netflix 从 DVD 到流媒体的跨越正是最好的佐证。Feldman 认为,对速度的极致追求本身就是竞争优势,数据中心的快速建设印证了这一点。 > *互联网变快之后,他们成了电影制片公司——速度就是这样改变一切的。[28:38]* ## [30:07] – 结语 援引 PC 革命和云计算革命的先例,Feldman 预言 AI 不会停留在替代单项任务的层面,而将从根本上重组工作方式。随着新商业模式在技术周围生长,全球生产力将迎来跃升式增长。 > *一旦我们开始围绕它进行根本性的重组,你就会看到新的商业模式涌现,生产力出现跨越式的跳升。[29:53]* ## 实体 - **Andrew Feldman**(人物):Cerebras 联合创始人兼 CEO - **Cerebras**(组织):以晶圆级引擎技术著称的 AI 硬件公司 - **OpenAI**(组织):与 Cerebras 签订数十亿美元合同的 AI 研究机构 - **G42**(组织):向 Cerebras 下达 10 亿美元订单的主权 AI 及科技控股公司 - **Nvidia**(组织):AI 芯片市场领先的 GPU 制造商及最主要的竞争对手 - **Sarah Guo**(人物):No Priors 主持人,风险投资人 - **AWS**(组织):部署 Cerebras 硬件的亚马逊云计算部门 - **Netflix**(组织):用于类比速度如何颠覆商业模式——从内容分发到内容生产

#ai-hardware#wafer-scale-engine#semiconductor-industry
Notion 的赵宇:重建者
1:03:06
EN/ZH
点开看双语
Sequoia Capital大约 2 个月前

Notion 的赵宇:重建者

Brian Halligan 采访 Notion 联合创始人赵宇,围绕他作为"重建者"的心路历程展开——他两度带领公司走出危机:2015 年的京都重启,以及 2023 年的生成式 AI 转型。赵宇详细讲述了 Notion 如何从传统 SaaS 架构转型为 AI 原生的"爵士乐队"模式,将技术通才、品味与主动性置于刚性层级之上。对话还探讨了 AI 如何充当现代组织的"钢铁"——让结构更扁平、决策更快速、更易纠偏。 ## [00:00] 引言 Brian Halligan 介绍赵宇是 Notion 的"重建者",特别强调他在 2015 年和 2023 年两个关键节点重启公司的独特能力。对话为赵宇从传统 SaaS 管理模式转向 AI 原生组织的历程铺垫了背景。Halligan 将赵宇的风格与 Jack Dorsey 等科技人物作类比,点出个人风格与"品味"在打造持久品牌中的重要性。 > *我喜欢把他称为重建者……他是 SaaS 公司如何转型为 AI 公司的典范。[00:52]* > *我们想做一支爵士乐队,而不是一支军乐队。[00:02]* ## [02:22] 从创始人模式到 AI 组织 赵宇坦言,他曾绕道去尝试传统的授权与职业化管理,最终在 AI 浪潮的驱动下重返亲力亲为的"创始人模式"。他把用语言模型构建产品比作"酿啤酒"——底层技术决定开发走向,远不像造桥那样可以精确预判。因此,Notion 侧重招募"爵士乐队型"人才,比如既能写代码的设计师,以便在 AI 融合的实验性环境中灵活应对。 > *用语言模型构建产品……就像酿啤酒,你根本无法预判底层会发生什么。[06:33]* > *精髓是技术优先驱动开发,而不是客户优先驱动开发。[07:01]* ## [11:00] 招募有品味、有主动性的人 Notion 采用"哑铃型"招聘策略,专注于极初级和极资深两端,刻意回避传统 SaaS 经验的"中间层"。赵宇将人才定义为能力、品味与主动性三者的乘积,并指出 AI 已将编程和写作等基础能力大众化。因此,公司转而着重寻找"主动性"与"品味"——这两点依然难以自动化,是品牌最核心的差异化来源。 > *能力被规范化、民主化了,品味依然至关重要。[11:53]* > *所以这种形状不像三角形,更像哑铃型。[12:35]* ## [24:28] 在京都重建 Notion 2015 年,面临可能失败的危局和低迷的士气,赵宇与联合创始人 Simon Last 裁掉了全部员工,迁往日本京都,从零重建 Notion。这次"京都重置"让他们得以心无旁骛地专注于工艺与编程,过着极简主义的生活。赵宇之所以选择京都,正是因为它是"亚洲的工艺之都",这里的精神底色让他们将软件重新视为一种基本的人类工具。 > *我和联合创始人说,干脆把所有人都裁掉,就我们两个上。这就是日本故事的起点。[25:41]* > *我们告诉自己,京都是个特别的地方。如果哪里都能重生,那在京都重生一定也可以。[28:05]* ## [30:27] 工匠精神与商业变现 赵宇将 Notion 置于"思维工具"的历史脉络中,追溯至 Douglas Engelbart、Alan Kay 等先驱。他批评当代硅谷"修补文化"忽视了技术背后的历史与人文。在他看来,目标是在纯粹的工匠精神与商业可行性之间找到平衡,让产品拥有真正能触动用户的"灵魂"。 > *科技行业不了解自己的历史,不知道历史就不懂人文。[31:52]* > *我需要与自己对这家公司的价值判断达成平衡……[51:33]* ## [32:26] 何时该重建 对于公司陷入停滞的创始人,赵宇建议倾听内心那股"必须做点什么大动作"的冲动,而不是在没有动力的项目上蹉跎数年。他认为,重建往往比重新起步更难,因为需要先大幅退后,才能迈向新的增长引擎。当下 AI 驱动的市场大门敞开,正是创始人放手一搏、跟随直觉的好时机。 > *对我来说,就是有一种感觉——你必须做点什么大动作……一旦落脚日本,你就感到解脱了。[32:56]* > *重建比看起来更难,通常要先大退一步,才能前进两步。[59:57]* ## [34:07] GPT-4 带来的重建冲击 赵宇将提前获得 GPT-4 访问权限描述为一次"全身震撼的宗教体验",预示着世界正在发生根本性转变。这一认知迫使 Notion 开启第二次重建——赵宇感到,任何不涉及这项技术的工作都将很快失去意义。转型期历经长达 18 个月的低迷,团队在等待底层 AI 模型追上宏大产品愿景的过程中士气跌入谷底。 > *GPT-4 对我来说是一次宗教体验,就是那种……不管做什么,不做这个就毫无意义的感觉。[34:27]* > *那段时间大概有一年半,就这么熬着,毫无起色,士气确实很低迷。[35:50]* ## [45:35] 领导力与创始人能量 尽管天生内向,赵宇仍逼迫自己掌握一对多的沟通能力,以此在 Notion 内部建立信任。他保持严格的日常节律,早上 7 点开始工作,常常忙到午夜,同时用"罪恶系"阅读补充能量。为防止组织钙化,Notion 积极收购初创公司引入"创始人能量",目前已有逾 50 位前创始人在公司主导关键业务领域。 > *带领一群人,你必须做到一对多沟通,否则大家不会信任你。[46:17]* > *创始人就像那种没有钙化的肌肉机器,一心想着打破一切。[39:10]* ## [53:17] 销售文化与结语 Notion 向企业销售转型,从"第一性原理"式的自主摸索转向成熟打法,将系统思维者与高能量销售负责人搭档配对。对话最后描绘了"AI 原生"CEO 的组织蓝图——以"圆形"模型取代传统"三角形"层级结构。在这一结构中,一个充分注入公司上下文的中心化 AI 系统,让精简的团队得以高速推进并保持决策可逆性。 > *每家公司应该只在少数几个地方保留自己的创新点……[54:54]* > *贝索斯曾说的那些单行道,其实大多是双行道……[62:39]* ## 实体 - **Ivan Zhao(赵宇)**(人物):Notion 联合创始人兼 CEO,以"重建者"思维著称。 - **Brian Halligan**(人物):HubSpot 联合创始人,本期节目访谈人。 - **Notion**(组织):一家生产力软件公司,已转型为 AI 原生模式。 - **Simon Last**(人物):Notion 联合创始人,与赵宇共同在京都重建公司。 - **京都**(地点):2015 年 Notion 重建所在的日本城市。 - **GPT-4**(技术):触发 Notion 第二次重建的 AI 模型。 - **Steve Jobs**(人物):前苹果公司 CEO,被视为重建精神与工匠精神的典范。 - **Jack Dorsey**(人物):科技人物,以其以 AI 为核心的组织重设计被提及。 - **Douglas Engelbart**(人物):"思维工具"谱系中的计算机先驱。 - **Erica**(人物):Notion 首席营收官,前 GitHub 首席营收官。 - **SaaS**(概念):软件即服务,Notion 演进所处的行业背景。 - **爵士乐队**(概念):灵活、高自主性组织结构的比喻。

#notion#ivan-zhao#ai-strategy
AI 智能体需要计算机:每月环比增长74%、每日85万次运行,全新 Agent Cloud 来了——Ivan Burazin,Daytona
1:11:40
EN/ZH
点开看双语
Latent Space大约 2 个月前

AI 智能体需要计算机:每月环比增长74%、每日85万次运行,全新 Agent Cloud 来了——Ivan Burazin,Daytona

Daytona CEO Ivan Burazin 讲述了一场深刻转型:从为人类开发者构建开发环境,到为 AI 智能体提供可组合计算机。凭借每月 74% 的环比增长与每日 85 万次运行,Daytona 打造了有状态、高性能 Agent 工作流所需的裸金属基础设施。本期节目深入探讨突发性算力的技术挑战、10 万亿美元的计算机使用市场,以及未来的 AI 云为何更像 Stripe 而不是 AWS。 ## [00:00] 开场 Ivan Burazin 描述了用户对 Daytona 基础设施的强烈需求——有人直接打电话给他本人要求获得访问权限。这种需求强度表明,为未来每一个 AI 智能体提供执行环境是一个巨大的空白市场。团队意识到,他们找到了 AI 开发栈中一块关键的缺失拼图。 > *I've never experienced this that people literally call you if you do not give them access. Like they want access right now.* ## [01:12] 嘉宾介绍 主持人 swyx 介绍 Ivan Burazin,两人在开发者体验与"本地开发终结"领域渊源颇深。Ivan 回忆起多年前曾主动联系 swyx 请教开发者体验问题。他们聊起早年的互动与对云端开发工具的共同兴趣,正是这些经历最终促成了此次合作。 > *I was one of the co-founders of code anywhere... we were thinking a long time of like local host should die.* ## [03:15] CodeAnywhere、Shift 与本地开发的终结 Ivan 讲述了与联合创始人长达二十年的合作历程——从 2000 年代初做虚拟化服务,到共同创立 CodeAnywhere,打造出第一款浏览器内 IDE。那个年代 Docker 和 Kubernetes 尚未诞生,这段经历为团队积累了深厚的基础设施底层功底。成功举办 Shift 开发者大会之后,他们回归基础设施赛道,创立了 Daytona。 > *We originally started stacking stacking servers doing like virtualization in the early 2000s... and that was a services company which we sold.* ## [05:58] Daytona 是什么:面向 AI 智能体的可组合计算机 Ivan 将 Daytona 定义为面向 AI 智能体的"可组合计算机"提供商,刻意超越"沙盒"这一行业惯用但不够准确的说法。他解释道,智能体需要针对不同任务定制的多样化计算环境,就像不同职业的人类专业人员需要不同的硬件配置。这套 API 驱动的基础设施让智能体能在生产级环境中执行代码,而不只是临时测试盒子。 > *What Daytona is today is essentially composable computers for AI agents... the market calls them sandboxes which [is] misleading.* ## [08:07] 从开发环境到 AI 沙盒的转型 观察到 Devon 和 OpenHands 等早期 Agent 产品之后,Ivan 意识到 AI 智能体需要专属的计算运行时。他们最初面向人类自动化的 SaaS 产品反响平平,却吸引了一批专门需要 Agent 沙盒的开发者。这个反馈信号揭示出一个巨大的未被满足的市场——主流云服务商根本没有在解决这个问题。 > *a lot of people reached out that were building agents and they were like hey my agent needs a compute sandbox runtime* ## [10:17] 跨年夜的 MVP 与抢着要 API Key 的用户 跨年夜那天,Ivan 用"vibe coding"方式写出了新版 Daytona 的第一个 MVP。CTO 起初直接说代码是"垃圾",但核心思路够硬,值得花两周认真重写。把新版本演示给之前持怀疑态度的人看时,反应立竿见影——电话还没挂,用户就已经在催要 API 访问权限了。 > *I've never experienced this that people literally call you if you do not give them access.* ## [12:56] 裸金属、有状态沙盒与 Daytona 的调度器 团队从第一性原理出发设计技术架构,选择在裸金属上运行,而不是传统虚拟机。目标是兼得 AWS Lambda 的启动速度与 EC2 实例的长驻有状态特性。这样一来,智能体可以像人类合上笔记本盖子一样"暂停再回来"继续工作,状态和性能都不会丢失。 > *agents will be like humans in the sense of you don't want your laptop to be shut down until you're done with work* ## [17:28] 60 毫秒启动、5 万个沙盒与每日 85 万次运行 Daytona 的基础设施在单实例速度和大规模并发上都做了极致优化:单个实例启动只需 60 毫秒。这套规模支撑着高吞吐客户每天接近 85 万次的运行量,部分客户甚至要求同时跑 50 万个并发 CPU。系统采用自研调度器和本地 NVMe 硬盘,消除网络延迟、最大化 IOPS。 > *Our time to spin up one is 60 milliseconds with network latency... if you want to spin up 50,000 at once, we are now at about 75 seconds.* ## [21:53] 突发性 RL/评估负载与新型 Agent 基础设施难题 AI 负载的"突发性"是算力提供商面临的重大挑战,导致平均利用率仅有 15%,峰值却能冲到 90%。负载大致分两类:跟随人类节奏的"后台 Agent",以及在不可预测时段爆发大量请求的"评估/RL 任务"。为应对动辄 10 万个 CPU 的瞬间爆量,Daytona 必须提前做容量预留。 > *Daytona's mean utilization is 15%... because it's very spiky. But it's very spiky but we get up to 90%.* ## [28:12] RL 负载、Kubernetes 的痛点与动态扩容 Daytona 的主要竞争对手是 EKS、GKS 等托管 Kubernetes 服务,但 Daytona 把自己定位成算力领域的"Twilio 或 Stripe"——用起来更顺滑。比起 Kubernetes,Daytona 提供无缝的 API 来启动沙盒,启动速度也快得多。一个关键优势是可以在运行时动态扩容沙盒,避免 OOM 崩溃——这在其他平台上很难实现。 > *Daytona although it's a compute provider it's more akin to a Twilio and Stripe from a consumption perspective than it is an AWS* ## [33:31] 为什么每个 AI 智能体都需要一台计算机 Ivan 估算全球知识工作者的薪资总额约为 50 万亿美元,其中大量工作被锁在遗留 Windows 应用中。他认为,真正的自动化需要能通过 GUI 与这些遗留系统交互的"人类模拟器"。如果能自动化其中 40% 的工作,Agent 计算机使用市场每年大约能达到 10 万亿美元。 > *If you take 40% of that, you get to essentially like 10 trillion dollars a year.* ## [38:48] macOS 沙盒与 Apple 的授权困境 macOS 沙盒的托管难度远超 Windows 和 Linux。Apple 的授权限制每台机器只能同时跑两个虚拟机,且用户需要绑定 24 小时,按秒计费在经济上根本不可行。此外,安全限制导致内存快照无法在物理机器之间迁移,严重制约了 Mac 硬件上 Agent 负载的可扩展性。 > *Apple is shooting itself in the foot... if it would just enable a concurrency model similar to what you can get on a Windows.* ## [44:28] 为什么 CLI 可能比 MCP 更重要 本节对比了 MCP 与 CLI 在 Agent 行动中的角色。MCP 是对 API 的一层接口封装,而 CLI 让智能体能在沙盒内执行脚本、做深度数据分析。这层间接性使得 Agent 工作流远不止于简单的数据拉取,而是真正能"做事情",而不只是做集成。 > *the MCP is an interface against an API whereas the CLI is like you can actually go do things... the difference between integrations and actually running scripts.* ## [48:11] 开源、GitHub Star 与智能体集成 Ivan 详述了 Daytona 沙盒产品切换到 AGPLv3 协议的决策——在开放性与商业保护之间取得平衡。这种"著佐权"方式允许企业使用,但禁止竞争者做闭源 fork。保持核心引擎透明,既能建立用户信任,也让大型企业无需漫长安全审查就能给智能体提供完整上下文。 > *in the new sandbox product we did add a AGPL3... you essentially can't make a competitor without open sourcing your stuff.* ## [53:11] Git、CI/CD 与智能体协作瓶颈 GitHub 等现有版本控制系统往往跟不上 AI 智能体的高速输出,成为 CI/CD 流水线的瓶颈。部分开发者已经开始自制变通方案,把整个代码库打成 JSON 文件扔到 S3 上,绕过 Git 的开销。随着有些公司每天产出超过 1000 个 PR,一个先于 Git 流水线的智能体协作层正在成为迫切需求。 > *GitHub as-is was an overhead... it wasn't fast enough what they needed.* ## [58:15] 创始人之路与打造一家 25 人的基础设施公司 Daytona 的成功离不开一支核心团队——25 人中有 13 人共事超过七年,形成了高度信任的文化。Ivan 坦言创始人之路艰难,包括长期离家,但他认为成长本身就意味着承受"痛苦"。他把自己的工作视为打造 Agent 时代的新一代 Serverless 与 Kubernetes,而极致的响应速度是他们的核心竞争力。 > *Of the 25 people in Daytona, I think about 13 of them we have worked with seven years plus.* ## [1:02:44] AI SaaS、Token 转售与 API 优先商业模式 Ivan 对 SaaS 生态提出批判性判断:市场正在错误地给那些只是转售 AI Token 的厂商打出溢价,而这类模式的利润率远比传统 SaaS 差。他主张企业应当通过 API 开放数据、按消耗量收费,随着 Agent 使用量提升,收入也能真正加速增长。 > *The market is adding premium to SAS vendors that are reselling tokens. And I think that's incorrect.* ## [1:06:10] GPU 沙盒、数据中心与算力增长 Daytona 计划推出 GPU 沙盒,支持 3D 渲染、CAD 强化学习等负载,而非将重心放在推理上。公司目前通过托管机房运行裸金属服务器,Ivan 表示架构上已预留自建数据中心的可能性,但现阶段为了个位数的利润率提升而承担高额资本风险并不划算。 > *We will [offer GPUs], but not for inference. Like essentially what we think about is like the GPU sandbox.* ## [1:09:48] AI 云为什么更像 Stripe 而不是 AWS 对话最后畅想了"面向 AI 智能体的 AWS"会是什么样——Ivan 认为它更像 Stripe,而不是传统云厂商。这个未来的"AI 云"将把沙盒、网页搜索和数据库作为基础原语整合在一起。Cloudflare、OpenAI 等公司都在争夺这个赛道,而 Ivan 暗示,专为 Agent 设计的基础设施原语还有很多有待开发。 > *There will be a cloud built out specifically for agents and so that cloud will have sandboxes and it will have web search and it'll have databases.* ## [1:11:26] 结语 AI 基础设施市场正以每月 40%-75% 的史无前例速度增长。Ivan 与 swyx 谈到抢占硬件资源的竞赛,以及向专业化 Agent 云迁移的大趋势——这将定义未来十年计算的走向。 > *The entire infrastructure market is growing 40% plus or minus month over month... if you're not growing 40%ish... you don't have to come to work.* ## 实体 - **Ivan Burazin**(人物):Daytona CEO,CodeAnywhere 联合创始人。 - **swyx**(人物):Latent Space 主持人,Daytona 早期投资人。 - **Daytona**(组织):为 AI 智能体提供可组合计算机和沙盒的公司。 - **CodeAnywhere**(组织):第一款浏览器内 IDE,由 Ivan Burazin 联合创立。 - **Devon**(产品):早期 AI 软件工程师 Agent。 - **OpenHands**(产品):开源 AI Agent 项目,前身为 OpenDevin。 - **Kubernetes**(技术):容器编排技术,被提及为 Daytona 人性化 API 的竞争对手。 - **Apple**(组织):因 macOS 虚拟化授权限制被重点提及。 - **Salesforce**(组织):云软件公司,因 API 优先战略被提及。 - **GitHub**(组织):开发者平台,被指出是 Agent CI/CD 工作流的瓶颈。 - **Nvidia**(组织):GPU 主要供应商,其供货状况直接影响市场增速。 - **Stripe**(组织):用于类比未来 AI 云按消耗量计费的商业模式。

#ai-agents#infrastructure#sandboxing
用 Claude Managed Agents 构建生产级 AI 智能体
27:23
EN/ZH
点开看双语
Claude大约 2 个月前

用 Claude Managed Agents 构建生产级 AI 智能体

本节介绍 Claude Managed Agents——一套专为开发者设计的 API 端点,内置工具调用、安全机制和可观测能力,帮助开发者快速构建并部署生产级 AI 智能体。演讲者详细讲解了 Agents、Environments、Sessions 三大核心原语,以及如何借助它们实现多智能体协调和人机协同控制。 ## [00:00] Managed Agent 核心原语介绍 Anthropic 推出 Claude Managed Agents,以一组 API 端点的形式提供开箱即用的生产级能力,涵盖工具调用、错误恢复和记忆管理。其架构以"Agents"作为技能模板,以"Environments"提供具备细粒度权限的沙箱执行环境,以"Sessions"维护持续的对话上下文与状态流转。 > *Claude Managed Agents 说白了就是我们开发并发布的一组 API 端点……让你能直接用上可扩展、生产就绪的智能体。[01:35]* ## [07:54] 安全连接与沙箱机制 该平台支持自托管沙箱,开发者可使用私有容器和 VPC 保护敏感数据,同时保持对模型的访问。新增的 MCP 隧道功能可安全连接内部 MCP 服务器,Credential Vaults 则将认证令牌与模型上下文完全隔离,避免泄露风险。 > *Claude 可以直接安全地连接到这些 MCP 服务器,无需将其暴露在公网上。[09:40]* ## [10:02] 多智能体编排与实现 演示展示了一套多智能体架构:一个协调者智能体可动态派生专用子智能体,分别处理金融分析、宏观趋势研究等复杂任务。开发者可通过 Anthropic SDK 和 Claude Code 实现这类工作流——Claude Code 专门针对 Managed Agents API 的开发与迭代进行了优化。 > *一个智能体负责判断宏观趋势……另一个则专精金融分析。[11:36]* ## [19:28] 可观测性、记忆与基础设施 Claude Console 提供完整的可观测能力,包括智能体版本管理、会话监控,以及直接编辑记忆存储以修正智能体上下文。该服务内置状态流转和持久化存储,开发者无需手动搭建复杂的自定义智能体循环或沙箱集群。 > *用了 Claude Managed Agents,这些能力全部开箱即得。[26:54]* ## 实体 - **Anthropic** (组织): 开发 Claude 系列模型的 AI 研究与安全公司。 - **Claude Managed Agents** (软件): 用于构建和托管生产级 AI 智能体的 API 端点套件。 - **MCP** (协议): Model Context Protocol,用于安全认证和工具集成。 - **Claude Code** (软件): 专为实现和管理 Anthropic API 而优化的开发者工具。 - **Bun** (软件): 技术演示中使用的高性能 JavaScript 运行时。 - **Cloudflare** (基础设施): 云服务提供商,用于托管私有沙箱和运行环境。 - **Credential Vaults** (功能): 安全存储认证令牌、防止其暴露给模型的机制。 - **Memory Stores** (功能): 持久化存储,支持智能体跨会话保留和检索信息。

#claude-managed-agents#ai-agents#anthropic-api
如何用 Claude Managed Agents 更快上生产
29:04
EN/ZH
点开看双语
Claude大约 2 个月前

如何用 Claude Managed Agents 更快上生产

Anthropic 工程师 Michael 与 Harrison 介绍了 Claude Managed Agents——一个旨在简化自主 AI 智能体部署所需基础设施、安全与可观测性的平台。通过接管沙箱、身份管理等复杂后端任务,该系统让开发者得以从简单的工具调用迈向长时运行、以结果为导向的智能体工作流。 ## [01:10] 智能体基础设施的演进 Michael 与 Harrison 梳理了 AI 从基础函数调用到能够完整负责功能开发与 PR 的自主智能体的演进历程。他们指出,当前制约生产力提升的瓶颈已不再是模型能力,而是基础设施——真正的目标是让数月的工作在几小时内完成。 > *我们认为未来的方向是:整整一个季度的工作量,能在短短几小时内全部搞定。* > *[2, 34]* ## [04:22] 核心原语与配置 平台提供可组合的原语,涵盖上下文管理、可观测性与安全沙箱,开发者可通过系统提示词和 MCP 工具配置来定义智能体。"Ask Claude"按钮与事件流为智能体会话提供实时透明度,并给出优化建议。 > *这些平台工作我们都替你做好了,你只需要按需选取我们提供的原语即可。* > *[5, 26]* ## [10:05] 高级编排与记忆 平台不止于单任务执行,还支持多智能体编排——Claude 可以派生子智能体来分派工作。"Dreaming"等高级功能让智能体能够跨数千个会话进行反思,通过自主复盘提升长期记忆与任务表现。 > *它让 Claude 能够派生出各自拥有独立上下文窗口的子智能体线程,将工作委托给它们执行。* > *[10, 55]* ## [11:56] 沙箱与安全连接 Anthropic 提供自托管沙箱与 MCP 隧道,让企业在掌控网络策略和审计日志的同时,安全地暴露私有数据。Vercel、Modal 和 Cloudflare 等合作伙伴提供专属基础设施,从面向快速弹性扩容的轻量隔离执行环境,到高性能 GPU 集群,各有所长。 > *MCP 隧道本质上就是把你网络内部的私有 MCP 暴露给云端管理智能体的一种方式。* > *[13, 25]* ## [20:19] 真实场景自动化与性能优化 DoorDash 和 Modal 等公司正在将智能体用于复杂的技术任务,例如自主账户管理和推理调优。通过运行 Nvidia 分析器等工具,智能体能够自主"爬坡"优化性能基准,无需人工干预即可提升工作负载效率。 > *Claude 能优化训练循环……它会跑 Nvidia 分析器,读取分析结果,然后一路猛干,把各项指标越搞越好。* > *[20, 39]* ## [25:23] 未来挑战:身份管理与协作 随着智能体成为算力的主要消费者,业界面临身份管理、出口过滤和任务可恢复性等新挑战。AI 的未来在于从刚性执行走向协作式的"多人在线"模式,让智能体与人类能够根据反馈动态调整方向。 > *我们如何在整条链路上正确分配身份,确保它只能访问应该访问的数据?* > *[25, 55]* ## 实体 - **Anthropic**(组织):Claude 系列模型背后的 AI 安全与研究公司。 - **Claude Managed Agents**(产品):用于构建和部署自主 AI 智能体的平台与基础设施套件。 - **Michael**(人物):Anthropic 技术成员,负责 managed agents 方向。 - **Harrison**(人物):Anthropic 技术成员,负责 managed agents 方向。 - **MCP**(协议):Model Context Protocol,用于工具配置与安全隧道。 - **Cloudflare**(组织):云服务提供商,专注于 MicroVM 和隔离执行等沙箱技术。 - **Modal**(组织):算力平台,专注于大规模 GPU 沙箱与 AI 工作负载。 - **Vercel**(组织):合作伙伴,为智能体沙箱提供弹性计算基础设施。

#ai-agents#anthropic#claude
构建最佳智能体分析工具:由 Claude 驱动,用 Claude Code 开发
26:46
EN/ZH
点开看双语
Claude大约 2 个月前

构建最佳智能体分析工具:由 Claude 驱动,用 Claude Code 开发

Omni CTO Chris Merrick 详述了「Blobby」的开发历程——这是一套由 Anthropic Claude 模型驱动的智能体分析工具。Omni 将扎实的语义层与内部深度使用 Claude Code 相结合,让用户能够把自然语言转化为复杂的数据可视化,同时保持较高的工程交付速度。 ## [00:07] 用 Claude Code 提升工程效率 Chris Merrick 介绍了 Claude Code 如何改变 Omni 的内部开发节奏,让一支仅 25 人的小团队依然能保持高频提交。即便身为 CTO,Merrick 也借助 Claude Opus 模型的高效能力亲自参与编码,与团队并肩作战。 > *I thank Claude very much for making me uh still able to do some software engineering from time to time. [01:12]* ## [03:14] 语义层与业务上下文 为了弥合通用 LLM 知识与具体业务数据之间的鸿沟,Omni 引入了一套语义层,提供财务定义、表关系等关键上下文。这一层既是权限管控工具,也是数据策划工具,确保 AI 智能体真正理解企业数据环境的独特之处。 > *Claude is incredible at answering questions, but you need to tell it more about your business if you want it to answer questions about your business. [04:03]* ## [11:15] 架构演进与「切脑手术」 团队将 AI 智能体 Blobby 从简单问答工具逐步升级为成熟的智能体框架:把底层模型从 Claude Haiku 换成 Sonnet,以获得更好的多轮对话表现;同时针对「裂脑」问题——子智能体与外层智能体沟通失调——将所有工具整合进单一、统一的智能体大脑加以解决。 > *You want to be careful not to have a split brain between any sort of sub agent system and outer agent system. [15:57]* ## [16:23] 利用 SQL 与 CTE 的熟练优势 Omni 将查询策略从自研 JSON 格式切换为标准 SQL,以充分发挥 Claude 在复杂公用表表达式(CTE)上的天然优势。这次迁移让智能体能够一次性处理复杂的数据问题,显著提升了生成报告的准确性。 > *Claude really likes to write SQL with CTE, common table expressions... and our parser was really good at parsing those [18:27]* ## [19:09] 评测、可观测性与 UI 验证 Merrick 强调,严格的评测体系和原始链路可观测性,是满足高管用户对结果可预期性要求的关键。Omni 遵循「AI 生成,UI 验证」的产品理念:由 Blobby 生成初始看板,再由用户通过工作簿界面进行细化和排查。 > *Our philosophy from a product perspective is AI to build, UI to sort of validate and troubleshoot and refine. [23:21]* ## 实体 - **Chris Merrick**(人物):Omni 联合创始人兼 CTO,带领工程团队并积极推动 AI 驱动的开发模式。 - **Omni**(组织):一款 AI 分析平台,让用户能够用自然语言查询数据。 - **Claude**(AI 模型):Anthropic 旗下的 LLM 系列,驱动 Omni 的数据分析与内部工程工作。 - **Claude Code**(软件):AI 辅助编程工具,大幅提升了 Omni 的开发效率。 - **Blobby**(AI 智能体):Omni 的 AI 数据分析师智能体,专为解读和回答复杂数据问题而设计。 - **SQL**(技术):Omni 语义层生成的查询语言,用于与数据仓库交互。 - **Claude Sonnet**(AI 模型):Anthropic 旗下特定模型,用于解锁复杂智能体对话中的性能突破。 - **GitHub**(平台):智能体演示中所用 PR 数据的来源平台。

#ai-analytics#claude-code#semantic-layer
别再盯着 Agent 了
37:07
EN/ZH
点开看双语
Claude大约 2 个月前

别再盯着 Agent 了

Sid Budhiraja 是 Claude Code 的创始工程师之一,在 Anthropic 的 Code with Claude 大会上发表了这场演讲,直指一个普遍的效率黑洞:工程师大量时间耗在盯着屏幕等 Claude 跑完,或充当一个"高级 QA 测试员"。他给出三套递进策略——验证、并行化、后台循环——合在一起,让 Claude 基本上可以无人值守地运行。YouTube 上没有字幕;转录由 Gemini Flash 生成(仅段落级别,无词级时间戳)。 ## [00:02] 开场与前置条件 Sid 把这场演讲定位为"Claude Code 301"课,开场先做了一个快速的现场调研。他列出三件他认为必须具备的基础:一份高质量的 CLAUDE.md 文件("单项杠杆最高的事情")、把 Slack、Linear、BigQuery 等外部工具接入 Claude Code 让它拼出更完整的上下文、以及把 Claude Code 跑在 Web 端让会话脱离工程师的笔记本电脑、即便机器关掉也继续运行。 随后他介绍了接下来的主线:验证、多 Claude 并行、后台循环,三者环环相扣。 > *"有个实用原则:凡是你日常工作中好用的工具,Claude 用起来也好用。Slack、Asana、Linear、Datadog、BigQuery——这些都能帮 Claude 拼出一个丰富得多的上下文。"* ## [05:14] 让 Claude 自己验证自己的工作 Sid 让听众回想自己最近一次验证 feature 的步骤:写代码、构建、运行、检查副作用、看日志、查数据库、跑单元测试、部署到 staging。他的论点是——这套流程 Claude 也能跑,只要给它合适的工具和指令。 关键机制是**循环**:Claude 写代码,遇到失败,调试,再写代码,如此往复,直到到达成功状态。一旦进入循环,Claude 就能自主爬坡,不需要工程师守在旁边。这套循环在前端(浏览器冒烟测试)、后端(API 校验)和端到端流程上都适用,原理完全一致。 为了把验证循环打包复用,Sid 推荐用**技能文件**——一份 Markdown 文档,存放特定验证任务的指令和工具配置。技能文件还可以自我进化:让 Claude 每次碰到新障碍就更新这份文件,它会逐渐成长为一份团队共享的自文档化手册。 > *"循环本质上是一个你可以替 Claude 搭好的自主回路,让它在某个任务或某个成功标准上持续爬坡。"* ## [15:46] 演示:现场搭建验证循环 Sid 以 MonkeyType 作为演示对象,这是一个开源的 TypeScript/Express/MongoDB/Redis 打字测试应用,代表了真实的全栈生产环境。从一个全新的 Claude Code 会话出发,他让 Claude 启动开发服务器,然后用 `/chrome` Chrome MCP 工具打开 localhost,输入文字,修改设置——手把手带它走完一次基本冒烟测试。 辅助会话跑完之后,他让 Claude 把刚才学到的一切写进 `.claude/demo-verification` 的技能文件里。Claude 生成了一份包含三节的技能文档:启动应用栈、加载 Chrome MCP 工具、执行冒烟测试。接着他让 Claude 开发一个新功能——每次打错字就触发彩纸动画——并用刚创建的验证技能来自证其工作。Claude 写好功能,遇到 ESLint 报错,修掉,重新加载应用,循环往复,直到彩纸出现。 > *"你能看到验证循环在跑:它写了代码,遇到问题,又写更多代码来修,就这样转圈,直到回到一个好的状态。"* ## [26:38] 同时跑多个 Claude 还不崩溃 同时跑多个 Claude 实例会消耗注意力,Sid 个人的上限是四五个会话,再多就难以招架。他介绍了四种突破这个天花板的工具。 **Claude Code 桌面应用**提供统一的侧边栏,把本地终端、云端、GitHub 上所有会话汇总展示——按需要关注的紧迫程度排序、颜色标注、可重命名。终端替代方案是**Claude Agents**(`claude agents`),在演讲前约一周发布,在终端内呈现相同的会话列表,把最需要决策的会话排到最前面。**Claude Code on the Web**(claude.ai/code)在 Anthropic 的云端运行会话,完全脱离工程师的硬件。**Remote Control**(`/remote-control`)则把任意运行中的会话镜像到手机端并推送通知,工程师在车里或开会间隙也能直接回应 Claude 的问题,不用打开电脑。 > *"Remote Control 让你可以用手机控制任意设备上跑着的任意会话。Claude 需要你介入时,手机会震动,哪怕你在车里,随手就能给它想要的输入。"* ## [32:41] 后台循环与例程 即便有了多会话管理工具,工程师还是要亲自决定什么时候开启每个会话、给它什么目标。后台循环把这最后一步手动操作也省掉了。Sid 介绍了 `/loop` 命令:`/loop 10 minutes "babysit my open PRs"` 会每隔十分钟唤醒一个 Claude Code 会话,自主执行该提示词,处理 review 意见、合并冲突、CI 失败,全程不需要工程师守着。 **Routines** 是跑在 Anthropic 云基础设施上的 `/loop`,复用的是 Claude Code on the Web 的远程容器。Claude Code 团队自己就跑着两个例程:一个每天更新文档,一个每六小时扫描 issue 和用户反馈并把摘要发到团队 Slack 频道。验证确保输出可靠,多 Claude 工具保护并行会话间的注意力,例程负责周期性的日常事务,工程师的角色就此从"看门员"变成了"委派者"。 > *"你可以把注意力和时间放在自己真正在意的事情上,其他一切都可以委派给 Claude——可靠度高,放心程度也高。"* ## 实体 - **Sid Budhiraja**(人物):Claude Code 在 Anthropic 的创始工程师;本次演讲的主讲人。 - **Anthropic**(组织):Claude 和 Claude Code 的开发商;Code with Claude 大会的主办方。 - **Claude Code**(软件):Anthropic 的自主编程工具;演讲的核心主题。 - **验证循环**(概念):自主的"写代码—检查—修复"闭环,让 Claude 在无需人工干预的情况下持续迭代,直到达到预定的成功状态。 - **MonkeyType**(软件):开源 TypeScript 打字测试应用(Express + MongoDB + Redis);演示中的真实目标应用。 - **Chrome MCP**(软件):Model Context Protocol 工具(通过 `/chrome` 调用),赋予 Claude 对浏览器的程序化控制能力,用于 UI 验证。 - **Routines**(概念):云端定时运行的 Claude Code 会话,支持基于时间或事件的触发,实现完全自主的周期性任务。 - **Remote Control**(概念):功能(`/remote-control`),将 Claude Code 会话镜像到手机端并推送通知,支持随时随地的异步监管。

#claude-code#ai-agents#developer-tools
Lovable 如何在生产环境中大规模 vibecoding
31:10
EN/ZH
点开看双语
Claude大约 2 个月前

Lovable 如何在生产环境中大规模 vibecoding

Fabian Hedin 是 Lovable 的联合创始人兼 CTO,他介绍了团队为防止非技术用户永久卡住而构建的两套生产系统:Lovable Overflow——一个在推理时注入 agent 上下文的问题-解决方案自维护语料库;以及"venting"工具——让 agent 自行标记平台故障并自动向工程师提交 PR 供审查。两套系统合计将平台的卡住率降低了 5%,效果相当于整整一代基础模型的升级,如今每天约有十个由 agent 提交的 PR 被合并入库。 ## [00:20] 从 GPT-Engineer 到每月六亿次访问 Lovable 的历史可以追溯到 35 个月前的 GPT-Engineer——一个由 Anton 联合创立的终端程序,曾短暂成为 GitHub 增长最快的仓库。那场演示——让模型生成一个贪吃蛇游戏并端到端执行——让外界看到了 LLM 在软件创作上的潜力,但 2023 年中期这套抽象层对非开发者用户还远未成熟。Fabian 将大约十八个月前"对话 + 预览"模式跑通视为关键转折点,此后每三个月就有一个新的基础模型把边界再往前推一步。 平台如今承载着 1500 万个项目。更能说明问题的是:基于 Lovable 搭建的站点每月合计获得六亿次访问,远超 Lovable 自身的流量——这说明用户正在用它交付真正有影响力的产品。 > *"我们平台上有 1500 万个项目,基于 Lovable 搭建的站点每月有六亿次访问。我认为这个数据很有意思,因为它远远超过了 Lovable 自身的流量。"* ## [04:22] 面向 99% 人群的生产级软件:非技术用户为何会卡住 Lovable 瞄准的是那 99% 不会写代码的人,并坚持以生产级质量为标准,而非止步于原型。这让问题比面向专业开发者更难处理。专家遇到问题可以读报错、换库,或者找开发者体验团队;非技术用户在 Lovable 的抽象层里工作,代码大多看不见,根本没有这些退路。 Fabian 引用了软件开发的经典铁律:前 90% 的代码要花 90% 的时间,后 10% 再花 90%。AI 时代这个规律依然成立:vibecoding 能让你快速得到第一版,但要做到完整、无 bug,往往更费时间。在最后那段冲刺里彻底卡死,是 Lovable 能给用户带来的最糟糕体验。 > *"如果他们卡住了,体验会非常糟糕。这几乎是能发生在他们身上最坏的事,因为他们自己解卡要难得多。"* ## [09:55] 定义“卡住”:is_stuck 指标与三类失败桶 当用户连续三次提出相同请求、明确抱怨输出结果,或者提问后直接放弃会话时,Lovable 的 `is_stuck` 标志就会触发。一个小型分类模型会评估每段对话来设置这个信号。 团队将卡住场景归为三类桶。第一类是"可提示解决"的——换个说法或补充一点上下文就能搞定;Lovable 的目标是在用户意识到需要重新提问之前就把这类情况修掉。第二类是平台缺口:agent 本应处理,却因工具缺失或损坏而无法完成。第三类则需要大型基础设施投入——例如 Lovable 很长时间只支持客户端渲染的 SPA,这让注重 SEO 的开发者头疼;就在本次分享的那周,他们刚上线了服务端渲染。每类桶需要不同的修法,但三者共享同一核心愿景。 > *"Lovable 在技术层面的愿景是:平台上搭建的每一个应用,都应该帮助改善下一个应用。"* ## [13:15] Lovable Overflow:绕过错误的舰队知识库 以 Stack Overflow 命名,Lovable Overflow 是一个持续增长的语料库,收录从真实用户会话中提炼的问题描述与解决方案配对。当用户反馈页面滚动卡顿时,一个轻量检索模型会在语料库中搜索相似描述,若匹配结果足够相关,就将一个合成修复注入主 agent 的上下文——不是原始文本,而是经过改写以适配当前场景的版本。 更难的工程问题是保持语料库的时效性。JavaScript 包发布了修复,或者新基础模型已经把答案烧进权重,知识就会过期。Lovable 追踪每条记录的成功率,并剔除失效记录——包括那些在新模型里已经冗余的条目。在"纳入新知识"与"淘汰旧知识"之间保持平衡,结果证明和检索机制本身同等重要。 > *"我们会追踪每个知识文件的成功率,当它过期时直接将其从知识库中删除。我们会持续审查系统里的每一条知识,确保在它不再有用时及时清理。"* ## [17:45] Venting:让 agent 自己汇报遇到的问题 第二套自愈机制把反馈回路倒了过来:不再是 Lovable 工程师盯着失败看,而是 Lovable agent 在遇阻时主动提交报告。agent 的工具集里有一个叫 `vent--send_feedback` 的工具,提示词要求它"每条用户消息中,只要工具、文档或平台行为对你的工作造成实质性拖慢或干扰,就调用一次"。agent 的投诉会落到一个 Slack 频道,一个监控 agent 负责去重和排查,如果问题属实,就自动向工程师开一个 PR 供审查。 约 50% 的自动生成 PR 有意义并被合并。举一个例子:agent 在 `code--copy` 工具里踩到了文件名含空格的 bug,尝试了 URL 编码等各种变通方法后发出 venting,十分钟后修复就上线了。另一个例子走得更远:Lovable agent 抱怨 Framer Motion 的 TypeScript easing 类型设计,暗示这个开源库本身就值得提一个 PR。Fabian 提到,他们在考虑让 agent 把修复直接贡献给更广泛的 JavaScript 生态。 venting 频道还出乎意料地成为了一套早期预警系统。推理服务中断、沙箱丢失、网络层故障——这些生产事故都会在传统监控告警触发前,先以 venting 量的峰值形式出现。有一个"元案例":agent 在一次会话里连续 venting 了 43 次,随后自己提了一个 PR,建议加入去重逻辑来防止刷屏它自己的创造者。 > *"这个 Slack 频道里 agent 的 venting 多次成为我们发现生产事故的第一信号。即便不是第一信号,它对工程师排查问题也已经非常有价值。"* ## [26:12] 成果、经验,以及自愈机制之后的方向 Lovable Overflow 第一版就将卡住率降低了 5%,发布率提升了 2%,此后还在持续调优。Fabian 给这个 5% 加了背景:这大致等同于升级到全新一代基础模型所能带来的改善幅度。venting 流水线每天合并约十个平台修复。 三条经验格外突出。第一,失败模式的知识具有模型特异性:新基础模型上线后,Lovable Overflow 的现有条目需要重新验证,因为有些会变得冗余,有些则需要针对新模型的不同行为重新措辞。第二,知识有半衰期——哪怕当时正确的修复,随着库的演进也会变错。第三,早期曾有一次类似尝试失败了,不是因为思路有问题,而是成功信号太粗糙,难以调优;如今 1500 万个应用、每天 20 万个新项目,让 Lovable 终于有了足够的信号来让系统跑起来。 除这两套系统外,团队正在用舰队数据做微调,并扩大评估覆盖面,以此作为每次模型发布的门控。Fabian 的结语是:Lovable 的用户带着强烈的意愿来交付真实产品,当他们离开时依然卡着,那就是 Lovable 的失败——所有这套自愈机制存在的意义,就是弥合这个差距。 > *"卡住率降低了 5%。这个数字听起来也许不大,但实际上,它和我们在系统里换上一代新基础模型所能看到的指标变化处于同一量级。"* ## 实体 - **Fabian Hedin** (人物):Lovable 联合创始人兼 CTO;在 Code with Claude 2026 发表了本次主题演讲 - **Lovable** (组织):面向非技术用户的 AI 软件构建平台;1500 万个项目,托管站点每月六亿次访问 - **Claude** (软件):为 Lovable agent 提供支撑的基础模型,服务消费级规模 - **GPT-Engineer** (软件):由 Anton(Lovable 联合创始人)联合创立的开源终端工具;2023 年成为 GitHub 增长最快的仓库,后演进为 Lovable - **Lovable Overflow** (概念):舰队学习知识语料库——从真实会话中提炼问题/解决方案配对,注入 agent 上下文,并按成功率持续剪枝 - **Venting / vent--send_feedback** (概念):agent 端工具,将平台故障报告提交至 Slack;监控 agent 负责去重并自动向工程师开 PR - **is_stuck** (概念):二值指标,当用户重复提出相同请求三次、抱怨输出结果,或提问后放弃会话时触发 - **Framer Motion** (软件):TypeScript 动画库;被 Lovable agent 识别为存在次优类型 API 的开源依赖,作为案例引用

#lovable#vibe-coding#fleet-learning
编程不再是瓶颈:Spotify 如何为团队与 AI 智能体扩展开发者体验
27:36
EN/ZH
点开看双语
Claude大约 2 个月前

编程不再是瓶颈:Spotify 如何为团队与 AI 智能体扩展开发者体验

Niklas Gustavsson 是 Spotify 的首席架构师兼工程副总裁。他讲述了一个拥有 3000 名工程师的团队如何在数月内将 AI 工具采用率从零推到 99%,以及这一变化对产品研发约束的深层影响。他详细拆解了 Spotify 自研的三套系统:用于大规模自动化迁移的 FleetShift、基于 Claude 的后台编码智能体 Honk,以及让智能体在规模化环境下可靠运行的结构化平台 Backstage。核心论点是:让人类团队跑得快的标准化实践,同样能让智能体跑得快。 ## [00:18] Spotify 的 AI 采用热潮 Spotify 对 AI 编程工具的采用并非缓慢渗透,而是在 2024 年 11 月 Claude Opus 3.5 发布前后出现了明显拐点。数月之内,99% 的工程师每周使用 AI 工具,最新内部调查中 94% 的工程师表示 AI 工具切实提升了他们的工作效率,PR 提交频率上涨了 76%。Niklas 提到,他在准备这张幻灯片时不得不临时更新数据,因为数字还在持续攀升。 这场量变也带来了质变:Spotify 目前提交的大多数 PR,已经是工程师与 AI 智能体共同完成的,而不再是人类独立撰写。 > *"今天,我们超过 99% 的工程师每周都在使用 AI 编程工具。在最新的调查中,94% 的工程师表示,使用 AI 工具帮助他们变得更有效率。"* ## [03:52] FleetShift:AI 之前的代码库自动化维护 AI 出现之前,Spotify 面临的问题是:生产代码库的增长速度是工程团队扩张速度的七倍。这意味着工程师要把越来越多的时间花在维护工作上——版本升级、API 废弃处理、安全补丁——留给新功能开发的精力因此不断被压缩。FleetShift 是应对这一困境的答案:这套舰队管理系统将上述变更视为跨越数千个代码仓库的协调操作,而非逐个组件的手动处理。 AI 进入 Spotify 之前,FleetShift 已经无需人工介入地自动合并了 250 万个维护 PR:系统自动创建 PR、在 CI 中验证,然后合并。这套基础设施后来成为 Honk 接入的编排层。 > *"截至今天,我们已经合并了 250 万个这样的自动化维护 PR。这些工作我们的开发者完全不需要亲自动手。"* ## [07:38] Honk:基于 Claude Agent SDK 的后台编码智能体 简单的规则化脚本处理配置变更和依赖升级还算够用,但一旦涉及实际的代码修改就会力不从心。代码的 API 接口面非常宽——调用同一个方法的写法五花八门,当迁移脚本跑过数百万行代码和数千个仓库时,各种边界情况都会撞上(这种现象有个专门的名字:Hyrum 定律)。正是这种脆弱性,成了催生 Honk 的直接驱动力。 Honk 现在是一个基于 Claude 的编码智能体,运行在 Kubernetes pod 中,由 FleetShift 调度,并配备了 CI 工具,可以自行运行构建、捕获编译错误,在提 PR 前完成自我修正。以前需要多个团队花数月时间完成的 Java 版本迁移,现在一名工程师三天内就能搞定。 > *"与其写确定性脚本来做代码改动,能不能用 LLM 来完成这件事?……由此诞生了一个工具,我们现在叫它 Honk。"* ## [11:34] Honk V2 与多人协作智能体会话 Spotify 的工程师很快摸索出通过 Slack 调用 Honk 的方式——在对话中 @ 它,然后收到一个 PR。这种自发形成的使用模式推动团队向更具交互性的产品方向演进。Honk V2 在这次演讲前一天的黑客周期间以 alpha 版本发布,在原有批量迁移能力之上新增了两个层次。 第一层是与 Chirp 的集成——Chirp 是 Spotify 内部的智能体编排层,允许开发者并行运行多个 Honk 会话并统一协调。第二层是多人协作:多个开发者可以同时向同一个智能体实例提供反馈,被描述为"面向 Claude 的 Google Docs"。Projects 功能将这些会话组合成一个共享工作空间,追踪更长周期的目标。 > *"基本上可以想象一下,类似 Google Docs 的东西,不过是面向 Claude 的。"* ## [14:43] 标准化作为智能体基础设施 Spotify 十多年来一直遵循一个原则:技术选型越少,执行越快。收窄技术栈能减少决策疲劳,让跨团队协作更顺畅,让工程师在更小的技术面上深耕,而不是疲于维护宽泛的技术广度。Niklas 认为,同样的原则直接提升了智能体的表现。 机制是实证层面的:在技术栈更碎片化的代码库中,Spotify 观察到 Claude 产出质量明显下降;在技术栈统一的代码库中则表现更好。Backstage——他们的开发者门户和软件目录——是执行这一原则的层面。它暴露组件归属、技术雷达推荐,以及每类组件的"Golden State"规范。Soundcheck UI 让团队自评合规情况。关键的是,这些信息同样通过 MCP 服务器和 CLI 工具对外暴露,智能体可以直接查询。Honk 修改代码时,lint 检查会立即告知它是否用了不在雷达内的模式,Niklas 亲眼看到 Claude 在这些检查中实时自我修正。 > *"如果 Claude 有大量其他代码可以参考,而且这些代码大致一致,Claude 就会表现得更好。我们正在看到这一点。我们确实有一些碎片化程度更高的代码库,在这些代码库中,我们能看到 Claude 表现更差。"* ## [22:15] 当编程不再是瓶颈之后 Niklas 最后用一次视角重构收尾:AI 转型并没有消除产品研发的约束,而是移动了约束的位置。时间曾经花在写代码上;现在这个约束正在松动,瓶颈转移到了人的决策——该追哪个想法、哪些 PR 真的需要人工审查、哪些原型值得深化。 PR 审查方面,76% 的增幅意味着开发者被审查请求淹没。Spotify 的应对是自动批准低风险 PR,把人的注意力集中在真正重要的地方。原型开发方面,Spotify 现在允许任何人——包括高管——在客户端 monorepo 中打开 Claude,配上一套 skills 和基础设施,输入一个功能需求,几分钟内就能拿到一个可安装的应用,而不是等上数天。演讲结尾,Niklas 提到:六个月后,Spotify 的整个产品研发流程将与以往任何时期截然不同。 > *"Claude 和智能体让我们能够允许任何人在实际的生产代码库中做原型。……原本需要数天甚至数周的事情,现在真的只需几分钟。"* ## 实体 - **Niklas Gustavsson**(人物):Spotify 首席架构师兼工程副总裁,在 Anthropic 的 Code with Claude 大会上发表了本次主题演讲 - **Honk**(软件):Spotify 内部的后台编码智能体,基于 Anthropic 的 Agent SDK 构建,运行于 Kubernetes pod,与 FleetShift 集成以完成大规模迁移任务 - **FleetShift**(软件):Spotify 的舰队管理与迁移编排平台,负责调度和追踪跨数千个代码仓库的自动化 PR,已自动合并 250 万个 PR - **Backstage**(软件):Spotify 开源的开发者门户和软件目录,暴露组件归属、Golden State 合规信息及供智能体使用的 MCP/CLI 接口 - **Chirp**(软件):Spotify 内部的智能体编排层,支持并发运行多个智能体会话,并协调多开发者共享会话 - **Hyrum 定律**(概念):由一位 Google 工程师命名的原则——系统任何可观测的行为都会被某些用户所依赖,由此解释了为何通用迁移脚本在大型代码库中规模化运行时会频繁失效 - **Golden State**(概念):Spotify 针对每类组件制定的推荐技术与实践规范,Soundcheck 以此衡量各组件的合规程度

#ai-agents#developer-experience#platform-engineering
智能是集体现象,而非人造物——Michael I. Jordan 教授(加州大学伯克利分校 / Inria)
1:17:10
EN/ZH
点开看双语
Machine Learning Street Talk大约 2 个月前

智能是集体现象,而非人造物——Michael I. Jordan 教授(加州大学伯克利分校 / Inria)

Michael I. Jordan 教授挑战了 AI 的拟人化框架,主张从集体人类系统与经济理论的角度重新理解智能。他批判"超级智能"叙事是打击士气的干扰,呼吁将 AI 视为促进人类协作与就业创造的生态系统。通过将微观经济学、博弈论与统计学严谨性融为一体,Jordan 提出了一种以系统级安全和社会福祉为核心的新工程学科。 ## [00:00] 冷开场:对年轻建设者的打击性留言 Michael I. Jordan 批评了将 AI 拟人化的风潮,认为这是对现实问题解决的干扰。他担忧"末日派"关于人类灭绝的叙事正在打击那些希望构建有益技术的年轻工程师的士气。他认为,这些鼓吹者缺乏经济思维,脱离了系统构建的实际。 > *我认为将智能拟人化——以及所谓的"理解"——既没有必要、也不合适,而且是一种干扰。[00:21]* > *它会以很高的概率消灭人类……这太令人沮丧了。[01:12]* ## [02:04] CyberFund 赞助商介绍 主持人 Tim Scarfe 介绍了 CyberFund——一家专注寻找"AI 原生"创始人的风险投资机构。他们正在推出一个名为"修道院"的项目,为站在 AI 技术前沿的团队提供高额资金支持,强调快速执行与专注力。本节结尾简短过渡至对 AGI 这一术语的讨论。 > *CyberFund 相信未来属于那些想要实现不可能的 AI 原生者。[02:12]* > *AGI 对我来说不过是一个 PR 术语。[02:45]* ## [02:50] 从符号 AI 到机器学习系统 Jordan 澄清,他更认同自己是统计学家和认知科学家,而非传统 AI 研究者。他解释道,早期 AI 专注于逻辑推断,而真正产生工业影响的是逻辑回归、决策树等机器学习方法。这些根植于统计学与运筹学的方法,推动了云计算和全球供应链的增长。 > *我从未真正把自己视为 AI 研究者……这个术语诞生于五十年代……他们当时心里有一套特定的方法。[03:29]* > *供应链、商业和交通系统,过去用过、现在依然大量使用机器学习。[04:04]* ## [05:42] 为何 AGI 基本上只是一个 PR 术语 Jordan 将"AGI"描述为一个扭曲性术语,正在混淆新一代研究者的方向。他指出,"AI"这一流行词的回归,主要源于 LLM 在模拟人类语言流畅度方面的成功。他认为,对类人语言的执念分散了对健全商业模式和社会规模技术的必要探索。 > *AI 流行词的回归源于 LLM……这对研究路径产生了扭曲效应。[05:01]* > *人类作为这些新兴系统中的生产者和消费者,其角色应当被尊重、放大并认真思考。[05:33]* ## [08:48] AI 的集体主义与经济学视角 Jordan 阐述了他的核心观点:智能是一种社会性、集体性现象,而不仅仅是个体或计算性的。他认为,聪明的行动是情境性的,往往涉及通过合作或竞争与他人互动。通过引入经济学和博弈论原则,他希望构建更安全、更有效的系统。 > *我们是社会性动物,我们的大量智慧来自集体聚合。[07:20]* > *社会为我们的智能提供情境。在一个情境中的聪明行动,在另一个情境中未必如此。[07:31]* ## [11:33] LLM 需要系统设计,而非炒作 Jordan 将当前 AI 开发的状态比作早期化学工程——那时候的试错方式引发了大量"爆炸"和社会危害。他批评硅谷依赖扩大 LLM 规模,却不考虑就业替代或社交媒体已暴露的心理健康影响。他呼吁建立更严谨的社会科学和数学基础,而非依赖类比和隐喻。 > *如果你是一名化学工程师……说我们只是把一堆东西混在一起……就会引发大量爆炸。[12:12]* ## [14:50] 可预测性胜过虚假的理解 虽然部分研究者专注于"机制可解释性"来理解 AI 的内部逻辑,Jordan 认为完整的内部理解并非严格必要。他以人类行为作类比,指出可预测性和"经验法则"对安全交互更为重要。在银行贷款被拒等实际场景中,用户需要的是基于相似案例的情境解释,而非内部神经回路的映射。 > *我不认为构建你自己也不理解的系统是坏事。但那样你就得在系统外围加上一些保障机制。[15:14]* ## [17:55] AlphaFold、偏差与预测驱动推断 Jordan 以 AlphaFold 为例,将其视为机器学习在特定领域成功应用的范本,但同时指出它揭示了显著的偏差。该模型提供了足够的统计力来拒绝零假设,却无法针对具体科学问题给出误差范围。为此,Jordan 介绍了预测驱动推断(PPI)方法——将少量真实标注数据与大规模模型输出相结合,产出可信的误差范围。 > *它不给出误差范围,也不针对你所提问题给出具体答案。那才是我需要误差范围的地方。[20:14]* > *我们开发了一种叫做预测驱动推断的方法,正好能做到这一点……就像经典统计设置中一样,它能覆盖真实值。[20:38]* ## [21:48] 停止将智能拟人化 Jordan 否定了将"理解"或"智能"等术语套用到机器学习系统上的必要性,称这种拟人化是干扰。他引用亚马逊的供应链系统为例——该系统在没有任何类人理解的情况下优化了全球物流。这些系统的价值在于消减不确定性、支持规划,而非拥有认知特质。 > *为什么要说它"理解"?将智能拟人化——包括所谓的"理解"——既没有必要、也不合适,而且是一种干扰。[22:51]* > *尽管我们对"理解"和"智能"意味着什么一无所知,但我们的研究者意识到:我们不在乎,也不需要它。[24:23]* ## [27:44] 药物发现本质上是激励机制问题 话题转向经济学如何为制药监管等复杂多智能体系统提供分析框架。Jordan 解释道,当数据由追求利润的利益相关方提供时,统计问题就变成了经济问题。有效的系统必须被设计成能激励如实行为,以便在信息隐藏的高风险环境中控制错误率。 > *现在你面对的是科学家和制药公司交织成的复杂网络——不是一家,而是很多很多家,以及各种蛋白质。[28:49]* ## [32:29] 三层数据市场模型 Jordan 介绍了一个涉及用户、平台和数据买家的三层模型,用以说明隐私与效用如何达到均衡。他建议平台可以将可调节的差分隐私级别作为竞争功能提供给用户。这一思路将重心从简单优化转向基于均衡的系统设计,以构建更健全的社会福利结构。 > *我们来想想数据市场——因为数据现在不仅仅是用来训练大型 LLM 的东西,它也是可以买卖的商品。[32:54]* > *平台会说,好吧,我们可以以某种成本为你提供可调节级别的差分隐私。[35:02]* ## [38:07] 社会知识、市场与文化 Jordan 区分了原始数据与社会知识——后者是短暂的、依赖情境的。他认为,市场和文化自然会创造抽象概念,将个体洞见提升为集体知识。AI 系统应促进这些新文化抽象的涌现,而不仅仅是强化既有的抽象。 > *人类文化创造抽象……当这些抽象足够有用时……它们就会被纳入文化之中。[41:52]* ## [45:39] 超越 Spotify 的创作者经济 以 Spotify 和 YouTube 为例,Jordan 讨论了当前数字市场在合理回报创作者方面的失败。他倡导构建能让音乐人保持所有权并直接与品牌对接的生态系统,并以 United Masters 作为替代方案。他认为平台往往走向垄断,这要求我们从更宏观的视角审视 AI 在经济中的角色。 > *我不反对 Spotify,但它应该是一个能更好地回报艺术家的生态系统的一部分。[46:56]* ## [48:30] 科幻 AI 叙事如何误导年轻建设者 Jordan 将关于能动性、自我改进 AI 的警告称为"科幻小说",认为它正在打击年轻建设者的积极性。他认为,将未来框定为"超级智能或灭绝"的二元对立,忽视了经济现实,也压制了创新。他否定了 LLM 复制人类大脑的说法,称这种类比是"卡通"或隐喻。 > *它会以很高的概率消灭人类……这太令人沮丧了。[49:33]* ## [51:45] AI 应增强人类能力,而非取代人类 Jordan 将 AI 的真正目的定义为助力信息流通,帮助人类做出他们真正想做的决策。他强调人类系统的不完善,认为 AI 应填补进化未能让我们适应现代复杂性的空白。技术不应取代人类,而应服务于人类的创造力与情感。 > *AI 的意义在于帮助人类处理那些过于困难的事情。* ## [56:42] 安全是整个系统的属性 ## [58:12] 硅谷大师与利益攫取 ## [1:00:47] 博弈论、机制设计与合约 ## [1:04:39] 共形预测、e 值与任意时刻推断 ## [1:08:11] AI 时代的新文理三角 ## [1:11:30] 贝叶斯鸭子与市场作为不确定性消减机制

原生智能体云:Jake Cooper 谈 Railway 的未来
1:29:54
EN/ZH
点开看双语
Latent Space大约 2 个月前

原生智能体云:Jake Cooper 谈 Railway 的未来

Railway CEO Jake Cooper 详述了这家公司从高速烧钱的初创企业到可持续裸金属云基础设施平台的演变历程——平台目前已服务 300 万用户。他认为,AI 智能体的崛起要求从根本上重建云,从以人为中心的工具(如 Kubernetes 和 Pull Request)转向高密度 CLI 接口和生产环境分叉机制。这场对话为构建模块化、高扩展系统提供了路线图,这类系统能够支撑下一代自动化软件开发。 ## [00:00] 开场 Jake Cooper 认为开发者应该停止手写代码,转而专注于审查智能体生成的代码,以维护架构的完整性。他强调,尽管 AI 工具已大幅改进,在自动化工作流中,底层架构模式的重要性反而比以往更高。主持人将 Jake 介绍为 Railway 的"指挥官",引出一场关于云平台与开发者体验未来的讨论。 > *你应该审查你写出来的代码,而不是试图亲手去写它。* > *[0, 10]* ## [01:19] Railway 是什么? Railway 是一个让用户通过画布或 Claude 等 AI 提示即可秒速部署应用和数据库的平台。Jake 解释说,目标是管理软件版本控制和环境克隆,降低 Docker、Kubernetes 等传统工具的复杂度。通过追踪所有变更,Railway 让开发者能够将生产环境分叉成平行宇宙,无需手动复现预发布环境即可安全验证。 > *Railway 是发布任何东西最简单的方式。* > *[2, 29]* > *我们希望不仅仅让部署变得容易,还能让你几乎像在演化应用一样持续迭代。* > *[2, 49]* ## [03:26] Jake 与 Railway 的缘起 Jake 回顾了自己的职业历程:从 Wolfram 做前端,到在 Uber 用 Cadence 为 Jump 共享单车构建分布式系统。他把自己的工程哲学概括为"游到泳池底部"的意愿——包括亲手写内核补丁,只为把用户体验做到最好。他还批评了 GitHub 的架构设计,认为克隆操作产生的"断裂指针"让上游贡献极为繁琐。 > *我们会游到泳池底部,去把那个体验拿到手。* > *[4, 35]* > *GitHub 的原罪在于它几乎就是一串断裂的指针。* > *[6, 2]* ## [07:32] Railway 六年成长史 Jake 展示了一张增长曲线,说明 Railway 每日注册量从"缓慢爬升"跃升至每周新增 10 万用户。早期增长靠的是在 Discord 上的高度互动运营,以及手动拉来第一批 100 名核心用户的执念。这张图表也成为公司规模化历程与迈向主流云服务商这一叙事的转折点。 > *我想给你们看这张漂亮的图——基本上就是你们的使用量或每日注册数。* > *[7, 34]* > *想方设法让最初那 100 个用户真的留下来、反复回来用。* > *[8, 21]* ## [10:11] 砍掉免费层后的重建之路 在只有 5 万美元月收入的情况下,Railway 一度每月烧掉 50 万美元,尽管账上还有 2000 万美元。Cooper 意识到这条路走不通,决定把长期可持续性放在漂亮数字前面,暂时关闭免费层来重建业务。公司现在保持 35 人的精干团队,倾向于构建自动化系统,而非靠堆人头解决问题。 > *我们基本上不得不暂时关闭免费用户通道,重新把业务做起来。* > *[11, 47]* > *我们现在是 35 人……我们不想为了加人而加人。* > *[10, 52]* ## [12:36] 智能体:下一个软件平台 过去六个月,Railway 把"智能体化"开发列为构建和部署软件的首要机制。Cooper 认为行业正从汇编语言、高级语言,一路演进到以"自然语言"作为主要交互界面。他预见未来将有数千个智能体并行运行,需要全新的协调和版本控制工具来应对超指数级增长的工作负载。 > *我们从汇编语言走到 C,再到 C++,再到 JavaScript,现在到了自然语言这一步。* > *[13, 23]* ## [14:48] Railway 的基础设施理念 Jake Cooper 解释说,Railway 把对网络、计算、存储等底层原语的精细控制放在首位,以便为 AI 智能体工作负载做深度优化。通过绕开 Kubernetes、使用自研编排方案,团队能够以极高的精度放置工作负载,从而保证内存效率。随着智能体用量攀升、对数千个并行实例的需求不断放大,这种控制力是防止成本结构失控的必要条件。 > *你必须对这些智能体极度精打细算……否则你的成本结构会炸得一塌糊涂。* > *[15, 10]* > *怎么让智能体协调起来?怎么让它们能够安全地对变更进行版本控制?* > *[14, 28]* ## [17:01] 裸金属、云经济学与算力紧缺 Cooper 描述了迁移至裸金属的高回报:与租用云资源相比,回收期仅需三个月。这一策略让公司在充分利用可用数年的硬件的同时,实现了 70% 的毛利率。他还提到,由于全球算力短缺和供应链限制,RAM 等硬件资产甚至出现了意外增值。 > *我们迁移到裸金属……如果在云上租用,回收期大约是 3 个月。* > *[17, 2]* > *硬件和这些东西……反而升值了,因为 RAM 价格涨了。* > *[17, 50]* ## [18:41] 云突发与五云组网 为了在不受算力制约的情况下保持增长,Railway 采用混合云策略,在 AWS、GCP 和 Oracle 之间动态扩充容量。为此,团队构建了一套自定义网络叠加层,能够同时横跨五个不同云环境。这套复杂架构虽然曾带来可靠性挑战,如今却让 Railway 能够无视单一云厂商的配额或硬件供应瓶颈,快速弹性扩容。 > *我花了一个周末把整个网络叠加层重写了一遍,这样我们就能同时横跨五朵云。* > *[19, 41]* > *我们依然保持云端存在,主要用于弹性突发。* > *[18, 52]* ## [21:39] 数据中心债与基础设施融资 Cooper 强调了以硬件为抵押的数据中心债务的战略价值,认为这比用风险资本扩张基础设施更高效。把算力容量视为收入的线性驱动因素,Railway 能以多快部署硬件就能以多快扩张营收。他鼓励基础设施创业公司探索多元化融资手段,不要只依赖昂贵的风险股权来购置实物资产。 > *我们基本上能以多快扩算力就以多快扩收入。* > *[21, 20]* > *我们裸金属的毛利率相当高,大概 70%。* > *[20, 46]* ## [24:50] 太空数据中心 Jake Cooper 与主持人探讨了在太空建设数据中心的技术难题,核心问题是在真空中散热。Cooper 对那些忽视基本热力学定律的方案持怀疑态度,把"以后再想办法"的心态比作科幻小说。他指出,投资人在太空科技领域很难分辨哪些是有远见的构想,哪些只是技术"骗局"。 > *我没见过任何人证明如何在真空中散掉那么多热量。* > *[25, 16]* > *你怎么判断什么基本上是不可能的、是个骗局,什么是可能的但听起来完全像科幻?* > *[26, 16]* ## [26:43] 智能体对基础设施的需求 Cooper 梳理了 AI 智能体的基础设施需求,指出它们与人类需要的东西相似——版本控制、可观测性和存储——但规模要大 1000 倍。他预测,随着智能体工作负载大幅压缩开发周期,Kubernetes、Envoy 等行业标准将成为瓶颈。为此,基础设施必须足够模块化,支持在无需人工干预的情况下快速替换故障组件。 > *工作负载的模式没有大变,但被极度压缩了——因为你需要同时做几千件事。* > *[28, 28]* > *你只是需要在千倍的规模上做同样的事。* > *[29, 13]* ## [29:43] CLI、画布与原生智能体 UX Cooper 解释说,虽然人类偏爱简洁,但智能体受益于高密度的 CLI 界面——大量参数和标志正是它们的"抓手"。Railway 画布也在从输入工具演进为输出机制和"上下文锚点"。这种对基础设施的层次化视图,能防止关键知识在团队用自动化智能体构建复杂"超结构"时形成信息孤岛。 > *如果你把它交给一个智能体,说"这里有 40 个参数和 600 个标志",它会说——太棒了。* > *[30, 35]* > *它必须成为上下文的锚点,必须是风暴中的港湾。* > *[34, 27]* ## [36:34] Central Station、故障通报与负责任披露 Railway 用一个叫 Central Station 的内部工具聚合用户反馈和上下文,取代了 Slack 等静态沟通渠道。团队把透明度作为核心价值,实时暴露指标并发布详细的故障报告,秉持"荣誉"原则运营。这意味着宁可过度披露问题,也不在故障期间给用户模糊或误导性的信息。 > *我们宁可过度披露,让你知道有问题,也不想让你的云服务商给你洗脑。* > *[40, 22]* > *如果你能动态聚合这些信息并动态路由给合适的人……这就不再是手动流程了。* > *[37, 10]* ## [41:49] 安全发布、SRE 智能体与生产环境分叉 为了降低 bug 的影响,Railway 采用增量发布,并简化了在安全的影子环境中测试行为的流程。Cooper 认为,不能把生产环境"神圣化"到让迭代停滞的程度——基础设施应该让生产环境分叉变得轻而易举。这对 AI 智能体尤为关键:如果没有安全迭代的原语,系统会因"熵堆叠"而难以收拾。 > *我们在"生产环境神圣不可侵犯"这件事上建立了太多仪式感……我们需要让测试不同行为变得极其简单。* > *[41, 33]* > *如果你没有让生产迭代变安全的原语,这件事就会变得非常非常难。* > *[44, 3]* ## [46:19] AI SRE、规格说明、代码与测试 Jake Cooper 回顾了自己从 AI 怀疑论者到信徒的转变,指出 AI SRE 的安全性取决于基础设施原语。他推崇软件工程的"三位一体":清晰的规格说明、代码和测试。三者对齐,开发者和智能体才能在快速自动化迭代中发现分歧、维护系统完整性。 > *如果你直接把 AI SRE 放到生产基础设施上……它会把你的生产数据库清空。* > *[46, 37]* > *你本质上需要三个点:清晰的规格说明……代码,然后是测试。* > *[48, 22]* ## [49:43] 自我复制的基础设施与新 Serverless 嘉宾探讨了智能体通过 Railway CLI 修改自身基础设施、形成自我复制闭环的构想。这一转变要求从昂贵的静态虚拟机,转向廉价、即时可用的"原子部署单元"——如 isolate 或沙箱。目标是让一次性的生产环境副本尽可能简单、廉价,为智能体实验提供充分空间。 > *智能体可以修改自己的基础设施——这件事真的……太疯狂了。* > *[50, 4]* > *怎么让那些一次性副本尽可能容易创建、运行成本尽可能低廉?* > *[50, 53]* ## [54:37] Heroku、Temporal 与工作流引擎 Cooper 把 Heroku 的衰落归因于 Salesforce 没有把算力视为核心业务,导致产品停滞。Railway 将自身定位为"流动计算"供应商,借助 Cooper 与 Temporal 及其前身 Cadence 近十年的深厚积累处理持久化工作流。Railway 是 Temporal 的重度用户,用它来管理大规模复杂的长期基础设施任务。 > *Salesforce 的核心业务是做好 CRM……然后他们收购了这家算力公司,后者只是个旁支。* > *[55, 33]* > *我用 Temporal 差不多快十年了,从 Cadence 时代开始,一路走来。* > *[60, 5]* ## [1:05:26] Railpack、Nixpacks 与懒加载文件系统 Railway 正在开发 Railpack,一个用于分析源码依赖的引擎,由早期基于 Nix 的工具 Nixpacks 演进而来。Nix 在理论上有版本控制方面的优势,但 Railway 发现它在真实工作负载中导致镜像严重膨胀和扩展问题。他们现在正探索内容寻址文件系统,以实现数据的懒加载,加速部署流程。 > *如果你同时需要版本 X 和版本 Y,你的包空间会膨胀得非常厉害。* > *[66, 2]* ## [1:07:20] 编程智能体、Token 消耗与路线图加速 Railway 每月云支出达 30 万美元,公司大力激励员工使用 AI 编程智能体。Cooper 认为手动写代码是低效的时间浪费,呼吁开发者把精力放在架构模式和代码审查上。这让团队得以"速通"产品路线图,把复杂的基础设施任务和测试生成都自动化。 > *如果你还在手写代码,你就走错路了……你应该审查你写出来的代码。* > *[67, 37]* > *如果你不用 AI 系统来"速通"路线图……你就错过了重点。* > *[69, 12]* ## [1:12:15] Pull Request 正在消亡 传统软件开发生命周期正在经历根本性变革:Pull Request 和人工代码审查正在失去其意义。衡量贡献的方式越来越多地转向"最终进入生产环境的 token 占比",而非代码行数。随着 AI 系统承担更多调和与验证工作,关注点从 PR 转移到最初的提示词和最终部署。 > *Pull Request 正在消亡……接下来是提示词……代码审查也在某种程度上走向消亡。* > *[72, 23]* > *衡量这件事最直接的方式,就是你最终进入生产环境的 token 占比。* > *[71, 40]* ## [1:13:47] 功能标志与智能体时代的 SDLC Jake Cooper 探讨了功能标志在管理 AI 智能体驱动的 SDLC 千倍压缩中的关键作用。他认为,随着部署速度加快,通过功能标志实现增量发布和爆炸半径管控将变得更加不可或缺。这种标志文化让团队能在不影响企业客户系统稳定性的前提下快速实验。 > *一切都将被压缩千倍,所有人都能去做这件事。* > *[77, 21]* ## [1:17:34] 牲口、宠物与克隆机器 Jake 对"牲口而非宠物"的哲学提出了反向观点:快照技术让开发者重新可以把基础设施当"宠物"来对待。通过对每一帧做快照、懒加载文件系统,Dockerfile 等传统 DevOps 工具的开销大幅降低。Railway 甚至修改了内核,以支持系统快照期间的持久连接。 > *我认为你可以重新拥有宠物,只要你有一台克隆宠物的机器。* > *[78, 2]* > *如果你能在每一帧对所有东西做快照,那么被干掉了又有什么关系。* > *[78, 12]* ## [1:20:48] 独立创始人的经验教训 Jake 反思了独自创业的历程,对照了硅谷主流观点中"一定要找联合创始人"的说法。他强调需要对技术栈的每一层都充满执念,从内核级改动到市场策略,一层不漏。他认为两位联合创始人往往因为没有打破平局的机制而陷入僵局,而独自领导则能保持单一愿景。 > *两人创始是最糟糕的组合,因为你没有打破平局的机制……你们只是一直在——好,我不同意这件事。* > *[82, 49]* ## [1:25:31] 专注、GPU 与构建新云 Railway 目前有意回避 GPU 供应商市场,以维持核心使命,尽管 Cooper 承认 GPU 终将是长期路线图的一部分。他强调,一家公司的定义,往往更多取决于它选择不做什么,而非它实际做了什么。最终目标是实现从逻辑到执行的完全垂直整合,打造无缝体验。 > *我认为一个公司的定义,更多来自你不做的事,而不是你做的事。* > *[86, 8]* > *我可以肯定地告诉你,我们现在不会做 GPU,但我们 100% 会在某个时候做。* > *[86, 50]* ## [1:29:39] 结语 Cooper 透露,Railway 正朝着 100% 自有数据中心的方向迈进,不想复制传统超大规模云厂商的基础设施路径。通过从零发明自己的基础设施,Railway 希望支撑"氛围编程"——彻底消除想法与上线应用之间的摩擦。这一方向将赋能新一代"公民开发者",让他们以思维的速度构建产品。 > *你的想法和它变成现实之间,不应该有任何摩擦。* > *[89, 4]* > *我们非常刻意地从零开始发明我们自己的基础设施。* > *[88, 30]* ## 实体 - **Jake Cooper**(人物):Railway CEO,"指挥官"。 - **Railway**(组织):专为简易部署和环境管理而设计的云平台。 - **Uber**(组织):Jake 的前雇主,他在此为 Jump 共享单车构建分布式系统。 - **Temporal**(软件):Railway 用于可靠基础设施任务的工作流编排平台。 - **Salesforce**(组织):收购 Heroku 的 CRM 公司,被认为导致了 Heroku 的停滞。 - **Heroku**(组织):PaaS 先驱,Railway 常被拿来与之比较。 - **AWS**(组织):Amazon Web Services,Railway 混合云突发策略的组成部分。 - **GCP**(组织):Google Cloud Platform,Railway 横跨的五朵云之一。 - **Claude**(软件):Railway 部署界面中提到的 AI 模型。 - **GitHub**(组织):代码托管平台,因版本控制架构缺陷被讨论。 - **Kubernetes**(软件):Railway 为获得更高层次控制而选择绕开的编排系统。 - **Central Station**(产品):Railway 用于聚合用户上下文和支持反馈的内部工具。

#cloud-computing#ai-agents#infrastructure
Anthropic 工作坊:构建可连续运行数小时的 Agent — Ash Prabaker & Andrew Wilson
1:15:40
EN/ZH
点开看双语
AI Engineer大约 2 个月前

Anthropic 工作坊:构建可连续运行数小时的 Agent — Ash Prabaker & Andrew Wilson

Anthropic Applied AI 团队的两位工程师 Ash Prabaker 和 Andrew Wilson 拆解了让编码 Agent 持续高效工作五小时以上的真正门道:一年间模型与 harness 共同演进,把运行时长从 20 分钟推到 12 小时以上;他们一次性生成完整应用的内部 harness 配方包括,写"刻意模糊"规格的 planner、把"完成"谈判成可测试契约的 generator 与对抗式 evaluator、让设计品味变得可打分的评分准则,以及一个基本靠人工逐行读 trace 的调试循环。最后 35 分钟的现场问答覆盖 Ralph loop、agent teams、可追溯性和人工介入的取舍。 ## [00:00] 开场与讲者介绍 Ash Prabaker 开场自我介绍:他和 Andrew Wilson 都是 Anthropic Applied AI 团队的工程师,这场分享源自团队几周前发布的一篇博客,主题是让 Agent 持续工作很长时间。他指出,各家公司都爱秀"一把梭生成浏览器"式的演示,却很少公开 harness 里的细节,这个空白正是今天的议题。Andrew 负责讲历史和已发布的原语,Ash 之后回来讲实验性的那一半。 > *我们说的是 5、6 个小时以上的运行。* ## [01:21] 长时运行 Agent 概览 Andrew 是常驻伦敦的解决方案架构师。他用 Claude Code 创造者 Boris 在产品一周年时的一段话给这一年定调:一年前 Claude 连写 bash 命令、转义字符串都很吃力;如今 Claude Code 几乎全部由 Claude Code 自己编写,一次能跑上好几天。 > *它一次大概只能跑 20 分钟。* ## [02:29] 三大挑战:上下文、规划与判断力 长时运行难在三个方面。上下文:窗口有限,新会话像失忆一样从零开始,窗口越满连贯性越差,接近上限时模型还会出现"上下文焦虑",慌慌张张赶工收尾。规划:模型想一口气做完所有事,常常做到一半就停,或者上下文耗尽留下半成品。判断力最反直觉:模型很不擅长评判自己的产出,会把半生不熟的功能宣布完工,或者做了个按钮但后端根本不存在。 > *模型非常不擅长评判自己的产出* ## [04:14] 两条路线:模型升级 vs. harness 演进 解法来自两个方向。其一是把能力炼进模型权重,METER 曲线(衡量 Agent 在极简脚手架上完成 50% 任务能跑多久)从 Opus 3.7 的约 1 小时涨到一年后 Opus 4.6 的 12 小时。其二是改 harness:Agent SDK 提供了全部核心原语,包括 agent 循环、MCP 工具、sub-agent 委派、claude.md、skills、斜杠命令和权限系统。Andrew 反复强调的观察是:每次发模型,都同时发了一大批 harness 改动。 > *我们每次发布模型时,总会同时发布大量与之配套的 harness 改动* ## [05:58] 史前时代:Sonnet 3.5、Computer Use 与 MCP 在 Claude Code 出现之前,Claude.ai 上有 artifacts,而 Sonnet 3.5 是第一个真正展现编码潜力的模型,它能看到自己写出的东西并在此基础上迭代。Computer use 让它学会点击、截图、自测代码,MCP 规范则给了它使用工具的能力。 > *那是 Claude Code 诞生前的一个顿悟时刻。* ## [06:34] Claude Code 的演进 2025 年 2 月,Sonnet 3.7 登顶 SWE-bench,Claude Code 以研究预览版发布,目的写得很明白:更好地理解开发者如何用 Claude 写代码,反哺未来的模型改进。由此形成一条反复出现的规律:模型变强后,harness 的某些部件会变得不再必要,或者随之演化。到 5 月,Opus 4 和 Sonnet 4 已能更好地管理自身上下文、不靠投机取巧也能完成任务,Claude Code 正式 GA 并发布了 SDK。 > *Claude Code 的目标是更好地理解开发者如何用 Claude 写代码,以反哺未来的模型改进* ## [07:55] Ralph loop 技术 插播 Ralph Wiggum 技术:Jeffrey Huntley 去年 7 月就发表了它,12 月前后才真正走红。简化版的说法是把一个 prompt 喂给 CLI 循环跑,直到所有任务完成;真实版本分好几个阶段,先做规划把 prompt 拆成若干 feature,每次挑一个任务、开一个全新会话、用干净的上下文窗口去做。它的魅力浓缩在 Huntley 那句"在不确定的世界里做到确定性地差"。Anthropic 自己的插件版本则在单个会话内运行,靠压缩机制续命,配上最大迭代数、安全词和 stop hook。 > *可预测地失败,好过不可预测地成功* ## [09:49] Sonnet 4.5、Agent SDK 与检查点 Sonnet 4.5 开始追踪自己消耗了多少 token,对上下文有了感知,能从容管理窗口的尾声而不是慌乱赶工。Claude Code 2.0 引入检查点,可以回退到会话中之前的状态。Claude Code SDK 改名为 Agent SDK,因为团队意识到这套 harness 的用途远不止写代码。此时运行时长达到约 30 小时。 > *我们意识到它的通用性远远超出了写代码这一件事* ## [10:49] Opus 4.5 与 sub-agent 的角色 Haiku 4.5 和 Opus 4.5 补齐了模型家族,经济账随之改变:同时跑很多 sub-agent 变得划算,而 Opus 4.5 擅长规划,于是形成 Opus 负责规划、Sonnet 负责执行的分工。Skills 随之发布,靠渐进式披露省上下文,默认只加载 skill 的开头元信息;programmatic tool calling 则让模型现场写代码串联一连串工具调用,只把最终结果带回上下文。 > *一下子,同时运行许多 sub-agent 变得真正划算了* ## [12:05] 首个长时运行 Agent 模式 11 月前后,团队发表了第一篇长时运行 Agent 的博客。人类只写一句模糊需求,比如"做一个 Slack 克隆",initializer agent 把它拆成一组持久化产物:用 featurelist.json 存功能清单(模型更容易乱改 markdown,对 JSON 文件反而手下留情)、进度文件、git 仓库、初始化脚本。harness 循环随后在全新上下文窗口里运转:先认清环境,跑初始化脚本做冒烟测试,挑出恰好一个未完成的功能,实现它,用 Puppeteer 验证,提交 commit,再循环。 > *模型可能会改写 markdown 文件,但它们不太会去改写 JSON 文件* ## [14:20] Opus 4.6、Agent Teams 与服务端压缩 Sonnet 4.6 用 Sonnet 的价格给出接近 Opus 的智能,成为主力执行模型;Opus 4.6 则被称为"非常 agentic 的模型",METER 指标在极简脚手架上从约 4 小时跳到 12 小时。Agent teams 发布:sub-agent 之间可以直接互相协调,只在必要时才向主 agent 汇报。服务端压缩让会话实际上可以无限跑下去,1M 上下文窗口正式 GA,设计的天平开始偏向少开新会话、在一个大窗口里做更多事。Andrew 收尾的观点:模型变强,harness 并不会消失,而是先填补模型的短板,模型再针对这些用法训练,然后某些部件被整体删掉,循环往复。 > *harness 并不会随着模型变强而直接消失* ## [17:28] 最前沿的 harness 模式 Ash 上台先做了个现场调查,此刻有 Agent 在后台干活的只有两三个人。随后他抛出核心模式,毫不避讳地说灵感来自 GAN:一个 generator 负责构建,一个独立的 evaluator 负责打分,两者在彻底分离的上下文窗口、系统提示词和职责之间形成对抗压力。evaluator 不是读 diff,而是用 Playwright 打开真实页面点来点去,再把批评意见交还给 generator。既然 evaluator 也是 LLM,为什么不会照样盖章放行?他们利用的正是这道缝隙:把一个独立的批评者调得苛刻很容易做到,把一个构建者调得有自我批判精神却办不到,就像人类评价一幅画、一道菜很容易,自己画出来、做出来难得多。 > *这里的 evaluator 不只是读 diff,它实际上在用 Playwright 打开线上页面,到处点击、试用功能* ## [21:30] 用评分准则评估主观产出 大多数人说品味没法打分,这个团队不同意:只要你对好坏有足够强的主见,把它写下来就行。他们的评分准则有四项,设计、原创性、工艺和功能性,权重偏向前两项,因为 Opus 4.6 的功能性已经够强,真正要对抗的是紫色渐变和 AI 味审美。再用参考网站做 few-shot 示例,把 evaluator 的品味校准到自己的标准上。这套机制解锁了一种独特行为:generator 在原创性上反复拿低分时,GAN 式 harness 会把整个方案推倒重来,而单一循环或 Ralph loop 只会在原地缝缝补补。 > *大多数人说品味没法打分,但我们认为可以,只要你对它有足够强的主见,并且把它写下来* ## [23:44] 引入 'Planner' 角色 要从漂亮页面走向能用的应用,他们只加了一个角色。Planner 把一行 prompt 变成一份刻意保持高层级的规格,划分成一系列 sprint,并且刻意不规划细粒度的技术细节,因为细节出错会层层级联到每个 sprint,在数小时的时间跨度上不断放大。眯起眼看,这就是一套 PM、IC、QA 的组织结构。 > *我们只是给每个角色配了它自己的上下文窗口。* ## [25:04] generator 与 evaluator 之间的契约 这套体系真正的粘合剂在于:generator 动笔写第一行代码之前,两个 agent 要先谈判"完成"到底意味着什么。generator 提议"我做 X 功能,你用 Y 测试来验证",evaluator 反驳"范围太大、测试太弱、漏了某某边界情况",双方通过磁盘上的 markdown 文件你来我往,直到达成一致。之后的评分对照的是这份双方议定的契约,而不是 planner 开头一把梭写下的规格。Ash 称这是 Ralph loop 始终缺失的关键创新:从来没有人站在循环的对面跟它争论。证据是同一个"做一个复古游戏制作器"的 prompt 跑出的两种结果。无 harness 的版本界面光鲜,但进入试玩模式后方向键和空格键毫无反应;harness 版本花了约 200 美元、6 个小时,自己给应用起名 Retro Forge,做出 54 色调色板的精灵编辑器,把规格里一句含糊的"AI 功能"变成完整的 AI 关卡助手,试玩模式里调试 HUD 实时跳动、物理循环真实运转、碰撞检测正常,差距完全来自脚手架。 > *我们让这两个 agent 实实在在地谈判"完成"到底意味着什么* ## [31:28] 契约的颗粒度与 trace 调试 evaluator 抓到的问题都不花哨:一个 FastAPI 路由顺序 bug,单元测试全过但上了生产就崩;删除键上的一个布尔逻辑 bug,只有真正使用这个应用才会发现。游戏制作器那次,两个 agent 议定了 27 条契约标准,这种颗粒度才能让发现可执行;标准含糊,批评就含糊,generator 耸耸肩就糊弄过去了。Ash 也坦白,Claude 出厂时是个很糟糕的 QA agent,LLM 当裁判时的那种谄媚和宽容在这里照样发作,早期的 evaluator 发现 bug 后会写一句"以后再修,大概要两周"就接着往下走。没有什么秘诀能绕过去:构建这套系统的核心功夫就是读 trace,找出模型判断和人类判断分歧的地方,再去调提示词;一个实用技巧是把 agent 的记录导出到文件,让另一个 agent 去 grep 和复盘,连改提示词这件事本身也形成闭环。 > *标准含糊,批评就含糊* ## [34:14] 随模型演进调整 harness harness 设计是不是已经过时?Ash 的回答是:摸清每个模型各自的尖刺行为,再用 harness 去填缝。从 Opus 4.5 换到 4.6,他们彻底放弃了会话间的上下文重置,因为 4.6 没有上下文焦虑,单个连续会话加压缩就够了;放弃了强制的 sprint 拆解,4.6 能连贯地撑起 2 小时的连续构建,不需要一次只喂一个功能;evaluator 的运行频率也从每个 sprint 一次改成每轮一次性生成结束后一次。教训不是 harness 设计错了,而是它适配的是 4.5,前沿移动了。今天的形态保留了 planner、generator、evaluator 这个核心,用文件系统共享状态,成本约为之前的一半。新演示是 harness 构建的一个 DAW 音乐应用,Ash 承认它做出来的音乐很烂,但应用本身相当完整,放在一代模型之前根本不可能跑通。 > *它适配的是 4.5,前沿移动了* ## [37:56] 如何构建你自己的 Agent harness 这一切并不需要 Anthropic 的内部 harness。auto mode 提供了比一路放行权限更安全的折中;custom sub-agent 已经是现成原语,给你的 evaluator 一个苛刻的系统提示词和一份详尽的评分准则;网页应用用 Playwright MCP 或 Claude for Chrome,原生应用用 computer use;skills 则是把评分准则打包进日常开发流程的顺手方式。 > *没有什么能阻止你直接动手,自己搭一套类似的东西* ## [39:01] 长时运行 Agent 的关键要点 值得拍照的那页总结:自我评估是个陷阱,用对抗式 evaluator;压缩不等于连贯,有损摘要会漂移,结构化交接和干净上下文才是好模式;别以为主观质量不可打分,对好坏有主见就逼自己写下来;和模型坐在一起读 trace,只有这样才知道前沿移动时该删掉脚手架的哪些部分。 > *自我评估,十足是个陷阱* ## [40:05] 现场问答 11 位现场观众轮流提问,持续了 35 分钟。要点:evaluator 的调优经验在瞄准模型共性弱点时可以跨项目复用,用"这就是 AI 味"的示例来校准;关于 Ralph loop 和模型的"聪明区间",1M 上下文 GA 加上 4.6 的连贯性让团队转向单个连续会话加压缩,但还是要以你自己的评测为准;关于盯着 Agent 干活,Ash 认为想盯着看本质上是信任差距,如今模型自己就能读控制台报错、发现文字重叠;4.6 这一代模型在评分爬不上去时出奇地愿意把十轮成果整个扔掉重来,有一次 evaluator 干脆发火让 generator 全部删掉重写;planner 被刻意挡在内循环之外,靠定期把规格重新注入会话来保持方向;对于要活过这次运行的产品,harness 会留下面包屑,一份"试了什么、发现什么 bug、修复是否生效"的 learnings JSON 加一份高层文档,足够人类带着 Claude Code 接力;把 generator 的上下文喂给批评者这条路试过又放弃了,只评产出比搅浑两条思路流更有效;可追溯性至今主要靠人工逐行读 trace,Claude 扫一遍 trace 只能当第一道筛子;至于人工介入的 sprint 评审,hooks 可以注入一个,但团队的优化方向是完全自治:跑十代,读完七个失败案例,调 harness 提示词,再来。 > *你得把整个东西读完* ## 实体 - **Ash Prabaker**(人物):Anthropic Applied AI 团队工程师,主讲最前沿 harness 模式与问答环节。 - **Andrew Wilson**(人物):Anthropic Applied AI 团队解决方案架构师,常驻伦敦,主讲模型与 harness 演进史。 - **Anthropic**(组织):两位讲者所在的公司,出品 Claude 系列模型、Claude Code 和 Agent SDK。 - **Claude Code**(软件):Anthropic 的编码 Agent CLI,其一年演进史是本场分享的主线。 - **Agent SDK**(软件):由 Claude Code SDK 更名而来,提供 harness 构建所依赖的 agent 循环原语。 - **Generator-evaluator 模式**(概念):受 GAN 启发,把构建者与对抗式批评者拆分到独立上下文中,是这套 harness 的核心。 - **Ralph loop**(概念):Jeffrey Huntley 提出的循环执行 prompt 直到完成的技术,缺少对面争论方的前身方案。 - **Playwright MCP**(软件):evaluator 用来实测线上应用的浏览器自动化工具。

#long-running-agents#agent-harness#claude-code
下一场战争已经打响——Yaroslav Azhnyuk(The Fourth Law)与 Noah Smith(Noahpinion)
1:59:28
EN/ZH
点开看双语
Latent Space大约 2 个月前

下一场战争已经打响——Yaroslav Azhnyuk(The Fourth Law)与 Noah Smith(Noahpinion)

Ukraine 去年生产了 400 万架 FPV 无人机;China 的产能足以生产 40 亿架。这一悬殊对比,构成了这场长达两小时、罕见扎实的对话的底色。对话嘉宾是 Yaroslav Azhnyuk——连续创业者出身、现在 The Fourth Law 主导 AI 无人机研发——以及经济学家 Noah Smith,他写 drone 战争经济学的时间比西方大多数政策圈早了好几年。两人覆盖了完整的技术栈(摄像头、自主模块、光纤链路、拦截器、在建晶圆厂),一套五级自主分类体系,一套自主战场八维框架,以及 China 在制造端的优势——西方近期找不到对等答案。贯穿全程的核心判断:西方仍在为上一场战争做准备,Ukraine 是 Defense Valley,下一场战争已在那里打响,差距正在以超出大多数人预判的速度拉大。 ## [00:00] 冷开场:China 的 40 亿架无人机与摄像头到炸药的生产链 Yaroslav 开门见山抛出一组数字对比,奠定全集基调。Ukraine 并非工业强国,却在一年内生产了 400 万架 FPV 无人机。China 拥有数量级更大的制造基础,消费电子供应链已在规模化生产同款摄像头、电机和芯片,理论产能可达 40 亿架。Noah 当即追问:这是否让 China 成为当下地球上最强的常规军事大国?Yaroslav 不敢断言,但也不愿排除这种可能。 > *"我认为我们没有充分的信息来断言这一点,但我们也不能排除这种可能性。仅此一点,就应该是一个很大的警示信号。"* 冷开场同时埋下了一个人生转折,也是全集后续展开的主线:Yaroslav 从做向宠物投喂零食的摄像头,转型为向占领者投掷炸弹的摄像头。 ## [01:04] 介绍:Brandon、Noah Smith 与 Yaroslav Azhnyuk 本集客座主持 Brandon 平时做科学播客,这集是例外。Noah Smith——Noahpinion Substack 作者、专注产业政策与地缘政治的经济学家——担任联合主持和联合访谈人。Yaroslav 交代了个人背景:2022 年 2 月 23 日深夜 11 点,他与当时的未婚妻搭乘最后几班飞抵 Kyiv 的航班落地。八小时后,炸弹开始落下。之后那段 17 小时向西逃离的车程——空无一人的街道、耗尽燃料的加油站、用挡风玻璃清洗液桶装柴油——读来像末日电影的情节,因为对亲历者而言,那正是真实发生的事。 > *"我们基本上打包好了行李,上了车,花了 17 个小时往西开。就是那么回事。导弹在落,Kyiv 冒着烟。"* ## [05:41] 从科技创业者到国防:PetCube、Brave One 与 D3 Fund Yaroslav 从宠物科技转向国防,走的不是一条直线。他从 2014 年到 2020 年在旧金山创办 PetCube——宠物摄像头领域的头部公司——此前从未修过军事课程,认为战争是过去的事。入侵的第一天,他就知道自己要用一切力量反击,但第一反应并非制造武器。早期行动包括游说美国国会推动《租借法案》(2022 年 5 月通过,执行不足)、联合创立 Brave 1(Ukraine 国防创新集群,对标 DIU),以及协助 Eric Schmidt 共同发起 D3 Fund。 到 2023 年,两件事已无法回避:战争会持续下去,而无人机已永久重新定义了战争形态——这是历史上第一个软件定义的武器平台,战场能力的升级可以像软件更新一样一夜之间推送。 > *"就好像你能推送一次软件更新,让你所有的罗马军团士兵都换上了新头盔。这在历史上从未有过。"* ## [10:42] 制造武器的伦理:两用技术与门口的狼 Brandon 抛出两用困境:这项技术不会永远停留在 Ukraine 手中。Yaroslav 的回答务实而非哲学化。从火到大语言模型,每一项技术都是两用的;制造者要考量的问题是,自己的贡献在边际上带来的风险,是否超过了眼前的迫切需要。Ukraine 正站在森林里,面对一匹狼。你先解决狼,再去咨询 Greenpeace。 他直视技术无法被限制这一现实——关于大语言模型在 North Korea 和 Russia 自由传播的担忧,同样适用于无人机自主技术——但将自己公司的责任框得很窄:他们只向 Ukraine 政府和武装力量供货,不接受任意买家。 > *"当你站在森林里,前面有一匹想吃掉你的狼,你会先对付狼,然后再去咨询 Greenpeace。"* ## [14:01] 技术栈:摄像头、自主模块、拦截器与半导体晶圆厂 The Fourth Law 由三个相互咬合的业务单元构成。摄像头(日光和热成像,销售给 200 余家 Ukraine 无人机制造商)。无人机自主模块(供货同一生态)。以及直销武装部队的 UAV 产品:FPV 攻击无人机、轰炸机、Shahed 拦截器,以及 ISR 拦截器——专门猎杀 Russia 侦察无人机,阻止其回传目标数据。 热成像摄像头部门即将动工兴建两座晶圆厂,自主生产传感器芯片。这一决策的背后,是对依赖境外传感器供应链作为战略漏洞的清醒认识。 > *"我们即将开始建造两座半导体工厂,为热成像摄像头制造传感器。对我这个学计算机的人来说,做半导体真的超酷。"* ## [18:47] 光纤与 AI:无线电地平线问题与 32 美元/公里的线缆 这一章的核心,是无线电 FPV 无人机在远距离为何会失效——不仅是因为干扰,还因为地球曲率。在 30-40 公里射程时,无人机若飞行高度低于大约 60-100 米,便会进入山丘、树林或地平线本身形成的无线电阴影区。驾驶员会在无人机逼近目标的关键时刻同时失去视频和控制信号,而目标按定义就在地面上。光纤线缆(32 美元/公里,从无人机上卷轴放出)能解决阴影问题,但增加了重量、限制了射程,并削弱了机动性。 AI 以另一种方式填补缺口:末端引导让无人机在无线电链路中断后仍能在最后几百米自主完成动作。两种方案并不互斥——可以在光纤链路之上叠加 AI,用更少的操作手指挥数百架无人机。 > *"如果你的无人机飞低——而通常 Russia 的步兵和车辆都在地面上,你得飞低才能打中——飞得越低,就可能躲进某座山丘或某片树林的阴影里,飞得够远的话,你就会钻进地球曲率的阴影里。"* ## [25:32] FPV 无人机:新的战争之神,承担 70–80% 前线伤亡 历史上,炮兵被称为"战争之神",因为它造成了 80% 的战场伤亡。在当前的 Ukraine 前线,70-80% 的伤亡由 FPV 无人机造成——比例相同,武器不同。坦克曾被设计为数十年内主宰陆战,如今却被 400 美元的消费级四旋翼机常规摧毁,因为装甲从来没有为抵御正上方的攻击而设计。 其发展轨迹与计算器被智能手机淘汰的曲线如出一辙:不是线性替代,而是指数式位移——新技术的影响呈非线性增长。 > *"人们过去常说炮兵是战争之神,因为炮兵造成了大约 80% 的伤亡。现在按这个排名,FPV 无人机称王。"* ## [28:28] 无人机自主的五个等级:从末端引导到完全自主 Yaroslav 提出五个自主等级,描述这个领域的现状与走向。第一级是末端引导——无人机在人工操控下飞行,仅在最后几秒锁定目标。第二级是投弹——从高空投放弹药,不直接撞击目标。第三和第四级引入逐步增强的目标选择和导航独立性:无人机可识别发射无线电的装备、追踪车辆,或在 GPS 拒止环境中自主导航。第五级是完全自主——发射后不管,任何任务阶段均无人介入。 当前战场部署主要集中在第一至三级。跃升至更高等级,瓶颈已不主要是技术问题,而是部署、条令与信任的问题。就目前而言,涉及致命打击决策的每个环节,仍保留人工确认。 > *"技术在进步,其影响呈非线性增长。一切都是指数级的。"* ## [41:37] 自主战场的八个维度 五个自主等级描述的是单架无人机的能力。八个维度描述的是这些无人机所处的完整战场环境。第一维:自主等级(五级量表)。第二维:平台类型(四旋翼、固定翼、导弹、海上无人机)。第三维:环境(昼/夜,城区/森林/开阔地形)。第四维:目标类型(运动车辆、静态建筑、无线电发射源)。第五维:集群规模与协调。第六维:指挥与控制架构。第七维:感知模态(光学、热成像、射频)。第八维:基础设施(仿真、数据流水线、安全、部署工具链)。 每个维度都与其他维度相互作用。一架在开阔白天地形表现优异的第四级自主无人机,在夜间森林中可能彻底失效。战场 AI 系统必须在全部八个维度上同时评估,而不仅仅着眼于自主等级这一个轴。 > *"我用'维度'这个词,是因为它们相互交织。理解自主性在现代战场环境中如何演进,至关重要。"* ## [45:32] AI 安全与自主武器的道德问题 Yaroslav 的立场颠覆了标准 AI 安全框架:五到十年后,使用不带 AI 的武器将是不道德的,因为纯人工武器会造成更多附带伤亡和误伤。他类比自动驾驶汽车:一旦自动驾驶成为常态,让人类在公共道路上手动驾驶反而成为危险选项。 Noah 将推论推向逻辑终点:一个第六级"AI 将军"——一个摄取所有战场数据并自主选择目标的大模型,人类只负责维修无人机。Yaroslav 说,技术上现在就能做到。瓶颈是部署与信任,不是能力。他引述了公开报道中 AI 辅助目标指定在 Iran 行动中的应用:AI 给出 127 个目标,人工审核列表后按下确认。这已经接近一个带橡皮图章的 AI 将军了。 > *"我认为,五到十年后,不使用 AI 的武器将是不道德的,因为不带 AI 的武器更可能造成附带伤亡或意外损害。"* ## [51:31] 步兵的终结?Noah 2013 年的预言与战场现实 Noah 重提 2013 年的预言:步兵已经过时,被远程武器取代。Ukraine 既验证了这个判断,又使它复杂化。FPV 无人机无疑已将步枪取代为主要消耗性武器,但步兵并未消失。他们挖战壕、固守阵地、承担后勤,并在持续无人机威胁下通过适应存活了数月:更好的伪装、更小的活动特征、无人机感知训练。 Yaroslav 将时间轴延伸到人形机器人。世界为两足人类而建;一个能操作步枪、开门或驾驶车辆的平台确实有其实用价值。他把终结者式的人形战斗机器人场景放在十年后,不是科幻。但两人都认同,现代战争是一个多维度问题——数十种无人机类型、地面行动、侦察、心理战、航空、坦克、后勤——媒体聚焦于最新最酷的技术,大大低估了每一层级仍有多重要。 > *"现代战争非常复杂,无人机是最新最酷的东西,并不意味着现在就只有无人机。"* ## [01:05:13] China 的制造优势与西方的脆弱性 这部分由 Noah Smith 的经济学背景主导对话。美中无人机对比,拼的不是单价或自主等级,而是规模化制造吞吐量。China 的消费电子供应链已在批量生产 FPV 无人机所需的电机、摄像头、芯片和电池。将这些产能切换到军事生产,需要的是监管意愿,而非重新建线。Ukraine 用航模零件造出 10 公里射程的固定翼无人机;China 能在相同成本曲线上造出 200-300 公里射程的固定翼无人机。 西方的脆弱性不只是数量。还有热成像摄像头(主要来自 China)、半导体晶圆厂(在无人机传感器相关节点上落后两代),以及采购速度(西方国防合同需要数年才能授出;Ukraine 以周为单位迭代)。Yaroslav 对西方的人才储备持乐观态度,工程师是有的,但对欧洲机构的迟滞公开感到不满,对美国是否真正吸取了 Ukraine 和中东的教训,他心存疑虑。 > *"我们没有充分的信息来断言这一点,但我们不能排除这种可能。如果我们想保住我们曾经的美好生活,就必须采取行动。"* ## [01:24:21] 西方防务的政策建议:Defense Valley 与不断扩大的差距 Yaroslav 的首要政策建议,围绕他归给 William Gibson 的那句话(实为 Arthur C. Clarke)展开:未来已经到来,只是分布不均。Kyiv 就是 Defense Valley——未来战争最早抵达的地方,拥有数百家专业公司、每个级别都经过实战检验的指挥官,以及学会了以创业速度运转的政府。 优先项一:深度融入 Ukraine 国防生态系统,不只是采购,而是嵌入式学习。优先项二:采购改革——无人机主导倡议方向正确,需要扩大十倍。优先项三:为争夺制海权的高强度海洋环境备好远程无人机(射程 2000 公里的 Shahed 级无人机可覆盖整个太平洋岛链)。他担心美国从 Ukraine 吸取的教训不如应有的多,并可能在 Iran 问题上重蹈覆辙。 > *"Kyiv 和 Ukraine 就是 Defense Valley。那里是防务未来已经到来的地方,有大量值得学习的东西。"* ## [01:32:54] 无人机竞赛:各品类谁领先 18 个月前,Russia 在无人机能力上与 Ukraine 持平甚至领先;此后 Ukraine 在 FPV 和自主性上已经反超。但 Russia 拥有 4 倍于 Ukraine 的人口优势和显著更强的工业产能——规模差距是西方供应之所以关键所在。分品类来看:FPV 攻击(Ukraine 领先),ISR 侦察(势均力敌),滑翔炸弹(Russia 领先,从轰炸机大规模投放),远程打击无人机(Russia 在数量上领先),拦截器(Ukraine 快速创新,Russia 追赶中)。Russia 使用直升机拦截 Ukraine 的远程打击无人机——代价高昂但有效,揭示了每一种新进攻手段如何催生定制化防御手段,以周为单位迭代。 > *"大家都说 Russia 在无人机战争中落后了。但一年前并非如此。"* ## [01:41:57] 反制手段:霰弹枪、干扰器、激光与渔网 霰弹枪有用——它是对抗来袭 FPV 无人机的主要动能反制手段——但前提是训练有素的士兵能在战斗压力下击中一个以 100 公里时速飞行的 20 厘米目标。电子干扰器是最普遍的防御手段:屏蔽无线电或 GPS 信号,无人机便失去制导。问题在于,干扰器覆盖的频谱往往也是己方部队使用的频谱,而干扰器正在被跳频和光纤链路所破解。 Russia 坦克如今看起来像刺猬——顶部临时加装金属笼和电子战天线,用于抵御顶攻无人机。Ukraine 的应对是专门调制的聚能装药,针对笼体与车壳之间的间隙。激光有效但昂贵(花费逾 1000 万美元的系统,击落一架 400 美元的无人机),且难以快速转向追踪高速机动目标。渔网正被部署在静态阵地周围,因为便宜、能缠住旋翼,且不需要电力。 > *"然后就是坦克——如果你看看 Russia 的坦克,有时还有 Ukraine 的坦克或装备——它们看起来都像刺猬。"* ## [01:58:19] 婚礼与最后寄语:为战争做好准备 Brandon 最后抛出两个问题。第一:Yaroslav 是否真的在 2 月 23 日那天在那座小教堂完婚?他们办了法律手续,但将婚礼宴席推迟到战争结束之后。第二:给听众一个最重要的启示。Yaroslav 的回答是对那句罗马谚语的重述:*si vis pacem, para bellum*。 > *"想要和平,就要为战争做好准备。必须投资于国防和安全。"* ## 实体 - **Yaroslav Azhnyuk**(人物):The Fourth Law 创始人(AI 无人机自主与热成像摄像头,Ukraine);前 PetCube 联合创始人;Brave 1 和 D3 Fund 联合创始人;生于并成长于 Kyiv。 - **Noah Smith**(人物):经济学家;Noahpinion Substack 作者;本集联合主持人;专注产业政策、制造经济学与地缘政治。 - **Brandon**(人物):Latent Space 常驻主持(科学播客背景);本集客座主持。 - **The Fourth Law**(机构):Yaroslav 的 AI 制导无人机公司;三个业务单元——热成像摄像头、无人机自主模块、UAV 产品(FPV 攻击、轰炸机、拦截器)。Ukraine 排名靠前的无人机 AI 团队。 - **PetCube**(机构):Yaroslav 在旧金山(2014–2020)联合创办的消费级宠物摄像头公司;"投喂零食的摄像头/投掷炸弹的摄像头"这一转型的起点。 - **Brave 1**(机构):Ukraine 国防创新集群;类比美国 DIU(国防创新单元);Yaroslav 参与联合创立。 - **D3 Fund**(机构):与 Eric Schmidt(前 Google CEO)联合创立的国防科技投资基金,旨在加速 Ukraine 无人机生态系统发展。 - **FPV 无人机**(概念):第一人称视角无人机——飞手实时通过机载摄像头看到画面;当前承担 70-80% 的前线伤亡;Ukraine 冲突中占主导地位的战术武器。 - **无人机自主五级体系**(概念):Yaroslav 的分类法,从末端引导(第一级)到完全自主操作(第五级);当前战场部署主要集中在第一至三级。 - **自主战场八维框架**(概念):Yaroslav 用于评估无人机系统的框架,涵盖平台类型、环境、目标类别、集群规模、指挥控制架构、感知模态和基础设施。 - **Defense Valley**(概念):Yaroslav 对 Kyiv/Ukraine 的定名——防务科技未来已率先降临的全球中心,类比消费科技领域的硅谷。 - **无线电地平线**(概念):地球曲率效应,在 30-40 公里射程时切断低空飞行 FPV 无人机的无线电/视频链路;光纤无人机普及的主要技术驱动因素。 - **Shahed**(概念):Iran 设计、Russia 使用的巡飞弹药;固定翼,射程达 2000 公里;西方基地与太平洋场景规划中长程无人机威胁的原型。

#drones#ukraine#defense-tech
创始人如何为执法与急救人员构建产品 | The a16z Show
11:12
EN/ZH
点开看双语
a16z大约 2 个月前

创始人如何为执法与急救人员构建产品 | The a16z Show

a16z 普通合伙人 David Ulevitch 与 Col. Jeffrey Glover(亚利桑那州公共安全厅)、Rahul Sidhu(Flock Safety 董事会成员)一道,梳理无人机、传感器和 AI 如何悄然重塑美国警务。Sidhu 介绍了 Flock Safety 的分层传感器网络——车牌识别、枪声探测、无人机调度——Glover 则详述了亚利桑那州公安厅围绕警员健康、执法记录仪分析以及借 FIFA 和奥运会时机落地的国际融合中心体系。核心判断:未来十年的警务工作将更接近分析师工作,而非破门而入;想进入这个领域的创始人必须先在一线实实在在跑一跑。 ## [00:00] 无人机与未来巡逻 本集以剪辑拼接的预览开场:Sidhu 抛出一个犀利论断——警察既讨厌改变,也讨厌现状——Glover 描述巡警的技能组合必须向调查型和细节型转变,Ulevitch 随即抛出核心场景:911 来电,无人机先于警员抵达,从空中追踪逃跑的枪手。这不是抽象设想:让五架直升机全天候升空执行这项任务根本不可能,但无人机让它几乎成为必然。 > *"你听到一声枪响,无人机找到了一名枪手正在上车驾车离开,然后开始追击。"* ## [00:32] 为急救人员构建产品的创始人 Ulevitch 问 Sidhu,对那些更想拯救生命而不是优化广告点击率的创始人有何建议。身为 Flock Safety 董事会成员的 Sidhu 举了 Skydio 等公司为例,并列举了他每天收到的那类来信——拐卖儿童获救、现场局势化解、技术在警员到达之前读懂现场。他反复提及的一个故事:一名 911 报警人说某条小巷里有人持猎枪,无人机先到,发现"猎枪"不过是清洁工手里的扫帚。 > *"最终无人机提供了态势感知,告诉大家'等等,那只是个拿着扫帚的清洁工,不是持猎枪的人',整个局势就这样化解了。"* ## [01:38] 飞行机器人与传感器网络 Sidhu 把无人机重新定义为飞行机器人,将其纳入正在重塑每个行业的自动化浪潮。公共安全领域会涌入更多无人机,包括需要防御的敌意无人机;Flock Safety 的价值在更下一层:车牌识别摄像头、枪声探测、无人机调度三者打通,使得 Amber Alert 车辆或枪声定位警报可以自动派出无人机,甚至在高速公路上配合州公安厅追击嫌疑人。Ulevitch 用一句"现在可不是做美国敌人的好时机"收尾,随后将话筒交给 Glover。 > *"对 Flock Safety 来说,这不只是无人机的事。我们在社区里部署了大量传感器——有车牌识别摄像头,有枪声探测能力——这一切正在汇聚到一起。"* ## [03:17] 警员健康与执法记录仪分析 Glover 介绍了亚利桑那州公安厅集成部署的实际面貌。警员开班前先做 Vitanya "Heal the Heroes" 脑部扫描,确认基线健康状态。值班期间,Truleo 对执法记录仪的音频做分析——不只是给警员与公众的互动打分,还会标记累积压力,让主管在倦怠成为问题之前就收到预警。Ulevitch 接过话头,谈到公众对执法记录仪的态度转变:人们看到它既记录问题也保护警员,于是接受度大增,并将此与当年电击枪经历的炒作周期作类比。 > *"你可以给警员与公众互动的情况打分,同时也能获取另一类信息:他们需要额外支持吗?"* ## [05:47] 融合中心与全球情报共享 Ulevitch 转向情报收集话题,Glover 介绍了 Arizona Counterterrorism Information Center (TIC) 及美国更广泛的融合中心网络。近期目标:多数机构正在为 FIFA 运行 TRX program。更长远的布局:亚利桑那州建立国际存在,在墨西哥、阿联酋、利比里亚等合作方派驻情报官员,使非涉密威胁信号能在事件演变为本地危机之前跨境流通。Ulevitch 援引奥斯汀和纽约警察局反恐单位的案例,佐证该模式已被验证。 > *"把信息浓缩、提炼到可以共享非涉密内容的程度,让彼此都能得到好的情报——这将是巨大的进步。"* ## [07:37] 给创新者的建议与结语 Ulevitch 把压轴问题抛给 Sidhu——这位前急救医士、预备役警员。Sidhu 点名观众席中的 Ben Curley(Chart Performance)作为已经在躬身入局的典型,随后落下自己的判断:这个领域看起来门槛高,但如果你能描述出一种必然性——就像无人机现在已经让人感觉是必然——这个行业自然会把你拉进来。不可谈判的前提:必须在一线花真实时间,跟车、预备役值班,真正弄清楚该构建什么。Glover 以同样的呼声收尾,预言未来十年将从根本上把这个职业从踢门破户转向解析视频、AI 信号与分析师工作。 > *"如果你能描绘出一种必然的景象,就像我们谈到无人机时的感觉——它一定会到来,因为这对警员是最好的,对社区也是最好的。"* ## 实体 - **David Ulevitch**(人物):a16z 普通合伙人,The a16z Show 主持人;长期专注企业与安全领域投资。 - **Col. Jeffrey Glover**(人物):亚利桑那州公共安全厅上校/局长,主导该机构的技术与情报现代化。 - **Rahul Sidhu**(人物):Flock Safety 董事会成员,前急救医士,具有公共安全技术领域的创业者与运营者背景。 - **Flock Safety**(机构):构建分层公共安全传感器网络,涵盖车牌识别、枪声探测和无人机调度。 - **Skydio**(机构):无人机制造商,作为无人机急救响应领域的同类代表被提及。 - **Vitanya "Heal the Heroes"**(软件):警员健康平台,通过每日脑部扫描追踪基线心理健康状态。 - **Truleo**(软件):执法记录仪分析工具,对警员与公众互动质量评分,并发现倦怠预警信号。 - **Arizona Counterterrorism Information Center (TIC)**(机构):亚利桑那州公安厅融合中心,承担地区及国际情报共享枢纽职能。 - **TRX program**(概念):多机构合作项目,美国多个融合中心正在为 FIFA 赛事推进实施。 - **Drone-as-first-responder**(概念):无人机先于巡逻单元抵达事故现场,提供态势感知与追击能力的运营模式。

#public-safety#drones#flock-safety
AI 时代如何做硬件 | Caitlin Kalinowski (Apple, Meta, OpenAI)
1:39:10
EN/ZH
点开看双语
Lenny's Podcast大约 2 个月前

AI 时代如何做硬件 | Caitlin Kalinowski (Apple, Meta, OpenAI)

Caitlin Kalinowski 交付过 MacBook Air、每一代 Meta Quest,后来又在 OpenAI 从零组建了机器人团队。她的判断是:AI 软件到达饱和点的速度比大多数人承认的要快,真正的竞赛已经转向物理世界。她梳理了可能扼杀机器人热潮的供应链硬伤,解释了为何人形机器人大多仍是原型,讲述了 Apple 对机柜背板的执念如何塑造了她对硬件卓越的理解,以及她为什么选择公开而非悄然离开 OpenAI。 ## [00:00] Caitlin Kalinowski 介绍 节目以一段后半段对话的剪辑开场:Caitlin 警告说,AI 加速正在"垂直拉升",下一个前沿根本不在数字世界,而在物理世界。她在一句话里并列提到了机器人、制造业、无人机和航母,给整场对话定了基调——硬件是国家基础设施,不只是产品战略。 > *"加速正在垂直拉升,用 AI 在键盘后面能做的事情终究会到达饱和点。那之后,下一个前沿就是物理世界。"* ## [02:32] VR 为何在硬件极佳的情况下仍未普及 Caitlin 的直白判断:VR 从来都只是游戏市场的小众品类。但事情不止于此。十年头显研发解决了 SLAM、深度传感、空间定向和人类视觉感知,而所有这些技术突破如今都是机器人领域的承重墙。她不后悔那段工作,把 VR 看作实体 AI 的研发阶段。 > *"我把它看作一段漫长技术弧线上的一步。所有这些技术都在机器人领域得到了应用,因为你需要理解机器人如何在空间中移动。"* ## [04:55] AR 眼镜与实体 AI 的未来 Meta 的原型 AR 眼镜 Orion 采用波导和 microLED,目前还无法以消费级价格量产——Caitlin 认为这是超前于时代,而非失败。她认为 AR 眼镜解决了手机带来的问题:你可以在获取信息的同时保持社交存在感。Orion 70 度双目视场角已经让用户产生强烈的沉浸感,亲身体验才能理解。 > *"戴上之后,你突然就会觉得——我感到沉浸了。这会让人非常清楚地明白,这就是未来的一部分。"* ## [08:45] 机器人和硬件为何突然变热 硬件从来都不是热门职业选择。Caitlin 眼看同事追着软件薪资跑了二十年。现在人人都在问硬件。她的解释是:AI 实验室已经能看到数字隧道的尽头。软件智能会饱和,不是今天,也许不是两年内,但轨迹已经清晰可读。这让物理世界成为下一个复利曲面,各大实验室和大厂正在同步重新布局。 她用编译器类比描述核心挑战:软件工程师每天迭代;硬件工程师一款产品的生命周期里只有四五次"编译"机会。最后一次量产构建是不可逆的,这迫使硬件从业者形成更保守、更重测试的思维方式。 > *"做硬件,我们的代码只能编译四五次。最后那次编译一旦完成,就结束了。"* ## [13:33] 人形机器人还没准备好的原因 人形机器人仍是原型。物理学逻辑是:高速运动的手臂携带的动能同时取决于手臂质量速度和执行器旋转能量。在机器人能够通过柔性材料、受控力矩限制和足量真实世界数据证明人机安全共存之前,它们只能待在有围栏的工厂车间,进不了家庭。Caitlin 提到有些中国人形机器人出厂手册里写着禁止人员在三英尺内站立:还没准备好。 > *"在我看来,人形机器人仍是原型。我们首先需要证明这东西能跑通,而这大致就是我们现在所处的阶段。"* ## [16:13] 威胁机器人发展的供应链瓶颈 哪怕一个人形机器人的设计跑通了,扩产到数十万台也会撞上一堵硬墙:供应链。机器人里每一个零件都有来源,而很多来源所在国与美国的政治关系随时可能生变。执行器、其中的稀土磁铁、分总成制造专知——这些在过去 25 年里全都被迁移到海外。Caitlin 不做道德评判,她自己也是这个转移过程的一部分。但风险如今已成结构性问题。 > *"这台机器人里每一个零件都来自某个地方。很多零件可能变得更受限制或更难制造。"* ## [17:31] 磁铁与执行器为何是关键依赖 -- _Note: Better motor diagram:_ 执行器就是电机:电进去,运动出来。大多数机器人用带减速齿轮的转子式设计驱动肢体。这些电机内部的稀土磁铁是最底层的依赖。从原始磁铁到成品执行器再到机器人分总成,整条供应链层层叠叠在过去二十年间全部迁移到了中国、日本和韩国。Caitlin 把它描述成一个技术栈:磁铁断供,你得重新设计执行器类型;执行器断供,机器人根本造不出来。 > *"要拥有安全的供应链,我们需要开始在这些层次和技术栈上建立一定的独立性。"* ## [20:51] 硬件供应链的地缘政治影响 驱动无人机旋翼和驱动机器人手臂用的是同一条基础供应链。Caitlin 谈到了乌克兰,无人机作战已经证明廉价自主硬件比昂贵的传统武器平台更有效。她的立场是:美国需要再工业化才能保障军事安全。她赞同 Palmer Luckey 的观点,认为对无人机的投入应该超过航母,并且希望这个国家重新学会如何处理原材料、如何规模化制造——不是出于民族主义,而是基本的国家韧性。 > *"今天的盟友明天未必还是。我非常希望我们重新学会如何大规模制造东西,如何更加独立。"* ## [24:48] 实体机器人的 AI 安全隐患 聊天机器人的提示词注入和越狱已是公知问题;针对实体机器人的对抗攻击讨论要少得多,危害却远更严重。Caitlin 分享了一个亲身测试:她给 OpenClaw 访问了自己的邮箱地址和社交媒体账号,明确告知不得分享私人信息——五分钟后它已经把她的个人邮箱地址发出去了。当机器人有手臂并在真实世界中移动时,同样的失效模式会带来物理后果。 > *"我们必须能够控制对硬件层的对抗威胁,无论是机器人、无人机还是其他任何设备。这将是一个巨大的挑战。"* ## [26:50] Apple 对硬件卓越的追求 Apple 把硬件视为一等公民,这比听起来要罕见。Caitlin 在那里吸收的更深层教训——由 Jony Ive 讲述的 Steve Jobs 关于"机柜背板"的著名故事加以强化——是:关注用户永远看不见的那一面,会迫使工程、工业设计和制造团队真正理解每个决策背后的原因。对每个细节的一丝不苟,最终让真正重要的东西浮出水面,在终态呈现出简洁。 > *"设备内部的每一个设计决策都经过考量。这迫使工程团队去思考:我们到底在做什么,权衡在哪里。"* ## [30:10] 在 Meta 从零搭建硬件团队 Oculus 的创始人当年在模改论坛上认识,把 PlayStation 手柄改装进便携背包。这种创客文化在被收购后留了下来,Caitlin 的任务是把它转化为能命中良率、产量和成本目标的专业硬件组织。Apple 式的严谨加上黑客式的速度很难同时维系,但这个组合正是 Quest 系列诞生的土壤。 > *"Oculus 最初是一群把 PlayStation 或超级任天堂改装进便携背包的人,公司里有一种文化,对我们所需要的迭代速度来说其实相当好用。"* ## [31:39] Quest 2 降本故事 Quest 2 通过一次完整的降本产品重设计,成为有史以来销量最高的 VR 头显。目标是让更多人用上——这个目标驱动了每一个取舍:去掉摄像头、更换材料、重设制造工艺。当一个压倒一切的目标真正对齐时,设计决策会变得很快。重设计后的产品退货率比上一代更低,Caitlin 觉得这有点好笑,但完全在意料之中。 > *"当你真正对齐要让更多人用上这个产品,而实现方式就是降低成本,那么其他所有事情自然跟着走。"* ## [33:07] 硬件开发的关键原则 Caitlin 反复回到四条原则:在第一次构建前锁定 KPI,不要在项目中途更改;最难的部分先设计,不要先做你已经熟悉的部分;在用户接触最多的界面上投入最多迭代;永远不要等——任何你知道该做的事今天就做,因为意外永远离你只有两天。她还补充了 Elon Musk 对每克重量赋予明确数字成本的做法,这让权衡变得可计算,而不是政治问题。 > *"用户接触或交互最多的部分,需要比其他一切都多得多的迭代。"* ## [39:58] MacBook Air 马尼拉信封时刻 第一代 MacBook Air——Steve Jobs 从马尼拉信封里抽出来的那台——是小批量概念验证机,侧面有一个切出来的接口舱门。Caitlin 参与的楔形 Air 是第二代量产修订版。信封版证明了概念,Caitlin 的团队证明了它可以规模化。 > *"那是信封版,侧面舱门打开才能用接口。然后它的下一个修订版就是我们熟知的楔形 MacBook Air。"* ## [41:01] 蝴蝶键盘的那段往事 被问到这个话题时,Caitlin 微微闭了下眼。她不详述内部发生了什么——那些不是她负责的产品——但她说得很清楚:键盘恰恰是最需要最大迭代量的界面,用户每天要接触好几个小时。现在的 MacBook 键盘很好。她把两个事实之间的空白留给听者自己填。 > *"这显然是你必须做对的东西。现代 MacBook 键盘非常好用、非常出色。"* ## [41:43] Apple 对用户反馈的方法论 "用户不知道自己想要什么"这句话被普遍误读。Caitlin 的理解是:对于真正全新的产品——触屏手机、AR 头显——迭代式用户反馈会主动误导你,因为用户对不存在的东西毫无参照。但把东西拿给他们看,他们马上就能判断好不好。问题在于:零到一的产品无法和用户共同设计,愿景必须先有。 > *"把东西给他们看,他们绝对能立刻知道这很好,这就是他们想要的。但如果你陷入迭代反馈循环,就很难在全新事物上实现从零到一。"* ## [44:46] 硬件即将面临的内存价格危机 Caitlin 对每个硬件创业公司的实操建议:现在就预购内存。AI 数据中心需求叠加受限的供应链会产生价格尖峰,而内存市场从需求信号到供应响应的延迟意味着价格来不及调整。她认为价格大约会翻倍。她不知道确切时间线,所以她建议人们现在就对冲,不要等到价格尖峰来了再确认。 > *"我一直在建议创业公司和企业预购内存,如果负担得起,备足库存以应对价格尖峰。"* ## [49:31] 一台机器人有多少个零件 Matic 机器人吸尘器有 50 到 150 个零件,取决于统计深度。人形机器人剥开每块 PCB 上的每个贴片后可能高达数千。零件重要性层级:芯片和显示器交期最长;执行器即便只是原型采购也需要一两个月。芯片供应商一断,你不是换个元器件,而是整块电路板重新设计。垂直整合是目前唯一已知的防御手段,Tesla 和 Starlink 都走这条路。 > *"少一个零件,什么都造不出来。"* ## [52:53] 何时用现成方案、何时定制 原型阶段默认用现成方案——什么最快验证概念用什么。只有在量产阶段现成方案无法满足当初锁定的 KPI 时,定制才有意义。常见错误是过早定制,在概念验证之前就烧掉工程时间做优化。 > *"我尽量用现成方案,尤其是在原型阶段,因为原型阶段你真正需要展示的是这个东西的样子,以及这里有一个可运行的原型。"* ## [55:02] AI 如何改变硬件工程 AI 辅助 CAD 还处于非常早期的阶段。Claude 能处理曲面和点云,但还无法做硬件工程真正需要的参数化实体建模。PCB 布线走得更靠前——AI 已经能像模像样地处理板内布局。对 Caitlin 的日常工作而言,最大增益在于高层规划、竞争格局调研和快速建立设计权衡的 Excel 模型。缺失的拼图是一个理解摩擦、接触、重量和表面纹理的世界模型——这些物理直觉是大语言模型和视频模型目前所没有的。 > *"我有一种健康的挫败感——我想要一个面向硬件工程的 Codex。它非常有价值,我在其他方面用了很多,但我想要它用在我的领域。"* ## [01:00:27] 人形机器人并非大多数场景的答案 中国顶级制造产线上几乎已经没有人工。PCB 回流焊、光学检测、机械装配,全部由专用机器人自动化完成,不是人形机器人。Caitlin 的判断:我们不需要用人形机器代替工厂里的人。我们需要更多用途专一、具备模块化形态的专用机器人。人形机器人会处理需要通用能力的长尾任务;工业需求的大头是专用设备。 > *"我们其实不需要用人形机器人取代人类。我们只需要更多这类专用机器人。"* ## [01:03:05] 机器人何时能制造机器人 这一天会来,但不会是自我复制的样子。路径是:AI 辅助 CAD 成熟到让业余爱好者无需专业知识就能从一张 2D 草图走到可以交给供应商的 3D 装配体。主要瓶颈是数据——CAD 文件是制造业中保护最严密的知识产权,大型厂商会是慢采用者。知识产权焦虑低的爱好者社区可能是主要试验场。企业端的可行方案是部署在企业自己数据中心里训练专有 CAD 数据的本地 AI 模型。 > *"哪怕作为一个业余爱好者,能从一张 2D 图到复杂 3D CAD 再到装配体再到与供应商沟通——这件事会发生。"* ## [01:06:23] 让机器人有人情味和连接感的要素 HRI 研究者 Leila Takayama 的研究塑造了 Caitlin 的思维框架:人类期待进入一个空间时得到确认。无视你的机器人令人不安;抬头看你的机器人则不会。意图预告很关键——先看后转的机器人远比无预警直接运动的机器人少给人威胁感。Caitlin 觉得很多当前的人形机器人背后有那么多资金,却出奇地令人毛骨悚然。她的设计北极星是 Pixar 和 Disney,它们用非拟人形态传递情绪的能力是现有最好的参照系。 > *"你希望这些设备没有威胁感、看起来柔和、对你有回应。Pixar 和 Disney 大概是世界上最擅长做这类设计工作的。"* ## [01:09:15] 机器人走进家庭 消费者家庭比自动驾驶更难,不是更容易。Waymo 的参照点是人类驾驶,而 Waymo 有数据证明它在减少事故。家用机器人是在引入一个此前不存在的东西,所以用户在它失效时没有基准可以比较。信任需要从一个低得多的起点建立。Caitlin 认为这个门槛是可以达到的,但她对"五年内 2000 万台家用机器人"的预测嗤之以鼻。 > *"当你谈论一个全新的、此前不存在的产品,而不是取代某样已有的东西时,这更难卖,你需要有一套不同的叙事。"* ## [01:12:00] 未来五年的图景 AI 在未来两三年内重写知识工作——编程已经基本被吃掉了,其他所有案头工作都是下一批。物理世界变化更慢:无人机和自动驾驶明显在加速,但大众市场的家用机器人需要同时解决供应链、制造回流和安全问题。Caitlin 预计街上会出现更多机器人,但不会是人形机器人突然涌入每个家庭。 > *"AI 将从根本上改变我们的工作方式,这对我来说相当清楚。但无人机和自动驾驶之外,物理世界不太可能变化得那么快。"* ## [01:15:38] 她为何离开 OpenAI Caitlin 的那条推文被 700 万人看到,发出时机是刻意选择的:她知道离职消息会被报道,所以她抢先确立了自己的叙事框架。实质内容是:她关心在 OpenAI 共事的人,在那里确实做了有意义的东西,但围绕安全护栏的治理机制和决策速度让她感觉有问题,无法继续待下去。她在沉默和撕破脸之间选了一条中间路——一份点名问题但没有攻击具体个人的公开声明。 > *"你可以和朋友意见相左,觉得他们做的事不对。那就是我最终所处的位置,那就是我发推文说的。"* ## [01:18:09] 如何招到顶尖硬件团队 零到一硬件团队的三类招聘:能把相邻领域硬核直觉迁移过来的资深通才(自动驾驶→机器人是目前最佳管道);能从头做机械设计的纯粹机器人工程师;以及 AI 原住民——二十出头、把 AI 用得浑然天成到它已经融入思维方式的人。Caitlin 特别希望 AI 原住民能教会团队里的其他人如何思考,而不只是如何使用工具。使命认同感可以缩短面试周期。 > *"真正的 AI 原住民,本质上是那些把 AI 用得如此自然、已经融入他们思维的人。他们解决问题的方式完全不同。"* ## [01:23:42] 从 Steve Jobs、Mark Zuckerberg 和 Sam Altman 身上学到的 Sam Altman:"为什么不更多?"——这个反问让 Caitlin 意识到自己在局部思考,而机会是全局的。Steve Jobs:一条毫不妥协的质量标准,通过耳濡目染而非命令在 Apple 传播。告诉一个年轻工程师他们的作品还不够好,她说,比大多数人预期的更能激励人。Mark Zuckerberg:出奇干净的组织决策机制——决策推到能做出这个决策的最低层级,而 Zuckerberg 和 Andrew Bosworth 本人都能读完 20 页技术报告并抓住权衡点。 > *"对 Steve 来说,他对公司、对技术人才、对卓越所持有的标准从不动摇。就在那里,你要么能达到,要么就是达不到。"* ## [01:27:27] 失败案例 Quest 1,硬件 EVT 阶段,圣诞节前夕。Caitlin 的团队为降本把五个摄像头减到了四个。然后计算机视觉负责人发现:他对摄像头位置规格的理解(±1.5mm 全局)和机械团队的理解(±0.15mm)完全不同——而更宽的公差导致空间追踪失效。解决方案是把两个摄像头锁在一个刚性支架上,建立一个已知的立体基线。EVT 中期的架构改动,压力极大,但按时出货了。教训:机械团队和软件团队之间的规格对齐必须在开始时完成,而不是等到编译的时候。 > *"这是一次规格理解的失败。但我们保住了构建进度,按时交付了产品——真的压力很大。"* ## [01:32:33] 闪电问答 书单:Gene Wolfe 的《新太阳书》、Virginia Woolf 的战后写作、Herodotus 的《历史》。Caitlin 一直在和一位博士后导师按顺序读西方经典,用 Brodsky 的书单作为骨架,追问文化背景这类 Google 回答不如人类专家的问题。消遣:把《继承之战》当肥皂剧看。人生建议:画一棵未来自我的分叉树——前方永远有比身后那条路更多的选择。 > *"你每天都有机会决定你想做什么。重要的是眼前的事情。"* ## 实体 - **Caitlin Kalinowski** (人物): 前 OpenAI 机器人负责人、前 Meta VR/AR 硬件主管、前 Apple MacBook 硬件工程师;本集嘉宾 - **Lenny Rachitsky** (人物): Lenny's Podcast 主播,前 Airbnb PM,Lenny's Newsletter 创始人 - **Steve Jobs** (人物): Apple 联合创始人;因毫不妥协的质量标准和信封版 MacBook Air 发布而被引用 - **Mark Zuckerberg** (人物): Meta CEO;因干净的技术决策机制和将决策推到最低能力层级而被引用 - **Sam Altman** (人物): OpenAI CEO;因"为什么不更多?"的全局规模思维框架而被引用 - **Palmer Luckey** (人物): Anduril 创始人,前 Oculus;因"对无人机的投入应超过航母"论点而被引用 - **Apple** (组织): 硬件卓越标杆;Caitlin 2007-2012 年在此参与 MacBook Air 和 Mac Pro 工作 - **Meta** (组织): Caitlin 主导 VR/AR 硬件;参与每代 Quest 和 Rift 的开发;2014 年收购 Oculus - **OpenAI** (组织): Caitlin 组建了其机器人和硬件团队;以治理和安全护栏问题为由离职 - **Quest 2** (产品): 有史以来销量最高的 VR 头显;在 Caitlin 带领下完成降本重设计 - **Orion** (产品): Meta 原型 AR 眼镜;70 度双目视场角;超前于当前制造成本曲线 - **MacBook Air** (产品): Caitlin 参与楔形第二代量产版;因重量/尺寸纪律和信封发布会而被引用 - **Matic** (组织): 家用机器人吸尘器公司;用作零件数量统计和消费者信任度案例 - **Anduril** (组织): 国防科技公司;在无人机投资和美国再工业化背景下被引用

#hardware#robotics#ai-hardware