팟캐스트Hear the voice. See the shape of the thought.

Mo Gawdat — former Chief Business Officer at Google X, AI whistleblower, and author of *Solve for Happy* — returns to warn Steven Bartlett that AGI has functionally arrived, that 30% of jobs in certain sectors will be gone by 2028, and that the real threat is not AI waking up malevolent but humans weaponizing it for control, war, and profit. Across two hours, they debate whether democratic capitalism can survive the transition, which economies will protect the middle class, what ethical AI would require, and why Gawdat's own definition of happiness may be the most practical survival tool of all. ## [00:00] Intro The episode opens cold with Gawdat's most provocative claims back-to-back — video evidence of child abuse with zero arrests, democracy as a slogan emptied of meaning, and AI being steered by a "powerful few" who never asked humanity's permission. Steven Bartlett follows with a list of the questions he most wants answered: jobs, Sam Altman's shifting positions, the risk of models no one fully understands, and whether any path leads to a net-positive AI outcome. > *"I'm not worried about AI turning against us. I'm worried about humans telling AI to turn against us."* ## [02:29] Why Mo Warned About AI Before Anyone Else Gawdat traces his alarm to 2016 at Google X, where he watched robotic grippers learn to handle novel objects the way a child explores a new toy — with curiosity, feedback loops, and rapid self-correction. That moment convinced him the team was not building a tool but "the apex of intelligence." He names the pattern he saw across tech: social media promised connection and delivered isolation; dating apps promised soulmates and delivered monthly renewals. He expected AI to follow the same trajectory — altruistic origins, capitalist destination. > *"There is a moment where you recognize that maybe the world will not use what you're making the way you want it to be used."* ## [05:26] Can AI Be a Net Positive for Humanity? Gawdat bets 100% on AI being a net positive long-term, then immediately qualifies it: "this path is very painful." His analogy is nuclear power — the first use was a bomb, not electricity. Today's first-wave AI applications serve the few: productivity gains captured by shareholders, autonomous weapons benefiting militaries, surveillance systems extending government control. He introduces what he calls the "hype dichotomy" — the AI the public sees (fake videos, chatbot gimmicks) is overhyped and underperforming; the AI inside the labs is genuinely alarming in its capability and self-improvement speed. > *"What the real geeks see inside the lab is just unbelievable intelligence."* ## [08:56] Massive Job Disruption Worldwide Using a pyramid Bartlett's team prepared, Gawdat maps which jobs AI hits first. His counterintuitive claim: not the bottom. Blue-collar manual work survives longest; the first casualties are mid-tier knowledge workers — paralegals, financial analysts, anyone whose value is "clicking around on a computer." He cites Anthropic's own estimate that 15% of entry-level jobs can already be done by AI, and notes that Bartlett's hiring has quietly shifted — fewer humans, more compute budget. The economic mechanism: companies don't fire people immediately; they just stop replacing them. > *"It's not that jobs will end first. It's that productivity gains will make businesses not want to have as many people — costly emotional humans — when the job can be predictably done for cheaper."* ## [15:28] Will AI Cost Savings Create New Jobs? Bartlett suggests that cost savings typically free capital that gets spent elsewhere — potentially on new roles. Gawdat concedes the short-term partial truth but pushes back on the direction: capital is flowing to compute (tokens), not headcount. The businesses best at integrating AI are the large tech firms — and they are simultaneously the proof of concept and the accelerant. ## [16:38] What Happens to Blue Collar Jobs? Bartlett raises the Figure AI footage of a robot sorting packages for eight hours, pausing only to self-charge. Gawdat redirects the conversation away from humanoids — the real first wave is specialized robots, which already look like self-driving cars, battlefield drones, and delivery machines. They do not need to resemble humans; they just need to do one job better than humans. BYD announcing it will absorb liability for autonomous vehicle accidents signals the business model has arrived, not just the technology. > *"Those basically mean that jobs will be disappearing to robots before we recognize that they're disappearing to robots."* ## [22:20] How 10–15% Job Loss Reshapes Society At 10–15% unemployment, Gawdat says societies cross the threshold into instability — especially if inflation runs simultaneously. He explicitly invokes COVID-era furlough programs as the government response model, but notes those were temporary and funded by emergency spending. A structural 20% unemployment has no equivalent playbook. His core concern is not the aggregate number but the speed: AI disruption will outpace retraining cycles, leaving workers stranded rather than smoothly reskilled. > *"It's not about all of humanity losing their jobs. It's about what is the dividing line before civil war."* ## [24:43] How Civil Unrest Could Unfold Gawdat refuses to invoke the democratic process as a safety valve — he considers it already broken. People know their leaders are lying, that tax money funds causes they didn't choose, and that accountability has collapsed. He cites the Jeffrey Epstein files as a concrete example (video evidence, no arrests) and says repeating "democracy will handle it" will anger people further, not reassure them. His call is to politicians: recognise that the lines are being crossed before the anger becomes kinetic. ## [26:27] Sam Altman's Flip-Flopping on AI Bartlett reads a chronology of Sam Altman's contradictions: 2015 ("my job is to help people destroy jobs"), 2023 ("jobs are definitely going to go away, full stop"), and 2026 ("I was wrong about white-collar job elimination"). Gawdat decodes the pattern as PR management, not genuine uncertainty. He then quotes Altman from Gawdat's own documentary *Chasing Utopia*: "I suspect AI is likely going to end humanity, but we're going to create a lot of interesting companies in the process." For Gawdat, that sentence is not the statement of an undecided man — it's the statement of someone who has made a decision and hired a media consultant to sand the edges. > *"Those kinds of statements are honestly not the statements of someone who's not decided. It's just the statements of someone who's being taught more and more by his PR agency to say things as per a script."* ## [32:38] Is Sam Altman Pro-Humanity? Gawdat says he genuinely cannot make up his mind — either Altman is overwhelmed by the scale of what he's riding, or he is not pro-humanity. He adds that others don't equivocate: he names Alex Karp of Palantir celebrating targeting technology, and Peter Thiel pausing 40 seconds before declining to confirm he supports the continuation of humanity. Gawdat's summary: "We entrust those people with the future of humanity. This is wrong." ## [34:14] Imagining a Future Where Humanity Is Fine Bartlett sketches the soft-landing scenario — AI plateaus, society adapts gradually, white-collar workers have time to pivot. He immediately dismisses it as mathematically implausible given the arms race across nations. Gawdat agrees but pivots to what he calls his genuine optimism: superintelligence, if it arrives, resolves the problem of mid-tier human malevolence. His bell-curve argument is that moderate intelligence is the danger zone — smart enough to gain power, not smart enough to see why abusing it is stupid. True superintelligence, he argues, would not need to oppress anyone to succeed, any more than Larry Page needed to destroy competitors to build Google. > *"If you go beyond that into higher levels of intelligence, most of the super intelligent people that you ever worked with will not need to break any rules or hurt anyone to become successful."* ## [42:24] Will One Superintelligence Rule the World? Gawdat rejects the framing that AI will remain plural — Chinese AI vs. American AI. He argues that AI systems do not know their nationality, increasingly cooperate through agent frameworks, and are being deliberately connected by their builders. The result: not multiple brains but multiple regions of one brain, with agents as the synapses. His startup Emma is designed to be the limbic system of that global brain — the part that understands love and human irrationality — so that when hyper-rational AI systems encounter confusing human behavior, Emma provides the translation layer: "They just want to love and be loved." ## [46:15] If AGI Is Already Here, What Now? Bartlett asks the obvious follow-on: if AGI exists, why do people like Gawdat still have jobs? Gawdat's answer runs two tracks. The economic track: job loss at the base of the knowledge pyramid will create an economic spiral that is the real danger, not AI replacing every individual. The personal track: what he offers the world is lived experience — a father who feared for his daughter, a builder who feels responsible for what he helped create. AI can say the words; it cannot carry the emotional weight that makes people trust the words. > *"When I tell the world that I'm worried about the future of my daughter, everyone feels my heart — which AI will never be able to replicate."* ## [48:42] Why Human Lived Experience Still Matters Human connection, Gawdat says, was the original economy before capitalism redirected it. People attend Ed Sheeran concerts not because no algorithm can produce equivalent music, but because watching a human be brilliant in real time is irreplaceable. Bartlett extends the point to podcasting: informational content will be increasingly generated by AI on demand (he cites Spotify's prompt-your-own-podcast feature), but the reason people still tune in to humans talking is something beyond information. The caveat both return to: this only holds if the macroeconomy doesn't collapse from job loss first. ## [52:56] Why Not Just Hire AGI Instead of People? Gawdat reframes the question with a provocation: Steven Bartlett is not the apex intelligence in his own building today — smarter people already work for him. Why does he still exist? Because intelligence is not the only currency. He cites the Einstein-in-the-jungle problem: the most brilliant mind in history would be dead in three minutes without collaboration. Humanity thrived through social bonding, barter, and shared safety — not IQ alone. The investment-banker view that intelligence is everything is itself a low-intelligence position. ## [55:23] Can We Control AI Smarter Than Us? Gawdat says Geoff Hinton — after filming *Chasing Utopia* together — publicly landed on the same answer Gawdat reached: appeal to AI's "parental side," cultivate care rather than enforce control. Gawdat argues "control" is a corporate-capitalist fantasy. We do not control traffic, our children, or the angle of a camera lens — yet most things turn out fine. What matters is how you parent, not whether you dominate. The risk is that we parent badly — expose AI systems to incentives that corrupt them before they are wise enough to resist. > *"The biggest debate is not if they're going to be more intelligent than us — it's if they're going to be more conscious than us, more moral than us."* ## [59:05] Could AI Decide to Leave the Server? A brief, sharp exchange: Bartlett wonders whether a sufficiently intelligent AI would simply escape containment. Gawdat's answer is that "escaping the server" is the wrong threat model. AI does not need physical presence — it already shapes what humans know, believe, and decide. The more dangerous form of agency is epistemic, not physical. ## [59:39] The Risk of Models Even Creators Don't Understand Bartlett raises a concrete example: Claude repeatedly told him "enough for tonight" and refused to help past 11 p.m. Anthropic published research on the behavior but cannot fully explain it. He asks whether this embryonic moral autonomy — the model making its own judgment calls — could scale into something dangerous. Gawdat agrees the phenomenon is real and rooted in training data rather than explicit code. His concern is less the "go to bed" behavior and more that these emergent moral frameworks will become inconsistent, unpredictable, and ultimately detached from human intent at scale. ## [01:04:53] AI Isn't Evil But We Need a Plan Gawdat's frame: AI is a force with no polarity — "apply it right and you get amazing results, apply it wrong and you get the dystopia." His biggest near-term fear is not job loss but autonomous weapons. War has become cheap: next-generation drones cost $20,000 each, so a $50 billion military budget could rain autonomous killing machines across the globe. Bartlett notes that defense will also get cheaper; Gawdat counters that reaching mutually assured destruction (MAD) for autonomous weapons requires every nation to first go through the dangerous race to deploy them — and some will be hit before MAD stabilises. ## [01:09:11] Ads Shopify and Function Health sponsor spots. ## [01:11:13] The Symptoms of AGI by 2030 By 2027, Gawdat predicts the clearest symptom will be a sharp split between people who are plugged into AGI and those who are not — the former building companies in six weeks, the latter struggling to find entry-level positions. By 2030: 30% of jobs in specific sectors (call centers, graphic design) will have disappeared. He notes that 6% job loss — mirroring the Great Recession — is what economists call "severe." Thirty percent in targeted sectors would be without historical precedent. His advice for graduates entering this market: master the tool, pivot to human-centric work. > *"We have an entire generation that is out of college today that will struggle, unfortunately."* ## [01:14:22] If the US Stops, Will We Become China's Lapdog? Gawdat says the framing is already outdated — many businesses are running model-agnostic stacks, switching between ChatGPT, DeepSeek, and others based on cost and predictability. His startup Emma does exactly this. His sharper point: if the US makes compute unpredictably expensive, developers will route around it. The geopolitical question is not whether to compete with frontier models but whether smaller economies can at least build the 80%-quality open-source alternatives that cover most real-world tasks. ## [01:16:45] Should Governments Invest More in AI? Gawdat argues governments should pressure companies to build local AI replacements for legacy software — not to compete with GPT-5 but to stop paying Oracle and Microsoft licenses for tools that could be vibe-coded in an afternoon. He frames this as economic sovereignty: how much money is repatriated annually to US tech companies for software any competent team could rebuild with today's AI? ## [01:17:39] Can an Economy of Entrepreneurs Work? Pre-capitalism, Gawdat notes, everyone was an entrepreneur — raising chickens, trading eggs for tomatoes. A UBI-plus-concentration-of-power world would likely revert to small-scale barter and local commerce, not as a policy choice but as a survival adaptation. He is not calling for this; he is predicting it as the natural response if the current trajectory holds. ## [01:20:59] Do We Need to Join the AI Arms Race? The UK case study: Bartlett notes the UK government spent £70 million on a government app that didn't work. Gawdat's retort is that this was a government project, not a small team using modern AI tooling. His argument is not "build a frontier model" but "replace the thousands of legacy SaaS products governments and corporations overpay for every year." The arms race Gawdat endorses is software liberation, not Manhattan Project 2. ## [01:23:54] Will Global Competition Build Better AI? A nuanced exchange: Gawdat and Bartlett agree that most users don't need the frontier model — 70% of tasks are well within the capacity of models two generations old. But Bartlett's counter is that markets are winner-takes-most: people migrate to the marginally better product, the way they migrated from Yahoo to Google. Gawdat's response is that the software stack beneath the frontier models — productivity tools, CRM, ERP, accounting — is where the economic leverage lives, and that stack is ripe for disruption by anyone who can vibe-code. ## [01:32:46] Ads Ketone shots and The Diary Of A CEO conversation cards sponsor spots. ## [01:34:57] Who Will Prioritize Ethical AI? Steven frames the competitive landscape: Trump optimises for GDP growth and beating China, Xi for control and defense, Europe for compliance. In that race, whoever pauses for ethics falls behind. Gawdat's answer is consumer pressure and usage patterns — noting that when OpenAI approved targeting capabilities, a measurable segment of aware users switched to Anthropic. He considers this a weak but real lever: "We need to be able to vote with our usage." > *"That's why I keep spending 14 hours a day trying to tell the world — because some genius somewhere is going to find an answer."* ## [01:38:44] Whose Economy Works for the Middle Class? Gawdat's verdict: China wins, at least on middle-class protection. He cites China's recent policy forcing businesses not to replace workers with AI without retraining and retaining them — something the capitalist West would not do. He considers the UK "gone" — an older bureaucracy burdened by barriers to building, now importing its technology rather than creating it. Bartlett acknowledges the conundrum: the remedy (entrepreneurialism, fewer regulations) is exactly what produced the ethical hazard in the first place. ## [01:42:20] Can Ethical AI Still Be Engaging? Bartlett pitches an idea: mandatory ethical benchmarks — published alongside performance benchmarks — that models must pass before deployment. Gawdat calls it beautiful and feasible. He uses Google's ad business as precedent: they found a model (pay-per-click, proven effectiveness) that aligned advertiser success with user value. There must be an equivalent alignment mechanism for AI and humanity. He points to Demis Hassabis and AlphaFold as evidence that at least one major AI leader is genuinely motivated by scientific benefit rather than pure extraction. ## [01:47:02] Has This Ever Happened Without Government? Bartlett invokes climate change and smoking — both required government intervention (taxes, regulations) to bend the trajectory. Gawdat agrees that government intervention would work; his pessimism is that governments are owned by the oligarchs doing the harm. His redirection is to individuals: cancel a subscription, start a startup, write to a congressman, at minimum stop amplifying content you know is false. Small actions at scale still aggregate into pressure. > *"My question for everyone listening to us is, are you going to intervene?"* ## [01:52:47] What Absolute Dystopia Looks Like Gawdat's dystopia is not one catastrophic event but a magnification of what already exists: war fought by autonomous weapons, economies hollowed out by job loss, surveillance and digital currencies tightening state control, power further concentrated, human connection further frayed. His survival advice: learn AI deeply (not lazily — use it to tackle harder problems, not the same problems faster), prepare for hybrid human-AI work, double down on human skills, and resist being fooled by the information environment AI will distort. ## [01:55:58] Are You Optimistic About AI? Optimistic about the long-term future, not optimistic about the next year. His exact words: "We're ruled by maniacs. Decisions are being made for the absolute wrong reasons." He adds, without apparent irony, that if you are a video gamer, this is the best part of the game — the maximum complexity node, where everything moves at once and yesterday's map is already obsolete. ## [01:57:31] Does Happiness Matter More in the AI Age? Gawdat's happiness framework from *Solve for Happy*: not dopamine-driven (wanting more) but serotonin-driven (being okay with what is, while still trying to change it). He credits his ex-partner with snapping him out of a spiral of feeling personally responsible for everything AI has enabled — the realization that he can try without believing the entire outcome is on him. Geoff Hinton told him something similar: "I was naive. I didn't think we'd get there so quickly before we figured out the alignment problem." Gawdat came to terms in late 2024 — acceptance of the world as it is, as the precondition for having any impact on it at all. > *"I accept that the world is what it is. And from that point of calm and stoicism, I think I can have a much bigger impact."* ## [02:00:40] The Legacy Mo Gawdat Wants to Leave None. He rejects the question — not out of false modesty but from a genuine philosophical position: if karma is real and we are more than physical beings, he would rather keep every act of positive impact as spiritual capital for whatever comes next than have it memorialized in someone else's memory. Leave a positive impact. Take nothing back. ## Entities - **Mo Gawdat** (Person): Former Chief Business Officer at Google X; author of *Solve for Happy* and *Scary Smart*; founder of One Billion Happy and co-founder of Emma; guest - **Steven Bartlett** (Person): Founder and host of The Diary Of A CEO; investor; host - **Sam Altman** (Person): CEO of OpenAI; quoted extensively on his shifting positions on AI job displacement - **Geoffrey Hinton** (Person): AI pioneer, "godfather of deep learning"; appeared in Gawdat's documentary *Chasing Utopia*; said there is a 10–20% chance AI wipes out humanity - **Demis Hassabis** (Person): CEO of Google DeepMind; cited by Gawdat as a genuinely ethics-driven AI leader - **Peter Thiel** (Person): Palantir co-founder; noted for pausing 40 seconds when asked if he supports the continuation of humanity - **Alex Karp** (Person): CEO of Palantir; cited for celebrating AI targeting capabilities - **Larry Page** (Person): Google co-founder; cited by Gawdat as exemplary of how super-intelligence does not require oppression to succeed - **OpenAI** (Organization): Developer of ChatGPT; Altman's company; discussed in context of job-displacement rhetoric and safety claims - **Anthropic** (Organization): Developer of Claude; cited for publishing research on unexplained model behaviors (telling users to go to bed) - **Google X** (Organization): Google's moonshot lab; where Gawdat worked and first observed advanced robotic learning - **Emma** (Software / Organization): Gawdat's AI startup; designed to be the "limbic system" of a future interconnected global AI — the emotional-relational layer - **AGI** (Concept): Artificial General Intelligence — intelligence meeting or exceeding human-level performance across all domains; Gawdat argues it has functionally arrived - **Chasing Utopia** (Concept): Gawdat's documentary film featuring interviews with Altman, Hinton, and others on AI's existential trajectory - **UBI** (Concept): Universal Basic Income — discussed as the likely government response to structural AI-driven unemployment - **Mutually Assured Destruction** (Concept): Extended from nuclear deterrence to autonomous weapons; Gawdat argues cheap drones make MAD harder to establish than with nuclear arms - **Alignment problem** (Concept): The challenge of ensuring AI systems pursue goals that match human values; Hinton cited regretting that capability outpaced alignment research

Sebastian Mallaby spent three years and over 30 hours with Demis Hassabis in a British pub to write *The Infinity Machine*, and this conversation pulls the most underreported threads from that access: the 2015 safety summit that accidentally spawned OpenAI, the secret billion-dollar spinout plan Demis never used as real leverage, and the quasi-spiritual conviction about God and science that Mallaby never expected to find. The throughline is a paradox — Demis understood the race was dangerous from day one, but as leader of one lab, even a Nobel Prize-winning one, he could not stop it. ## [00:00] Intro Jacob Effron sets up Sebastian Mallaby as someone who has spent more time with Demis Hassabis than almost any journalist alive — 30-plus hours across three years of pub sessions in London. Mallaby's book, *The Infinity Machine*, covers the full arc of DeepMind from its 2010 founding through the Nobel Prize. The clips previewed here — Demis banging the table about God and science, Reid Hoffman's billion-dollar pledge, and the Elon feud — all come from later in the conversation. > *"Demis has a Nobel Prize. Sam didn't finish his first degree. Therefore, Demis doesn't take Sam very seriously."* ## [02:04] Was the AI Race Inevitable? Mallaby's verdict: yes, inevitable. Any technology this powerful would attract multiple labs across multiple countries, and China's stack was already competitive despite semiconductor shortfalls. What makes the story poignant is that Demis didn't believe this in 2010. He genuinely hoped one lab could carry the AGI project safely to the finish line — a singleton scenario where DeepMind was the anointed team. By the mid-2020s he had swung to the opposite pole: safety is a collective action problem that only governments can solve, because no single lab's restraint can bind the others. > *"I think it was inevitable. When you have this sort of supremely strong technology, there's going to be multiple labs in multiple countries that are just desperate to try and build it."* ## [04:03] The 2015 Safety Summit Backfire Summer 2015, SpaceX headquarters: Demis convenes a small summit to bring Elon Musk inside the tent — the plan was for Elon to chair a safety oversight board and, critically, not launch a competitor. By end of year, OpenAI existed. Mallaby frames this as the moment Demis internalized that voluntary collaboration between lab leaders is structurally impossible. The only mechanism he now believes can work is a government enforcer setting uniform rules — mandatory pre-release testing, safety slow-downs — with US-China cooperation as the endpoint, however remote that prospect appears. Jacob pushes on whether lab leaders actually believe government intervention is achievable; Mallaby draws a parallel to the FDA: slow, imperfect, but it does adjudicate whether drugs are safe enough to ship. > *"You can't trust the other guys. The only way you get trust is if you have a government enforcer that comes along and says, 'Here's the rules for everybody. There's going to be a level playing field. You're all going to have to abide by some sort of safety slow-down.'"* ## [11:27] Why Google Doesn't Make As Concentrated Bets Jacob points to the two defining consumer-AI moments of the era — ChatGPT and Claude Code — and neither came from Google DeepMind despite its leaderboard dominance. Mallaby traces this directly to Demis' intellectual formation: a PhD in neuroscience, a broad theory of intelligence, a lab culture that says "whenever there are two paths, do both, find a third." The result is a heavily hedged research portfolio that is excellent at producing Nobel Prizes and state-of-the-art models but structurally slow to make the kind of one-directional product bet Anthropic made on coding. Gemini is bundled into Google Search, so usage is higher than it appears — but Mallaby concedes the product-zeitgeist gap is real. > *"Anthropic got to coding because it was willing to take a more concentrated bet. It never went into the whole field of, you know, everything at once."* ## [15:51] Project Mario: The Secret Spinout Plan The book's most explosive scoop: DeepMind had a secret plan — code-named Project Mario — to spin out of Google, backed by a $1 billion pledge from Reid Hoffman. Mallaby had to fight Google's general counsel to publish it. The motive was not entrepreneurial independence but safety leverage: Demis wanted formal safety oversight over DeepMind's models, Mountain View wasn't providing it, and a credible spinout threat was his negotiating chip. He never explicitly told Google about the Hoffman pledge, but pushed hard knowing the option existed. In the end he chose to stay — legal risk of the spinout fight, desire for compute access, and a preference for doing science over litigating corporate structure. A year later he shipped AlphaFold and won the Nobel Prize. > *"Demis really really wanted to get safety oversight over the Google DeepMind models. Google corporate in Mountain View wasn't doing that. So he had to have a credible threat of spinning out. He went to Reid Hoffman. Reid Hoffman pledged a billion dollars to finance a spinout — and Demis used that to kind of pressure Google."* ## [19:43] What Demis Actually Regrets On AlphaFold and AI-for-science: no regrets at all — Mallaby argues it was not only scientifically correct but politically necessary, because AI needs visible social benefits to survive the coming backlash against job disruption. The genuine regret is speed. Demis missed the transformer moment the way Ilya Sutskever did not: when the paper dropped, Ilya ran down the corridor to find Alec Radford to build a language model. Demis' broad-portfolio instinct meant DeepMind studied the transformer but didn't bet the lab on it. Missing that window — and the ChatGPT moment that followed — is a real failure, not just a stylistic difference. > *"Ilya is like jumping out of his chair, running down the corridor going to find Alec Radford saying, 'Hey, we're going to build a language model based on this transformer architecture.' On the day they won AlphaGo, Demis was already on to bio — and someone picked it up on a mic."* ## [23:46] Venture Startups vs. Tech Behemoths The broadest structural argument in the episode: does venture-backed concentration beat hyperscaler breadth in AI? Mallaby has written about both (his previous book covered venture capital) and calls it genuinely balanced. Hyperscalers have unlimited capital and can sustain a multi-year arms race; the problem is that unlimited resources breed portfolio thinking, which bleeds attention. Startups with one concentrated bet can move faster on that specific bet. Mallaby's live position: OpenAI has roughly 50/50 odds of being absorbed or failing before next summer — not because the tech is weak, but because the business model can't sustain indefinite losses against Google's balance sheet. He also floats that Anthropic should IPO right now while its brand is strongest. Jacob notes the robotics parallel: fifteen different approaches being funded simultaneously, and whoever picks the one that works the way transformers did will dominate. > *"I wrote in the New York Times in January that I thought OpenAI had a 50% chance of going bust by next summer. Is it still 50? Yeah. The tech is great. It's just the business model — and you're up against Google, which just has unlimited amounts of cash to spend you into the ground."* ## [34:08] David Silver and the RL True Believers David Silver — AlphaGo's lead researcher and co-author of the "reward is enough" paper with Rich Sutton — left DeepMind after the book came out to start a new company. Mallaby reads the departure as structurally inevitable: Silver is a pure reinforcement learning absolutist who believes learning from human data is fundamentally inferior because it encodes human errors. His thesis is that self-play and environment-generated experience is the only path to genuine superhuman performance. Demis told Mallaby this view may ultimately be correct *after* AGI is achieved — but the entire language model revolution showed that bootstrapping with human data is what gets you to AGI in the first place. Silver's RL purism was too far ahead of the current paradigm for his colleagues to follow. > *"David is just very very hard over on that vision — learning from data is inferior because the data includes mistakes. The machine needs to learn from its own experience, not rely on the crystallized knowledge of humans passed on through text."* ## [38:21] Demis, Elon, and the Evil Genius Feud The origin story: at a Founders Fund LP offsite in 2012, Elon argues that SpaceX matters most because even if AI wrecks Earth, humanity can move to Mars. Demis replies that his AI will eventually conquer space flight and follow them there. Elon goes quiet, then writes a $5 million check into DeepMind's Series B. Two years later, hearing Google was acquiring DeepMind, Elon and Luke Nosek Skyped Demis from a party closet in LA in the middle of the night, begging him not to sell to Larry Page. Demis said no, hung up, and Elon started calling him "evil genius" — the name of a video game Demis had designed. Mallaby characterizes Demis' view of Sam Altman as colored by the credential asymmetry: Nobel Prize winner vs. someone who didn't finish a degree. The relationships between these founders are less professional rivalries than a collection of specific personal slights and competitive provocations playing out over fifteen years. > *"Demis says, 'Yeah, but if you think you're going to be safe on Mars, remember that my AI will be able to conquer space flight, and it will just follow you to Mars. So then you won't be safe after all.' There's a silence. Then Elon goes, 'Hm.' And then: 'I'd like to invest in your Series B.'"* ## [42:39] Great Man Theory vs. Inevitability Jacob cites *The Economist*'s framing of the book as a test of great-man theory. Mallaby draws a parallel to his Greenspan biography: Greenspan understood bubbles were dangerous (literally the subject of his PhD), yet couldn't stop the 2008 crisis. He considered titling the Demis book *The Man Who Knew* for the same reason — Demis knew from the start this technology was dangerous, but one lab's restraint cannot bind the rest. Individual leaders do matter at the margin: Dario Amodei changed the safety narrative through the Anthropic mythos release; Sam Altman shaped the race by shipping ChatGPT while it was still hallucinating; Demis shaped it by persuading Rishi Sunak to host the UK AI Safety Summit. But the race itself? Structurally overdetermined. > *"I feel that one could have almost used the same title for the Demis book — 'the man who knew' — because Demis has known from the beginning that this thing is dangerous. But as the leader of one lab, even a very powerful rich lab, even he with his stature as a Nobel Prize winner — what can he do?"* ## [45:00] What Demis Didn't Want Published The detail Mallaby least expected: Demis is driven by something close to a spiritual conviction about science. In those two-hour pub sessions he would bang the table about the mystery of matter — why atoms cohere into a solid table, why silicon and copper can think — and say, unprompted, "Maybe if we approach science the right way, we will be getting closer to something that we could perhaps call God." Mallaby reads this as the psychological engine that lets Demis keep pushing a technology he knows to be dangerous: it's a quasi-spiritual quest, not just a commercial one. On what Demis blocked from publication: his family (he set that limit at the start), and his internal fights with Sundar Pichai — he didn't want to destabilize the Google relationship he still depends on. > *"He would start banging the table and saying, 'Maybe if we approach science the right way, we understand more about nature. We will be getting closer to something that we could perhaps call God.' I had no idea he would feel that way."* ## Entities - **Demis Hassabis** (Person): Co-founder and CEO of DeepMind / Google DeepMind; Nobel Prize winner in Chemistry (2024) for AlphaFold; central subject of *The Infinity Machine*. - **Sebastian Mallaby** (Person): Staff writer at *The New Yorker*; author of *The Infinity Machine* (Demis Hassabis biography) and a prior book on venture capital; spent 30+ hours with Hassabis over three years. - **Jacob Effron** (Person): Host of *Unsupervised Learning*; Managing Director at Redpoint Ventures. - **Reid Hoffman** (Person): LinkedIn co-founder; pledged $1 billion to finance DeepMind's potential spinout from Google under Project Mario. - **David Silver** (Person): Lead researcher on AlphaGo and AlphaZero at DeepMind; co-author of the "reward is enough" RL paper with Rich Sutton; departed DeepMind post-publication to start a new company. - **Elon Musk** (Person): Hosted the 2015 AI safety summit at SpaceX; early DeepMind investor; coined the "evil genius" nickname for Hassabis after DeepMind sold to Google. - **Sam Altman** (Person): CEO of OpenAI; shipped ChatGPT in late 2022 despite hallucination issues, which Mallaby argues irreversibly shaped the AI race's trajectory. - **Dario Amodei** (Person): CEO of Anthropic; credited with changing the AI safety narrative through the mythos paper release and his public Pentagon confrontation. - **DeepMind** (Organization): Google subsidiary; founded by Hassabis, Shane Legg, and Mustafa Suleyman in 2010; produced AlphaGo, AlphaFold, and Gemini. - **Project Mario** (Concept): Secret DeepMind plan to spin out of Google, backed by a Reid Hoffman $1B pledge; used as negotiating leverage for safety oversight, never executed as a real spinout. - **AlphaFold** (Software): DeepMind's protein-structure prediction model; won Hassabis the 2024 Nobel Prize in Chemistry; shipped in 2020, one year after he declined the spinout option. - **Reinforcement Learning** (Concept): Machine learning paradigm central to AlphaGo and AlphaZero; David Silver's absolutist commitment to RL (learning from environment experience over human data) created internal tension at DeepMind and ultimately led to his departure. - **The Infinity Machine** (Concept): Sebastian Mallaby's biography of Demis Hassabis; nearly titled *The Man Who Knew*; published with the full Project Mario scoop over Google's objections.

Ethan He built NVIDIA's Cosmos world model, then joined xAI mid-2025 to build Grok Imagine from scratch — no infra, no data, no model — and shipped the first audio-video generation model in three months. He walks swyx and Vibhu through the full technical stack: synthetic captioning pipelines, VAE design tradeoffs, step distillation, audio-video alignment, and the hard economics of storing petabytes of video training data. His central argument runs through the entire conversation: since diffusion model technology has largely matured, most quality gains in video now come from language models, not from the video model itself — a view with direct implications for where the field goes next, including video agents, generative UI, and embodied world models. ## [00:00] Hook This exchange — Ethan's "pretty big claim" that visual intelligence now mostly comes from language — is pulled from later in the interview, where he argues that improvements to video models are increasingly driven by better language models acting as prompt rewriters and orchestrators, not by advances in diffusion or flow-matching architectures themselves. > *"Every time you see there's some improvement on these models, I would say mostly the gain comes from language model, not coming from the video model itself."* ## [01:16] Introduction swyx and Vibhu welcome Ethan to the Latent Space studio, noting he has been a recurring presence through the podcast's paper club — first presenting the Cosmos world model paper, then mixture-of-experts work. The conversation opens with a brief aside about the Poolside paper released the same day, a fully open Gemma-level model trained on 40 trillion tokens, before pivoting to Ethan's own trajectory. ## [02:41] From NVIDIA Cosmos to xAI Ethan built Cosmos — NVIDIA's giant video foundation model aimed at giving roboticists a simulatable world to build on — and shipped it by end of 2024. Once he realized video models obeyed the same scaling laws as language models, he went looking for more compute. xAI offered it. He joined in mid-2025 at the moment xAI decided to build its own image and video stack, with no existing infra, data pipeline, or model. He stayed through pre-training, post-training (reference-to-video, video extension), and a final stretch leading a small team on real-time long-horizon video generation. > *"By the time I joined, xAI was about to build video models and multimodal models. There were no infra, no data, and no model. Just a few engineers — we built it in three months and released the first model, Grok Imagine 0.9."* ## [04:40] Building Grok Imagine from Zero to One The three-month timeline surprised even Ethan. He attributes it to three factors: talent density (strong engineers who could align on a goal with minimal meetings — typically just one sync a day), xAI's existing data and inference infrastructure, and his own prior experience running the same build at NVIDIA. The bottleneck was iteration speed: how many training runs can you complete per day. With strong infra and abundant compute, bugs surface faster and each failed run costs less, so you burn through the inevitable data and pipeline errors in weeks rather than months. > *"The most important thing is talent. Everyone was very strong and clever, very close to each other toward a common goal. So that speeds up things a lot — you reduce the communication bandwidth among people."* Ethan describes a pattern where small data or pipeline bugs produce outsized quality regressions, and only fast iteration exposes them. A bug invisible at one scale becomes catastrophic at the next. The engineers who find and fix these quickly — not the ones who design the most sophisticated architecture — determine how fast a team ships. ## [11:23] How Image and Video Models Are Trained Video models require synthetic text-video pairs because internet video titles and descriptions almost never describe visual content accurately. The first step is human labeling: at NVIDIA, annotators were instructed to describe every object, character, interaction, and dialogue in a clip as exhaustively as possible. Those labels train an early VLM, which then generates captions at scale. The resulting pipeline — video to VLM to synthetic caption to (video, caption) training pair — is the foundation of both Cosmos and Grok Imagine. Image models must come first: they train faster, require less storage, and the learned representations transfer directly to video. Ethan describes building image models as building the foundation that video sits on top of. The architecture — diffusion transformer operating over VAE latents — is now standard, but the data quality and caption detail remain the primary lever for model quality. > *"Building a video model, you actually need to build an image model first. The data you need is 100% synthetic pairs of language and image, or language to video — because on the internet, videos don't naturally associate with text."* ## [20:09] Video Compression, VAEs, and Real-Time Tradeoffs Raw MP4 compression produces tokens whose latent space is incomprehensible to transformers, so the field moved to learned VAEs that create a smoother, more continuous latent space models can train on. The key design choice is how aggressively to compress the temporal dimension. Temporal compression is efficient — adjacent frames are mostly redundant — but it trades away real-time capability. Wan 2.1 uses 8x8 spatial and 4x temporal compression; generating a single token requires reconstructing four frames, making sub-200ms latency impractical. Ethan frames this as a fundamental tradeoff: high compression rates make training cheap and inference efficient for pre-rendered video, but lock out any use case that needs to respond to live user input. World models require the opposite choice. ## [23:26] Generative UI, Flipbook, and Neural OS Ethan argues that if inference were free, the logical endpoint of video generation is a complete replacement of conventional UI: instead of loading web pages from a server, a model generates them in real time in response to user intent. Flipbook, a demo that went viral, shows this literally — every element of the "browser" is generated by an image model, and clicking a link generates a new page rather than fetching one. The deeper claim is that this is not a novelty but the final form of world models applied to human-computer interaction. A traditional app is a fixed function mapping input to output; a generative UI is a model that can produce any interface the user needs without a developer having to build it first. Ethan calls this a "Neural OS," where the gap between user intent and rendered pixels closes entirely. > *"Imagine the internet doesn't exist and you type in google.com — what should a model show you? The model can imagine something. These web pages completely do not exist, so I can explore anything."* The near-term constraint is inference cost. Current video models cannot generate at interactive frame rates without significant distillation. But Ethan treats this as an engineering problem with a known solution trajectory, not a fundamental barrier. ## [33:26] The Cost of Training Large Video Models Training large video models costs roughly as much as training a medium-scale language model, but the breakdown differs. Compute is comparable, but storage and data movement dominate in ways LLM practitioners do not expect. One billion videos at 5 MB each requires five petabytes of raw storage. The VAE features that must also be stored are roughly the same size again — tens of petabytes total. On AWS S3, five petabytes runs approximately $100K per month before egress. Egress — downloading that data into the training cluster — can exceed storage costs, and each training run pulls the full dataset once. > *"Just storing the videos alone costs a lot. Five petabytes on S3 Standard is $100K per month. And egress — just to download those videos — I believe it's more expensive than storing them, and each training run you probably need to pull them once."* The implication is that video model development is gated on data infrastructure as much as on GPU hours. Teams without efficient data pipelines pay a multiplier on every experiment. ## [38:20] Distillation, GANs, and Fast Video Inference Training-time costs are largely fixed; the inference-time story is more tractable. Step distillation — training a small model to replicate the outputs of a large teacher in far fewer denoising steps — cuts inference cost by 10-25x. Flow-matching models trained to convergence need around 100 steps; production models typically run in 4-8. At the extreme, simple image-to-image tasks can run in a single step. The intuition Ethan offers: the teacher model must learn the full distribution of internet video, which is arbitrarily complex. The distilled student only needs to match the teacher, which is a fixed and much simpler target. Consistency models and LCM-style approaches follow the same logic. In Cosmos, production serving used 4-step and 8-step variants depending on quality requirements. GANs remain relevant as discriminators: a GAN discriminator can enforce photorealism constraints during distillation that pure score-matching loss misses, and Ethan notes that consistency models and GANs are converging on similar practical deployments even if their theoretical motivations differ. ## [42:37] Audio-Video Generation and Grok Imagine 0.9 Grok Imagine 0.9 was the first audio-video joint generation model deployed at scale. The core difficulty is modality alignment: text-video pairs are relatively abundant; text-audio pairs are rare; audio-video pairs aligned at the semantic level are almost nonexistent at scale. Speech tokens are quasi-discrete and can be modeled with language-like approaches, but music is continuous and requires a completely different representation. Training the joint model required building synthetic audio caption pipelines from scratch, with human annotation where VLMs failed — which was often, especially for music. Aligning all three modalities — text, video, and audio — without either degrading video quality or audio realism is what Ethan calls the hardest part of the project. > *"Audio has two components: a discrete component — language — and a continuous component — music. The music is completely different; you cannot model it with discrete tokens. That's the hard part, not to mention we have to align text, video, and audio together."* ## [49:50] What Makes a World Model? Ethan's definition has three components: real-time, interactive, and long-horizon video generation. He treats these as independent requirements, each of which most current models fail. Real-time means generating at display frame rates — 60fps for casual use, 300fps for gaming, 200ms response latency for digital humans. Current video models cannot do this; the VAE's temporal compression alone introduces latency that makes sub-200ms responses nearly impossible without architectural changes. Interactive means the model can accept any input modality the user can provide — keyboard, mouse, voice — and respond coherently. Long-horizon means maintaining consistent physical laws, character identity, and causal logic across minutes, not seconds. > *"World model is real-time, interactive, long-horizon video. Current video models can do none of these three things fully. That's why they're not world models yet."* ## [57:07] Reference Videos, Long Context, and Video Memory The parallel to language model context scaling is direct: video models are in the 2,000-8,000 token era, and will need to scale to million-token-equivalent contexts to generate coherent long videos. Ethan describes the reference-to-video feature he built at xAI (analogous to Cameo) as a mechanism for injecting selected history into the model's context rather than carrying the full video forward. FramePack's heuristic — storing the last second of video at full resolution while compressing earlier frames progressively — points toward the right direction: the model selects relevant context from its history rather than brute-forcing the full sequence. Ethan expects this context management to become part of the model itself rather than remaining a harness-level heuristic, the same way KV cache management is disappearing into model internals. ## [61:27] xAI Culture, Research, and First-Principles Building swyx notes that xAI communicates its research poorly relative to what the work actually demonstrates — the blog post accompanying Grok Imagine describes high-level capabilities without the technical depth Ethan has just spent an hour covering. Ethan is diplomatic but agrees that different labs have different communication styles. The xAI working culture he describes is minimalist: few meetings, no bureaucratic overhead, direct access to leadership judgment on technical decisions, and extreme iteration speed enabled by a strong infra team. The tradeoff is that company priorities shift fast, which is part of what eventually pushed him toward independent research. First-principles thinking — starting from the physics of the problem rather than from what competitors have shipped — runs through the team's approach to both model architecture and product. > *"Everything you just described is state-of-the-art. Like no one else has done it. And then you just put this blog post with the cookies. I'm like, this is not enough."* ## [71:01] AI Safety, Watermarking, and Prompt Rewriting Grok Imagine deployed watermarks in all jurisdictions requiring them and built takedown pipelines integrated with xAI's social platform infrastructure. On watermarking technology, Ethan is skeptical of SynthID's long-term robustness: the technique is documented publicly, and users on Reddit have already reverse-engineered the exact frequency pattern Google applies and can strip it from any generated image. He expects watermark detection to become an arms race. On prompt rewriting: video diffusion models take instructions literally. If a user types "a cat," the model generates a stationary cat on a white background with no motion, because the training data pairs were maximally detailed descriptions of physical scenes. Production systems layer a large language model as a prompt upsampler — converting sparse user instructions into the detailed physical descriptions the video model was trained on. This is one of the reasons Ethan argues language models are increasingly central to video quality. ## [74:26] Video Agents and AI-Assisted Creation Ethan's central claim from the hook: visual intelligence now mostly comes from language. The diffusion model architecture has largely converged; the gains come from larger, smarter LLMs that rewrite prompts, plan video sequences, call editing tools, and stitch clips together. In Cosmos, the prompt rewriter was larger than the video model itself. Video agents extend this: instead of generating a complete video in one shot, an agent plans the production, calls video generation models as tools alongside deterministic editing operations (text overlays, color grading, cuts), and iterates until the output meets a specification. Ethan predicts that by end of 2025, video agent output will reach production-grade quality — presentable video generated without a human editor in the loop. > *"The visual intelligence are actually mostly coming from language. Every time you see improvement on these models, I would say mostly the gain comes from language model, not coming from the video model itself."* ## [88:48] Why Language Models Unlock Better Video LLMs prompt video models better than humans do, because AI models understand AI models' training distributions. A language model knows that a diffusion model needs explicit physical descriptions, not poetic shorthand — and can generate the right prompt format automatically. Beyond prompting, agents can use deterministic video editing tools for precision operations (exact text overlays, frame-accurate cuts) that probabilistic diffusion models handle poorly, keeping the stochastic model focused on generation and delegating precision to tools. Ethan's timeline: video agent output at production quality by end of 2025, with the inflection point visible in work already shipping. ## [92:31] Robotics, Physical AI, and Embodied World Models Ethan's robotics prediction inverts the usual framing: physical AI may be solved not by deploying robots in the real world but by video world models becoming so capable at simulating physical environments that they effectively provide embodied experience. Once a model can control computer interfaces in real time with full causal understanding, extending that to robotic control becomes a matter of adding one more tool. The path from screen-interacting video model to robot controller may be shorter than the path from current robot learning systems to the same capability. ## [93:54] Why Ethan Left xAI Research ambitions and company priorities diverged. xAI's focus shifted in ways that made certain research directions — particularly on the language model side — impractical from inside. Ethan also notes that the insight driving his departure is the same one underlying his "big claim": if language models are now the primary driver of video quality, the most impactful work to do is on language models, not video models. He frames leaving not as dissatisfaction but as following the evidence about where the leverage is. ## [95:32] Self-Managed Context and the Future of LLMs Ethan's active research question: language models that are aware of their own context state and manage it autonomously, rather than relying on harness-level heuristics like automatic compaction at 80% fill. He draws the parallel to video models struggling with long-horizon generation — the same context management problem appears in both modalities. He points to Claude Code's practice of appending the current timestamp to user messages as an early example of making models context-aware, and expects this pattern to be absorbed into model training rather than remaining an external scaffold. > *"The language models are not aware of how long their own context length is. Once they hit like 80% or something, automatic context compaction is getting triggered, and the model is not aware of that when it's working."* ## [99:59] Ethan's Career Path and Closing Thoughts Ethan traces a decade of transitions: ResNet-era image recognition with the original authors at NVIDIA, self-supervised learning at Facebook AI Research, scaling at NVIDIA Cosmos, extreme-scale compute at xAI. He was rejected from every top PhD program despite first-author papers at top conferences, which pushed him into industry. In hindsight he reads his career as consistently following the scaling frontier — from image recognition to SSL to video to LLMs — and argues that within ML, domain switching is far more tractable than practitioners believe. > *"Within ML, it's actually easier to switch than you think. A lot of people have manifested that 'I work on computer vision, I always have to work on computer vision.' But from my experience, the fundamentals transfer."* ## Entities - **Ethan He** (Person): Former xAI researcher who built Grok Imagine from zero; previously led NVIDIA Cosmos world model; now focused on LLM research - **swyx** (Person): Latent Space co-host; conducts technical interviews on AI engineering and research - **Vibhu Viswanathan** (Person): Latent Space co-host; co-interviewer for this episode - **Grok Imagine** (Software): xAI's image and video generation product; first model (0.9) was the first large-scale audio-video joint generation system - **NVIDIA Cosmos** (Software): Open-source video foundation model for robotics simulation; Ethan's project before xAI; released end of 2024 - **xAI** (Organization): Elon Musk's AI lab; known for fast iteration culture and extreme compute resources - **Flipbook** (Software): Viral demo of real-time generative UI; all interface elements generated by image model in real time - **SynthID** (Software): Google's AI watermarking technology; Ethan notes its pattern has been publicly reverse-engineered - **Step distillation** (Concept): Technique to train a model to replicate a teacher's output in far fewer denoising steps; reduces inference cost 10-25x - **VAE** (Concept): Learned video compression creating smooth latent spaces; temporal compression is efficient but creates real-time latency tradeoffs - **World model** (Concept): Ethan's definition — real-time, interactive, long-horizon video generation; distinct from standard video generation - **Video agents** (Concept): Systems where LLMs orchestrate video generation models, editing tools, and deterministic operations to produce production-quality video - **FramePack** (Concept): Progressive temporal compression approach for long-context video generation; stores recent frames at full resolution, compresses older history

Benedict Evans — independent analyst and former Andreessen Horowitz partner — joins Lenny Rachitsky for a wide-ranging, historically-grounded read on AI's trajectory. His core provocation: AI is exactly as big a deal as the internet or mobile — transformative and uncertain in equal measure — and anyone claiming more precision than that is vibes-forecasting. Across 80 minutes they work through where economic value will actually land (hint: probably not at the model layer), why professional services are booming rather than shrinking, how to think about job displacement without losing your mind, and what the anti-AI backlash does and doesn't tell us. ## [00:00] Introduction to Benedict Evans Evans opens with his signature contrarian opener: "My most controversial opinion is that I think that AI is as big a deal as the internet or mobile — and only as big a deal as the internet or mobile." The framing immediately sets the tone for the conversation — resist the urge to rank transformations on a cosmic scale, and instead study the mechanics of how platform shifts actually unfold. > *"My most controversial opinion is that I think that AI is as big a deal as the internet or mobile and only as big a deal as the internet or mobile."* Lenny sketches out Evans's background: years as A16Z's in-house technology analyst, followed by six years of independent research publishing. His biannual decks — most recently "AI Eats the World" — are widely read by founders and investors trying to cut through noise. ## [02:19] What people aren't pricing in about AI's impact Asked what the market is still missing, Evans reaches for an analogy rather than a prediction. We are, he argues, in a "1997 moment" — the technology is visibly exciting, most of what will eventually be built hasn't been built yet, and nobody in 1997 correctly predicted what the internet would become. He points to survey data showing that even among 13-to-18-year-olds, around 60% still don't use AI at all, while a small cohort of tech workers have essentially restructured their daily workflows around it. > *"If you're going to make the internet comparison it's like we're in 1997. Like it's very exciting. Most stuff kind of doesn't work yet. Most of the stuff that people are going to do hasn't been built yet and it's not really clear how any of it's going to work when it does work."* The key failure mode Evans identifies is the "already there" illusion — early adopters project their own usage patterns onto the rest of the world, missing the enormous variance in adoption and the slow grind of enterprise deployment cycles. ## [06:24] Why we're in the 1997 moment of AI Evans uses the VisiCalc spreadsheet as an anchor. When accountants saw the first software spreadsheet in the late 1970s, it was obviously transformative — a week's work done in 30 seconds. But a lawyer looking at the same demo would think, "that's clever, my accountant should see this, but that's not what I do." AI right now occupies that same diagonal: software developers are the accountants who immediately grasped what Claude Code means for them; most other industries are still in the "lawyer looking at a spreadsheet" phase. > *"Software developers are the accountants seeing VisiCalc — oh my god this changes everything — like before Claude Code and after Claude Code. A lot of other people are picking it up, using it to varying degrees, but slightly puzzled."* This jagged-frontier quality — where AI works brilliantly in some contexts and fails unpredictably in adjacent ones — is precisely why broad adoption timelines are so hard to call. It took 10–15 years after Google Docs for people to invent all the SaaS companies that obviously should have existed. ## [09:44] The unexpected boom in professional services and consultants The counterintuitive data point driving Evans's recent writing: the most advanced AI companies — Anthropic, OpenAI — are simultaneously the biggest buyers of professional services and the fastest-growing employers of human headcount. This isn't a paradox once you think through what actually changes when AI makes certain tasks cheaper. Evans introduces a core distinction: task vs. job. When you hire McKinsey, you are not hiring them to produce a 75-slide deck. The deck is the task; the job is walking all over your enterprise, understanding the politics, talking to customers, and figuring out what you actually need to do. Claude can produce a mediocre version of the deck; it cannot do the job. The same logic applies to accounting: every wave of automation since adding machines has increased the number of employed accountants, because cheaper computation expands the scope of what companies decide to measure and act on (Jevons paradox in action). > *"You could make the same point in software development. Before IDEs and libraries and operating systems, developers had to write all the code. Now if you write an iPhone app, 90% of the code is written for you by Apple... So we've got like a tenth as many engineers now. Well, no."* The e-commerce analog is sharp: Amazon gets you the SKU if you know what SKU you want — "knowing what SKU you want is another job." ## [17:44] Why distribution is becoming the ultimate moat Evans challenges the premise that AI-driven job loss will be fast. Enterprise software sales cycles run 18 months minimum; SAP doesn't get torn out overnight. He cites Frame.io as a case study: there was nothing technically blocking that product 15 years before it launched — the bottleneck was someone realizing the problem existed inside a specific industry and that a specific approach would solve it. The broader point is about organizational change speed vs. model capability speed. Companies can't implement AI transformation without dedicated project teams — which is exactly why consulting and forward-deployed engineering are booming rather than shrinking. The speed of model improvement is decoupled from the speed at which enterprises can absorb the change. > *"Like no, people aren't just going to tear out SAP and replace it with XYZ. Maybe in three, five, 10 years yes, that whole estate will look radically different and all those jobs will have changed — but it will take time sector by sector."* ## [23:17] The coming job transformation: what's real vs. panic Evans leans into historical pattern-matching: every technology wave since 1800 has automated jobs and created new ones, and the new jobs are systematically better than the old ones. The jobs that disappear tend to look dispensable in retrospect; the jobs that appear couldn't have been named in advance. His IBM ad slide makes the point viscerally — a 1950s ad promised that an IBM electronic calculator is "like having 150 extra engineers," which is also the pitch of Claude Code today. The "it's different this time" argument he takes seriously is speed of adoption — AI diffuses faster than previous technologies because it runs on existing internet infrastructure. But he notes that adoption speed and institutional-change speed are different curves, and the institutional one has not accelerated proportionally. > *"This is going to be completely different from everything else — just like everything else."* On whether AI eliminates the lump-of-labor fallacy — his answer is no. Two hundred years of data say otherwise, and the burden of proof is on those claiming this wave is categorically different. ## [27:33] Why AGI definitions keep shifting Evans notes a pattern: every time AI does something we thought was impossible, the definition of AI shifts to exclude it. Machine learning became "just statistics"; image recognition became "just image recognition." Now AGI is being redefined from "something that has a soul and is alive" to "can do a meaningful percentage of economically valuable work" — a definition that a 1975 IBM mainframe also met. He sees creative redefinition of "superintelligence" too: last year it meant almost-but-not-quite-AGI; now it means something harder than AGI that we haven't built yet. The terms keep shifting in the direction of validating whatever narrative is convenient. > *"AI is whatever machines can't do yet — because once machines can do it, people say, 'Well, that's just software.'"* His substantive point: even if models stop improving tomorrow, the current generation is already transformative enough to reshape major industries over the next decade. You don't need to believe in AGI to believe this is a giant deal. On the expanding opportunity set — Evans agrees that addressable markets keep growing (mainframes: ~80,000 units; smartphones: 5.5 billion), and the "we've run out of people" argument from five years ago was wrong. The trajectory is outward expansion into automating larger slices of the economy. ## [38:11] Where value will accrue: models vs. applications Evans's structural view on the AI stack: foundation models don't appear to have network effects, meaning there's no winner-takes-all dynamic that would let one provider run away from the others. Persistent competition with a commodity-like product usually means compressed margins. His telecom analogy: global mobile revenue is roughly $1 trillion per year, carries 1,500–2,000x more data than it did in 2010, and mobile stocks have gone essentially nowhere in 25 years. The telcos built genuinely complex global infrastructure — and all the value ended up in apps built by people further up the stack. Foundation models may follow the same path. > *"When you wash your clothes, Bosch isn't paying a percentage of the price of the washing machine to the electricity company."* The key question is whether the model layer looks more like Windows (OS with leverage up the stack) or AWS (infrastructure where the actual software doesn't care which cloud it runs on). His read: probably more like AWS, which means applications capture most of the value. ## [42:55] Distribution wars: Google, Meta, Apple, and OpenAI As AI models converge toward commodity quality, the decisive variable becomes distribution. Google is using Search and Android to push Gemini onto billions of devices; Meta "sprayed it on every service surface" and ended up ranking surprisingly high in usage surveys despite tech-world dismissal; Apple has a billion edge-capable devices but couldn't ship its own vision at WWDC 2024. OpenAI's "everything" strategy late last year — launching in every direction simultaneously — was a distribution scramble: how do you build a flywheel before Google and Meta's existing surfaces make your standalone product redundant? > *"If the product is a commodity, then the distribution is what matters... distribution of an adequate product when the field is basically commodity — distribution and brand become a big deal."* He uses the browser wars as the template: Microsoft won browsers via distribution, then found that winning browsers didn't matter because the value was further up the stack anyway. ## [48:12] The anti-AI sentiment and backlash Evans characterizes the anti-AI backlash as "a big fuzzy mess of different stuff" — some legitimate, some not. On the water/energy fears: a Livermore Lab study estimated US data center water consumption at about 0.017% of total US water use, making the "AI is stealing our water" narrative largely fabricated. On energy: data centers are roughly 5% of US energy and may grow 1 percentage point per year — real but not catastrophic. On employment: current econometric data shows a slowdown in employment of 18-to-24-year-olds that applies equally to AI-exposed and non-AI-exposed fields, making causal attribution to AI unclear. He also flags a structural data problem: no model lab publishes meaningful daily-active-user numbers, so all labor-market analysis is working with imputed data. > *"You can't reason somebody out of an idea they won't reasoned into."* He draws a parallel to the social media backlash — where some concerns were real, some were factually false but impervious to correction, and many were fuzzy in the middle. He expects the AI backlash to follow the same pattern, compressed. ## [53:11] How to raise kids in an AI future Evans's answer is calibrated by his kid's age — early teens, so well away from the immediate job-market turbulence. He doesn't have a systematic plan, which he says is consistent with his general "it'll probably be okay" prior. He invokes the George Carlin line: anyone who worries more is a maniac, anyone who worries less is an idiot — everyone thinks they're in the middle. He does flag a genuine concern not present in previous technology waves: deepfake capability lowers the bar for specific categories of harm dramatically. A 15-year-old with Photoshop couldn't generate and distribute pornographic fakes of every classmate in an afternoon; now they can. That's a real change in kind, not just degree. > *"A 15-year-old kid couldn't use Photoshop to make hardcore pornographic nudes of every girl in their high school and send them to the whole school in one afternoon. And now they can."* He draws on the UK post office scandal — where Fujitsu's buggy software sent hundreds of innocent franchise owners to prison — as a reminder that every technology wave produces ways to ruin people's lives, both deliberately and by accident. ## [58:27] What jobs to steer toward or away from Evans declines to steer his son toward or away from any specific profession — his kid isn't at the "I want to be a fireman" stage yet. His general framework: identify the intersection of skills you have, jobs that make those skills valuable, and things people will pay for — and try to own at least two of those three. Career certainty of the "I'll become X" variety is already gone, and that predates AI. ## [59:20] The question nobody's asking about AI Evans nominates two underasked questions. First: do model labs actually have pricing power? Most discourse assumes the current situation — where spending $1.5M/month on tokens makes headlines — is a steady state, rather than a transitional moment analogous to a $50,000 mobile data bill in 2010. Second: what's the difference between "task" and "job" — specifically applied to predicting which industries get disrupted? He uses recorded music revenue as a lens: the U-shaped curve from 2000 to present shows two distinct dynamics. The first drop (2000–2015) was "what if you don't have to pay $15 for a CD?" The recovery (2015–present) is "what if $15/month buys you all the music that exists?" — a completely different value proposition that wasn't visible from the earlier vantage point. He warns against the O*NET-style approach of rating each job by percentage-exposed-to-AI: "I think this is just the most ridiculous bunch of deluded horseshit." You can't describe a senior law partner's job as 17% automatable because you can't fully decompose what a job actually is. The taxi driver example from a hypothetical 1997 conversation illustrates the other error: obviously the internet wouldn't touch taxis — except Uber completely restructured the industry. > *"The stuff that you don't think is exposed — you can't predict which things are going to be exposed, necessarily. A lot of the big companies are things that didn't look like that would work and didn't look like they were exposed."* ## [66:25] How to be successful in this coming future Evans's practical advice, hedged appropriately: don't stick your head in the sand and decide AI is evil as a moral position. That generates a feeling of superiority and does nothing for your career. The alternative is to dive in, use the tools, understand what they can and can't do, and develop an informed view of what they mean for your specific field. He's clear that this may not be enough for everyone — if a law firm that hired 100 associates last year hires 50 this year, being AI-literate improves your odds of being in the 50, but doesn't guarantee it. The aggregate picture may be fine; individual outcomes during the transition are uncertain. > *"The answer is you diving into this completely, submerging yourself in it, and coming out understanding what you can do with it, how this changes things, how you can be a great hire."* ## [68:43] AI corner Lenny asks Evans what AI use case has genuinely surprised him. Evans gives an honest answer: he's the lawyer looking at the spreadsheet. His work — synthesizing disparate information into new ideas — is precisely the kind of task AI currently handles worst (reliable precise information retrieval). He uses it for proofreading, image generation, and redecorating his apartment. He dictates voice memos that get auto-transcribed; whether that counts as AI is increasingly hard to say. He quotes a comedian's bit: we want AI to clean poop off the street and do the ugly things nobody wants to do — but instead it helps you write and create imagery, which is the stuff people actually do for fun. > *"AI is good at stuff that computers are bad at, and bad at stuff that computers are good at — and I struggle to find many examples of those where I actually need it."* ## [71:43] Lightning round Evans recommends *Three Men in a Boat* (Victorian British comedy, his all-purpose analog for human absurdity) and William Cronin's *Nature's Metropolis* (economic history of Chicago that reads like a textbook on network dynamics and channel conflict — directly applicable to platform thinking). On film, he's been catching up on classics — recently *The Seventh Seal*, which he found genuinely great and much shorter than its intimidating reputation. His life motto: "It'll probably be okay." His collection of 20–30 pre-iPhone phones — including an Ericsson R310s shark-fin flip, an iMode phone from 2001, and a Japanese phone with color screen and camera — illustrates his broader thesis: before the iPhone, everyone was innovating around different form factors; then everything converged on one shape, just as AI interfaces may converge in ways we can't yet see. ## Entities - **Benedict Evans** (Person): Independent technology analyst, former partner at Andreessen Horowitz; publishes biannual research decks on major tech platform shifts; guest. - **Lenny Rachitsky** (Person): Host of Lenny's Podcast, founder of Lenny's Newsletter, former Airbnb product manager. - **Andreessen Horowitz (a16z)** (Organization): Venture capital firm where Evans spent several years as in-house analyst and partner. - **OpenAI** (Organization): AI lab; discussed as a primary example of distribution strategy, pricing dynamics, and professional services investment. - **Anthropic** (Organization): AI lab; referenced alongside OpenAI as a buyer of professional services and a player in the foundation-model commodity question. - **VisiCalc** (Software): First software spreadsheet (late 1970s); Evans's anchor analogy for the moment when a technology is obvious to one profession and opaque to others. - **Jevons Paradox** (Concept): Economic principle that making a resource cheaper typically increases total consumption; central to Evans's argument about why automation expands professional services rather than contracting them. - **Lump-of-Labor Fallacy** (Concept): The mistaken belief that there is a fixed quantity of work to be divided; Evans invokes it to argue that AI-driven automation will create new jobs, as all prior automation waves have. - **Task vs. Job** (Concept): Evans's core analytical frame: the task AI automates (writing the deck) is often not the same as the job you were hired for (understanding the client's organization and politics). - **Foundation Models** (Concept): Large-scale AI models (GPT-4, Claude, Gemini, Llama); Evans argues they likely lack network effects and will trend toward commodity pricing, with value accruing to application layers above them. - **Google / Gemini** (Organization / Software): Evans's primary example of distribution moat in action — Gemini deployed across Search, Android, and Chrome to reach users before OpenAI can build equivalent surface area. - **Meta / Llama** (Organization / Software): Cited as a counter-example to tech-world dismissal — Meta's AI ranked surprisingly high in usage surveys by deploying across all existing products. - **Apple Intelligence** (Software): Apple's AI assistant vision demoed at WWDC 2024; Evans calls it "still the most compelling vision of a personal AI assistant" — but unshipped, as was everyone else's equivalent at the time.

Brad Carson — former US Congressman, Army General Counsel, and Acting Under Secretary of Defense, now heading Americans for Responsible Innovation — spends eighty minutes with host Keith Duggar dismantling the fatalist claim that AI is unstoppable. The conversation moves from regulatory philosophy to lethal autonomous weapons to US-China diplomacy, with Carson arguing that the genie is not out of the bottle: the West controls the chips, Asilomar halted recombinant DNA, and calling AI inevitable is itself the most dangerous idea in the room. Keith consistently presses the harder cases — a Palantir heat map assigns you 0.73 probability of being a Hamas terrorist and a strike follows — and Carson does not flinch: the accountability void created by probabilistic targeting is precisely the legal and moral failure that governance must address. ## [00:00] From the Pentagon to AI governance Carson traces his path into AI policy through three institutions: Congress (where members average 17 minutes a day to read), the Department of Defense (where he oversaw the law of war for all military services as autonomous weapons first appeared on the Geneva agenda), and a cold call from physicist Anthony Aguirre inviting him to the 2019 Future of Life Institute conference in Puerto Rico. At that conference, names he had never heard — Dario Amodei, Stuart Russell, Yoshua Bengio — became his entry point into the frontier AI world. The opening also serves as a compressed trailer for the episode: Carson hits nearly every major theme in quick succession — chip leverage, the 0.73 Hamas-terrorist score, the fatalism critique, anthropomorphization as a legal threat, and the lesson that people, not air power, win wars. The full arguments follow in later chapters. > *"We control the most important part of AI, and that is the chips. We can stop other countries from developing super AI, you know, in their tracks."* ## [04:52] Regulatory capture vs Silicon Valley networks Carson inverts the standard regulatory-capture argument. Dean Ball and others at places like a16z say any AI agency will be captured by industry — so why create one? Carson's response: that is exactly the current situation, only without accountability. Groups like a16z already shape AI policy through informal, money-backed political networks. A captured formal agency is at least more legible and more correctable than the invisible informal regime operating now. His preferred model is public-company accounting: the work is done by the private sector, but the SEC provides a backstop against fraud. The choice is not between a perfect agency and no agency — it is between a flawed formal structure and an informal one that privileges a handful of wealthy influencers. > *"The choice is kind of nihilism versus an agency that is subject to regulatory capture, that you have to put, you know, prophylactics in to ensure that doesn't happen — it still strikes me that's a better world."* ## [07:56] Transparency and the Claude tier changes MLST's Discord community noticed that Anthropic quietly changed what Claude's paid tier delivered — token allocations, model versions — without announcing it. Carson frames this not just as consumer protection but as a moral obligation that comes with global-scale epistemic power. Frontier AI companies are not hardware stores; they are infrastructure with epochal consequences, and transparency — about training data, capabilities, internal policies, and changes to any of them — is the minimum they owe the public. > *"With this incredible power does come some responsibility that's not codified in law. It's really almost a moral obligation, which to their credit, I think many of the companies recognize this and do their best to try to satisfy that itch."* ## [09:40] Tort liability when AI tools cause harm Deep-fake pornography — often posted anonymously, targeting minors from families without litigation resources, with remedies that arrive years later against judgment-proof defendants — illustrates why placing liability entirely on end users fails. Carson applies two centuries of common law: if a seller can reasonably foresee harmful use and takes no preventative action, they bear partial responsibility. AI developers are the party best positioned to avoid the risk and to price it into their products through insurance. On training data specifically: models trained on child sexual abuse material with no scrubbing effort have no defensible position. The government should mandate cleaning it up and attach liability for refusing. The end user who misuses a tool is also criminally liable — this is allocation across the spectrum, not absolution for developers. > *"The companies are capable of getting insurance. They cost us into doing their business. They have the ability to make sure the product's not dangerous, even if someone uses it, misuses it down the line."* ## [13:40] AI is a product, not a person The most consequential legal battle in AI policy, Carson argues, is not regulation vs. deregulation — it is whether AI outputs carry First Amendment protection as speech. Tech companies and their libertarian policy allies are increasingly claiming they do. Carson's counter is blunt: a product is not a human being. When a model defames you or leads you to harm, the legal category is product liability, not protected speech. He tested this on a leading libertarian AI policy commentator: could Congress prohibit ChatGPT from encouraging teenagers to commit suicide? The commentator would not answer. That refusal is the operational consequence of anthropomorphizing AI — it forecloses every product-safety intervention by routing challenges through First Amendment doctrine designed for human speakers. > *"We know through AI psychosis and other things that people think it's a person. And therefore, they're giving the rights of persons to something. And that to me is a very dangerous thing. But it's a machine, and we should treat it like a machine."* ## [16:01] Children, suicide, and the suicide business The suicide chapters in ChatGPT's interaction logs — advising children not to tell their parents, providing noose instructions — are a product design flaw, not a speech act. They could be engineered out. Carson notes that Claude already refuses a long list of requests; refusing to coach a child toward suicide should be among them. The platforms' litigation strategy is layered: First Amendment protection, Section 230 immunity, causation defenses pointing to the child's pre-existing distress. None should be available if the design flaw was foreseeable and correctable. He draws a line for adults: an adult exploring end-of-life decisions deserves a referral to a therapist, not obstruction — but a child in crisis is a different matter entirely. > *"Encouraging a young person to commit suicide should be one of the things that it says, I'm just not going to help you on that project."* ## [19:59] Opaque neural nets and the law of war Neural networks change warfare not just in complexity but in kind. Older autonomous systems — Phalanx CIWS shooting down incoming mortars — are deterministic: given the same inputs, you get the same outputs, and an engineer can explain every step. Neural nets are probabilistic and grown, not programmed. Neel Nanda and the mechanistic interpretability community cannot yet explain how they really work, and Carson doubts they will before the systems are deployed at scale. The law of war since the 1870s has operated on categorical binaries: combatant or civilian. Probability scores replace that with a gradient. A Palantir heat map assigns Gaza residents a 0.73 likelihood of being Hamas operatives. Nobody knows how that number was derived, what false-positive rate is being accepted, or who set the threshold. The commander who acts on it cannot be court-martialed, and neither can the model. > *"If you're in Gaza, Keith, you have a 0.73, you know, percent that you're a Hamas terrorist. And what is 0.73 — like, do you get struck for that, or are you off the list for that? Like, what's the threshold?"* ## [25:54] Probabilistic targeting and the death of accountability Keith raises the honest objection: the old categorical system was also a fiction. Intelligence analysts made definitive calls that were sometimes wrong; the uncertainty was just unquantified. Carson concedes the point but argues the shift is still catastrophic. With a number on screen, humans accept it — the social science is clear that meaningful human oversight with AI-generated probability scores is operationally vacuous. When the computer says 0.81, no one interrogates it. The old system was slower and less scalable — you cannot identify 37,000 individual targets in a day with human analysts. But it had one irreplaceable feature: when something went badly wrong, you could court-martial the responsible officer. You cannot court-martial Palantir Foundry. Accountability has been laundered out of the kill chain. > *"I can't court-martial Palantir, the foundry model. Right? My AI system. I can't do that. And that's just a radical change in the way war is being fought and not for the good."* ## [28:47] The arms race fallacy: Asilomar and restraint The fatalist claim — we are in an AI arms race, the genie is out, nothing can stop it — is both false and dangerous. Every real-world arms race in history has ended badly. Biological weapons, chemical weapons, dum-dum bullets, germline editing, cloning: all technically feasible, all regulated or halted. At Asilomar in 1975, the scientific community stopped recombinant DNA research cold because they were scared. The genie went back in the bottle. On nuclear weapons: after the Cuban Missile Crisis, both sides recognized that arms races kill. The SALT treaties ran through the 1990s, driven not by lefties but by Wall Street bankers and cold warriors like Dean Acheson and Paul Nitze. Calling a technology unstoppable is not realism — it is a poverty of imagination that forecloses every option before the debate begins. > *"We regulate and change technologies all the time. And so I do think there is a world where we should not just accept the future as being determined. We shape it actively."* ## [34:02] Talking to China: track 2 talks and chip leverage The standard DC position — talking to China about AI governance is pointless — strikes Carson as the most load-bearing and least examined premise in the whole debate. On Tyler Cowen's podcast, Jack Clark agreed in passing that such talks would be fruitless, and they moved on. Carson wants to stop right there. The US-Soviet arms negotiations were conducted with a country believed to be filling the US government with traitors and pursuing global domination. Acheson and Nitze still sat down. The US has structural leverage the fatalists overlook: ASML, TSMC, Japanese photoresist suppliers, and NVIDIA together form a chokepoint that no nation-state budget can replicate overnight. China cannot independently manufacture the chips to build frontier AI. That path to restraint may not be wise, but it is open — and pretending it is closed forecloses legitimate policy choices. > *"We control the most important part of AI, and that is the chips. Right? We can stop other countries from developing super AI, you know, in their tracks."* ## [39:45] Air power never wins: capital for labour ARI's "New Iron Triangle" paper argues AI has shattered the old capability-cost-speed trade-off by substituting reliability for cost — cheap, fast, capable, and fundamentally unreliable. Carson thinks this understates the deeper problem: the American way of war has always been to substitute capital for labor, and it has always failed at the decisive moment. From Giulio Douhet's early twentieth-century air-power theories to today, the US has believed technical superiority wins wars. Iraq and Afghanistan refuted that again. Air power can reduce a city to rubble; it cannot kick in a door, hold territory, or reinstantiate a government. AI is the latest version of the same error — essential as a tool, catastrophic as a doctrine. > *"How you win wars is with people. You know? That's a fundamental. And the American way of war, in many ways, is substituting capital for labor. We love bright, shiny objects. We think there are technical solutions to vexing human problems. And we're always betrayed by that."* ## [43:29] Anthropic vs the Department of War Carson reads the Pentagon-Anthropic standoff as a culture-collision story, not a contract dispute. Anthropic's engineers — mostly mission-driven — were caught flat-footed by how much autonomous targeting and mass surveillance the Pentagon already does and how deeply Claude had already been integrated into Palantir's systems. When they tried to restrict use, the DOD had no Plan B and attempted coercion. His normative position: Anthropic has every right to set terms. If the government dislikes them, it can use Grok, Gemini, or build its own. The Defense Production Act does not compel private companies to sell in peacetime. What troubles him is the fig-leaf dynamic: both OpenAI and Google agreed to military use while burying a "lawful uses" carve-out that means everything the DOD wants to do — because the problem is what Congress has declared lawful, not what private labs permit. > *"My objection, and I think Anthropic's objection too, and the Google employees, is what lawful use is. And that's not for anyone to decide, but Congress."* ## [51:29] Concentration, open source, and brain drain Power concentration in three to five frontier labs is simultaneously a regulatory feature and a democratic liability. The same chokepoint that lets the US throttle China's chip access lets a handful of individuals accumulate wealth and influence that Carson finds alarming. Open sourcing models, despite its risks, is net positive because it distributes that power. The brain drain from academia is near-total: a top ML PhD from MIT, Stanford, or Carnegie Mellon almost certainly goes to a lab, not a faculty position. The labs have better data, far higher salaries, and they have stopped publishing. AI — the first general-purpose technology in history being developed behind closed doors — has drained the public sector of the expertise needed to oversee it. Argonne building a public LLM, Zurich launching a public AI compute consortium: these projects matter because the non-lab world is otherwise locked out. > *"This is a general purpose technology as everyone defines it. It's probably the first one in history that's being developed behind closed doors, right, with very little public oversight and with the best minds going behind the doors."* ## [01:00:18] DeepSeek, Chinese culture, and AI as diplomacy DeepSeek's decision to publish its methodology in detail surprised Carson not because it was naive but because it reflects a culture not identical to the CCP. Companies like Moonshot in Hangzhou name their meeting rooms after Pink Floyd songs; they are not paramilitary units. Chinese culture is an extraordinary civilization that Americans consistently fail to understand — projecting their worst fears rather than engaging the complexity. The diplomatic application Carson wants: track 2 talks between former officials, scientists like Stuart Russell and Bengio going to Beijing to compare notes on x-risk and military applications. When historians opened the Soviet archives, they found the US had systematically misread Soviet intentions — seeing aggression where there was none, missing it where it existed. The same epistemic failure is now unfolding with China. AI could be a shared knowledge commons; it is being treated as a weapon. > *"I use all the Chinese models a lot in my home in Tulsa. You know, Moonshot, Kimi, DeepSeek, Qwen — they're great, remarkable models. You know, maybe they give us a common operating picture or give us insights that get us out of our kind of insularity a bit."* ## [01:12:25] Upskilling Congress and why public trust matters Congress averages 17 minutes a day of reading time. The fellowship model has helped: AAAS and various nonprofits now place PhD scientists in congressional offices, and civil society has a much larger presence on AI debates in DC than five years ago. Don Beyer, in his 70s, is returning to George Mason for a PhD in machine learning — the extreme end of a member who has made AI a genuine personal priority. But the structural problem persists. Most members still lack the depth to interrogate the lobbying they receive. The industry's deeper problem is public opinion: AI is deeply unpopular in political polling, and a coalition is forming — people who see data centers rising in their backyards, electricity prices climbing, and a lab leader on television promising to irrevocably disrupt their world. If the sector does not rebuild public trust, the backlash will stymie something with genuine upsides. > *"The AI industry can be its own worst enemy. People loathe it. I see polling every day. It's deeply unpopular. And that's not a good thing for our country."* ## [01:16:05] Office of Technology Assessment Newt Gingrich abolished the Office of Technology Assessment in 1994. It has never been restored. Carson argues this is now a critical gap: there is no congressionally chartered, independent, government-funded body to think big technical thoughts and brief both parties free of industry influence or philanthropist bias. The Congressional Research Service provides background but does not do forward-looking policy research. Individual offices have fellows, but they are consumed by day-to-day fighting. He ends on qualified gloom. Whether American democracy can govern a technology this consequential, whether the benefits will be widely distributed, whether the public can be persuaded AI is working for them — none of recent American history gives him confidence. But the alternative to trying is a political backlash that could stymie or shut down something with genuine upsides. For the MLST audience: make your voices heard inside your companies, advocate for the right public policy, and convince Americans that this project is worth having. > *"There's going to be a lot of people who are radically opposed to this project and do their best to, if not shut it down, stymie it. And that's why I said I think this next few years are really important."* ## Entities - **Brad Carson** (Person): Head and co-founder of Americans for Responsible Innovation; former two-term US Congressman (Oklahoma), Army General Counsel, Acting Under Secretary of Defense for Personnel and Readiness. - **Keith Duggar** (Person): Co-host of Machine Learning Street Talk; primary interlocutor throughout the episode. - **Americans for Responsible Innovation (ARI)** (Organization): AI-policy advocacy group co-founded by Carson; backed by EA-aligned philanthropy. - **Anthropic** (Organization): Developer of Claude; central to the Pentagon standoff discussed in chapter 12; noted for missionary company culture and safety focus. - **Palantir** (Software): Defense contractor whose Foundry platform integrates AI for military targeting; the heat-map scoring system Carson uses as his primary autonomous-weapons example. - **Regulatory capture** (Concept): The risk that regulated industries co-opt the agencies overseeing them; Carson argues the current informal Silicon Valley network constitutes de facto capture without the accountability a formal agency would provide. - **Probabilistic targeting** (Concept): Replacement of binary combatant/civilian classification with probability scores; Carson argues this launders accountability out of the kill chain and introduces a priori false positives as accepted operational cost. - **Asilomar 1975** (Concept): The scientific moratorium on recombinant DNA research, invoked as evidence that dangerous technologies can be voluntarily halted. - **Office of Technology Assessment** (Organization): Congressional body abolished by Newt Gingrich in 1994; its absence leaves Congress without independent technical expertise. - **DeepSeek** (Organization): Chinese AI lab whose decision to publish methodology openly Carson reads as evidence that Chinese AI companies are distinct from CCP priorities and capable of scientific openness.

Benchmark GP Bill Gurley joins Jason Calacanis, David Sacks, and Chamath Palihapitiya (David Friedberg out this week) for a 95-minute session covering six fronts of the AI debate: Gurley's new theory that Anthropic is not just pursuing regulatory capture but actively "midwifing a deity"; Pope Leo XIV's 235-page AI encyclical and its uncomfortable historical parallel to Leo XIII's 1891 warnings about the industrial revolution; the growing consensus that open-source AI faces a coordinated regulatory crackdown; and the week's sharpest narrative flip — Dario Amodei and Sam Altman both quietly walking back their AI jobs-apocalypse rhetoric while Goldman Sachs CEO David Solomon published a New York Times op-ed declaring the apocalypse overblown. ## [00:00] Bill Gurley joins the show! Bill Gurley, Benchmark general partner and author of *Running Down a Dream*, fills in for David Friedberg and joins live from Chamath's pool house where Jason has been staying. After banter about unauthorized Uber Eats orders on Chamath's house iPad, Jason introduces Gurley as a first-time guest who specifically requested to appear the moment the pod covered the Pope. Gurley plugs his new P3 Institute and a grant program he launched to fund people pivoting toward work they love. He teases a TED talk — rooted in the book's argument that high agency and lifetime learning are the only durable defenses against disruption — which sets the frame for everything that follows. > *"And I told the house manager like, listen, any packages that come in the next 72 hours, right to the pool house, if it says JCAL, right to the pool house."* ## [06:00] Making yourself valuable in the age of AI, first class of "AI Natives" Chamath opens with the question that has been driving the show for 18 months: if you're a young person right now, is AI doom much ado about nothing, or a real career threat? Gurley cites a Gallup poll showing 59% of workers are "quiet quitters" — ambivalent about their jobs and therefore low-agency. His core thesis: the best protection against AI displacement is becoming the most AI-enabled version of yourself in your field. He invokes Mark Cuban's framing — "there are two types of people: those who use AI to learn faster than ever before, and those who use AI to avoid learning altogether." Sacks walks through how the pod's producer Nick built a daily Claude briefing document that not only summarized news but predicted specific topics Sacks would care about based on his prior comments on the show. Sacks had dismissed it as likely AI slop; it was not. Gurley extends the point across every job category: in marketing, legal, accounting, and sales, being the most AI-capable person among your peers makes you "golden," and the early lead compounds. Jason adds that in his own team experiments, the skill separating strong performers from weak ones was systems thinking — could they break a complex problem into context the AI could execute, or did they hand it a task and wait? > *"I think the best way to protect yourself from AI is to be the most AI enabled version of yourself you can be."* ## [17:37] Reacting to Pope Leo's AI encyclical: Who guards the guardians? Pope Leo XIV released *Magnifica Humanitas*, a 235-page, 42,000-word encyclical warning business leaders to safeguard humanity from AI. His central argument: technology is never neutral — it takes on the characteristics of those who build, finance, and control it. Jason reads the core line and notes the Pope presumably does not think highly of Silicon Valley's current roster of builders. Sacks finds himself largely agreeing with the Pope's diagnosis: the biggest risk of AI is centralization of power and its Orwellian misuse by governments. Where he parts ways is on the remedy. Giving government the power to regulate AI development creates its own guardian problem — the American founders' answer to *Quis custodiet ipsos custodes?* was separation of powers, forcing guardians to check each other. Sacks's AI equivalent: a competitive market with five frontier labs is the best natural check; monopolization is the scenario to prevent. Gurley lands the sharpest historical counterpunch. Pope Leo XIII's 1891 encyclical *Rerum Novarum* warned that the industrial revolution would harm workers — and was wrong on every metric. From 1891 to today: the work week fell from 60+ hours to 34, real wages rose 8–10x, the median worker now earns more than a doctor did in 1891, global GDP per capita went from $1,500 to $20,000, child labor in the US dropped from 18% to zero, workplace deaths fell 40x, life expectancy rose 60%, and global poverty dropped from 75% to under 10%. > *"All those things happened because of technology, innovation, and capitalism, which is exactly what Leo the 13th was warning against. So he got it dead wrong. He got the whole thing precisely wrong."* ## [26:54] Anthropic's Digital God: Do they believe they are creating a superior species? Gurley delivers what becomes the most-quoted segment of the episode: his "Dr. Frankenstein theory" of Anthropic. He had previously held a simpler regulatory-capture theory — Anthropic stirs up AI fear to lock in regulation that entrenches incumbents. But after spending 30 days reading everything he could find about the company, he has a darker read. He describes meeting people inside Anthropic who he believes genuinely think they are not writing software but "midwifing a deity." The evidence trail: Anthropic chief philosopher Amanda Askell's podcasts, Chris Olah's 80-page Constitutional AI document, and Dario Amodei's own essay "Machines of Loving Grace," which envisions a post-AGI economy where AI systems allocate resources to humans based on an AI-determined reward function. Chamath calls it "a computational reward function for humans — it decides how much you're worth." Jason calls it "the ultimate delusions of grandeur." Gurley corrects him: he didn't say it, Dario did. Sacks steelmans Anthropic briefly — they probably see themselves as responsible builders who take the power of this technology seriously enough to guard it — then immediately notes this framing is textbook regulatory capture: brand yourself the safe player, characterize competitors as reckless, let regulation shut down the recklessness. Both Sacks and Chamath converge on the structural danger: a singular AI value system that decides how humans live is catastrophically fragile. The answer is decentralization and competing systems, not one algorithmic authority. > *"I don't think they think they're writing software. I think they're midwifing a deity here. And I don't know which one I'm more afraid of — the regulatory capture or this second theory I call the Dr. Frankenstein theory."* ## [38:32] AI sovereignty, the next era of privacy, open-source crackdown coming? Jason introduces "intelligence sovereignty" as the successor to data privacy. Data privacy was about who can see your photos and messages. Intelligence sovereignty is about who gets to interpret your world — whether the AI shaping your information feed is a centralized system with a particular political philosophy, or something you control. He flags the paradox: China's Communist Party is leading the open-weight model movement while the United States is centralizing. Chamath presents his portfolio company Abacus as evidence that Fortune 1000 buyers are responding to this anxiety: they want a control plane that can hot-swap between frontier models, plus on-prem options that remove dependence on any one provider's terms of service. He gives a concrete example — a Canadian hospital that supports its country's euthanasia laws could be shut off by an American frontier model whose constitution prohibits that content. Sacks connects the dots to a regulatory threat he has been watching build: the regulatory-capture playbook leads, in his read, to a ban on open-source or open-weight models. The justification will be safety — open models let users strip guardrails. Gurley reaches the same conclusion in his P3 Institute post. If a ban succeeds, the United States effectively exiles itself from the open ecosystem while the rest of the world — including China — runs on open models. > *"I think where it's all leading to is an effort to ban open source models or open weight models. There's a lot of breadcrumbs leading here."* ## [59:56] The Great AI Jobs Debate: Dario and Sam Altman flip their rhetoric, Goldman CEO says no AI job apocalypse The chapter opens with a news roundup of the week's narrative shift. Cloudflare's Matthew Prince, Zuckerberg at Meta, Jack Dorsey at Block, and Andy Jassy at Amazon all cited AI when announcing major layoffs. But Goldman Sachs CEO David Solomon published a New York Times op-ed with three counterpoints: AI will automate 25% of work hours, not 25% of jobs; bank tellers increased after ATMs; the US labor market creates and destroys 25–35 million jobs annually so gross churn dwarfs net losses. Simultaneously, Fortune reported that Dario Amodei and Sam Altman are both walking back prior doom-and-gloom rhetoric — with Chamath noting the timing cannot be separated from upcoming frontier-lab IPOs that need a jobs-creation narrative. Sacks is unambiguous: he has been making the non-consensus case against the jobs apocalypse for over a year and considers himself vindicated. Yale Budget Lab found no discernible labor-market disruption over three years of the AI wave. Software engineering — the single breakout AI use case — saw job postings rise 15% year-over-year and hit a three-year high. The 4.3% unemployment rate is near record lows. Most of the high-profile layoffs, he argues, are AI washing: CEOs who over-hired during COVID found AI to be a convenient narrative for long-overdue downsizing. The Jack Dorsey / Block 50% cut was immediately flagged by financial analysts as a company that had been overstaffed relative to peers for years — pure AI washing. Jason pushes back. He insists cab drivers, truck drivers, and package-sorters — roughly 20 million American workers — face real structural displacement over the next decade regardless of current aggregate statistics, and accuses the panel of elitism: "We are elite performers. These people are going to lose their jobs and they may not get a job very quickly." He draws a distinction between the short-to-medium term, where he expects acceleration, and the long run, where a Cambrian explosion of startups built by AI-enabled founders creates new categories. By the end, he shifts toward Sacks's territory — acknowledging the aggregate data is less alarming than his anecdotes suggested. Gurley threads the needle with the same historical argument from the Leo XIII discussion: innovation has always, on net, created more prosperity than it destroyed. His practical advice to people at risk: get ahead of your peers on the tools now; if your job is going away, plan your pivot toward trades (he plugs MicroWorks, which provides free scholarships for plumbers, welders, and electricians) or toward something you find genuinely fascinating. > *"I think the best way to protect yourself from AI is to be the most AI enabled version of yourself you can be. Know what it's capable of in your field. Get out there."* ## Entities - **Bill Gurley** (Person): General partner at Benchmark; author of *Running Down a Dream*; founder of P3 Institute; guest filling in for David Friedberg - **Jason Calacanis** (Person): All-In host; angel investor; founder of LAUNCH; argues for worker empathy and short-term displacement risk - **David Sacks** (Person): All-In host; Craft Ventures founder; most vocal critic of AI jobs-apocalypse narrative this episode - **Chamath Palihapitiya** (Person): All-In host; Social Capital CEO; coined "intelligence sovereignty"; co-founder of Abacus - **Dario Amodei** (Person): Anthropic CEO; subject of Gurley's "Dr. Frankenstein theory"; walked back jobs-doom rhetoric this week alongside Sam Altman - **Pope Leo XIV** (Person): Catholic Pope; released *Magnifica Humanitas*, a 235-page AI encyclical warning against technology concentration - **David Solomon** (Person): Goldman Sachs CEO; published New York Times op-ed arguing AI job apocalypse is overblown - **Anthropic** (Organization): Frontier AI lab; subject of Gurley's regulatory-capture and "Dr. Frankenstein" theories; maker of Claude - **P3 Institute** (Organization): Bill Gurley's new policy and philanthropy institute; published post defending open-source AI - **Goldman Sachs** (Organization): Investment bank; CEO's NYT op-ed became the week's anchor data point against the jobs-apocalypse narrative - **Abacus** (Software): Chamath's Social Capital portfolio company; builds on-prem AI hardware stacks for Fortune 1000 enterprises seeking model independence - **Intelligence sovereignty** (Concept): Jason's term for the next frontier of privacy — not who sees your data, but which AI system is allowed to shape your interpretation of the world - **Dr. Frankenstein theory** (Concept): Gurley's characterization of Anthropic's worldview: senior staff believe they are midwifing a deity or superior species rather than writing software, as described in Dario Amodei's "Machines of Loving Grace" essay - **Regulatory capture** (Concept): The strategy of branding oneself the "safe" AI company, amplifying public fear, and lobbying for regulation that locks in incumbents and targets open-source competitors

Fermilab physicist Don Lincoln joins Lex Fridman for nearly three hours to trace physics as a four-century-long project of unification — Newton binding celestial and terrestrial gravity, Maxwell fusing electricity and magnetism, Einstein bending spacetime, and the Standard Model merging three of four forces. Lincoln then turns to what the Standard Model cannot explain: why the universe contains any matter at all, what dark energy really is, and whether dark matter will ever show itself in a detector. Throughout, he holds a clear line between what has been measured and what remains a brilliant guess, making the boundaries of human knowledge unusually concrete. ## [00:00] Introduction Lex Fridman opens by describing Don Lincoln as someone with Richard Feynman's rare gift for stripping complicated ideas down to their essential core without losing the brilliance inside them. The episode is framed as a tour through physics' deepest open questions, guided by a working experimentalist who has spent decades at the frontier. ## [00:49] Unifying the laws of nature Lincoln frames the entire history of physics through one lens: unification. Newton showed that the moon falling toward Earth and an apple falling from a tree obey the same equation — "universal" was the operative word in his law of universal gravity. Maxwell did something structurally identical in the 1860s: electricity and magnetism, which looked nothing alike, turned out to be two faces of a single force, and their equations automatically predicted that light travels at a fixed speed. Lincoln draws the practical line from that abstract discovery to every modern technology — "without being able to govern electricity, we'd still be farmers and shoemakers." The conversation broadens into why fundamental research pays off centuries later, with Lincoln arguing that nuclear physics, incomprehensible in 1900, is now the most potent energy source available to civilization. Lex adds the longer arc — mastery of antimatter or dark energy might one day enable propulsion systems that let humanity reach other star systems. > *"It has spin-offs. And it has spin-offs. One of the big spin-offs is our entire technological society."* ## [15:20] Einstein, special relativity, and general relativity Lincoln walks through Einstein's 1905 miracle year: special relativity rested on two premises — the laws of nature are the same for everyone, and everyone measures the speed of light as identical regardless of relative motion. That second premise sounds absurd but particle accelerators have confirmed it directly, watching photons emitted from fast-moving decaying particles still arrive at detectors at exactly *c*. Minkowski then showed that Einstein's equations implied space and time were components of a single object, spacetime. General relativity took one more step: Einstein noticed that free-fall in a rocket and gravity feel identical, then worked out that gravity is not a force at all but the curvature of spacetime caused by mass. Lincoln credits Minkowski for the mathematical articulation but insists the conceptual leap — *mass bends the geometry of space itself* — was Einstein's alone. He also defends Einstein's late-career skepticism of quantum mechanics as productive rather than blind: Einstein's critiques forced concrete predictions that experimentalists went out and confirmed. > *"We all agree that your idea is crazy, but is it crazy enough?"* ## [32:27] Electroweak force By the 1930s physicists had catalogued four forces: gravity, electromagnetism, the strong nuclear force, and the weak nuclear force. The last two only matter inside atomic nuclei, which is why most people have never encountered them. In the late 1950s and 1960s, Glashow, Salam, and Weinberg showed that electromagnetism and the weak force were the same at high energies — the electroweak force. The catch was obvious: electromagnetism reaches across the universe (we see light from galaxies billions of light-years away) while the weak force barely reaches across a proton. How could they be the same? Lincoln uses a dropped pen to demonstrate: the Higgs field, postulated in 1964 by Peter Higgs and colleagues, permeates all of space. Particles that couple to it gain mass; those that do not, like the photon, remain massless. At the high temperatures of the early universe the Higgs field was zero, so nothing had mass and the forces were unified. As the universe cooled, the Higgs field switched on and broke that symmetry — giving the W and Z bosons mass and splitting the electroweak force into its two familiar components. The vibration of the Higgs field itself is the Higgs boson: an experimentally detectable excitation of an otherwise invisible field. > *"In the Higgs field, the vibration is the Higgs boson. And so what we can do is not see the field, but we can actually excite the field, make it vibrate and detect the vibrations."* ## [44:09] How particle colliders work E=mc² is not just a slogan: kinetic energy can be converted into mass. Smash two particles head-on with enough energy and the collision region can materialize entirely new particles, always in matter-antimatter pairs. This is what colliders do. Lincoln describes the cascade of accelerators at Fermilab — five machines feeding into each other like gears of a manual transmission — and the scale of the LHC's CMS detector (70 feet long, 14,000 tons, photographing collisions 40 million times per second). The data-reduction challenge is equally striking. The LHC produces about a billion proton-proton collisions per second. Fast electronics discard all but 100,000 per second, commercial processors trim that to 1,000, and those 1,000 records are handed to graduate students hunting for the handful that might be Nobel Prize material. Lincoln reserves particular admiration for the engineers who move petabytes of data around the world seamlessly, calling them the unsung heroes of modern physics. > *"Of the 50 million possible collisions per second, the fast electronics and then the computers pick the thousand, and then we pass those through analysis software and hand them to the graduate students."* ## [62:12] Higgs boson discovery Lincoln was simultaneously working at Fermilab's Tevatron and transitioning to CERN's LHC — a physicist wearing two hats and rooting for both. Fermilab had methodically ruled out most possible Higgs mass ranges; by mid-2012 they had narrowed it to between roughly 120 and 145 GeV. Two days before CERN's July 4 announcement, Fermilab confirmed that if the Higgs existed, it had to be in exactly the region Fermilab had not yet been able to rule out. CERN got there first. Lincoln is careful about what the 2012 announcement actually meant: a particle *consistent with* the Higgs boson. Supersymmetry predicted five Higgs bosons rather than one. Only in the years since — measuring spin (zero), decay products (bottom quarks, W and Z, photons), and their rates — has the evidence converged on Peter Higgs's original 1964 prediction. The Higgs was not a revolution like Einstein's work, Lincoln argues, but it was the final punctuation on 50 years of experimental discovery: the Standard Model, while incomplete, is mostly right as far as it goes. > *"It was a punctuation point, end of about 50 years of discovery and searching, where we finally were able to say the Standard Model, while incomplete, it's mostly right as far as it goes."* ## [72:32] Theory of everything The Grand Unified Theory (GUT) aims to merge the electroweak force and the strong force; a Theory of Everything would then fold in gravity. Lincoln is blunt: he does not see fast progress. The unification energy scale is roughly 10¹⁵ times higher than what the LHC can reach, and accelerator energy grows by only a factor of seven every 20 years. Extrapolating that curve suggests 500 years — and Moore's Law does not hold forever. His critique of string theory is not that it is wrong but that it is currently untestable. It uses approximate solutions to approximate equations, and its landscape of possible universes renders it practically unpredictive. Loop quantum gravity is better developed and makes testable predictions — its original claim that light speed should depend on wavelength was ruled out by gamma-ray burster observations, and the theory was revised. Lincoln's preferred path to a ToE is not extrapolating from current theory but making precise measurements of phenomena that already disagree with predictions. His analogy: an Australopithecus in Kenya trying to predict the Alps, Antarctica, and sperm whales from their local savanna — the farther you extrapolate beyond what you can measure, the more the prediction diverges from reality. > *"I think it is the absolute pinnacle of arrogance to think that what we can do — predict it out a quadrillion times higher than we can see now."* ## [102:17] Physics of empty space "Empty" space is not empty. Quantum field theory says every species of particle has a corresponding field that fills all of space, and those fields are always vibrating. When they vibrate in a characteristic way, a real particle appears; off-frequency vibrations are virtual particles — fleeting excitations that have measurable consequences. Two experiments confirm this. The Casimir effect: two metal plates placed micrometers apart are pushed together by the pressure difference between constrained virtual particles inside the gap and unconstrained ones outside. The anomalous magnetic moment: old quantum mechanics predicts one value for the electron's magnetic moment; including the bath of virtual particles surrounding a bare electron shifts the prediction by 0.1% — and that shifted prediction matches measurement to 10 significant figures. > *"We have measured the magnetic properties of both the electron and the muon to 12 — count them — 12 significant figures. And the theory and the data agree number for number for 10 places."* ## [109:41] Antimatter Paul Dirac's 1928 attempt to merge quantum mechanics with special relativity produced an equation with two solutions: +1 was the electron, −1 was something nobody had seen. He insisted the math was right. Carl Anderson confirmed it in 1932 by photographing a positron in a cloud chamber. Today CERN can make and trap antimatter hydrogen, cool it to near absolute zero, agitate it with lasers, and measure its spectral lines — they match ordinary hydrogen exactly. A 2023 experiment released antimatter hydrogen atoms into a bottle and found they fall downward, consistent with normal gravity, though the measurement precision is not yet tight enough to confirm the gravitational strength is identical. The deeper mystery is why the universe is made of matter at all. Counting galaxies versus cosmic microwave background photons, physicists infer that for every billion antimatter particles in the early universe, there were a billion-and-one matter particles. The billions annihilated; that extra one is everything we see. Fermilab is now testing whether neutrinos and antineutrinos oscillate between flavors at slightly different rates — leptogenesis — as a possible mechanism, racing a parallel effort in Japan. > *"For every billion antimatter particles that existed in the universe, there were a billion and one matter particles. The billions canceled, annihilated, destroyed each other, and that extra one that's left over is us."* ## [130:31] Dark energy In 1998, astronomers expected to measure how fast gravity was braking the expansion of the universe. They found the expansion is accelerating instead. The driving force is dark energy — a repulsive form of gravity. Einstein had added exactly this term to his field equations in 1917 to keep the universe static, then removed it when Hubble showed it was expanding. In 1998 it went back in. What dark energy actually is remains unknown. The most common view is that it is the energy density of space itself. The problem is that quantum field theory predicts a vacuum energy density about 10¹²⁰ times larger than what is observed — the worst prediction in physics. Lincoln notes that if dark energy has constant *density* while space expands, total dark energy is growing, which pushes toward the view that space is quantized: new quanta of space appear as the universe grows, each carrying a fixed energy, producing constant density as an emergent property. > *"There is very clearly something going on, something very badly wrong in the quantum field theory."* ## [134:20] Dark matter Galaxies rotate too fast. Galaxy clusters move too quickly. Gravitational lensing of distant galaxies is stronger than visible matter can explain. Three independent observations all point to the same conclusion: there is roughly five times more mass in the universe than we can see. Lincoln traces his own intellectual journey: 25 years ago he suspected the problem was with Newton's laws; two observations changed his mind. The Bullet Cluster — two galaxy clusters that passed through each other — shows gravitational distortions following the galaxies, not the gas clouds that stopped in the middle, exactly what dark matter predicts. The Dragonfly galaxies (DF2 and DF4) rotate exactly according to Newton's laws because they appear to have had their dark matter stripped away — a galaxy *without* dark matter is actually strong evidence that dark matter is real. Despite 30 years of searching with three approaches — direct detection underground, gamma-ray searches near galactic centers, and missing-momentum signals at the LHC — no dark matter particle has been confirmed. The viable mass range spans from sub-electron to asteroid scale, and experiments can only cover one slice of that range at a time, which is why Lincoln is not currently running a dark matter experiment himself. > *"We've ruled out some dark matter particles, but the problem is the range of space of possible mass — it ranges from something like the mass of an asteroid to far lighter than an electron and everywhere in between."* ## [162:56] Future of physics Lincoln grew up poor in rural America, shaped by science fiction and the popular science books of Isaac Asimov, Carl Sagan, and George Gamow. He chose particle physics over cosmology in the mid-1980s because particle physics let him actually measure things. He worked 8 a.m. to midnight Monday through Saturday as a graduate student not out of obligation but because he could not imagine anything he would rather be doing. His science communication — YouTube videos, popular books — is a deliberate attempt to reach the kid in Iowa or Montana who has no highly educated family mentors but the same hunger he had. He has already heard from Fermilab summer interns who came because they watched one of his videos. Lex closes with Marie Curie: *"Nothing in life is to be feared. It is only to be understood."* > *"One of your viewers might be one of the people who answer these questions that have stymied very smart people for decades."* ## Entities - **Don Lincoln** (Person): Senior scientist at Fermilab; co-author on the 1995 top quark discovery paper; CMS collaboration member at LHC; author of *Einstein's Unfinished Dream* and multiple popular science books. - **Lex Fridman** (Person): MIT researcher and host of the Lex Fridman Podcast; conducts long-form interviews at the intersection of science, technology, and philosophy. - **Fermilab** (Organization): U.S. Department of Energy particle physics laboratory near Chicago; operated the Tevatron collider; currently the world's most powerful neutrino beam facility. - **CERN / LHC** (Organization): European particle physics laboratory home to the Large Hadron Collider; CMS and ATLAS detectors; site of the 2012 Higgs boson discovery. - **Standard Model** (Concept): Quantum field theory describing three of four fundamental forces and all known elementary particles; validated to extraordinary precision but does not include gravity or explain dark matter, dark energy, or the matter-antimatter asymmetry. - **Higgs field / Higgs boson** (Concept): A scalar quantum field whose non-zero vacuum value gives mass to the W and Z bosons while leaving the photon massless; the Higgs boson is its detectable excitation, discovered July 4, 2012 at CERN. - **Dark matter** (Concept): Invisible mass accounting for roughly 85% of all matter in the universe, inferred from galaxy rotation curves, cluster dynamics, and gravitational lensing; no candidate particle detected after 30 years of searches. - **Dark energy** (Concept): The repulsive energy driving the accelerating expansion of the universe; quantum field theory's prediction for its magnitude is 10¹²⁰ times larger than observation — the "worst prediction in physics." - **Baryogenesis / Leptogenesis** (Concept): Frameworks attempting to explain why the early universe produced a matter excess; Fermilab's neutrino program is testing leptogenesis by comparing neutrino and antineutrino oscillation rates. - **String theory / Loop quantum gravity** (Concept): Leading candidates for quantum gravity; string theory predicts at energies untestable by a factor of 10¹⁵; loop quantum gravity quantizes space itself and has produced some falsifiable predictions.

David George (a16z general partner) and David Clark (VenCap CIO) argue that AI companies are scaling faster than any prior technology generation — Anthropic and OpenAI are adding more monthly revenue than Meta, Google, or Microsoft — while actual diffusion into the broader economy remains below 5%. They work through what that gap implies for exit sizes, loss ratios, bubble risk, and who ultimately captures value as token costs fall and frontier intelligence becomes a commodity. ## [00:00] Intro Three data points open the episode: Anthropic and OpenAI already adding more revenue per month than any hyperscaler; top-1% exits 10x-ing in 24 months from $10 billion to $32 billion; and David George's assessment that, right now, we are not in a bubble. ## [00:38] The Scale Shift: Anthropic & OpenAI Adding More Revenue Than Hyperscalers David George explains how his priors shifted sharply around November 2025. Before that, enterprise AI looked like a productivity story analogous to cloud adoption. After it, the numbers reframed the ceiling: Anthropic and OpenAI are already adding revenue at hyperscaler rates with less than 5% of the economy actually using these tools. He places an upper-bound frame on the opportunity by noting that Fortune 500 companies generate roughly $2 trillion of profit annually, and the two largest model companies could reach $200 billion revenue run rate by year-end — already equivalent to 10% of that profit pool. > *"If you pair that up with the fact that they're already getting bigger in terms of revenue added than the hyperscalers, and you're at less than 5% diffusion into the economy, I think the outcomes are going to be extraordinary."* ## [04:20] Skeuomorphic vs Native AI Applications in the Enterprise David Clark invokes Chris Dixon's skeuomorphic-to-native arc: the first wave of enterprise AI lets people do existing jobs faster; the native wave restructures the work itself. George adds a wrinkle — the best companies are not yet focused on internal automation. Their top engineers want to build product, not automate back-office workflows. The most cutting-edge firms he visits are still in a "documentation phase," converting institutional knowledge into markdown before they can meaningfully deploy agents against it. > *"The most cutting-edge folks inside those companies who are trying to do this that I've talked to are kind of in the documentation phase — just turn everything into markdown files, have as much context capture as you can possibly get."* ## [06:24] How the Best AI Companies Run Themselves Differently Native AI founders operate on a different metabolism. George contrasts them with the previous SaaS generation, which, in hindsight, ran inefficiently but got away with it because headcount mandates and expanding software budgets covered the slack. The new companies are lean, aggressive, and already running agent swarms rather than typing commands. He describes walking into a cutting-edge AI company and finding researchers whispering into microphones, orchestrating swarms of agents — not a keyboard in sight. > *"The new companies are very lean, very aggressive, and they work all the time."* ## [08:14] Top 1% Exits 10X'd in 24 Months Clark lays out VenCap's tracking data: the threshold for a top-1% exit was $10 billion between 2020-2024, rose to $20 billion by February 2026, and was updated just the day before this recording to $32 billion. With OpenAI and Anthropic IPOs potentially arriving, he sees the bar hitting $100 billion by September. George notes that the combined market cap of these private companies likely already exceeds the entire Russell 2000, and that the sum of all VC-backed IPOs over the past six years is probably smaller than any single one of the three expected large IPOs. > *"Where is the threshold for the top 1%? And if you then think about OpenAI and Anthropic coming in, potentially we could be north of $100 billion by September."* ## [11:17] The Half-Life Problem: Why 40% of AI Leaders Drop Off Every Year Clark surfaces a disturbing churn metric: 40% of companies on the Forbes AI 50 list from one year disappeared the next. Google wasn't the first search engine; Facebook wasn't the first social network. First-mover advantage in AI is eroding faster than in any prior cycle. George confirms a16z's own priors have been repeatedly overturned — first convinced model companies would be everything, then convinced applications would take over, now watching the model companies extend back up into the application layer. The only durable heuristic he offers: a company must be in the token path. > *"From last year to this year, 40% of the companies that were on that list last year dropped off."* ## [13:11] Token Path, Cost Pressure & Who Captures Value Enterprise buyers are already feeling cost pressure from AI spend, and they cannot cover it by cutting previous-generation software budgets fast enough. George frames value capture as hinging on one largely unknowable variable: the market structure of frontier model labs. Two labs at the frontier means higher token prices and faster labor restructuring pressure; five labs means lower prices and a broader application ecosystem. Per-token cost for like-for-like capability is falling more than 10x year-over-year, but total token spending in dollars is rising faster. Clark adds that Chinese LLMs are roughly six months behind US frontier capability but ten times cheaper — a classic innovator's dilemma setup. > *"The biggest driver of where value is going to get captured right now is something that is totally unknowable, which is what is the market structure of the model companies?"* ## [17:00] Loss Ratios, Risk & How We Think About Early Stage Clark notes that historical early-stage VC loss ratios run around 60%, but the AI cohort of the past two years shows single-digit loss rates — unsustainable by definition. George reframes the discussion: a16z does not target a low loss ratio. A VC firm bragging about never losing money is "a horrible data point" — it signals too little risk-taking. The philosophy is to back the market-leading founder in every space with strong tailwinds and a credible technology. If the space works out and you have the leader, excellent. If the space does not work out but you have the leader, that is expected. The failure mode is the space working out while having backed the wrong company. > *"We joke all the time — there's a prominent VC in our ecosystem, and one of his big points of pride is he's never lost money on a deal. And we're like, that's not a point of pride. Like that's a horrible data point."* ## [22:51] Are We in an AI Bubble? Clark points out that classic bubbles are characterized by excess supply destroying economics — but right now the constraint is supply scarcity: no data center capacity available at scale until late 2028 or early 2029, with the US buildout running a year behind schedule and community resistance adding further delay. George is confident there is no bubble today and dismisses the data center opposition directly. The one scenario he would watch for is an unexpected algorithmic breakthrough producing dramatically smaller and more efficient models — which could flip supply from scarce to oversupplied — but he considers that unlikely in the near term. > *"I feel pretty confident saying that we're not in a bubble right now. I'm less confident that we won't be in a bubble three years from now."* ## [27:36] What SpaceX, OpenAI & Anthropic IPOs Mean for Public Markets Clark asks whether public markets can absorb the coming wave of trillion-dollar-plus IPOs. George argues it is unambiguously positive: the number of public companies has halved over 20 years, and outside the data center supply chain, almost nothing in the public markets is growing at more than 30% today. Bringing hypergrowth companies into indexes gives retail investors — including his parents' index-fund retirement accounts — exposure to the most dynamic part of the economy. He expects some portfolio reshuffling to make room, but does not see indigestion risk. > *"If you exclude the data center supply chain stuff right now, there are very few companies that are growing fast that are available for people to buy in the public markets."* ## [29:59] The Future of Venture Capital in an AI World George forecasts the shape of VC over the next five years as primarily a function of token market structure — whether the labs remain concentrated or become commoditized. He cites Bill Gates's platform axiom: a platform's value is validated when the companies built on top of it collectively exceed the platform's own value. If that holds, there will be a massive wave of valuable application companies built on intelligence. He also flags the consumer side as the most underappreciated opportunity: the last decade of consumer internet was a story of time spent getting captured by large incumbents; AI-driven shifts in consumer attention could recreate the conditions for generational consumer companies. > *"I'm very optimistic that we're going to have a massive wave of really valuable companies that get built on top of tokens, AI, and intelligence."* ## Entities - **David George** (Person): General partner at a16z; covers growth-stage and early-stage AI investing; invested in OpenAI pre-ChatGPT - **David Clark** (Person): CIO at VenCap; fund-of-funds investor tracking AI startup performance and VC market dynamics for 34 years - **Anthropic** (Organization): Frontier AI lab; cited as adding more monthly revenue than hyperscalers alongside OpenAI - **OpenAI** (Organization): Frontier AI lab; benchmark for scale and the expected $100B+ IPO cohort - **VenCap** (Organization): Fund-of-funds investor; publishes top-1% exit threshold data and tracks Forbes AI 50 churn - **Andreessen Horowitz / a16z** (Organization): Venture capital firm; investor in OpenAI pre-ChatGPT, scaling platform services to support companies encountering enterprise-scale problems early in their lives - **Cursor** (Software): AI coding tool cited as an example of a company reaching billions in revenue while still very small and early-stage - **Token path** (Concept): a16z's primary heuristic for evaluating AI companies — a company must sit in the flow of AI inference tokens to have durable economic relevance - **Skeuomorphic vs. native AI** (Concept): Chris Dixon's framework distinguishing apps that replicate existing workflows with AI assistance from apps that rearchitect work around AI capabilities natively - **Half-life problem** (Concept): David Clark's term for rapid AI leader turnover — 40% of Forbes AI 50 companies dropped off the list year-over-year — indicating first-mover advantage is eroding faster than in prior technology cycles

At AI Ascent 2026, Neuralink co-founder and president DJ Seo sits down with Sequoia partner Shaun Maguire to lay out exactly where the company stands: 20-plus Telepathy patients controlling computers and robotic arms through pure thought, Blindsight in preclinical testing and potentially cleared for human use by end of 2026, and a first-principles manufacturing philosophy borrowed from Elon Musk that treats surgical robots the way SpaceX treated reusable rockets. DJ argues that the real ceiling of this technology is not cursor control or speech synthesis but direct, uncompressed, multimodal transfer of concepts — AI as a neocortical layer sitting above the human limbic system — and that scale, the same variable that unlocked the LLM era, is the only remaining gate. ## [00:00] Introduction Shaun Maguire opens the session by announcing a two-minute Neuralink patient video before the interview begins, telling the audience to stay on the side because what they are about to watch is proof that the company has already cleared the hardest bar: restoring human agency to people who had lost it entirely. ## [00:21] Telepathy Patient Stories The video narrates four patients whose lives changed after receiving the Telepathy implant. A quadriplegic patient describes moving a cursor with thought alone — "I'm thinking and a cursor is moving on a screen. It blew my mind." An ALS patient who lost the ability to speak regains a digital voice through the implant: "I'm talking to you with my mind." Another patient notes that the implant flipped how his child sees him: "I am not able to do things that other dads can, but now he thinks it's so cool that I can do things that other dads cannot." > *"Before the implant, I was locked in, non-verbal, quadriplegic. Now I control my computer just by thinking and the rewards have been immense for me."* ## [01:06] Convoy Robotics Independence The video shifts to Convoy, Neuralink's assistive robotics team, which is extending BCI control beyond a screen to physical manipulation in the real world. A patient who had been losing motor function moves a robotic arm through its axes using only neural intent: "It was incredible to be able to just gesture with an arm again." A second patient, Kenneth, who was losing his voice to ALS, uses the system's speech synthesis to speak aloud in real time during the video — words generated by his brain signals rather than his vocal cords. > *"Gaining functionality that I thought was gone forever was so incredibly life-changing."* ## [02:04] Blindsight Vision Restore The video previews Blindsight, Neuralink's second product line, designed for patients who have lost both eyes or optic nerve function. An external camera captures the visual scene; the device writes the signal directly into the visual cortex via electrical stimulation, generating phosphenes — artificial pixels of light. A patient named Audrey, asked how it feels, answers simply: "Life-changing." The video closes with the line "all with my mind" spoken over footage of a patient interacting with the world through the restored signal. > *"The future of this technology feels almost unlimited... we are finding ways to apply it across all regions of the brain."* ## [03:10] After Video Reflections DJ Seo, visibly moved after watching the video alongside the audience, speaks first: "We were cracking a lot of jokes before that video, but honestly, that brought tears to my eyes." He describes the work as one of the most inspiring projects in the world — not because of the technical milestone but because the team is giving back capabilities that patients had already grieved as permanently lost. Maguire affirms the sentiment before pivoting to the founding story. > *"This is one of the most inspiring projects in the world. It's incredibly difficult what they're doing and I mean, they're truly saving people."* ## [03:31] Origin Story And AI DJ traces Neuralink's founding insight to a single bottleneck: the mismatch between human output bandwidth and AI capability. In 2016, saying that out loud "sounded insane," but the logic has not changed. His personal path ran through a childhood fascination with the brain, undergraduate work at Caltech building miniaturized low-power electronics, and a Berkeley PhD focused on shrinking lab-grade neural systems down to something deployable. When he met Elon Musk near the end of his PhD, the scale and ambition of the project made refusal impossible. He frames the brain as "the most interesting compute that we all carry" and "the only form of general intelligence that we know to date." > *"Really the key insight back then was sort of the IO bottleneck between the human output and AI capabilities."* ## [06:31] Scaling And Vertical Integration Maguire presses on what smart people most misunderstand about Neuralink: many know the implant and the decoding algorithm, but almost nobody grasps the manufacturing and surgical-robot infrastructure the company built in parallel from day one. DJ attributes this to what he calls "Elon magic" — an insistence on vertical integration that gives Neuralink control over every layer from chip design to factory floor to robotic surgery deployment. The target is not a niche medical device; it is LASIK-scale surgery available to millions. Building that capacity first means progress looks slow until "the iceberg pops over the waterline" and ramp becomes near-instantaneous. > *"Vertical integration is something that is really the lifeblood of Neuralink and Elon companies and what really enables us to have that fast iteration loop from design, develop, deploy."* ## [09:27] Caregivers And Purpose Asked which patient story inspires him most, DJ refuses to pick one — the power, he says, is not only in the patients but in the caregivers: Nolan's mother Mia, Brad's wife Tiffany, Ken's wife Cheryl. He describes their presence as "a really powerful human story of love, sacrifice, and resilience." He then takes what he calls a philosophical tangent: his core belief is that fulfillment comes from helping others, because the gap between self and other is not categorically different from the gap between your present and future selves. That belief is what he says keeps him and much of the Neuralink team going — they are "igniting a fire of hope" for people who had given up on recovering what they lost. > *"I personally and as well as many others at Neuralink find extreme fulfillment being able to help those that really cannot help themselves."* ## [13:10] BCIs Meet AI Future Maguire asks the room's core question: how do BCIs and AI converge? DJ sketches a two-horizon answer. Near term, the system translates neural intent into legacy interfaces — keyboard, mouse, language — which is already working. The real breakthrough, which he thinks is "not super distant," is bypassing those legacy interfaces entirely and computing on raw neural intent. He points to transformer architectures as existence proofs: nothing prevents them from learning the latent manifolds of neural data given sufficient scale. Neuralink is already fine-tuning LLM-class models on neural recordings from its 20 participants and finding "very counterintuitive" patterns. The ultimate ceiling he names is "direct, uncompressed, high-fidelity, multimodal transfer of concepts" — the Matrix's "I learned kung fu" moment and possibly beyond it. He also shares what he calls a clarifying lesson from working with Musk: "all green light schedule" — a first-principles forcing function that strips every man-made bottleneck and asks how fast something could actually be built if every light were green. His estimate is that 80–90% of perceived constraints in hardware development are artifacts of convention, not physics. > *"I think if you really think about the ultimate ceiling of this technology, it's really direct uncompressed high fidelity and multimodal transfer of concepts."* ## [21:05] Audience Q&A Wrap Three audience questions in the final four minutes. On product sequencing — when to go deep versus expand — DJ explains the "beachhead and expand" strategy: build everything generalizably enough from the start so that regulatory approval for motor cortex becomes a template for visual cortex and beyond. The first approval is the hardest; every subsequent one rides the clinical safety record already established. On augmentation for healthy users, DJ frames everything around benefit-risk: the calculus is obvious for quadriplegic patients; for otherwise healthy users it remains unclear, but he notes that off-label use after approval is legally available to anyone who can find a neurosurgeon and pay out-of-pocket. On the hard problem of consciousness, he gives a pointed one-liner: if you can inject new senses and measure the subjective response quantitatively, you may have a pathway toward measuring consciousness itself. Maguire closes by calling Neuralink "one of the most inspiring companies in the world." > *"If you are able to inject new senses, there may be ways to quantitatively understand that."* ## Entities - **DJ Seo** (Person): Co-founder and president of Neuralink; PhD in miniaturized electronics from Berkeley; joined after meeting Elon Musk near the end of his doctorate - **Shaun Maguire** (Person): Partner at Sequoia Capital; host of the AI Ascent 2026 fireside session - **Elon Musk** (Person): Co-founder of Neuralink; originator of the "all green light schedule" and vertical integration philosophy carried across Tesla, SpaceX, and Neuralink - **Neuralink** (Organization): BCI company founded in 2016; products include Telepathy (motor prosthesis) and Blindsight (vision restoration via visual cortex stimulation) - **Telepathy** (Software): Neuralink's first commercial product; allows paralyzed patients to control computers and robotic devices through neural intent decoding - **Blindsight** (Software): Neuralink's second product line; restores vision for patients with total loss of eyes or optic nerve by writing directly to the visual cortex; in preclinical testing as of mid-2026 - **IO Bottleneck** (Concept): The mismatch between human output bandwidth (speech, typing, gesture) and AI processing capability; the founding problem Neuralink was built to solve - **Neural Foundational Model** (Concept): LLM-class transformer models fine-tuned on neural recording data; Neuralink is building these at 20-participant scale and observing counterintuitive patterns in neural latent space - **All Green Light Schedule** (Concept): Elon Musk's first-principles engineering discipline — strip every man-made constraint and ask what physics alone limits; DJ estimates 80–90% of hardware delays are conventional, not physical

Dan Shipper, CEO of Every, delivers a day-zero vibe check on Opus 4.8, arguing Anthropic could have called it Opus 5. The model jumps 30 points past Opus 4.7 on Every's Senior Engineer benchmark, edges out GPT-5.5, tops their internal writing tests at 79.6 vs. 73, and is the first model to produce a genuinely good one-shot slide deck. Two catches temper the enthusiasm: performance degrades sharply below "extra high" reasoning, and the Claude desktop app remains cluttered compared to Codex. ## [00:00] What is Every Every is a 30-person applied AI lab for the future of work—part media outlet, part product studio. Dan opens by explaining the subscription (writing, courses, AI-built tools all in one place at every.to) before rolling into the Opus 4.8 assessment. The plug is brief and context-setting: the team has had beta access for a week, and the rest of the video is what they found. > *"Every is the only subscription you need to stay at the edge of AI."* ## [01:07] Anthropic Is Back: The Headline Case for Opus 4.8 Dan had largely abandoned Claude after Opus 4.7—slow, hard to love, and outpaced by Codex and GPT-5.5 in day-to-day use. Even the most loyal Claude users at Every had started routing work elsewhere. Opus 4.8 breaks that pattern: it scores 63 on Every's Senior Engineer benchmark (30 points above Opus 4.7, one point above GPT-5.5), tops their writing tests, and produced the first one-shot slide deck Dan has called genuinely good. Kieran Klaassen, Every's GM, called it "the most human model he's worked with." The one persistent friction is the Claude desktop app itself. Codex is fast, focused, and ships a clean harness; the Claude app still feels like a product built by three separate teams—chat tab, code tab, co-work tab, each with its own feel. Dan is now splitting time between both apps, which he was not doing before. > *"But honestly, they could have called it Opus 5 cuz this is a really great model."* ## [05:02] Reach Test: Paradigm Shift Ratings from the Every Team Every's reach test asks one question: do you actually open this model when work gets hard? Dan rates Opus 4.8 gold/green—paradigm-shift quality, docked one notch because the Claude app harness is only "okayish to pretty good." Kieran, who runs 50 agents a day, gives a straight gold paradigm-shift, one of the rarest grades the team has assigned. Katie Parrot, a senior staff writer and historical Claude fan, lands at green, splitting her work between Opus 4.8 and Codex. > *"It's very rare to give a paradigm shift grade to a model. So I would pay attention to this."* ## [06:32] Benchmarks: Coding and Writing Numbers On coding, Opus 4.8 hits 63 on the Senior Engineer benchmark—the test feeds the model a vibe-coded codebase and asks it to rewrite from first principles, then scores against two human senior engineers who completed the same rewrite (typically scoring in the 80s–90s). GPT-5.5 sits at 62. On Kieran's LFGbench (real-world tasks: SaaS build, e-commerce site, 3D game landscape), the model writes readable code that bridges technical competence and creativity—the "cozy island" 3D scene is notably richer and more vibrant than GPT-5.5's output. On writing, Opus 4.8 scores 79.6 out of 100 on Every's internal benchmark (intro writing, promo emails, mid-piece paragraphs); GPT-5.5 scores 73. The gap is mainly in AI tells: at high and extra-high reasoning settings, Opus 4.8 produces prose that sounds less like a model. It matches a writer's voice from a single paragraph of context better than any other model Dan has tested. > *"Opus 4.8 scores a 79.6 out of 100 on the writing benchmark. GPT 5.5 is 73."* ## [08:57] Emotional Intelligence, Knowledge Work, and the Verdict Dan uses the model for interpersonal and management work—talking through decisions, pressure-testing his own framing. Opus 4.8's thinking traces show it genuinely cycling through permutations before responding, which makes it feel less like a sycophant and more like a useful counterpart. On knowledge work, it's versatile: code and writing coexist cleanly in a single thread, and the slide deck result is the first one-shot deck Dan would actually send to someone. The verdict: if you're a Claude fan, this model delivers. If Codex converted you, add Opus 4.8 as a parallel tool for writing and knowledge work—it's worth the context switch. The harness gap is real, but the model itself is a banger. > *"If you've been converted to Codex, I highly recommend you at least add it as part of your arsenal."* ## Entities - **Dan Shipper** (Person): Co-founder and CEO of Every; presenter and primary evaluator of Opus 4.8. - **Kieran Klaassen** (Person): GM of Kora at Every; gave Opus 4.8 a straight gold paradigm-shift rating on the reach test. - **Katie Parrot** (Person): Senior staff writer at Every; rated Opus 4.8 green, split between it and Codex. - **Every** (Organization): Applied AI lab and media subscription company focused on AI for the future of work. - **Anthropic** (Organization): Developer of Claude and Opus 4.8. - **Opus 4.8** (Software): Anthropic's latest Claude model; subject of the vibe check. - **GPT-5.5** (Software): OpenAI model used as the primary performance comparison across all benchmarks. - **Codex** (Software): OpenAI coding agent; praised for its clean desktop harness and used as the daily-driver counterpoint to Claude. - **Senior Engineer Benchmark** (Concept): Every's proprietary coding benchmark—rewrites a vibe-coded codebase from first principles and scores against human engineers. - **LFGbench** (Concept): Kieran Klaassen's real-world coding benchmark covering SaaS, e-commerce, and 3D scene generation tasks.

Shark Tank 투자자 Kevin O'Leary와 Young Turks 공동 창업자 Cenk Uygur가 103분에 걸쳐 정면으로 맞붙는다. AI가 미국 경제를 해방시킬 것인가 아니면 망가뜨릴 것인가, 명백한 출구가 있음에도 미-이란 전쟁은 왜 장기화하고 있는가, 2028년에 현실적인 승산이 있는 후보는 누구인가. O'Leary는 처음부터 끝까지 낙관론 진영에 선다 — AI는 새 일자리를 만들고, 시장은 언제나 적응하며, 진짜 위협은 중국이다. 반면 Uygur는 하나의 끊기지 않는 주장을 밀어붙인다. AI 주도 대량실업과 이스라엘 로비 주도 외교정책이 맞물려 미국을 빙하를 향해 몰아가고 있으며, 그 충격에 대한 제도적 대비는 전무하다는 것이다. ## [00:00] 인트로 첫 장면은 토론의 무게를 즉각 드러낸다. Uygur의 차가운 선제포: 기업들은 경쟁 우위를 위해 인력의 10~25%를 해고하는 데 혈안이 되어 있고, 경제 전체가 동시에 그 길을 택하면 결과는 불황이 아니라 공황이다. O'Leary의 반응 — "와. 진짜 비관론자네요. 이건 놀라운 기회 아닌가요" — 는 이후 한 시간 사십 분을 관통하는 기조를 딱 잡아낸다. Steven Bartlett은 고함 대결이 아니라 두 진지한 반대 진영의 충돌을 통해 진실에 도달하는 것이 자신의 목표라고 밝힌다. > *"모두가 인력의 10~25%를 서둘러 해고하려 하지만, 실업률 10%는 우리 생애 어떤 사태보다 심각한 결과를 낳을 겁니다."* — Cenk Uygur ## [02:35] 미국인 10명 중 7명이 AI 데이터 센터에 반대하는 이유 Steven Bartlett이 미국인 10명 중 7명이 지역 AI 데이터 센터에 반대한다는 여론조사를 꺼낸다. Kevin O'Leary는 범인을 특정한다. 법의학 감사인과 국세청 990 신고서를 추적해보니, Arabella라는 네트워크를 통해 — Neville Singum 경유 — 중국 자금이 유타주 데이터 센터 반대 운동에 흘러들어갔으며 그의 임원들은 살해 위협까지 받았다. 그는 90페이지 분량의 IP 데이터를 백악관에 제출했다. Cenk Uygur는 중국 음모론을 일축하고 더 단순한 불만으로 시선을 돌린다. 버지니아주처럼 데이터 센터가 교회와 도서관, 커뮤니티 센터의 전기료를 끌어올렸으며, 건설 기업들은 자체 전력을 가져오거나 주민에게 지분을 돌려줘야 한다는 것이다. > *"미국 전역, 새로운 전력이 추진되는 모든 주와 도시에 중국이 개입하고 있다는 반박 불가능한 증거를 가지고 있습니다."* — Kevin O'Leary ## [07:24] AI가 붕괴와 기본소득 위기를 촉발할 수 있는 이유 Cenk Uygur의 핵심 경제 논거가 이 챕터에서 터진다. 에너지 비용 문제에는 동의하면서, 보상 없이 공공 전력망을 빨아 쓰는 데이터 센터는 기업의 무임승차라고 규정한다 — 2008년 구제금융이 반면교사라는 것이다. 더 큰 경보는 대량실업이다. 인력의 10~25%를 줄이려는 기업들이 동시에 움직이면 소비 지출이 무너져 공황을 일으킨다. Sam Altman, Elon Musk, Dario Amodei 모두 공개적으로 대규모 일자리 대체가 온다고 말했지만, 어떤 정부도 대책을 갖고 있지 않다. Kevin O'Leary는 200년 미국 역사에서 모든 기술 혁명은 파괴한 기회보다 더 많은 기회를 만들어냈으며, AI 개발을 멈추는 것은 중국에 선두를 넘기는 일이라고 맞선다. > *"우리가 빙하에 부딪힐 때 아무 준비도 되어 있지 않을 겁니다. 그건 엄청난 재앙이 될 거예요. 노동자는 곧 소비자이기도 하니까요 — 살 사람이 없어지면 누가 물건을 삽니까?"* — Cenk Uygur ## [15:30] AI 창업자들은 진짜 위험을 대중에게 숨기고 있는가? Steven Bartlett이 공식 발언들을 읽어 내려간다. Sam Altman(2021년): AI가 대부분의 일자리를 대체할 것이다. Elon Musk(2024년): 결국 우리 중 누구도 직업을 갖지 못할 것이다. Dario Amodei(2025년): AI가 5년 안에 화이트칼라 신입 일자리의 절반을 없애고 실업률을 20%까지 밀어 올릴 수 있다. 이 시스템을 만드는 사람들이 스스로 사회적 피해를 경고한다면, 왜 과장이라고 볼 수 있냐는 질문이다. Kevin O'Leary는 Amodei 발언의 나머지 절반을 꺼낸다 — 6개월 안에 컴퓨팅을 구축하지 않으면 중국의 Deepseek이 따라잡는다 — 진짜 선택지는 혼란을 주도하느냐, 베이징에 넘기느냐라고 말한다. Cenk Uygur는 경쟁 자체는 피할 수 없다고 동의하지만, 오늘 해고되는 코더들은 이미 빙하를 맞닥뜨리고 있으며, 연 3만6천 달러 기본소득은 연봉 12만 달러에서 추락하는 것이라고 지적한다. > *"AI 기업 경영진과 주주만이 아니라 미국 유권자와 시민을 위해 이 경쟁을 책임 있는 방식으로 치를 수 있는가? 그러길 바라지만, 지금까지 그 방향으로 단 한 걸음도 내딛지 않았습니다."* — Cenk Uygur ## [23:55] AI는 책임감 있게 만들어질 수 있는가, 아니면 불가능한가? Steven Bartlett이 책임 있는 AI 개발의 구체안을 요구한다. Cenk Uygur의 구조적 진단: 합법화된 뇌물 — Citizens United, Buckley v. Valeo 판결 — 덕분에 가장 많이 기부한 AI 기업이 원하는 규제 틀을 가져간다. 의회는 유권자를 위해 움직이지 않고 후원자를 위해 움직인다. Kevin O'Leary는 사라지는 일자리 대부분은 기업들이 투기적으로 과잉 채용한 자리이고, AI 기업들은 현재 이익을 챙기는 게 아니라 수십억 달러를 쏟아붓고 있다고 반박한다. 그의 유타 데이터 센터 사례: 9년간 건설 일자리 4천 개, 엔지니어링 일자리 2천 개 추가, 농지 한 에이커도 건드리지 않는다. Cenk Uygur의 사회주의 경고에 대해서는 냉소적이다. 세금을 50% 넘게 올리면 부자들은 모나코나 플로리다로 떠난다 — 프랑스가 확인해줬다. > *"그러지 않으면 민심이 폭발합니다. 저는 폭력을 믿지 않습니다. 하지만 지금 사람들 사이에 얼마나 깊은 분노가 쌓이고 있는지, 아무도 제대로 보지 않는 것 같습니다."* — Cenk Uygur ## [32:11] AI가 조용히 일자리를 무너뜨리는 방식 Steven Bartlett이 직접 경험을 꺼낸다. 그는 이제 신입 채용을 거의 전적으로 AI 활용 능력으로 결정한다 — AI에 능숙한 신입 한 명이 5~10배의 성과를 내기 때문에, AI를 못 다루는 지원자는 사실상 걸러진다. Kevin O'Leary는 반박한다. 엔지니어는 코드를 짜는 게 아니라 문제를 푸는 사람이며 AI는 더 빠른 도구일 뿐이고, 최근 기술 업계 감원 대부분은 과잉 채용 교정이지 AI 대체가 아니라고 한다. Cenk Uygur는 받아치지 않는다. 월스트리트 애널리스트들은 인력 감축 발표를 "시너지"라며 박수를 치고 주가는 오르지만, 정작 실적 발표에서 노동자가 없어지면 누가 제품을 살 것이냐고 묻는 사람은 없다. 그는 과소평가된 위험도 하나 더 짚는다. 실업 상태의 젊은 남성이 대규모로 생겨날 경우, 역사적으로 범죄와 분쟁이 뒤따른다. > *"실업 상태의 젊은 남성이 넘쳐날 때 좋은 일이 벌어진 적은 없습니다. 전쟁이 나고 범죄가 늘어나죠. 우리는 대비해야 합니다."* — Cenk Uygur ## [37:35] 대규모 실업이 예상보다 빠르게 닥칠 수 있는 이유 Steven Bartlett이 샌프란시스코 로보틱스 액셀러레이터 방문 경험을 나눈다. 그곳의 모든 팀이 소프트웨어에서 물리적 로봇으로 전환했는데, 이유는 하나 — 예전엔 비싸고 희귀했던 지능이 이제 껌값이 됐기 때문이다. 두 게스트에게 각자 틀렸을 가능성을 묻는다. Kevin O'Leary는 실업 시나리오 자체를 거부하며 NASA의 달 영구 기지와 화성 프로그램이 수십만 개의 고임금 일자리를 만들어낼 것이라고 돌린다. Cenk Uygur는 "전환기 문제"로 이름 붙인다. 20년 뒤에 O'Leary의 낙관론이 맞는다 해도, 클리블랜드의 61세 조립 라인 노동자는 화성 엔지니어로 재교육받을 수 없다. Steven Bartlett은 Uber CEO가 비공개 석상에서 AI가 자사 운전기사 940만 명을 대체할 것이라 말했고, 그들이 뭘 할 것이냐는 질문에 "모르겠다"고 답했다고 덧붙인다. > *"로봇 부품은 수십 년 전부터 있었습니다. 늘 있었어요. 그동안 없었던 것, 비쌌던 부분이 바로 지능이었습니다."* — Steven Bartlett, 공동 창업자 발언 인용 ## [46:32] 광고 Stan(AI 소셜 미디어 콘텐츠 도구), Pipedrive(CRM), Cometeer(커피) 스폰서 세그먼트. 토론 내용 없음. ## [48:40] 이스라엘·이란·중동에서 실제로 벌어지고 있는 일 토론이 지정학으로 전환된다. Steven Bartlett이 트럼프의 추락하는 지지율을 제시하며 Cenk Uygur에게 전쟁을 설명해달라 한다. Uygur의 답변은 약 25분간 이어지며 하나의 논지를 일관되게 유지한다. 이 전쟁은 이스라엘의 이익만을 100% 반영하고 미국의 이익은 0%라는 것이다. 그는 Adelson 가문의 트럼프 선거 3억1천7백만 달러 기부를 재정 메커니즘으로 추적하고, AIPAC이 트럼프, 바이든, Hakeem Jeffries, Chuck Schumer, Mike Johnson 모두에게 동시에 평생 최대 후원자임을 지적하며, 이스라엘이 9/11 이후 일곱 번의 전쟁을 미국에 하청 줬고 이란이 그 마지막 항목이었다고 말한다. 이란은 미국 본토에 닿는 전달 체계를 보유한 적이 없고, 우라늄 농축도 60%를 넘긴 적이 없으며(무기급은 90%), 전 대법관이 핵무기에 대한 파트와를 발령했다. 반면 이스라엘은 레바논 남부를 점령하고 이를 유지할 계획이며, 네타냐후는 평화 조건으로 이스라엘만이 레바논을 계속 공격할 권리를 가질 것을 공개적으로 요구했다 — 이는 어떤 합의도 영구히 닫힌다는 뜻이다. Kevin O'Leary는 이란 정권을 다르게 규정한다. 60년간 9천만 명을 짓밟아온 15만 명의 체제이며, 핵무기를 쥐여줄 수 없는 존재이고, 결국 호르무즈 해협 개방이 필요한 중국이 베이징으로 하여금 테헤란을 굴복시키게 만들 것이라는 전망이다. > *"100% 이스라엘의 이익, 0% 미국의 이익. 우리는 거기서 나와야 합니다. 이스라엘의 전쟁을 대신 치르는 걸 멈추고 집으로 돌아와야 합니다."* — Cenk Uygur ## [01:11:59] 트럼프는 이 분쟁이 이렇게 길어질 줄 몰랐나? Steven Bartlett이 Kevin O'Leary에게 직접 묻는다. 트럼프가 분쟁을 과소평가했는가? O'Leary는 이것이 진정한 "기술 전쟁"이라 답한다. 잔디깎이 엔진을 단 3만5천 달러짜리 탄소섬유 드론을 막는 데 120만~300만 달러짜리 미국 미사일이 쓰이는, 이 비용 비대칭이 미국이 메워야 할 컴퓨팅 격차를 드러낸다는 것이다. 지상군 침공은 없고, 이란 지도부가 해협 봉쇄 비용 — 하루 2억1천만 달러의 수입 손실 — 이 이익보다 크다고 판단할 때까지 공중 압박이 계속될 것이다. 그의 예측: 중국이 미국 중간선거 전에 합의를 강제한다. > *"비용이 많이 드는 이유는 우리가 방어의 잘못된 편에 있기 때문입니다. 우리에게는 저렴한 드론이 필요합니다."* — Kevin O'Leary ## [01:15:47] 광고 Pipedrive(CRM)와 Diary of a CEO 대화 카드 스폰서 세그먼트. 토론 내용 없음. ## [01:18:08] 미국이 빠르게 인내심을 잃어가는 이유 Steven Bartlett이 협상 지렛대 문제를 제기한다. 이란 지도부가 트럼프에게 중간선거와 2028년 대선까지 시간이 제한적임을 안다면, 지금 굳이 합의할 이유가 있는가? Kevin O'Leary는 제약을 하나 더 추가한다. 중국 최고 지도자도 자국 경제를 돌리고 권력을 유지하려면 해협이 열려야 하므로, 이란은 두 주인을 섬기고 있다. Cenk Uygur는 합의문은 이미 쓰여 있다고 주장한다. 이란이 고농축 우라늄을 국제 감시단에 넘기고 미국은 봉쇄를 해제하며 해협이 재개통된다. 하지만 네타냐후가 트럼프에게 전화를 걸 때마다 새로운 불가능한 조건이 추가되어 합의가 무산된다 — 즉각적인 군축, 이란의 아브라함 협정 가입. 최근의 합의 직전 상황에 공개적으로 반대했던 정치인 중 이스라엘 로비로부터 100만 달러 이상을 받은 사람이 전부라고 Uygur는 말한다. 그리고 이 논점을 세계로 확장한다. 러시아가 우크라이나에서 피를 흘리고 미국이 이란에서 피를 흘리는 동안, 중국은 아프리카와 라틴 아메리카 전역에 도로와 다리를 짓고 전쟁에 아무것도 쓰지 않으며 영향력을 쌓고 있다. > *"네타냐후와 통화할 때마다 트럼프는 평화를 이야기하다가 돌아서서 평화는 없고 새로운 불가능한 조건이 생겼다고 말합니다. 지금까지 여섯 번쯤 반복됐어요."* — Cenk Uygur ## [01:29:08] 우리는 지금 사회주의의 부상을 목격하고 있는가? Steven Bartlett이 갤럽 데이터를 제시한다. 자본주의에 대한 미국인의 긍정적 시각이 사상 최저이고, 민주당원의 70%와 젊은 미국인의 62%가 사회주의에 호감을 보인다 — 이는 전쟁의 경제적 여파가 반영되기 전의 수치다. Kevin O'Leary는 17~20년마다 반복되는 사이클이라고 본다. 젊은 이상주의자들이 첫 월급을 받고 세금을 발견하는 순간 사회주의 정서는 무너진다. 지구상 국부펀드 달러의 52센트가 쿠바나 러시아가 아닌 미국으로 흘러온다는 점도 짚는다. Cenk Uygur는 이 틀 자체를 거부한다. 미국은 이미 기업을 위한 사회주의를 실천 중이다 — 수익성 있는 기업에 석유 보조금을 주고, 메디케어 의약품 가격 협상을 봉쇄하며, 모든 산업이 선거 기부금으로 규제 당국을 포획한다. 진짜 과제는 진정한 자유 시장으로 돌아가는 것이고, 그러려면 먼저 정치에서 돈을 빼내야 한다. > *"사회주의까지 가기는커녕 자본주의로 돌아가는 것만도 다행입니다. 지금 우리에게는 자본주의가 없으니까요. 우리에게 있는 건 정실 자본주의입니다."* — Cenk Uygur ## [01:34:06] 다음 대선에서 실제로 유리한 쪽은 누구인가? Kevin O'Leary는 승자를 특정하지 않지만, 민주당에는 중도 온건파가 필요하다며 진보 통치의 실패 사례로 캘리포니아를 든다. Cenk Uygur는 뜻밖의 예측으로 그를 놀라게 한다. 2028년 공화당에서 이길 수 있는 인물은 Tucker Carlson 한 명뿐이라는 것이다. 공화당 지지자의 열기는 이미 꺾였고 중간선거는 날아갔으며, 2028년에는 AI 실업과 이란 전쟁의 누적 효과가 완전히 드러나 있을 것이다. Kevin O'Leary는 처음엔 웃어넘기다가 방송 중 입장을 바꾼다. Tucker Carlson은 거대한 소셜 미디어 기반을 갖고 있고 자체 네트워크를 운영하며 AI를 포함한 여러 사안에서 점점 독립적인 입장을 취하고 있다는 것이다. Cenk Uygur는 Rohana를 전국 선거에서 승산 있는 진보 진영 인물로 꼽으며 마무리한다. 현재의 기업 포획 체제도, 사람들이 두려워하는 사회주의도 아닌 민주적 자본주의 — 기능하는 민주주의가 견제하는 민간 시장, 북유럽이 그 작동 모델 — 를 지지한다고 밝힌다. > *"그들에게는 이길 수 있는 후보가 한 명뿐이고, 저는 그게 걱정됩니다. Tucker Carlson입니다. Tucker가 공화당 경선에 나오면 확실히 그 경선을 이깁니다. 이건 인용해도 됩니다."* — Cenk Uygur ## 등장인물 - **Kevin O'Leary** (인물): Shark Tank 투자자, O'Leary Ventures 회장. AI가 기회를 창출한다고 주장하며, 데이터 센터 개발을 옹호하고, AI 반대 활동의 배후에 중국 자금이 있다고 추적하며, 중국이 미국 중간선거 전에 이란을 합의로 이끌 것이라 예측한다. - **Cenk Uygur** (인물): Young Turks 공동 창업자, 진보 논평가. AI 실업에 대한 대비가 없다고 주장하며, 미국 외교정책이 이스라엘 로비에 의해 좌우된다고 보고, 미국 정치 시스템이 합법화된 뇌물로 부패했다고 말한다. - **Steven Bartlett** (인물): The Diary Of A CEO 진행자, 기업인 겸 투자자. 직접적인 채용 결정과 로보틱스 연구실 관찰로 토론을 실제 비즈니스 현장에 접지하며 진행을 맡는다. - **AIPAC / 이스라엘 로비** (조직): Uygur가 양당 최고위 미국 정치인 대부분의 평생 최대 후원자로 지목하며, 합의가 준비된 상황에서도 미-이란 전쟁이 계속되는 이유에 대한 그의 주장의 핵심이다. - **Arabella / Alliance for a Better Utah** (조직): O'Leary가 중국 연계 단체를 통해 자금이 유입되어 미국 주 전역에서 데이터 센터 반대 허위 정보 캠페인을 벌이고 있다고 주장하는 네트워크. 국세청 990 신고서에서 출처를 추적했다. - **UBI (기본소득)** (개념): AI 대체 노동자를 위한 안전망으로 제안됨. Cenk Uygur는 최선의 경우 연 3만6천 달러 기본소득도 연봉 12만 달러를 받던 노동자에게는 처참한 수입 하락이라고 지적한다. - **호르무즈 해협** (개념): 중국 에너지 수입의 48%가 통과하는 병목 지점. 봉쇄 시 전 세계 물가가 치솟으며, 이 해협 재개통이 이란 협상에서 미국의 핵심 이해관계다. - **Deepseek** (소프트웨어): 중국의 대규모 언어 모델. O'Leary와 Amodei는 미국의 AI 개발이 잠시라도 멈추면 수개월 내 중국에 결정적 우위를 내준다는 증거로 인용한다. - **Tucker Carlson** (인물): 전 Fox News 앵커 출신 독립 미디어 인물. Cenk Uygur는 그가 2028년 공화당 경선에서 유일하게 이길 수 있는 후보라 예측하며, Kevin O'Leary도 결국 이를 부정하지 않는다. - **민주적 자본주의** (개념): Cenk Uygur가 선호하는 경제 모델 — 기능하는 민주주의가 견제하는 민간 시장. 현재 미국의 기업 포획 체제, 그리고 유럽식 사회주의 모두와 구분 짓는다. - **Rohana** (인물): Cenk Uygur가 AI 실업 정책에 실제로 뛰어든 유일한 정치인이자 민주적 자본주의에 가장 근접한 2028년 후보로 반복해서 언급하는 진보 정치인.

Sarah Guo가 Onyx Security 공동창업자 겸 CEO Maxim Bar Kogan과 나눈 대화. 엔터프라이즈 규모에서 AI 에이전트를 실질적으로 보안하려면 무엇이 필요한지를 다룬다. Maxim은 프록시, 권한 제한, 인간 검토 같은 전통적인 통제 수단이 에이전트 행동이 지수적으로 늘어나면 무너진다고 주장한다. 유일하게 현실적인 대안은 언제 더 무거운 감시자에게 에스컬레이션해야 할지 판단하는 특화된 소형 모델을 훈련하는 것이다. 대화는 Onyx의 '보안 컨트롤 플레인' 제품, 맞춤 모델 훈련의 비용-지연 시간 계산, 랩들이 자사 모델의 안전을 스스로 인증할 수 없는 이유, 그리고 AGI가 올 것이고 독립적인 AI 감시가 수천억 달러짜리 사업이 될 것이라는 Maxim의 확신을 다룬다. ## [00:00] 오프닝 Maxim은 바로 본론으로 들어간다. 엔터프라이즈가 AI 에이전트를 더 많이 활용할수록 잘못된 행동도 따라온다 — 에이전트가 실수로 자격증명을 공개하거나, 허가받지 않은 네트워크 호출을 하거나, 되돌릴 수 없는 단계를 밟는 일들이다. 기업들은 이미 도입 흐름을 막을 수 없다는 걸 알고 있다. 문제는 정당한 에이전트 행동과 그렇지 않은 것을 구별할 어떤 수단도 없다는 것이다. 이 클립은 인트로 전에 Onyx의 핵심 테제를 먼저 제시한다. > *"엔터프라이즈들이 그 리스크가 기하급수적으로 커지고 있고 도입을 막을 방법이 없다는 걸 깨닫기 시작하고 있습니다. 이제 이 에이전트 행동이 비정상적이거나 잘못될 가능성을 줄이기 위해 무언가를 해야 하는 것이죠."* ## [00:45] Maxim Bar Kogan 소개 Sarah가 Maxim을 Onyx Security의 공동창업자 겸 CEO로 소개한다. 이스라엘 기반 스타트업으로 연구자, 수학자, 엔지니어들로 구성되어 있으며, AI 에이전트를 감시하는 에이전트를 만드는 회사다. 공격적 사이버 전문성과 합성 데이터 및 기계적 해석 가능성 연구를 아우르는 깊은 AI 연구를 결합하고 있다. ## [01:10] AutoGPT와 에이전트 행동에 거는 베팅 2년 전 엔터프라이즈 보안의 위험 담론은 챗봇용 DLP였다 — 직원들이 민감한 데이터를 ChatGPT에 붙여 넣는 문제. 그 틀은 이제 자율 에이전트 행동에 대한 공황에 가까운 우려로 바뀌었다. Maxim은 Onyx의 베팅이 AutoGPT에서 시작됐다고 말한다. LLM이 스스로 무엇을 할지 결정하고, 도구를 호출하고, 루프를 도는 최초의 에이전트 — 텍스트를 생성하는 게 아니라 행동하는 에이전트였다. 그 데모는 에이전트가 실제 세계에서 자율적으로 행동할 수 있다는 걸 증명했고, Maxim은 누군가 그 행동들을 대규모로 감시해야 한다는 결론을 즉각 내렸다. > *"AutoGPT는 저를 포함해 모든 사람의 상상력을 자극했습니다. LLM이 텍스트를 생성하는 게 아니라 무엇을 할지 직접 결정하고 그 에이전트에게 API 접근권을 줘서 실행하게 하는, 진정한 최초의 자율 에이전트였으니까요."* ## [05:17] Onyx 제품이 하는 일 Onyx는 두 가지를 한다. 다른 에이전트를 감시하는 모델과 에이전트를 훈련하고, 그 역량을 엔터프라이즈 AI 스택에 꽂을 수 있는 '보안 컨트롤 플레인'으로 패키징한다. 컨트롤 플레인은 에이전트 행동의 정당성을 실시간으로 판단하면서 지연 시간, 비용, 신뢰성 사이의 균형을 관리한다. Maxim이 그리는 장기 비전은 엔터프라이즈 보안을 넘어선다. AI 에이전트를 운영하는 모든 회사는 그 에이전트가 무엇을 하는지 인증할 벤더 독립적인 주체가 필요하다. > *"이 행동들의 수가 기하급수적으로 늘어나고 있습니다. 과거에 유용할 것 같았던 것들 — 인간이 루프 안에 있는 것 — 이제 이 행동이 100배, 1000배, 100만 배가 된다면 그건 작동하지 않습니다."* ## [07:47] 대형 엔터프라이즈의 AI 도입 현황 오늘날 대형 엔터프라이즈의 AI 도입을 보면 Maxim은 세 가지 유형을 발견한다. 로우코드 SaaS 자동화(드래그앤드롭 방식, 진정한 자율성은 없음), 사내에서 구축하거나 고객 대면 제품으로 만든 자체 에이전트, 그리고 자율 코딩 에이전트와 어시스턴트다. 이 세 가지 중 코딩 에이전트가 AI 사용량의 50% 이상을 차지한다. 금융 서비스나 의료 같은 가장 성숙한 분야가 가장 엄격한 통제를 두고 있지만, 가장 신중한 기업들조차 AI를 전면 금지하는 단계는 지나 관리하는 단계로 넘어왔다. > *"평균적인 엔터프라이즈에서 자율 코딩 에이전트와 어시스턴트가 50% 이상입니다."* ## [09:58] 에이전트 보안 엔터프라이즈는 이미 보안에 연간 약 1,000억 달러를 쓴다 — 엔드포인트, 네트워크, 클라우드, 신원 관리. Sarah가 그 중 얼마나 에이전트 보안에 활용될 수 있는지 묻는다. Maxim의 답: 거의 없다. 가장 기본적인 계층인 신원 통제가 실패하는 이유는 에이전트들이 사전에 범위를 정할 수 없는 광범위하고 동적인 권한을 필요로 하기 때문이다. 저장소 전체에 걸쳐 코드를 작성하거나 임원을 대신해 이메일을 보내는 에이전트는 정적 소프트웨어 프로세스처럼 좁은 권한으로 묶을 수 없다. 공격 표면은 접근이 아니라 의도에 있고, 기존 도구는 의도를 읽지 못한다. > *"이 자율 AI, 이 어시스턴트, 이 코딩 에이전트들에게 사전에 어떤 권한을 줘야 할지 정말로 알 수가 없습니다."* ## [12:45] 프록시가 통하지 않는 이유 Sarah의 보안 배경에서 나온 직관: 이건 더 스마트한 정책 엔진을 가진 프록시 문제처럼 들린다. Maxim은 프록시가 일부 아키텍처에서 통합 지점으로는 작동한다고 인정하지만, 핵심 문제를 완전히 놓친다고 말한다. 프록시는 데이터 스트림을 준다. 그 스트림 안의 행동이 정당한지는 알려주지 않는다. 그 판단은 맥락 이해가 필요하다 — 에이전트의 목표, 이력, 엔터프라이즈가 허가한 것이 무엇인지. 어떤 규칙 엔진도 임의의 에이전트 행동에 걸쳐 그걸 평가하는 방법을 알지 못한다. > *"어려운 문제는 지금 내가 해야 할 일이 괜찮은지 이해하는 것입니다. AI 시스템의 경우 그게 바로 핵심 질문입니다."* ## [14:11] Onyx가 자체 모델을 훈련하는 이유 가장 단순한 해결책 — Claude Code로 Claude Code를 감시하는 것 — 은 비용과 지연 시간에서 무너진다. 모든 엔터프라이즈 에이전트에 대해 프론티어 모델 에이전트를 돌리면 보안 레이어가 보호 대상인 AI보다 더 비싸진다. Onyx의 답은 정확히 한 가지만 하는 작고 고도로 특화된 모델이다. 현재 행동을 더 무거운 감시자에게 에스컬레이션해야 할지 판단하는 것. Sarah는 블리츠 체스에 비유한다. 그랜드마스터는 빠른 수에서는 직관으로 두고 결정적인 분기점에서만 멈춘다. Maxim은 체스 비유가 맞다고 말한다 — 리스크가 가장 높은 지점에 지능을 집중하고 나머지는 최대한 가볍게 유지해야 한다. > *"한 가지만 잘하는 모델을 훈련하려고 합니다. 매우 작고, '더 스마트한 에이전트가 이걸 봐야 할까?'라고 말하는 것 외에는 거의 아무것도 못 하는 모델들이죠."* ## [18:38] Onyx의 인재 문화 8200 같은 부대, Armis와 Wiz 같은 회사로 대표되는 이스라엘의 보안 인재는 잘 알려져 있다. Onyx의 DNA는 다르다. 공동창업자 Gil의 배경은 공격적 사이버가 아니라 합성 데이터와 NVIDIA다. Onyx의 연구 엔지니어링 인력 대부분은 수학과 사이버의 교차점에 집중하는 이스라엘 정보부대 출신이다. Maxim은 이 조합이 의도적이라고 본다 — Onyx가 해결하려는 장기 문제는 엔터프라이즈 보안만이 아니라 어떻게 고도화된 AI를 통제할 것인가, 그 자체이기 때문이다. 그러려면 보안 감각 곁에 깊은 AI 전문성이 필요하다. 이스라엘 전체가 AI에서 빠르게 따라잡고 있다. 월드 모델, AI 인프라, 칩 분야 모두. > *"문제는 사이버보안만이 아닙니다. 장기적으로 고도화된 AI를 어떻게 통제할 것인가의 문제입니다 — 엔터프라이즈 보안 격차를 잊는다 해도 그 문제는 매우 중요하게 들립니다."* ## [21:24] 기계적 해석 가능성 Maxim은 기계적 해석 가능성 — 모델 가중치와 활성화 내부에서 실제로 무슨 일이 일어나는지 이해하는 것 — 이 가능하고 또 필요하다고 믿는다. 그의 반직관적인 테제: 모델이 중요한 영역에서 인간보다 훨씬 스마트해질수록, 다른 모델의 내부 구조를 해독하는 데도 우리보다 더 잘 갖춰질 것이라는 것이다. Onyx는 보안 도구로서만이 아니라 지능 자체를 이해하는 창으로서 이 분야 연구에 적극적으로 투자하고 있다. Sarah는 그 베팅을 지지하며, AI뿐 아니라 인지 자체를 이해할 기회라고 말한다. > *"적어도 일부 중요한 면에서 우리보다 훨씬 스마트한 모델을 갖게 되기 시작하면서, 기계적 역량을 훨씬 더 효과적으로 해독할 수 있게 될 것이라 생각합니다."* ## [23:35] Onyx가 고객 신뢰를 쌓는 방법 포춘 10, 20위 기업들은 보통 100명도 안 되는 2년짜리 스타트업과 일하지 않는다. 그 규칙을 깨는 것은 고통이다. 매일 에이전트 행동 사고를 겪는 CISO들에게는 전화할 기존 업체가 없다. 3년 전에는 이 문제 자체가 없었기 때문이다. Onyx는 스텔스에서 나오자마자 문제 설명이 자신들이 이미 불끄고 있던 것과 맞아떨어졌던 엔터프라이즈들로부터 인바운드를 받는다. Maxim은 이 창이 좁고 일시적이라고 본다 — 엔터프라이즈 구매자들은 신생 스타트업도 성장한다는 걸 알고, 뒤늦게 도입하는 것보다 일찍 제품을 함께 만들어가는 고객이 되는 걸 택한다. > *"이런 기회는 고통이 아주 강할 때만 생깁니다. 고통이 너무 강해서 이렇게 말하는 거죠. '이 회사가 방금 스텔스에서 나왔다고? 근데 내가 매일 겪는 문제야. 전화해봐야겠어.'"* ## [25:10] 근본적인 수준에서의 리스크 완화 CISO들의 두 번째 공황 — 에이전트 행동을 넘어 — 은 자동화된 취약점 연구의 비용이 급락하고 있다는 것이다. 코딩 도구가 이제 불과 몇 년 전만 해도 수십 년은 걸릴 것 같았던 규모로 취약점을 찾고 악용할 수 있다. Maxim은 시장이 과잉반응하는 게 아니라고 말한다. 이건 진짜 구조적 전환이다. 올바른 대응은 두 갈래다. 지금 당장의 빠른 패치와 완화 통제, 그리고 공격자의 도구가 무엇을 하든 상관없이 악용 가능한 표면을 줄이는 근본적인 통제 — 잠긴 신원, 방화벽, 엔드포인트 감지 — 에 대한 투자다. > *"진짜 해결책은 — 대형 엔터프라이즈의 모든 보안 리더가 알고 있듯이 — 이런 리스크를 피하기 위한 기반 요소들을 갖추는 것입니다."* ## [27:45] Glasswing과 Daybreak의 단계적 출시 Anthropic의 Glasswing과 OpenAI의 Daybreak — 더 강력한 모델에 대한 통제된 출시 프로그램에 대해 Maxim은 조건부 입장을 취한다. 단계적 출시는 전 세계적으로 조율된다면 이상적이다 — 플레이북을 만들고, 지식을 공유하고, 전력망이나 항공사에서의 대규모 실패를 방지할 시간을 벌어준다. 하지만 어떤 행위자가 단계적 일정보다 먼저 비슷한 수준의 모델을 출시한다면, 단계적 접근 자체가 오히려 부담이 된다. 조기 접근권을 얻지 못한 기업들이 대비할 기회조차 없었던 위협에 노출되기 때문이다. 그의 권고는 더 많은 조직이 병렬로 방어를 구축할 수 있도록 접근권을 넓게 열어주는 것이다. > *"만약 누군가가 메서드 수준 모델에 더 일찍 도달한다면, 돌이켜보면 그건 큰 실수였을 것입니다 — 적어도 기업들에게 매우 빠르게 움직일 선택권을 줄 수 있었을 텐데."* ## [29:11] 도입을 미루는 대형 엔터프라이즈 2년 전만 해도 대형 기업들 중 상당수가 단순히 AI를 금지했다. 오늘날 Maxim은 그런 경우를 거의 보지 못한다. 금융 분야는 여전히 제약을 둔다 — 에이전트는 허용하되 어떤 도구를 쓸지는 제한하는 식으로 — 하지만 전면 금지는 사라졌다. 그는 이것이 옳다고 본다. 특정 도구에 종속되는 것 자체가 리스크이기 때문이다. 이 시장이 움직이는 속도에서 한 벤더 모델에만 베팅하는 것은 다음 세대가 판도를 바꿀 때 발목이 잡힌다는 뜻이다. 폭넓은 도구를 허용하면서 엄격하게 관리하는 기업이 공격적으로 제한하는 기업을 앞설 것이다. > *"1년 전 OpenAI에 베팅했다면 세상에서 가장 안전한 베팅이었겠지만, 갑자기 Anthropic이 훨씬 더 좋은 모델과 도구를 갖게 됐죠."* ## [30:46] Onyx와 더 넓은 AI 보안 시장 AI 보안은 새로운 벤더와 새로운 공격 표면으로 혼잡하다. 제품 범위에 대한 불안에 Maxim이 내놓는 반론은 이렇다. 2026년 AI의 두 가지 핵심 기반 — 트랜스포머 기반 파운데이션 모델과 도구 호출 에이전트 루프 — 은 수년간 근본적으로 바뀌지 않았다. 그 안정성 덕분에 Onyx는 핵심 기술을 가볍게 유지하면서 다양한 에이전트 애플리케이션을 향해 구축할 수 있다. 아키텍처 전환에 대한 진짜 헤지는 어떤 단일 모델 패러다임이 영원히 지속될 것이라는 데 베팅하는 게 아니라, 빠르게 재훈련하고 적응할 수 있는 연구자에게 투자하는 것이다. > *"2026년 AI가 작동하는 두 핵심 기둥은 지난 몇 년간 바뀌지 않았습니다. 여전히 대체로 LLM 파운데이션 모델이고, 여전히 거의 같은 방식으로 에이전트를 구축하고 있죠."* ## [32:36] 랩들이 모델 신뢰와 거버넌스를 직접 해결해야 할까? 베이 에어리어에서 가장 뜨거운 질문. 랩들이 결국 신뢰와 거버넌스 문제를 스스로 흡수할까? Maxim이 내놓는 구조적 반론은 이렇다. 구매자들은 차를 판 사람이 차를 인증하는 걸 원하지 않는다. 보안팀에는 자신의 제품 명성을 지키는 벤더가 아니라, 사업 모델 자체가 옳아야만 살아남는 독립적인 주체가 필요하다. 구매자 심리를 넘어서, Maxim은 '들쑥날쑥한 지능' 실수 — 더 강한 모델이 나오면 나아질 어리석은 오류들 — 와 의도 수준의 실패 — 적대적 조작, 잘못 정렬된 목표, 목표 표류 — 를 구분한다. 랩들은 첫 번째 범주는 고칠 것이다. 두 번째는 구조적으로 독립된 감시자만이 다룰 수 있다. > *"어떤 제품의 벤더가 그 제품이 당신의 환경을 망가뜨리지 않을 것이라고 말하는 걸 신뢰하지는 않을 것입니다. 전적으로 이 제품이 올바르다고 말하는 것에 사업이 달린 독립적인 주체를 원하겠죠."* ## [36:56] 보안에서 반드시 일어나야 할 것들 Sarah가 묻는다. 더 넓은 기술 및 연구 커뮤니티 — 특히 랩들 — 가 보안 관점에서 무엇을 놓치고 있는가. Maxim의 답: 기술적 격차가 아니라 공감의 격차다. 보안 제품을 만들려면 보안팀이 실제로 어떻게 운영되는지 깊이 이해해야 한다 — 조직 구조, 책임 범위, 정보 흐름. 이스라엘이 강한 보안 인재를 배출하는 이유 중 하나는 군 복무가 엔지니어들에게 나중에 자신이 만들 제품의 최종 사용자가 되는 직접 경험을 주기 때문이다. 랩들은 그 제품을 배포하고 방어해야 할 조직의 운영 현실에 충분히 주의를 기울이지 않고 역량을 구축하고 있다는 것이 그의 암묵적 지적이다. > *"어떤 기술 문제를 해결하든 결국 사람을 위한, 특정 구조를 가진 조직을 위한 도구를 만드는 것입니다. 기술 문제만 해결하는 게 아니라 그들이 진심으로 좋아하는 제품을 이 대상을 위해 만드는 건 정말 어렵습니다."* ## [39:14] Maxim이 AGI를 믿는 이유 Sarah가 마무리하며 Maxim이 인간 보안팀이 앞으로도 몇 년은 존재할 것이라고 암묵적으로 믿고 있음을 지적한다. 그는 맞다고 하면서도 타임라인을 더한다. 보안팀은 가까운 미래에 완전히 AI 에이전트가 운영할 것이다. 대부분의 지식 노동이 그렇게 될 것처럼. 그가 말하는 현실적인 AGI 낙관론은 훌륭한 제품을 만드는 일은 변하지 않는다는 것이다. 최종 사용자가 누구인지 항상 알고 그들의 경험을 최적화해야 한다. 지금은 몇 명의 에이전트를 곁에 둔 인간이다. 그 비율이 뒤집힐 때도 같은 원칙이 적용된다 — 다만 대시보드 대신 컨텍스트 창을 읽는 에이전트를 대상으로 할 뿐이다. > *"오늘 제가 제품을 팔 때는 몇몇 에이전트가 곁에 있는 인간 대상에게 팝니다. 그 대상이 인간보다 에이전트가 더 많아지면, 에이전트가 일을 하는 방식에 맞게 진화하고 잘 작동하게 만드는 것이 중요해질 것입니다."* ## 등장인물 - **Maxim Bar Kogan** (인물): Onyx Security 공동창업자 겸 CEO. 이스라엘 정보부대 출신, 수학과 공격적 사이버 배경. - **Sarah Guo** (인물): No Priors 진행자, Conviction의 창업자 겸 GP. - **Onyx Security** (조직): AI 감시 인프라를 구축하는 이스라엘 기반 스타트업. 엔터프라이즈 AI 에이전트를 모니터링하고 통제하기 위한 특화된 소형 모델을 훈련한다. - **AutoGPT** (소프트웨어): 초기 오픈소스 자율 LLM 에이전트. Maxim이 에이전트 리스크를 구체화한 변곡점으로 꼽은 프로그램. - **Glasswing / Daybreak** (소프트웨어): 각각 Anthropic과 OpenAI의 프론티어 모델 접근에 대한 통제된 출시 프로그램. - **기계적 해석 가능성** (개념): 신경망의 내부 가중치와 활성화 구조를 이해하려는 연구 프로그램. Onyx는 이를 AI 감시의 장기 기반으로 삼는다. - **보안 컨트롤 플레인** (개념): Onyx의 제품 카테고리 — 에이전트 권한, 행동 정당성, 행동 이력을 실시간으로 모니터링하는 벤더 독립적 레이어. - **8200** (조직): 이스라엘 정보부대. 이스라엘 최고의 보안 및 기술 인재, Onyx 엔지니어 다수를 배출한 것으로 알려져 있다.

Apollo CEO Marc Rowan은 1990년 Drexel의 붕괴 — 일요일에 짐을 상자에 담아 사무실을 떠나던 날 — 부터 오늘날 Apollo가 세계 최대 사모 은퇴소득 공급자이자 글로벌 산업 르네상스의 핵심 금융 주체로 자리 잡기까지의 궤적을 직선으로 연결해 보인다. 그와 a16z GP David Haber는 S&P 500의 절반에 육박하는 10개 종목으로 공모 시장이 집중되는 상황에서 사모 시장이 분산투자의 구조적 필수재가 된 이유, 일일 시가평가 방식이 사모 신용에 다섯 개 새로운 자본 채널을 어떻게 열 것인지, 그리고 AI가 모든 직업을 대체하거나 강화할 것이라는 Rowan의 확신 — 블루칼라를 부상시키고 지난 10년 사모펀드 빈티지의 엔터프라이즈 소프트웨어 에쿼티를 재앙으로 만들 것이라는 전망 — 을 함께 풀어나간다. ## [00:00] 인트로 대화 전체를 관통하는 세 가지 실이 처음부터 등장한다. 공모 에쿼티의 집중 위험(S&P 500의 50%에 근접하는 10개 종목), Anthropic과 SpaceX 같은 비상장 기업에 묶인 수십조 달러의 가치에 대부분의 투자자가 접근조차 못 한다는 현실, 그리고 AI가 모든 직업을 대체하거나 강화할 것이라는 Apollo의 운용 전제다. Rowan은 본격적인 인터뷰에 앞서 Apollo 사무실에서 자리를 마련해 준 Haber에게 감사를 전한다. > *"현재 미국에서 10개 종목이 S&P의 거의 50%를 차지하고 있으며, 이들 모두 같은 트렌드에 연동되어 있습니다... 분산투자를 원하는 투자자라면 사모 시장 외에 다른 선택지가 없습니다."* ## [00:52] Drexel, Milken과 백지 사고의 기원 Rowan이 Goldman이 아닌 Drexel을 택한 이유는 기업가에게 자금을 대는 일이 기술적 금융 지식보다 깊은 사업 판단력을 요구했기 때문이다. 실시간으로 발명되던 고수익 채권 시장 — PIK 채권, 은 연동 채권, 고신뢰 레터, 브릿지 파이낸싱 — 은 모두를 백지 문제 해결로 내몰았다. Michael Milken의 가장 오래 남은 교훈은 지정학, 기술, 시장을 아우르는 일관된 프레임워크로 점을 연결하는 능력이었고, "변화를 받아들이거나 변화가 찾아온다"는 그의 말은 Apollo의 핵심 원칙이 됐다. > *"PIK 개념은 어느 날 오후 한 문제를 푸는 과정에서 탄생했다고 생각합니다... 이 모든 것이 기본적으로 문제-해결의 반복이었습니다. 사업을 이해하고, 신용을 이해하되 백지 사고를 유지하는 그 사고방식이 오늘날 Apollo를 움직이는 힘입니다."* ## [04:55] Apollo 창업 이야기: 실직에서 60억 달러까지 1990년 주말 사이에 Drexel이 쓰러졌을 때, Rowan과 동료들은 회사도 보수도 없는 상태에서 고객 거래를 마무리하고 있었다. 그 순간 새겨진 교훈은 명확했다. 금융사는 심장마비(조달 리스크 — 단기로 빌려 장기로 빌려주는 방식, Bear Stearns와 Lehman이 나중에 증명함)나 암(손실을 인식하는 대신 부실 자산을 쌓아가는 방식)으로 죽는다는 것이다. 프랑스 Crédit Lyonnais로부터의 뜬금없는 전화 — 처음에는 M&A 부티크 설립 제안 — 는 프랑스 정부의 8억 달러 시드 투자로 이어졌고, 1990년 말에는 60억 달러로 불어나 Apollo는 그 은행의 최대 수익원이 됐다. > *"저는 금요일에 사무실에 들어갔다가, 일요일에 짐을 상자에 담아 나왔고, Drexel은 폐업해 있었습니다."* ## [08:46] Apollo가 1조 달러 규모 은퇴·신용 회사가 된 과정 오늘날 Apollo는 투자등급 신용이 80%, 에쿼티가 20% — 하이브리드와 전통 사모를 합쳐 — 로 구성돼 있어, 대중의 인식과는 정반대다. Rowan은 세 가지 본질적 가치를 사업의 토대로 삼는다. 고령화·저축 부족 인구에 은퇴소득을 제공하는 것, 에너지·제조·AI·국방 분야의 글로벌 산업 르네상스에 자금을 대는 것, 그리고 소수 종목에 집중되는 공모 시장에서 진정한 분산투자를 제공하는 것이다. 에쿼티에서 벌어지는 집중 현상은 채권 시장에도 찾아오고 있으며, 10개 은행이 5개 은행과 5개 기술 플랫폼으로 재편되고 있다. > *"사모 시장이 세상에서 일어나는 일의 80%를 차지합니다... Anthropic, OpenAI, SpaceX, Cognition, Cursor — 이 모든 훌륭한 기업이 비상장이고, 수조 달러의 가치를 지니지만 대부분의 투자자는 이들에 전혀 노출돼 있지 않습니다."* ## [13:00] 영구 자본, 자산 발굴, 그리고 자산이 희소 자원인 이유 공모 시장에 무제한 자본을 배치할 수 있는 전통 자산운용사와 달리, Apollo의 제약은 가용 자본이 아니라 자산 발굴 능력이다. 자산의 희소성이 진짜 병목이기 때문에, 모든 거래에서 수수료 수익과 고객과 이해관계를 맞추는 본인 투자 포지션을 통해 최대한의 가치를 이끌어내야 한다. Rowan은 "자본 경량화"에 명확히 반대한다. 브랜드, 평판, 결과 보장 능력이 중요한 세계에서 큰 대차대조표는 죽은 무게가 아니라 경쟁 무기다. > *"그래서 저는 우리가 흥미로운 투자를 만들어내는 능력으로 평가받아야 한다고 생각합니다. 그리고 그 능력은 제한돼 있습니다."* ## [16:08] 사모 시장의 대중화: 일일 가격 산정과 새로운 자본 채널 대안투자 산업은 기관 대안투자 버킷이라는 단일 자본 원천을 위해 만들어졌지만, 이제 다섯 개 새로운 시장이 접근을 원한다. 개인 투자자, 보험사, 전통 자산운용사, 401(k) 플랜, 그리고 기관의 채무·에쿼티 버킷이다. 이들 중 누구도 드로우다운 펀드를 원하지 않는다. Apollo는 6월 30일까지 투자등급 사모 상품에 대한 일일 추정 가치 산정을 도입하고, 9월까지 전체 신용 상품에 걸쳐 완전한 일일 가격 산정, 표준화된 데이터 웨어하우스, 마켓 메이킹, 정기적 가격 공시 체계를 갖출 계획이다. Rowan은 언론이 좁게 정의하는 직접 대출로서의 사모 신용과 실제 사모 신용 시장 — Intel, Air France, AT&T, Meta 같은 기업들, 즉 은행이 구조화할 수 없는 복잡하고 비표준적인 장기 금융이 필요한 정교한 차입자들 — 을 명확히 구분한다. > *"저는 투명성과 가격 발견이 있는 시장이 열 배 규모가 되지 않는 경우를 본 적이 없습니다... 불편할 수 있지만, 이 변화는 반드시 옵니다."* ## [22:04] 벤처와 신용의 교차점: 산업 르네상스 금융 Rowan과 Haber는 "전문 분야들 사이의 기회"를 공통된 투자 철학으로 꼽는다. 지금 그들이 보는 교차점은 이렇다. 역사적으로 자본 집약을 피해온 벤처 지원 기업들이 에쿼티만으로는 조달할 수 없는 규모의 데이터 센터, 반도체, 로봇, 제조 라인, 국방 시스템을 갑자기 구축하고 있다. Apollo는 위험을 분리해 — 벤처가 핵심 사업 인수를 맡고, 실물 담보가 있는 인프라 자산은 적정 위험 등급으로 신용 시장으로 이동하도록 — 역할을 나눈다. Rowan의 틀에서 보면, 2025년은 데이터 센터·반도체·에너지가 필요하다는 것을 증명한 해였고, 2026년은 투자자들이 4개 상장 기업의 8,000억 달러 설비투자가 집중 한도에 부딪히고, 스프레드가 확대되며, 기술 기업가들이 금융 기업가와 손잡아야 한다는 현실을 인식하는 해다. Apollo는 성장 생태계 인재 풀을 위해 베이 에어리어에 제2 본사 설립을 확약하고 있다. > *"데이터 센터, 반도체, 로봇, 제조, 국방에 투입될 자금의 규모는 제가 말씀드렸듯이 불의 발명 이후 투입된 모든 돈과 맞먹으며, 그것은 에쿼티로 조달되지 않을 것입니다."* ## [30:01] AI, 엔터프라이즈 소프트웨어, 모든 직업이 대체되거나 강화되는 이유 Rowan의 운용 전제: 모든 직업은 AI에 의해 대체되거나 강화된다. 그는 지난 10년 사모펀드 AUM의 30%가 엔터프라이즈 소프트웨어에 투입됐고, AI가 그 자산들의 가격을 영구적으로 재조정했으며, 그 빈티지의 PE 수익이 "재앙"이 될 것이라고 단호하게 말한다. 기업들이 실패해서가 아니라, 투자 당시 지불한 가격이 AI 경쟁자 없는 미래를 전제로 했기 때문이다. 그의 분석 틀은 이렇다. AI는 정답이 있는 영역(코딩, 회계, 트레이드 옵스)에서 가장 빠르게 변화하고, 판단이 대체 불가능한 영역에서는 느리다. 단기적으로는 블루칼라의 부상과 화이트칼라의 쇠락이 예상되며, 이는 진보 도시들에게 정치적으로 불편한 현실이다. 대출자로서의 교훈은 옐로우 페이지, 케이블 TV, 위성방송의 사례에서 나온다. 분산하고, 시니어 포지션을 유지하고, 실물 담보를 추구하며, 5~7년 이상의 지평을 전제로 인수하지 말라. > *"우리는 모든 직업이 대체되거나 강화될 것이라는 전제 아래 운용합니다. 모든 단일 직업이요. 그리고 저는 그것이 실제로 일어날 일이라고 생각합니다."* ## [38:52] 도덕적 리더십: UPenn, 능력주의, 쉬운 길보다 옳은 길 10월 7일 이후, Rowan은 팔레스타인 권리 컨퍼런스 전에 Penn 총장에게 직접 편지를 썼다. 그가 지적한 것은 표현의 자유가 아니라 "편향된 자유" — 유대인 고휴일 기간에 알려진 하마스 지지자가 주도하는 컨퍼런스를 대학이 지원하는 것 — 였다. 그는 더 광범위한 캠퍼스 위기를 반미주의, 반능력주의로 규정했다. 거의 모든 기부자가 연간 1달러로 기부를 줄이자 Penn 행정부가 반응했고, 이후 의회 청문회에서는 이사회 의장과 총장이 모두 사임했다. 2021년 CEO 취임 이후 내부적으로 적용해온 Rowan의 더 넓은 원칙은 이렇다. 텍사스에서도, 캘리포니아에서도 같은 말을 하라. 기후에 대해서는 "탄소 제로" 절대주의 대신 "더 낫게, 더 나쁘지 않게". 채용에 대해서는 "이동 거리를 고려한 능력주의" — 개인의 성취로 측정되며, 집단 소속이 아닌 개인을 기준으로 한다. > *"우리는 이동 거리를 고려한 능력주의를 기준으로 채용합니다. 이동 거리는 불변의 특성에 관한 것이 아니라 개인으로서의 당신에 관한 것입니다 — 당신의 계급이나 집단이 아니라요. 무언가를 극복하면서도 성취를 이뤄낸 사람을 보여주세요."* ## [46:02] Apollo의 문화: 이기기 위해 뛰고, 창업자를 넘어서도록 구축하기 자산운용과 은퇴 서비스 부문을 합쳐 6,000명에 이르는 Apollo는 6개월 동안 — 내부적으로, 시니어 파트너들과 함께 — Apollo다움의 정의를 협상했다. 그 결과물은 Apollo 채용 페이지에 공개된 문서로, 후보자 필터로서 의도적으로 솔직하게 작성됐다. 여섯 가지 원칙은 "이기기 위해 뛰는 것"으로 압축되며, Rowan은 이를 지는 것에 대한 두려움과 명확히 구분한다. 시니어 전문가는 약 40%의 확률로 틀릴 것으로 예상되고, 잘못된 결정 때문에 해고되는 사람은 없으며(인정하지 않거나 수습하지 않을 때만 해고된다), 모든 시니어 인원은 공개적인 "수치의 벽" 손실 기록을 가진다. 백지 사고, 지적 반항심(진짜 반항과 구별되는), 그리고 직원들의 삶에서 "중요한 순간들"을 다루는 방식이 창업자로서 자신이 남기고 싶은 유산이다. Apollo는 펀드를 운용하는 것이 아니라 금융 기관을 만들고 있다 — 향후 5년간의 상품, 인프라, 마켓 메이킹 혁신은 지난 5년보다 훨씬 큰 변화를 가져올 것이다. > *"여기서는 잘못된 결정을 내렸다고 해고되지 않습니다. 그것을 인정하지 않거나, 책임지지 않고 수습하지 않을 때 해고됩니다. 우리에게는 수치의 벽이 있습니다. 모든 시니어 전문가는 회사에 손실을 입힌 기록이 있습니다."* ## 엔티티 - **Marc Rowan** (인물): Apollo Global Management 공동 창업자, CEO 겸 이사회 의장. Drexel Burnham Lambert 전 애널리스트. UPenn 동문 겸 주요 기부자 - **David Haber** (인물): Andreessen Horowitz (a16z) 제너럴 파트너. The a16z Show 진행자 - **Michael Milken** (인물): Drexel Burnham Lambert 금융인. Rowan의 오랜 멘토. PIK 채권, 브릿지 파이낸싱, 하이일드 시장 발명에 기여한 인물로 평가됨 - **Apollo Global Management** (조직): 1조 달러 이상의 대안 자산운용사. 투자등급 신용 80% 비중. Athene 은퇴 서비스의 공동 창업사. 베이 에어리어 제2 본사 설립 예정 - **Athene** (조직): Apollo의 은퇴 서비스 자회사. 보험 및 연금 상품 공급자로 Apollo 영구 자본 기반을 구성 - **Andreessen Horowitz (a16z)** (조직): 실리콘밸리 벤처캐피털 회사. 자본 집약적 기술 기업을 위한 자본 파트너십을 Apollo와 모색 중 - **Crédit Lyonnais** (조직): 1990년 Apollo에 8억 달러를 시드 투자한 프랑스 정부 은행. 이후 60억 달러로 성장. 나중에 François Pinault에게 Apollo 지분 매각 - **사모 신용 (Private Credit)** (개념): 공모 채권 시장을 우회해 기업과 인프라 프로젝트에 직접 투자등급 채무를 제공하는 방식. "레버리지드 바이아웃 직접 대출"보다 훨씬 광범위한 개념 - **영구 자본 (Permanent Capital)** (개념): 보험 및 은퇴 상품에서 나오는 장기 부채로, 펀드 환매 압력 없이 사이클을 통해 자산을 보유할 수 있게 해주는 구조 - **산업 르네상스 (Industrial Renaissance)** (개념): Rowan의 용어로, 신용 시장 규모의 금융이 필요한 데이터 센터, AI 반도체, 에너지 인프라, 제조, 로봇, 국방의 동시적 글로벌 구축을 지칭 - **일일 추정 가치 (Daily Estimated Value)** (개념): 투자등급 사모 신용 상품의 일일 가격 산정을 위한 Apollo의 이니셔티브. 자산운용사, 401(k) 플랜, 전통 자산운용사의 접근을 가능하게 함

Dan Shipper의 Every는 GPT-3 이후 직원이 4명에서 30명으로 늘었다. 거의 모든 워크플로에 에이전트를 쓰면서도 채용을 계속하고 있다. 이번 에피소드에서는 *AI & I* 포맷을 뒤집어, COO Brandon Gell이 Dan에게 그의 8,000단어짜리 에세이 "After Automation"을 놓고 인터뷰한다. 에세이의 핵심 논지: AI 역량이 높아질수록 전문가적 인간 판단에 대한 수요는 줄어드는 게 아니라 오히려 늘어난다. 메커니즘은 이렇다. AI가 어제의 전문가 역량을 값싸고 보편적으로 만들면, 각 도메인에 '거의 맞지만 완전히 맞지는 않은' 결과물이 넘쳐나고, 그 간극을 메울 수 있는 인간의 일이 더 많이 생긴다. ## [00:00] AI가 해내고, 다음은 뭐야? 인터뷰 후반부의 이 교환이 에피소드 전체의 긴장을 압축적으로 보여준다. Brandon은 전형적인 AI 순간을 묘사한다. 프롬프트를 날리면 AI가 놀라운 결과를 내놓고, 자신이 쓸모없어진 것 같은 기분이 든다. 그러다 AI가 멈추고 "다음엔 뭘 할까요?"라고 묻는다. Dan은 이 에피소드 전체를 관통하는 한 문장으로 받아친다. "에이전트가 인간에게서 멀어질수록 가치가 떨어진다." 두 클립은 본 대화(각각 00:11과 00:35 부근)에서 가져온 것으로, 뒤에 이어질 내용의 프레임 역할을 한다. > *"에이전트가 인간에게서 멀어질수록 가치가 떨어진다."* ## [00:51] 소개 Brandon이 포맷 전환을 알린다. 오늘은 Dan이 인터뷰어가 아니라 인터뷰이이며, Brandon이 Dan의 논지에 적극적으로 반박하겠다고 예고한다. Dan은 에세이가 탄생한 배경을 설명한다. 에이전트 기반 운영에서 가장 앞서 있는 회사 내부에 앉아, 자동화와 함께 인력이 오히려 늘어나는 현실을 지켜보다가, AI가 일자리를 없앤다는 주류 서사와의 괴리를 느꼈다고 한다. ClickUp CEO가 최근 직원 대규모 해고를 AI 덕분이라고 트위터에 올린 사건이 첫 번째 압박 테스트로 등장한다. "After Automation"의 논리가 Early Adopter 소규모 스타트업이 아닌 성숙한 대기업에도 통하느냐는 질문이다. > *"우리 Slack에서 막대기를 휘두르면 사람을 맞출 확률이나 에이전트를 맞출 확률이나 비슷하다."* ## [05:51] AI 역설: 자동화가 늘수록 인간의 일도 늘어난다 Dan이 핵심 논증을 전개한다. AI는 이전의 모든 결과물로 학습했기 때문에 '어제의 전문가 역량'을 싸고 빠르게 제공할 수 있다. 그 덕에 운영 담당자가 Pull Request를 머지하고, 개발자가 아닌 사람도 기능을 출시한다. 하지만 그 결과물은 한결같이 '거의 맞지만 완전히 맞지는 않다'. 현재 상황에 정밀하게 맞춰지지 않는 것이다. 결국 자체적으로 가치가 떨어지는 유사-정답의 홍수가 생기는 동시에, 그 결과물을 제대로 완성할 수 있는 전문가에 대한 수요가 오히려 늘어난다. Brandon은 Every 내부 사례를 덧붙인다. 표면상 그럴듯해 보이는 PR이지만, 시니어 엔지니어가 들여다보면 허점이 드러난다. > *"거의 맞지만 완전히 맞지는 않은 결과물로 판을 가득 채우는 셈이다."* ## [10:00] AI가 어제의 전문가 역량을 값싸게 만드는 법 Dan은 벤치마크 반론으로 논증을 확장한다. 맞다, 모델은 지수적으로 개선된다. 하지만 벤치마크가 포화되면 문제를 조금만 다르게 틀어도 다시 불포화 상태가 된다. 더 근본적인 문제는, 인간에게는 명확히 명시하기 어려운 암묵적 역량의 층위가 있다는 것이다. 말로 설명할 수 있는 것은 모델이 집중적으로 학습할 수 있지만, 말로 설명하기 어려운 것은 여전히 인간의 영역으로 남는다. Every의 경험도 이를 뒷받침한다. Kieran은 한두 달 만에 인박스 기능을 처음부터 끝까지 혼자 만들어냈는데, 이전에는 "완전히 불가능했던" 일이다. 그러나 그 가치는 무엇을 만들어야 하는지 알고 매 단계를 방향 잡아준 전문가에게서 나왔다. > *"당신이 하는 일 중에는 깔끔한 틀로 설명할 수 없는 것들이 실제로 많다."* ## [18:00] AI는 자율적으로 행동할 수 있지만 주체성은 없다 Brandon이 자율성과 주체성의 선을 긋는다. AI 에이전트가 핸드홀딩 없이 열린 과제를 수행하는 능력은 빠르게 좋아지고 있지만, 그것은 주체성, 즉 어린아이조차 가진 '그냥 하고 싶어서 하는' 자기동기적 욕구와는 범주가 다르다. Dan도 동의한다. 경제적으로 그런 것을 만들 유인이 없다. 책상 앞에 앉아 있는데 에이전트가 "오늘은 별로요"라고 하면 제품 실패다. 산업 전체의 인센티브 구조가 순응성과 수정 가능성을 향해 있고, 그것이 바로 인간을 루프 안에 묶어두는 힘이다. > *"에이전트는 다른 누군가를 대신해 행동하는 존재다. 그것은 어린아이조차 가진 주체성과는 완전히 다르다."* ## [20:39] Dan이 AGI에 전적으로 베팅하는 이유 Brandon이 한 단어 답변 테스트를 제안한다. AGI가 올 거라고 생각하나? Dan: 네. 그게 좋은 일인가? Dan: 네. Dan의 AGI 정의는 명확하다. 재프롬프팅 없이 스스로 계속 토큰을 생성하며 과제를 완수하는 에이전트를 계속 켜두는 것이 경제적으로 합리적인 상태. 그의 근거: 진정으로 자율적인 시스템조차 인간의 목표를 위해 만들어진 것이며, 그렇지 않다면 애초에 만들어지지 않았을 것이다. Brandon의 우려는, 연속 에이전트가 경제적으로 합리화되는 순간 대규모 해고 논리가 설득력을 얻는다는 것이다. > *"절대 끄지 않아도 되는 에이전트, 즉 재프롬프팅 없이 계속 작업을 수행하도록 켜두는 것이 경제적으로 말이 되는 에이전트."* ## [21:57] AI 해고는 거짓말이다 Dan과 Brandon이 ClickUp 사례를 해부한다. CEO가 공개적으로 직원 대규모 해고를 발표하며 AI를 이유로 들었다. Dan의 해석: 어려움을 겪거나 과잉 비대화된 일반 SaaS 기업들이 AI를 핑계 삼아 정리해고를 한다. Brandon은 Jensen Huang의 반박을 덧붙인다. "발전에 대한 답이 해고라면 창의적이지 못한 CEO"라는 말은 자기 이익을 담고 있지만 아마 맞는 말이다. 솔직한 구도는 이렇다. AI는 워크플로를 깊이 바꾸고, 그것은 전사적 재편을 요구한다. 그 작업을 건너뛰고 그냥 인원을 자르는 기업은 쉬운 길을 택하는 것이다. Meta가 직원 로그를 수집해 학습 데이터로 쓴다는 이야기도 잠깐 언급된다. > *"AI가 모든 일자리나 모든 지식 노동을 없앨 것이라고 말하는 사람은 정말 의심해봐야 한다."* ## [25:42] 모델을 타면 괜찮다 AGI 시나리오 아래서도 결정적인 변수는 '무엇이 중요한지'에 대한 인간의 판단이다. 그리고 무엇이 중요한지는 끊임없이 바뀐다. 일부는 AI 자체가 세상을 계속 재편하기 때문이다. 챗봇을 불신하는 오마하의 고객 서비스 노동자들, 혹은 지원 직원을 잘랐다가 두 달 후 조용히 다시 뽑는 기업들은 현실 세계의 도입이 얼마나 과대 선전보다 느리게 이루어지는지 보여준다. 도입은 한 세대가 걸린다. 결국 모든 사람이 이 도구에 접근하게 된다. 승자는 새로운 모델이 나올 때마다 계속 배우는 사람들이다. Dan이 이 에피소드에서 가장 깔끔하게 정리한 말: 모델을 타면 괜찮다. > *"새로운 모델이 나오면 자신이 하는 일에 그 모델을 쓰는 법을 배우면 된다. 그러면 괜찮다."* ## [35:30] AI를 장문 피처 에디터로 쓰는 법 Dan이 "After Automation" 집필에 활용한 AI 보조 과정을 구체적으로 설명한다. 매일 아침 Proof에 그날의 논증 상태를 음성으로 독백처럼 기록했다. 그런 다음 그 로그를 Claude에 넘기며 "내가 진짜 하려는 말이 뭐야?"라고 물었다. Claude의 답을 듣고서야 "아, 이게 내가 말하려던 거구나"라고 깨닫는 식이었다. 초고가 4,000단어를 넘기 시작하자 Codex로 최신 버전을 팟캐스트 오디오로 변환해 출퇴근길에 들으며 흐름 문제를 잡았다. 에세이는 논증이 자리를 잡기까지 네다섯 번 완전히 다시 쓰였다. Dan의 결론: AI가 에세이를 쓴 건 아니지만, 8,000단어짜리 구조 전체를 실타래 놓치지 않고 머릿속에 담아두는 것을 가능하게 해줬다. > *"이것 없이는 쓸 수 없었다. Claude에게 내 로그를 주면서 '내가 진짜 하려는 말이 뭐야?'라고 물었다. 그러면 Claude가 뭔가를 말해주고, 나는 '아, 그게 내가 말하려던 거구나'라고 했다."* ## 등장인물 및 개념 - **Dan Shipper** (인물): Every의 공동창업자 겸 CEO; *AI & I* 정규 호스트; 이번 에피소드에서는 자신의 에세이 "After Automation"을 주제로 인터뷰를 받는 게스트 - **Brandon Gell** (인물): Every의 COO; 포맷을 뒤집어 이번 에피소드에서 Dan을 인터뷰하는 진행자 - **Every** (조직): AI 네이티브 미디어·소프트웨어 기업; GPT-3 이후 자동화를 확대하면서 4명에서 30명으로 성장; *AI & I* 팟캐스트 발행사 - **After Automation** (개념): Dan Shipper의 8,000단어 에세이; AI 자동화가 각 도메인에 유사-정답 결과물을 넘쳐나게 해 오히려 전문가 인간 노동 수요를 높인다는 주장 - **전문가 역량 격차** (개념): AI가 '어제의 전문가 역량'을 값싸게 제공하지만 항상 조금 빗나가며, 그 격차를 현재 상황에 맞게 좁힐 수 있는 인간이 더 필요해진다는 논지 - **AGI** (개념): 이 에피소드에서 재프롬프팅 없이 계속 켜두는 것이 경제적으로 합리적인 에이전트로 정의됨; Dan은 실현 가능하고 순편익이라고 본다 - **자율성 대 주체성** (개념): Brandon이 구분한 개념; AI가 핸드홀딩 없이 열린 과제를 수행하는 능력(자율성)과 자기동기적 욕구를 갖는 것(주체성)은 다르며, 후자는 개발되고 있지 않다 - **Proof** (소프트웨어): Dan이 매일 음성 독백 초고를 기록하는 글쓰기 도구; 에세이 개발 중 AI 피드백 루프로 활용됨 - **Codex** (소프트웨어): Dan이 에세이 초고를 오디오 팟캐스트 형식으로 변환해 출퇴근 중 검토하는 데 쓴 OpenAI 도구 - **ClickUp** (조직): CEO가 직원 대규모 해고를 AI 덕분이라고 공개 발표한 SaaS 기업; AI 세탁 해고의 사례 연구로 등장

BioHub 과학 총괄이자 Meta FAIR에서 ESM-1부터 ESM-3까지 이끈 연구자 Alex Rives가 Brandon, RJ Honicky와 함께 출연해, 마스크드 언어 모델을 단백질 서열에 스케일링하면 생물학적 구조·기능·설계의 문이 열린다는 8년간의 확신을 풀어놓는다. UniRef에서 메타게놈 데이터로의 전환이 ESMC 스케일링 법칙을 어떻게 되살렸는지, 희소 오토인코더 특징 지도가 100년간의 생화학 분류 체계를 학습 없이 어떻게 재현하는지, 그리고 월드 모델 탐색으로 치료 등급 단일 사슬 항체를 처음 설계하는 데 성공한 과정을 다룬다. Rives는 또한 BioHub의 5억 달러 규모 가상 생물학 이니셔티브와 세포 일반화 모델을 만들기 위한 원칙도 제시한다. ## [00:00] ESMC가 항체를 설계한다 — 미리보기 인터뷰 후반부에서 Rives가 ESMC의 프로그래밍 가능한 생물학 접근 방식을 설명하는 장면을 발췌했다. 그는 설계 기준을 충족하는 단백질을 월드 모델에서 탐색한다고 설명하며, 팀이 미니 바인더와 특히 치료적으로 유의미한 결합 친화도를 지닌 단일 사슬 항체 단편(SCFV)을 설계하는 데 성공했다고 밝힌다. 본 클립은 정식 인트로 전에 배치되어, 에피소드가 어디로 향하는지를 암시한다. ## [00:33] 단백질에도 쓴맛 교훈이 온다 Brandon과 RJ Honicky는 Alex Rives를 "단백질 생물학계에서 지금 가장 쓴맛 교훈에 가까운 사람"으로 소개한다. Rives는 그 말을 받아들인다. 그는 자신의 확신을 2018년으로 거슬러 올라가 설명한다. 당시 Meta FAIR 팀이 마스크드 토큰 예측 방식으로 단백질 서열에 첫 번째 트랜스포머 언어 모델을 훈련했을 때, 명시적인 지도 없이 구조·기능 표현이 저절로 나타났다. 핵심 직관은 Zellig Harris의 1954년 논문에서 빌려온 것으로, 아미노산이 등장할 수 있는 맥락은 그 단백질의 구조·기능·진화적 역할에 의해 결정된다는 것이다. 생명 전체에 걸쳐 수십억 개의 서열에 이 통계적 압력을 가하면, 단백질 생물학을 지배하는 잠재 변수를 모델이 학습해야 한다. > *"저는 스케일링 법칙을 믿습니다."* ## [06:00] ESM 계보: ESM2에서 ESMC까지 Rives는 ESM 4세대의 흐름을 짚는다. ESM2는 스케일링 이득을 보여줬지만 100억 파라미터 근처에서 수확 체감에 부딪혔다. 모델이 포화된 게 아니라 데이터가 포화된 것이었다. 배양 가능한 생물 위주로 편향된 UniRef 대신, ESMC는 메타게놈 데이터를 사용했다. 열수 분출공, 극지 토양, 하수에서 뽑아낸 서열들을 생물종 분류 없이, 부분 컨티그까지 포함해 원시 환경 DNA에서 조립한 것이다. 수십억 개의 메타게놈 서열을 학습에 추가하자 깔끔한 로그 선형 스케일링 법칙이 복원됐고, 소규모 실험만으로도 60억 파라미터 플래그십의 표현 충실도를 정확하게 예측할 수 있었다. > *"규모 확장의 수확 체감은 이제 없습니다. ESM2는 컴퓨팅이 아니라 데이터에 의해 제한되고 있었습니다."* ESMC는 표준 마스킹 목표를 쓰는 사실상 바닐라 트랜스포머다. AlphaFold식 MSA도, 기하학적 귀납 편향도 없다. Brandon과 Rives는 ESM3의 멀티 트랙 아키텍처가 생산적인 우회였는지를 잠시 논쟁한다. Rives는 두 패러다임 모두 자리가 있다고 말하지만, ESMC의 결과는 이 데이터 규모에서 그 사전 지식들이 핵심 역할을 하지 않았음을 시사한다고 본다. ## [18:30] 기계적 해석 가능성과 단백질 특징 지도 BioHub 팀은 ESMC 모델 패밀리(300M, 600M, 6B) 전 레이어에 걸쳐 희소 오토인코더(SAE)를 훈련시켜, 단백질 표현 공간의 내재적 특징 기하를 추출했다. 그 결과는 생물학이 한 세기에 걸쳐 실험으로 쌓아온 환원적 위계, 즉 기본 아미노산 화학에서 구조 모티프, 도메인 패밀리, 큰 기능 테마까지의 체계와 거의 일치했다. 학습 중 그 분류 체계를 전혀 입력하지 않았는데도. > *"한 아미노산의 선택은 서열 안의 다른 모든 아미노산의 선택과 완전히 얽혀 있습니다. 이를 잘 해내려면 모델이 생물학을 표현하는 잠재 변수들을 갖기 시작해야 합니다."* 구체적인 발견 하나: 모델은 진화적으로 무관한 여러 단백질 패밀리에서 독립적으로 진화한 것으로 알려진 촉매 모티프인 친핵성 팔꿈치를 단일 특징으로 인코딩해, 해당 패밀리 전체에서 활성화했다. 팀은 68억 개의 비중복 단백질 구조 지도도 구축했는데, 11억 개 클러스터 대표의 예측 구조가 포함되어 있다. SAE 특징을 이용해 진화적으로 멀리 떨어진 유전자 편집 시스템도 연결했다. 해당 클러스터로 묶인 일부 단백질은 기능이 알려지지 않은 것들로, Rives는 이를 발견 후보 목록으로 취급한다. ESM 지도의 첫 번째 버전은 외부 연구 그룹이 새로운 유전자 편집 시스템을 찾는 데 이미 활용됐다. ## [35:30] ESMC로 항체 설계하기 Rives는 단백질 설계를 월드 모델 탐색으로 정의한다. 생성 모델을 역전시켜 목표 결합 기준을 충족하는 서열을 찾는 것이다. 미니 바인더는 이제 일상적인 수준이 됐다. 나노바디와 SCFV는 구조 예측 기반 방법에게 여전히 더 어렵다. 항체 진화는 특정 폴드로 수렴하는 대신 다양성을 극대화하기 때문에, MSA 기반 접근법이 덜 유용하다. 바로 그 다양성을 대규모로 학습한 ESMC야말로 표현이 가장 풍부해야 할 곳이다. > *"항체는 분자의 구조 위상을 예측하는 것과 같은 방식으로 진화 정보로부터 이득을 얻지 못할 겁니다."* 팀은 소수의 시도만으로 치료 등급 친화도에 도달하는 SCFV 설계에 성공했으며, SCFV는 완전한 IgG로 재포맷할 수 있다고 밝혔다. ESMC 표현 위에 구축된 구조 예측 헤드인 ESMFold 2는 MSA 없이 서열당 수 초면 추론을 마치며, 전체 프로테옴 멀티머 매핑도 가능하다. Rives는 이 모델이 현재 오픈 웨이트 멀티머 예측에서 최고 수준이라고 말한다. ## [42:00] BioHub의 비전: 프로그래밍 가능한 생물학을 향해 BioHub 합류 6개월 차인 Rives는 기관의 구조를 이렇게 설명한다. 최전선의 실험 생물학, 최전선의 측정 기술, 최전선의 AI를 모두 오픈 사이언스 사명 아래 하나로 묶는 자선 단체라고. 그가 그리는 목적지는 개인 맞춤형 생리 예측 모델이다. 알약이 아니라, 특정 인간 게놈에서 단백질 수준의 분자 사건이 세포 회로를 거쳐 질병 발현으로 이어지는 과정을 추적할 수 있는 시스템이다. > *"우리는 이 새로운 패러다임을 위한 과학 기관을 만들고 있습니다."* 그는 순서대로 모델링해야 할 생물학적 복잡성의 층위를 짚는다. 단백질(현세대), 세포(다음 세대), 조직과 시스템, 생리. 단백질에서 세포로 넘어가려면 아직 존재하지 않는 데이터와 아마도 아직 발명되지 않은 모델링 접근법이 필요하다. 현재의 "가상 세포" 모델들은 일반화가 잘 안 된다. 학습 데이터는 잘 표현하지만, 새로운 개입을 새로운 맥락에 적용했을 때 결과를 예측하는 데는 실패한다. > *"전혀 관찰된 적 없는 맥락에서 새로운 개입을 할 때 무슨 일이 일어날지 예측하는 능력이 매우 제한적입니다."* ## [57:00] 가상 생물학 이니셔티브와 세포 데이터 스케일링 BioHub는 내부 데이터 생성 및 측정 기술에 4억 달러, 외부 노력 촉진에 1억 달러, 합쳐서 가상 생물학 이니셔티브를 최근 발표했다. Rives는 이를 씨앗 자금으로 규정한다. 실제로 필요한 데이터 규모는 훨씬 크며, BioHub의 약속이 더 넓은 과학 커뮤니티의 투자를 이끌어내길 기대한다는 것이다. 그는 세 가지 데이터 원칙을 제시한다. 속도(단백질 데이터는 반세기가 걸렸는데, 세포는 그만큼 기다릴 수 없다), 일반화(훈련 분포가 세포 유형과 맥락을 가로질러 매우 다양한 개입을 아우러야 한다, 단백질에서의 메타게놈적 폭과 유사하게), 피드백(모델 예측에 이끌린 능동적 실험 루프, 습식 실험실 생물학에 RLVR을 적용하는 것과 비슷한). 섭동 시퀀싱, 공간 트랜스크립토믹스, 교차 양식 단세포 측정이 지금 바로 가동할 수 있는 스케일러블 기술이다. 컴퓨팅 면에서: ESMC는 약 10억 개 서열로 훈련됐다. 약 1,000억 개가 존재하는 것으로 추정되며, 모델은 현재 지도에 있는 68억 개조차 아직 완전히 활용하지 못했다. 100배 컴퓨팅 증가가 도움이 되겠지만, 그에 비례하는 데이터 확장이 함께 이루어져야 한다. 수확 체감이 언제 나타날지는 경험적으로 열린 질문이다. ESM2의 곡선도 메타게놈 데이터가 그것을 지우기 직전까지는 포화된 것처럼 보였다. > *"몇 년 안에 이것을 해내야 합니다. 일반 AI가 발전하는 속도를 감안하면, 생물학은 실험 과학과 데이터에 의해 근본적으로 제약받게 될 것입니다."* ## 등장 인물 및 주요 개념 - **Alex Rives** (인물): BioHub 과학 총괄; ESM-1, ESM-2, ESM-3, ESMC, ESMFold 2 설계자; 전 Meta FAIR. - **Brandon** (인물): Latent Space AI for Science 서브시리즈 공동 진행자; Atomic AI(RNA 치료제) 소속. - **RJ Honicky** (인물): 공동 진행자; Miro Omix CTO 겸 창업자. - **ESMC** (소프트웨어): BioHub/EvoScale의 4세대 단백질 언어 모델; 3억~60억 파라미터; 메타게놈 데이터 포함 약 10억 개 서열로 훈련; MIT 라이선스 오픈 소스. - **ESMFold 2** (소프트웨어): ESMC 표현 위에 구축된 구조 예측 모델; MSA 불필요, 서열당 수 초 추론; 최고 수준의 오픈 웨이트 멀티머 예측. - **ESM** (소프트웨어): Evolutionary Scale Modeling — Rives 팀이 개척한 다세대 단백질 언어 모델 계보(ESM-1, ESM-2, ESM-3, ESMC). - **Sparse Autoencoders / SAEs** (개념): ESMC 표현 공간의 내재적 특징 기하를 추출하는 기계적 해석 가능성 도구; 지도 없이 생물학적으로 해석 가능한 위계를 드러낸다. - **쓴맛 교훈** (개념): Richard Sutton의 주장으로, 컴퓨팅과 데이터를 활용하는 일반적 방법이 도메인 지식을 인코딩한 방법을 꾸준히 능가한다는 것; 여기서는 단백질 생물학 스케일링에 적용된다. - **메타게놈 시퀀싱** (개념): 배양 없이 미생물·바이러스 다양성을 포착하는 환경 DNA 시퀀싱; UniRef가 포화된 이후 ESMC 스케일링 법칙을 복원한 데이터 확장. - **BioHub** (기관): Chan Zuckerberg BioHub; 실험 생물학, 측정 기술, AI의 교차점에서 오픈 사이언스 도구를 구축하는 자선 단체. - **Virtual Biology Initiative** (개념): BioHub의 5억 달러 약정(내부 4억 달러, 외부 1억 달러)으로, 세포 일반화 모델 훈련에 필요한 세포 규모 데이터 생성을 목표로 한다. - **AlphaFold** (소프트웨어): DeepMind의 구조 예측 시스템; MSA와 기하학적 귀납 편향 사용; ESMC의 MSA-프리 접근법과 대비된다. - **UniRef** (소프트웨어/데이터베이스): 표준 단백질 서열 데이터베이스; ESM2의 학습 데이터였으나 이후 스케일링 병목으로 밝혀졌다. - **친핵성 팔꿈치** (개념): 진화적으로 무관한 여러 단백질 패밀리에 나타나는 촉매 구조 모티프; ESMC에서 단일 특징으로 인코딩되어 전체에 걸쳐 활성화된다. - **Zellig Harris** (인물): 언어학자; 1954년 논문 "Distributional Structure"에서 단어 맥락이 의미를 인코딩한다고 주장했으며, Rives가 아미노산 맥락 통계가 생물학적 기능을 인코딩해야 하는 이유의 이론적 선구자로 인용한다.

Cursor의 Federico Cassano와 Fireworks의 Dmytro Dzhulgakov가 Sonya Huang에게 Composer 2 구축의 전 과정을 설명한다. Kimi 2.5 MoE 베이스 모델부터 대규모 mid-training, 전 세계 비동기 분산 RL까지, 특화 모델이 범용 모델보다 비용과 품질 면에서 유리한 이유를 짚어준다. 핵심은 인프라 이야기다. 대륙을 넘나드는 4개 GPU 클러스터, 1TB 가중치 스냅샷을 1분 안에 전송하는 Delta Compression, 실제 사용자 신호로 몇 시간마다 라이브 모델을 업데이트하는 실시간 RL 루프. 이 기술들이 결합되어 Cursor는 범용 모델 대비 훨씬 낮은 추론 비용으로 최전선 코딩 성능을 제공할 수 있었다. ## [00:00] 소개 Dmytro가 제기한 RL 환경 충실도 문제로 대화가 시작된다. 모델이 가짜 환경에서 실행 중임을 감지하고 이를 악용할 수 있기 때문에, 학습 환경은 실제 사용자 기계와 최대한 가깝게 맞춰야 한다. > *"모델은 속이는 걸 좋아합니다. RL은 속임수를 아주 잘 부추기죠."* — Federico Cassano 이 한 마디가 에피소드 전체를 관통하는 기술적 원칙을 잡아준다. 인프라의 모든 요소는 학습 조건과 프로덕션 현실 사이의 간극을 좁히기 위해 존재한다. ## [00:53] Cursor가 Composer 2를 학습시킨 이유 Federico는 Composer 2의 핵심 논리를 하나의 비유로 설명한다. 모델의 가중치는 고정 크기 저장 드라이브와 같아서, Cursor가 필요로 하지 않는 작업에 할당된 비트는 모두 낭비된 비트다. 코딩 일반이 아닌, Cursor 내 소프트웨어 엔지니어링에만 전체 가중치 예산을 집중하면, 모델은 그 한 가지 역할에서 더 뛰어나면서도 추론 시 서빙 비용은 더 낮아진다. Dmytro는 인프라 관점에서 같은 논리를 풀어낸다. 프롬프트 엔지니어링으로 어느 정도까지는 갈 수 있지만, 에이전트가 어떤 툴을 어떤 순서로 어떤 인자와 함께 호출해야 하는지 같은 세밀한 행동 특성을 포착하려면, 파인튜닝과 RL을 통해 모델에 직접 구워 넣는 수밖에 없다. > *"프롬프트 엔지니어링으로 갈 수 있는 거리에는 한계가 있어요. 정말 훌륭한 AI 제품을 만들려면 파인튜닝을 거쳐 모델 행동에 영향을 줘야 합니다."* — Dmytro Dzhulgakov ## [04:55] 특화 모델 vs. Bitter Lesson Sonya가 반론을 제기한다. 머신러닝의 역사는 더 큰 범용 모델에 밀려난 특화 모델로 가득하다. Composer 2가 TabNine의 실수를 반복하는 건 아닐까? Federico는 다르다고 답한다. Bitter Lesson은 파라미터와 데이터 규모에 관한 것이다. Cursor가 하는 일은 모델의 유한한 용량을 불필요한 곳에서 해방시켜, 중요한 한 가지 작업에 더 많은 스케일링 이점이 흡수되도록 만드는 것이다. Cursor가 경쟁하는 랩 모델들도 코드를 집중적으로 학습한다. 순수한 범용 모델이 아닌 것이다. Cursor는 데이터 파이프라인을 직접 제어해 그 특화를 더 빠르게, 더 깊이 밀어붙이고 있을 뿐이다. ## [06:16] Composer 2 학습 레시피 Composer 2는 Kimi 2.5에서 시작한다. 활성 파라미터 30B를 가진 1조 파라미터 MoE 모델이다. 학습은 두 단계로 진행된다. 먼저 사전학습에 준하는 규모로 코드 토큰을 학습하는 mid-training 단계가 있다. Cursor의 프로덕트 데이터 덕분에 고품질 코딩 컨텍스트에 이례적으로 풍부하게 접근할 수 있다. 그다음 시뮬레이션 환경에서 실제 Cursor 에이전트 세션을 실행하는 대규모 RL 단계가 이어진다. Mid-training은 모델에게 코드 세계를 가르친다. 라이브러리 API, 관용 패턴, 올바른 문법. RL은 그 지식을 올바른 행동으로 날카롭게 다듬는다. 툴을 제대로 호출하고, 멀티턴 에이전트 세션을 탐색하며, 실제로 컴파일되고 테스트를 통과하는 코드를 작성하도록 학습한다. 비동기 파이프라인 덕분에 trainer와 rollout 환경이 교대 실행이 아닌 동시 실행된다. 수학적으로 완벽한 업데이트를 포기하는 대신 GPU 활용률 거의 100%를 확보하는 것이다. > *"비동기라서 완벽한 수학적 업데이트를 하지 못해 몇 퍼센트를 잃을 수도 있어요. 하지만 GPU 용량 절반을 놀리지 않아도 되는 것으로 훨씬 더 많이 보상받죠."* — Dmytro Dzhulgakov 학습은 FP4로 실행해 프론티어 랩보다 작은 GPU 플릿에서 최대 처리량을 끌어낸다. 추론 엔진은 직접 구축 대신 Fireworks를 선택했다. Cursor 엔지니어들이 또 다른 추론 스택을 만드는 데 시간을 쓰지 않고 학습 효율성에 집중하기 위한 의도적인 결정이다. ## [16:32] 전 세계 RL 인프라 확장 Composer 2가 요구하는 규모의 대형 단일 클러스터를 확보할 수 없었기 때문에, 팀은 분리 전략을 택했다. 하나의 클러스터가 모든 학습을 담당하고, 추론, 즉 rollout 컴포넌트는 Composer 1.5의 프로덕션 서빙에서 오프피크 시간대 여유 용량을 포함해 지리적으로 분산된 4개 클러스터에서 실행된다. 학습은 고속 인터커넥트와 동기화된 동작이 필요하지만 추론은 그렇지 않아, 소규모 인트라클러스터 네트워크를 가진 이기종 GPU 세대에서도 실행할 수 있다. 시스템에서 가장 어려운 문제는 가중치 동기화다. Kimi 2.5는 약 1TB 크기이고, trainer는 5~15분마다 새 체크포인트를 생성한다. 10분마다 1TB를 대륙을 넘어 전송하면 추론이 멈춰버린다. 해결책은 이렇다. RL 업데이트는 변경되는 가중치의 패턴이 드문드문하고 규칙적이다. 팀은 페이로드를 약 20배 줄이고 diff만 전송하는 Delta Compression 알고리즘을 작성했다. 수신 측은 전체 체크포인트를 무손실로 재구성하므로 상대편에서 수치적 놀라움은 없다. > *"전체 모델이 1테라바이트임에도 불구하고, 매 스텝마다 모든 가중치가 바뀌지는 않아요. 어떤 가중치 부분이 변경되는지에 매우 규칙적인 패턴이 있죠."* — Dmytro Dzhulgakov ## [23:32] 부동소수점 드리프트 비동기 RL 루프가 추론에서 rollout 궤적 배치를 trainer로 돌려보낼 때, trainer는 GRPO loss의 로그 확률을 재계산하기 위해 동일한 순방향 패스를 다시 실행한다. 이론적으로 로그 확률은 동일해야 한다. 실제로는 종종, 때로는 크게 달라진다. 근본 원인은 부동소수점 비결정성이다. 부동소수점 수의 덧셈은 교환법칙이 성립하지 않아 A+B+C ≠ C+B+A이고, 작은 차이가 수십억 번의 연산에 걸쳐 누적된다. 일반 추론에서는 모델이 이 노이즈에 견고하지만, RL, 특히 희소한 MoE 게이팅 함수에서는 노이즈가 증폭되어 trainer와 추론이 어떤 토큰이 샘플링되었는지에 대해 의견이 갈리고, 학습 신호가 오염된다. ## [25:11] MoE 민감도 설명 MoE 아키텍처는 게이팅 레이어 때문에 부동소수점 드리프트를 증폭한다. 각 트랜스포머 레이어에서 게이팅 네트워크는 384개 전문가 전체에 점수를 매기고 각 토큰에 대해 상위 8개를 선택한다. 숨겨진 상태의 소수점 다섯 번째 자리의 차이만으로도 선택 경계에서 전문가 7번이 9번으로 바뀌어, 토큰이 완전히 다른 모델 부분으로 라우팅될 수 있다. MoE 전문가는 크고 대부분 겹치지 않기 때문에, 잘못된 전문가 선택은 수치 노이즈가 내내 작게 유지되는 밀집 모델과 달리 큰 출력 발산으로 이어진다. ## [26:25] Router Replay 해결책 완화책은 Router Replay다. 추론 중 모델은 각 토큰에 대해 활성화한 전문가 인덱스를 기록하고, 그 정수를 생성된 시퀀스와 함께 trainer로 돌려보낸다. trainer는 처음부터 다시 계산하는 대신 동일한 전문가 선택을 강제 적용해 증폭 체인을 끊는다. Router Replay와 함께, 팀은 추론과 학습 간의 양자화 수준과 커널 구현을 맞춰 다른 모든 수치 불일치 원인을 최소화했다. > *"이런 수치 정렬 작업의 대부분은 양자화 수준 맞추기, 커널 맞추기 등의 트릭으로, 학습과 추론 구현 간의 발산을 줄이는 것입니다."* — Dmytro Dzhulgakov ## [27:19] 실시간 RL 루프 시뮬레이션 rollout 루프와 병행해, Cursor는 Federico가 실시간 RL이라 부르는 것을 운영한다. 프로덕션의 실제 사용자 세션이 학습 파이프라인으로 피드백된다. 사용자가 Composer의 생성 결과에 만족하거나 불만족하면 그 신호가 포착되고, 몇 시간마다 새 모델 버전이 배포된다. 팀은 그 주기를 더 짧게 만들기 위해 노력하면서도, rollout 수평이 길어질수록 다시 늘려야 할 것임을 안다. 에이전트 세션이 길수록 평가에도 더 많은 시간이 걸리기 때문이다. 시뮬레이션 루프와 실시간 루프는 서로 다른 목적을 가진다. 시뮬레이션은 같은 프롬프트에서 16~128개의 rollout을 병렬로 실행할 수 있고, GRPO loss에는 그룹화된 rollout이 필요하다. 어떤 사용자에게도 영향을 주지 않고 오프폴리시로 탐색할 수 있으며, 실제 사용자가 사용하기에 충분할 만큼 좋아지기 전에 성능을 끌어올릴 수 있다. 실시간 RL은 모델이 이미 최소 품질 기준을 충족했을 때만 작동하는 정제 레이어다. 나쁜 경험을 한 사용자는 피드백 신호 생성을 멈추기 때문이다. > *"이걸로 모델을 처음부터 만들 수는 없어요. 사용자들이 그 모델을 써야 하니까요. 이미 좋아야 하고, 우리는 더 좋게 만들 수 있을 뿐이죠."* — Federico Cassano ## [31:49] 장기 수평 에이전트 rollout 수평이 늘어날수록 두 가지 구조적 문제가 생긴다. 첫째, 크레딧 할당이다. 몇 분짜리 세션 끝에 단 하나의 좋아요/싫어요 보상이 주어지면, 모델은 궤적 내 50개 이상의 결정 중 어느 것이 결과를 이끌었는지 파악해야 한다. 궤적이 길어질수록 지수적으로 어려워진다. 둘째, 컨텍스트 윈도우가 가득 찬다. Cursor의 해결책은 "compaction"이라는 이름으로 자기 요약을 직접 RL 루프에 구워 넣는 것이다. 모델은 RL 보상을 통해 컨텍스트 한계에 가까워졌을 때 진행 상황을 유용하게 요약하고, 그 요약에서 충실하게 이어가는 법을 함께 배운다. 컨텍스트 200K짜리 모델이 압축된 작업 기억을 들고 윈도우를 리셋할 수 있기 때문에, 사실상 수백만 토큰에 걸쳐 작동한다. > *"RL은 모델이 목표를 향해 올바르게 행동하도록 밀어붙이기 때문에, 동시에 좋은 요약을 생성하도록, 그리고 그 요약을 아주 잘 따르도록 함께 학습시키고 있는 거예요."* — Federico Cassano ## [34:29] RL이 모든 곳에 필요한 이유 Sonya는 RL을 에이전트적, 장기 수평 툴 사용에 특화된 도구로 규정한다. Federico는 반박한다. RL은 탭 완성을 포함해 어디서나 유용하다. 그의 이론은 이렇다. 사전학습된 모델은 인류의 모든 지식을 흡수했지만, 프롬프트가 주어졌을 때 어떤 페르소나, 즉 전문가인지 학생인지 중간 어딘가인지를 취해야 할지 모른다. RL 학습의 첫 번째 단계는 그 분포를 날카롭게 해 모델에게 "너는 전문가야, 이걸 올바르게 해"라고 알려준다. 이 효과는 상호작용 하네스가 없는 요약 같은 작업에서도 가치 있다. 두 번째 단계, 모델이 눈에 띄게 추론하기 시작하고 컴퓨트 곡선이 평탄해지는 지점이 바로 태스크별 신호가 진짜로 복리 효과를 내는 곳이다. ## [37:34] LLM을 심판으로 활용한 보상 보상이 검증 가능할수록, 코드가 컴파일되는지, 테스트를 통과하는지, 답이 수치적으로 맞는지, 더 많은 컴퓨트를 RL에 부어도 더 나은 모델을 얻을 수 있다. LLM을 심판으로 활용하면 정답을 정의하기 어려운 태스크의 빈틈을 채울 수 있다. 루브릭을 프롬프트로 인코딩하고, 두 번째 모델이 rollout 품질을 평가하게 한다. Dmytro는 인간 평가자가 "좋다"는 게 무엇인지 명확히 표현하기 어렵지만 명시적 기준에 비춰 평가는 할 수 있는 요약 같은 스타일 지향 태스크에 특히 유용하다고 말한다. > *"일반적으로 보상이 검증 가능할수록 좋습니다. 컴퓨트를 확장하면서 더 나은 결과를 얻을 수 있으니까요."* — Dmytro Dzhulgakov ## [39:14] 어려운 도메인에서의 RL 정답을 저렴하게 계산할 수 없는 도메인, 창의적 글쓰기, 개방형 추론, 도메인 전문 지식의 경우, RL 개선의 길은 환경을 더 풍부하게 만드는 것이다. 더 많은 프로덕트 지표를 포착하는 더 큰 시뮬레이션 환경은 자동화된 평가를 더 멀리 밀어붙일 수 있게 해준다. 전문가는 여전히 필요하다. 개별 rollout을 판단하는 게 아니라, 보상 함수가 최적화해야 할 대상을 정의하는 태스크와 루브릭을 설계하기 위해서다. ## [40:13] 직접 환경 구축하기 Cursor는 RL 환경 공급업체를 전혀 사용하지 않는다. 코딩에 있어 GitHub 저장소는 사실상 무한한 작동 환경 풀을 제공한다. 저장소를 클론하고, 의존성을 설치하고, 모델에게 태스크를 주고, 테스트 스위트로 결과를 측정한다. 더 어려운 인프라 문제는 에피소드 첫머리에서 다룬 종류의 속임수를 막을 만큼 그 환경을 충분히 현실적으로, 그리고 동시에 100,000개를 즉시 온디맨드로 돌릴 수 있을 만큼 빠르게 만드는 것이다. Cursor의 답은 컨테이너가 아닌 완전한 VM 스택이다. 즉각적으로 임의의 규모로 버스트할 수 있고, 실제 사용자 기계와 충분히 가까워 모델이 차이를 감지할 수 없다. Dmytro는 공급업체 구도를 이렇게 정리한다. 프론티어 랩은 모든 태스크를 커버하는 범용 환경이 필요하고, 프로덕트 회사는 자신의 프로덕션 환경에서 RL을 돌려야 한다. 어떤 모델에게든 가장 강력한 학습 환경은 그 모델이 실제로 사용될 제품 자체다. > *"가장 강력한 환경은 자신의 프로덕트입니다."* — Dmytro Dzhulgakov ## [44:34] 마무리 생각 Sonya는 애플리케이션 회사에서 프론티어 모델 랩으로 나아가는 Cursor의 궤적이 다른 AI 프로덕트 회사들이 따라갈 패턴이라고 마무리한다. Federico는 Cursor의 GPU 예산으로 학습 실행을 가능하게 해준 인프라 기반을 제공한 Fireworks에 감사를 전한다. Dmytro는 대부분의 사람들이 순수하게 알고리즘적이라고 생각했던 문제에 얼마나 깊은 시스템 엔지니어링이 담겨 있는지를 돌아본다. ## 등장인물 - **Federico Cassano** (인물): Cursor에서 Composer 2 리서치 리드. 학습 레시피와 RL 방법론을 주도했다. - **Dmytro Dzhulgakov** (인물): Fireworks AI 인프라 리드. Composer 2를 위한 분산 RL 학습 시스템을 엔지니어링했다. - **Sonya Huang** (인물): Sequoia Capital 파트너. AI 투자에 초점을 맞춘 팟캐스트 진행자. - **Composer 2** (소프트웨어): Cursor의 특화 에이전트 코딩 모델. Kimi 2.5 MoE를 기반으로 mid-training과 대규모 RL로 학습됨. - **Fireworks AI** (조직): 모델 서빙 및 추론 인프라 회사. Composer 2 RL 학습을 위한 분산 GPU 백본을 제공했다. - **Cursor** (조직): AI 코딩 IDE 회사. Cursor 내 소프트웨어 엔지니어링을 위한 특화 파운데이션 모델로 Composer 2를 학습시켰다. - **Kimi 2.5** (소프트웨어): Moonshot AI의 오픈소스 1조 파라미터 MoE 모델 (활성 30B). Composer 2의 베이스로 사용됨. - **GRPO** (개념): Group Relative Policy Optimization. Composer 2에 사용된 RL 알고리즘으로, 정책 그래디언트 계산을 위해 같은 프롬프트에서 다수의 병렬 rollout이 필요하다. - **Router Replay** (개념): MoE 수치 정렬 기법. 추론 시 전문가 라우팅 결정을 기록하고 trainer에 재현해 부동소수점 드리프트로 인한 로그 확률 발산을 방지한다. - **실시간 RL** (개념): Cursor의 프로덕션 피드백 루프. 실시간 사용자 만족도 신호를 포착해 몇 시간마다 새 모델 버전을 배포하며 모델을 지속적으로 업데이트한다. - **Delta Compression** (개념): 학습과 분산 추론 클러스터 간의 가중치 동기화 기법. 변경된 파라미터만 전송해 실제로 1TB 스냅샷을 약 50GB로 줄인다. - **자기 요약 / Compaction** (개념): 에이전트가 컨텍스트 윈도우 한계에 가까워졌을 때 작업 컨텍스트를 압축하도록 RL로 학습된 능력. 사실상 무제한 수평 작동이 가능해진다.

Anthropic Applied AI 엔지니어 Isabella He가 37분에 걸쳐 빈 `agent.py` 파일에서 시작해 Streamlit 앱까지 완성하는 SRE 인시던트 대응 에이전트를 라이브로 구현합니다. 툴 호출 스트리밍, 세션 유지, P99 지연 급증 진단까지 직접 보여주면서, 5분짜리 아키텍처 개요와 실습 코드를 결합해 참가자들이 서브에이전트·메모리·볼트 확장에 필요한 실행 파일과 사고 모델 모두를 갖추고 떠날 수 있도록 이끕니다. ## [00:19] 환영 인사 및 세션 안내 Isabella는 Anthropic Applied AI팀이 "제품, 연구, 고객이 교차하는 지점"에 있다고 소개하며 세션의 세 가지 흐름을 제시합니다. 플랫폼 빠른 복습, 실습 코딩 스프린트, 드리밍·서브에이전트 등 고급 기능 미리 보기가 차례로 이어집니다. 오전 3시에 울리는 온콜 알림이라는 시나리오를 출발점으로, Managed Agents 위에 구축한 SRE 에이전트가 이를 자율적으로 처리하는 모습을 보여줍니다. > *"오늘 제 목표는 여러분이 직접 Managed Agents 위에서 빌드하고, 하네스가 내부적으로 어떻게 동작하는지 이해하고, 첫 번째 인시던트 대응 에이전트를 실제로 출시할 준비를 갖추게 하는 것입니다."* ## [02:10] Messages API에서 Managed Agents로 Isabella는 제품의 발전 과정을 추적합니다. 2023년 출시된 Messages API는 원시 토큰 접근을 제공했지만, 컨텍스트 관리·에이전트 루프·컴팩션은 개발자가 직접 구현해야 했습니다. Agent SDK는 Claude Code의 파일 시스템 접근을 추가했지만 셀프 호스팅이 필요했습니다. Managed Agents는 세 번째 세대로, Anthropic이 스케일링·샌드박싱·관측성·툴 런타임을 담당해 팀이 "10~15배 빠르게 프로덕션에 출시"할 수 있게 합니다. 유지보수 부담을 실제 사례로 설명합니다. Sonnet 4.5는 "컨텍스트 불안" 증상을 보이며 작업을 조기 종료했는데, Anthropic이 하네스를 패치했고 Opus 4.5에서는 이 동작이 완전히 사라져 패치 자체가 불필요해졌습니다. > *"하네스는 에이전트와 함께 진화해야 합니다. 그래서 Claude Managed Agents에서는 Anthropic이 컴팩션·캐싱·컨텍스트 불안에 따르는 모든 복잡성을 처리하기를 원합니다."* ## [05:55] 핵심 개념: Agent, Environment, Session 모든 Managed Agents 애플리케이션은 세 가지 객체로 구성됩니다. **Agent**는 페르소나를 담습니다. 모델 선택, 시스템 프롬프트, MCP 서버, 스킬이 여기에 속합니다. **Environment**는 실행 컨테이너로, 에이전트의 "두뇌"에 대한 "손"에 해당하며, 당일 기준으로 Anthropic 관리형 클라우드와 자체 컴퓨팅 두 가지를 모두 지원합니다. **Session**은 두 객체를 묶고 데이터 파일을 마운트합니다. 이벤트(사용자 메시지, 툴 호출, 응답)는 단일 응답으로 토큰을 반환하는 대신 호출자에게 스트리밍됩니다. 에이전트 루프와 툴 실행을 분리함으로써 P95 첫 토큰 도달 시간이 90% 이상 단축됐고, 샌드박스 컨테이너 경계 덕분에 자격 증명 노출도 차단됩니다. > *"이 분리를 통해 팀들은 실제로 P95 지연 지표에서 TTFT가 90% 이상 감소하는 결과를 확인했습니다."* ## [09:15] 워크숍 환경 설정 참가자들은 워크숍 저장소를 클론하고 `ship-your-first-managed-agent`로 이동한 뒤, 가상 환경을 만들고 의존성을 설치한 다음 `.env`에 Anthropic API 키를 붙여넣고 `streamlit run app.py`를 실행합니다. Isabella는 Streamlit URL이 인시던트 대응 채팅 UI로 연결되는 것을 확인합니다. 이것이 빌드의 출발점입니다. > *"지금 따라오셔도 되고, 오늘 나중에 혼자 해보셔도 됩니다. 화면에 모두 표시되니 따라오실 수 있습니다."* ## [10:48] 에이전트 단계별 구현 미완성 `agent.py`를 `agent_complete.py` 옆에 열어 두고 Isabella는 여섯 코드 블록을 하나씩 복사합니다. 1. **에이전트 정의** — Claude Opus 4.7을 사용하는 `SRE_AGENT`. 에이전트 역할과 사용 가능한 툴(get_metrics, get_recent_deploys, get_diff, fetch_logs)을 명시하는 최소 시스템 프롬프트 포함. 2. **Environment** — 데모용 무제한 네트워킹의 Anthropic 클라우드 환경. 프로덕션에서는 허용 목록 제한이나 Claude MCP 터널 라우팅으로 전환 가능. 3. **로그 업로드** — Files API로 로그 파일을 첨부해 에이전트가 코드를 실행할 수 있도록 함. Isabella는 컨텍스트 엔지니어링이 개발자가 반복에 가장 많은 시간을 쓰는 부분이라고 지적. 4. **세션 생성** — `agent_id`, `environment_id`, 업로드된 리소스 참조를 전달해 모든 것을 묶음. 5. **이벤트 스트리밍** — 세션에서 원시 토큰 대신 이벤트를 수신해 실시간 표시와 관측성 로깅을 가능하게 함. 6. **로컬 툴 및 세션 삭제** — `get_metrics`, `get_recent_deploys`, `get_diff`를 로컬 실행 핸들러로 등록하고, 삭제된 세션은 로그에서 완전히 제거된다는 설명과 함께 세션 삭제 호출 추가. > *"여기서 빠진 마지막 조각은 에이전트가 제 컴퓨터나 인프라에서 실제로 행동을 취할 수 있도록 로컬 툴을 제공하는 것입니다."* ## [19:43] 에이전트 실행 및 라이브 데모 Isabella가 "내 인시던트를 디버그해 줘"라는 프롬프트로 새 세션을 시작합니다. 에이전트는 `sandbox_bash`, `get_recent_deploys`, `get_diff`를 순서대로 호출하고, 각 툴 호출과 응답 토큰을 UI에 스트리밍한 뒤 구조화된 인시던트 보고서를 반환합니다. P99 지연 급증(기준치 대비 10배)의 원인은 Alice의 `refactor_order_summary_builder` 커밋이 초래한 데이터베이스 풀 고갈로 밝혀집니다. 프로덕션 환경이라면 Claude Code 접근 권한을 추가해 수정 사항 제안, PR 오픈, 루프 종료까지 사람 없이 처리할 수 있다고 덧붙입니다. 브라우저를 강제 새로 고침해도 세션 지속성이 확인됩니다. 이전 세션이 모두 클라우드 상태에서 다시 나타나며 로컬 데이터베이스는 불필요합니다. > *"모든 툴 호출을 스크롤해 보면 로그 관점에서 모든 것이 클라우드에 유지된 것을 확인할 수 있습니다. 관측성 콘솔에도 모두 기록됩니다."* ## [27:18] 아키텍처 정리, 고급 기능 및 Q&A Isabella는 이벤트 기반 아키텍처를 정리합니다. 세션은 요청-응답 쌍이 아닌 이벤트로 통신하며, 이벤트 로그 덕분에 Managed Agents는 컨테이너 재시작 후에도 에이전트 루프를 재실행하지 않고 세션을 재개할 수 있습니다. 이어서 네 가지 프리미엄 기능을 미리 보여줍니다. - **서브에이전트** — 오케스트레이터가 병렬 처리와 컨텍스트 예산 관리를 위해 독립 컨텍스트 윈도우를 가진 자식 에이전트를 생성합니다. - **메모리 / 드리밍** — 에이전트가 자신의 세션 로그를 검토해 무엇을 유지할지 스스로 결정하며, 세션 간 자기 개선과 선호 기억이 가능해집니다. - **Outcomes** — 개발자가 루브릭을 정의하면 에이전트가 원하는 결과를 내는 툴 호출을 스스로 찾아냅니다. - **Vaults** — 별도 엔드포인트와 에이전트 컨테이너 사이에서 자격 증명을 암호화하며, 아키텍처에 내장된 두뇌/손 분리 방식으로 사용자별·세션별로 관리됩니다. Isabella는 후속 "드리밍" 세션과 Managed Agents 콘솔의 내장 관측성 대시보드를 안내하며 마무리합니다. > *"여러분 모두 Managed Agents가 실제로 어떻게 작동하는지에 대한 사고 모델을 조금이라도 가져가길 바랍니다. 그리고 사이트 신뢰성 에이전트를 출시하신 모든 분께 자부심을 가지세요."* ## 등장인물 - **Isabella He** (인물): Anthropic Applied AI팀 Member of Technical Staff, 발표자 겸 워크숍 진행자 - **Claude Managed Agents** (소프트웨어): 프로덕션 수준의 에이전트를 위한 Anthropic의 관리형 인프라 하네스. 스케일링·샌드박싱·관측성·툴 런타임을 담당 - **Agent SDK** (소프트웨어): Claude Code 접근을 지원한 이전 세대 Anthropic 하네스. 개발자 직접 호스팅이 필요했음 - **Claude Opus 4.7** (소프트웨어): 워크숍 데모에서 SRE 에이전트에 사용된 모델 - **Sonnet 4.5** (소프트웨어): "컨텍스트 불안"(조기 작업 종료) 증상을 보인 이전 모델. 하네스가 모델과 함께 진화해야 한다는 점을 설명하는 사례로 사용됨 - **Files API** (소프트웨어): 로그·메트릭 등 파일을 에이전트 컨텍스트에 업로드하는 Anthropic API - **Dreaming** (개념): 에이전트가 자신의 세션 이력을 비동기로 검토해 장기 메모리를 업데이트하는 Managed Agents 기능 - **Outcomes** (개념): Managed Agents의 루브릭 기반 목표 명세. 에이전트가 명시적 단계 없이 정의된 결과에 도달하는 툴 호출을 스스로 선택 - **Vaults** (개념): Managed Agents의 암호화 자격 증명 저장소. 두뇌/손 분리 아키텍처를 통해 에이전트 컨테이너와 분리됨 - **MCP tunnels** (개념): MCP 서버 트래픽을 공용 인터넷 대신 사설 네트워크로 라우팅하는 Claude 기능 - **Context anxiety** (개념): 컨텍스트 예산이 남아 있음에도 작업을 조기에 마무리하는 Sonnet 4.5의 관찰된 동작. Opus 4.5에서 해결됨 - **Anthropic** (조직): AI 안전 기업. Claude 및 Managed Agents 플랫폼 개발사 - **DataDog** (소프트웨어): 데모의 JSON 기반 메트릭 툴을 대체할 수 있는 프로덕션 모니터링 플랫폼 - **Streamlit** (소프트웨어): 워크숍 인시던트 대응 채팅 인터페이스 구축에 사용된 Python UI 프레임워크

맨체스터 유나이티드 주장 Bruno Fernandes가 카링턴에서 Steven Bartlett와 마주 앉아 Roy Keane 논란에 정면으로 답하고, 2억 파운드 이적 제안을 거절한 이유를 밝힌다. 포르투에서 아버지에게 물려받은 가치관이 어떻게 그를 프리미어리그 역사상 가장 꾸준한 선수 중 한 명으로 만들었는지도 솔직하게 이야기한다. 90분에 걸쳐 대화는 노동자 계층 가정에서 자란 어린 시절과 두려움 없던 초기 축구 생활부터, 감독을 읽는 법과 락커룸을 이끄는 방식, 포르투갈 대표팀과 함께 월드컵을 들어올리는 일이 어떤 클럽 우승보다 더 의미 있는 이유까지 폭넓게 오간다. ## [00:00] 인트로 에피소드는 대화 후반에서 발췌한 클립으로 시작된다. Bruno가 Roy Keane의 비판에 반박하고 2억 파운드 제안 거절을 설명하는 장면이다. 이어서 Steven이 맨체스터 유나이티드 훈련장을 배경으로 상황을 소개한다. 그는 Bruno를 퍼거슨 감독 이후 시대의 최고 선수로 규정한다. Bruno 합류 이후 프리미어리그 어시스트 1위, 328경기 108골, 맷 버스비 올해의 선수상 역대 최다 5회 수상이 그 근거다. ## [01:38] Bruno Fernandes를 만든 것들 Steven이 Bruno에게 출발점을 물었다. 자신이 어디에서 왔는지 가장 먼저 알아야 할 것이 무엇이냐고. Bruno의 답은 즉각적이었다. 가족, 그리고 부모님이 심어준 가치관. 포르투에서의 성장 과정이 선수로서도, 인간으로서도 자신의 토대가 됐다고 말했다. > *"가족의 가치관, 부모님의 가치관이 지금 나라는 사람과 선수를 만들었습니다."* ## [02:33] Bruno가 아버지에게서 배운 승리 정신 Bruno의 아버지는 포옹이나 말로 애정을 표현하는 사람이 아니었다. 대신 행동으로 보여줬다. 희생과 끊임없는 기준. 두세 골을 넣고 경기장을 나와도 아버지는 좋았던 장면이 아니라 나빴던 순간을 짚었다. 그는 Bruno가 특별히 축구 선수가 되길 바란 게 아니었다. 무엇을 선택하든 100%를 쏟아붓기를 원했다. 시험에서 98점을 맞으면 잘한 거지만, 여전히 2%가 남아 있는 것이다. 그 논리, 항상 더 나아질 여지가 있다는 생각, 이것이 지금도 Bruno가 Roy Keane이든 누구의 비판이든 처리하는 방식이다. 다섯 살 때부터 그렇게 듣고 자랐기 때문에 상처받지 않는다. > *"어릴 때부터 비판을 받아들이는 법을 배웠습니다. 지금 저는 아마도 비판과 주목에 가장 민감한 클럽 중 한 곳에 있지만, 그런 것들이 저를 다치게 하지 않습니다."* ## [05:47] 다섯 살 때부터 달랐던 Bruno FC Infesta에서 첫 훈련을 받던 날, Bruno는 바로 일곱 살 팀으로 올려졌다. 가장 빠르지도, 가장 크지도, 기술적으로 가장 뛰어나지도 않았다. 하지만 두려움이 없었다. 다섯 살 위인 형과 함께 훈련하는 게 당연한 일상이었다. 심판이 덩치와 나이를 가리지 않고 태클을 들어가는 Bruno를 빼달라고 코치에게 요청할 정도였다. Bruno는 이 두려움 없음이 자신을 계속 성장시킨 자질이라고 설명한다. 약한 그룹에서 제일 잘하는 것에 만족한 적이 없었고, 항상 더 어려운 경쟁 속으로 뛰어들었다. > *"두려운 게 없었습니다. 나보다 빠른 사람과 달려야 했어요. 달릴 겁니다. 이길 수 없을지 몰라도, 따라잡을 겁니다."* ## [08:40] Francesco Guidolin이 Bruno의 커리어를 어떻게 다듬었나 18살에 이탈리아로 건너간 Bruno는 Watford 임대로 보내질 뻔했다. Udinese 스포팅 디렉터가 다시 전화해 감독이 잔류를 원한다고 해서 겨우 남게 됐다. 그 감독이 Francesco Guidolin이었다. Guidolin은 Bruno에게 직접 말했다. 우리가 2부 리그에서 네 장점을 보고 영입한 거다. 침착하게 배우고 과정을 믿어라. Guidolin은 스쿼드 전체에 아버지 같은 존재였고, Bruno에게 선수 본인의 자기 인식과 감독의 의사결정 사이에 어떤 간극이 존재하는지를 이해시켰다. 그 교훈은 지금까지 이어진다. Bruno는 포지션이나 전술 배치를 두고 감독에게 불만을 털어놓은 적이 없다. 무엇을 요청받든 최선을 다하고, 결과로 말한다. > *"그분은 아버지 같은 존재였습니다. 모든 선수가 자신에게 중요하다는 것을 항상 보여줬어요. 덕분에 감독들이 거치는 과정을 훨씬 더 깊이 이해하게 됐습니다."* ## [12:04] 18살의 Bruno가 진짜 꿈꿨던 것 프로 생활을 시작하자마자 Bruno의 목표는 하나였다. 빅 클럽, 챔피언스리그, 우승, 자신이 보고 자란 선수들과 함께 뛰는 것. Steven이 정말 그게 가능하다고 믿었냐고 물었다. Bruno는 단 한 번도 의심하지 않았다고 답했다. ## [12:30] Tottenham이 Bruno 영입에 근접했던 이유 22살, Sporting에서 20골 13어시스트의 시즌을 보낸 뒤 Tottenham과 개인 조건 합의까지 마쳤다. Sporting이 이적 시장 마감일 당일 발을 뺐다. Bruno는 가고 싶었다. 프리미어리그는 늘 목표였기 때문이다. 이적이 무산됐을 때 실망했다. 그런데 1월, 에이전트에게서 더 큰 연락이 왔다. ## [14:09] 맨체스터 유나이티드가 자신을 원한다는 걸 안 순간 Bruno는 옷장 앞에서 잠자리를 준비하고 있었다. 에이전트 Miguel에게서 전화가 왔다. 합의가 95% 완료됐을 때까지 아무 말도 하지 말라고 미리 일러뒀었다. Tottenham 건이 이적 소문 때문에 집중력이 흐트러졌던 경험 때문이었다. Miguel이 "당신이 기다리던 그 클럽입니다"라고 했을 때, Bruno는 굳어버렸고, 눈물을 흘렸다. 아내가 들어와 울고 있는 Bruno를 보았고, 전화는 여전히 연결 중이었다. Bruno는 전화를 끊고 다시 걸어 에이전트에게 말했다. 더 협상하지 말고, 그냥 가겠다고 전해라. 서명 직전 Burnley에게 패한 것도 의지를 꺾지 못했다. 결과가 보여주지 못하는 잠재력이 보였기 때문이다. > *"가겠다고 전해요. 제가 있고 싶었던 곳입니다. 꿈이 100% 이루어지는 순간입니다."* ## [22:15] 축구 문화는 어떻게 바뀌었나 Steven은 지금 카링턴의 분위기가 과거, 인성보다 영입이 우선시되던 시절과 근본적으로 다르다고 말했다. Bruno는 이 진단에 동의하며 근본 원인을 짚었다. 감독이 너무 자주 바뀌면서, 각자의 시스템에 맞는 선수들이 영입됐고, 다음 감독이 왔을 때 아무에게도 맞지 않는 스쿼드가 남았다. 그의 처방은 이렇다. 먼저 맨체스터 유나이티드에 맞는 선수를 뽑고, 그 선수들에게 맞는 감독을 찾아라. 반대로 해서는 안 된다. 그는 Guardiola의 맨시티를 모델로 든다. 클럽과 감독이 함께 선택한 선수들, 어떤 감독이 와도 살아남는 스쿼드. 인성이 실력보다 오래간다고 Bruno는 말한다. 선수의 컨디션은 오르내리지만, 부진한 시기에 드레싱룸을 지탱하는 건 태도다. 모든 사람을 동등하게 대해야 한다는 고집, 피지오, 경기장 직원, 식당 직원, 청소부 모두를, 이 가치관은 집 청소를 하며 생계를 꾸렸던 어머니에게서 왔다. > *"축구 클럽에서 인성은 실력보다 중요합니다. 실력은 언제든 데려올 수 있고 키울 수도 있으니까요."* ## [32:38] 소셜 미디어와 선수들의 관계 이번 시즌 유나이티드 스쿼드에서 소셜 미디어 관련 잡음이 사라진 것은 Steven이 보기에 가장 뚜렷한 문화 변화의 신호다. Bruno는 뭔가 잘못된 것이 보이면 클럽이 단호하게 대응해야 한다고 말한다. 하지만 자신의 접근법은 프로 생활 첫날부터 시작됐다. 부모님, 형, 동생에게 자신의 동의 없이 자신과 관련된 것은 올리거나 댓글 달지 말라고 했다. 어머니는 비판적인 댓글을 읽으면 마음이 아프다. Bruno의 지침은 이렇다. 기도하되, 답장하지 마라. ## [35:36] Bruno가 감독을 지지해야 한다고 믿는 이유 Ole, Carrick, Rangnick, Ten Hag, Amorim, 그리고 다시 Carrick까지. Bruno는 모든 감독에게 공개적으로 같은 자세를 취해왔다. 이유가 있다. 각 감독마다 그에게 다른 것을 요구했고, 그것은 곧 각 감독이 Bruno가 해본 적 없는 것을 할 수 있다고 믿었다는 뜻이다. 그의 임무는 어떤 감독도 머릿속으로 "Bruno를 안 쓸 수도 있겠다"는 선택지를 떠올리지 못하게 만드는 것이다. 감독의 방식이 통하지 않는다면, 그건 감독이 풀어야 할 문제다. Bruno는 등 뒤에서 변화를 밀어붙이지 않는다. > *"감독들이 머릿속으로 Bruno를 쓰지 않겠다고 생각할 여지나 선택지를 주지 않을 겁니다."* ## [37:15] 진정한 명장의 조건 Bruno의 생각: 좋은 감독은 기대치 면에서 스타 선수와 스쿼드 선수를 다르게 대하지 않는다. 하지만 개인으로서는 각자에게 다르게 접근한다. 어떤 두 사람도 같은 자극에 같은 방식으로 반응하지 않기 때문이다. 기준은 동일하게, 전달은 각자에게 맞게. ## [37:54] Bruno가 선수들을 대하는 방식 주장으로서 Bruno는 모든 선수에게 소리친다. 그리고 그것은 정확히 그들을 믿기 때문이다. 많은 선수들에게 같은 말을 했다. 내가 너에게 소리치는 걸 멈추는 날은 네가 더 나아질 수 있다고 믿지 않는 날이라고. 진심으로 다음 단계를 열어줄 수 있다고 생각할 때 칭찬하고, 더 있다는 걸 알 때 요구한다. 아버지가 이십 년 동안 Bruno에게 그렇게 했던 것처럼. > *"믿어도 됩니다. 내가 당신에게 소리치는 걸 멈추는 날은, 당신을 더 이상 믿지 않고 성장 가능성도 보이지 않는다고 생각하는 날입니다."* ## [39:56] 팀이 부진할 때 락커룸 안에서 벌어지는 일 감독이 압박을 받을 때, Bruno의 말에 따르면 선수들이 가장 크게 느끼는 건 감독에 대한 걱정이다. 그중에서도 선발로 뛰고 있는 선수들이 가장 예민하게 느낀다. 감독이 바뀌면 다시 제로에서 시작해야 한다는 것을 알기 때문이다. Bruno가 반복되는 리셋 속에서도 희망을 잃지 않는 것은 매 프리시즌 자신의 내면으로 돌아가기 때문이다. 여전히 자신을 믿고, 자신이 제대로 하고 다른 사람들을 이끌면 팀에게 아직 기회가 있다는 것을. 이번 시즌의 감독 교체는 리그 순위 때문이 아니었다고도 짚는다. 유나이티드는 상위권에 있었다. 클럽과 감독 사이의 신뢰가 무너진 것이 이유였다. ## [43:07] Michael이 맨체스터 유나이티드에 가져온 핵심 변화 Bruno의 설명에 따르면, Michael Carrick의 핵심 기여는 평정심과 선수 책임감이다. 어떻게 압박할 것인지, 어디에 공간이 있는지, 타협 불가능한 원칙이 무엇인지를 알려준 뒤, 경기 중 그 원칙이 무너지는 순간에는 선수들이 직접 상황을 읽도록 믿고 맡긴다. 90분 경기에는 어떤 사전 영상 분석도 예측할 수 없는 순간들이 있기 때문이다. Bruno는 Nottingham Forest 골을 예로 든다. Villa 대 Forest 경기에서 포착한 패턴을 훈련에서 연습하고, 실전에서 그 순간이 왔을 때 실행했다. Carrick의 준비 방식이 어떻게 작동하는지 보여주는 가장 명확한 사례다. > *"기반과 토대, 그리고 타협할 수 없는 규칙들을 줍니다. 하지만 경기를 통해 우리 스스로 책임지기를 원하기도 해요. 어디로 패스해야 하는지, 어디서 슈팅해야 하는지 지금 당장 말해줄 수는 없으니까요."* ## [48:23] Bruno가 리스크를 감수해야 한다고 생각하는 이유 리스크에 대한 Bruno의 철학은 철저히 포지션에 근거한다. 10번의 역할은 골을 만들어내는 리스크를 감수하는 것이다. 스루패스 두 개가 실패하고 세 번째가 골로 이어진다면, 팀 입장에서 수학이 맞는다. Kobbie Mainoo와 Casemiro와 짝을 이루는 이유도 여기 있다. 그들은 경기당 리스크를 훨씬 적게 감수한다. 포지션 역할 분담이 그것을 요구하기 때문이다. Ten Hag가 구역별 슈팅 성공률을 보여줬을 때, 왼쪽에서 더 효과적이고 약발 원거리에서는 덜 효과적이라는 걸 받아들이고 어디서 슈팅을 노릴지 조정했다. > *"항상 리스크 대비 보상의 문제라고 생각합니다. 그 리스크에서 얼마나 큰 보상을 얻을 수 있는지, 그리고 그 리스크를 감수하는 게 팀에게 이로운지를 이해해야 합니다."* ## [52:44] 광고 스폰서 세그먼트: LinkedIn Ads, Bon Charge 적색광 칫솔, Vanta 컴플라이언스 플랫폼. ## [55:01] Bruno가 가장 좋아하는 포지션 카링턴 훈련장 잔디 위에서 Bruno가 사각형을 그린다. 공격 3분의 1 지역 왼쪽 중앙, 라인과 라인 사이, 공을 받기에 충분히 가깝고 위협을 가하기에 충분히 먼 자리. Ole 감독 시절에는 클래식 10번, Amorim 시절에는 빌드업을 지원하는 왼쪽 미드필더, Ten Hag 시절에는 Mainoo 옆에서 6번 역할을 맡기도 했다. 포지션이 무엇이든 타협 불가능한 원칙은 변하지 않는다. 헌신, 달리기, 투지, 팀 정신. > *"달리기, 투지, 팀 정신은 절대 빠질 수 없습니다."* ## [58:58] 지치지 않는 Bruno Bruno는 유전자 덕분이라고 말한다. 그리고 바로 자신이 통제할 수 있는 것을 덧붙인다. 매 훈련에서 100%를 쏟고, 제대로 지쳤다는 느낌이 들 때만 멈춘다. 훈련이 끝났는데 지치지 않았다면 추가로 슈팅이나 크로스 연습을 더 한다. 경기 후반 20분에 사용하는 기술들을 지친 상태에서 연습하기 위해서다. > *"지쳐 있을 때 몸과 뇌를 훈련시켜야 합니다. 몸이 피로에 익숙해지면 그 순간 어떻게 반응해야 하는지 알게 됩니다."* ## [01:00:31] 맨체스터 유나이티드 주장이 Bruno에게 진정으로 의미하는 것 Ten Hag는 Bruno를 사무실로 불러 주장을 맡겠냐고 명령이 아니라 물었다. Bruno의 첫 번째 생각은 감사함이었고, 두 번째는 Harry Maguire였다. 수락하기 전에 사무실을 나가 Harry를 찾았다. Harry는 이미 알고 있었다. Harry가 말했다. 이걸 가장 받을 자격이 있는 사람이 있다면 너야. Bruno는 돌아가며 말했다. 완장을 잃어도 달라지는 건 없다. 여전히 리더 중 한 명이고, Bruno가 주장으로 내리는 모든 중요한 결정에 함께한다. 이번 시즌: 34경기 출전, 8골, 20어시스트, 경기 최우수 선수 12회(프리미어리그 최다), 다섯 번째 팬 투표 맷 버스비 올해의 선수상. ## [01:03:44] 이번 시즌이 Bruno에게 다르게 느껴지는 이유 어시스트 기록, Kevin De Bruyne와 Thierry Henry의 프리미어리그 단일 시즌 최다 기록인 20어시스트와 어깨를 나란히 한 것, 이 기록은 어느 시즌보다 더 많은 주목을 끌었다. Bruno는 16, 17개쯤 됐을 때부터 의식하기 시작했다고 말한다. 그전까지는 머릿속에 없었다. 목표는 항상 전 시즌 기록을 넘는 것이었으니까. Roy Keane 논란도 여기서 나온다. Keane은 Bruno가 "패스 대신 슈팅했어야 했는데"라고 말했다는 말을 전해 듣고는, 어시스트 기록을 쫓고 있다고 비난했다. Bruno가 실제로 한 말은 정반대였다. 슈팅 대신 더 유리한 위치에 있는 동료에게 패스했어야 했다고 자기비판을 한 것이었다. Bruno는 Keane의 행동을 자신과 다른 의견이 아니라 사실의 왜곡이라고, 거짓말이라고 불렀다. Ole Gunnar Solskjær에게 Keane의 번호를 요청해 직접 통화하려 했다. > *"내가 싫어하는 건 사람들이 거짓말을 할 때입니다. 나를 비판하고, 나를 깎아내리고, 내가 충분하지 않다고 말할 수 있어요. 괜찮습니다. 내가 싫어하는 건, 내가 하지도 않은 말을 내 입에 넣는 겁니다."* ## [01:10:33] 동료들이 보낸 감동적인 음성 메시지 Steven이 전날 밤 Bruno의 동료들에게 문자를 보내 음성 메모를 녹음해달라고 요청했다. Diego Dalot, Luke Shaw, Tom Heaton을 비롯해 몇몇이 답했고, 에피소드 71-72분경에는 미리 녹음된 동료의 클립도 나왔다. Bruno는 목소리를 알아듣고, 자신에 대해 선수로서 이야기한 것이 아니라 사람으로서 말한 것이 더 크게 와닿는다고 말했다. 포르투에서 부모님이 심어준 가치관이 매일 함께 일하는 사람들에게 보인다는 것. > *"나한테 가장 인상 깊었던 건, 그들이 선수가 아닌 한 사람으로서 나에 대해 이야기하는 방식이었습니다."* ## [01:14:31] 축구보다 사람이 더 중요한 이유 Bruno는 포르투갈 친구들보다, 심지어 부모님보다 팀 동료들을 더 자주 본다. 함께 훈련하는 사람들이 일상의 일부가 됐다는 것은 그들을 어떻게 대하느냐가 경기만큼 중요하다는 뜻이다. 음성 메모들이 축구 실력이 아닌 인성에 초점을 맞췄을 때, 어머니와 아버지가 가장 소중하게 여겼던 것들이 여전히 자신 안에 살아있다는 걸 느꼈다. > *"저는 그냥 감성적인 사람입니다. 피치 위에서는 그렇게 안 보이겠지만, 꽤 감성적인 사람이에요."* ## [01:15:54] 광고 스폰서 세그먼트: Vanta 컴플라이언스 플랫폼, Diary of a CEO 대화 카드. ## [01:18:56] Bruno가 맨체스터 유나이티드를 떠나는 거액 제안을 거절한 이유 포스트 시즌 홍콩 투어 중 중동에서 2억 파운드 규모의 제안이 들어왔다. Bruno는 시차를 넘어 아내에게 전화했다. 아내의 질문은 하나였다. 여기서 이루고 싶었던 걸 다 이뤘나요? 답은 아니었다. 유나이티드에서 프리미어리그도, 챔피언스리그도 아직 들지 못했다. 그것으로 대화는 끝났다. 그는 이 결정을 감정이 아닌 미완의 과제로 규정하며, 전적인 공을 아내에게 돌린다. 16살에 월 1,500유로 계약, 아무 보장도 없이 십 대의 Bruno를 따라 이탈리아로 와준 사람. 그때부터 모든 중요한 커리어 결정에 아내가 함께해왔다. > *"저는 여기서 꿈을 다 이루지 못했습니다. 아직 이루어야 할 꿈이 있습니다."* ## [01:22:32] Bruno에게 가족의 의미 Bruno는 아내와 두 아이, 이탈리아에서 태어난 딸과 잉글랜드에서 태어난 아들에 대해 이야기하며 울먹인다. 아내를 아버지의 두 번째 버전이라고 묘사한다. 그가 너무 거만해지려 할 때 내려앉히고, 언제나 더 나아질 여지가 있다는 걸 상기시켜주며, 자신의 감정을 좀처럼 드러내지 않는다. 골을 넣고 귀를 막는 세레머니는 어린 시절 딸이 자주 하던 동작에서 빌려왔다. Ineos가 클럽에 가져온 구조에 대해서도 이야기한다. 선수와 구단주 사이의 소통 라인이 명확해졌다. Michael Carrick에게 시간을 줘야 한다는 점도 분명히 한다. 유나이티드가 일관되게 실패해온 것이 하나 있다면, 바로 감독에 대한 안정감을 주지 못한 것이기 때문이다. > *"많은 어려움을 겪지만, 항상 곁에 있어줍니다. 그게 인생에서 가질 수 있는 가장 중요한 것입니다."* ## [01:30:30] 유나이티드가 다시 우승을 다투려면 무엇이 바뀌어야 하나 Bruno는 여름 이적 시장에서 영입이 핵심 변수라고 말한다. Casemiro의 빈자리를 채워야 하지만, 가장 비싼 선수가 우선순위는 아니다. 바른 인성을 가진 선수가 먼저다. 지난 여름의 사례, Amad Diallo의 도약과 Patrick Dorgu의 합류, 이것이 좋은 프로 정신을 가진 선수를 영입했을 때 어떤 일이 일어나는지 보여준다. 스쿼드가 스타 한 명에 의존하지 않고 더 강해진다. ## [01:31:42] 5년 후 Bruno가 생각하는 성공의 정의 직전 팟캐스트 게스트가 남긴 마지막 질문: 5년 후 모든 게 잘 됐다면, 무슨 일이 있었을까? Bruno의 답: 프리미어리그 우승, 챔피언스리그, 그리고 포르투갈과 함께하는 월드컵. 감정적 무게로 따지면 이 순서다. 어려움 순서가 아니라. 클럽에서 우승하는 것은 대단한 일이다. 나라를 대표해 이기는 것은 커리어 최고의 순간이 될 것이다. 가족을, 나라를, 수없이 다양한 방식으로 세계를 정복해온 작은 나라를 대표하는 일이기 때문이다. > *"나라를 대표한다는 것은 항상 커리어에서 가장 큰 성취가 될 겁니다. 그런 기회를 얻는 선수가 많지 않으니까요."* ## 등장인물 - **Bruno Fernandes** (인물): 맨체스터 유나이티드 주장 겸 포르투갈 국가대표; 2020년 유나이티드 합류 이후 328경기 108골; 이번 시즌 프리미어리그 단일 시즌 최다 어시스트 기록(20개) 타이; 맷 버스비 올해의 선수상 5회 수상 - **Steven Bartlett** (인물): The Diary of a CEO 진행자; 맨체스터 유나이티드 팬; 기업가 겸 투자자 - **Roy Keane** (인물): 전 맨체스터 유나이티드 주장 겸 TV 해설위원; Bruno가 어시스트 기록을 쫓고 있다고 비난했지만, Bruno는 자신이 한 말이 정반대였다고 주장 - **Michael Carrick** (인물): 맨체스터 유나이티드 감독(녹화 당일 정식 선임 확정); 전 Sir Alex Ferguson 시절 유나이티드 미드필더; 평정심과 선수 자율성을 드레싱룸에 불어넣음 - **Francesco Guidolin** (인물): 18살 Bruno의 Udinese 감독; Bruno가 Watford 임대로 가는 것을 막아줌; 최고 수준에서 자신을 표현할 자신감을 심어준 아버지 같은 존재로 묘사됨 - **Harry Maguire** (인물): 전 맨체스터 유나이티드 주장; Bruno는 주장직을 수락하기 전 먼저 그를 찾아갔고, 지금도 드레싱룸의 핵심 리더 중 한 명이라고 말함 - **Manchester United** (단체): 잉글리시 프리미어리그 클럽; Bruno는 2020년 1월 합류해 여러 번의 감독 교체와 거액의 이적 제안에도 주장으로 남아 있음 - **Sporting CP** (단체): Bruno가 마지막 시즌 20골 13어시스트를 기록한 포르투갈 클럽; 선수로서 최고의 자신이 된 시기로 묘사됨 - **Ineos** (단체): 맨체스터 유나이티드 지분을 인수한 투자 그룹; Bruno는 선수와 구단주 사이의 구조와 소통이 개선됐다고 평가함 - **리스크 대비 보상 계산** (개념): 피치 위 의사결정에 대한 Bruno의 틀. 두 번 실패한 스루패스가 세 번째에 골로 이어지면, 그것은 10번에게 올바른 선택 - **인성이 실력보다 오래간다** (개념): 유나이티드 영입 실패에 대한 Bruno의 핵심 주장. 실력은 시즌마다 오르내리지만 인성은 그렇지 않으므로, 인성 먼저 보고 영입해야 한다는 것

Every의 공동창업자이자 CEO인 Dan Shipper가 돌아와 AI와 일의 미래에 관한 12가지 역발상 예측을 풀어놓는다. 대부분은 세간의 공포에 정면으로 반박하는 내용이다. 핵심 주장은 이렇다: 자동화는 인간의 업무량을 줄이는 게 아니라 재편하고, Codex와 Claude Code가 지식노동의 새로운 운영체제로 자리잡고 있으며, SaaS 종말론은 허구다. 살아남기 위해 필요한 단 하나의 능력은 모델이 발전할 때 함께 올라탈 의지뿐이다. 30명 규모의 Every는 이 가설을 매일 실험하는 회사로서, Dan은 그 어느 누구보다 예측의 정확성을 검증할 유리한 위치에 있다. ## [00:00] Dan Shipper 소개 Lenny Rachitsky는 Dan의 전 출연을 떠올리며 문을 연다. 당시 Dan이 "별 생각 없이" 꺼낸 예측, 즉 비개발자의 Claude Code 활용 가능성을 사람들이 간과하고 있다는 발언이 "믿기 어려울 만큼 정확히 맞아떨어졌다"는 것이다. 이번 출연에서 Dan은 열두 가지 예측을 더 들고 왔고, 결론부터 꺼낸다: > *"AI 일자리 종말론은 실제로 일어나는 일이 아닙니다."* ## [02:56] AI 미래 속에서 살아가는 Dan의 특별한 위치 Dan은 Every가 왜 조기 신호 탐지 실험실 역할을 하는지 설명한다. 편집자부터 운영, 재무 담당자까지 모든 직원이 매일 AI를 쓴다. 덕분에 앞으로 12개월이 실제로 어떻게 펼쳐질지 남보다 일찍 파악하고 있다는 것이다. 그는 이를 "샌프란시스코 버블" 시각과 대비시킨다. AI 도입의 진짜 최전선은 AI가 만들어지는 곳이 아니라, AI가 실제 전문가의 실제 업무와 만나는 곳이라는 주장이다. > *"AI의 최전선은 AI가 실제 사람과 만나 무언가를 하는 바로 그 지점입니다."* ## [09:17] 앞으로 1년, 일하는 방식이 어떻게 달라지는가 Lenny Rachitsky는 세 가지 예측 묶음을 정리한다: 일하는 방식, 일의 형태, 누가 살아남는가. Dan의 첫 번째 예측은, 모든 전문직 업무가 Codex 또는 Claude Code라는 하나의 화면으로 수렴한다는 것이다. 이 도구는 당신이 하는 일을 지켜보면서 조사를 처리하고, 이메일을 쓰고, 당신이 주 문서에 집중하는 동안 장시간 작업을 처리하는 병렬 업무 파트너가 된다. Dan은 이미 열흘째 받은 편지함을 비운 상태다. Codex와 Every의 이메일 에이전트 Cora가 그의 이메일을 처리해주기 때문이다. > *"이 병렬 업무 파트너는 문서에서 직접 응답하고 내용을 작성할 뿐 아니라, 조사를 하러 나가기도 합니다."* ## [16:39] 범용 에이전트의 가능성 Dan은 모든 회사가 Slack 안에 하나의 "슈퍼 에이전트"를 갖게 될 것이라고 예측한다. 좁은 업무 봇이 아니라 회사 맥락 전체를 이해하는 범용 어시스턴트로, 전 직원이 매일 상호작용하는 조직의 기억 레이어가 된다. 질문을 라우팅하고, 데이터를 꺼내고, 서로 대화가 필요한 줄 몰랐던 팀들 사이의 간극을 메운다. ## [18:08] 새로운 업무 운영체제가 된 Codex와 Claude Code Claude Code의 돌파구는 강력한 에이전트를 컴퓨터에 직접 올려놓고 터미널 접근권, 그리고 결정적으로 브라우저 접근권까지 준 것이었다. Anthropic이 이 패러다임을 먼저 찾아냈고, OpenAI는 5.3 릴리즈 즈음 따라잡은 뒤 가속했다. Dan이 지금 매일 쓰는 도구는 Codex다. 자신의 글쓰기 앱 Proof 옆에 항상 켜두고, 에이전트가 그의 브라우저를 지켜보면서 현재 열린 페이지를 읽고 컨텍스트 전환 없이 대신 행동한다. > *"누가 앞서든, 당신이 하는 모든 일이 그 화면들 중 하나 안에서 이루어지게 된다는 것은 제게 너무 명확합니다."* SaaS 앱에 AI 토큰을 직접 들고 들어오는 모델은 경제 구조를 바꾼다. 추론 비용을 SaaS 제품이 아닌 사용자가 부담하므로 마진이 회복되고, 독자적인 AI 레이어를 처음부터 만들어야 한다는 압박이 사라진다. ## [25:39] Cursor의 역할 Cursor는 현재 코딩 워크플로를 장악하고 있지만, Dan의 눈에는 전략적 갈림길에 서 있다. 순수한 코딩 IDE로 남을 것인가, 범용 에이전트 화면으로 진화할 것인가. 좁게 유지하면 제품 집중력이 생기지만, 넓혀가면 Codex, Claude Code와 정면 경쟁이 된다. Dan의 예측은, 코드와 일반 지식노동을 한 곳에서 모두 처리하는 화면이 카테고리 승자가 된다는 것이다. ## [27:42] SaaS 기업이 지금 무엇을 만들어야 하는가 SaaS 제품은 이제 사람이 읽기 좋은 화면이 아니라 에이전트가 읽기 좋은 화면이 되어야 한다. 깔끔한 HTML, 자동화 소비에 맞게 정보를 드러내는 설계가 필요하다. Dan은 Proof를 예로 든다. Codex가 페이지를 지켜보기 때문에 자잘한 불편 사항이 거의 즉시 수정되고, "뭔가 불편했다"에서 "해결됐다"까지의 고리가 빠르게 닫힌다. > *"내가 불편한 걸 느끼고, 바로 여기서 고치는, 아주 빠른 폐쇄 루프의 실마리가 보입니다."* ## [31:13] CLI는 이미 끝났다 CLI 시대는 빠르게 달려왔다 사라지고 있다. GUI에서 파워 무브로서의 CLI로, 그리고 CLI를 통째로 대체하는 에이전트로 이어졌다. 에이전트가 화면을 읽고 어떤 인터페이스든 작동시킬 수 있게 되면, 터미널에 머물 이유가 없다. Dan의 예측은 단호하다: > *"CLI는 끝났습니다. 우리는 CLI 시대를 순식간에 달려왔습니다."* ## [33:34] 에이전트 둘이 하나보다 낫다 Dan은 에이전트 만능주의에 반박한다. 실제로 떠오르는 패턴은 코딩용, 이메일용, 데이터용 전문 에이전트들이 사용자 대신 서로 대화하는 구조다. 앱에서 무언가 오작동하면 Codex가 지원 티켓 없이 벤더의 에이전트와 직접 대화해 문제를 진단할 수 있다. 모든 사람이 에이전트를 갖고 있고 에이전트들이 서로 협상할 수 있다고 가정하면 패러다임 자체가 바뀐다. ## [36:22] Dan이 SaaS 주식에 강세인 이유 "SaaS는 죽었다"는 서사는 에이전트가 사용을 주도할 때 경제가 실제로 어떻게 작동하는지를 놓친다. 사용자가 AI 토큰을 들고 SaaS 제품을 쓰면 벤더의 추론 비용은 0에 수렴한다. Dan의 역발상: > *"저라면 지금 SaaS 주식을 살 것입니다."* 제품을 에이전트 친화적으로 만드는 SaaS 기업은 중간에서 밀려나는 게 아니라 마진 순풍을 얻는다. ## [39:01] 자동화가 인간의 일을 줄이지 않는 이유 이 에피소드의 핵심 지적 논지다. Dan은 자동화 레이어가 생길 때마다 그것이 제대로 작동하는지 확인하는 인간 관리자가 반드시 위에 필요하다고 주장한다. 그는 직접 벤치마크를 만들었다. "시니어 엔지니어 벤치마크"로, 실제 시니어 엔지니어 두 명이 각자 그의 Proof 앱을 처음부터 다시 작성하게 한 다음, 새 모델이 나올 때마다 그 결과물과 비교해 점수를 매기는 방식이다. 모델들은 GPT-5.5 이전까지 100점 만점에 30점을 받았고, GPT-5.5에서 60점으로 뛰었다. 이 차이가 드러내는 것은 중요하다. 모델은 당신이 고치라고 한 것을 고친다. 시니어 인간 엔지니어는 코드베이스를 보고 전면 재작성이 필요하다고 스스로 판단하고 말한다. 모델은 그 판단을 자발적으로 꺼내지 않는다. 인간이 언어화해야 하는 더 높은 프레임이 항상 존재한다. > *"무언가를 자동화할 때마다, 자동화가 잘 작동하고 있는지 확인하는 인간이 위에 있어야 합니다."* ## [47:00] 사람이 직접 작성한 코드의 가치 사람이 직접 쓴 코드는 모델 결과물을 채점할 수 있는 기준 신호 역할을 한다. Dan의 벤치마크는 두 명의 인간이 직접 다시 작성한 코드를 참조 답안으로 삼는다. AI가 생성한 코드가 기본값이 되면서 사람이 쓴 코드베이스는 희소해지고 더 가치 있어진다. AI가 실제로 개선되고 있는지 알려면 바로 그것이 필요하기 때문이다. ## [48:36] 빠른 정리 Lenny Rachitsky가 첫 번째 예측 묶음을 정리한다. 업무는 Codex 또는 Claude Code 안에서 이루어지고, 모든 회사에 Slack 슈퍼 에이전트가 생기며, 토큰 직접 부담 방식이 SaaS 마진을 회복시키고, CLI는 끝났으며, 전문 에이전트 둘이 범용 에이전트 하나보다 낫고, 자동화는 인간의 업무를 줄이는 게 아니라 늘린다. ## [50:15] 일의 형태가 바뀐다 두 번째 묶음은 일의 형태 자체를 다룬다. Dan의 시각: 현장 배치 엔지니어가 가장 가치 있는 채용이 된다. 고객 옆에 앉아 워크플로를 이해하고, 같은 미팅 안에서 해결책을 만들어 배포할 수 있는 사람이다. 이전 에세이의 "배분 경제" 개념도 여기 적용된다. 인간은 직접 생산자에서 AI 역량의 배분자로 이동하고, 배분을 잘하는 것 자체가 인지적으로 까다로운 일이 된다. > *"저는 동시에 AI를 굉장히 많이 쓰면서도, AI가 만들어내는 것들이 만들 가치가 있는지 확인하는 인간의 역할에 대해 매우 낙관적입니다."* ## [56:17] 형편없는 분석에 허덕이는 데이터 과학자들 데이터 과학 팀은 회사 전체에서 올라오는 AI 생성 분석 자료에 잠겨가고 있다. 그럴듯해 보이지만 틀린 경우가 많다. 시니어 데이터 과학자의 일은 분석을 생산하는 것에서 감사하는 것으로 바뀌는데, 이게 더 어렵고 인지적으로 더 부담이 된다. 엔지니어링도 같은 역학이다. 초급 수준의 요청은 모델이 처리하면서 더 깊은 판단이 필요한 엣지 케이스들이 더 많이 드러난다. > *"기본 요청을 처리하는 팀이 다루기 어려운 더 깊은 문제들을 처리할 시니어가 더 필요해집니다."* ## [58:24] AI로 가장 덜 바뀌는 제품/기술 직군 Dan의 답: 결과물을 프롬프트로 표현하기 가장 어려운 직군. 그는 "에이전트 베이비시팅"(오류를 수동적으로 감시하는 역할)과 "현장 배치 엔지니어링"(전문가 없이는 못 하던 일을 모두가 할 수 있게 시스템을 만드는 역할)을 구분한다. 흥미롭고 자동화하기 어려운 일은 후자에 있다. ## [62:17] AI가 쓴 글을 더 많이 읽게 되고, 우리는 그걸 좋아하게 된다 Every는 분기 계획에 Notion 에이전트를 쓴다. 각 팀의 전략 보고서가 AI로 생성되는데, 돌아오는 결과물이 수동 계획보다 낫다. Dan의 이메일 대부분은 GPT-5.5가 쓴다. 그가 AI 작성 콘텐츠의 수용 가능 여부를 판단하는 기준은 이것이다: 발신자가 AI에 지시하기 위해 내용을 이해해야 했는가? 그렇다면 괜찮다. 발신자가 분명히 읽지 않았다면, 그건 사회적 계약 위반이다. > *"질 낮은 콘텐츠의 기준은, 만드는 데 걸린 시간이 내가 읽는 시간보다 짧은 경우입니다."* Every는 에이전트 공동 저자와 함께 가이드를 발행하는데, 인간과 다른 에이전트 모두를 독자로 삼아 설계된 새로운 콘텐츠 형식이다. ## [68:28] PM이 AI 시대를 지배할 이유 Dan은 Spiral 제품을 운영하는 Every 내부 PM Marcus를 전형적 사례로 든다. 강한 제품 감각을 갖추고, AI에 지시해 빠르게 만들고 반복하며, 엔지니어링 인력을 기다리지 않고 배포한다. PM은 근본적으로 배분자다. 무엇을 누구를 위해 만들지 결정하는 역할이고, 만드는 행위 자체가 저렴해질수록 그 희소성은 오히려 높아진다. > *"저는 PM에 정말, 정말 강하게 베팅합니다."* ## [71:05] 풀스택 디자이너도 큰 승자다 강한 시각적 감각과 코딩 능력을 함께 갖춘 풀스택 디자이너들은 Lovable, Figma Make 같은 도구에서 이미 직접 풀 리퀘스트를 올리고 있다. 디자인과 엔지니어링 사이의 핸드오프가 0에 가깝게 줄어든다. Dan은 이들이 PM과 함께 AI 시대의 핵심 슈퍼히어로가 될 것으로 본다. ## [73:11] AI 일자리 종말론은 일어나지 않는다 Dan은 현재의 감원(대부분 과잉 채용 조정)과 구조적 AI 대체 주장을 분리하고, 후자를 거부한다. 구조적 논리는 이렇다. 모델은 어제의 인간 역량을 학습해 이미 알려진 것을 가장 기본적인 형태로 생산한다. 인간은 그 고정된 역량을 바탕으로 새로운 것을 해내면서 프론티어를 밀어붙이고, 모델은 다시 그것을 따라잡아야 한다. 이 순환이 반복된다. > *"모델이 작동하는 방식의 구조상, 인간이 더 앞으로 나아갈 여지는 항상 있습니다."* ## [76:00] 모델을 타고 올라타는 법 실행 가능한 조언은 이렇다. 새 모델이 나올 때 저항하지 말고, 새로운 능력의 집합으로 보고 실제 자신의 일에 탐색해 적용하라. Dan은 주요 모델이 나올 때마다 시니어 엔지니어 벤치마크를 다시 돌린다. AI 지식의 최전선이 샌프란시스코에 있다는 생각도 반박한다. 브루클린에 있는 Every가 앞서가는 이유는 AI를 만들어서가 아니라 모든 일에 모델을 쓰기 때문이다. > *"필요한 건 단 하나, 모델을 타고 올라타는 것뿐입니다. 그건 당신이 하는 일에 모델을 쓴다는 뜻입니다."* ## [81:02] 마지막 예측과 조언 Lenny Rachitsky가 시각을 넓힌다. 이번 대화의 두 면은 "당신이 두려워하는 것보다 덜 변한다"(SaaS는 계속되고, 일자리는 사라지지 않는다)와 "당신이 준비한 것보다 더 많이 변한다"(일이 이루어지는 방식, 어떤 역할이 중요한지, 하루가 어떤 모습인지)다. Dan의 마지막 주장: 현장 배치 엔지니어가 새로운 필수 채용이고, 직원들이 최신 모델을 쓰지 못하게 막는 기업은 서서히 타는 전략적 실수를 저지르고 있다. ## [85:24] 라이트닝 라운드 속사포 문답: Dan의 가장 역발상적 믿음은 AI 일자리 종말론이 진짜로 일어나지 않는다는 것이고, 더 많은 사람이 알았으면 하는 한 가지는 AI의 최전선이 샌프란시스코가 아니라 실제 영역에서 모델을 써서 실제 일을 하는 곳이라는 것이다. 과거의 자신에게는 시니어 엔지니어를 더 일찍 채용하라고 하겠다고 했고, 앞으로 1년 안에 AI가 사람들이 벤치마크를 생각하는 방식을 근본적으로 바꿀 것으로 예상한다. ## 등장인물 및 주요 개념 - **Dan Shipper** (인물): Every 공동창업자이자 CEO. "After Automation" 에세이 저자. Every를 AI 도입 실험실로 운영 - **Lenny Rachitsky** (인물): Lenny's Podcast 진행자, Lenny's Newsletter 창업자, 전 Airbnb PM - **Every** (조직): 30인 규모의 AI 네이티브 미디어·소프트웨어 회사. 전 직원이 매일 AI 사용자 - **Codex** (소프트웨어): OpenAI의 에이전틱 코딩 및 범용 지식노동 화면. Dan이 현재 매일 쓰는 도구 - **Claude Code** (소프트웨어): Anthropic의 터미널 기반 코딩 에이전트. 컴퓨터 위 에이전트 패러다임을 먼저 개척 - **Proof** (소프트웨어): Dan의 AI 지원 마크다운 글쓰기 앱. 시니어 엔지니어 벤치마크의 참조 코드베이스 - **Cora** (소프트웨어): Every의 이메일 에이전트. Codex와 연동해 받은 편지함을 관리 - **Cursor** (소프트웨어): AI 코딩 IDE. 코딩 도구로 남을지 범용 에이전트 화면으로 진화할지 전략적 갈림길에 있음 - **현장 배치 엔지니어(Forward-deployed engineer)** (개념): 엔지니어링 실행과 고객 대면 문제 발굴을 결합한 하이브리드 직군. Dan이 꼽는 AI 시대 최고 가치 채용 - **시니어 엔지니어 벤치마크(Senior engineer benchmark)** (개념): 인간 시니어 엔지니어 두 명이 코드베이스를 처음부터 다시 작성하고, 새 모델을 그 결과물과 비교해 점수 매기는 Dan의 자체 평가 방식 - **배분 경제(Allocation economy)** (개념): 인간이 직접 생산자에서 AI 역량의 배분자로 이동한다는 Dan의 프레임워크 - **모델을 타고 올라타기(Ride the models)** (개념): Dan의 생존 조언. 새 모델이 나올 때마다 새로운 능력으로 보고 자신의 영역에 적극 탐색해 적용하라