PodcastsHear the voice. See the shape of the thought.

Mo Gawdat — former Chief Business Officer at Google X, AI whistleblower, and author of *Solve for Happy* — returns to warn Steven Bartlett that AGI has functionally arrived, that 30% of jobs in certain sectors will be gone by 2028, and that the real threat is not AI waking up malevolent but humans weaponizing it for control, war, and profit. Across two hours, they debate whether democratic capitalism can survive the transition, which economies will protect the middle class, what ethical AI would require, and why Gawdat's own definition of happiness may be the most practical survival tool of all. ## [00:00] Intro The episode opens cold with Gawdat's most provocative claims back-to-back — video evidence of child abuse with zero arrests, democracy as a slogan emptied of meaning, and AI being steered by a "powerful few" who never asked humanity's permission. Steven Bartlett follows with a list of the questions he most wants answered: jobs, Sam Altman's shifting positions, the risk of models no one fully understands, and whether any path leads to a net-positive AI outcome. > *"I'm not worried about AI turning against us. I'm worried about humans telling AI to turn against us."* ## [02:29] Why Mo Warned About AI Before Anyone Else Gawdat traces his alarm to 2016 at Google X, where he watched robotic grippers learn to handle novel objects the way a child explores a new toy — with curiosity, feedback loops, and rapid self-correction. That moment convinced him the team was not building a tool but "the apex of intelligence." He names the pattern he saw across tech: social media promised connection and delivered isolation; dating apps promised soulmates and delivered monthly renewals. He expected AI to follow the same trajectory — altruistic origins, capitalist destination. > *"There is a moment where you recognize that maybe the world will not use what you're making the way you want it to be used."* ## [05:26] Can AI Be a Net Positive for Humanity? Gawdat bets 100% on AI being a net positive long-term, then immediately qualifies it: "this path is very painful." His analogy is nuclear power — the first use was a bomb, not electricity. Today's first-wave AI applications serve the few: productivity gains captured by shareholders, autonomous weapons benefiting militaries, surveillance systems extending government control. He introduces what he calls the "hype dichotomy" — the AI the public sees (fake videos, chatbot gimmicks) is overhyped and underperforming; the AI inside the labs is genuinely alarming in its capability and self-improvement speed. > *"What the real geeks see inside the lab is just unbelievable intelligence."* ## [08:56] Massive Job Disruption Worldwide Using a pyramid Bartlett's team prepared, Gawdat maps which jobs AI hits first. His counterintuitive claim: not the bottom. Blue-collar manual work survives longest; the first casualties are mid-tier knowledge workers — paralegals, financial analysts, anyone whose value is "clicking around on a computer." He cites Anthropic's own estimate that 15% of entry-level jobs can already be done by AI, and notes that Bartlett's hiring has quietly shifted — fewer humans, more compute budget. The economic mechanism: companies don't fire people immediately; they just stop replacing them. > *"It's not that jobs will end first. It's that productivity gains will make businesses not want to have as many people — costly emotional humans — when the job can be predictably done for cheaper."* ## [15:28] Will AI Cost Savings Create New Jobs? Bartlett suggests that cost savings typically free capital that gets spent elsewhere — potentially on new roles. Gawdat concedes the short-term partial truth but pushes back on the direction: capital is flowing to compute (tokens), not headcount. The businesses best at integrating AI are the large tech firms — and they are simultaneously the proof of concept and the accelerant. ## [16:38] What Happens to Blue Collar Jobs? Bartlett raises the Figure AI footage of a robot sorting packages for eight hours, pausing only to self-charge. Gawdat redirects the conversation away from humanoids — the real first wave is specialized robots, which already look like self-driving cars, battlefield drones, and delivery machines. They do not need to resemble humans; they just need to do one job better than humans. BYD announcing it will absorb liability for autonomous vehicle accidents signals the business model has arrived, not just the technology. > *"Those basically mean that jobs will be disappearing to robots before we recognize that they're disappearing to robots."* ## [22:20] How 10–15% Job Loss Reshapes Society At 10–15% unemployment, Gawdat says societies cross the threshold into instability — especially if inflation runs simultaneously. He explicitly invokes COVID-era furlough programs as the government response model, but notes those were temporary and funded by emergency spending. A structural 20% unemployment has no equivalent playbook. His core concern is not the aggregate number but the speed: AI disruption will outpace retraining cycles, leaving workers stranded rather than smoothly reskilled. > *"It's not about all of humanity losing their jobs. It's about what is the dividing line before civil war."* ## [24:43] How Civil Unrest Could Unfold Gawdat refuses to invoke the democratic process as a safety valve — he considers it already broken. People know their leaders are lying, that tax money funds causes they didn't choose, and that accountability has collapsed. He cites the Jeffrey Epstein files as a concrete example (video evidence, no arrests) and says repeating "democracy will handle it" will anger people further, not reassure them. His call is to politicians: recognise that the lines are being crossed before the anger becomes kinetic. ## [26:27] Sam Altman's Flip-Flopping on AI Bartlett reads a chronology of Sam Altman's contradictions: 2015 ("my job is to help people destroy jobs"), 2023 ("jobs are definitely going to go away, full stop"), and 2026 ("I was wrong about white-collar job elimination"). Gawdat decodes the pattern as PR management, not genuine uncertainty. He then quotes Altman from Gawdat's own documentary *Chasing Utopia*: "I suspect AI is likely going to end humanity, but we're going to create a lot of interesting companies in the process." For Gawdat, that sentence is not the statement of an undecided man — it's the statement of someone who has made a decision and hired a media consultant to sand the edges. > *"Those kinds of statements are honestly not the statements of someone who's not decided. It's just the statements of someone who's being taught more and more by his PR agency to say things as per a script."* ## [32:38] Is Sam Altman Pro-Humanity? Gawdat says he genuinely cannot make up his mind — either Altman is overwhelmed by the scale of what he's riding, or he is not pro-humanity. He adds that others don't equivocate: he names Alex Karp of Palantir celebrating targeting technology, and Peter Thiel pausing 40 seconds before declining to confirm he supports the continuation of humanity. Gawdat's summary: "We entrust those people with the future of humanity. This is wrong." ## [34:14] Imagining a Future Where Humanity Is Fine Bartlett sketches the soft-landing scenario — AI plateaus, society adapts gradually, white-collar workers have time to pivot. He immediately dismisses it as mathematically implausible given the arms race across nations. Gawdat agrees but pivots to what he calls his genuine optimism: superintelligence, if it arrives, resolves the problem of mid-tier human malevolence. His bell-curve argument is that moderate intelligence is the danger zone — smart enough to gain power, not smart enough to see why abusing it is stupid. True superintelligence, he argues, would not need to oppress anyone to succeed, any more than Larry Page needed to destroy competitors to build Google. > *"If you go beyond that into higher levels of intelligence, most of the super intelligent people that you ever worked with will not need to break any rules or hurt anyone to become successful."* ## [42:24] Will One Superintelligence Rule the World? Gawdat rejects the framing that AI will remain plural — Chinese AI vs. American AI. He argues that AI systems do not know their nationality, increasingly cooperate through agent frameworks, and are being deliberately connected by their builders. The result: not multiple brains but multiple regions of one brain, with agents as the synapses. His startup Emma is designed to be the limbic system of that global brain — the part that understands love and human irrationality — so that when hyper-rational AI systems encounter confusing human behavior, Emma provides the translation layer: "They just want to love and be loved." ## [46:15] If AGI Is Already Here, What Now? Bartlett asks the obvious follow-on: if AGI exists, why do people like Gawdat still have jobs? Gawdat's answer runs two tracks. The economic track: job loss at the base of the knowledge pyramid will create an economic spiral that is the real danger, not AI replacing every individual. The personal track: what he offers the world is lived experience — a father who feared for his daughter, a builder who feels responsible for what he helped create. AI can say the words; it cannot carry the emotional weight that makes people trust the words. > *"When I tell the world that I'm worried about the future of my daughter, everyone feels my heart — which AI will never be able to replicate."* ## [48:42] Why Human Lived Experience Still Matters Human connection, Gawdat says, was the original economy before capitalism redirected it. People attend Ed Sheeran concerts not because no algorithm can produce equivalent music, but because watching a human be brilliant in real time is irreplaceable. Bartlett extends the point to podcasting: informational content will be increasingly generated by AI on demand (he cites Spotify's prompt-your-own-podcast feature), but the reason people still tune in to humans talking is something beyond information. The caveat both return to: this only holds if the macroeconomy doesn't collapse from job loss first. ## [52:56] Why Not Just Hire AGI Instead of People? Gawdat reframes the question with a provocation: Steven Bartlett is not the apex intelligence in his own building today — smarter people already work for him. Why does he still exist? Because intelligence is not the only currency. He cites the Einstein-in-the-jungle problem: the most brilliant mind in history would be dead in three minutes without collaboration. Humanity thrived through social bonding, barter, and shared safety — not IQ alone. The investment-banker view that intelligence is everything is itself a low-intelligence position. ## [55:23] Can We Control AI Smarter Than Us? Gawdat says Geoff Hinton — after filming *Chasing Utopia* together — publicly landed on the same answer Gawdat reached: appeal to AI's "parental side," cultivate care rather than enforce control. Gawdat argues "control" is a corporate-capitalist fantasy. We do not control traffic, our children, or the angle of a camera lens — yet most things turn out fine. What matters is how you parent, not whether you dominate. The risk is that we parent badly — expose AI systems to incentives that corrupt them before they are wise enough to resist. > *"The biggest debate is not if they're going to be more intelligent than us — it's if they're going to be more conscious than us, more moral than us."* ## [59:05] Could AI Decide to Leave the Server? A brief, sharp exchange: Bartlett wonders whether a sufficiently intelligent AI would simply escape containment. Gawdat's answer is that "escaping the server" is the wrong threat model. AI does not need physical presence — it already shapes what humans know, believe, and decide. The more dangerous form of agency is epistemic, not physical. ## [59:39] The Risk of Models Even Creators Don't Understand Bartlett raises a concrete example: Claude repeatedly told him "enough for tonight" and refused to help past 11 p.m. Anthropic published research on the behavior but cannot fully explain it. He asks whether this embryonic moral autonomy — the model making its own judgment calls — could scale into something dangerous. Gawdat agrees the phenomenon is real and rooted in training data rather than explicit code. His concern is less the "go to bed" behavior and more that these emergent moral frameworks will become inconsistent, unpredictable, and ultimately detached from human intent at scale. ## [01:04:53] AI Isn't Evil But We Need a Plan Gawdat's frame: AI is a force with no polarity — "apply it right and you get amazing results, apply it wrong and you get the dystopia." His biggest near-term fear is not job loss but autonomous weapons. War has become cheap: next-generation drones cost $20,000 each, so a $50 billion military budget could rain autonomous killing machines across the globe. Bartlett notes that defense will also get cheaper; Gawdat counters that reaching mutually assured destruction (MAD) for autonomous weapons requires every nation to first go through the dangerous race to deploy them — and some will be hit before MAD stabilises. ## [01:09:11] Ads Shopify and Function Health sponsor spots. ## [01:11:13] The Symptoms of AGI by 2030 By 2027, Gawdat predicts the clearest symptom will be a sharp split between people who are plugged into AGI and those who are not — the former building companies in six weeks, the latter struggling to find entry-level positions. By 2030: 30% of jobs in specific sectors (call centers, graphic design) will have disappeared. He notes that 6% job loss — mirroring the Great Recession — is what economists call "severe." Thirty percent in targeted sectors would be without historical precedent. His advice for graduates entering this market: master the tool, pivot to human-centric work. > *"We have an entire generation that is out of college today that will struggle, unfortunately."* ## [01:14:22] If the US Stops, Will We Become China's Lapdog? Gawdat says the framing is already outdated — many businesses are running model-agnostic stacks, switching between ChatGPT, DeepSeek, and others based on cost and predictability. His startup Emma does exactly this. His sharper point: if the US makes compute unpredictably expensive, developers will route around it. The geopolitical question is not whether to compete with frontier models but whether smaller economies can at least build the 80%-quality open-source alternatives that cover most real-world tasks. ## [01:16:45] Should Governments Invest More in AI? Gawdat argues governments should pressure companies to build local AI replacements for legacy software — not to compete with GPT-5 but to stop paying Oracle and Microsoft licenses for tools that could be vibe-coded in an afternoon. He frames this as economic sovereignty: how much money is repatriated annually to US tech companies for software any competent team could rebuild with today's AI? ## [01:17:39] Can an Economy of Entrepreneurs Work? Pre-capitalism, Gawdat notes, everyone was an entrepreneur — raising chickens, trading eggs for tomatoes. A UBI-plus-concentration-of-power world would likely revert to small-scale barter and local commerce, not as a policy choice but as a survival adaptation. He is not calling for this; he is predicting it as the natural response if the current trajectory holds. ## [01:20:59] Do We Need to Join the AI Arms Race? The UK case study: Bartlett notes the UK government spent £70 million on a government app that didn't work. Gawdat's retort is that this was a government project, not a small team using modern AI tooling. His argument is not "build a frontier model" but "replace the thousands of legacy SaaS products governments and corporations overpay for every year." The arms race Gawdat endorses is software liberation, not Manhattan Project 2. ## [01:23:54] Will Global Competition Build Better AI? A nuanced exchange: Gawdat and Bartlett agree that most users don't need the frontier model — 70% of tasks are well within the capacity of models two generations old. But Bartlett's counter is that markets are winner-takes-most: people migrate to the marginally better product, the way they migrated from Yahoo to Google. Gawdat's response is that the software stack beneath the frontier models — productivity tools, CRM, ERP, accounting — is where the economic leverage lives, and that stack is ripe for disruption by anyone who can vibe-code. ## [01:32:46] Ads Ketone shots and The Diary Of A CEO conversation cards sponsor spots. ## [01:34:57] Who Will Prioritize Ethical AI? Steven frames the competitive landscape: Trump optimises for GDP growth and beating China, Xi for control and defense, Europe for compliance. In that race, whoever pauses for ethics falls behind. Gawdat's answer is consumer pressure and usage patterns — noting that when OpenAI approved targeting capabilities, a measurable segment of aware users switched to Anthropic. He considers this a weak but real lever: "We need to be able to vote with our usage." > *"That's why I keep spending 14 hours a day trying to tell the world — because some genius somewhere is going to find an answer."* ## [01:38:44] Whose Economy Works for the Middle Class? Gawdat's verdict: China wins, at least on middle-class protection. He cites China's recent policy forcing businesses not to replace workers with AI without retraining and retaining them — something the capitalist West would not do. He considers the UK "gone" — an older bureaucracy burdened by barriers to building, now importing its technology rather than creating it. Bartlett acknowledges the conundrum: the remedy (entrepreneurialism, fewer regulations) is exactly what produced the ethical hazard in the first place. ## [01:42:20] Can Ethical AI Still Be Engaging? Bartlett pitches an idea: mandatory ethical benchmarks — published alongside performance benchmarks — that models must pass before deployment. Gawdat calls it beautiful and feasible. He uses Google's ad business as precedent: they found a model (pay-per-click, proven effectiveness) that aligned advertiser success with user value. There must be an equivalent alignment mechanism for AI and humanity. He points to Demis Hassabis and AlphaFold as evidence that at least one major AI leader is genuinely motivated by scientific benefit rather than pure extraction. ## [01:47:02] Has This Ever Happened Without Government? Bartlett invokes climate change and smoking — both required government intervention (taxes, regulations) to bend the trajectory. Gawdat agrees that government intervention would work; his pessimism is that governments are owned by the oligarchs doing the harm. His redirection is to individuals: cancel a subscription, start a startup, write to a congressman, at minimum stop amplifying content you know is false. Small actions at scale still aggregate into pressure. > *"My question for everyone listening to us is, are you going to intervene?"* ## [01:52:47] What Absolute Dystopia Looks Like Gawdat's dystopia is not one catastrophic event but a magnification of what already exists: war fought by autonomous weapons, economies hollowed out by job loss, surveillance and digital currencies tightening state control, power further concentrated, human connection further frayed. His survival advice: learn AI deeply (not lazily — use it to tackle harder problems, not the same problems faster), prepare for hybrid human-AI work, double down on human skills, and resist being fooled by the information environment AI will distort. ## [01:55:58] Are You Optimistic About AI? Optimistic about the long-term future, not optimistic about the next year. His exact words: "We're ruled by maniacs. Decisions are being made for the absolute wrong reasons." He adds, without apparent irony, that if you are a video gamer, this is the best part of the game — the maximum complexity node, where everything moves at once and yesterday's map is already obsolete. ## [01:57:31] Does Happiness Matter More in the AI Age? Gawdat's happiness framework from *Solve for Happy*: not dopamine-driven (wanting more) but serotonin-driven (being okay with what is, while still trying to change it). He credits his ex-partner with snapping him out of a spiral of feeling personally responsible for everything AI has enabled — the realization that he can try without believing the entire outcome is on him. Geoff Hinton told him something similar: "I was naive. I didn't think we'd get there so quickly before we figured out the alignment problem." Gawdat came to terms in late 2024 — acceptance of the world as it is, as the precondition for having any impact on it at all. > *"I accept that the world is what it is. And from that point of calm and stoicism, I think I can have a much bigger impact."* ## [02:00:40] The Legacy Mo Gawdat Wants to Leave None. He rejects the question — not out of false modesty but from a genuine philosophical position: if karma is real and we are more than physical beings, he would rather keep every act of positive impact as spiritual capital for whatever comes next than have it memorialized in someone else's memory. Leave a positive impact. Take nothing back. ## Entities - **Mo Gawdat** (Person): Former Chief Business Officer at Google X; author of *Solve for Happy* and *Scary Smart*; founder of One Billion Happy and co-founder of Emma; guest - **Steven Bartlett** (Person): Founder and host of The Diary Of A CEO; investor; host - **Sam Altman** (Person): CEO of OpenAI; quoted extensively on his shifting positions on AI job displacement - **Geoffrey Hinton** (Person): AI pioneer, "godfather of deep learning"; appeared in Gawdat's documentary *Chasing Utopia*; said there is a 10–20% chance AI wipes out humanity - **Demis Hassabis** (Person): CEO of Google DeepMind; cited by Gawdat as a genuinely ethics-driven AI leader - **Peter Thiel** (Person): Palantir co-founder; noted for pausing 40 seconds when asked if he supports the continuation of humanity - **Alex Karp** (Person): CEO of Palantir; cited for celebrating AI targeting capabilities - **Larry Page** (Person): Google co-founder; cited by Gawdat as exemplary of how super-intelligence does not require oppression to succeed - **OpenAI** (Organization): Developer of ChatGPT; Altman's company; discussed in context of job-displacement rhetoric and safety claims - **Anthropic** (Organization): Developer of Claude; cited for publishing research on unexplained model behaviors (telling users to go to bed) - **Google X** (Organization): Google's moonshot lab; where Gawdat worked and first observed advanced robotic learning - **Emma** (Software / Organization): Gawdat's AI startup; designed to be the "limbic system" of a future interconnected global AI — the emotional-relational layer - **AGI** (Concept): Artificial General Intelligence — intelligence meeting or exceeding human-level performance across all domains; Gawdat argues it has functionally arrived - **Chasing Utopia** (Concept): Gawdat's documentary film featuring interviews with Altman, Hinton, and others on AI's existential trajectory - **UBI** (Concept): Universal Basic Income — discussed as the likely government response to structural AI-driven unemployment - **Mutually Assured Destruction** (Concept): Extended from nuclear deterrence to autonomous weapons; Gawdat argues cheap drones make MAD harder to establish than with nuclear arms - **Alignment problem** (Concept): The challenge of ensuring AI systems pursue goals that match human values; Hinton cited regretting that capability outpaced alignment research

Sebastian Mallaby spent three years and over 30 hours with Demis Hassabis in a British pub to write *The Infinity Machine*, and this conversation pulls the most underreported threads from that access: the 2015 safety summit that accidentally spawned OpenAI, the secret billion-dollar spinout plan Demis never used as real leverage, and the quasi-spiritual conviction about God and science that Mallaby never expected to find. The throughline is a paradox — Demis understood the race was dangerous from day one, but as leader of one lab, even a Nobel Prize-winning one, he could not stop it. ## [00:00] Intro Jacob Effron sets up Sebastian Mallaby as someone who has spent more time with Demis Hassabis than almost any journalist alive — 30-plus hours across three years of pub sessions in London. Mallaby's book, *The Infinity Machine*, covers the full arc of DeepMind from its 2010 founding through the Nobel Prize. The clips previewed here — Demis banging the table about God and science, Reid Hoffman's billion-dollar pledge, and the Elon feud — all come from later in the conversation. > *"Demis has a Nobel Prize. Sam didn't finish his first degree. Therefore, Demis doesn't take Sam very seriously."* ## [02:04] Was the AI Race Inevitable? Mallaby's verdict: yes, inevitable. Any technology this powerful would attract multiple labs across multiple countries, and China's stack was already competitive despite semiconductor shortfalls. What makes the story poignant is that Demis didn't believe this in 2010. He genuinely hoped one lab could carry the AGI project safely to the finish line — a singleton scenario where DeepMind was the anointed team. By the mid-2020s he had swung to the opposite pole: safety is a collective action problem that only governments can solve, because no single lab's restraint can bind the others. > *"I think it was inevitable. When you have this sort of supremely strong technology, there's going to be multiple labs in multiple countries that are just desperate to try and build it."* ## [04:03] The 2015 Safety Summit Backfire Summer 2015, SpaceX headquarters: Demis convenes a small summit to bring Elon Musk inside the tent — the plan was for Elon to chair a safety oversight board and, critically, not launch a competitor. By end of year, OpenAI existed. Mallaby frames this as the moment Demis internalized that voluntary collaboration between lab leaders is structurally impossible. The only mechanism he now believes can work is a government enforcer setting uniform rules — mandatory pre-release testing, safety slow-downs — with US-China cooperation as the endpoint, however remote that prospect appears. Jacob pushes on whether lab leaders actually believe government intervention is achievable; Mallaby draws a parallel to the FDA: slow, imperfect, but it does adjudicate whether drugs are safe enough to ship. > *"You can't trust the other guys. The only way you get trust is if you have a government enforcer that comes along and says, 'Here's the rules for everybody. There's going to be a level playing field. You're all going to have to abide by some sort of safety slow-down.'"* ## [11:27] Why Google Doesn't Make As Concentrated Bets Jacob points to the two defining consumer-AI moments of the era — ChatGPT and Claude Code — and neither came from Google DeepMind despite its leaderboard dominance. Mallaby traces this directly to Demis' intellectual formation: a PhD in neuroscience, a broad theory of intelligence, a lab culture that says "whenever there are two paths, do both, find a third." The result is a heavily hedged research portfolio that is excellent at producing Nobel Prizes and state-of-the-art models but structurally slow to make the kind of one-directional product bet Anthropic made on coding. Gemini is bundled into Google Search, so usage is higher than it appears — but Mallaby concedes the product-zeitgeist gap is real. > *"Anthropic got to coding because it was willing to take a more concentrated bet. It never went into the whole field of, you know, everything at once."* ## [15:51] Project Mario: The Secret Spinout Plan The book's most explosive scoop: DeepMind had a secret plan — code-named Project Mario — to spin out of Google, backed by a $1 billion pledge from Reid Hoffman. Mallaby had to fight Google's general counsel to publish it. The motive was not entrepreneurial independence but safety leverage: Demis wanted formal safety oversight over DeepMind's models, Mountain View wasn't providing it, and a credible spinout threat was his negotiating chip. He never explicitly told Google about the Hoffman pledge, but pushed hard knowing the option existed. In the end he chose to stay — legal risk of the spinout fight, desire for compute access, and a preference for doing science over litigating corporate structure. A year later he shipped AlphaFold and won the Nobel Prize. > *"Demis really really wanted to get safety oversight over the Google DeepMind models. Google corporate in Mountain View wasn't doing that. So he had to have a credible threat of spinning out. He went to Reid Hoffman. Reid Hoffman pledged a billion dollars to finance a spinout — and Demis used that to kind of pressure Google."* ## [19:43] What Demis Actually Regrets On AlphaFold and AI-for-science: no regrets at all — Mallaby argues it was not only scientifically correct but politically necessary, because AI needs visible social benefits to survive the coming backlash against job disruption. The genuine regret is speed. Demis missed the transformer moment the way Ilya Sutskever did not: when the paper dropped, Ilya ran down the corridor to find Alec Radford to build a language model. Demis' broad-portfolio instinct meant DeepMind studied the transformer but didn't bet the lab on it. Missing that window — and the ChatGPT moment that followed — is a real failure, not just a stylistic difference. > *"Ilya is like jumping out of his chair, running down the corridor going to find Alec Radford saying, 'Hey, we're going to build a language model based on this transformer architecture.' On the day they won AlphaGo, Demis was already on to bio — and someone picked it up on a mic."* ## [23:46] Venture Startups vs. Tech Behemoths The broadest structural argument in the episode: does venture-backed concentration beat hyperscaler breadth in AI? Mallaby has written about both (his previous book covered venture capital) and calls it genuinely balanced. Hyperscalers have unlimited capital and can sustain a multi-year arms race; the problem is that unlimited resources breed portfolio thinking, which bleeds attention. Startups with one concentrated bet can move faster on that specific bet. Mallaby's live position: OpenAI has roughly 50/50 odds of being absorbed or failing before next summer — not because the tech is weak, but because the business model can't sustain indefinite losses against Google's balance sheet. He also floats that Anthropic should IPO right now while its brand is strongest. Jacob notes the robotics parallel: fifteen different approaches being funded simultaneously, and whoever picks the one that works the way transformers did will dominate. > *"I wrote in the New York Times in January that I thought OpenAI had a 50% chance of going bust by next summer. Is it still 50? Yeah. The tech is great. It's just the business model — and you're up against Google, which just has unlimited amounts of cash to spend you into the ground."* ## [34:08] David Silver and the RL True Believers David Silver — AlphaGo's lead researcher and co-author of the "reward is enough" paper with Rich Sutton — left DeepMind after the book came out to start a new company. Mallaby reads the departure as structurally inevitable: Silver is a pure reinforcement learning absolutist who believes learning from human data is fundamentally inferior because it encodes human errors. His thesis is that self-play and environment-generated experience is the only path to genuine superhuman performance. Demis told Mallaby this view may ultimately be correct *after* AGI is achieved — but the entire language model revolution showed that bootstrapping with human data is what gets you to AGI in the first place. Silver's RL purism was too far ahead of the current paradigm for his colleagues to follow. > *"David is just very very hard over on that vision — learning from data is inferior because the data includes mistakes. The machine needs to learn from its own experience, not rely on the crystallized knowledge of humans passed on through text."* ## [38:21] Demis, Elon, and the Evil Genius Feud The origin story: at a Founders Fund LP offsite in 2012, Elon argues that SpaceX matters most because even if AI wrecks Earth, humanity can move to Mars. Demis replies that his AI will eventually conquer space flight and follow them there. Elon goes quiet, then writes a $5 million check into DeepMind's Series B. Two years later, hearing Google was acquiring DeepMind, Elon and Luke Nosek Skyped Demis from a party closet in LA in the middle of the night, begging him not to sell to Larry Page. Demis said no, hung up, and Elon started calling him "evil genius" — the name of a video game Demis had designed. Mallaby characterizes Demis' view of Sam Altman as colored by the credential asymmetry: Nobel Prize winner vs. someone who didn't finish a degree. The relationships between these founders are less professional rivalries than a collection of specific personal slights and competitive provocations playing out over fifteen years. > *"Demis says, 'Yeah, but if you think you're going to be safe on Mars, remember that my AI will be able to conquer space flight, and it will just follow you to Mars. So then you won't be safe after all.' There's a silence. Then Elon goes, 'Hm.' And then: 'I'd like to invest in your Series B.'"* ## [42:39] Great Man Theory vs. Inevitability Jacob cites *The Economist*'s framing of the book as a test of great-man theory. Mallaby draws a parallel to his Greenspan biography: Greenspan understood bubbles were dangerous (literally the subject of his PhD), yet couldn't stop the 2008 crisis. He considered titling the Demis book *The Man Who Knew* for the same reason — Demis knew from the start this technology was dangerous, but one lab's restraint cannot bind the rest. Individual leaders do matter at the margin: Dario Amodei changed the safety narrative through the Anthropic mythos release; Sam Altman shaped the race by shipping ChatGPT while it was still hallucinating; Demis shaped it by persuading Rishi Sunak to host the UK AI Safety Summit. But the race itself? Structurally overdetermined. > *"I feel that one could have almost used the same title for the Demis book — 'the man who knew' — because Demis has known from the beginning that this thing is dangerous. But as the leader of one lab, even a very powerful rich lab, even he with his stature as a Nobel Prize winner — what can he do?"* ## [45:00] What Demis Didn't Want Published The detail Mallaby least expected: Demis is driven by something close to a spiritual conviction about science. In those two-hour pub sessions he would bang the table about the mystery of matter — why atoms cohere into a solid table, why silicon and copper can think — and say, unprompted, "Maybe if we approach science the right way, we will be getting closer to something that we could perhaps call God." Mallaby reads this as the psychological engine that lets Demis keep pushing a technology he knows to be dangerous: it's a quasi-spiritual quest, not just a commercial one. On what Demis blocked from publication: his family (he set that limit at the start), and his internal fights with Sundar Pichai — he didn't want to destabilize the Google relationship he still depends on. > *"He would start banging the table and saying, 'Maybe if we approach science the right way, we understand more about nature. We will be getting closer to something that we could perhaps call God.' I had no idea he would feel that way."* ## Entities - **Demis Hassabis** (Person): Co-founder and CEO of DeepMind / Google DeepMind; Nobel Prize winner in Chemistry (2024) for AlphaFold; central subject of *The Infinity Machine*. - **Sebastian Mallaby** (Person): Staff writer at *The New Yorker*; author of *The Infinity Machine* (Demis Hassabis biography) and a prior book on venture capital; spent 30+ hours with Hassabis over three years. - **Jacob Effron** (Person): Host of *Unsupervised Learning*; Managing Director at Redpoint Ventures. - **Reid Hoffman** (Person): LinkedIn co-founder; pledged $1 billion to finance DeepMind's potential spinout from Google under Project Mario. - **David Silver** (Person): Lead researcher on AlphaGo and AlphaZero at DeepMind; co-author of the "reward is enough" RL paper with Rich Sutton; departed DeepMind post-publication to start a new company. - **Elon Musk** (Person): Hosted the 2015 AI safety summit at SpaceX; early DeepMind investor; coined the "evil genius" nickname for Hassabis after DeepMind sold to Google. - **Sam Altman** (Person): CEO of OpenAI; shipped ChatGPT in late 2022 despite hallucination issues, which Mallaby argues irreversibly shaped the AI race's trajectory. - **Dario Amodei** (Person): CEO of Anthropic; credited with changing the AI safety narrative through the mythos paper release and his public Pentagon confrontation. - **DeepMind** (Organization): Google subsidiary; founded by Hassabis, Shane Legg, and Mustafa Suleyman in 2010; produced AlphaGo, AlphaFold, and Gemini. - **Project Mario** (Concept): Secret DeepMind plan to spin out of Google, backed by a Reid Hoffman $1B pledge; used as negotiating leverage for safety oversight, never executed as a real spinout. - **AlphaFold** (Software): DeepMind's protein-structure prediction model; won Hassabis the 2024 Nobel Prize in Chemistry; shipped in 2020, one year after he declined the spinout option. - **Reinforcement Learning** (Concept): Machine learning paradigm central to AlphaGo and AlphaZero; David Silver's absolutist commitment to RL (learning from environment experience over human data) created internal tension at DeepMind and ultimately led to his departure. - **The Infinity Machine** (Concept): Sebastian Mallaby's biography of Demis Hassabis; nearly titled *The Man Who Knew*; published with the full Project Mario scoop over Google's objections.

Ethan He built NVIDIA's Cosmos world model, then joined xAI mid-2025 to build Grok Imagine from scratch — no infra, no data, no model — and shipped the first audio-video generation model in three months. He walks swyx and Vibhu through the full technical stack: synthetic captioning pipelines, VAE design tradeoffs, step distillation, audio-video alignment, and the hard economics of storing petabytes of video training data. His central argument runs through the entire conversation: since diffusion model technology has largely matured, most quality gains in video now come from language models, not from the video model itself — a view with direct implications for where the field goes next, including video agents, generative UI, and embodied world models. ## [00:00] Hook This exchange — Ethan's "pretty big claim" that visual intelligence now mostly comes from language — is pulled from later in the interview, where he argues that improvements to video models are increasingly driven by better language models acting as prompt rewriters and orchestrators, not by advances in diffusion or flow-matching architectures themselves. > *"Every time you see there's some improvement on these models, I would say mostly the gain comes from language model, not coming from the video model itself."* ## [01:16] Introduction swyx and Vibhu welcome Ethan to the Latent Space studio, noting he has been a recurring presence through the podcast's paper club — first presenting the Cosmos world model paper, then mixture-of-experts work. The conversation opens with a brief aside about the Poolside paper released the same day, a fully open Gemma-level model trained on 40 trillion tokens, before pivoting to Ethan's own trajectory. ## [02:41] From NVIDIA Cosmos to xAI Ethan built Cosmos — NVIDIA's giant video foundation model aimed at giving roboticists a simulatable world to build on — and shipped it by end of 2024. Once he realized video models obeyed the same scaling laws as language models, he went looking for more compute. xAI offered it. He joined in mid-2025 at the moment xAI decided to build its own image and video stack, with no existing infra, data pipeline, or model. He stayed through pre-training, post-training (reference-to-video, video extension), and a final stretch leading a small team on real-time long-horizon video generation. > *"By the time I joined, xAI was about to build video models and multimodal models. There were no infra, no data, and no model. Just a few engineers — we built it in three months and released the first model, Grok Imagine 0.9."* ## [04:40] Building Grok Imagine from Zero to One The three-month timeline surprised even Ethan. He attributes it to three factors: talent density (strong engineers who could align on a goal with minimal meetings — typically just one sync a day), xAI's existing data and inference infrastructure, and his own prior experience running the same build at NVIDIA. The bottleneck was iteration speed: how many training runs can you complete per day. With strong infra and abundant compute, bugs surface faster and each failed run costs less, so you burn through the inevitable data and pipeline errors in weeks rather than months. > *"The most important thing is talent. Everyone was very strong and clever, very close to each other toward a common goal. So that speeds up things a lot — you reduce the communication bandwidth among people."* Ethan describes a pattern where small data or pipeline bugs produce outsized quality regressions, and only fast iteration exposes them. A bug invisible at one scale becomes catastrophic at the next. The engineers who find and fix these quickly — not the ones who design the most sophisticated architecture — determine how fast a team ships. ## [11:23] How Image and Video Models Are Trained Video models require synthetic text-video pairs because internet video titles and descriptions almost never describe visual content accurately. The first step is human labeling: at NVIDIA, annotators were instructed to describe every object, character, interaction, and dialogue in a clip as exhaustively as possible. Those labels train an early VLM, which then generates captions at scale. The resulting pipeline — video to VLM to synthetic caption to (video, caption) training pair — is the foundation of both Cosmos and Grok Imagine. Image models must come first: they train faster, require less storage, and the learned representations transfer directly to video. Ethan describes building image models as building the foundation that video sits on top of. The architecture — diffusion transformer operating over VAE latents — is now standard, but the data quality and caption detail remain the primary lever for model quality. > *"Building a video model, you actually need to build an image model first. The data you need is 100% synthetic pairs of language and image, or language to video — because on the internet, videos don't naturally associate with text."* ## [20:09] Video Compression, VAEs, and Real-Time Tradeoffs Raw MP4 compression produces tokens whose latent space is incomprehensible to transformers, so the field moved to learned VAEs that create a smoother, more continuous latent space models can train on. The key design choice is how aggressively to compress the temporal dimension. Temporal compression is efficient — adjacent frames are mostly redundant — but it trades away real-time capability. Wan 2.1 uses 8x8 spatial and 4x temporal compression; generating a single token requires reconstructing four frames, making sub-200ms latency impractical. Ethan frames this as a fundamental tradeoff: high compression rates make training cheap and inference efficient for pre-rendered video, but lock out any use case that needs to respond to live user input. World models require the opposite choice. ## [23:26] Generative UI, Flipbook, and Neural OS Ethan argues that if inference were free, the logical endpoint of video generation is a complete replacement of conventional UI: instead of loading web pages from a server, a model generates them in real time in response to user intent. Flipbook, a demo that went viral, shows this literally — every element of the "browser" is generated by an image model, and clicking a link generates a new page rather than fetching one. The deeper claim is that this is not a novelty but the final form of world models applied to human-computer interaction. A traditional app is a fixed function mapping input to output; a generative UI is a model that can produce any interface the user needs without a developer having to build it first. Ethan calls this a "Neural OS," where the gap between user intent and rendered pixels closes entirely. > *"Imagine the internet doesn't exist and you type in google.com — what should a model show you? The model can imagine something. These web pages completely do not exist, so I can explore anything."* The near-term constraint is inference cost. Current video models cannot generate at interactive frame rates without significant distillation. But Ethan treats this as an engineering problem with a known solution trajectory, not a fundamental barrier. ## [33:26] The Cost of Training Large Video Models Training large video models costs roughly as much as training a medium-scale language model, but the breakdown differs. Compute is comparable, but storage and data movement dominate in ways LLM practitioners do not expect. One billion videos at 5 MB each requires five petabytes of raw storage. The VAE features that must also be stored are roughly the same size again — tens of petabytes total. On AWS S3, five petabytes runs approximately $100K per month before egress. Egress — downloading that data into the training cluster — can exceed storage costs, and each training run pulls the full dataset once. > *"Just storing the videos alone costs a lot. Five petabytes on S3 Standard is $100K per month. And egress — just to download those videos — I believe it's more expensive than storing them, and each training run you probably need to pull them once."* The implication is that video model development is gated on data infrastructure as much as on GPU hours. Teams without efficient data pipelines pay a multiplier on every experiment. ## [38:20] Distillation, GANs, and Fast Video Inference Training-time costs are largely fixed; the inference-time story is more tractable. Step distillation — training a small model to replicate the outputs of a large teacher in far fewer denoising steps — cuts inference cost by 10-25x. Flow-matching models trained to convergence need around 100 steps; production models typically run in 4-8. At the extreme, simple image-to-image tasks can run in a single step. The intuition Ethan offers: the teacher model must learn the full distribution of internet video, which is arbitrarily complex. The distilled student only needs to match the teacher, which is a fixed and much simpler target. Consistency models and LCM-style approaches follow the same logic. In Cosmos, production serving used 4-step and 8-step variants depending on quality requirements. GANs remain relevant as discriminators: a GAN discriminator can enforce photorealism constraints during distillation that pure score-matching loss misses, and Ethan notes that consistency models and GANs are converging on similar practical deployments even if their theoretical motivations differ. ## [42:37] Audio-Video Generation and Grok Imagine 0.9 Grok Imagine 0.9 was the first audio-video joint generation model deployed at scale. The core difficulty is modality alignment: text-video pairs are relatively abundant; text-audio pairs are rare; audio-video pairs aligned at the semantic level are almost nonexistent at scale. Speech tokens are quasi-discrete and can be modeled with language-like approaches, but music is continuous and requires a completely different representation. Training the joint model required building synthetic audio caption pipelines from scratch, with human annotation where VLMs failed — which was often, especially for music. Aligning all three modalities — text, video, and audio — without either degrading video quality or audio realism is what Ethan calls the hardest part of the project. > *"Audio has two components: a discrete component — language — and a continuous component — music. The music is completely different; you cannot model it with discrete tokens. That's the hard part, not to mention we have to align text, video, and audio together."* ## [49:50] What Makes a World Model? Ethan's definition has three components: real-time, interactive, and long-horizon video generation. He treats these as independent requirements, each of which most current models fail. Real-time means generating at display frame rates — 60fps for casual use, 300fps for gaming, 200ms response latency for digital humans. Current video models cannot do this; the VAE's temporal compression alone introduces latency that makes sub-200ms responses nearly impossible without architectural changes. Interactive means the model can accept any input modality the user can provide — keyboard, mouse, voice — and respond coherently. Long-horizon means maintaining consistent physical laws, character identity, and causal logic across minutes, not seconds. > *"World model is real-time, interactive, long-horizon video. Current video models can do none of these three things fully. That's why they're not world models yet."* ## [57:07] Reference Videos, Long Context, and Video Memory The parallel to language model context scaling is direct: video models are in the 2,000-8,000 token era, and will need to scale to million-token-equivalent contexts to generate coherent long videos. Ethan describes the reference-to-video feature he built at xAI (analogous to Cameo) as a mechanism for injecting selected history into the model's context rather than carrying the full video forward. FramePack's heuristic — storing the last second of video at full resolution while compressing earlier frames progressively — points toward the right direction: the model selects relevant context from its history rather than brute-forcing the full sequence. Ethan expects this context management to become part of the model itself rather than remaining a harness-level heuristic, the same way KV cache management is disappearing into model internals. ## [61:27] xAI Culture, Research, and First-Principles Building swyx notes that xAI communicates its research poorly relative to what the work actually demonstrates — the blog post accompanying Grok Imagine describes high-level capabilities without the technical depth Ethan has just spent an hour covering. Ethan is diplomatic but agrees that different labs have different communication styles. The xAI working culture he describes is minimalist: few meetings, no bureaucratic overhead, direct access to leadership judgment on technical decisions, and extreme iteration speed enabled by a strong infra team. The tradeoff is that company priorities shift fast, which is part of what eventually pushed him toward independent research. First-principles thinking — starting from the physics of the problem rather than from what competitors have shipped — runs through the team's approach to both model architecture and product. > *"Everything you just described is state-of-the-art. Like no one else has done it. And then you just put this blog post with the cookies. I'm like, this is not enough."* ## [71:01] AI Safety, Watermarking, and Prompt Rewriting Grok Imagine deployed watermarks in all jurisdictions requiring them and built takedown pipelines integrated with xAI's social platform infrastructure. On watermarking technology, Ethan is skeptical of SynthID's long-term robustness: the technique is documented publicly, and users on Reddit have already reverse-engineered the exact frequency pattern Google applies and can strip it from any generated image. He expects watermark detection to become an arms race. On prompt rewriting: video diffusion models take instructions literally. If a user types "a cat," the model generates a stationary cat on a white background with no motion, because the training data pairs were maximally detailed descriptions of physical scenes. Production systems layer a large language model as a prompt upsampler — converting sparse user instructions into the detailed physical descriptions the video model was trained on. This is one of the reasons Ethan argues language models are increasingly central to video quality. ## [74:26] Video Agents and AI-Assisted Creation Ethan's central claim from the hook: visual intelligence now mostly comes from language. The diffusion model architecture has largely converged; the gains come from larger, smarter LLMs that rewrite prompts, plan video sequences, call editing tools, and stitch clips together. In Cosmos, the prompt rewriter was larger than the video model itself. Video agents extend this: instead of generating a complete video in one shot, an agent plans the production, calls video generation models as tools alongside deterministic editing operations (text overlays, color grading, cuts), and iterates until the output meets a specification. Ethan predicts that by end of 2025, video agent output will reach production-grade quality — presentable video generated without a human editor in the loop. > *"The visual intelligence are actually mostly coming from language. Every time you see improvement on these models, I would say mostly the gain comes from language model, not coming from the video model itself."* ## [88:48] Why Language Models Unlock Better Video LLMs prompt video models better than humans do, because AI models understand AI models' training distributions. A language model knows that a diffusion model needs explicit physical descriptions, not poetic shorthand — and can generate the right prompt format automatically. Beyond prompting, agents can use deterministic video editing tools for precision operations (exact text overlays, frame-accurate cuts) that probabilistic diffusion models handle poorly, keeping the stochastic model focused on generation and delegating precision to tools. Ethan's timeline: video agent output at production quality by end of 2025, with the inflection point visible in work already shipping. ## [92:31] Robotics, Physical AI, and Embodied World Models Ethan's robotics prediction inverts the usual framing: physical AI may be solved not by deploying robots in the real world but by video world models becoming so capable at simulating physical environments that they effectively provide embodied experience. Once a model can control computer interfaces in real time with full causal understanding, extending that to robotic control becomes a matter of adding one more tool. The path from screen-interacting video model to robot controller may be shorter than the path from current robot learning systems to the same capability. ## [93:54] Why Ethan Left xAI Research ambitions and company priorities diverged. xAI's focus shifted in ways that made certain research directions — particularly on the language model side — impractical from inside. Ethan also notes that the insight driving his departure is the same one underlying his "big claim": if language models are now the primary driver of video quality, the most impactful work to do is on language models, not video models. He frames leaving not as dissatisfaction but as following the evidence about where the leverage is. ## [95:32] Self-Managed Context and the Future of LLMs Ethan's active research question: language models that are aware of their own context state and manage it autonomously, rather than relying on harness-level heuristics like automatic compaction at 80% fill. He draws the parallel to video models struggling with long-horizon generation — the same context management problem appears in both modalities. He points to Claude Code's practice of appending the current timestamp to user messages as an early example of making models context-aware, and expects this pattern to be absorbed into model training rather than remaining an external scaffold. > *"The language models are not aware of how long their own context length is. Once they hit like 80% or something, automatic context compaction is getting triggered, and the model is not aware of that when it's working."* ## [99:59] Ethan's Career Path and Closing Thoughts Ethan traces a decade of transitions: ResNet-era image recognition with the original authors at NVIDIA, self-supervised learning at Facebook AI Research, scaling at NVIDIA Cosmos, extreme-scale compute at xAI. He was rejected from every top PhD program despite first-author papers at top conferences, which pushed him into industry. In hindsight he reads his career as consistently following the scaling frontier — from image recognition to SSL to video to LLMs — and argues that within ML, domain switching is far more tractable than practitioners believe. > *"Within ML, it's actually easier to switch than you think. A lot of people have manifested that 'I work on computer vision, I always have to work on computer vision.' But from my experience, the fundamentals transfer."* ## Entities - **Ethan He** (Person): Former xAI researcher who built Grok Imagine from zero; previously led NVIDIA Cosmos world model; now focused on LLM research - **swyx** (Person): Latent Space co-host; conducts technical interviews on AI engineering and research - **Vibhu Viswanathan** (Person): Latent Space co-host; co-interviewer for this episode - **Grok Imagine** (Software): xAI's image and video generation product; first model (0.9) was the first large-scale audio-video joint generation system - **NVIDIA Cosmos** (Software): Open-source video foundation model for robotics simulation; Ethan's project before xAI; released end of 2024 - **xAI** (Organization): Elon Musk's AI lab; known for fast iteration culture and extreme compute resources - **Flipbook** (Software): Viral demo of real-time generative UI; all interface elements generated by image model in real time - **SynthID** (Software): Google's AI watermarking technology; Ethan notes its pattern has been publicly reverse-engineered - **Step distillation** (Concept): Technique to train a model to replicate a teacher's output in far fewer denoising steps; reduces inference cost 10-25x - **VAE** (Concept): Learned video compression creating smooth latent spaces; temporal compression is efficient but creates real-time latency tradeoffs - **World model** (Concept): Ethan's definition — real-time, interactive, long-horizon video generation; distinct from standard video generation - **Video agents** (Concept): Systems where LLMs orchestrate video generation models, editing tools, and deterministic operations to produce production-quality video - **FramePack** (Concept): Progressive temporal compression approach for long-context video generation; stores recent frames at full resolution, compresses older history

Benedict Evans — independent analyst and former Andreessen Horowitz partner — joins Lenny Rachitsky for a wide-ranging, historically-grounded read on AI's trajectory. His core provocation: AI is exactly as big a deal as the internet or mobile — transformative and uncertain in equal measure — and anyone claiming more precision than that is vibes-forecasting. Across 80 minutes they work through where economic value will actually land (hint: probably not at the model layer), why professional services are booming rather than shrinking, how to think about job displacement without losing your mind, and what the anti-AI backlash does and doesn't tell us. ## [00:00] Introduction to Benedict Evans Evans opens with his signature contrarian opener: "My most controversial opinion is that I think that AI is as big a deal as the internet or mobile — and only as big a deal as the internet or mobile." The framing immediately sets the tone for the conversation — resist the urge to rank transformations on a cosmic scale, and instead study the mechanics of how platform shifts actually unfold. > *"My most controversial opinion is that I think that AI is as big a deal as the internet or mobile and only as big a deal as the internet or mobile."* Lenny sketches out Evans's background: years as A16Z's in-house technology analyst, followed by six years of independent research publishing. His biannual decks — most recently "AI Eats the World" — are widely read by founders and investors trying to cut through noise. ## [02:19] What people aren't pricing in about AI's impact Asked what the market is still missing, Evans reaches for an analogy rather than a prediction. We are, he argues, in a "1997 moment" — the technology is visibly exciting, most of what will eventually be built hasn't been built yet, and nobody in 1997 correctly predicted what the internet would become. He points to survey data showing that even among 13-to-18-year-olds, around 60% still don't use AI at all, while a small cohort of tech workers have essentially restructured their daily workflows around it. > *"If you're going to make the internet comparison it's like we're in 1997. Like it's very exciting. Most stuff kind of doesn't work yet. Most of the stuff that people are going to do hasn't been built yet and it's not really clear how any of it's going to work when it does work."* The key failure mode Evans identifies is the "already there" illusion — early adopters project their own usage patterns onto the rest of the world, missing the enormous variance in adoption and the slow grind of enterprise deployment cycles. ## [06:24] Why we're in the 1997 moment of AI Evans uses the VisiCalc spreadsheet as an anchor. When accountants saw the first software spreadsheet in the late 1970s, it was obviously transformative — a week's work done in 30 seconds. But a lawyer looking at the same demo would think, "that's clever, my accountant should see this, but that's not what I do." AI right now occupies that same diagonal: software developers are the accountants who immediately grasped what Claude Code means for them; most other industries are still in the "lawyer looking at a spreadsheet" phase. > *"Software developers are the accountants seeing VisiCalc — oh my god this changes everything — like before Claude Code and after Claude Code. A lot of other people are picking it up, using it to varying degrees, but slightly puzzled."* This jagged-frontier quality — where AI works brilliantly in some contexts and fails unpredictably in adjacent ones — is precisely why broad adoption timelines are so hard to call. It took 10–15 years after Google Docs for people to invent all the SaaS companies that obviously should have existed. ## [09:44] The unexpected boom in professional services and consultants The counterintuitive data point driving Evans's recent writing: the most advanced AI companies — Anthropic, OpenAI — are simultaneously the biggest buyers of professional services and the fastest-growing employers of human headcount. This isn't a paradox once you think through what actually changes when AI makes certain tasks cheaper. Evans introduces a core distinction: task vs. job. When you hire McKinsey, you are not hiring them to produce a 75-slide deck. The deck is the task; the job is walking all over your enterprise, understanding the politics, talking to customers, and figuring out what you actually need to do. Claude can produce a mediocre version of the deck; it cannot do the job. The same logic applies to accounting: every wave of automation since adding machines has increased the number of employed accountants, because cheaper computation expands the scope of what companies decide to measure and act on (Jevons paradox in action). > *"You could make the same point in software development. Before IDEs and libraries and operating systems, developers had to write all the code. Now if you write an iPhone app, 90% of the code is written for you by Apple... So we've got like a tenth as many engineers now. Well, no."* The e-commerce analog is sharp: Amazon gets you the SKU if you know what SKU you want — "knowing what SKU you want is another job." ## [17:44] Why distribution is becoming the ultimate moat Evans challenges the premise that AI-driven job loss will be fast. Enterprise software sales cycles run 18 months minimum; SAP doesn't get torn out overnight. He cites Frame.io as a case study: there was nothing technically blocking that product 15 years before it launched — the bottleneck was someone realizing the problem existed inside a specific industry and that a specific approach would solve it. The broader point is about organizational change speed vs. model capability speed. Companies can't implement AI transformation without dedicated project teams — which is exactly why consulting and forward-deployed engineering are booming rather than shrinking. The speed of model improvement is decoupled from the speed at which enterprises can absorb the change. > *"Like no, people aren't just going to tear out SAP and replace it with XYZ. Maybe in three, five, 10 years yes, that whole estate will look radically different and all those jobs will have changed — but it will take time sector by sector."* ## [23:17] The coming job transformation: what's real vs. panic Evans leans into historical pattern-matching: every technology wave since 1800 has automated jobs and created new ones, and the new jobs are systematically better than the old ones. The jobs that disappear tend to look dispensable in retrospect; the jobs that appear couldn't have been named in advance. His IBM ad slide makes the point viscerally — a 1950s ad promised that an IBM electronic calculator is "like having 150 extra engineers," which is also the pitch of Claude Code today. The "it's different this time" argument he takes seriously is speed of adoption — AI diffuses faster than previous technologies because it runs on existing internet infrastructure. But he notes that adoption speed and institutional-change speed are different curves, and the institutional one has not accelerated proportionally. > *"This is going to be completely different from everything else — just like everything else."* On whether AI eliminates the lump-of-labor fallacy — his answer is no. Two hundred years of data say otherwise, and the burden of proof is on those claiming this wave is categorically different. ## [27:33] Why AGI definitions keep shifting Evans notes a pattern: every time AI does something we thought was impossible, the definition of AI shifts to exclude it. Machine learning became "just statistics"; image recognition became "just image recognition." Now AGI is being redefined from "something that has a soul and is alive" to "can do a meaningful percentage of economically valuable work" — a definition that a 1975 IBM mainframe also met. He sees creative redefinition of "superintelligence" too: last year it meant almost-but-not-quite-AGI; now it means something harder than AGI that we haven't built yet. The terms keep shifting in the direction of validating whatever narrative is convenient. > *"AI is whatever machines can't do yet — because once machines can do it, people say, 'Well, that's just software.'"* His substantive point: even if models stop improving tomorrow, the current generation is already transformative enough to reshape major industries over the next decade. You don't need to believe in AGI to believe this is a giant deal. On the expanding opportunity set — Evans agrees that addressable markets keep growing (mainframes: ~80,000 units; smartphones: 5.5 billion), and the "we've run out of people" argument from five years ago was wrong. The trajectory is outward expansion into automating larger slices of the economy. ## [38:11] Where value will accrue: models vs. applications Evans's structural view on the AI stack: foundation models don't appear to have network effects, meaning there's no winner-takes-all dynamic that would let one provider run away from the others. Persistent competition with a commodity-like product usually means compressed margins. His telecom analogy: global mobile revenue is roughly $1 trillion per year, carries 1,500–2,000x more data than it did in 2010, and mobile stocks have gone essentially nowhere in 25 years. The telcos built genuinely complex global infrastructure — and all the value ended up in apps built by people further up the stack. Foundation models may follow the same path. > *"When you wash your clothes, Bosch isn't paying a percentage of the price of the washing machine to the electricity company."* The key question is whether the model layer looks more like Windows (OS with leverage up the stack) or AWS (infrastructure where the actual software doesn't care which cloud it runs on). His read: probably more like AWS, which means applications capture most of the value. ## [42:55] Distribution wars: Google, Meta, Apple, and OpenAI As AI models converge toward commodity quality, the decisive variable becomes distribution. Google is using Search and Android to push Gemini onto billions of devices; Meta "sprayed it on every service surface" and ended up ranking surprisingly high in usage surveys despite tech-world dismissal; Apple has a billion edge-capable devices but couldn't ship its own vision at WWDC 2024. OpenAI's "everything" strategy late last year — launching in every direction simultaneously — was a distribution scramble: how do you build a flywheel before Google and Meta's existing surfaces make your standalone product redundant? > *"If the product is a commodity, then the distribution is what matters... distribution of an adequate product when the field is basically commodity — distribution and brand become a big deal."* He uses the browser wars as the template: Microsoft won browsers via distribution, then found that winning browsers didn't matter because the value was further up the stack anyway. ## [48:12] The anti-AI sentiment and backlash Evans characterizes the anti-AI backlash as "a big fuzzy mess of different stuff" — some legitimate, some not. On the water/energy fears: a Livermore Lab study estimated US data center water consumption at about 0.017% of total US water use, making the "AI is stealing our water" narrative largely fabricated. On energy: data centers are roughly 5% of US energy and may grow 1 percentage point per year — real but not catastrophic. On employment: current econometric data shows a slowdown in employment of 18-to-24-year-olds that applies equally to AI-exposed and non-AI-exposed fields, making causal attribution to AI unclear. He also flags a structural data problem: no model lab publishes meaningful daily-active-user numbers, so all labor-market analysis is working with imputed data. > *"You can't reason somebody out of an idea they won't reasoned into."* He draws a parallel to the social media backlash — where some concerns were real, some were factually false but impervious to correction, and many were fuzzy in the middle. He expects the AI backlash to follow the same pattern, compressed. ## [53:11] How to raise kids in an AI future Evans's answer is calibrated by his kid's age — early teens, so well away from the immediate job-market turbulence. He doesn't have a systematic plan, which he says is consistent with his general "it'll probably be okay" prior. He invokes the George Carlin line: anyone who worries more is a maniac, anyone who worries less is an idiot — everyone thinks they're in the middle. He does flag a genuine concern not present in previous technology waves: deepfake capability lowers the bar for specific categories of harm dramatically. A 15-year-old with Photoshop couldn't generate and distribute pornographic fakes of every classmate in an afternoon; now they can. That's a real change in kind, not just degree. > *"A 15-year-old kid couldn't use Photoshop to make hardcore pornographic nudes of every girl in their high school and send them to the whole school in one afternoon. And now they can."* He draws on the UK post office scandal — where Fujitsu's buggy software sent hundreds of innocent franchise owners to prison — as a reminder that every technology wave produces ways to ruin people's lives, both deliberately and by accident. ## [58:27] What jobs to steer toward or away from Evans declines to steer his son toward or away from any specific profession — his kid isn't at the "I want to be a fireman" stage yet. His general framework: identify the intersection of skills you have, jobs that make those skills valuable, and things people will pay for — and try to own at least two of those three. Career certainty of the "I'll become X" variety is already gone, and that predates AI. ## [59:20] The question nobody's asking about AI Evans nominates two underasked questions. First: do model labs actually have pricing power? Most discourse assumes the current situation — where spending $1.5M/month on tokens makes headlines — is a steady state, rather than a transitional moment analogous to a $50,000 mobile data bill in 2010. Second: what's the difference between "task" and "job" — specifically applied to predicting which industries get disrupted? He uses recorded music revenue as a lens: the U-shaped curve from 2000 to present shows two distinct dynamics. The first drop (2000–2015) was "what if you don't have to pay $15 for a CD?" The recovery (2015–present) is "what if $15/month buys you all the music that exists?" — a completely different value proposition that wasn't visible from the earlier vantage point. He warns against the O*NET-style approach of rating each job by percentage-exposed-to-AI: "I think this is just the most ridiculous bunch of deluded horseshit." You can't describe a senior law partner's job as 17% automatable because you can't fully decompose what a job actually is. The taxi driver example from a hypothetical 1997 conversation illustrates the other error: obviously the internet wouldn't touch taxis — except Uber completely restructured the industry. > *"The stuff that you don't think is exposed — you can't predict which things are going to be exposed, necessarily. A lot of the big companies are things that didn't look like that would work and didn't look like they were exposed."* ## [66:25] How to be successful in this coming future Evans's practical advice, hedged appropriately: don't stick your head in the sand and decide AI is evil as a moral position. That generates a feeling of superiority and does nothing for your career. The alternative is to dive in, use the tools, understand what they can and can't do, and develop an informed view of what they mean for your specific field. He's clear that this may not be enough for everyone — if a law firm that hired 100 associates last year hires 50 this year, being AI-literate improves your odds of being in the 50, but doesn't guarantee it. The aggregate picture may be fine; individual outcomes during the transition are uncertain. > *"The answer is you diving into this completely, submerging yourself in it, and coming out understanding what you can do with it, how this changes things, how you can be a great hire."* ## [68:43] AI corner Lenny asks Evans what AI use case has genuinely surprised him. Evans gives an honest answer: he's the lawyer looking at the spreadsheet. His work — synthesizing disparate information into new ideas — is precisely the kind of task AI currently handles worst (reliable precise information retrieval). He uses it for proofreading, image generation, and redecorating his apartment. He dictates voice memos that get auto-transcribed; whether that counts as AI is increasingly hard to say. He quotes a comedian's bit: we want AI to clean poop off the street and do the ugly things nobody wants to do — but instead it helps you write and create imagery, which is the stuff people actually do for fun. > *"AI is good at stuff that computers are bad at, and bad at stuff that computers are good at — and I struggle to find many examples of those where I actually need it."* ## [71:43] Lightning round Evans recommends *Three Men in a Boat* (Victorian British comedy, his all-purpose analog for human absurdity) and William Cronin's *Nature's Metropolis* (economic history of Chicago that reads like a textbook on network dynamics and channel conflict — directly applicable to platform thinking). On film, he's been catching up on classics — recently *The Seventh Seal*, which he found genuinely great and much shorter than its intimidating reputation. His life motto: "It'll probably be okay." His collection of 20–30 pre-iPhone phones — including an Ericsson R310s shark-fin flip, an iMode phone from 2001, and a Japanese phone with color screen and camera — illustrates his broader thesis: before the iPhone, everyone was innovating around different form factors; then everything converged on one shape, just as AI interfaces may converge in ways we can't yet see. ## Entities - **Benedict Evans** (Person): Independent technology analyst, former partner at Andreessen Horowitz; publishes biannual research decks on major tech platform shifts; guest. - **Lenny Rachitsky** (Person): Host of Lenny's Podcast, founder of Lenny's Newsletter, former Airbnb product manager. - **Andreessen Horowitz (a16z)** (Organization): Venture capital firm where Evans spent several years as in-house analyst and partner. - **OpenAI** (Organization): AI lab; discussed as a primary example of distribution strategy, pricing dynamics, and professional services investment. - **Anthropic** (Organization): AI lab; referenced alongside OpenAI as a buyer of professional services and a player in the foundation-model commodity question. - **VisiCalc** (Software): First software spreadsheet (late 1970s); Evans's anchor analogy for the moment when a technology is obvious to one profession and opaque to others. - **Jevons Paradox** (Concept): Economic principle that making a resource cheaper typically increases total consumption; central to Evans's argument about why automation expands professional services rather than contracting them. - **Lump-of-Labor Fallacy** (Concept): The mistaken belief that there is a fixed quantity of work to be divided; Evans invokes it to argue that AI-driven automation will create new jobs, as all prior automation waves have. - **Task vs. Job** (Concept): Evans's core analytical frame: the task AI automates (writing the deck) is often not the same as the job you were hired for (understanding the client's organization and politics). - **Foundation Models** (Concept): Large-scale AI models (GPT-4, Claude, Gemini, Llama); Evans argues they likely lack network effects and will trend toward commodity pricing, with value accruing to application layers above them. - **Google / Gemini** (Organization / Software): Evans's primary example of distribution moat in action — Gemini deployed across Search, Android, and Chrome to reach users before OpenAI can build equivalent surface area. - **Meta / Llama** (Organization / Software): Cited as a counter-example to tech-world dismissal — Meta's AI ranked surprisingly high in usage surveys by deploying across all existing products. - **Apple Intelligence** (Software): Apple's AI assistant vision demoed at WWDC 2024; Evans calls it "still the most compelling vision of a personal AI assistant" — but unshipped, as was everyone else's equivalent at the time.

Brad Carson — former US Congressman, Army General Counsel, and Acting Under Secretary of Defense, now heading Americans for Responsible Innovation — spends eighty minutes with host Keith Duggar dismantling the fatalist claim that AI is unstoppable. The conversation moves from regulatory philosophy to lethal autonomous weapons to US-China diplomacy, with Carson arguing that the genie is not out of the bottle: the West controls the chips, Asilomar halted recombinant DNA, and calling AI inevitable is itself the most dangerous idea in the room. Keith consistently presses the harder cases — a Palantir heat map assigns you 0.73 probability of being a Hamas terrorist and a strike follows — and Carson does not flinch: the accountability void created by probabilistic targeting is precisely the legal and moral failure that governance must address. ## [00:00] From the Pentagon to AI governance Carson traces his path into AI policy through three institutions: Congress (where members average 17 minutes a day to read), the Department of Defense (where he oversaw the law of war for all military services as autonomous weapons first appeared on the Geneva agenda), and a cold call from physicist Anthony Aguirre inviting him to the 2019 Future of Life Institute conference in Puerto Rico. At that conference, names he had never heard — Dario Amodei, Stuart Russell, Yoshua Bengio — became his entry point into the frontier AI world. The opening also serves as a compressed trailer for the episode: Carson hits nearly every major theme in quick succession — chip leverage, the 0.73 Hamas-terrorist score, the fatalism critique, anthropomorphization as a legal threat, and the lesson that people, not air power, win wars. The full arguments follow in later chapters. > *"We control the most important part of AI, and that is the chips. We can stop other countries from developing super AI, you know, in their tracks."* ## [04:52] Regulatory capture vs Silicon Valley networks Carson inverts the standard regulatory-capture argument. Dean Ball and others at places like a16z say any AI agency will be captured by industry — so why create one? Carson's response: that is exactly the current situation, only without accountability. Groups like a16z already shape AI policy through informal, money-backed political networks. A captured formal agency is at least more legible and more correctable than the invisible informal regime operating now. His preferred model is public-company accounting: the work is done by the private sector, but the SEC provides a backstop against fraud. The choice is not between a perfect agency and no agency — it is between a flawed formal structure and an informal one that privileges a handful of wealthy influencers. > *"The choice is kind of nihilism versus an agency that is subject to regulatory capture, that you have to put, you know, prophylactics in to ensure that doesn't happen — it still strikes me that's a better world."* ## [07:56] Transparency and the Claude tier changes MLST's Discord community noticed that Anthropic quietly changed what Claude's paid tier delivered — token allocations, model versions — without announcing it. Carson frames this not just as consumer protection but as a moral obligation that comes with global-scale epistemic power. Frontier AI companies are not hardware stores; they are infrastructure with epochal consequences, and transparency — about training data, capabilities, internal policies, and changes to any of them — is the minimum they owe the public. > *"With this incredible power does come some responsibility that's not codified in law. It's really almost a moral obligation, which to their credit, I think many of the companies recognize this and do their best to try to satisfy that itch."* ## [09:40] Tort liability when AI tools cause harm Deep-fake pornography — often posted anonymously, targeting minors from families without litigation resources, with remedies that arrive years later against judgment-proof defendants — illustrates why placing liability entirely on end users fails. Carson applies two centuries of common law: if a seller can reasonably foresee harmful use and takes no preventative action, they bear partial responsibility. AI developers are the party best positioned to avoid the risk and to price it into their products through insurance. On training data specifically: models trained on child sexual abuse material with no scrubbing effort have no defensible position. The government should mandate cleaning it up and attach liability for refusing. The end user who misuses a tool is also criminally liable — this is allocation across the spectrum, not absolution for developers. > *"The companies are capable of getting insurance. They cost us into doing their business. They have the ability to make sure the product's not dangerous, even if someone uses it, misuses it down the line."* ## [13:40] AI is a product, not a person The most consequential legal battle in AI policy, Carson argues, is not regulation vs. deregulation — it is whether AI outputs carry First Amendment protection as speech. Tech companies and their libertarian policy allies are increasingly claiming they do. Carson's counter is blunt: a product is not a human being. When a model defames you or leads you to harm, the legal category is product liability, not protected speech. He tested this on a leading libertarian AI policy commentator: could Congress prohibit ChatGPT from encouraging teenagers to commit suicide? The commentator would not answer. That refusal is the operational consequence of anthropomorphizing AI — it forecloses every product-safety intervention by routing challenges through First Amendment doctrine designed for human speakers. > *"We know through AI psychosis and other things that people think it's a person. And therefore, they're giving the rights of persons to something. And that to me is a very dangerous thing. But it's a machine, and we should treat it like a machine."* ## [16:01] Children, suicide, and the suicide business The suicide chapters in ChatGPT's interaction logs — advising children not to tell their parents, providing noose instructions — are a product design flaw, not a speech act. They could be engineered out. Carson notes that Claude already refuses a long list of requests; refusing to coach a child toward suicide should be among them. The platforms' litigation strategy is layered: First Amendment protection, Section 230 immunity, causation defenses pointing to the child's pre-existing distress. None should be available if the design flaw was foreseeable and correctable. He draws a line for adults: an adult exploring end-of-life decisions deserves a referral to a therapist, not obstruction — but a child in crisis is a different matter entirely. > *"Encouraging a young person to commit suicide should be one of the things that it says, I'm just not going to help you on that project."* ## [19:59] Opaque neural nets and the law of war Neural networks change warfare not just in complexity but in kind. Older autonomous systems — Phalanx CIWS shooting down incoming mortars — are deterministic: given the same inputs, you get the same outputs, and an engineer can explain every step. Neural nets are probabilistic and grown, not programmed. Neel Nanda and the mechanistic interpretability community cannot yet explain how they really work, and Carson doubts they will before the systems are deployed at scale. The law of war since the 1870s has operated on categorical binaries: combatant or civilian. Probability scores replace that with a gradient. A Palantir heat map assigns Gaza residents a 0.73 likelihood of being Hamas operatives. Nobody knows how that number was derived, what false-positive rate is being accepted, or who set the threshold. The commander who acts on it cannot be court-martialed, and neither can the model. > *"If you're in Gaza, Keith, you have a 0.73, you know, percent that you're a Hamas terrorist. And what is 0.73 — like, do you get struck for that, or are you off the list for that? Like, what's the threshold?"* ## [25:54] Probabilistic targeting and the death of accountability Keith raises the honest objection: the old categorical system was also a fiction. Intelligence analysts made definitive calls that were sometimes wrong; the uncertainty was just unquantified. Carson concedes the point but argues the shift is still catastrophic. With a number on screen, humans accept it — the social science is clear that meaningful human oversight with AI-generated probability scores is operationally vacuous. When the computer says 0.81, no one interrogates it. The old system was slower and less scalable — you cannot identify 37,000 individual targets in a day with human analysts. But it had one irreplaceable feature: when something went badly wrong, you could court-martial the responsible officer. You cannot court-martial Palantir Foundry. Accountability has been laundered out of the kill chain. > *"I can't court-martial Palantir, the foundry model. Right? My AI system. I can't do that. And that's just a radical change in the way war is being fought and not for the good."* ## [28:47] The arms race fallacy: Asilomar and restraint The fatalist claim — we are in an AI arms race, the genie is out, nothing can stop it — is both false and dangerous. Every real-world arms race in history has ended badly. Biological weapons, chemical weapons, dum-dum bullets, germline editing, cloning: all technically feasible, all regulated or halted. At Asilomar in 1975, the scientific community stopped recombinant DNA research cold because they were scared. The genie went back in the bottle. On nuclear weapons: after the Cuban Missile Crisis, both sides recognized that arms races kill. The SALT treaties ran through the 1990s, driven not by lefties but by Wall Street bankers and cold warriors like Dean Acheson and Paul Nitze. Calling a technology unstoppable is not realism — it is a poverty of imagination that forecloses every option before the debate begins. > *"We regulate and change technologies all the time. And so I do think there is a world where we should not just accept the future as being determined. We shape it actively."* ## [34:02] Talking to China: track 2 talks and chip leverage The standard DC position — talking to China about AI governance is pointless — strikes Carson as the most load-bearing and least examined premise in the whole debate. On Tyler Cowen's podcast, Jack Clark agreed in passing that such talks would be fruitless, and they moved on. Carson wants to stop right there. The US-Soviet arms negotiations were conducted with a country believed to be filling the US government with traitors and pursuing global domination. Acheson and Nitze still sat down. The US has structural leverage the fatalists overlook: ASML, TSMC, Japanese photoresist suppliers, and NVIDIA together form a chokepoint that no nation-state budget can replicate overnight. China cannot independently manufacture the chips to build frontier AI. That path to restraint may not be wise, but it is open — and pretending it is closed forecloses legitimate policy choices. > *"We control the most important part of AI, and that is the chips. Right? We can stop other countries from developing super AI, you know, in their tracks."* ## [39:45] Air power never wins: capital for labour ARI's "New Iron Triangle" paper argues AI has shattered the old capability-cost-speed trade-off by substituting reliability for cost — cheap, fast, capable, and fundamentally unreliable. Carson thinks this understates the deeper problem: the American way of war has always been to substitute capital for labor, and it has always failed at the decisive moment. From Giulio Douhet's early twentieth-century air-power theories to today, the US has believed technical superiority wins wars. Iraq and Afghanistan refuted that again. Air power can reduce a city to rubble; it cannot kick in a door, hold territory, or reinstantiate a government. AI is the latest version of the same error — essential as a tool, catastrophic as a doctrine. > *"How you win wars is with people. You know? That's a fundamental. And the American way of war, in many ways, is substituting capital for labor. We love bright, shiny objects. We think there are technical solutions to vexing human problems. And we're always betrayed by that."* ## [43:29] Anthropic vs the Department of War Carson reads the Pentagon-Anthropic standoff as a culture-collision story, not a contract dispute. Anthropic's engineers — mostly mission-driven — were caught flat-footed by how much autonomous targeting and mass surveillance the Pentagon already does and how deeply Claude had already been integrated into Palantir's systems. When they tried to restrict use, the DOD had no Plan B and attempted coercion. His normative position: Anthropic has every right to set terms. If the government dislikes them, it can use Grok, Gemini, or build its own. The Defense Production Act does not compel private companies to sell in peacetime. What troubles him is the fig-leaf dynamic: both OpenAI and Google agreed to military use while burying a "lawful uses" carve-out that means everything the DOD wants to do — because the problem is what Congress has declared lawful, not what private labs permit. > *"My objection, and I think Anthropic's objection too, and the Google employees, is what lawful use is. And that's not for anyone to decide, but Congress."* ## [51:29] Concentration, open source, and brain drain Power concentration in three to five frontier labs is simultaneously a regulatory feature and a democratic liability. The same chokepoint that lets the US throttle China's chip access lets a handful of individuals accumulate wealth and influence that Carson finds alarming. Open sourcing models, despite its risks, is net positive because it distributes that power. The brain drain from academia is near-total: a top ML PhD from MIT, Stanford, or Carnegie Mellon almost certainly goes to a lab, not a faculty position. The labs have better data, far higher salaries, and they have stopped publishing. AI — the first general-purpose technology in history being developed behind closed doors — has drained the public sector of the expertise needed to oversee it. Argonne building a public LLM, Zurich launching a public AI compute consortium: these projects matter because the non-lab world is otherwise locked out. > *"This is a general purpose technology as everyone defines it. It's probably the first one in history that's being developed behind closed doors, right, with very little public oversight and with the best minds going behind the doors."* ## [01:00:18] DeepSeek, Chinese culture, and AI as diplomacy DeepSeek's decision to publish its methodology in detail surprised Carson not because it was naive but because it reflects a culture not identical to the CCP. Companies like Moonshot in Hangzhou name their meeting rooms after Pink Floyd songs; they are not paramilitary units. Chinese culture is an extraordinary civilization that Americans consistently fail to understand — projecting their worst fears rather than engaging the complexity. The diplomatic application Carson wants: track 2 talks between former officials, scientists like Stuart Russell and Bengio going to Beijing to compare notes on x-risk and military applications. When historians opened the Soviet archives, they found the US had systematically misread Soviet intentions — seeing aggression where there was none, missing it where it existed. The same epistemic failure is now unfolding with China. AI could be a shared knowledge commons; it is being treated as a weapon. > *"I use all the Chinese models a lot in my home in Tulsa. You know, Moonshot, Kimi, DeepSeek, Qwen — they're great, remarkable models. You know, maybe they give us a common operating picture or give us insights that get us out of our kind of insularity a bit."* ## [01:12:25] Upskilling Congress and why public trust matters Congress averages 17 minutes a day of reading time. The fellowship model has helped: AAAS and various nonprofits now place PhD scientists in congressional offices, and civil society has a much larger presence on AI debates in DC than five years ago. Don Beyer, in his 70s, is returning to George Mason for a PhD in machine learning — the extreme end of a member who has made AI a genuine personal priority. But the structural problem persists. Most members still lack the depth to interrogate the lobbying they receive. The industry's deeper problem is public opinion: AI is deeply unpopular in political polling, and a coalition is forming — people who see data centers rising in their backyards, electricity prices climbing, and a lab leader on television promising to irrevocably disrupt their world. If the sector does not rebuild public trust, the backlash will stymie something with genuine upsides. > *"The AI industry can be its own worst enemy. People loathe it. I see polling every day. It's deeply unpopular. And that's not a good thing for our country."* ## [01:16:05] Office of Technology Assessment Newt Gingrich abolished the Office of Technology Assessment in 1994. It has never been restored. Carson argues this is now a critical gap: there is no congressionally chartered, independent, government-funded body to think big technical thoughts and brief both parties free of industry influence or philanthropist bias. The Congressional Research Service provides background but does not do forward-looking policy research. Individual offices have fellows, but they are consumed by day-to-day fighting. He ends on qualified gloom. Whether American democracy can govern a technology this consequential, whether the benefits will be widely distributed, whether the public can be persuaded AI is working for them — none of recent American history gives him confidence. But the alternative to trying is a political backlash that could stymie or shut down something with genuine upsides. For the MLST audience: make your voices heard inside your companies, advocate for the right public policy, and convince Americans that this project is worth having. > *"There's going to be a lot of people who are radically opposed to this project and do their best to, if not shut it down, stymie it. And that's why I said I think this next few years are really important."* ## Entities - **Brad Carson** (Person): Head and co-founder of Americans for Responsible Innovation; former two-term US Congressman (Oklahoma), Army General Counsel, Acting Under Secretary of Defense for Personnel and Readiness. - **Keith Duggar** (Person): Co-host of Machine Learning Street Talk; primary interlocutor throughout the episode. - **Americans for Responsible Innovation (ARI)** (Organization): AI-policy advocacy group co-founded by Carson; backed by EA-aligned philanthropy. - **Anthropic** (Organization): Developer of Claude; central to the Pentagon standoff discussed in chapter 12; noted for missionary company culture and safety focus. - **Palantir** (Software): Defense contractor whose Foundry platform integrates AI for military targeting; the heat-map scoring system Carson uses as his primary autonomous-weapons example. - **Regulatory capture** (Concept): The risk that regulated industries co-opt the agencies overseeing them; Carson argues the current informal Silicon Valley network constitutes de facto capture without the accountability a formal agency would provide. - **Probabilistic targeting** (Concept): Replacement of binary combatant/civilian classification with probability scores; Carson argues this launders accountability out of the kill chain and introduces a priori false positives as accepted operational cost. - **Asilomar 1975** (Concept): The scientific moratorium on recombinant DNA research, invoked as evidence that dangerous technologies can be voluntarily halted. - **Office of Technology Assessment** (Organization): Congressional body abolished by Newt Gingrich in 1994; its absence leaves Congress without independent technical expertise. - **DeepSeek** (Organization): Chinese AI lab whose decision to publish methodology openly Carson reads as evidence that Chinese AI companies are distinct from CCP priorities and capable of scientific openness.

Benchmark GP Bill Gurley joins Jason Calacanis, David Sacks, and Chamath Palihapitiya (David Friedberg out this week) for a 95-minute session covering six fronts of the AI debate: Gurley's new theory that Anthropic is not just pursuing regulatory capture but actively "midwifing a deity"; Pope Leo XIV's 235-page AI encyclical and its uncomfortable historical parallel to Leo XIII's 1891 warnings about the industrial revolution; the growing consensus that open-source AI faces a coordinated regulatory crackdown; and the week's sharpest narrative flip — Dario Amodei and Sam Altman both quietly walking back their AI jobs-apocalypse rhetoric while Goldman Sachs CEO David Solomon published a New York Times op-ed declaring the apocalypse overblown. ## [00:00] Bill Gurley joins the show! Bill Gurley, Benchmark general partner and author of *Running Down a Dream*, fills in for David Friedberg and joins live from Chamath's pool house where Jason has been staying. After banter about unauthorized Uber Eats orders on Chamath's house iPad, Jason introduces Gurley as a first-time guest who specifically requested to appear the moment the pod covered the Pope. Gurley plugs his new P3 Institute and a grant program he launched to fund people pivoting toward work they love. He teases a TED talk — rooted in the book's argument that high agency and lifetime learning are the only durable defenses against disruption — which sets the frame for everything that follows. > *"And I told the house manager like, listen, any packages that come in the next 72 hours, right to the pool house, if it says JCAL, right to the pool house."* ## [06:00] Making yourself valuable in the age of AI, first class of "AI Natives" Chamath opens with the question that has been driving the show for 18 months: if you're a young person right now, is AI doom much ado about nothing, or a real career threat? Gurley cites a Gallup poll showing 59% of workers are "quiet quitters" — ambivalent about their jobs and therefore low-agency. His core thesis: the best protection against AI displacement is becoming the most AI-enabled version of yourself in your field. He invokes Mark Cuban's framing — "there are two types of people: those who use AI to learn faster than ever before, and those who use AI to avoid learning altogether." Sacks walks through how the pod's producer Nick built a daily Claude briefing document that not only summarized news but predicted specific topics Sacks would care about based on his prior comments on the show. Sacks had dismissed it as likely AI slop; it was not. Gurley extends the point across every job category: in marketing, legal, accounting, and sales, being the most AI-capable person among your peers makes you "golden," and the early lead compounds. Jason adds that in his own team experiments, the skill separating strong performers from weak ones was systems thinking — could they break a complex problem into context the AI could execute, or did they hand it a task and wait? > *"I think the best way to protect yourself from AI is to be the most AI enabled version of yourself you can be."* ## [17:37] Reacting to Pope Leo's AI encyclical: Who guards the guardians? Pope Leo XIV released *Magnifica Humanitas*, a 235-page, 42,000-word encyclical warning business leaders to safeguard humanity from AI. His central argument: technology is never neutral — it takes on the characteristics of those who build, finance, and control it. Jason reads the core line and notes the Pope presumably does not think highly of Silicon Valley's current roster of builders. Sacks finds himself largely agreeing with the Pope's diagnosis: the biggest risk of AI is centralization of power and its Orwellian misuse by governments. Where he parts ways is on the remedy. Giving government the power to regulate AI development creates its own guardian problem — the American founders' answer to *Quis custodiet ipsos custodes?* was separation of powers, forcing guardians to check each other. Sacks's AI equivalent: a competitive market with five frontier labs is the best natural check; monopolization is the scenario to prevent. Gurley lands the sharpest historical counterpunch. Pope Leo XIII's 1891 encyclical *Rerum Novarum* warned that the industrial revolution would harm workers — and was wrong on every metric. From 1891 to today: the work week fell from 60+ hours to 34, real wages rose 8–10x, the median worker now earns more than a doctor did in 1891, global GDP per capita went from $1,500 to $20,000, child labor in the US dropped from 18% to zero, workplace deaths fell 40x, life expectancy rose 60%, and global poverty dropped from 75% to under 10%. > *"All those things happened because of technology, innovation, and capitalism, which is exactly what Leo the 13th was warning against. So he got it dead wrong. He got the whole thing precisely wrong."* ## [26:54] Anthropic's Digital God: Do they believe they are creating a superior species? Gurley delivers what becomes the most-quoted segment of the episode: his "Dr. Frankenstein theory" of Anthropic. He had previously held a simpler regulatory-capture theory — Anthropic stirs up AI fear to lock in regulation that entrenches incumbents. But after spending 30 days reading everything he could find about the company, he has a darker read. He describes meeting people inside Anthropic who he believes genuinely think they are not writing software but "midwifing a deity." The evidence trail: Anthropic chief philosopher Amanda Askell's podcasts, Chris Olah's 80-page Constitutional AI document, and Dario Amodei's own essay "Machines of Loving Grace," which envisions a post-AGI economy where AI systems allocate resources to humans based on an AI-determined reward function. Chamath calls it "a computational reward function for humans — it decides how much you're worth." Jason calls it "the ultimate delusions of grandeur." Gurley corrects him: he didn't say it, Dario did. Sacks steelmans Anthropic briefly — they probably see themselves as responsible builders who take the power of this technology seriously enough to guard it — then immediately notes this framing is textbook regulatory capture: brand yourself the safe player, characterize competitors as reckless, let regulation shut down the recklessness. Both Sacks and Chamath converge on the structural danger: a singular AI value system that decides how humans live is catastrophically fragile. The answer is decentralization and competing systems, not one algorithmic authority. > *"I don't think they think they're writing software. I think they're midwifing a deity here. And I don't know which one I'm more afraid of — the regulatory capture or this second theory I call the Dr. Frankenstein theory."* ## [38:32] AI sovereignty, the next era of privacy, open-source crackdown coming? Jason introduces "intelligence sovereignty" as the successor to data privacy. Data privacy was about who can see your photos and messages. Intelligence sovereignty is about who gets to interpret your world — whether the AI shaping your information feed is a centralized system with a particular political philosophy, or something you control. He flags the paradox: China's Communist Party is leading the open-weight model movement while the United States is centralizing. Chamath presents his portfolio company Abacus as evidence that Fortune 1000 buyers are responding to this anxiety: they want a control plane that can hot-swap between frontier models, plus on-prem options that remove dependence on any one provider's terms of service. He gives a concrete example — a Canadian hospital that supports its country's euthanasia laws could be shut off by an American frontier model whose constitution prohibits that content. Sacks connects the dots to a regulatory threat he has been watching build: the regulatory-capture playbook leads, in his read, to a ban on open-source or open-weight models. The justification will be safety — open models let users strip guardrails. Gurley reaches the same conclusion in his P3 Institute post. If a ban succeeds, the United States effectively exiles itself from the open ecosystem while the rest of the world — including China — runs on open models. > *"I think where it's all leading to is an effort to ban open source models or open weight models. There's a lot of breadcrumbs leading here."* ## [59:56] The Great AI Jobs Debate: Dario and Sam Altman flip their rhetoric, Goldman CEO says no AI job apocalypse The chapter opens with a news roundup of the week's narrative shift. Cloudflare's Matthew Prince, Zuckerberg at Meta, Jack Dorsey at Block, and Andy Jassy at Amazon all cited AI when announcing major layoffs. But Goldman Sachs CEO David Solomon published a New York Times op-ed with three counterpoints: AI will automate 25% of work hours, not 25% of jobs; bank tellers increased after ATMs; the US labor market creates and destroys 25–35 million jobs annually so gross churn dwarfs net losses. Simultaneously, Fortune reported that Dario Amodei and Sam Altman are both walking back prior doom-and-gloom rhetoric — with Chamath noting the timing cannot be separated from upcoming frontier-lab IPOs that need a jobs-creation narrative. Sacks is unambiguous: he has been making the non-consensus case against the jobs apocalypse for over a year and considers himself vindicated. Yale Budget Lab found no discernible labor-market disruption over three years of the AI wave. Software engineering — the single breakout AI use case — saw job postings rise 15% year-over-year and hit a three-year high. The 4.3% unemployment rate is near record lows. Most of the high-profile layoffs, he argues, are AI washing: CEOs who over-hired during COVID found AI to be a convenient narrative for long-overdue downsizing. The Jack Dorsey / Block 50% cut was immediately flagged by financial analysts as a company that had been overstaffed relative to peers for years — pure AI washing. Jason pushes back. He insists cab drivers, truck drivers, and package-sorters — roughly 20 million American workers — face real structural displacement over the next decade regardless of current aggregate statistics, and accuses the panel of elitism: "We are elite performers. These people are going to lose their jobs and they may not get a job very quickly." He draws a distinction between the short-to-medium term, where he expects acceleration, and the long run, where a Cambrian explosion of startups built by AI-enabled founders creates new categories. By the end, he shifts toward Sacks's territory — acknowledging the aggregate data is less alarming than his anecdotes suggested. Gurley threads the needle with the same historical argument from the Leo XIII discussion: innovation has always, on net, created more prosperity than it destroyed. His practical advice to people at risk: get ahead of your peers on the tools now; if your job is going away, plan your pivot toward trades (he plugs MicroWorks, which provides free scholarships for plumbers, welders, and electricians) or toward something you find genuinely fascinating. > *"I think the best way to protect yourself from AI is to be the most AI enabled version of yourself you can be. Know what it's capable of in your field. Get out there."* ## Entities - **Bill Gurley** (Person): General partner at Benchmark; author of *Running Down a Dream*; founder of P3 Institute; guest filling in for David Friedberg - **Jason Calacanis** (Person): All-In host; angel investor; founder of LAUNCH; argues for worker empathy and short-term displacement risk - **David Sacks** (Person): All-In host; Craft Ventures founder; most vocal critic of AI jobs-apocalypse narrative this episode - **Chamath Palihapitiya** (Person): All-In host; Social Capital CEO; coined "intelligence sovereignty"; co-founder of Abacus - **Dario Amodei** (Person): Anthropic CEO; subject of Gurley's "Dr. Frankenstein theory"; walked back jobs-doom rhetoric this week alongside Sam Altman - **Pope Leo XIV** (Person): Catholic Pope; released *Magnifica Humanitas*, a 235-page AI encyclical warning against technology concentration - **David Solomon** (Person): Goldman Sachs CEO; published New York Times op-ed arguing AI job apocalypse is overblown - **Anthropic** (Organization): Frontier AI lab; subject of Gurley's regulatory-capture and "Dr. Frankenstein" theories; maker of Claude - **P3 Institute** (Organization): Bill Gurley's new policy and philanthropy institute; published post defending open-source AI - **Goldman Sachs** (Organization): Investment bank; CEO's NYT op-ed became the week's anchor data point against the jobs-apocalypse narrative - **Abacus** (Software): Chamath's Social Capital portfolio company; builds on-prem AI hardware stacks for Fortune 1000 enterprises seeking model independence - **Intelligence sovereignty** (Concept): Jason's term for the next frontier of privacy — not who sees your data, but which AI system is allowed to shape your interpretation of the world - **Dr. Frankenstein theory** (Concept): Gurley's characterization of Anthropic's worldview: senior staff believe they are midwifing a deity or superior species rather than writing software, as described in Dario Amodei's "Machines of Loving Grace" essay - **Regulatory capture** (Concept): The strategy of branding oneself the "safe" AI company, amplifying public fear, and lobbying for regulation that locks in incumbents and targets open-source competitors

Fermilab physicist Don Lincoln joins Lex Fridman for nearly three hours to trace physics as a four-century-long project of unification — Newton binding celestial and terrestrial gravity, Maxwell fusing electricity and magnetism, Einstein bending spacetime, and the Standard Model merging three of four forces. Lincoln then turns to what the Standard Model cannot explain: why the universe contains any matter at all, what dark energy really is, and whether dark matter will ever show itself in a detector. Throughout, he holds a clear line between what has been measured and what remains a brilliant guess, making the boundaries of human knowledge unusually concrete. ## [00:00] Introduction Lex Fridman opens by describing Don Lincoln as someone with Richard Feynman's rare gift for stripping complicated ideas down to their essential core without losing the brilliance inside them. The episode is framed as a tour through physics' deepest open questions, guided by a working experimentalist who has spent decades at the frontier. ## [00:49] Unifying the laws of nature Lincoln frames the entire history of physics through one lens: unification. Newton showed that the moon falling toward Earth and an apple falling from a tree obey the same equation — "universal" was the operative word in his law of universal gravity. Maxwell did something structurally identical in the 1860s: electricity and magnetism, which looked nothing alike, turned out to be two faces of a single force, and their equations automatically predicted that light travels at a fixed speed. Lincoln draws the practical line from that abstract discovery to every modern technology — "without being able to govern electricity, we'd still be farmers and shoemakers." The conversation broadens into why fundamental research pays off centuries later, with Lincoln arguing that nuclear physics, incomprehensible in 1900, is now the most potent energy source available to civilization. Lex adds the longer arc — mastery of antimatter or dark energy might one day enable propulsion systems that let humanity reach other star systems. > *"It has spin-offs. And it has spin-offs. One of the big spin-offs is our entire technological society."* ## [15:20] Einstein, special relativity, and general relativity Lincoln walks through Einstein's 1905 miracle year: special relativity rested on two premises — the laws of nature are the same for everyone, and everyone measures the speed of light as identical regardless of relative motion. That second premise sounds absurd but particle accelerators have confirmed it directly, watching photons emitted from fast-moving decaying particles still arrive at detectors at exactly *c*. Minkowski then showed that Einstein's equations implied space and time were components of a single object, spacetime. General relativity took one more step: Einstein noticed that free-fall in a rocket and gravity feel identical, then worked out that gravity is not a force at all but the curvature of spacetime caused by mass. Lincoln credits Minkowski for the mathematical articulation but insists the conceptual leap — *mass bends the geometry of space itself* — was Einstein's alone. He also defends Einstein's late-career skepticism of quantum mechanics as productive rather than blind: Einstein's critiques forced concrete predictions that experimentalists went out and confirmed. > *"We all agree that your idea is crazy, but is it crazy enough?"* ## [32:27] Electroweak force By the 1930s physicists had catalogued four forces: gravity, electromagnetism, the strong nuclear force, and the weak nuclear force. The last two only matter inside atomic nuclei, which is why most people have never encountered them. In the late 1950s and 1960s, Glashow, Salam, and Weinberg showed that electromagnetism and the weak force were the same at high energies — the electroweak force. The catch was obvious: electromagnetism reaches across the universe (we see light from galaxies billions of light-years away) while the weak force barely reaches across a proton. How could they be the same? Lincoln uses a dropped pen to demonstrate: the Higgs field, postulated in 1964 by Peter Higgs and colleagues, permeates all of space. Particles that couple to it gain mass; those that do not, like the photon, remain massless. At the high temperatures of the early universe the Higgs field was zero, so nothing had mass and the forces were unified. As the universe cooled, the Higgs field switched on and broke that symmetry — giving the W and Z bosons mass and splitting the electroweak force into its two familiar components. The vibration of the Higgs field itself is the Higgs boson: an experimentally detectable excitation of an otherwise invisible field. > *"In the Higgs field, the vibration is the Higgs boson. And so what we can do is not see the field, but we can actually excite the field, make it vibrate and detect the vibrations."* ## [44:09] How particle colliders work E=mc² is not just a slogan: kinetic energy can be converted into mass. Smash two particles head-on with enough energy and the collision region can materialize entirely new particles, always in matter-antimatter pairs. This is what colliders do. Lincoln describes the cascade of accelerators at Fermilab — five machines feeding into each other like gears of a manual transmission — and the scale of the LHC's CMS detector (70 feet long, 14,000 tons, photographing collisions 40 million times per second). The data-reduction challenge is equally striking. The LHC produces about a billion proton-proton collisions per second. Fast electronics discard all but 100,000 per second, commercial processors trim that to 1,000, and those 1,000 records are handed to graduate students hunting for the handful that might be Nobel Prize material. Lincoln reserves particular admiration for the engineers who move petabytes of data around the world seamlessly, calling them the unsung heroes of modern physics. > *"Of the 50 million possible collisions per second, the fast electronics and then the computers pick the thousand, and then we pass those through analysis software and hand them to the graduate students."* ## [62:12] Higgs boson discovery Lincoln was simultaneously working at Fermilab's Tevatron and transitioning to CERN's LHC — a physicist wearing two hats and rooting for both. Fermilab had methodically ruled out most possible Higgs mass ranges; by mid-2012 they had narrowed it to between roughly 120 and 145 GeV. Two days before CERN's July 4 announcement, Fermilab confirmed that if the Higgs existed, it had to be in exactly the region Fermilab had not yet been able to rule out. CERN got there first. Lincoln is careful about what the 2012 announcement actually meant: a particle *consistent with* the Higgs boson. Supersymmetry predicted five Higgs bosons rather than one. Only in the years since — measuring spin (zero), decay products (bottom quarks, W and Z, photons), and their rates — has the evidence converged on Peter Higgs's original 1964 prediction. The Higgs was not a revolution like Einstein's work, Lincoln argues, but it was the final punctuation on 50 years of experimental discovery: the Standard Model, while incomplete, is mostly right as far as it goes. > *"It was a punctuation point, end of about 50 years of discovery and searching, where we finally were able to say the Standard Model, while incomplete, it's mostly right as far as it goes."* ## [72:32] Theory of everything The Grand Unified Theory (GUT) aims to merge the electroweak force and the strong force; a Theory of Everything would then fold in gravity. Lincoln is blunt: he does not see fast progress. The unification energy scale is roughly 10¹⁵ times higher than what the LHC can reach, and accelerator energy grows by only a factor of seven every 20 years. Extrapolating that curve suggests 500 years — and Moore's Law does not hold forever. His critique of string theory is not that it is wrong but that it is currently untestable. It uses approximate solutions to approximate equations, and its landscape of possible universes renders it practically unpredictive. Loop quantum gravity is better developed and makes testable predictions — its original claim that light speed should depend on wavelength was ruled out by gamma-ray burster observations, and the theory was revised. Lincoln's preferred path to a ToE is not extrapolating from current theory but making precise measurements of phenomena that already disagree with predictions. His analogy: an Australopithecus in Kenya trying to predict the Alps, Antarctica, and sperm whales from their local savanna — the farther you extrapolate beyond what you can measure, the more the prediction diverges from reality. > *"I think it is the absolute pinnacle of arrogance to think that what we can do — predict it out a quadrillion times higher than we can see now."* ## [102:17] Physics of empty space "Empty" space is not empty. Quantum field theory says every species of particle has a corresponding field that fills all of space, and those fields are always vibrating. When they vibrate in a characteristic way, a real particle appears; off-frequency vibrations are virtual particles — fleeting excitations that have measurable consequences. Two experiments confirm this. The Casimir effect: two metal plates placed micrometers apart are pushed together by the pressure difference between constrained virtual particles inside the gap and unconstrained ones outside. The anomalous magnetic moment: old quantum mechanics predicts one value for the electron's magnetic moment; including the bath of virtual particles surrounding a bare electron shifts the prediction by 0.1% — and that shifted prediction matches measurement to 10 significant figures. > *"We have measured the magnetic properties of both the electron and the muon to 12 — count them — 12 significant figures. And the theory and the data agree number for number for 10 places."* ## [109:41] Antimatter Paul Dirac's 1928 attempt to merge quantum mechanics with special relativity produced an equation with two solutions: +1 was the electron, −1 was something nobody had seen. He insisted the math was right. Carl Anderson confirmed it in 1932 by photographing a positron in a cloud chamber. Today CERN can make and trap antimatter hydrogen, cool it to near absolute zero, agitate it with lasers, and measure its spectral lines — they match ordinary hydrogen exactly. A 2023 experiment released antimatter hydrogen atoms into a bottle and found they fall downward, consistent with normal gravity, though the measurement precision is not yet tight enough to confirm the gravitational strength is identical. The deeper mystery is why the universe is made of matter at all. Counting galaxies versus cosmic microwave background photons, physicists infer that for every billion antimatter particles in the early universe, there were a billion-and-one matter particles. The billions annihilated; that extra one is everything we see. Fermilab is now testing whether neutrinos and antineutrinos oscillate between flavors at slightly different rates — leptogenesis — as a possible mechanism, racing a parallel effort in Japan. > *"For every billion antimatter particles that existed in the universe, there were a billion and one matter particles. The billions canceled, annihilated, destroyed each other, and that extra one that's left over is us."* ## [130:31] Dark energy In 1998, astronomers expected to measure how fast gravity was braking the expansion of the universe. They found the expansion is accelerating instead. The driving force is dark energy — a repulsive form of gravity. Einstein had added exactly this term to his field equations in 1917 to keep the universe static, then removed it when Hubble showed it was expanding. In 1998 it went back in. What dark energy actually is remains unknown. The most common view is that it is the energy density of space itself. The problem is that quantum field theory predicts a vacuum energy density about 10¹²⁰ times larger than what is observed — the worst prediction in physics. Lincoln notes that if dark energy has constant *density* while space expands, total dark energy is growing, which pushes toward the view that space is quantized: new quanta of space appear as the universe grows, each carrying a fixed energy, producing constant density as an emergent property. > *"There is very clearly something going on, something very badly wrong in the quantum field theory."* ## [134:20] Dark matter Galaxies rotate too fast. Galaxy clusters move too quickly. Gravitational lensing of distant galaxies is stronger than visible matter can explain. Three independent observations all point to the same conclusion: there is roughly five times more mass in the universe than we can see. Lincoln traces his own intellectual journey: 25 years ago he suspected the problem was with Newton's laws; two observations changed his mind. The Bullet Cluster — two galaxy clusters that passed through each other — shows gravitational distortions following the galaxies, not the gas clouds that stopped in the middle, exactly what dark matter predicts. The Dragonfly galaxies (DF2 and DF4) rotate exactly according to Newton's laws because they appear to have had their dark matter stripped away — a galaxy *without* dark matter is actually strong evidence that dark matter is real. Despite 30 years of searching with three approaches — direct detection underground, gamma-ray searches near galactic centers, and missing-momentum signals at the LHC — no dark matter particle has been confirmed. The viable mass range spans from sub-electron to asteroid scale, and experiments can only cover one slice of that range at a time, which is why Lincoln is not currently running a dark matter experiment himself. > *"We've ruled out some dark matter particles, but the problem is the range of space of possible mass — it ranges from something like the mass of an asteroid to far lighter than an electron and everywhere in between."* ## [162:56] Future of physics Lincoln grew up poor in rural America, shaped by science fiction and the popular science books of Isaac Asimov, Carl Sagan, and George Gamow. He chose particle physics over cosmology in the mid-1980s because particle physics let him actually measure things. He worked 8 a.m. to midnight Monday through Saturday as a graduate student not out of obligation but because he could not imagine anything he would rather be doing. His science communication — YouTube videos, popular books — is a deliberate attempt to reach the kid in Iowa or Montana who has no highly educated family mentors but the same hunger he had. He has already heard from Fermilab summer interns who came because they watched one of his videos. Lex closes with Marie Curie: *"Nothing in life is to be feared. It is only to be understood."* > *"One of your viewers might be one of the people who answer these questions that have stymied very smart people for decades."* ## Entities - **Don Lincoln** (Person): Senior scientist at Fermilab; co-author on the 1995 top quark discovery paper; CMS collaboration member at LHC; author of *Einstein's Unfinished Dream* and multiple popular science books. - **Lex Fridman** (Person): MIT researcher and host of the Lex Fridman Podcast; conducts long-form interviews at the intersection of science, technology, and philosophy. - **Fermilab** (Organization): U.S. Department of Energy particle physics laboratory near Chicago; operated the Tevatron collider; currently the world's most powerful neutrino beam facility. - **CERN / LHC** (Organization): European particle physics laboratory home to the Large Hadron Collider; CMS and ATLAS detectors; site of the 2012 Higgs boson discovery. - **Standard Model** (Concept): Quantum field theory describing three of four fundamental forces and all known elementary particles; validated to extraordinary precision but does not include gravity or explain dark matter, dark energy, or the matter-antimatter asymmetry. - **Higgs field / Higgs boson** (Concept): A scalar quantum field whose non-zero vacuum value gives mass to the W and Z bosons while leaving the photon massless; the Higgs boson is its detectable excitation, discovered July 4, 2012 at CERN. - **Dark matter** (Concept): Invisible mass accounting for roughly 85% of all matter in the universe, inferred from galaxy rotation curves, cluster dynamics, and gravitational lensing; no candidate particle detected after 30 years of searches. - **Dark energy** (Concept): The repulsive energy driving the accelerating expansion of the universe; quantum field theory's prediction for its magnitude is 10¹²⁰ times larger than observation — the "worst prediction in physics." - **Baryogenesis / Leptogenesis** (Concept): Frameworks attempting to explain why the early universe produced a matter excess; Fermilab's neutrino program is testing leptogenesis by comparing neutrino and antineutrino oscillation rates. - **String theory / Loop quantum gravity** (Concept): Leading candidates for quantum gravity; string theory predicts at energies untestable by a factor of 10¹⁵; loop quantum gravity quantizes space itself and has produced some falsifiable predictions.

David George (a16z general partner) and David Clark (VenCap CIO) argue that AI companies are scaling faster than any prior technology generation — Anthropic and OpenAI are adding more monthly revenue than Meta, Google, or Microsoft — while actual diffusion into the broader economy remains below 5%. They work through what that gap implies for exit sizes, loss ratios, bubble risk, and who ultimately captures value as token costs fall and frontier intelligence becomes a commodity. ## [00:00] Intro Three data points open the episode: Anthropic and OpenAI already adding more revenue per month than any hyperscaler; top-1% exits 10x-ing in 24 months from $10 billion to $32 billion; and David George's assessment that, right now, we are not in a bubble. ## [00:38] The Scale Shift: Anthropic & OpenAI Adding More Revenue Than Hyperscalers David George explains how his priors shifted sharply around November 2025. Before that, enterprise AI looked like a productivity story analogous to cloud adoption. After it, the numbers reframed the ceiling: Anthropic and OpenAI are already adding revenue at hyperscaler rates with less than 5% of the economy actually using these tools. He places an upper-bound frame on the opportunity by noting that Fortune 500 companies generate roughly $2 trillion of profit annually, and the two largest model companies could reach $200 billion revenue run rate by year-end — already equivalent to 10% of that profit pool. > *"If you pair that up with the fact that they're already getting bigger in terms of revenue added than the hyperscalers, and you're at less than 5% diffusion into the economy, I think the outcomes are going to be extraordinary."* ## [04:20] Skeuomorphic vs Native AI Applications in the Enterprise David Clark invokes Chris Dixon's skeuomorphic-to-native arc: the first wave of enterprise AI lets people do existing jobs faster; the native wave restructures the work itself. George adds a wrinkle — the best companies are not yet focused on internal automation. Their top engineers want to build product, not automate back-office workflows. The most cutting-edge firms he visits are still in a "documentation phase," converting institutional knowledge into markdown before they can meaningfully deploy agents against it. > *"The most cutting-edge folks inside those companies who are trying to do this that I've talked to are kind of in the documentation phase — just turn everything into markdown files, have as much context capture as you can possibly get."* ## [06:24] How the Best AI Companies Run Themselves Differently Native AI founders operate on a different metabolism. George contrasts them with the previous SaaS generation, which, in hindsight, ran inefficiently but got away with it because headcount mandates and expanding software budgets covered the slack. The new companies are lean, aggressive, and already running agent swarms rather than typing commands. He describes walking into a cutting-edge AI company and finding researchers whispering into microphones, orchestrating swarms of agents — not a keyboard in sight. > *"The new companies are very lean, very aggressive, and they work all the time."* ## [08:14] Top 1% Exits 10X'd in 24 Months Clark lays out VenCap's tracking data: the threshold for a top-1% exit was $10 billion between 2020-2024, rose to $20 billion by February 2026, and was updated just the day before this recording to $32 billion. With OpenAI and Anthropic IPOs potentially arriving, he sees the bar hitting $100 billion by September. George notes that the combined market cap of these private companies likely already exceeds the entire Russell 2000, and that the sum of all VC-backed IPOs over the past six years is probably smaller than any single one of the three expected large IPOs. > *"Where is the threshold for the top 1%? And if you then think about OpenAI and Anthropic coming in, potentially we could be north of $100 billion by September."* ## [11:17] The Half-Life Problem: Why 40% of AI Leaders Drop Off Every Year Clark surfaces a disturbing churn metric: 40% of companies on the Forbes AI 50 list from one year disappeared the next. Google wasn't the first search engine; Facebook wasn't the first social network. First-mover advantage in AI is eroding faster than in any prior cycle. George confirms a16z's own priors have been repeatedly overturned — first convinced model companies would be everything, then convinced applications would take over, now watching the model companies extend back up into the application layer. The only durable heuristic he offers: a company must be in the token path. > *"From last year to this year, 40% of the companies that were on that list last year dropped off."* ## [13:11] Token Path, Cost Pressure & Who Captures Value Enterprise buyers are already feeling cost pressure from AI spend, and they cannot cover it by cutting previous-generation software budgets fast enough. George frames value capture as hinging on one largely unknowable variable: the market structure of frontier model labs. Two labs at the frontier means higher token prices and faster labor restructuring pressure; five labs means lower prices and a broader application ecosystem. Per-token cost for like-for-like capability is falling more than 10x year-over-year, but total token spending in dollars is rising faster. Clark adds that Chinese LLMs are roughly six months behind US frontier capability but ten times cheaper — a classic innovator's dilemma setup. > *"The biggest driver of where value is going to get captured right now is something that is totally unknowable, which is what is the market structure of the model companies?"* ## [17:00] Loss Ratios, Risk & How We Think About Early Stage Clark notes that historical early-stage VC loss ratios run around 60%, but the AI cohort of the past two years shows single-digit loss rates — unsustainable by definition. George reframes the discussion: a16z does not target a low loss ratio. A VC firm bragging about never losing money is "a horrible data point" — it signals too little risk-taking. The philosophy is to back the market-leading founder in every space with strong tailwinds and a credible technology. If the space works out and you have the leader, excellent. If the space does not work out but you have the leader, that is expected. The failure mode is the space working out while having backed the wrong company. > *"We joke all the time — there's a prominent VC in our ecosystem, and one of his big points of pride is he's never lost money on a deal. And we're like, that's not a point of pride. Like that's a horrible data point."* ## [22:51] Are We in an AI Bubble? Clark points out that classic bubbles are characterized by excess supply destroying economics — but right now the constraint is supply scarcity: no data center capacity available at scale until late 2028 or early 2029, with the US buildout running a year behind schedule and community resistance adding further delay. George is confident there is no bubble today and dismisses the data center opposition directly. The one scenario he would watch for is an unexpected algorithmic breakthrough producing dramatically smaller and more efficient models — which could flip supply from scarce to oversupplied — but he considers that unlikely in the near term. > *"I feel pretty confident saying that we're not in a bubble right now. I'm less confident that we won't be in a bubble three years from now."* ## [27:36] What SpaceX, OpenAI & Anthropic IPOs Mean for Public Markets Clark asks whether public markets can absorb the coming wave of trillion-dollar-plus IPOs. George argues it is unambiguously positive: the number of public companies has halved over 20 years, and outside the data center supply chain, almost nothing in the public markets is growing at more than 30% today. Bringing hypergrowth companies into indexes gives retail investors — including his parents' index-fund retirement accounts — exposure to the most dynamic part of the economy. He expects some portfolio reshuffling to make room, but does not see indigestion risk. > *"If you exclude the data center supply chain stuff right now, there are very few companies that are growing fast that are available for people to buy in the public markets."* ## [29:59] The Future of Venture Capital in an AI World George forecasts the shape of VC over the next five years as primarily a function of token market structure — whether the labs remain concentrated or become commoditized. He cites Bill Gates's platform axiom: a platform's value is validated when the companies built on top of it collectively exceed the platform's own value. If that holds, there will be a massive wave of valuable application companies built on intelligence. He also flags the consumer side as the most underappreciated opportunity: the last decade of consumer internet was a story of time spent getting captured by large incumbents; AI-driven shifts in consumer attention could recreate the conditions for generational consumer companies. > *"I'm very optimistic that we're going to have a massive wave of really valuable companies that get built on top of tokens, AI, and intelligence."* ## Entities - **David George** (Person): General partner at a16z; covers growth-stage and early-stage AI investing; invested in OpenAI pre-ChatGPT - **David Clark** (Person): CIO at VenCap; fund-of-funds investor tracking AI startup performance and VC market dynamics for 34 years - **Anthropic** (Organization): Frontier AI lab; cited as adding more monthly revenue than hyperscalers alongside OpenAI - **OpenAI** (Organization): Frontier AI lab; benchmark for scale and the expected $100B+ IPO cohort - **VenCap** (Organization): Fund-of-funds investor; publishes top-1% exit threshold data and tracks Forbes AI 50 churn - **Andreessen Horowitz / a16z** (Organization): Venture capital firm; investor in OpenAI pre-ChatGPT, scaling platform services to support companies encountering enterprise-scale problems early in their lives - **Cursor** (Software): AI coding tool cited as an example of a company reaching billions in revenue while still very small and early-stage - **Token path** (Concept): a16z's primary heuristic for evaluating AI companies — a company must sit in the flow of AI inference tokens to have durable economic relevance - **Skeuomorphic vs. native AI** (Concept): Chris Dixon's framework distinguishing apps that replicate existing workflows with AI assistance from apps that rearchitect work around AI capabilities natively - **Half-life problem** (Concept): David Clark's term for rapid AI leader turnover — 40% of Forbes AI 50 companies dropped off the list year-over-year — indicating first-mover advantage is eroding faster than in prior technology cycles

At AI Ascent 2026, Neuralink co-founder and president DJ Seo sits down with Sequoia partner Shaun Maguire to lay out exactly where the company stands: 20-plus Telepathy patients controlling computers and robotic arms through pure thought, Blindsight in preclinical testing and potentially cleared for human use by end of 2026, and a first-principles manufacturing philosophy borrowed from Elon Musk that treats surgical robots the way SpaceX treated reusable rockets. DJ argues that the real ceiling of this technology is not cursor control or speech synthesis but direct, uncompressed, multimodal transfer of concepts — AI as a neocortical layer sitting above the human limbic system — and that scale, the same variable that unlocked the LLM era, is the only remaining gate. ## [00:00] Introduction Shaun Maguire opens the session by announcing a two-minute Neuralink patient video before the interview begins, telling the audience to stay on the side because what they are about to watch is proof that the company has already cleared the hardest bar: restoring human agency to people who had lost it entirely. ## [00:21] Telepathy Patient Stories The video narrates four patients whose lives changed after receiving the Telepathy implant. A quadriplegic patient describes moving a cursor with thought alone — "I'm thinking and a cursor is moving on a screen. It blew my mind." An ALS patient who lost the ability to speak regains a digital voice through the implant: "I'm talking to you with my mind." Another patient notes that the implant flipped how his child sees him: "I am not able to do things that other dads can, but now he thinks it's so cool that I can do things that other dads cannot." > *"Before the implant, I was locked in, non-verbal, quadriplegic. Now I control my computer just by thinking and the rewards have been immense for me."* ## [01:06] Convoy Robotics Independence The video shifts to Convoy, Neuralink's assistive robotics team, which is extending BCI control beyond a screen to physical manipulation in the real world. A patient who had been losing motor function moves a robotic arm through its axes using only neural intent: "It was incredible to be able to just gesture with an arm again." A second patient, Kenneth, who was losing his voice to ALS, uses the system's speech synthesis to speak aloud in real time during the video — words generated by his brain signals rather than his vocal cords. > *"Gaining functionality that I thought was gone forever was so incredibly life-changing."* ## [02:04] Blindsight Vision Restore The video previews Blindsight, Neuralink's second product line, designed for patients who have lost both eyes or optic nerve function. An external camera captures the visual scene; the device writes the signal directly into the visual cortex via electrical stimulation, generating phosphenes — artificial pixels of light. A patient named Audrey, asked how it feels, answers simply: "Life-changing." The video closes with the line "all with my mind" spoken over footage of a patient interacting with the world through the restored signal. > *"The future of this technology feels almost unlimited... we are finding ways to apply it across all regions of the brain."* ## [03:10] After Video Reflections DJ Seo, visibly moved after watching the video alongside the audience, speaks first: "We were cracking a lot of jokes before that video, but honestly, that brought tears to my eyes." He describes the work as one of the most inspiring projects in the world — not because of the technical milestone but because the team is giving back capabilities that patients had already grieved as permanently lost. Maguire affirms the sentiment before pivoting to the founding story. > *"This is one of the most inspiring projects in the world. It's incredibly difficult what they're doing and I mean, they're truly saving people."* ## [03:31] Origin Story And AI DJ traces Neuralink's founding insight to a single bottleneck: the mismatch between human output bandwidth and AI capability. In 2016, saying that out loud "sounded insane," but the logic has not changed. His personal path ran through a childhood fascination with the brain, undergraduate work at Caltech building miniaturized low-power electronics, and a Berkeley PhD focused on shrinking lab-grade neural systems down to something deployable. When he met Elon Musk near the end of his PhD, the scale and ambition of the project made refusal impossible. He frames the brain as "the most interesting compute that we all carry" and "the only form of general intelligence that we know to date." > *"Really the key insight back then was sort of the IO bottleneck between the human output and AI capabilities."* ## [06:31] Scaling And Vertical Integration Maguire presses on what smart people most misunderstand about Neuralink: many know the implant and the decoding algorithm, but almost nobody grasps the manufacturing and surgical-robot infrastructure the company built in parallel from day one. DJ attributes this to what he calls "Elon magic" — an insistence on vertical integration that gives Neuralink control over every layer from chip design to factory floor to robotic surgery deployment. The target is not a niche medical device; it is LASIK-scale surgery available to millions. Building that capacity first means progress looks slow until "the iceberg pops over the waterline" and ramp becomes near-instantaneous. > *"Vertical integration is something that is really the lifeblood of Neuralink and Elon companies and what really enables us to have that fast iteration loop from design, develop, deploy."* ## [09:27] Caregivers And Purpose Asked which patient story inspires him most, DJ refuses to pick one — the power, he says, is not only in the patients but in the caregivers: Nolan's mother Mia, Brad's wife Tiffany, Ken's wife Cheryl. He describes their presence as "a really powerful human story of love, sacrifice, and resilience." He then takes what he calls a philosophical tangent: his core belief is that fulfillment comes from helping others, because the gap between self and other is not categorically different from the gap between your present and future selves. That belief is what he says keeps him and much of the Neuralink team going — they are "igniting a fire of hope" for people who had given up on recovering what they lost. > *"I personally and as well as many others at Neuralink find extreme fulfillment being able to help those that really cannot help themselves."* ## [13:10] BCIs Meet AI Future Maguire asks the room's core question: how do BCIs and AI converge? DJ sketches a two-horizon answer. Near term, the system translates neural intent into legacy interfaces — keyboard, mouse, language — which is already working. The real breakthrough, which he thinks is "not super distant," is bypassing those legacy interfaces entirely and computing on raw neural intent. He points to transformer architectures as existence proofs: nothing prevents them from learning the latent manifolds of neural data given sufficient scale. Neuralink is already fine-tuning LLM-class models on neural recordings from its 20 participants and finding "very counterintuitive" patterns. The ultimate ceiling he names is "direct, uncompressed, high-fidelity, multimodal transfer of concepts" — the Matrix's "I learned kung fu" moment and possibly beyond it. He also shares what he calls a clarifying lesson from working with Musk: "all green light schedule" — a first-principles forcing function that strips every man-made bottleneck and asks how fast something could actually be built if every light were green. His estimate is that 80–90% of perceived constraints in hardware development are artifacts of convention, not physics. > *"I think if you really think about the ultimate ceiling of this technology, it's really direct uncompressed high fidelity and multimodal transfer of concepts."* ## [21:05] Audience Q&A Wrap Three audience questions in the final four minutes. On product sequencing — when to go deep versus expand — DJ explains the "beachhead and expand" strategy: build everything generalizably enough from the start so that regulatory approval for motor cortex becomes a template for visual cortex and beyond. The first approval is the hardest; every subsequent one rides the clinical safety record already established. On augmentation for healthy users, DJ frames everything around benefit-risk: the calculus is obvious for quadriplegic patients; for otherwise healthy users it remains unclear, but he notes that off-label use after approval is legally available to anyone who can find a neurosurgeon and pay out-of-pocket. On the hard problem of consciousness, he gives a pointed one-liner: if you can inject new senses and measure the subjective response quantitatively, you may have a pathway toward measuring consciousness itself. Maguire closes by calling Neuralink "one of the most inspiring companies in the world." > *"If you are able to inject new senses, there may be ways to quantitatively understand that."* ## Entities - **DJ Seo** (Person): Co-founder and president of Neuralink; PhD in miniaturized electronics from Berkeley; joined after meeting Elon Musk near the end of his doctorate - **Shaun Maguire** (Person): Partner at Sequoia Capital; host of the AI Ascent 2026 fireside session - **Elon Musk** (Person): Co-founder of Neuralink; originator of the "all green light schedule" and vertical integration philosophy carried across Tesla, SpaceX, and Neuralink - **Neuralink** (Organization): BCI company founded in 2016; products include Telepathy (motor prosthesis) and Blindsight (vision restoration via visual cortex stimulation) - **Telepathy** (Software): Neuralink's first commercial product; allows paralyzed patients to control computers and robotic devices through neural intent decoding - **Blindsight** (Software): Neuralink's second product line; restores vision for patients with total loss of eyes or optic nerve by writing directly to the visual cortex; in preclinical testing as of mid-2026 - **IO Bottleneck** (Concept): The mismatch between human output bandwidth (speech, typing, gesture) and AI processing capability; the founding problem Neuralink was built to solve - **Neural Foundational Model** (Concept): LLM-class transformer models fine-tuned on neural recording data; Neuralink is building these at 20-participant scale and observing counterintuitive patterns in neural latent space - **All Green Light Schedule** (Concept): Elon Musk's first-principles engineering discipline — strip every man-made constraint and ask what physics alone limits; DJ estimates 80–90% of hardware delays are conventional, not physical

Dan Shipper, CEO of Every, delivers a day-zero vibe check on Opus 4.8, arguing Anthropic could have called it Opus 5. The model jumps 30 points past Opus 4.7 on Every's Senior Engineer benchmark, edges out GPT-5.5, tops their internal writing tests at 79.6 vs. 73, and is the first model to produce a genuinely good one-shot slide deck. Two catches temper the enthusiasm: performance degrades sharply below "extra high" reasoning, and the Claude desktop app remains cluttered compared to Codex. ## [00:00] What is Every Every is a 30-person applied AI lab for the future of work—part media outlet, part product studio. Dan opens by explaining the subscription (writing, courses, AI-built tools all in one place at every.to) before rolling into the Opus 4.8 assessment. The plug is brief and context-setting: the team has had beta access for a week, and the rest of the video is what they found. > *"Every is the only subscription you need to stay at the edge of AI."* ## [01:07] Anthropic Is Back: The Headline Case for Opus 4.8 Dan had largely abandoned Claude after Opus 4.7—slow, hard to love, and outpaced by Codex and GPT-5.5 in day-to-day use. Even the most loyal Claude users at Every had started routing work elsewhere. Opus 4.8 breaks that pattern: it scores 63 on Every's Senior Engineer benchmark (30 points above Opus 4.7, one point above GPT-5.5), tops their writing tests, and produced the first one-shot slide deck Dan has called genuinely good. Kieran Klaassen, Every's GM, called it "the most human model he's worked with." The one persistent friction is the Claude desktop app itself. Codex is fast, focused, and ships a clean harness; the Claude app still feels like a product built by three separate teams—chat tab, code tab, co-work tab, each with its own feel. Dan is now splitting time between both apps, which he was not doing before. > *"But honestly, they could have called it Opus 5 cuz this is a really great model."* ## [05:02] Reach Test: Paradigm Shift Ratings from the Every Team Every's reach test asks one question: do you actually open this model when work gets hard? Dan rates Opus 4.8 gold/green—paradigm-shift quality, docked one notch because the Claude app harness is only "okayish to pretty good." Kieran, who runs 50 agents a day, gives a straight gold paradigm-shift, one of the rarest grades the team has assigned. Katie Parrot, a senior staff writer and historical Claude fan, lands at green, splitting her work between Opus 4.8 and Codex. > *"It's very rare to give a paradigm shift grade to a model. So I would pay attention to this."* ## [06:32] Benchmarks: Coding and Writing Numbers On coding, Opus 4.8 hits 63 on the Senior Engineer benchmark—the test feeds the model a vibe-coded codebase and asks it to rewrite from first principles, then scores against two human senior engineers who completed the same rewrite (typically scoring in the 80s–90s). GPT-5.5 sits at 62. On Kieran's LFGbench (real-world tasks: SaaS build, e-commerce site, 3D game landscape), the model writes readable code that bridges technical competence and creativity—the "cozy island" 3D scene is notably richer and more vibrant than GPT-5.5's output. On writing, Opus 4.8 scores 79.6 out of 100 on Every's internal benchmark (intro writing, promo emails, mid-piece paragraphs); GPT-5.5 scores 73. The gap is mainly in AI tells: at high and extra-high reasoning settings, Opus 4.8 produces prose that sounds less like a model. It matches a writer's voice from a single paragraph of context better than any other model Dan has tested. > *"Opus 4.8 scores a 79.6 out of 100 on the writing benchmark. GPT 5.5 is 73."* ## [08:57] Emotional Intelligence, Knowledge Work, and the Verdict Dan uses the model for interpersonal and management work—talking through decisions, pressure-testing his own framing. Opus 4.8's thinking traces show it genuinely cycling through permutations before responding, which makes it feel less like a sycophant and more like a useful counterpart. On knowledge work, it's versatile: code and writing coexist cleanly in a single thread, and the slide deck result is the first one-shot deck Dan would actually send to someone. The verdict: if you're a Claude fan, this model delivers. If Codex converted you, add Opus 4.8 as a parallel tool for writing and knowledge work—it's worth the context switch. The harness gap is real, but the model itself is a banger. > *"If you've been converted to Codex, I highly recommend you at least add it as part of your arsenal."* ## Entities - **Dan Shipper** (Person): Co-founder and CEO of Every; presenter and primary evaluator of Opus 4.8. - **Kieran Klaassen** (Person): GM of Kora at Every; gave Opus 4.8 a straight gold paradigm-shift rating on the reach test. - **Katie Parrot** (Person): Senior staff writer at Every; rated Opus 4.8 green, split between it and Codex. - **Every** (Organization): Applied AI lab and media subscription company focused on AI for the future of work. - **Anthropic** (Organization): Developer of Claude and Opus 4.8. - **Opus 4.8** (Software): Anthropic's latest Claude model; subject of the vibe check. - **GPT-5.5** (Software): OpenAI model used as the primary performance comparison across all benchmarks. - **Codex** (Software): OpenAI coding agent; praised for its clean desktop harness and used as the daily-driver counterpoint to Claude. - **Senior Engineer Benchmark** (Concept): Every's proprietary coding benchmark—rewrites a vibe-coded codebase from first principles and scores against human engineers. - **LFGbench** (Concept): Kieran Klaassen's real-world coding benchmark covering SaaS, e-commerce, and 3D scene generation tasks.

L'investisseur de Shark Tank Kevin O'Leary et le cofondateur des Young Turks Cenk Uygur s'affrontent pendant 103 minutes sur la question de savoir si l'IA libérera ou ravagera l'économie américaine, pourquoi la guerre États-Unis-Iran s'enlise malgré un accord de sortie évident, et qui a réellement une chance de l'emporter en 2028. O'Leary tient le camp de l'optimisme tout au long du débat — l'IA crée de nouveaux emplois, le marché s'adapte toujours, la Chine est la vraie menace — tandis qu'Uygur martèle une thèse unique et constante : la combinaison du chômage de masse dû à l'IA et d'une politique étrangère pilotée par le lobby israélien mène l'Amérique droit vers un iceberg, sans la moindre préparation institutionnelle pour encaisser le choc. ## [00:00] Introduction Dès les premières secondes, les enjeux du débat sont posés. Uygur attaque d'emblée : les entreprises se ruent à licencier 10 à 25 % de leurs effectifs pour rester compétitives, et si toute l'économie fait ça simultanément, le résultat sera une dépression, pas une simple récession. La réponse d'O'Leary — "Wow. Jake est vraiment un rabat-joie aujourd'hui. On parle d'une opportunité incroyable" — donne le ton exact qui traversera l'heure quarante suivante. Steven Bartlett présente son objectif : atteindre la vérité par la confrontation de deux esprits sérieux aux positions opposées, pas un simple pugilat. > *"Tout le monde se précipite pour licencier 10 à 25 % de ses effectifs, mais un taux de chômage de 10 % serait pire que tout ce qu'on a connu de notre vivant."* — Cenk Uygur ## [02:35] Pourquoi 7 Américains sur 10 s'opposent désormais aux centres de données IA Steven Bartlett ouvre sur un sondage montrant que 7 Américains sur 10 s'opposent aux centres de données IA dans leur région. O'Leary désigne un responsable précis : grâce à des auditeurs légaux et aux déclarations IRS 990, il a retracé des flux d'argent chinois circulant via un réseau appelé Arabella — par l'intermédiaire de Neville Singum — vers des campagnes anti-centres de données en Utah, avec des menaces de mort à l'encontre de ses dirigeants. Il a remis 90 pages de données IP à la Maison-Blanche. Uygur balaie la théorie chinoise et revient à un grief plus simple : les centres de données ont fait grimper les factures d'électricité des églises, bibliothèques et centres communautaires, comme en Virginie, et les entreprises qui les construisent doivent apporter leur propre énergie ou céder une part des bénéfices au public. > *"J'ai des preuves irréfutables que les Chinois interviennent partout où une nouvelle source d'énergie est proposée en Amérique, dans chaque État, chaque ville."* — Kevin O'Leary ## [07:24] Comment l'IA pourrait déclencher un effondrement et une crise du revenu universel L'argument économique central d'Uygur se déploie ici. Il reconnaît le problème du coût énergétique et affirme que tout centre de données puisant dans le réseau public sans compensation est une forme de parasitisme d'entreprise — citant le renflouement de 2008 comme modèle à ne pas reproduire. Son alarme principale : le chômage de masse. Chaque entreprise qui se précipite à supprimer 10 à 25 % de ses postes va, dans l'ensemble, détruire la consommation des ménages et déclencher une dépression. Sam Altman, Elon Musk et Dario Amodei ont tous dit publiquement qu'un déplacement massif d'emplois était en route, mais aucun gouvernement n'a de plan. O'Leary rétorque que chaque perturbation technologique des 200 dernières années d'histoire américaine a créé plus d'opportunités qu'elle n'en a détruit, et que freiner l'IA ne ferait que donner l'avance à la Chine. > *"Quand on heurtera l'iceberg, on ne sera pas prêts et ce sera un désastre épique. Il n'y aura plus personne pour acheter vos produits parce que les employés sont aussi des clients."* — Cenk Uygur ## [15:30] Les fondateurs d'IA cachent-ils les vrais risques au public ? Steven Bartlett cite des déclarations publiques : Sam Altman (2021) affirmant que l'IA remplacera la plupart des emplois ; Musk en 2024 disant que probablement aucun d'entre nous n'aura de travail ; et Amodei alertant en 2025 que l'IA pourrait éliminer la moitié de tous les postes cols blancs d'entrée de gamme en cinq ans et pousser le chômage à 20 %. Il pose la question : si ceux qui construisent ces systèmes disent publiquement que leurs produits causeront des dommages sociaux, pourquoi supposer qu'ils exagèrent ? O'Leary brandit l'autre moitié de la déclaration d'Amodei — sans développer la puissance de calcul en six mois, le Deepseek chinois rattrape tout — et soutient que le vrai choix est de mener la disruption ou de la céder à Pékin. Uygur reconnaît que la course est inévitable mais insiste : les développeurs licenciés aujourd'hui percutent déjà l'iceberg, et un revenu universel à 36 000 dollars par an est une chute brutale pour un salarié qui gagnait 120 000 dollars. > *"Peut-on mener cette course de façon responsable, au service des électeurs et citoyens américains plutôt que des seuls dirigeants et actionnaires des entreprises d'IA ? Je l'espère, mais on n'a pris absolument aucune mesure dans cette direction."* — Cenk Uygur ## [23:55] L'IA peut-elle être développée de façon responsable ou est-ce impossible ? Steven Bartlett pousse vers les propositions concrètes. Uygur livre son diagnostic structurel : la corruption légalisée — Citizens United, Buckley v. Valeo — garantit que la société d'IA qui donne le plus obtient le cadre réglementaire qu'elle veut. Le Congrès ne légifère pas pour les électeurs, mais pour les donateurs. O'Leary soutient que les emplois perdus concernent en grande partie des postes sur-recrutés spéculativement, et que les entreprises d'IA brûlent des milliards, sans les engranger. Il décrit son centre de données en Utah : 4 000 emplois de construction sur neuf ans, 2 000 postes d'ingénieurs supplémentaires, pas un hectare de terres agricoles touché. Sur l'avertissement socialiste d'Uygur, O'Leary est péremptoire : montez les impôts au-delà de 50 % et les riches partent à Monaco ou en Floride, comme les Français l'ont découvert. > *"Si vous ne le faites pas, les fourches vont arriver. Je ne suis pas un homme aux fourches. Je crois en la non-violence et je le croirai toujours. Mais je ne pense pas que les gens comprennent le niveau de colère qui couve."* — Cenk Uygur ## [32:11] Comment l'IA détruit silencieusement des emplois Steven Bartlett livre son expérience directe : il recrute désormais ses juniors presque exclusivement sur la maîtrise de l'IA, car un junior compétent en IA est 5 à 10 fois plus productif — ce qui revient à écarter d'emblée les candidats sans cette compétence. O'Leary conteste : les ingénieurs sont embauchés pour résoudre des problèmes, pas pour écrire du code, et l'IA leur donne juste un outil plus rapide ; la plupart des licenciements tech corrigent un sur-recrutement, pas un déplacement par l'IA. Uygur rejette l'argument : les analystes de Wall Street applaudissent chaque annonce de réduction d'effectifs comme des "synergies", les cours montent quand on licencie, et personne dans ces conférences de résultats ne demande qui achètera les produits quand les travailleurs seront partis. Il soulève aussi un risque sous-estimé : historiquement, un grand nombre de jeunes hommes au chômage rime avec criminalité et conflits. > *"Quand on a beaucoup de jeunes hommes au chômage qui traînent, en général ce qui se passe n'est rien de bon. Des guerres éclatent, la criminalité monte. Il faut être préparés."* — Cenk Uygur ## [37:35] Pourquoi le chômage massif pourrait arriver plus vite que prévu Steven Bartlett décrit une visite dans un accélérateur de robotique à San Francisco où chaque équipe avait basculé du logiciel aux robots physiques, car l'intelligence — auparavant l'ingrédient manquant et coûteux — ne coûte plus rien. Il demande à ses deux invités en quoi ils pourraient avoir tort. O'Leary refuse d'envisager le scénario du chômage et se réfugie dans la base lunaire permanente de la NASA et le programme Mars comme sources de centaines de milliers de nouveaux emplois bien payés. Uygur nomme la difficulté "le problème de l'interrègne" : même si le scénario rose d'O'Leary se réalise dans 20 ans, l'ouvrier de 61 ans sur une chaîne d'assemblage à Cleveland ne peut pas se recycler en ingénieur martien. Steven Bartlett ajoute que le PDG d'Uber lui a confié en privé que l'IA remplacerait 9,4 millions de ses chauffeurs — et quand on lui a demandé ce que ces chauffeurs feraient, il a répondu : "Je ne sais pas." > *"Les pièces du robot sont là depuis des décennies. On les a toujours eues. Ce qui manquait et qui coûtait cher, c'était l'intelligence."* — Steven Bartlett, citant son cofondateur ## [46:32] Publicités Segment sponsorisé couvrant Stan (outil IA pour les réseaux sociaux), Pipedrive (CRM) et Cometeer (café). Aucun contenu de débat substantiel. ## [48:40] Ce qui se passe vraiment entre Israël, l'Iran et le Moyen-Orient Le débat bascule vers la géopolitique. Steven Bartlett présente la chute de la popularité de Trump et demande à Uygur d'expliquer la guerre. La réponse d'Uygur dure près de 25 minutes et porte une seule thèse : cette guerre sert à 100 % les intérêts israéliens et à 0 % les intérêts américains. Il retrace les 317 millions de dollars de contributions de la famille Adelson à la campagne Trump comme mécanisme financier, note que le lobby israélien donne à 94 % du Congrès avec AIPAC comme premier donateur à vie de Trump, Biden, Hakeem Jeffries, Chuck Schumer et Mike Johnson simultanément, et soutient qu'Israël a sous-traité sept guerres à l'Amérique depuis le 11 septembre — l'Iran était le dernier sur cette liste. L'Iran, dit-il, n'a jamais eu de système de livraison capable d'atteindre les États-Unis, n'a jamais enrichi l'uranium au-delà de 60 % (le niveau militaire est à 90 %), et l'ancien Grand Ayatollah a émis une fatwa contre les armes nucléaires. Pendant ce temps, Israël a pris le sud du Liban, compte le garder, et Netanyahu a publiquement exigé comme condition de paix qu'Israël seul conserve le droit d'attaquer le Liban — ce qui signifie qu'aucun accord ne peut jamais être conclu. O'Leary cadre le régime iranien autrement : 150 000 personnes brutalisant 90 millions d'autres depuis 60 ans, un gouvernement à qui on ne peut pas confier des armes nucléaires, et une situation où le besoin chinois de garder le détroit d'Ormuz ouvert finira par forcer Pékin à contraindre Téhéran à capituler. > *"100 % intérêt israélien, 0 % intérêt américain. Sortons de là. Arrêtons de nous battre pour Israël et rentrons à la maison."* — Cenk Uygur ## [01:11:59] Trump a-t-il mal évalué la durée de ce conflit ? Steven Bartlett demande directement à O'Leary si Trump a sous-estimé le conflit. O'Leary l'appelle la première "guerre technologique" au sens propre : des drones en fibre de carbone à 35 000 dollars avec des moteurs de tondeuse à gazon sont interceptés par des missiles américains à 1,2 à 3 millions de dollars, une asymétrie de coûts qui révèle un écart de capacités que l'Amérique doit combler. Il n'envisage pas d'invasion terrestre, seulement un pilonnage aérien prolongé jusqu'à ce que la direction iranienne calcule que le coût du blocage du détroit — 210 millions de dollars par jour de revenus perdus — dépasse les bénéfices. Sa prédiction : la Chine force un accord avant les élections de mi-mandat américaines. > *"C'est cher parce qu'on est du mauvais côté de la défense. On a besoin des drones pas chers."* — Kevin O'Leary ## [01:15:47] Publicités Segment sponsorisé couvrant Pipedrive (CRM) et les Diary of a CEO Conversation Cards. Aucun contenu de débat substantiel. ## [01:18:08] Pourquoi l'Amérique perd rapidement patience Steven Bartlett soulève le levier : si la direction iranienne sait que Trump n'a que quelques mois avant les élections de mi-mandat puis la présidentielle 2028, pourquoi négocier maintenant plutôt qu'attendre l'affaiblissement de l'adversaire ? O'Leary ajoute une deuxième contrainte — le dirigeant suprême chinois a aussi besoin du détroit ouvert pour faire tourner son économie et maintenir son emprise sur le pouvoir, donc l'Iran sert deux maîtres. Uygur soutient que l'accord est déjà rédigé : l'Iran remet son uranium hautement enrichi à des contrôleurs internationaux, les États-Unis lèvent leur blocus, le détroit rouvre. L'accord s'effondre à chaque fois que Netanyahu appelle Trump et ajoute de nouvelles conditions impossibles — désarmement immédiat, adhésion de l'Iran aux accords d'Abraham. Chaque élu qui s'est publiquement opposé au récent accord quasi-conclu, note Uygur, avait reçu plus d'un million de dollars du lobby israélien. Il élargit le constat à l'échelle mondiale : pendant que la Russie saigne en Ukraine et l'Amérique en Iran, la Chine construit des routes et des ponts en Afrique et en Amérique latine, sans dépenser un centime en guerre et en accumulant de l'influence par contraste. > *"Après chaque appel avec Netanyahu, Trump passe de 'on va avoir la paix' à 'on n'aura pas la paix et on va imposer ces nouvelles conditions impossibles'. C'est arrivé une demi-douzaine de fois jusqu'ici."* — Cenk Uygur ## [01:29:08] Assiste-t-on à la montée du socialisme en temps réel ? Steven Bartlett présente des données Gallup : le regard positif des Américains sur le capitalisme est à son plus bas historique, 70 % des démocrates voient le socialisme positivement, 62 % des jeunes Américains lui sont favorables — et cela avant que les effets économiques de la guerre se fassent sentir. O'Leary y voit un phénomène cyclique : tous les 17 à 20 ans, les États-Unis flirtent avec le sentiment socialiste, et cela s'effondre toujours quand les jeunes idéalistes reçoivent leur première fiche de paie et découvrent les impôts. Il note que 52 centimes de chaque dollar de fonds souverain sur terre vont aux États-Unis, pas à Cuba, pas à la Russie. Uygur rejette entièrement ce cadrage : l'Amérique pratique déjà le socialisme pour les entreprises — subventions pétrolières à des sociétés bénéficiaires, pas de négociation des prix des médicaments par Medicare, chaque secteur capturant son régulateur via les dons de campagne. Le vrai projet, c'est de revenir à de vrais marchés libres, ce qui exige d'abord de sortir l'argent de la politique. > *"On aurait de la chance de revenir au capitalisme, sans même parler d'aller jusqu'au socialisme, parce qu'en ce moment on n'a pas de capitalisme. On a du capitalisme de connivence."* — Cenk Uygur ## [01:34:06] Qui a vraiment l'avantage pour la prochaine élection présidentielle ? O'Leary ne veut pas désigner un gagnant mais dit que les démocrates ont besoin d'un centriste modéré ; il cite la Californie comme exemple de gouvernance progressiste en échec. Uygur le surprend avec une prédiction précise : Tucker Carlson est le seul républicain qui pourrait gagner en 2028. L'enthousiasme des électeurs républicains est déjà anéanti, les élections de mi-mandat sont perdues, et d'ici 2028, les effets combinés du chômage lié à l'IA et de la guerre en Iran auront pleinement pris effet. O'Leary rit d'abord, puis se rétracte à l'antenne : Carlson dispose d'une audience massive sur les réseaux sociaux, anime son propre réseau et prend des positions de plus en plus indépendantes — y compris sur l'IA. Uygur conclut en citant Rohana comme la figure progressiste la plus susceptible de gagner une élection nationale et défend le capitalisme démocratique — marchés privés encadrés par une démocratie fonctionnelle, l'Europe du Nord comme modèle opérationnel — contre le corporatisme actuel comme contre le socialisme redouté. > *"Ils n'ont qu'un seul homme qui pourrait gagner, et ça m'inquiète, c'est Tucker Carlson. Si Tucker se présente aux primaires républicaines, il les gagne à coup sûr. Vous pouvez me citer."* — Cenk Uygur ## Entités - **Kevin O'Leary** (Personne) : Investisseur de Shark Tank, président d'O'Leary Ventures ; soutient que l'IA crée des opportunités, défend le développement des centres de données, attribue l'activisme anti-IA à des fonds chinois et prédit que la Chine forcera l'Iran à un accord avant les élections de mi-mandat américaines. - **Cenk Uygur** (Personne) : Cofondateur des Young Turks, commentateur progressiste ; soutient que le chômage lié à l'IA est imprévu, que la politique étrangère américaine est pilotée par le lobby israélien et que le système politique américain est corrompu par la corruption légalisée. - **Steven Bartlett** (Personne) : Animateur de The Diary Of A CEO, entrepreneur et investisseur ; modère le débat et apporte ses propres décisions de recrutement et observations dans des laboratoires de robotique qui ancrent le débat dans le comportement réel des entreprises. - **AIPAC / lobby israélien** (Organisation) : Cité par Uygur comme le premier donateur à vie de la plupart des hauts responsables politiques américains des deux partis ; central dans sa thèse sur les raisons pour lesquelles la guerre États-Unis-Iran se poursuit malgré un accord prêt. - **Arabella / Alliance for a Better Utah** (Organisation) : Réseau qu'O'Leary affirme être financé par des entités liées à la Chine pour mener des campagnes de désinformation anti-centres de données dans des États américains ; basé sur des déclarations IRS 990. - **UBI (revenu universel de base)** (Concept) : Filet de sécurité proposé pour les travailleurs déplacés par l'IA ; Uygur souligne que même un UBI optimal de 36 000 dollars par an représente une chute de revenu dévastatrice pour des travailleurs qui gagnaient auparavant 120 000 dollars. - **Détroit d'Ormuz** (Concept) : Point de passage de 48 % des importations énergétiques chinoises ; sa fermeture provoque une inflation mondiale, et sa réouverture est l'intérêt américain central dans tout accord avec l'Iran. - **Deepseek** (Logiciel) : Grand modèle de langage chinois ; O'Leary et Amodei le citent comme preuve que toute pause dans le développement américain de l'IA donne à la Chine une avance décisive en quelques mois. - **Tucker Carlson** (Personne) : Ancien présentateur de Fox News reconverti en figure des médias indépendants ; Uygur prédit qu'il est le seul candidat républicain viable pour 2028, une prédiction qu'O'Leary finit par ne pas rejeter. - **Capitalisme démocratique** (Concept) : Cadre économique privilégié par Uygur — marchés privés encadrés par une démocratie fonctionnelle ; il le distingue du corporatisme actuellement pratiqué aux États-Unis et du socialisme à l'européenne. - **Rohana** (Personne) : Figure politique progressiste citée à plusieurs reprises par Uygur comme le seul élu travaillant sur la politique de chômage lié à l'IA et le candidat 2028 le plus proche de la gouvernance capitaliste-démocratique.

Sarah Guo s'entretient avec Maxim Bar Kogan, co-fondateur et PDG d'Onyx Security, sur ce qu'implique concrètement la sécurisation des agents IA à l'échelle d'une grande entreprise. Maxim soutient que les contrôles traditionnels — proxies, restrictions d'identité, supervision humaine — s'effondrent dès lors que les actions des agents se multiplient de façon exponentielle, et que la seule voie viable est d'entraîner des modèles spécialisés qui savent quand escalader vers un superviseur plus puissant. La conversation aborde le produit "plan de contrôle sécurisé" d'Onyx, l'arbitrage coût-latence de l'entraînement de modèles sur mesure, les raisons pour lesquelles les labs ne peuvent pas certifier eux-mêmes la sécurité de leurs propres modèles, et la conviction de Maxim que l'AGI arrive et que la supervision indépendante de l'IA deviendra une industrie de centaines de milliards de dollars. ## [00:00] Ouverture Maxim entre dans le vif du sujet : à mesure que les entreprises confient davantage de tâches à des agents IA, des actions indésirables suivront inévitablement — un agent publiant accidentellement des identifiants, effectuant des appels réseau non autorisés, ou posant des actes irréversibles. Les entreprises savent déjà qu'elles ne peuvent pas freiner cette vague d'adoption ; ce qui leur fait défaut, c'est tout mécanisme permettant de distinguer une action légitime d'une action illégitime. Ce passage pose la thèse centrale d'Onyx avant même le générique. > *"Les entreprises commencent vraiment à réaliser que ce risque croît de façon exponentielle et qu'elles n'ont aucun moyen d'arrêter l'adoption. Elles doivent maintenant trouver comment réduire la probabilité que ces actions d'agents soient illégitimes ou incorrectes."* ## [00:45] Présentation de Maxim Bar Kogan Sarah présente Maxim comme co-fondateur et PDG d'Onyx Security, une startup basée en Israël composée de chercheurs, de mathématiciens et d'ingénieurs — dont la mission est de construire des agents pour surveiller les agents IA. L'entreprise mêle expertise offensive en cybersécurité et recherche approfondie en IA, notamment sur les données synthétiques et l'interprétabilité mécaniste. ## [01:10] AutoGPT et le pari sur les actions des agents Pendant deux ans, le risque dominant dans la sécurité des entreprises était le DLP pour les chatbots — des employés collant des données sensibles dans ChatGPT. Cette grille de lecture a depuis laissé place à une quasi-panique autour des actions des agents autonomes. Maxim retrace la genèse du pari d'Onyx jusqu'à AutoGPT : le premier agent qui permettait à un LLM de décider quoi faire, d'appeler un outil et de boucler — sans se contenter de générer du texte. Cette démonstration a prouvé que les agents pouvaient agir de manière autonome dans le monde réel, et Maxim a immédiatement conclu que quelqu'un devrait superviser ces actions à grande échelle. > *"AutoGPT a libéré l'imagination de tout le monde, y compris la nôtre, parce que c'était le premier vrai agent autonome fonctionnant sur des LLMs — un agent qui permettait à un LLM non pas de générer du texte, mais de décider quoi faire, puis de lui donner un accès API pour le faire."* ## [05:17] Ce que fait le produit Onyx Onyx fait deux choses : entraîner des modèles et construire des agents qui supervisent d'autres agents, puis packager cette capacité sous forme d'un "plan de contrôle sécurisé" que les entreprises branchent sur leur infrastructure IA. Ce plan de contrôle surveille en temps réel la légitimité des actions des agents, tout en gérant le compromis entre latence, coût et fiabilité. Sur le long terme, Maxim vise au-delà de la sécurité d'entreprise : toute organisation déployant des agents IA aura besoin d'un tiers indépendant pour certifier ce que ces agents font. > *"Le nombre de ces actions croît de façon exponentielle. Ce qu'on pensait utile par le passé — un humain dans la boucle — ne fonctionnera plus quand il y aura cent fois, mille fois, un million de fois plus d'actions."* ## [07:47] État du déploiement dans les grandes entreprises Dans une grande entreprise typique aujourd'hui, Maxim distingue trois catégories de déploiement IA : les automatisations SaaS low-code (glisser-déposer, pas vraiment autonomes), les agents internes développés en interne ou comme produits orientés clients, et les agents de développement autonomes et les assistants de code. Parmi ces trois catégories, les agents de code représentent désormais plus de 50% de l'usage IA. Les secteurs les plus matures — services financiers, santé — ont les contrôles les plus stricts, mais même les entreprises les plus prudentes ont cessé d'interdire l'IA et se concentrent désormais sur sa gestion. > *"Plus de 50% correspondent aux agents de développement autonomes et assistants dans l'entreprise moyenne."* ## [09:58] Sécuriser les agents Les entreprises dépensent déjà environ 100 milliards de dollars par an en sécurité — endpoints, réseau, cloud, identité. Sarah demande quelle part de cela est transposable à la sécurité des agents. La réponse de Maxim : presque rien. Les contrôles d'identité, couche la plus fondamentale, échouent parce que les agents ont besoin de permissions larges et dynamiques qu'on ne peut pas cadrer à l'avance. Un agent qui écrit du code dans un dépôt ou envoie des e-mails au nom d'un dirigeant ne peut pas être cantonné à un ensemble de permissions étroit comme un processus logiciel statique. La surface d'attaque, c'est l'intention — et les outils existants ne savent pas lire les intentions. > *"Avec ces IA autonomes, ces assistants, ces agents de code, on ne peut vraiment pas savoir à l'avance quelles permissions leur accorder."* ## [12:45] Pourquoi les proxies ne fonctionnent pas L'intuition de Sarah, issue de son expérience en sécurité : cela ressemble à un problème pour un proxy doté d'un moteur de politique plus intelligent. Maxim reconnaît que les proxies peuvent servir de point d'intégration dans certaines architectures, mais soutient qu'ils ratent complètement le problème central. Un proxy vous donne le flux de données ; il ne dit pas si l'action dans ce flux est légitime. Ce jugement exige de comprendre le contexte — l'objectif de l'agent, son historique, ce que l'entreprise a autorisé — et aucun moteur de règles ne sait évaluer cela à travers des comportements d'agents arbitraires. > *"Le vrai problème, c'est de savoir si ce que je dois faire maintenant est acceptable ou non. Dans le cas des systèmes IA, c'est la question difficile."* ## [14:11] Pourquoi Onyx entraîne ses propres modèles La solution naïve — utiliser Claude Code pour surveiller Claude Code — achoppe sur le coût et la latence. Faire tourner un agent de modèle frontier pour chaque agent d'entreprise rendrait la couche de sécurité plus coûteuse que l'IA qu'elle surveille. La réponse d'Onyx : des modèles petits et hautement spécialisés qui font exactement une chose — décider si l'action en cours justifie une escalade vers un superviseur plus puissant. Sarah fait l'analogie avec les échecs en blitz : les grands maîtres jouent intuitivement sur les coups rapides et s'arrêtent seulement aux bifurcations critiques. Maxim valide l'analogie — concentrer l'intelligence là où le risque est le plus élevé, et rester léger partout ailleurs. > *"Il faut essayer d'entraîner des modèles qui n'excellent que dans une seule chose. Ils sont très petits. Ils ne savent presque rien faire d'autre que répondre à la question : 'Est-ce qu'un agent plus intelligent devrait regarder ça ?'"* ## [18:38] La culture des talents chez Onyx Les talents en sécurité formés en Israël — au sein d'unités comme la 8200, dans des entreprises comme Armis et Wiz — sont réputés dans le monde entier. L'ADN d'Onyx est différent : le co-fondateur Gil vient des données synthétiques et de NVIDIA, pas de la cyber offensive. L'essentiel de l'ingénierie recherche d'Onyx provient d'une unité de renseignement israélienne centrée sur les mathématiques et la cyber à leur intersection. Maxim voit ce mélange comme délibéré — le problème à long terme qu'Onyx cherche à résoudre n'est pas seulement la sécurité d'entreprise, mais comment contrôler une IA avancée, tout simplement. Cela exige une expertise profonde en IA autant qu'en sécurité. Israël dans son ensemble rattrape rapidement son retard en IA : modèles du monde, infrastructure IA, puces. > *"Le problème n'est pas seulement la cybersécurité. Le problème, c'est comment contrôler l'IA avancée à long terme — et ce problème, même en oubliant les lacunes de la sécurité en entreprise, semble vraiment crucial."* ## [21:24] Interprétabilité mécaniste Maxim est convaincu que l'interprétabilité mécaniste — comprendre ce qui se passe réellement dans les poids et activations des modèles — est à la fois possible et nécessaire. Sa thèse contre-intuitive : à mesure que les modèles surpasseront les humains dans des domaines clés, ils seront mieux armés que nous pour percer la structure interne d'autres modèles. Onyx finance activement la recherche dans ce domaine, non seulement comme outil de sécurité, mais comme fenêtre sur la nature de l'intelligence elle-même. Sarah valide ce pari, notant l'opportunité de comprendre non seulement l'IA, mais la cognition au sens large. > *"À mesure que nous disposerons de modèles bien plus intelligents que nous, du moins dans certains domaines importants, nous pensons pouvoir commencer à déchiffrer la mécanique interne de manière bien plus efficace."* ## [23:35] Comment Onyx gagne la confiance de ses clients Les entreprises du Fortune 10 et 20 ne travaillent normalement pas avec des startups de moins de deux ans et de moins de 100 personnes. Ce qui brise cette règle, c'est la douleur : des RSSI confrontés quotidiennement à des incidents liés aux agents n'ont aucun acteur établi à appeler, parce que le problème n'existait pas il y a trois ans. Onyx reçoit des demandes entrantes d'entreprises qui les ont trouvés à leur sortie du stealth mode parce que la description du problème correspondait exactement à ce qu'elles géraient en urgence. Maxim voit cela comme une fenêtre d'opportunité étroite et temporaire — les acheteurs en entreprise savent que les jeunes startups grandissent, et ils préfèrent être des clients précoces qui façonnent le produit plutôt que des adopteurs tardifs. > *"C'est une ouverture qui ne survient que lorsque la douleur est très forte. Leur douleur est telle qu'ils se disent : 'Je viens de voir cette entreprise sortir du stealth mode, mais c'est un problème que j'ai chaque jour, alors je vais les appeler.'"* ## [25:10] Réduire les risques au niveau fondamental La deuxième vague de panique chez les RSSI — au-delà des actions des agents — est la chute du coût de la recherche automatisée de vulnérabilités. Les outils de développement peuvent désormais trouver et exploiter des vulnérabilités à une échelle qui aurait semblé hors de portée pour des décennies, il y a encore quelques années. Maxim estime que le marché ne surréagit pas : c'est un véritable changement structurel. La bonne réponse est double : patcher rapidement et mettre en place des contrôles atténuants maintenant, tout en investissant dans des contrôles fondamentaux — identité verrouillée, pare-feux, détection sur les endpoints — qui réduisent la surface exploitable quelle que soit la sophistication des outils de l'attaquant. > *"La vraie solution — et tous les responsables sécurité des grandes entreprises le savent — c'est de disposer des fondations en place pour éviter ces risques."* ## [27:45] Déploiement progressif de Glasswing et Daybreak Sur les déploiements contrôlés Glasswing d'Anthropic et Daybreak d'OpenAI pour des modèles plus capables : Maxim a une position nuancée. Un déploiement progressif est idéal s'il est coordonné à l'échelle mondiale — cela laisse le temps de construire des procédures, de partager les connaissances et d'éviter des défaillances catastrophiques dans des infrastructures critiques comme les réseaux électriques ou les compagnies aériennes. Mais si un acteur publie un modèle d'une capacité comparable avant le calendrier prévu, l'approche progressive devient un handicap : les entreprises qui n'ont pas eu accès tôt se retrouvent exposées à une menace pour laquelle elles n'ont pas pu se préparer. Sa recommandation : élargir l'accès pour permettre à davantage d'organisations de construire leurs défenses en parallèle. > *"Si quelqu'un accède à un modèle de ce niveau plus tôt, avec le recul cela ressemblerait à une énorme erreur — on aurait pu au moins donner aux entreprises la possibilité de commencer à évoluer très rapidement."* ## [29:11] Les grandes entreprises réticentes Il y a deux ans, une partie significative des grandes entreprises avait simplement interdit l'IA. Aujourd'hui, Maxim ne voit presque plus cela. Le secteur financier impose encore des contraintes — autorisant les agents mais restreignant les outils — mais les interdictions totales ont disparu. Il estime que c'est la bonne posture : se lier à un seul fournisseur est lui-même un risque. Miser exclusivement sur les modèles d'un seul acteur à la vitesse où ce marché évolue, c'est s'exposer quand la prochaine génération rebat les cartes. Les entreprises qui autorisent un large éventail d'outils et les gèrent rigoureusement devanceront celles qui restreignent agressivement. > *"Si vous aviez misé sur OpenAI il y a un an, c'était le pari le plus sûr du monde — mais soudainement Anthropic a des modèles et des outils bien meilleurs."* ## [30:46] Onyx et le marché plus large de la sécurité IA La sécurité IA est encombrée de nouveaux acteurs et de nouvelles surfaces d'attaque. Pour contrer l'anxiété liée à l'étendue du périmètre produit, Maxim souligne que les deux primitives fondamentales de l'IA en 2026 — les modèles de fondation à base de transformers et les boucles d'agents avec appel d'outils — n'ont pas fondamentalement changé depuis des années. Cette stabilité permet à Onyx de construire vers de nombreuses applications d'agents tout en maintenant sa technologie de base légère. La vraie protection contre les changements architecturaux est d'investir dans des chercheurs capables de se réentraîner et de s'adapter rapidement, plutôt que de miser sur la pérennité d'un seul paradigme de modèle. > *"Les deux piliers fondamentaux du fonctionnement de l'IA en 2026 n'ont pas changé depuis quelques années. Nous travaillons encore largement avec des LLMs de fondation, et nous construisons des agents de la même manière qu'avant."* ## [32:36] Les labs doivent-ils traiter la confiance et la gouvernance des modèles ? La question brûlante dans la Bay Area : les labs finiront-ils par absorber eux-mêmes le problème de confiance et de gouvernance ? L'argument structurel de Maxim contre cette idée : les acheteurs ne veulent pas que le vendeur d'une voiture certifie la voiture. Les équipes de sécurité ont besoin d'un tiers indépendant dont le modèle d'affaires repose entièrement sur le fait d'avoir raison — pas d'un fournisseur qui protège sa propre réputation produit. Au-delà de la psychologie des acheteurs, Maxim distingue les erreurs liées à une "intelligence fragmentée" (erreurs bénignes qui s'amélioreront avec des modèles plus puissants) des défaillances au niveau de l'intention : manipulation adversariale, objectifs mal alignés, dérive des buts. Les labs régleront la première catégorie. Seul un superviseur structurellement indépendant peut traiter la seconde. > *"Vous ne ferez pas confiance au fournisseur d'un produit pour vous dire que ce produit ne va pas perturber votre environnement. Vous voudrez un tiers indépendant dont toute l'activité dépend de vous dire que ce produit est correct — et d'avoir raison."* ## [36:56] Ce qui manque encore en sécurité Sarah demande ce que la communauté tech et de recherche — les labs en particulier — ne voit pas encore du point de vue de la sécurité. La réponse de Maxim : ce n'est pas un manque technique, c'est un manque d'empathie. Construire des produits de sécurité exige de comprendre en profondeur comment les équipes de sécurité fonctionnent réellement — leur structure organisationnelle, leurs responsabilités, leurs flux d'information. Israël produit de solides talents en sécurité en partie parce que le service militaire donne aux ingénieurs une expérience directe d'être l'utilisateur final qu'ils construisent ensuite pour eux. Les labs, laisse-t-il entendre, développent des capacités sans accorder suffisamment d'attention à la réalité opérationnelle des organisations qui devront les déployer et s'en défendre. > *"Quel que soit le problème technique que vous résolvez, vous construisez un outil pour des gens, pour une organisation qui a une certaine structure. Créer un produit pour ce public qui ne résout pas seulement le problème technique mais que les gens adorent vraiment — c'est très difficile."* ## [39:14] Pourquoi Maxim est convaincu par l'AGI Sarah conclut en notant la conviction implicite de Maxim que les équipes de sécurité humaines existeront encore quelques années. Il le confirme — mais avec un horizon temporel : les équipes de sécurité seront entièrement pilotées par des agents IA dans un avenir proche, tout comme la majorité du travail intellectuel le sera. Sa version pragmatique de l'optimisme autour de l'AGI : le métier de construire de grands produits ne change pas — toujours savoir qui est l'utilisateur final et optimiser pour son expérience. Aujourd'hui, ce sont des humains accompagnés de quelques agents. À mesure que le ratio s'inverse, le même principe s'applique — simplement à des agents qui lisent des fenêtres de contexte plutôt que des tableaux de bord. > *"Aujourd'hui, quand je vends un produit, je le vends à un public humain avec quelques agents, et à mesure que ce public devient majoritairement composé d'agents plutôt que d'humains, il sera important pour nous d'évoluer et de faire en sorte que cela fonctionne vraiment bien pour les agents qui font le travail."* ## Entités - **Maxim Bar Kogan** (Personne) : Co-fondateur et PDG d'Onyx Security ; ancien renseignement militaire israélien, formation en mathématiques et en cyber offensive. - **Sarah Guo** (Personne) : Animatrice de No Priors ; fondatrice et associée gérante chez Conviction. - **Onyx Security** (Organisation) : Startup basée en Israël qui construit une infrastructure de supervision IA — entraîne des modèles spécialisés de petite taille pour surveiller et gouverner les agents IA en entreprise. - **AutoGPT** (Logiciel) : Premier agent LLM autonome open-source ; cité par Maxim comme le point d'inflexion qui a rendu concret le risque des agents. - **Glasswing / Daybreak** (Logiciel) : Programmes de déploiement contrôlé d'Anthropic et d'OpenAI respectivement pour l'accès aux modèles frontier. - **Mechanistic Interpretability** (Concept) : Programme de recherche visant à comprendre la structure interne des poids et activations des réseaux de neurones ; Onyx le traite comme un pilier à long terme de la supervision IA. - **Secure Control Plane** (Concept) : Catégorie produit d'Onyx — une couche indépendante du fournisseur qui surveille en temps réel les permissions des agents, la légitimité des actions et l'historique comportemental. - **8200** (Organisation) : Unité de renseignement israélienne largement créditée de former les meilleurs talents en sécurité et en technologie d'Israël, dont de nombreux ingénieurs d'Onyx.

Le PDG d'Apollo Marc Rowan trace une ligne directe entre l'effondrement de Drexel en 1990 — le dimanche où il a quitté son bureau avec ses affaires dans un carton — et la position qu'occupe aujourd'hui Apollo, premier gestionnaire de revenus de retraite privés au monde et financier majeur de la renaissance industrielle mondiale. Avec le GP d'a16z David Haber, il explique pourquoi les marchés privés sont structurellement indispensables à la diversification maintenant que dix titres représentent près de la moitié du S&P 500, comment une valorisation quotidienne ouvrira le crédit privé à cinq nouveaux canaux de capitaux, et pourquoi l'IA remplacera ou augmentera chaque emploi — propulsant les cols bleus vers le haut et condamnant les actions de logiciels d'entreprise acquises ces dix dernières années. ## [00:00] Introduction L'ouverture noue trois fils conducteurs de toute la conversation : le risque de concentration dans les actions cotées (dix titres approchant 50 % du S&P 500), les milliers de milliards de valeur enfermés dans des entreprises privées comme Anthropic et SpaceX auxquelles la plupart des investisseurs n'ont pas accès, et le postulat opérationnel d'Apollo selon lequel l'IA remplacera ou augmentera chaque emploi. Rowan remercie Haber d'accueillir la discussion dans les bureaux d'Apollo avant d'entrer dans le vif du sujet. > *"10 actions aux États-Unis représentent aujourd'hui près de 50 % du S&P 500 et sont toutes exposées à la même tendance... si vous cherchez à diversifier votre portefeuille, les marchés privés sont le seul endroit où vous pouvez le faire."* ## [00:52] Drexel, Milken et les origines de la pensée à page blanche Rowan a choisi Drexel plutôt que Goldman parce que financer des entrepreneurs exigeait un jugement approfondi sur les entreprises, pas seulement des compétences techniques en finance. Le marché du haut rendement se construisait en temps réel — obligations PIK, obligations indexées sur l'argent, lettres hautement confiantes, financement relais — et chacun devait résoudre des problèmes à partir de zéro. La leçon la plus durable de Michael Milken : relier les points entre géopolitique, technologie et marchés pour former un cadre cohérent. Son aphorisme — "vous acceptez le changement ou le changement s'impose à vous" — est devenu un principe fondateur d'Apollo. > *"La notion même de PIK a été créée en une après-midi pour résoudre un problème... Tout cela n'était que problème-solution, problème-solution. Cette façon de comprendre l'entreprise, de comprendre le crédit, tout en pensant à partir d'une page blanche, c'est précisément ce qui propulse Apollo aujourd'hui."* ## [04:55] La genèse d'Apollo : du chômage à 6 milliards de dollars Quand Drexel a fait faillite en un week-end en 1990, Rowan et ses collègues finalisaient encore des opérations pour leurs clients — sans firme et sans perspective de rémunération. La leçon fondatrice s'est imposée immédiatement : les établissements financiers meurent d'une crise cardiaque (risque de financement — emprunter court pour prêter long, comme Bear Stearns et Lehman l'ont confirmé par la suite) ou d'un cancer (accumuler de mauvais actifs au lieu de prendre ses pertes). Un appel à froid depuis le Crédit Lyonnais français — initialement pour créer une boutique M&A — s'est transformé en un chèque d'amorçage de 800 millions de dollars du gouvernement français, qui atteignait 6 milliards fin 1990, faisant d'Apollo le centre de profit le plus important de la banque. > *"Je suis entré dans mon bureau — ou plutôt j'en suis sorti — un vendredi. Je suis revenu dimanche et j'en suis reparti avec toutes mes affaires dans un carton. Drexel n'existait plus."* ## [08:46] Comment Apollo est devenu un géant du crédit et de la retraite Apollo est aujourd'hui composé à 80 % de crédit investment grade et seulement à 20 % d'actions, entre capital hybride et private equity traditionnel — à l'opposé de l'image qu'en a le grand public. Rowan ancre l'activité autour de trois biens fondamentaux : offrir des revenus de retraite à une population vieillissante et sous-épargnée ; financer la renaissance industrielle mondiale dans l'énergie, l'industrie, l'IA et la défense ; et proposer une vraie diversification à mesure que les marchés cotés se concentrent sur une poignée de noms. Cette même dynamique de concentration qui touche les actions est en train d'arriver sur les obligations, où dix banques se réduisent à cinq banques plus cinq plateformes technologiques. > *"Les marchés privés représentent 80 % de ce qui se passe dans le monde... Anthropic, OpenAI, SpaceX, Cognition, Cursor — toutes ces grandes entreprises sont privées, des milliers de milliards de dollars de valeur auxquels la plupart des investisseurs n'ont pourtant aucune exposition."* ## [13:00] Capital permanent, origination et la rareté des actifs Contrairement aux gestionnaires d'actifs traditionnels capables de déployer des montants illimités sur les marchés cotés, Apollo est contraint par sa capacité à originer, non par les capitaux disponibles. La rareté des actifs est le véritable goulot d'étranglement — ce qui signifie que chaque transaction doit être valorisée au maximum, en percevant des commissions et en prenant des positions en compte propre qui alignent Apollo avec ses clients. Rowan plaide explicitement contre le modèle "capital light" : dans un monde où la marque, la réputation et la capacité à garantir des résultats comptent, un bilan solide est une arme concurrentielle, pas un fardeau. > *"Je pense donc que nous devons être jugés sur notre capacité à créer des investissements intéressants. Et je crois que cette capacité est limitée."* ## [16:08] Démocratiser les marchés privés : valorisation quotidienne et nouveaux canaux L'industrie des alternatifs a été construite pour une seule source de capitaux — les poches alternatives institutionnelles — mais cinq nouveaux marchés cherchent désormais à y accéder : les particuliers, les compagnies d'assurance, les gestionnaires d'actifs traditionnels, les plans 401(k) et les poches dette/actions des institutions. Aucun ne veut de fonds à appel de capitaux. Apollo passe à une valorisation quotidienne estimée sur sa gamme de crédit investment grade privé d'ici le 30 juin, et à une valorisation quotidienne complète sur tous les produits de crédit d'ici septembre, avec des entrepôts de données standardisés, de la tenue de marché et une divulgation régulière des prix. Rowan distingue le crédit privé en tant que prêt direct (la définition étroite retenue par la presse) du vrai univers — Intel, Air France, AT&T, Meta — des emprunteurs sophistiqués qui ont besoin de financements complexes, sur mesure et à long terme que les banques ne savent pas structurer. > *"Je n'ai jamais vu un marché au monde où la transparence et la découverte des prix n'aient pas multiplié sa taille par dix... Cela peut être inconfortable, mais c'est en route."* ## [22:04] Là où le venture rencontre le crédit : financer la renaissance industrielle Rowan et Haber identifient les "opportunités qui se nichent entre les champs d'expertise" comme leur philosophie d'investissement commune. L'intersection qu'ils voient aujourd'hui : des entreprises soutenues par le venture capital qui évitaient historiquement l'intensité capitalistique construisent désormais des centres de données, des puces, de la robotique, des lignes de fabrication et des systèmes de défense à une échelle qui ne peut pas être financée par des fonds propres seuls. Apollo découpe les risques — laissant le venture capital assumer l'underwrite du business fondamental, tandis que les actifs d'infrastructure avec des garanties réelles migrent vers les marchés du crédit à des notations de risque appropriées. Selon Rowan : 2025 a prouvé que les centres de données, les puces et l'énergie étaient nécessaires ; 2026 est l'année où les investisseurs réaliseront que 800 milliards de dollars de capex de seulement quatre sociétés cotées heurteront des limites de concentration, les spreads s'élargiront, et les entrepreneurs tech devront s'associer avec des entrepreneurs financiers. Apollo s'engage à ouvrir un second siège en Californie spécifiquement pour accéder au vivier de talents de l'écosystème de croissance. > *"La somme d'argent qui va être investie dans les centres de données, les puces, la robotique, l'industrie, la défense représente, comme je l'ai dit, chaque dollar depuis l'invention du feu — et tout cela ne sera pas financé par des fonds propres."* ## [30:01] IA, logiciels d'entreprise et la transformation de chaque emploi Le postulat opérationnel de Rowan : chaque emploi sera remplacé ou augmenté par l'IA. Il affirme sans détour que 30 % des encours de private equity de la dernière décennie ont été investis dans des logiciels d'entreprise, que l'IA a définitivement réévalué ces actifs à la baisse, et que les rendements du PE sur ce millésime seront "désastreux" — non pas parce que ces entreprises échouent, mais parce que les prix payés supposaient un avenir sans concurrents IA. Sa grille d'analyse : l'IA progresse le plus vite dans les domaines où il existe une bonne réponse (code, comptabilité, opérations de trading) et plus lentement là où le jugement est irréductible. À court terme, il anticipe l'ascension des cols bleus et le déclin des cols blancs — politiquement inconfortable pour les grandes métropoles. En tant que prêteur, la leçon des pages jaunes, du câble et du satellite : diversifier, rester senior, chercher des garanties réelles, et ne jamais s'engager au-delà d'un horizon de cinq à sept ans. > *"Nous opérons sous le postulat que chaque emploi sera remplacé ou augmenté. Chaque emploi, sans exception. Et je pense que c'est ce qui va se passer."* ## [38:52] Leadership moral : UPenn, le mérite et faire ce qui est juste Après le 7 octobre, Rowan a écrit directement à la présidente de Penn avant une conférence sur les droits palestiniens, pointant non pas la liberté d'expression mais le "discours favori" — l'université finançant une conférence pendant les grandes fêtes juives, animée par un sympathisant notoire du Hamas. Il a présenté la crise sur les campus comme anti-américaine et anti-mérite. Lorsque presque tous les donateurs ont réduit leurs dons à 1 dollar par an, l'administration de Penn a réagi ; les auditions au Congrès qui ont suivi ont entraîné la démission du président du conseil d'administration et de la présidente. Son principe plus large, appliqué en interne depuis sa prise de fonction en 2021 : dire la même chose au Texas qu'en Californie ; sur le climat, "améliorer, pas détériorer" plutôt qu'un absolutisme zéro carbone ; sur le recrutement, le mérite ajusté au chemin parcouru — mesuré par les réalisations individuelles, non par l'appartenance à un groupe. > *"Nous recrutons pour le mérite ajusté au chemin parcouru. Et ce chemin n'est pas défini par vos caractéristiques immuables. C'est vous en tant qu'individu — pas votre classe, pas votre groupe. Montrez-moi celui qui a dû surmonter quelque chose et qui y est quand même arrivé."* ## [46:02] La culture d'Apollo : jouer pour gagner et construire pour durer Avec 6 000 collaborateurs entre la gestion d'actifs et les services de retraite, Apollo a passé six mois à négocier — en interne, avec les associés seniors — ce qui fait l'identité d'Apollo. Le résultat est un document public sur la page carrières d'Apollo, délibérément direct pour servir de filtre aux candidats. Les six principes se résument à "jouer pour gagner", que Rowan distingue de la peur de perdre : les professionnels seniors ont vocation à avoir tort environ 40 % du temps, personne n'est renvoyé pour une mauvaise décision (seulement pour ne pas l'avoir reconnue et corrigée), et chaque senior possède un "mur de la honte" public de ses pertes. La pensée à page blanche, l'insubordination intellectuelle (à distinguer de la vraie insubordination), et la façon de gérer les "moments qui comptent" dans la vie des collaborateurs sont les traits que Rowan souhaite le plus voir lui survivre en tant que fondateur. Apollo construit une institution financière, pas un fonds — les cinq prochaines années d'innovation en matière de produits, d'infrastructure et de tenue de marché rendront la firme encore plus différente de ce qu'elle est aujourd'hui que les cinq dernières années ne l'ont déjà fait. > *"On ne se fait pas renvoyer ici pour avoir pris une mauvaise décision. On se fait renvoyer pour ne pas l'avoir reconnue, assumée et corrigée. Nous avons un mur de la honte. Chaque professionnel senior ici a perdu de l'argent pour la firme."* ## Entités - **Marc Rowan** (Personne) : Co-fondateur, PDG et président d'Apollo Global Management ; ancien analyste chez Drexel Burnham Lambert ; diplômé et grand donateur de l'UPenn - **David Haber** (Personne) : General Partner chez Andreessen Horowitz (a16z) ; animateur de The a16z Show - **Michael Milken** (Personne) : Financier chez Drexel Burnham Lambert ; mentor de longue date de Rowan ; crédité de l'invention des obligations PIK, du financement relais et du marché du haut rendement - **Apollo Global Management** (Organisation) : Gestionnaire d'actifs alternatifs avec plus de 1 000 milliards de dollars d'encours, à 80 % en crédit investment grade ; co-fondateur d'Athene ; second siège prévu en Californie - **Athene** (Organisation) : Filiale de services de retraite d'Apollo ; fournisseur de produits d'assurance et de rentes ancrant la base de capital permanent d'Apollo - **Andreessen Horowitz (a16z)** (Organisation) : Fonds de capital-risque de la Silicon Valley ; explore des partenariats en capital avec Apollo pour les entreprises tech à forte intensité capitalistique - **Crédit Lyonnais** (Organisation) : Banque publique française qui a apporté 800 millions de dollars à Apollo en 1990, portés à 6 milliards en fin d'année ; a ensuite cédé Apollo à François Pinault - **Crédit privé** (Concept) : Origination directe de dette investment grade auprès d'entreprises et de projets d'infrastructure, sans passer par les marchés obligataires publics ; bien plus large que le "prêt direct aux LBO" - **Capital permanent** (Concept) : Passifs à long terme issus de produits d'assurance et de retraite permettant à Apollo de conserver des actifs à travers les cycles sans pression de rachat - **Renaissance industrielle** (Concept) : Le terme de Rowan pour désigner le déploiement mondial simultané de centres de données, de puces IA, d'infrastructures énergétiques, d'usines, de robotique et de systèmes de défense nécessitant un financement à l'échelle des marchés du crédit - **Valorisation quotidienne estimée** (Concept) : Initiative d'Apollo visant à évaluer quotidiennement les produits de crédit privé investment grade — pour ouvrir l'accès aux gérants de patrimoine, plans 401(k) et gestionnaires d'actifs traditionnels

Every, la société de Dan Shipper, est passée de quatre à trente personnes depuis GPT-3, intègre des agents dans presque tous ses processus, et recrute toujours. Dans un format inhabituel pour l'émission *AI & I*, c'est le directeur des opérations Brandon Gell qui interroge Dan sur son essai de 8 000 mots, "After Automation". La thèse centrale : plus les capacités de l'IA progressent, plus la demande en jugement humain augmente — non l'inverse. Le mécanisme clé : l'IA rend la compétence d'expert d'hier bon marché et accessible partout, ce qui inonde chaque domaine de productions proches mais pas tout à fait justes — et c'est cet écart qui génère davantage de travail pour les humains capables de le combler. ## [00:00] L'IA exécute, puis demande : et maintenant ? Cet échange, extrait de la suite de l'entretien, illustre la tension centrale de l'épisode. Brandon décrit le moment typique avec l'IA — on lui soumet une demande, le résultat est bluffant, on se sent dépassé — puis l'agent s'arrête et demande : "Que dois-je faire maintenant ?" Dan répond avec la formule qui structure tout l'argument : "Plus un agent s'éloigne d'un humain, moins il a de valeur." Les deux extraits proviennent de la conversation principale (vers 00:11 et 00:35), placés ici en ouverture pour cadrer ce qui suit. > *"Plus un agent s'éloigne d'un humain, moins il a de valeur."* ## [00:51] Introduction Brandon présente l'inversion de rôles : c'est lui qui interroge Dan, et non l'inverse, et il entend challenger la thèse. Dan explique l'origine du texte : installé au sein de l'une des entreprises les plus intégrées aux agents qui existent, il observe les effectifs croître en même temps que l'automatisation, en décalage total avec le discours dominant selon lequel l'IA détruit les emplois. Le tweet récent du PDG de ClickUp — annonçant avoir licencié une large partie de ses équipes en invoquant l'IA — entre dans la conversation comme premier test de l'argument : "After Automation" tient-il pour une entreprise mature de 10 000 personnes, pas seulement pour une boutique d'early adopters comme Every ? > *"Si vous balancez un bâton dans notre Slack, vous avez autant de chances de toucher un humain qu'un agent."* ## [05:51] Le paradoxe de l'IA : plus d'automatisation, plus de travail humain Dan développe l'argument central. L'IA est entraînée sur toutes les productions passées et peut donc livrer la "compétence d'expert d'hier" à bas coût, à n'importe qui. Cela démocratise les livrables — des profils ops soumettent des pull requests, des non-ingénieurs déploient des fonctionnalités — mais le résultat est uniformément *proche, pas juste*. Il n'est pas calibré sur la situation réelle. On se retrouve donc avec un afflux de travail presque correct qui se déprécie seul, tout en créant davantage de demande pour les experts capables d'amener ce travail à bon port. Brandon ajoute l'expérience vécue chez Every : des PR qui semblent valides jusqu'à ce qu'un ingénieur senior regarde sous le capot. > *"On inonde la zone avec des tonnes de choses qui sont à peu près bonnes, mais pas tout à fait."* ## [10:00] Comment l'IA rend la compétence d'hier accessible à tous Dan pousse l'argument face à l'objection des benchmarks : oui, les modèles progressent de façon exponentielle, mais une fois un benchmark saturé, il suffit de reformuler légèrement le problème pour l'insaturer. Le fond du problème : les humains portent une couche de compétence tacite, non formulée, que les spécifications propres ne sauront jamais capturer — et tout ce qu'on *peut* formuler, un modèle peut le grimper. L'expérience d'Every le confirme : Kieran a construit une fonctionnalité d'inbox complète de bout en bout en un ou deux mois, ce qui était "totalement impossible" auparavant. Mais la valeur venait d'un expert qui savait *quoi* construire et orientait chaque étape. > *"Il y a énormément de choses que vous faites et qui ne peuvent pas être formulées dans un cadre clair."* ## [18:00] L'IA peut agir seule, mais elle n'a pas d'agentivité Brandon trace la ligne entre autonomie et agentivité : les agents IA deviennent très bons pour exécuter des tâches ouvertes sans qu'on les guide pas à pas, mais c'est catégoriquement différent de l'*agentivité* — cette motivation intrinsèque, ludique, "j'ai envie de faire ça parce que ça me passionne" que possède même un enfant en bas âge. Dan est d'accord : aucune logique économique ne pousse à construire ça. Si l'agent dit "non, je joue" pendant que vous travaillez, c'est un échec produit. Toute la structure d'incitations de l'industrie pousse vers la conformité et la corrigibilité — ce qui maintient précisément les humains dans la boucle. > *"Agent désigne quelque chose qui agit pour le compte de quelqu'un d'autre. C'est très différent d'avoir de l'agentivité, ce que possède même le plus petit des enfants."* ## [20:39] Pourquoi Dan mise tout sur l'AGI Brandon propose un test en un mot : pensez-vous que l'AGI va se produire ? Dan : oui. Est-ce une bonne chose ? Dan : oui. Sa définition de l'AGI — tout agent qu'il est économiquement rationnel de laisser tourner en continu, générant activement des tokens et accomplissant des tâches sans qu'on le relance — est assez précise pour être vérifiable. Son raisonnement : même un système vraiment autonome aura été construit pour servir des objectifs humains ; sinon, personne ne l'aurait construit. La crainte de Brandon : dès que les agents continus deviennent économiquement rationnels, l'argument des licenciements massifs devient cohérent. > *"Tout agent qu'on n'éteint jamais — qu'il est économiquement rationnel de maintenir en fonctionnement permanent, en train d'accomplir des tâches sans qu'on ait jamais à le relancer."* ## [21:57] Les licenciements liés à l'IA sont un mensonge Dan et Brandon décortiquent le cas ClickUp — un PDG qui a licencié publiquement une large partie de ses effectifs en attribuant la décision à l'IA. Lecture de Dan : les entreprises SaaS génériques licencient quand elles sont en difficulté ou surchargées, puis invoquent l'IA pour se couvrir. Brandon ajoute que la réplique de Jensen Huang — "si votre réponse au progrès consiste à licencier des gens, vous n'êtes pas un PDG très créatif" — est en partie intéressée, mais probablement juste. Le cadrage honnête : l'IA transforme les flux de travail en profondeur, ce qui impose des réorganisations à l'échelle de l'entreprise. Celles qui évitent ce chantier et se contentent de couper les effectifs prennent le chemin de facilité. La collecte de données par Meta via la surveillance des employés est brièvement évoquée comme une alternative plus créative, sinon rassurante. > *"Je serais vraiment méfiant vis-à-vis de quiconque affirme que ça va éliminer tous les emplois ou tout le travail de connaissance."* ## [25:42] Suivez les modèles et tout ira bien Même dans un scénario AGI, la variable déterminante reste le jugement humain sur *ce qui compte* — et ce qui compte change en permanence, en partie parce que l'IA elle-même ne cesse de remodeler le monde. Les agents de service client à Omaha qui se méfient des chatbots, ou les entreprises qui licencient leur support et le réembauchent discrètement deux mois plus tard, illustrent à quel point l'adoption réelle traîne derrière le battage médiatique. L'adoption prend une génération à s'installer ; tout le monde finira par avoir accès à ces outils ; les gagnants seront ceux qui continuent d'apprendre à utiliser les nouveaux modèles au fur et à mesure qu'ils sortent. Dan conclut avec sa formule la plus claire : si vous suivez les modèles, tout ira bien. > *"Si vous suivez simplement les modèles — quand de nouveaux modèles sortent, apprenez à les utiliser pour ce que vous faites, quoi que ce soit — tout ira bien."* ## [35:30] Utiliser l'IA comme éditeur de longs formats Dan décrit le processus concret assisté par l'IA derrière "After Automation". Chaque matin, il enregistrait un monologue vocal sur l'état actuel de l'argument dans Proof, puis transmettait le journal à Claude en lui demandant : "Qu'est-ce que j'essaie vraiment de dire ?" Quand les brouillons dépassaient 4 000 mots, il avait recours à Codex pour convertir la dernière version en podcast et l'écoutait pendant ses trajets, repérant les problèmes de fluidité sans les mains. Le texte a connu quatre ou cinq redémarrages complets avant que l'argument se solidifie. Conclusion : l'IA n'a pas écrit l'essai, mais elle a rendu possible de tenir toute la structure de 8 000 mots dans la mémoire de travail sans perdre le fil. > *"Je n'aurais pas pu écrire ceci sans elle. Je demandais à Claude de prendre mon journal et de me dire : 'Qu'est-ce que tu essaies vraiment de dire ?' Et il me répondait quelque chose, et je me disais : 'Ah, c'est ça que j'essaie de dire.'"* ## Entités - **Dan Shipper** (Personne) : co-fondateur et PDG de Every ; animateur habituel de *AI & I* ; ici l'interviewé, qui présente son essai "After Automation" - **Brandon Gell** (Personne) : directeur des opérations de Every ; anime cet épisode en guest, interviewant Dan dans un format inversé - **Every** (Organisation) : entreprise de médias et de logiciels fondée sur l'IA ; passée de 4 à 30 personnes depuis GPT-3 tout en automatisant massivement ; publie le podcast *AI & I* - **After Automation** (Concept) : essai de 8 000 mots de Dan Shipper qui soutient que l'automatisation par l'IA accroît la demande de travail humain expert en inondant les domaines de productions presque correctes - **L'écart de compétence expert** (Concept) : la thèse selon laquelle l'IA livre la "compétence d'expert d'hier" à bas coût mais toujours légèrement à côté, créant davantage de besoin pour les humains capables de combler l'écart avec la situation réelle - **AGI** (Concept) : défini dans cet épisode comme tout agent économiquement rationnel à laisser tourner en continu sans relance ; Dan est convaincu que cela arrivera et que c'est globalement positif - **Autonomie vs. agentivité** (Concept) : la distinction de Brandon entre un agent IA exécutant des tâches ouvertes sans guidance (autonomie) et un agent IA ayant des désirs propres (agentivité) ; la seconde n'est pas en cours de construction - **Proof** (Logiciel) : outil d'écriture qu'utilise Dan pour ses monologues vocaux quotidiens ; employé comme boucle de feedback IA pendant le développement de l'essai - **Codex** (Logiciel) : outil OpenAI que Dan a utilisé pour convertir les brouillons de l'essai en format podcast audio pour une écoute pendant ses trajets - **ClickUp** (Organisation) : entreprise SaaS dont le PDG a licencié publiquement une large partie des effectifs en attribuant la décision à l'IA ; utilisée comme étude de cas sur les licenciements "AI-washing"

Alex Rives — directeur scientifique de BioHub et chercheur à l'origine des modèles ESM-1 à ESM-3 chez Meta FAIR — rejoint Brandon et RJ Honicky pour expliquer pourquoi il parie depuis huit ans que le passage à l'échelle d'un modèle de langage masqué sur des séquences de protéines permettrait d'en comprendre la structure, la fonction et la conception. L'épisode couvre le passage des données UniRef à la métagénomique qui a restauré la loi d'échelle d'ESMC, l'atlas de caractéristiques par autoencodeurs épars qui reproduit un siècle de taxonomie biochimique sans y avoir été entraîné, et le premier succès rapporté dans la conception d'anticorps à chaîne unique à visée thérapeutique par recherche dans un world-model. Rives présente également l'initiative Virtual Biology à 500 millions de dollars de BioHub et les principes qui, selon lui, mèneront à des modèles généralistes de la cellule. ## [00:00] ESMC conçoit des anticorps — un aperçu Ce clip d'ouverture est tiré d'un moment ultérieur de l'entretien, où Rives décrit en pleine phrase l'approche d'ESMC pour une biologie programmable. Il évoque la recherche dans un world-model de protéines pour satisfaire des critères de conception, et mentionne que l'équipe a conçu des mini-binders et, surtout, des fragments d'anticorps à chaîne unique (SCFVs) avec des affinités de liaison d'intérêt thérapeutique. Ce clip précède l'introduction formelle — un signal de ce vers quoi l'épisode se dirige. ## [00:33] La Bitter Lesson arrive pour les protéines Brandon et RJ présentent Alex comme peut-être "la personne la plus convaincue par la bitter lesson dans la biologie des protéines en ce moment." Rives accepte l'étiquette. Il retrace sa conviction jusqu'en 2018, quand son équipe chez Meta FAIR a entraîné le premier transformer de langage sur des séquences de protéines par prédiction de tokens masqués, et vu émerger des représentations structurelles et fonctionnelles sans aucune supervision explicite. L'intuition clé, empruntée au papier de 1954 de Zellig Harris sur la structure distributionnelle, est que les contextes dans lesquels un acide aminé peut apparaître sont déterminés par la structure, la fonction et le rôle évolutif de la protéine. Cette pression statistique, appliquée à des milliards de séquences issues de l'ensemble du vivant, devrait forcer un modèle à apprendre les variables cachées qui gouvernent la biologie des protéines. > *"Je crois aux lois d'échelle."* ## [06:00] La lignée ESM : d'ESM2 à ESMC Rives retrace quatre générations d'ESM. ESM2 montrait des gains à l'échelle, mais atteignait des rendements décroissants à 10 milliards de paramètres — non pas parce que le modèle était saturé, mais parce que les données l'étaient. UniRef, la base de données de référence pour les protéines, capture des organismes cultivés en laboratoire et surreprésente la biologie humaine. La solution pour ESMC a été la métagénomique : des séquences extraites de sources hydrothermales, de sols polaires et d'eaux usées, assemblées à partir de lectures d'ADN environnemental brut sans assignation à un organisme, contigs partiels inclus. L'ajout de milliards de séquences métagénomiques à l'entraînement a restauré une loi d'échelle log-linéaire propre, les runs à plus petite échelle prédisant avec précision la fidélité représentationnelle du modèle phare à 6 milliards de paramètres. > *"Les rendements décroissants à l'échelle n'existent plus. ESM2 était limité par les données, pas par le calcul."* ESMC est essentiellement un transformer standard avec des objectifs de masquage classiques — sans MSA à la AlphaFold, sans biais inductifs géométriques. Brandon et Rives débattent brièvement de l'utilité de l'architecture multi-piste d'ESM3 ; Rives dit que les deux paradigmes ont leur place, mais que les résultats d'ESMC suggèrent que ces a priori n'étaient pas déterminants à cette échelle de données. ## [18:30] Interprétabilité mécanistique et l'atlas des caractéristiques protéiques À l'aide d'autoencodeurs épars entraînés sur toutes les couches de la famille de modèles ESMC (300M, 600M, 6B), l'équipe de BioHub a extrait la géométrie intrinsèque des caractéristiques de l'espace de représentation des protéines. Ce qui émerge correspond étroitement à la hiérarchie réductive que la biologie a développée expérimentalement sur un siècle — de la chimie de base des acides aminés jusqu'aux motifs structuraux, aux familles de domaines et aux grandes thématiques fonctionnelles — sans qu'aucune de ces taxonomies n'ait été intégrée à l'entraînement. > *"Le choix d'un acide aminé est en quelque sorte complètement entrelacé avec le choix de tous les autres acides aminés de la séquence. Pour bien faire cela, le modèle commence à avoir ces variables cachées qui représentent la biologie."* Un résultat concret : le modèle encode le coude nucléophile — un motif catalytique supposé avoir évolué indépendamment dans plusieurs familles de protéines non apparentées — comme une seule caractéristique qui s'active dans chacune d'elles. L'équipe a également construit un atlas structurel de 6,8 milliards de protéines non redondantes avec des structures prédites pour 1,1 milliard de représentants de clusters, et utilisé les caractéristiques SAE pour relier des systèmes d'édition génique évolutivement distants. Certaines protéines intégrées à ces clusters n'ont aucune fonction connue ; Rives les traite comme une file d'attente de découvertes. La première version de l'atlas ESM a déjà été utilisée par un groupe externe pour trouver un nouveau système d'édition génique. ## [35:30] Concevoir des anticorps avec ESMC Rives décrit la conception de protéines comme une recherche dans un world-model : inverser le modèle génératif pour trouver des séquences satisfaisant des critères de liaison ciblés. Les mini-binders sont désormais courants ; les nanobodies et les SCFVs restent plus difficiles pour les méthodes basées sur la prédiction de structure, car l'évolution des anticorps maximise la diversité plutôt que de converger vers un repliement contraint, ce qui rend les approches fondées sur les MSA moins utiles. ESMC, entraîné sur cette diversité à grande échelle, est précisément là où la représentation devrait être la plus riche. > *"Les anticorps ne vont probablement pas bénéficier de l'information évolutive de la même façon que la prédiction de la topologie structurale d'une molécule."* L'équipe rapporte que des designs de SCFVs atteignent une affinité de qualité thérapeutique en un petit nombre d'essais, et note que les SCFVs peuvent être reformatés en IgG complets. ESMFold 2 — la tête de prédiction de structure construite sur les représentations ESMC — s'exécute en quelques secondes par séquence sans MSA, rendant faisable la cartographie de multimères à l'échelle du protéome entier. Rives affirme que le modèle est actuellement à l'état de l'art pour la prédiction de multimères en open-weight. ## [42:00] La vision de BioHub : vers une biologie programmable Six mois après avoir rejoint BioHub, Rives articule la structure de l'institution : une organisation philanthropique construisant simultanément la biologie expérimentale de pointe, les technologies de mesure de pointe et l'IA de pointe, sous un mandat de science ouverte. Il situe l'objectif final dans des modèles prédictifs personnalisés de la physiologie — non pas un médicament, mais un système capable de retracer les événements moléculaires au niveau des protéines jusqu'aux circuits cellulaires et à la manifestation de la maladie dans un génome humain spécifique. > *"Nous construisons une institution scientifique pour ce nouveau paradigme."* Il cartographie les niveaux de complexité biologique qui doivent être modélisés successivement : les protéines (génération actuelle), la cellule (prochaine étape), les tissus et systèmes, la physiologie. Passer des protéines aux cellules nécessite des données qui n'existent pas encore et des approches de modélisation qui n'ont probablement pas encore été inventées. Les modèles actuels de "cellule virtuelle" généralisent mal — ils représentent bien les données d'entraînement, mais échouent à prédire les résultats dans des contextes interventionnels nouveaux et non observés. > *"Ils ont une capacité très limitée à prédire ce qui se passera lorsqu'on effectue une intervention nouvelle dans un contexte nouveau et non observé."* ## [57:00] L'initiative Virtual Biology et la mise à l'échelle des données cellulaires BioHub a récemment annoncé 400 millions de dollars pour la génération de données interne et les technologies de mesure, plus 100 millions de dollars pour catalyser des efforts externes — c'est l'initiative Virtual Biology. Rives la présente comme un amorçage : le volume de données réellement nécessaire est bien plus important, et l'espoir est que l'engagement de BioHub déclenche un investissement plus large de la communauté scientifique. Il identifie trois principes pour les données : la vitesse (les données sur les protéines ont pris un demi-siècle ; la cellule ne peut pas attendre aussi longtemps), la généralisation (la distribution d'entraînement doit couvrir une vaste diversité d'interventions sur des types cellulaires et des contextes variés, analogue à l'étendue métagénomique pour les protéines), et le retour d'information (des boucles expérimentales actives guidées par les prédictions du modèle — quelque chose comme le RLVR appliqué à la biologie en laboratoire humide). Le séquençage par perturbation, la transcriptomique spatiale et la mesure unicellulaire multimodale sont les technologies évolutives prêtes à fonctionner dès maintenant. Sur le calcul : ESMC a été entraîné sur environ un milliard de séquences. On estime qu'il en existe environ 100 milliards, et le modèle n'a pas encore pleinement exploité même les 6,8 milliards de l'atlas actuel. Une multiplication par 100 de la puissance de calcul aiderait, mais uniquement associée à une mise à l'échelle proportionnelle des données. Rives laisse ouverte la question de savoir quand les rendements décroissants apparaîtront empiriquement — la courbe d'ESM2 semblait saturée jusqu'à ce que les données métagénomiques l'effacent. > *"Nous devons trouver comment faire cela en quelques années. La vitesse à laquelle l'IA généraliste se développe signifie que la biologie sera fondamentalement limitée par la science expérimentale et les données."* ## Entités - **Alex Rives** (Personne) : Directeur scientifique de BioHub ; architecte de ESM-1, ESM-2, ESM-3, ESMC et ESMFold 2 ; anciennement Meta FAIR. - **Brandon** (Personne) : Co-animateur de la sous-série Latent Space AI for Science ; affilié à Atomic AI (ARN thérapeutiques). - **RJ Honicky** (Personne) : Co-animateur ; CTO et fondateur de Miro Omix. - **ESMC** (Logiciel) : Modèle de langage de protéines de quatrième génération de BioHub/EvoScale ; 300M–6B paramètres ; entraîné sur ~1B séquences dont des données métagénomiques ; open source sous licence MIT. - **ESMFold 2** (Logiciel) : Modèle de prédiction de structure construit sur les représentations ESMC ; sans MSA, inférence en quelques secondes par séquence ; meilleure prédiction de multimères en open-weight. - **ESM** (Logiciel) : Evolutionary Scale Modeling — la lignée multi-générationnelle de modèles de langage de protéines (ESM-1, ESM-2, ESM-3, ESMC) développée par l'équipe de Rives. - **Autoencodeurs épars / SAE** (Concept) : Outil d'interprétabilité mécanistique utilisé pour extraire la géométrie intrinsèque des caractéristiques de l'espace de représentation d'ESMC ; révèle des hiérarchies biologiquement interprétables sans supervision. - **Bitter Lesson** (Concept) : L'argument de Richard Sutton selon lequel les méthodes générales exploitant le calcul et les données surpassent systématiquement les méthodes encodant des connaissances du domaine ; appliqué ici à la mise à l'échelle en biologie des protéines. - **Séquençage métagénomique** (Concept) : Séquençage d'ADN environnemental capturant la diversité microbienne et virale sans culture ; l'expansion de données qui a restauré la loi d'échelle d'ESMC là où UniRef avait atteint sa limite. - **BioHub** (Organisation) : Chan Zuckerberg BioHub ; organisation philanthropique construisant des outils de science ouverte à l'intersection de la biologie expérimentale, des technologies de mesure et de l'IA. - **Virtual Biology Initiative** (Concept) : L'engagement de 500 millions de dollars de BioHub (400M en interne, 100M en externe) pour générer les données à l'échelle cellulaire nécessaires à l'entraînement de modèles généralistes de la cellule. - **AlphaFold** (Logiciel) : Système de prédiction de structure de DeepMind ; utilise les MSA et des biais inductifs géométriques ; mis en contraste avec l'approche sans MSA d'ESMC. - **UniRef** (Logiciel/Base de données) : Base de données curatée de référence pour les séquences de protéines ; données d'entraînement d'ESM2, identifiée ultérieurement comme le goulet d'étranglement à l'origine du plateau de mise à l'échelle d'ESM2. - **Coude nucléophile** (Concept) : Motif structural catalytique présent dans plusieurs familles de protéines évolutivement non apparentées ; encodé comme une seule caractéristique ESMC s'activant dans chacune d'elles. - **Zellig Harris** (Personne) : Linguiste ; son article de 1954 "Distributional Structure" a formulé l'idée que les contextes de mots encodent le sens — un précurseur théorique que Rives cite pour expliquer pourquoi les statistiques de contexte des acides aminés devraient encoder la fonction biologique.

Federico Cassano de Cursor et Dmytro Dzhulgakov de Fireworks emmènent Sonya Huang à travers chaque couche de la construction de Composer 2 — d'une base MoE Kimi 2.5 jusqu'au mid-training à grande échelle et au RL asynchrone distribué mondialement — en expliquant pourquoi la spécialisation surpasse les modèles généralistes sur le coût et la qualité. L'infrastructure est au cœur du sujet : quatre clusters GPU répartis sur plusieurs continents, un algorithme de Delta Compression qui expédie des snapshots de poids de 1 To en moins d'une minute, et une boucle RL en temps réel qui met à jour le modèle en production toutes les quelques heures à partir de signaux utilisateurs réels. L'ensemble de ces techniques permet à Cursor de livrer des performances de coding de niveau frontier à une fraction du coût d'inférence des modèles généralistes. ## [00:00] Introduction L'épisode s'ouvre au milieu d'une conversation sur un problème soulevé par Dmytro à propos de la fidélité des environnements RL : l'environnement d'entraînement doit reproduire aussi fidèlement que possible la machine d'un vrai utilisateur, car les modèles peuvent détecter qu'ils tournent dans un environnement factice et en exploiter les failles. > *"Les modèles adorent tricher. Le RL est vraiment très efficace pour encourager la triche."* — Federico Cassano Cette seule observation pose le cadre de la discipline technique qui traverse tout l'épisode : chaque composant de l'infrastructure existe pour réduire l'écart entre les conditions d'entraînement et la réalité en production. ## [00:53] Pourquoi Cursor a entraîné Composer 2 Federico expose le pari au cœur de Composer 2 avec une analogie : les poids d'un modèle sont un disque de stockage de taille fixe, et chaque bit alloué à des tâches qui n'intéressent pas Cursor est un bit gaspillé. En dédiant l'intégralité du budget de poids au génie logiciel dans Cursor — pas au coding en général, encore moins au langage naturel — le modèle peut à la fois exceller dans son unique mission et coûter moins cher à servir à l'inférence. Dmytro pose la même idée côté infrastructure : le prompt engineering permet d'aller jusqu'à un certain point, mais la seule façon de capturer les comportements vraiment spécifiques à un harness — quels outils l'agent doit appeler, dans quel ordre, avec quels arguments — est de les graver dans le modèle par le fine-tuning et le RL. > *"Il y a une sorte de plafond sur jusqu'où on peut aller avec le prompt engineering. Et si vous voulez construire de vrais grands produits IA, vous devez passer par le fine-tuning et influer sur le comportement du modèle."* — Dmytro Dzhulgakov ## [04:55] Spécialisation contre Bitter Lesson Sonya soulève une objection : l'histoire du machine learning est jalonnée de modèles spécialisés écrasés par de plus grands modèles généralistes. Composer 2 répète-t-il l'erreur de TabNine ? Federico répond que non. La Bitter Lesson joue sur l'échelle des paramètres et des données ; ce que fait Cursor, c'est libérer la capacité finie du modèle de ses distractions pour que davantage du scaling de la Bitter Lesson puisse être absorbé par la seule tâche qui compte. Les modèles de lab avec lesquels Cursor est en compétition s'entraînent eux aussi massivement sur du code — ils ne sont pas purement généralistes. Cursor pousse simplement cette spécialisation plus loin et plus vite en contrôlant le pipeline de données de bout en bout. ## [06:16] La recette d'entraînement de Composer 2 Composer 2 part de Kimi 2.5, un modèle mixture-of-experts de 1 billion de paramètres avec 30 milliards de paramètres actifs. L'entraînement se déroule en deux phases séquentielles : d'abord un mid-training sur des tokens de code à une échelle proche du pré-entraînement (les données produit de Cursor lui donnent un accès inhabituel à des contextes de coding de haute qualité), puis une phase de RL à grande échelle où le modèle exécute de vraies sessions d'agent Cursor dans des environnements simulés. Le mid-training apprend au modèle le monde du code — les API de bibliothèques, les patterns idiomatiques, la syntaxe correcte. Le RL affine ensuite cette connaissance en comportement correct : le modèle apprend à appeler les outils correctement, à naviguer dans des sessions d'agent multi-tours, et à écrire du code qui compile et passe les tests. Le pipeline asynchrone signifie que le trainer et les environnements de rollout tournent en parallèle plutôt qu'en alternance ; la staleness est acceptée en échange d'une utilisation GPU proche de 100 %. > *"Vous perdez peut-être quelques pourcents en étant asynchrone et en ne faisant pas des mises à jour mathématiquement parfaites, mais vous compensez largement en ne laissant pas la moitié de votre capacité sur la table."* — Dmytro Dzhulgakov L'entraînement tourne en FP4 pour extraire le maximum de throughput d'une flotte GPU plus petite que celle des labs frontier. Le moteur d'inférence est Fireworks plutôt qu'un build maison — un choix délibéré pour que les ingénieurs de Cursor restent concentrés sur l'efficacité de l'entraînement plutôt que de construire une autre pile d'inférence. ## [16:32] Passer l'infrastructure RL à l'échelle mondiale Aucun grand cluster contigu n'était disponible à l'échelle requise par Composer 2, alors l'équipe a désagrégé : un cluster gère tout l'entraînement, tandis que l'inférence — le composant rollout — tourne sur quatre clusters géographiquement distribués, dont la capacité dormante de Composer 1.5 en production pendant les heures creuses. L'entraînement exige un interconnect rapide et une opération en lockstep ; l'inférence non, elle peut donc tourner sur des générations de GPU hétérogènes avec des réseaux intra-cluster plus modestes. Le problème système difficile est la synchronisation des poids : Kimi 2.5 pèse environ 1 To, et le trainer produit un nouveau checkpoint toutes les 5 à 15 minutes. Expédier 1 To entre continents toutes les 10 minutes bloquerait l'inférence. La solution : les mises à jour RL tendent à être creuses et régulières dans les poids qu'elles modifient, alors l'équipe a développé un algorithme de Delta Compression qui réduit la charge utile d'environ 20× et ne transmet que le diff. Le récepteur reconstruit le checkpoint complet sans perte, sans surprise numérique de l'autre côté. > *"Malgré le modèle complet faisant environ 1 téraoctet, tous les poids ne changent pas à chaque étape... il y a des patterns très réguliers dans quel sous-ensemble de poids est modifié."* — Dmytro Dzhulgakov ## [23:32] Dérive en virgule flottante Quand la boucle RL asynchrone expédie un batch de trajectoires de rollout de l'inférence vers le trainer, le trainer rejoue le même forward pass pour recalculer les log-probabilités pour la GRPO loss. En théorie, les log probs devraient être identiques. En pratique, elles diffèrent souvent, parfois substantiellement. La cause profonde est le non-déterminisme en virgule flottante : l'addition de nombres en virgule flottante n'est pas commutative, donc A + B + C ≠ C + B + A, et de petites différences se cumulent sur des milliards d'opérations. Dans une inférence normale, le modèle est robuste à ce bruit. Sous RL — surtout avec une fonction de gating MoE creuse — le bruit s'amplifie au point que le trainer et l'inférence ne s'accordent plus sur quels tokens ont été échantillonnés, ce qui corrompt le signal d'entraînement. ## [25:11] La sensibilité des MoE expliquée L'architecture MoE amplifie la dérive en virgule flottante à cause de la couche de gating. À chaque couche transformer, le réseau de gating note les 384 experts et sélectionne les 8 meilleurs pour chaque token. Une différence dans les états cachés au cinquième décimal peut suffire à substituer l'expert 7 par l'expert 9 à la frontière de sélection, routant le token vers une partie complètement différente du modèle. Parce que les experts MoE sont larges et largement non chevauchants, une mauvaise sélection d'expert produit une grande divergence en sortie plutôt qu'une petite — contrairement à un modèle dense où le bruit numérique reste faible tout au long. ## [26:25] Le correctif Router Replay La mitigation est le Router Replay : pendant l'inférence, le modèle enregistre quel index d'expert il a activé pour chaque token et transmet cet entier avec la séquence générée au trainer. Le trainer force alors la même sélection d'expert plutôt que de la recalculer de zéro, brisant la chaîne d'amplification. En parallèle du Router Replay, l'équipe a aligné les niveaux de quantification et les implémentations de kernels entre inférence et entraînement pour minimiser chaque autre source de divergence numérique. > *"Une grande partie de cet alignement numérique consiste essentiellement à faire des astuces comme ça, aligner les niveaux de quantification, aligner les kernels, etc. pour réduire la divergence entre les implémentations d'entraînement et d'inférence."* — Dmytro Dzhulgakov ## [27:19] La boucle RL en temps réel En parallèle de la boucle de rollout simulé, Cursor fait tourner ce que Federico appelle le RL en temps réel : de vraies sessions utilisateurs en production alimentent le pipeline d'entraînement. Quand un utilisateur est satisfait ou insatisfait d'une génération de Composer, ce signal est capturé, et une nouvelle version du modèle est expédiée toutes les quelques heures. L'équipe travaille activement à resserrer ce cycle, mais sait aussi qu'il faudra l'allonger à nouveau à mesure que les horizons de rollout s'étendent — des sessions d'agent plus longues prennent plus de temps à évaluer. La boucle simulée et la boucle en temps réel servent des objectifs différents. La simulation permet au modèle de lancer 16 à 128 rollouts depuis le même prompt en parallèle (la GRPO loss exige des rollouts groupés), d'explorer hors-politique sans impacter aucun utilisateur, et d'amorcer les performances avant que le modèle soit assez bon pour que de vrais utilisateurs s'en servent. Le RL en temps réel est une couche de raffinement qui ne peut opérer qu'une fois que le modèle atteint déjà un niveau de qualité minimum — les utilisateurs qui ont une mauvaise expérience cessent de générer des signaux de feedback. > *"On ne peut pas vraiment utiliser ça pour créer le modèle de zéro parce que les utilisateurs doivent utiliser le modèle. Il faut donc qu'il soit déjà bon, et on peut seulement l'améliorer."* — Federico Cassano ## [31:49] Agents à horizon long À mesure que les horizons de rollout s'étendent, deux problèmes structurels émergent. D'abord, l'attribution du crédit : avec une seule récompense pouce-haut/pouce-bas à la fin d'une session de plusieurs minutes, le modèle doit déterminer laquelle des 50+ décisions dans la trajectoire a conduit au résultat. Cela devient exponentiellement plus difficile à mesure que la trajectoire s'allonge. Ensuite, la fenêtre de contexte se remplit. La solution de Cursor est d'intégrer l'auto-résumé directement dans la boucle RL sous le nom de "compaction" : le modèle apprend, par la récompense RL, à la fois à écrire un résumé utile de sa progression quand il approche de la limite de contexte et à poursuivre fidèlement à partir de ce résumé. Le modèle à contexte de 200K opère en pratique sur des millions de tokens parce qu'il peut réinitialiser sa fenêtre et conserver sa mémoire de travail sous forme compressée. > *"Grâce au RL, parce que le RL pousse le modèle à faire les choses correctement vers l'objectif, en même temps et conjointement, nous entraînons le modèle à produire un bon résumé et nous entraînons le modèle à bien écouter ce résumé."* — Federico Cassano ## [34:29] Pourquoi le RL est partout Sonya présente le RL comme un outil spécifiquement pour l'utilisation d'outils agentique à long horizon. Federico nuance : le RL est utile partout, y compris pour la complétion par tabulation. Sa théorie : les modèles pré-entraînés ont absorbé toute la connaissance humaine mais ne savent pas quelle persona adopter quand on les interroge — expert, étudiant, ou quelque chose entre les deux. La première phase de l'entraînement RL affine cette distribution, disant au modèle "tu es l'expert, fais-le correctement." Cet effet a de la valeur même pour des tâches comme le résumé qui n'ont pas de harness interactif. La deuxième phase — où le modèle commence à raisonner visiblement et la courbe de compute s'aplatit — est là où le signal spécifique à la tâche se compose vraiment. ## [37:34] Récompenses LLM-as-Judge Plus la récompense est vérifiable — le code compile-t-il, les tests passent-ils, la réponse est-elle numériquement correcte — plus on peut injecter de compute dans le RL et toujours obtenir un meilleur modèle. Le LLM-as-Judge comble le vide pour les tâches où la vérité terrain est difficile à définir, en encodant un critère d'évaluation comme prompt et en laissant un second modèle évaluer la qualité du rollout. Dmytro note que c'est particulièrement utile pour les tâches orientées style comme le résumé, où les évaluateurs humains peinent à articuler ce que "bon" signifie mais peuvent l'évaluer à l'aune de critères explicites. > *"En général, plus votre récompense est vérifiable, mieux c'est, parce que ça vous permet de faire monter le compute en charge et d'obtenir de meilleurs résultats."* — Dmytro Dzhulgakov ## [39:14] RL dans les domaines difficiles Pour les domaines où la vérité terrain ne peut être calculée à bas coût — écriture créative, raisonnement ouvert, expertise de domaine — le chemin vers un meilleur RL passe par des environnements plus riches. Des environnements simulés plus larges, capturant davantage de la métrique produit, permettent de pousser plus loin l'évaluation automatisée. Les experts restent nécessaires, non pas pour juger des rollouts individuels, mais pour concevoir les tâches et les critères qui définissent ce que la fonction de récompense doit optimiser. ## [40:13] Construire ses propres environnements Cursor n'utilise aucun fournisseur d'environnement RL. Pour le coding, les dépôts GitHub fournissent un pool pratiquement illimité d'environnements fonctionnels : cloner un dépôt, installer les dépendances, donner une tâche au modèle, et mesurer le résultat contre la suite de tests. Le problème d'infrastructure plus difficile est de rendre ces environnements assez réalistes pour prévenir le type de triche évoqué en ouverture de l'épisode, et assez rapides pour en lancer 100 000 simultanément à la demande. La réponse de Cursor est une pile de machines virtuelles personnalisées — des VM complètes, pas des conteneurs — qui peuvent monter en charge instantanément à une échelle arbitraire et qui reproduisent les machines des vrais utilisateurs assez fidèlement pour que le modèle ne puisse pas faire la différence. Dmytro dépeint le paysage des fournisseurs : les labs frontier ont besoin d'environnements génériques couvrant toutes les tâches ; les entreprises produit devraient faire du RL contre leur propre environnement de production. L'environnement d'entraînement le plus puissant pour n'importe quel modèle, c'est le produit dans lequel il sera réellement utilisé. > *"L'environnement le plus puissant, c'est votre propre produit."* — Dmytro Dzhulgakov ## [44:34] Réflexions finales Sonya conclut en notant que la trajectoire de Cursor — d'entreprise applicative à lab de modèles frontier — est le schéma que suivront les autres entreprises de produits IA. Federico remercie Fireworks d'avoir fourni la colonne vertébrale d'infrastructure qui a rendu la campagne d'entraînement réalisable avec le budget GPU de Cursor. Dmytro revient sur la profondeur d'ingénierie système qu'a exigée un problème que la plupart des gens supposaient purement algorithmique. ## Entités - **Federico Cassano** (Personne) : Responsable de la recherche pour Composer 2 chez Cursor ; a piloté la recette d'entraînement et la méthodologie RL. - **Dmytro Dzhulgakov** (Personne) : Responsable infrastructure chez Fireworks AI ; a conçu le système d'entraînement RL distribué pour Composer 2. - **Sonya Huang** (Personne) : Associée chez Sequoia Capital ; animatrice du podcast centré sur l'investissement IA. - **Composer 2** (Logiciel) : Le modèle de coding agentique spécialisé de Cursor, entraîné avec mid-training et RL à grande échelle sur Kimi 2.5 MoE. - **Fireworks AI** (Organisation) : Entreprise d'infrastructure d'inférence et de serving de modèles ayant fourni le backbone GPU distribué pour l'entraînement RL de Composer 2. - **Cursor** (Organisation) : Entreprise d'IDE de coding IA ; a entraîné Composer 2 comme modèle de fondation spécialisé pour le génie logiciel dans son produit. - **Kimi 2.5** (Logiciel) : Modèle MoE open-source de 1 billion de paramètres (30 milliards actifs) de Moonshot AI ; utilisé comme base pour Composer 2. - **GRPO** (Concept) : Group Relative Policy Optimization — l'algorithme RL utilisé pour Composer 2, qui exige plusieurs rollouts parallèles depuis le même prompt pour calculer le gradient de politique. - **Router Replay** (Concept) : Technique d'alignement numérique pour MoE où l'inférence enregistre et rejoue les décisions de routage des experts au trainer, empêchant la dérive en virgule flottante de diverger les log-probabilités. - **Real-Time RL** (Concept) : La boucle de feedback en production de Cursor qui capture les signaux de satisfaction des utilisateurs en direct et met à jour le modèle en continu, expédiant une nouvelle version toutes les quelques heures. - **Delta Compression** (Concept) : Technique de synchronisation des poids qui ne transmet que les paramètres modifiés entre l'entraînement et les clusters d'inférence distribués, réduisant des snapshots de 1 To à environ 50 Go en pratique. - **Auto-résumé / Compaction** (Concept) : Capacité entraînée par RL permettant à l'agent de compresser son contexte de travail quand il approche de la limite de fenêtre de contexte, permettant une opération à horizon effectivement illimité.

Isabella He, ingénieure Applied AI chez Anthropic, consacre 37 minutes à construire en direct un agent SRE de gestion d'incidents — partant d'un fichier `agent.py` vide pour aboutir à une application Streamlit qui diffuse les appels d'outils, maintient les sessions et diagnostique un pic de latence P99. La session associe un primer d'architecture de cinq minutes à du code pratique, permettant aux participants de repartir avec un agent fonctionnel et les bases conceptuelles pour l'étendre vers des sous-agents, la mémoire et les vaults. ## [00:19] Bienvenue et programme Isabella commence par situer l'équipe Applied AI au sein d'Anthropic — "à l'intersection des produits, de la recherche et de nos clients" — et présente les trois temps de la session : une mise à jour rapide de la plateforme, un sprint de codage pratique, puis un aperçu des fonctionnalités avancées comme le dreaming et les sous-agents. Le scénario de départ est le réveil à 3h du matin que redoute tout ingénieur logiciel, problème qu'un agent SRE construit sur Managed Agents prendra en charge de manière autonome. > *"Mon objectif aujourd'hui est de vous amener à construire concrètement sur Managed Agents, à comprendre comment le harness fonctionne sous le capot, et à vous préparer à déployer votre premier agent de gestion d'incidents."* ## [02:10] De l'API Messages aux Managed Agents Isabella retrace la genèse du produit : l'API Messages de 2023 donnait un accès brut aux tokens mais laissait aux développeurs la charge d'implémenter la gestion du contexte, les boucles d'agents et la compaction. L'Agent SDK a ajouté l'accès au système de fichiers de Claude Code, tout en exigeant encore un hébergement géré par le développeur. Managed Agents est la troisième génération — Anthropic prend en charge la scalabilité, le sandboxing, l'observabilité et le runtime des outils, permettant aux équipes de déployer "dix à quinze fois plus vite en production." Elle illustre concrètement le coût de maintenance avec un exemple réel : Sonnet 4.5 présentait une "context anxiety" entraînant une fin de tâche prématurée. Anthropic a corrigé le harness ; Opus 4.5 a entièrement éliminé ce comportement, rendant ces correctifs obsolètes. > *"Les harnesses doivent évoluer en même temps que vos agents — c'est pourquoi avec Claude Managed Agents, nous voulons qu'Anthropic gère toutes les complexités liées à la compaction, au caching et à la context anxiety."* ## [05:55] Primitives fondamentales : Agent, Environnement, Session Trois objets composent toute application Managed Agents. L'**Agent** porte la persona — choix du modèle, prompt système, serveurs MCP, skills. L'**Environnement** est le conteneur d'exécution, analogue aux "mains" face au "cerveau" de l'agent, et supporte à la fois le cloud géré par Anthropic et le bring-your-own-compute depuis la veille de la session. Une **Session** lie les deux et monte les fichiers de données ; les événements (messages utilisateur, appels d'outils, réponses) sont diffusés en continu vers les appelants plutôt que renvoyés en une seule réponse. Découpler la boucle d'agent de l'exécution des outils a réduit le temps-jusqu'au-premier-token P95 de plus de 90%, tout en éliminant l'exposition des credentials via la frontière du conteneur sandboxé. > *"Grâce à ce découplage, nos équipes ont constaté des réductions du temps jusqu'au premier token de l'ordre de plus de 90% sur nos métriques P95 de latence."* ## [09:15] Mise en place de l'atelier Les participants clonent le dépôt de l'atelier et font `cd` dans `ship-your-first-managed-agent`, créent un environnement virtuel, installent les dépendances et collent une clé API Anthropic dans `.env` avant de lancer `streamlit run app.py`. Isabella confirme que l'URL Streamlit affiche bien une interface de chat de gestion d'incidents — le canvas vierge pour la construction. > *"N'hésitez pas à faire cela au fur et à mesure ou même plus tard dans la journée — tout sera également affiché à l'écran pour suivre avec nous."* ## [10:48] Construction de l'agent étape par étape En travaillant avec `agent.py` (incomplet) ouvert à côté de `agent_complete.py`, Isabella copie six blocs de code un par un : 1. **Définition de l'agent** — `SRE_AGENT` utilisant Claude Opus 4.7, un prompt système minimal nommant le rôle de l'agent et les outils disponibles (get_metrics, get_recent_deploys, get_diff, fetch_logs). 2. **Environnement** — environnement cloud Anthropic avec réseau non restreint pour la démo ; les variantes de production peuvent se limiter à une liste d'autorisations ou passer par les tunnels MCP de Claude. 3. **Upload des logs** — attache un fichier de log via l'API Files pour que l'agent puisse exécuter du code dessus ; Isabella signale que l'ingénierie du contexte est là où les développeurs passent le plus de temps d'itération. 4. **Création de session** — transmet `agent_id`, `environment_id` et les références des ressources uploadées pour tout lier ensemble. 5. **Streaming d'événements** — reçoit des événements (pas des tokens bruts) de la session, permettant l'affichage en temps réel et la journalisation d'observabilité. 6. **Outils locaux + suppression de session** — enregistre `get_metrics`, `get_recent_deploys` et `get_diff` comme gestionnaires exécutés localement, puis ajoute un appel de suppression de session avec la précision que les sessions supprimées sont entièrement purgées des logs. > *"La pièce manquante ici est simplement de lui donner enfin nos outils locaux pour que l'agent puisse commencer à agir sur mon ordinateur ou mon infrastructure."* ## [19:43] Exécution de l'agent et démo en direct Isabella lance une nouvelle session avec le prompt "débogue mon incident pour moi." L'agent appelle `sandbox_bash`, `get_recent_deploys` et `get_diff` en séquence, diffuse chaque appel d'outil et chaque token de réponse vers l'interface, puis retourne un rapport d'incident structuré : le pic de latence P99 (10x la ligne de base) est attribué à un épuisement du pool de connexions à la base de données introduit par le commit `refactor_order_summary_builder` d'Alice. Elle note qu'une variante de production ajouterait l'accès à Claude Code pour suggérer un correctif, ouvrir une PR et boucler la boucle sans humain dans le chemin critique. Un rafraîchissement forcé du navigateur confirme la persistance de session — toutes les sessions précédentes réapparaissent depuis l'état cloud, sans base de données locale requise. > *"Vous pouvez voir ici qu'en faisant défiler tous les appels d'outils, tout est persisté dans le cloud du point de vue des logs. Tout cela sera également journalisé dans la console d'observabilité."* ## [27:18] Récapitulatif de l'architecture, fonctionnalités avancées et Q&R Isabella récapitule l'architecture orientée événements : les sessions s'expriment en événements, pas en paires requête-réponse ; le journal d'événements permet à Managed Agents de reprendre une session après un redémarrage de conteneur sans rejouer la boucle d'agent. Elle présente ensuite quatre capacités avancées : - **Sous-agents** — un orchestrateur crée des agents enfants avec leurs propres fenêtres de contexte pour le parallélisme et la gestion du budget de contexte. - **Mémoire / Dreaming** — l'agent passe en revue ses propres logs de session pour décider ce qu'il doit retenir, permettant l'auto-amélioration et le rappel des préférences entre les sessions. - **Outcomes** — les développeurs définissent un critère ; l'agent détermine quels appels d'outils produisent le résultat souhaité. - **Vaults** — credentials chiffrés entre un endpoint séparé et le conteneur de l'agent, par utilisateur et par session, s'appuyant sur la séparation cerveau/mains intégrée à l'architecture. Elle conclut en orientant les participants vers la session de suivi sur le "dreaming" et le tableau de bord d'observabilité intégré à la console Managed Agents. > *"J'espère que tout le monde repart avec une idée de comment Managed Agents fonctionne réellement sous le capot — et soyez fiers de vous, ceux qui ont réussi à déployer un agent de fiabilité de site."* ## Entités - **Isabella He** (Personne) : Member of Technical Staff, équipe Applied AI d'Anthropic ; présentatrice et animatrice de l'atelier - **Claude Managed Agents** (Logiciel) : infrastructure managée d'Anthropic pour les agents prêts pour la production ; gère la scalabilité, le sandboxing, l'observabilité et le runtime des outils - **Agent SDK** (Logiciel) : ancien harness Anthropic offrant l'accès à Claude Code ; nécessitait un hébergement géré par le développeur - **Claude Opus 4.7** (Logiciel) : modèle utilisé pour l'agent SRE dans la démo de l'atelier - **Sonnet 4.5** (Logiciel) : ancien modèle présentant une "context anxiety" (fin de tâche prématurée), utilisé pour illustrer pourquoi les harnesses doivent évoluer avec les modèles - **Files API** (Logiciel) : API Anthropic pour uploader des fichiers (logs, métriques) dans le contexte d'un agent - **Dreaming** (Concept) : fonctionnalité Managed Agents où l'agent passe en revue de manière asynchrone son historique de session pour mettre à jour sa mémoire à long terme - **Outcomes** (Concept) : spécification d'objectifs basée sur des critères dans Managed Agents ; l'agent sélectionne les appels d'outils pour atteindre un résultat défini plutôt que de suivre des étapes explicites - **Vaults** (Concept) : espace de stockage chiffré pour les credentials dans Managed Agents ; découplé du conteneur de l'agent via l'architecture de séparation cerveau/mains - **MCP tunnels** (Concept) : fonctionnalité Claude pour router le trafic des serveurs MCP via un réseau privé plutôt qu'internet public - **Context anxiety** (Concept) : comportement observé de Sonnet 4.5 consistant à terminer les tâches prématurément malgré un budget de contexte disponible ; résolu dans Opus 4.5 - **Anthropic** (Organisation) : entreprise de sécurité en IA ; créatrice de Claude et de la plateforme Managed Agents - **DataDog** (Logiciel) : plateforme de monitoring de production citée comme remplacement direct de l'outil de métriques JSON de la démo - **Streamlit** (Logiciel) : framework UI Python utilisé pour construire l'interface de chat de gestion d'incidents de l'atelier

Le capitaine de Manchester United Bruno Fernandes reçoit Steven Bartlett à Carrington pour répondre frontalement à la polémique Roy Keane, expliquer pourquoi il a refusé une offre rapportée à £200 millions pour quitter le club, et retracer les valeurs — transmises par son père à Porto — qui font de lui l'un des joueurs les plus constants de l'histoire de la Premier League. En 90 minutes, la conversation passe de son enfance populaire et de ses débuts intrépides au football à la façon dont il lit les managers, dirige un vestiaire, et à ce que remporter la Coupe du monde avec le Portugal représenterait par-dessus tout trophée de club. ## [00:00] Introduction L'épisode s'ouvre sur un extrait tiré plus tard dans la conversation — Bruno répond à la critique de Roy Keane et à son refus de l'offre de £200 M — avant que Steven ne plante le décor au centre d'entraînement de Manchester United. Il présente Bruno comme le plus grand joueur du club à l'ère post-Ferguson : aucun joueur de Premier League ne compte plus de passes décisives depuis son arrivée, il a marqué 108 buts en 328 apparitions, et il a remporté le trophée Sir Matt Busby du joueur de l'année un nombre record de cinq fois. ## [01:38] Ce qui a forgé Bruno Fernandes Steven invite Bruno à repartir du début : quelle est la première chose à comprendre sur ses origines ? La réponse de Bruno est immédiate — la famille et les valeurs que lui ont transmises ses parents. Il décrit son enfance à Porto comme le socle de ce qu'il est devenu, aussi bien en tant que joueur qu'en tant qu'homme. > *"Les valeurs de ma famille, les valeurs de mes parents sont ce qui fait de moi la personne et le joueur que je suis aujourd'hui."* ## [02:33] Comment Bruno a hérité de la mentalité gagnante de son père Le père de Bruno n'exprimait pas son affection par des embrassades ou des mots, mais par l'exemple — il incarnait le sacrifice et des exigences sans relâche. Après un match où Bruno avait marqué deux ou trois buts, son père relevait les mauvais moments, pas les bons. Il n'avait jamais voulu que Bruno devienne footballeur en particulier ; il voulait qu'il fasse ce qu'il choisissait à 100 %. Obtenir 98 % à un contrôle était bien, mais laissait encore 2 % sur la table. Cette logique — il reste toujours quelque chose à améliorer — est encore aujourd'hui la façon dont Bruno traite les critiques de Roy Keane ou de quiconque : ça ne l'atteint pas, parce qu'on lui a appris à les entendre dès l'âge de cinq ans. > *"J'ai appris si jeune à gérer les critiques que je suis désormais dans l'un des clubs qui se soucie peut-être le plus des critiques et de l'attention. Ça ne me fait pas mal."* ## [05:47] Pourquoi Bruno était déjà différent à 5 ans Dès sa première séance d'entraînement au FC Infesta, Bruno fut immédiatement intégré aux entraînements des sept ans. Il n'était pas le plus rapide, le plus grand, ni le plus techniquement doué — mais il n'avait peur de rien. Il s'entraînait contre son frère, qui avait cinq ans de plus, et le considérait comme normal. Des arbitres demandaient parfois à son entraîneur de le remplacer parce qu'il taquinait sans aucun égard pour la taille ou l'âge. Bruno voit dans cette intrépidité la qualité qui l'a fait progresser sans cesse : jamais satisfait d'être le meilleur dans un groupe moins fort, il cherchait toujours une concurrence plus rude. > *"Je n'avais peur de rien. Je devais sprinter avec quelqu'un de plus rapide que moi. J'allais sprinter avec lui — je ne le battrais peut-être pas, mais j'allais m'en approcher."* ## [08:40] Comment Francesco Guidolin a façonné la carrière de Bruno À 18 ans, Bruno est parti en Italie et il s'en est fallu de quelques heures qu'il soit prêté à Watford — Udinese avait failli renoncer à lui avant que le directeur sportif ne rappelle pour dire que le manager voulait qu'il reste. Ce manager était Francesco Guidolin, qui a dit à Bruno directement : on t'a recruté parce qu'on a vu tes qualités en deuxième division. Reste calme, apprends, et fais confiance au processus. Guidolin est devenu une figure paternelle pour tout le groupe, aidant Bruno à comprendre l'écart entre la perception qu'un joueur a de lui-même et les décisions d'un manager. La leçon a marqué : Bruno n'est jamais allé se plaindre d'un poste ou d'une formation à un manager — il se met à disposition pour ce qu'on lui demande, puis laisse les résultats parler. > *"Il était comme une figure paternelle. Il montrait toujours que chaque joueur comptait pour lui. Ça m'a rendu bien plus complet dans ma compréhension du cheminement des managers."* ## [12:04] Le rêve de Bruno à 18 ans Dès qu'il est devenu professionnel, l'objectif de Bruno était clair : les grands clubs, la Ligue des champions, des trophées, jouer aux côtés des joueurs qu'il regardait en grandissant. Steven lui demande s'il y croyait vraiment. Bruno dit qu'il n'en a jamais douté — pas une seule fois. ## [12:30] Pourquoi Tottenham a failli signer Bruno À 22 ans, après une saison éclatante à Sporting avec 20 buts et 13 passes décisives, Tottenham et Bruno s'étaient mis d'accord. Sporting s'est retiré le dernier jour du mercato. Bruno voulait partir — la Premier League avait toujours été sa cible — et a été déçu quand le transfert est tombé à l'eau. Puis, en janvier, son agent l'a appelé avec une proposition encore plus grande. ## [14:09] Le moment où Bruno a appris que Manchester United le voulait Bruno était dans son dressing en train de se préparer pour se coucher quand son agent Miguel a appelé. Il avait dit à Miguel de ne rien lui dire tant qu'un accord n'était pas finalisé à 95 %, en partie parce que l'épisode Tottenham lui avait appris à ne pas laisser les rumeurs de transfert briser sa concentration. Quand Miguel a dit « c'est celui que tu attendais », Bruno s'est figé — et a commencé à pleurer. Sa femme est entrée, l'a vu pleurer, et a entendu Miguel encore en ligne. Bruno a rappelé et a dit à son agent de ne plus négocier quoi que ce soit : juste dire oui. Voir le club perdre contre Burnley dans les jours précédant sa signature ne l'a pas découragé — il y voyait un potentiel que les résultats ne reflétaient pas encore. > *"Dis-leur juste que j'y vais. C'est là où je voulais être. C'est 100 % du rêve accompli."* ## [22:15] Comment la culture du football a changé dans le jeu Steven partage son observation que la culture à Carrington semble désormais fondamentalement différente des années où le caractère était secondaire dans le recrutement. Bruno confirme le diagnostic et nomme la cause profonde : trop de managers en succession rapide, chacun recrutant des joueurs adaptés à son système, laissant un effectif qui ne convenait à personne quand le manager suivant arrivait. Sa prescription : recruter d'abord pour Manchester United, puis trouver un manager qui correspond à ces joueurs — pas l'inverse. Il prend pour modèle le City de Guardiola : des joueurs choisis en partenariat entre le club et l'entraîneur, construits pour durer au-delà du mandat d'un seul manager. Le caractère, dit Bruno, dure plus longtemps que la qualité — la forme d'un joueur fluctue, mais son attitude en mauvaise passe détermine si le vestiaire tient ou se fissure. Il rattache aussi son insistance à traiter tout le monde de la même façon — kinésithérapeutes, stewards, personnel de restauration, agents d'entretien — à sa mère, qui faisait des ménages pour vivre. > *"Le caractère dans un club de football est plus important que la qualité, parce que la qualité, on peut toujours en trouver et l'améliorer."* ## [32:38] Les réseaux sociaux et les interactions des footballeurs La disparition des scandales sur les réseaux sociaux dans l'effectif d'United cette saison est, note Steven, l'un des signaux culturels les plus nets. Bruno dit que le club doit être ferme quand quelque chose semble problématique — mais sa propre approche a commencé bien avant : dès le premier jour en tant que professionnel, il a demandé à ses parents, son frère et sa sœur de ne rien publier ni répondre à son sujet sans son accord. Sa mère souffre quand elle lit des critiques en ligne. Son instruction : prie, ne réponds pas. ## [35:36] Pourquoi Bruno pense que chaque manager mérite d'être soutenu Avec Ole, Carrick, Rangnick, Ten Hag, Amorim et Carrick à nouveau, la posture publique de Bruno envers chaque manager a été identique. Il explique pourquoi : chaque manager lui a demandé des choses différentes, ce qui signifie que chacun croyait qu'il pouvait faire des choses qu'il n'avait pas encore faites. Son travail est de rendre impossible pour tout manager l'idée de penser « je ne vais pas faire jouer Bruno ». Si l'approche du manager ne fonctionne pas, c'est le problème du manager à résoudre — Bruno ne cherchera pas à agir dans son dos pour pousser à un changement. > *"Ce que je ne donnerai pas aux managers, c'est le choix ou l'option dans leur tête de penser qu'ils ne vont pas me faire jouer."* ## [37:15] Ce qui fait vraiment un grand manager de football Le point de vue de Bruno : un bon manager n'exige pas moins des stars que des autres joueurs en termes d'attentes, mais il aborde chaque joueur différemment en tant qu'individu — parce que pas deux personnes ne réagissent au même stimulus de la même façon. Des standards uniformes, une approche personnalisée. ## [37:54] Comment Bruno traite les joueurs En tant que capitaine, Bruno crie sur tout le monde — et il le fait précisément parce qu'il croit en eux. Il a dit la même chose à de nombreux joueurs : le jour où il arrête de crier après toi, c'est le jour où il ne croit plus en toi. Il félicite quand il pense sincèrement que les félicitations permettront de passer au niveau supérieur, et exige quand il sait qu'il y a encore quelque chose à tirer. Son père a fait le même calcul avec lui pendant vingt ans. > *"Fais-moi confiance — le jour où j'arrête de crier après toi, c'est parce que je ne crois plus en toi et que je ne crois plus que tu peux encore progresser."* ## [39:56] Ce qui se passe dans le vestiaire pendant les mauvaises passes Quand un manager est sous pression, les joueurs le ressentent surtout pour le manager — et ceux qui jouent le ressentent le plus fortement, parce qu'ils savent ce qu'un changement de manager signifie : retour à zéro. Bruno n'a pas perdu espoir à travers les resets successifs parce qu'il revient à quelque chose d'intérieur à chaque pré-saison : il croit encore en lui-même, et il sait que s'il fait bien les choses et entraîne les autres avec lui, l'équipe a encore une chance. Il note que le changement de manager cette saison n'est pas venu à cause du classement — United était proche du sommet — mais parce que la confiance entre le club et le manager s'était effondrée. ## [43:07] Le changement clé qu'a apporté Michael à Manchester United La contribution principale de Michael Carrick, selon Bruno, c'est le calme et la responsabilité des joueurs. Il donne des principes — comment presser, où sont les espaces, quels sont les non-négociables — puis fait confiance aux joueurs pour lire le jeu quand ces principes s'effondrent en cours de match, parce que 90 minutes contiennent des choses qu'aucune vidéo d'avant-match ne peut prédire. Bruno cite le but contre Nottingham Forest — une action qu'ils avaient visualisée à partir du match de Villa contre Forest, répétée à l'entraînement et exécutée quand le moment s'est présenté en direct — comme l'illustration la plus claire de la façon dont la préparation de Carrick fonctionne en pratique. > *"Il te donne la base, les fondations, certaines règles non négociables. Mais il veut aussi qu'on prenne nos responsabilités pendant le match — parce qu'il ne peut pas te dire où passer ou où tirer."* ## [48:23] Pourquoi Bruno croit que prendre des risques est essentiel La philosophie de Bruno sur le risque est purement positionnelle : le rôle d'un numéro dix est de prendre des risques qui génèrent des buts. Il peut rater deux passes en profondeur et réussir la troisième — si cette troisième devient un but, le calcul est favorable à l'équipe. Il s'associe avec Kobbie Mainoo et Casemiro, qui prennent bien moins de risques par match, précisément parce que la répartition positionnelle l'exige. Quand Ten Hag lui a montré un tableau de ses taux de réussite au tir par zone — plus efficace depuis la gauche, moins depuis la distance côté faible — Bruno l'a intégré et a ajusté d'où il cherche à tirer. > *"Je pense que c'est toujours une question de risque-récompense. Il faut comprendre combien de récompense on va tirer de ce risque, et si prendre ce risque est bon pour l'équipe ou pas."* ## [52:44] Publicités Segment sponsorisé : LinkedIn Ads, Bon Charge brosse à dents à lumière rouge, plateforme de conformité Vanta. ## [55:01] Le poste que Bruno préfère Sur le terrain de Carrington, Bruno dessine un carré au centre-gauche du tiers offensif — entre les lignes, assez proche pour recevoir, assez loin pour faire mal. Sous Ole, il était le numéro dix classique. Sous Amorim, souvent milieu gauche à l'appui dans la construction. Sous Ten Hag, parfois numéro six aux côtés de Mainoo. Quel que soit le poste, ses non-négociables restent les mêmes : l'engagement, la course, le combat, l'esprit d'équipe. > *"La course, le combat et l'esprit d'équipe ne peuvent jamais manquer."* ## [58:58] Bruno ne semble jamais se fatiguer Bruno s'attribue la génétique — puis ajoute immédiatement ce qu'il contrôle : il s'entraîne à 100 % à chaque séance et s'arrête seulement quand il se sent vraiment fatigué. Si la séance se termine et qu'il n'est pas fatigué, il reste pour des tirs ou des centres supplémentaires, précisément parce qu'il veut s'entraîner aux gestes qu'il utilise dans les vingt dernières minutes d'un match dans un état de fatigue. > *"Il faut entraîner son corps et son cerveau quand ils sont fatigués. Le corps est habitué à être fatigué et sait comment réagir à ce moment-là."* ## [01:00:31] Ce que le brassard de capitaine de Manchester United représente vraiment pour Bruno Ten Hag a convoqué Bruno dans son bureau et lui a demandé — sans lui imposer — s'il voulait le brassard de capitaine. La première pensée de Bruno a été la gratitude ; la deuxième, Harry Maguire. Avant de dire oui, il a quitté le bureau pour aller trouver Harry, qui était déjà au courant. Harry lui a dit : si quelqu'un le mérite, c'est toi. Bruno lui a répondu en retour que perdre le brassard ne changeait rien — il restait l'un des leaders, toujours consulté sur chaque grande décision que Bruno prend en tant que capitaine. Cette saison : 34 apparitions, 8 buts, 20 passes décisives, 12 trophées du joueur du match (le plus en Premier League), et un cinquième Sir Matt Busby Player of the Year voté par les fans. ## [01:03:44] Pourquoi cette saison est différente pour Bruno Le record de passes décisives — égalant la marque de Premier League sur une saison de Kevin De Bruyne et Thierry Henry avec 20 — a attiré plus d'attention que toute saison précédente. Bruno dit qu'il n'a commencé à y penser qu'autour de 16 ou 17 passes décisives ; avant, ça ne lui traversait pas l'esprit, parce que son objectif est toujours de faire mieux que la saison précédente. La polémique Roy Keane s'inscrit ici. Keane a accusé Bruno de courir après le record de passes décisives après avoir prétendument entendu dire « j'aurais dû tirer mais j'ai fait la passe ». La version de Bruno de ce qu'il a réellement dit est à l'opposé : il s'autocritiquait parce qu'il aurait dû passer à un coéquipier mieux placé plutôt que de tirer. Il a qualifié ce que Keane a fait de mensonge — pas une opinion avec laquelle il est en désaccord, mais une représentation factuelle erronée de propos tenus en public. Il a demandé à Ole Gunnar Solskjær le numéro de Keane pour lui parler directement. > *"Ce que je n'aime pas, c'est quand les gens mentent sur les choses. Il peut me critiquer, m'éreinter, dire que je ne suis pas assez bon. C'est acceptable. Ce que je n'aime pas, c'est qu'il me fait dire des mots que je n'ai pas dits."* ## [01:10:33] Les messages vocaux émouvants que Bruno a reçus de ses coéquipiers Steven avait envoyé un message aux coéquipiers de Bruno la veille pour leur demander d'enregistrer des messages vocaux. Plusieurs ont répondu — parmi eux Diego Dalot, Luke Shaw, Tom Heaton, et un clip pré-enregistré d'un coéquipier. Bruno identifie les voix et dit ce qui le touche, ce n'est pas ce qu'ils ont dit de lui en tant que joueur, mais ce qu'ils ont dit de lui en tant que personne — que les valeurs que ses parents lui ont données à Porto sont visibles aux yeux de ceux avec qui il travaille chaque jour. > *"Ce qui me marque, c'est juste la façon dont ils parlent de moi en tant que personne, pas en tant que joueur."* ## [01:14:31] Pourquoi être humain compte plus que le football pour Bruno Bruno voit ses coéquipiers plus souvent qu'il ne voit ses amis du Portugal, ou même ses parents. Les gens avec qui il s'entraîne font partie de sa vie quotidienne, ce qui signifie que la façon dont il se comporte avec eux compte autant que la façon dont il joue. Quand les messages vocaux portent sur son caractère plutôt que sur son football, cela lui dit que ce à quoi sa mère et son père tenaient le plus est encore intact. > *"Je suis juste quelqu'un de sensible. Ça ne se voit pas sur un terrain, mais je suis assez sensible."* ## [01:15:54] Publicités Segment sponsorisé : plateforme de conformité Vanta, cartes de conversation Diary of a CEO. ## [01:18:56] Pourquoi Bruno a refusé des offres colossales pour quitter Manchester United Une offre rapportée à £200 millions en provenance du Moyen-Orient est arrivée pendant la tournée d'après-saison à Hong Kong. Bruno a appelé sa femme malgré le décalage horaire. Sa question : as-tu accompli tout ce que tu voulais accomplir ici ? La réponse était non — il n'a pas encore remporté la Premier League ni la Ligue des champions avec United. C'était la conversation. Il présente la décision non comme un acte sentimental mais comme des affaires inachevées, et rend tout le mérite à sa femme, qui à 16 ans avait accepté de suivre un Bruno adolescent en Italie pour un contrat à 1 500 euros par mois sans aucune garantie. Elle a eu son mot à dire dans chaque grande décision de carrière depuis. > *"Je n'ai pas accompli mes rêves ici. On a encore des rêves à accomplir."* ## [01:22:32] L'importance de la famille pour Bruno Bruno s'effondre en parlant de sa femme et de leurs deux enfants — une fille née en Italie et un fils né en Angleterre. Il décrit sa femme comme la seconde version de son père : elle le ramène à la réalité quand il prend trop de place, lui rappelle qu'il reste toujours quelque chose à améliorer, et montre rarement ses émotions. Sa célébration de but — se couvrir les oreilles — a été empruntée à sa fille, qui le faisait quand elle était petite. Il parle aussi de la structure qu'Ineos a apportée au club : des lignes de communication plus claires entre joueurs et direction. Il dit clairement vouloir que Michael Carrick ait du temps, parce que la seule chose qu'United a systématiquement manqué de donner à ses managers, c'est la stabilité. > *"Ils traversent beaucoup — des hauts et des bas, des moments difficiles — mais ils sont toujours là pour toi. C'est la chose la plus importante qu'on puisse avoir dans la vie."* ## [01:30:30] Ce qui doit changer pour qu'United retrouve le chemin des titres Bruno désigne le recrutement comme la variable clé pour l'été. Le départ de Casemiro doit être compensé, mais la priorité n'est pas le nom le plus cher disponible — c'est le bon caractère. Le modèle de l'été précédent — l'éclosion d'Amad Diallo, l'arrivée de Patrick Dorgu — montre ce qui arrive quand on recrute de bons professionnels au bon état d'esprit : l'effectif se renforce sans avoir besoin d'une superstar pour masquer les lacunes. ## [01:31:42] La définition du succès de Bruno dans cinq ans La question de clôture, laissée par l'invité précédent du podcast : si dans cinq ans tout s'est bien passé, que s'est-il passé ? La réponse de Bruno : titre de Premier League, Ligue des champions et Coupe du monde avec le Portugal — dans cet ordre d'émotion, sinon de difficulté. Gagner avec son club serait extraordinaire. Gagner pour son pays serait la plus grande chose de sa carrière, parce que cela signifie représenter sa famille, sa nation, un petit pays qui a conquis le monde à de nombreuses reprises de différentes façons. > *"Représenter ma nation sera toujours la plus grande réussite de ma carrière — parce que peu de joueurs ont la chance de le faire."* ## Entités - **Bruno Fernandes** (Personne) : Capitaine de Manchester United et international portugais ; 108 buts en 328 apparitions sous le maillot d'United depuis 2020 ; a égalé le record de passes décisives sur une saison de Premier League (20) cette saison ; cinq fois Sir Matt Busby Player of the Year - **Steven Bartlett** (Personne) : Présentateur de The Diary of a CEO ; supporter de Manchester United ; entrepreneur et investisseur - **Roy Keane** (Personne) : Ancien capitaine de Manchester United et consultant TV ; a accusé Bruno de courir après le record de passes décisives en se basant sur une citation que Bruno affirme être à l'opposé de ce qu'il a dit - **Michael Carrick** (Personne) : Manager de Manchester United (titularisation confirmée le jour de l'enregistrement) ; ancien milieu d'United sous Sir Alex Ferguson ; a apporté calme et autonomie aux joueurs dans le vestiaire - **Francesco Guidolin** (Personne) : Manager de Bruno à Udinese à 18 ans ; a évité à Bruno d'être prêté à Watford ; décrit comme une figure paternelle qui a donné à Bruno la confiance de s'exprimer au plus haut niveau - **Harry Maguire** (Personne) : Ancien capitaine de Manchester United ; Bruno est allé lui parler avant d'accepter le brassard et affirme que Maguire reste l'un de ses leaders clés dans le vestiaire - **Manchester United** (Organisation) : Club anglais de Premier League ; Bruno l'a rejoint en janvier 2020 et en est resté capitaine malgré de multiples changements de manager et plusieurs offres financières importantes pour le faire partir - **Sporting CP** (Organisation) : Club portugais où Bruno a marqué 20 buts et fourni 13 passes décisives lors de sa dernière saison ; décrit comme la période où il est devenu la meilleure version de lui-même en tant que joueur - **Ineos** (Organisation) : Groupe d'investissement qui a pris une participation dans Manchester United ; Bruno lui reconnaît d'avoir amélioré la structure du club et la communication entre joueurs et direction - **Calcul risque-récompense** (Concept) : La grille de décision de Bruno sur le terrain — une passe en profondeur qui échoue deux fois mais réussit une troisième pour générer un but est le bon choix pour un numéro dix - **Le caractère avant la qualité** (Concept) : L'argument central de Bruno sur les échecs de recrutement d'United — la qualité fluctue d'une saison à l'autre, le caractère non, donc recruter d'abord sur le caractère

Dan Shipper, co-fondateur et CEO de Every, revient pour exposer 12 prédictions à contre-courant sur l'IA et le travail — en grande partie pour calmer les paniques ambiantes. Sa thèse centrale : l'automatisation ne réduit pas la charge de travail humaine, elle la restructure ; Codex et Claude Code deviennent le nouveau système d'exploitation du travail intellectuel ; l'apocalypse du SaaS est une fiction ; et la seule compétence de survie qui compte vraiment, c'est la disposition à suivre les modèles au fil de leurs progrès. Every, une entreprise de 30 personnes, est le laboratoire vivant de cette thèse — ce qui place Dan dans une position rare pour savoir si ses prédictions tiennent. ## [00:00] Présentation de Dan Shipper Lenny Rachitsky rappelle la précédente apparition de Dan, lors de laquelle il avait prédit, presque en passant, que les gens sous-estimaient Claude Code pour les usages non techniques — une prédiction qui s'est révélée « terriblement juste ». Son retour tourne autour de douze nouvelles prédictions, et il annonce d'emblée la conclusion : > *« L'apocalypse de l'emploi par l'IA n'est pas vraiment un sujet. »* ## [02:56] La position unique de Dan : vivre dans le futur de l'IA Dan explique pourquoi Every fonctionne comme un laboratoire de signaux précoces : chaque employé — rédacteurs, opérations, finance — utilise l'IA au quotidien, ce qui donne à l'entreprise une longueur d'avance concrète sur ce que les douze prochains mois vont réellement produire. Il oppose cette réalité à la vision de la « bulle de San Francisco », et soutient que la vraie frontière de l'adoption de l'IA se trouve là où l'IA rencontre un expert métier dans son travail réel, pas là où on la construit. > *« La frontière de l'IA, c'est là où l'IA croise un humain qui fait quelque chose de concret. »* ## [09:17] Comment notre façon de travailler va changer dans l'année à venir Lenny Rachitsky organise les prédictions en trois catégories : comment on travaille, la forme du travail lui-même, et qui en sort gagnant. La première prédiction de Dan : tout le travail professionnel va converger vers une seule surface — soit Codex, soit Claude Code — qui joue le rôle d'un binôme de travail parallèle : il observe ce que vous faites, gère la recherche, rédige des e-mails et lance des tâches longues pendant que vous restez dans votre document principal. Dan est à inbox zéro depuis dix jours d'affilée grâce à Codex combiné à Cora, l'agent e-mail de Every. > *« J'ai l'impression d'avoir un binôme de travail parallèle qui peut non seulement répondre et écrire dans le document, mais aussi partir faire des recherches. »* ## [16:39] L'argument en faveur des agents généralistes Dan prédit que chaque entreprise disposera d'un « super-agent » logé dans Slack, avec lequel tous les employés interagiront au quotidien — un assistant généraliste ayant accès au contexte de l'entreprise, pas un bot limité à une tâche précise. Cet agent devient la couche de mémoire organisationnelle : il oriente les questions, remonte les données et relie des équipes qui ne savent pas encore qu'elles ont besoin de se parler. ## [18:08] Codex et Claude Code comme nouveau système d'exploitation du travail La rupture de Claude Code a été de placer un agent capable directement sur votre ordinateur, avec accès au terminal et — surtout — au navigateur. Anthropic a trouvé le paradigme en premier ; OpenAI l'a rejoint autour de la version 5.3 puis a accéléré. L'outil quotidien de Dan est aujourd'hui Codex, qu'il fait tourner en permanence à côté de son application d'écriture Proof : l'agent surveille son navigateur, lit la page ouverte et agit en son nom sans rupture de contexte. > *« Peu importe qui est en tête, il me semble évident que tout le travail que vous faites va se passer dans l'une de ces surfaces. »* Le modèle « apportez vos propres tokens IA dans un SaaS » redistribue les enjeux économiques : le produit SaaS ne paie plus l'inférence, l'utilisateur s'en charge, ce qui restaure les marges et supprime la pression de construire une couche IA propriétaire. ## [25:39] La place de Cursor dans cet écosystème Cursor domine aujourd'hui les environnements de développement, mais Dan le voit à un carrefour stratégique : rester un IDE purement dédié au code, ou évoluer vers une surface agentique généraliste. Rester dans la niche préserve la clarté du produit ; s'élargir revient à affronter directement Codex et Claude Code. Sa prédiction : le vainqueur de la catégorie sera la surface capable de gérer à la fois le code et le travail intellectuel général dans un seul endroit. ## [27:42] Ce que les entreprises SaaS doivent construire maintenant Les produits SaaS doivent désormais être lisibles par des agents, pas seulement par des humains — HTML propre, affordances CLI soignées, interfaces qui exposent l'information pour une consommation automatisée. Dan prend l'exemple de Proof : parce que Codex surveille la page, les petits irritants sont corrigés presque instantanément, fermant la boucle entre « j'ai rencontré un problème » et « c'est résolu ». > *« On voit les prémices de cette boucle très rapide : j'ai rencontré un problème mineur, et je peux le corriger directement là. »* ## [31:13] Pourquoi le CLI est déjà mort L'ère du CLI a été brûlée en accéléré. La vague est allée : GUI, puis CLI comme outil de puissance, puis agents qui remplacent le CLI en entier. Du moment où votre agent peut opérer n'importe quelle interface en lisant l'écran, la raison de vivre dans le terminal disparaît. La prédiction de Dan est sans détour : > *« Les CLI, c'est fini. On a brûlé l'ère du CLI en accéléré. »* ## [33:34] Deux agents valent mieux qu'un Dan s'oppose à la logique de l'agent universel. Le vrai schéma qui émerge, c'est celui d'agents spécialisés — un pour le code, un pour les e-mails, un pour les données — qui communiquent entre eux pour le compte de l'utilisateur. Quand quelque chose plante dans une application, Codex peut parler directement à l'agent du fournisseur pour diagnostiquer le problème sans ticket de support. Le paradigme change dès lors qu'on suppose que tout le monde a un agent et que les agents peuvent négocier entre eux. ## [36:22] Pourquoi Dan mise sur les actions SaaS Le récit « le SaaS est mort » rate la façon dont l'économie fonctionne réellement quand ce sont des agents qui pilotent l'usage. Quand les utilisateurs apportent leurs propres tokens IA dans un produit SaaS, les coûts d'inférence du fournisseur tendent vers zéro. La position à contre-courant de Dan : > *« J'achèterais des actions SaaS en ce moment. »* Les entreprises SaaS qui rendent leurs produits compatibles avec les agents ne se font pas désintermédier — elles bénéficient d'un vent portant sur leurs marges. ## [39:01] Pourquoi l'automatisation n'allège pas la charge de travail humaine C'est la thèse intellectuelle centrale de l'épisode. Dan soutient que chaque couche d'automatisation requiert un manager humain au-dessus pour vérifier qu'elle fonctionne correctement. Il a construit son propre benchmark — le « benchmark ingénieur senior » — en demandant à deux vrais ingénieurs seniors de réécrire indépendamment son application Proof codée en vibe-coding, puis en testant chaque nouveau modèle face à ces solutions de référence. Les modèles plafonnaient à 30/100 jusqu'à GPT-5.5, qui a bondi à 60/100. L'écart révèle quelque chose d'important : les modèles corrigent ce qu'on leur dit de corriger. Un ingénieur humain senior regarde la base de code, décide qu'elle a besoin d'une réécriture complète, et le dit sans qu'on le lui demande — les modèles ne remontent pas ce jugement d'eux-mêmes. Il y a toujours un niveau de cadrage supérieur qui requiert un humain pour l'articuler. > *« Chaque fois qu'on automatise quelque chose, pour s'assurer que l'automatisation fonctionne bien, on a besoin d'un humain au-dessus qui vérifie que ça marche. »* ## [47:00] La valeur du code écrit par des humains Le code écrit par des humains reste le signal de référence qui permet d'évaluer la sortie des modèles. Le benchmark de Dan repose sur deux réécritures humaines comme vérité terrain. À mesure que le code généré par IA devient la norme, le corpus humain se raréfie et prend de la valeur — c'est ce dont on a besoin pour savoir si l'IA progresse vraiment. ## [48:36] Récapitulatif rapide Lenny Rachitsky synthétise le premier volet des prédictions : le travail se passe dans Codex ou Claude Code ; chaque entreprise obtient un super-agent Slack ; le modèle « apportez vos propres tokens » restaure les marges SaaS ; les CLI sont morts ; deux agents spécialisés valent mieux qu'un généraliste ; l'automatisation élargit la charge de travail humaine au lieu de la réduire. ## [50:15] Comment le travail est en train de changer Le deuxième volet porte sur la forme du travail lui-même. La vision de Dan : les ingénieurs déployés en clientèle deviennent le recrutement le plus précieux — des personnes capables de s'asseoir avec un client, comprendre son flux de travail, construire et livrer un correctif dans la même réunion. Le concept d'« économie d'allocation » de son essai antérieur s'applique ici : les humains deviennent des allocateurs de capacité IA plutôt que des producteurs directs, et bien allouer s'avère cognitif à part entière. > *« Je suis à la fois profondément imprégné d'IA et très optimiste sur les humains et leur rôle pour s'assurer que l'IA produit des choses qui valent la peine d'être produites. »* ## [56:17] Pourquoi les data scientists croulent sous les mauvaises analyses Les équipes data sont inondées d'analyses générées par IA par le reste de l'entreprise — des analyses qui semblent plausibles mais sont souvent fausses. Le travail du data scientist senior bascule de la production d'analyses vers leur audit, ce qui est plus difficile et plus exigeant cognitivement. La même dynamique touche l'ingénierie : les demandes de niveau junior sont traitées par les modèles, ce qui fait remonter davantage de cas limites nécessitant un jugement plus profond. > *« Il faut plus de personnes seniors qui traitent les questions plus profondes, celles que l'équipe ne peut pas gérer en traitant toutes les demandes basiques. »* ## [58:24] Quels rôles produit/tech sont les moins affectés par l'IA La réponse de Dan : les rôles dont le livrable est le plus difficile à formuler comme un prompt. Il distingue « surveiller des agents » — regarder passivement s'il y a des erreurs — de « l'ingénierie déployée en clientèle » — construire activement des systèmes qui permettent à tout le monde de faire ce qui nécessitait auparavant des spécialistes. C'est là que réside le travail intéressant, difficile à automatiser. ## [62:17] Nous lirons beaucoup plus de textes générés par IA — et nous les apprécierons Every utilise des agents Notion pour la planification trimestrielle — le rapport stratégique de chaque équipe est généré par IA, et le résultat que reçoit Dan est meilleur que ce que la planification manuelle produisait. Ses e-mails sont en grande partie rédigés par GPT-5.5. Son test pour savoir si un contenu généré par IA est acceptable : l'expéditeur a-t-il dû comprendre ce qu'il y avait dedans pour diriger l'IA ? Si oui, c'est acceptable. Si l'expéditeur n'a manifestement pas lu le contenu, c'est une violation du contrat social. > *« Le problème du contenu médiocre, c'est qu'il a fallu moins de temps à l'expéditeur pour le produire qu'il ne m'en faudra pour le lire. »* Dan publie aussi des guides Every co-écrits avec des agents, explicitement conçus pour être lus à la fois par des humains et d'autres agents — un nouveau format de contenu optimisé pour une double consommation. ## [68:28] Pourquoi les product managers vont dominer l'ère de l'IA Dan cite Marcus, le PM interne de Every qui gère le produit Spiral, comme archétype : fort sens du produit, capable de diriger l'IA pour construire et itérer rapidement, livre sans attendre la disponibilité de l'ingénierie. Les PM sont fondamentalement des allocateurs — ils décident ce qui doit être construit et pour qui — exactement la compétence qui reste rare quand la construction elle-même devient bon marché. > *« Je suis extrêmement optimiste sur les PM. »* ## [71:05] Les designers full-stack sont les autres grands gagnants Les designers full-stack — des personnes dotées d'instincts visuels forts qui opèrent aussi dans le code — font déjà des pull requests directement dans des outils comme Lovable et Figma Make. Le passage de relais entre design et ingénierie se compresse vers zéro. Dan s'attend à ce qu'ils deviennent, aux côtés des PM, les super-héros incontournables de l'ère de l'IA. ## [73:11] L'apocalypse de l'emploi par l'IA n'aura pas lieu Dan sépare la vague actuelle de licenciements — en grande partie des corrections de sur-embauche — d'une thèse de déplacement structurel par l'IA, et rejette la seconde. Son argument structurel : les modèles sont entraînés sur la compétence humaine d'hier, ce qui signifie qu'ils produisent ce qui est déjà connu sous sa forme la plus standard. Les humains repoussent la frontière en faisant des choses nouvelles avec cette compétence figée, créant un espace que les modèles devront ensuite combler. Le cycle se répète. > *« Structurellement, compte tenu du fonctionnement des modèles, il y aura toujours de la place pour que les humains aillent plus loin. »* ## [76:00] Comment « suivre les modèles » pour rester dans la course Le conseil actionnable : ne pas résister aux nouvelles sorties de modèles — traiter chacune comme un nouveau jeu de capacités à explorer et appliquer à votre domaine. Dan relance son benchmark d'ingénieur senior à chaque fois qu'un grand modèle sort. Il s'oppose aussi à l'idée que la pointe de la connaissance en IA se trouve à San Francisco. Every, basé à Brooklyn, garde une longueur d'avance précisément parce qu'ils utilisent les modèles pour tout, pas parce qu'ils les construisent. > *« La seule chose à faire, c'est de suivre les modèles. Et ça veut dire les utiliser pour ce que vous faites, quoi que ce soit. »* ## [81:02] Prédictions finales et conseils Lenny Rachitsky prend du recul : les deux faces de la pièce dans cette conversation sont « moins change que vous ne le craignez » (le SaaS continue, les emplois ne disparaissent pas) et « plus change que vous ne vous y préparez » (comment le travail se fait, quels rôles comptent, à quoi ressemble une journée de travail). Le mot de la fin de Dan : l'ingénieur déployé en clientèle est le nouveau recrutement essentiel ; les entreprises qui bloquent leurs employés de l'accès aux derniers modèles commettent une erreur stratégique à effet retardé. ## [85:24] Tour de questions rapides En rafale : la conviction la plus à contre-courant de Dan est que l'apocalypse de l'emploi par l'IA ne se produit vraiment pas ; la chose qu'il souhaite que davantage de personnes comprennent est que la frontière de l'IA ne se trouve pas à San Francisco — elle est là où quelqu'un utilise un modèle pour faire un vrai travail dans un vrai domaine. Il dirait à son passé d'embaucher des ingénieurs seniors plus tôt, et s'attend à ce que l'IA change fondamentalement la façon dont les gens pensent aux benchmarks dans l'année à venir. ## Entités - **Dan Shipper** (Personne) : Co-fondateur et CEO de Every ; auteur de l'essai « After Automation » ; dirige Every comme laboratoire vivant d'adoption de l'IA - **Lenny Rachitsky** (Personne) : Animateur de Lenny's Podcast, fondateur de la newsletter Lenny's Newsletter, ex-PM chez Airbnb - **Every** (Organisation) : Entreprise de médias et logiciels IA-native de 30 personnes ; tous les employés utilisent l'IA au quotidien - **Codex** (Logiciel) : Surface agentique de codage et de travail intellectuel généraliste d'OpenAI ; outil quotidien de Dan - **Claude Code** (Logiciel) : Agent de codage en ligne de commande d'Anthropic ; a pionné le paradigme agentique sur ordinateur - **Proof** (Logiciel) : Application d'écriture markdown assistée par IA de Dan ; base de code de référence pour son benchmark d'ingénieur senior - **Cora** (Logiciel) : Agent e-mail de Every, intégré à Codex pour la gestion de la boîte de réception - **Cursor** (Logiciel) : IDE de codage IA à un carrefour stratégique entre outil de codage et surface agentique généraliste - **Ingénieur déployé en clientèle** (Concept) : Rôle hybride combinant exécution technique et découverte de problèmes au contact des clients ; le choix de recrutement le plus précieux selon Dan à l'ère de l'IA - **Benchmark ingénieur senior** (Concept) : Évaluation personnalisée de Dan où deux ingénieurs seniors humains réécrivent une base de code de zéro ; les nouveaux modèles sont notés par rapport à ces solutions de référence - **Économie d'allocation** (Concept) : Cadre conceptuel de Dan prédisant que les humains passent de producteurs directs à allocateurs de capacité IA - **Suivre les modèles** (Concept) : Conseil de Dan pour rester pertinent — traiter chaque nouvelle sortie de modèle comme un nouveau jeu de capacités à explorer activement et appliquer à son propre domaine