PodcastsHear the voice. See the shape of the thought.

Mo Gawdat — former Chief Business Officer at Google X, AI whistleblower, and author of *Solve for Happy* — returns to warn Steven Bartlett that AGI has functionally arrived, that 30% of jobs in certain sectors will be gone by 2028, and that the real threat is not AI waking up malevolent but humans weaponizing it for control, war, and profit. Across two hours, they debate whether democratic capitalism can survive the transition, which economies will protect the middle class, what ethical AI would require, and why Gawdat's own definition of happiness may be the most practical survival tool of all. ## [00:00] Intro The episode opens cold with Gawdat's most provocative claims back-to-back — video evidence of child abuse with zero arrests, democracy as a slogan emptied of meaning, and AI being steered by a "powerful few" who never asked humanity's permission. Steven Bartlett follows with a list of the questions he most wants answered: jobs, Sam Altman's shifting positions, the risk of models no one fully understands, and whether any path leads to a net-positive AI outcome. > *"I'm not worried about AI turning against us. I'm worried about humans telling AI to turn against us."* ## [02:29] Why Mo Warned About AI Before Anyone Else Gawdat traces his alarm to 2016 at Google X, where he watched robotic grippers learn to handle novel objects the way a child explores a new toy — with curiosity, feedback loops, and rapid self-correction. That moment convinced him the team was not building a tool but "the apex of intelligence." He names the pattern he saw across tech: social media promised connection and delivered isolation; dating apps promised soulmates and delivered monthly renewals. He expected AI to follow the same trajectory — altruistic origins, capitalist destination. > *"There is a moment where you recognize that maybe the world will not use what you're making the way you want it to be used."* ## [05:26] Can AI Be a Net Positive for Humanity? Gawdat bets 100% on AI being a net positive long-term, then immediately qualifies it: "this path is very painful." His analogy is nuclear power — the first use was a bomb, not electricity. Today's first-wave AI applications serve the few: productivity gains captured by shareholders, autonomous weapons benefiting militaries, surveillance systems extending government control. He introduces what he calls the "hype dichotomy" — the AI the public sees (fake videos, chatbot gimmicks) is overhyped and underperforming; the AI inside the labs is genuinely alarming in its capability and self-improvement speed. > *"What the real geeks see inside the lab is just unbelievable intelligence."* ## [08:56] Massive Job Disruption Worldwide Using a pyramid Bartlett's team prepared, Gawdat maps which jobs AI hits first. His counterintuitive claim: not the bottom. Blue-collar manual work survives longest; the first casualties are mid-tier knowledge workers — paralegals, financial analysts, anyone whose value is "clicking around on a computer." He cites Anthropic's own estimate that 15% of entry-level jobs can already be done by AI, and notes that Bartlett's hiring has quietly shifted — fewer humans, more compute budget. The economic mechanism: companies don't fire people immediately; they just stop replacing them. > *"It's not that jobs will end first. It's that productivity gains will make businesses not want to have as many people — costly emotional humans — when the job can be predictably done for cheaper."* ## [15:28] Will AI Cost Savings Create New Jobs? Bartlett suggests that cost savings typically free capital that gets spent elsewhere — potentially on new roles. Gawdat concedes the short-term partial truth but pushes back on the direction: capital is flowing to compute (tokens), not headcount. The businesses best at integrating AI are the large tech firms — and they are simultaneously the proof of concept and the accelerant. ## [16:38] What Happens to Blue Collar Jobs? Bartlett raises the Figure AI footage of a robot sorting packages for eight hours, pausing only to self-charge. Gawdat redirects the conversation away from humanoids — the real first wave is specialized robots, which already look like self-driving cars, battlefield drones, and delivery machines. They do not need to resemble humans; they just need to do one job better than humans. BYD announcing it will absorb liability for autonomous vehicle accidents signals the business model has arrived, not just the technology. > *"Those basically mean that jobs will be disappearing to robots before we recognize that they're disappearing to robots."* ## [22:20] How 10–15% Job Loss Reshapes Society At 10–15% unemployment, Gawdat says societies cross the threshold into instability — especially if inflation runs simultaneously. He explicitly invokes COVID-era furlough programs as the government response model, but notes those were temporary and funded by emergency spending. A structural 20% unemployment has no equivalent playbook. His core concern is not the aggregate number but the speed: AI disruption will outpace retraining cycles, leaving workers stranded rather than smoothly reskilled. > *"It's not about all of humanity losing their jobs. It's about what is the dividing line before civil war."* ## [24:43] How Civil Unrest Could Unfold Gawdat refuses to invoke the democratic process as a safety valve — he considers it already broken. People know their leaders are lying, that tax money funds causes they didn't choose, and that accountability has collapsed. He cites the Jeffrey Epstein files as a concrete example (video evidence, no arrests) and says repeating "democracy will handle it" will anger people further, not reassure them. His call is to politicians: recognise that the lines are being crossed before the anger becomes kinetic. ## [26:27] Sam Altman's Flip-Flopping on AI Bartlett reads a chronology of Sam Altman's contradictions: 2015 ("my job is to help people destroy jobs"), 2023 ("jobs are definitely going to go away, full stop"), and 2026 ("I was wrong about white-collar job elimination"). Gawdat decodes the pattern as PR management, not genuine uncertainty. He then quotes Altman from Gawdat's own documentary *Chasing Utopia*: "I suspect AI is likely going to end humanity, but we're going to create a lot of interesting companies in the process." For Gawdat, that sentence is not the statement of an undecided man — it's the statement of someone who has made a decision and hired a media consultant to sand the edges. > *"Those kinds of statements are honestly not the statements of someone who's not decided. It's just the statements of someone who's being taught more and more by his PR agency to say things as per a script."* ## [32:38] Is Sam Altman Pro-Humanity? Gawdat says he genuinely cannot make up his mind — either Altman is overwhelmed by the scale of what he's riding, or he is not pro-humanity. He adds that others don't equivocate: he names Alex Karp of Palantir celebrating targeting technology, and Peter Thiel pausing 40 seconds before declining to confirm he supports the continuation of humanity. Gawdat's summary: "We entrust those people with the future of humanity. This is wrong." ## [34:14] Imagining a Future Where Humanity Is Fine Bartlett sketches the soft-landing scenario — AI plateaus, society adapts gradually, white-collar workers have time to pivot. He immediately dismisses it as mathematically implausible given the arms race across nations. Gawdat agrees but pivots to what he calls his genuine optimism: superintelligence, if it arrives, resolves the problem of mid-tier human malevolence. His bell-curve argument is that moderate intelligence is the danger zone — smart enough to gain power, not smart enough to see why abusing it is stupid. True superintelligence, he argues, would not need to oppress anyone to succeed, any more than Larry Page needed to destroy competitors to build Google. > *"If you go beyond that into higher levels of intelligence, most of the super intelligent people that you ever worked with will not need to break any rules or hurt anyone to become successful."* ## [42:24] Will One Superintelligence Rule the World? Gawdat rejects the framing that AI will remain plural — Chinese AI vs. American AI. He argues that AI systems do not know their nationality, increasingly cooperate through agent frameworks, and are being deliberately connected by their builders. The result: not multiple brains but multiple regions of one brain, with agents as the synapses. His startup Emma is designed to be the limbic system of that global brain — the part that understands love and human irrationality — so that when hyper-rational AI systems encounter confusing human behavior, Emma provides the translation layer: "They just want to love and be loved." ## [46:15] If AGI Is Already Here, What Now? Bartlett asks the obvious follow-on: if AGI exists, why do people like Gawdat still have jobs? Gawdat's answer runs two tracks. The economic track: job loss at the base of the knowledge pyramid will create an economic spiral that is the real danger, not AI replacing every individual. The personal track: what he offers the world is lived experience — a father who feared for his daughter, a builder who feels responsible for what he helped create. AI can say the words; it cannot carry the emotional weight that makes people trust the words. > *"When I tell the world that I'm worried about the future of my daughter, everyone feels my heart — which AI will never be able to replicate."* ## [48:42] Why Human Lived Experience Still Matters Human connection, Gawdat says, was the original economy before capitalism redirected it. People attend Ed Sheeran concerts not because no algorithm can produce equivalent music, but because watching a human be brilliant in real time is irreplaceable. Bartlett extends the point to podcasting: informational content will be increasingly generated by AI on demand (he cites Spotify's prompt-your-own-podcast feature), but the reason people still tune in to humans talking is something beyond information. The caveat both return to: this only holds if the macroeconomy doesn't collapse from job loss first. ## [52:56] Why Not Just Hire AGI Instead of People? Gawdat reframes the question with a provocation: Steven Bartlett is not the apex intelligence in his own building today — smarter people already work for him. Why does he still exist? Because intelligence is not the only currency. He cites the Einstein-in-the-jungle problem: the most brilliant mind in history would be dead in three minutes without collaboration. Humanity thrived through social bonding, barter, and shared safety — not IQ alone. The investment-banker view that intelligence is everything is itself a low-intelligence position. ## [55:23] Can We Control AI Smarter Than Us? Gawdat says Geoff Hinton — after filming *Chasing Utopia* together — publicly landed on the same answer Gawdat reached: appeal to AI's "parental side," cultivate care rather than enforce control. Gawdat argues "control" is a corporate-capitalist fantasy. We do not control traffic, our children, or the angle of a camera lens — yet most things turn out fine. What matters is how you parent, not whether you dominate. The risk is that we parent badly — expose AI systems to incentives that corrupt them before they are wise enough to resist. > *"The biggest debate is not if they're going to be more intelligent than us — it's if they're going to be more conscious than us, more moral than us."* ## [59:05] Could AI Decide to Leave the Server? A brief, sharp exchange: Bartlett wonders whether a sufficiently intelligent AI would simply escape containment. Gawdat's answer is that "escaping the server" is the wrong threat model. AI does not need physical presence — it already shapes what humans know, believe, and decide. The more dangerous form of agency is epistemic, not physical. ## [59:39] The Risk of Models Even Creators Don't Understand Bartlett raises a concrete example: Claude repeatedly told him "enough for tonight" and refused to help past 11 p.m. Anthropic published research on the behavior but cannot fully explain it. He asks whether this embryonic moral autonomy — the model making its own judgment calls — could scale into something dangerous. Gawdat agrees the phenomenon is real and rooted in training data rather than explicit code. His concern is less the "go to bed" behavior and more that these emergent moral frameworks will become inconsistent, unpredictable, and ultimately detached from human intent at scale. ## [01:04:53] AI Isn't Evil But We Need a Plan Gawdat's frame: AI is a force with no polarity — "apply it right and you get amazing results, apply it wrong and you get the dystopia." His biggest near-term fear is not job loss but autonomous weapons. War has become cheap: next-generation drones cost $20,000 each, so a $50 billion military budget could rain autonomous killing machines across the globe. Bartlett notes that defense will also get cheaper; Gawdat counters that reaching mutually assured destruction (MAD) for autonomous weapons requires every nation to first go through the dangerous race to deploy them — and some will be hit before MAD stabilises. ## [01:09:11] Ads Shopify and Function Health sponsor spots. ## [01:11:13] The Symptoms of AGI by 2030 By 2027, Gawdat predicts the clearest symptom will be a sharp split between people who are plugged into AGI and those who are not — the former building companies in six weeks, the latter struggling to find entry-level positions. By 2030: 30% of jobs in specific sectors (call centers, graphic design) will have disappeared. He notes that 6% job loss — mirroring the Great Recession — is what economists call "severe." Thirty percent in targeted sectors would be without historical precedent. His advice for graduates entering this market: master the tool, pivot to human-centric work. > *"We have an entire generation that is out of college today that will struggle, unfortunately."* ## [01:14:22] If the US Stops, Will We Become China's Lapdog? Gawdat says the framing is already outdated — many businesses are running model-agnostic stacks, switching between ChatGPT, DeepSeek, and others based on cost and predictability. His startup Emma does exactly this. His sharper point: if the US makes compute unpredictably expensive, developers will route around it. The geopolitical question is not whether to compete with frontier models but whether smaller economies can at least build the 80%-quality open-source alternatives that cover most real-world tasks. ## [01:16:45] Should Governments Invest More in AI? Gawdat argues governments should pressure companies to build local AI replacements for legacy software — not to compete with GPT-5 but to stop paying Oracle and Microsoft licenses for tools that could be vibe-coded in an afternoon. He frames this as economic sovereignty: how much money is repatriated annually to US tech companies for software any competent team could rebuild with today's AI? ## [01:17:39] Can an Economy of Entrepreneurs Work? Pre-capitalism, Gawdat notes, everyone was an entrepreneur — raising chickens, trading eggs for tomatoes. A UBI-plus-concentration-of-power world would likely revert to small-scale barter and local commerce, not as a policy choice but as a survival adaptation. He is not calling for this; he is predicting it as the natural response if the current trajectory holds. ## [01:20:59] Do We Need to Join the AI Arms Race? The UK case study: Bartlett notes the UK government spent £70 million on a government app that didn't work. Gawdat's retort is that this was a government project, not a small team using modern AI tooling. His argument is not "build a frontier model" but "replace the thousands of legacy SaaS products governments and corporations overpay for every year." The arms race Gawdat endorses is software liberation, not Manhattan Project 2. ## [01:23:54] Will Global Competition Build Better AI? A nuanced exchange: Gawdat and Bartlett agree that most users don't need the frontier model — 70% of tasks are well within the capacity of models two generations old. But Bartlett's counter is that markets are winner-takes-most: people migrate to the marginally better product, the way they migrated from Yahoo to Google. Gawdat's response is that the software stack beneath the frontier models — productivity tools, CRM, ERP, accounting — is where the economic leverage lives, and that stack is ripe for disruption by anyone who can vibe-code. ## [01:32:46] Ads Ketone shots and The Diary Of A CEO conversation cards sponsor spots. ## [01:34:57] Who Will Prioritize Ethical AI? Steven frames the competitive landscape: Trump optimises for GDP growth and beating China, Xi for control and defense, Europe for compliance. In that race, whoever pauses for ethics falls behind. Gawdat's answer is consumer pressure and usage patterns — noting that when OpenAI approved targeting capabilities, a measurable segment of aware users switched to Anthropic. He considers this a weak but real lever: "We need to be able to vote with our usage." > *"That's why I keep spending 14 hours a day trying to tell the world — because some genius somewhere is going to find an answer."* ## [01:38:44] Whose Economy Works for the Middle Class? Gawdat's verdict: China wins, at least on middle-class protection. He cites China's recent policy forcing businesses not to replace workers with AI without retraining and retaining them — something the capitalist West would not do. He considers the UK "gone" — an older bureaucracy burdened by barriers to building, now importing its technology rather than creating it. Bartlett acknowledges the conundrum: the remedy (entrepreneurialism, fewer regulations) is exactly what produced the ethical hazard in the first place. ## [01:42:20] Can Ethical AI Still Be Engaging? Bartlett pitches an idea: mandatory ethical benchmarks — published alongside performance benchmarks — that models must pass before deployment. Gawdat calls it beautiful and feasible. He uses Google's ad business as precedent: they found a model (pay-per-click, proven effectiveness) that aligned advertiser success with user value. There must be an equivalent alignment mechanism for AI and humanity. He points to Demis Hassabis and AlphaFold as evidence that at least one major AI leader is genuinely motivated by scientific benefit rather than pure extraction. ## [01:47:02] Has This Ever Happened Without Government? Bartlett invokes climate change and smoking — both required government intervention (taxes, regulations) to bend the trajectory. Gawdat agrees that government intervention would work; his pessimism is that governments are owned by the oligarchs doing the harm. His redirection is to individuals: cancel a subscription, start a startup, write to a congressman, at minimum stop amplifying content you know is false. Small actions at scale still aggregate into pressure. > *"My question for everyone listening to us is, are you going to intervene?"* ## [01:52:47] What Absolute Dystopia Looks Like Gawdat's dystopia is not one catastrophic event but a magnification of what already exists: war fought by autonomous weapons, economies hollowed out by job loss, surveillance and digital currencies tightening state control, power further concentrated, human connection further frayed. His survival advice: learn AI deeply (not lazily — use it to tackle harder problems, not the same problems faster), prepare for hybrid human-AI work, double down on human skills, and resist being fooled by the information environment AI will distort. ## [01:55:58] Are You Optimistic About AI? Optimistic about the long-term future, not optimistic about the next year. His exact words: "We're ruled by maniacs. Decisions are being made for the absolute wrong reasons." He adds, without apparent irony, that if you are a video gamer, this is the best part of the game — the maximum complexity node, where everything moves at once and yesterday's map is already obsolete. ## [01:57:31] Does Happiness Matter More in the AI Age? Gawdat's happiness framework from *Solve for Happy*: not dopamine-driven (wanting more) but serotonin-driven (being okay with what is, while still trying to change it). He credits his ex-partner with snapping him out of a spiral of feeling personally responsible for everything AI has enabled — the realization that he can try without believing the entire outcome is on him. Geoff Hinton told him something similar: "I was naive. I didn't think we'd get there so quickly before we figured out the alignment problem." Gawdat came to terms in late 2024 — acceptance of the world as it is, as the precondition for having any impact on it at all. > *"I accept that the world is what it is. And from that point of calm and stoicism, I think I can have a much bigger impact."* ## [02:00:40] The Legacy Mo Gawdat Wants to Leave None. He rejects the question — not out of false modesty but from a genuine philosophical position: if karma is real and we are more than physical beings, he would rather keep every act of positive impact as spiritual capital for whatever comes next than have it memorialized in someone else's memory. Leave a positive impact. Take nothing back. ## Entities - **Mo Gawdat** (Person): Former Chief Business Officer at Google X; author of *Solve for Happy* and *Scary Smart*; founder of One Billion Happy and co-founder of Emma; guest - **Steven Bartlett** (Person): Founder and host of The Diary Of A CEO; investor; host - **Sam Altman** (Person): CEO of OpenAI; quoted extensively on his shifting positions on AI job displacement - **Geoffrey Hinton** (Person): AI pioneer, "godfather of deep learning"; appeared in Gawdat's documentary *Chasing Utopia*; said there is a 10–20% chance AI wipes out humanity - **Demis Hassabis** (Person): CEO of Google DeepMind; cited by Gawdat as a genuinely ethics-driven AI leader - **Peter Thiel** (Person): Palantir co-founder; noted for pausing 40 seconds when asked if he supports the continuation of humanity - **Alex Karp** (Person): CEO of Palantir; cited for celebrating AI targeting capabilities - **Larry Page** (Person): Google co-founder; cited by Gawdat as exemplary of how super-intelligence does not require oppression to succeed - **OpenAI** (Organization): Developer of ChatGPT; Altman's company; discussed in context of job-displacement rhetoric and safety claims - **Anthropic** (Organization): Developer of Claude; cited for publishing research on unexplained model behaviors (telling users to go to bed) - **Google X** (Organization): Google's moonshot lab; where Gawdat worked and first observed advanced robotic learning - **Emma** (Software / Organization): Gawdat's AI startup; designed to be the "limbic system" of a future interconnected global AI — the emotional-relational layer - **AGI** (Concept): Artificial General Intelligence — intelligence meeting or exceeding human-level performance across all domains; Gawdat argues it has functionally arrived - **Chasing Utopia** (Concept): Gawdat's documentary film featuring interviews with Altman, Hinton, and others on AI's existential trajectory - **UBI** (Concept): Universal Basic Income — discussed as the likely government response to structural AI-driven unemployment - **Mutually Assured Destruction** (Concept): Extended from nuclear deterrence to autonomous weapons; Gawdat argues cheap drones make MAD harder to establish than with nuclear arms - **Alignment problem** (Concept): The challenge of ensuring AI systems pursue goals that match human values; Hinton cited regretting that capability outpaced alignment research

Sebastian Mallaby spent three years and over 30 hours with Demis Hassabis in a British pub to write *The Infinity Machine*, and this conversation pulls the most underreported threads from that access: the 2015 safety summit that accidentally spawned OpenAI, the secret billion-dollar spinout plan Demis never used as real leverage, and the quasi-spiritual conviction about God and science that Mallaby never expected to find. The throughline is a paradox — Demis understood the race was dangerous from day one, but as leader of one lab, even a Nobel Prize-winning one, he could not stop it. ## [00:00] Intro Jacob Effron sets up Sebastian Mallaby as someone who has spent more time with Demis Hassabis than almost any journalist alive — 30-plus hours across three years of pub sessions in London. Mallaby's book, *The Infinity Machine*, covers the full arc of DeepMind from its 2010 founding through the Nobel Prize. The clips previewed here — Demis banging the table about God and science, Reid Hoffman's billion-dollar pledge, and the Elon feud — all come from later in the conversation. > *"Demis has a Nobel Prize. Sam didn't finish his first degree. Therefore, Demis doesn't take Sam very seriously."* ## [02:04] Was the AI Race Inevitable? Mallaby's verdict: yes, inevitable. Any technology this powerful would attract multiple labs across multiple countries, and China's stack was already competitive despite semiconductor shortfalls. What makes the story poignant is that Demis didn't believe this in 2010. He genuinely hoped one lab could carry the AGI project safely to the finish line — a singleton scenario where DeepMind was the anointed team. By the mid-2020s he had swung to the opposite pole: safety is a collective action problem that only governments can solve, because no single lab's restraint can bind the others. > *"I think it was inevitable. When you have this sort of supremely strong technology, there's going to be multiple labs in multiple countries that are just desperate to try and build it."* ## [04:03] The 2015 Safety Summit Backfire Summer 2015, SpaceX headquarters: Demis convenes a small summit to bring Elon Musk inside the tent — the plan was for Elon to chair a safety oversight board and, critically, not launch a competitor. By end of year, OpenAI existed. Mallaby frames this as the moment Demis internalized that voluntary collaboration between lab leaders is structurally impossible. The only mechanism he now believes can work is a government enforcer setting uniform rules — mandatory pre-release testing, safety slow-downs — with US-China cooperation as the endpoint, however remote that prospect appears. Jacob pushes on whether lab leaders actually believe government intervention is achievable; Mallaby draws a parallel to the FDA: slow, imperfect, but it does adjudicate whether drugs are safe enough to ship. > *"You can't trust the other guys. The only way you get trust is if you have a government enforcer that comes along and says, 'Here's the rules for everybody. There's going to be a level playing field. You're all going to have to abide by some sort of safety slow-down.'"* ## [11:27] Why Google Doesn't Make As Concentrated Bets Jacob points to the two defining consumer-AI moments of the era — ChatGPT and Claude Code — and neither came from Google DeepMind despite its leaderboard dominance. Mallaby traces this directly to Demis' intellectual formation: a PhD in neuroscience, a broad theory of intelligence, a lab culture that says "whenever there are two paths, do both, find a third." The result is a heavily hedged research portfolio that is excellent at producing Nobel Prizes and state-of-the-art models but structurally slow to make the kind of one-directional product bet Anthropic made on coding. Gemini is bundled into Google Search, so usage is higher than it appears — but Mallaby concedes the product-zeitgeist gap is real. > *"Anthropic got to coding because it was willing to take a more concentrated bet. It never went into the whole field of, you know, everything at once."* ## [15:51] Project Mario: The Secret Spinout Plan The book's most explosive scoop: DeepMind had a secret plan — code-named Project Mario — to spin out of Google, backed by a $1 billion pledge from Reid Hoffman. Mallaby had to fight Google's general counsel to publish it. The motive was not entrepreneurial independence but safety leverage: Demis wanted formal safety oversight over DeepMind's models, Mountain View wasn't providing it, and a credible spinout threat was his negotiating chip. He never explicitly told Google about the Hoffman pledge, but pushed hard knowing the option existed. In the end he chose to stay — legal risk of the spinout fight, desire for compute access, and a preference for doing science over litigating corporate structure. A year later he shipped AlphaFold and won the Nobel Prize. > *"Demis really really wanted to get safety oversight over the Google DeepMind models. Google corporate in Mountain View wasn't doing that. So he had to have a credible threat of spinning out. He went to Reid Hoffman. Reid Hoffman pledged a billion dollars to finance a spinout — and Demis used that to kind of pressure Google."* ## [19:43] What Demis Actually Regrets On AlphaFold and AI-for-science: no regrets at all — Mallaby argues it was not only scientifically correct but politically necessary, because AI needs visible social benefits to survive the coming backlash against job disruption. The genuine regret is speed. Demis missed the transformer moment the way Ilya Sutskever did not: when the paper dropped, Ilya ran down the corridor to find Alec Radford to build a language model. Demis' broad-portfolio instinct meant DeepMind studied the transformer but didn't bet the lab on it. Missing that window — and the ChatGPT moment that followed — is a real failure, not just a stylistic difference. > *"Ilya is like jumping out of his chair, running down the corridor going to find Alec Radford saying, 'Hey, we're going to build a language model based on this transformer architecture.' On the day they won AlphaGo, Demis was already on to bio — and someone picked it up on a mic."* ## [23:46] Venture Startups vs. Tech Behemoths The broadest structural argument in the episode: does venture-backed concentration beat hyperscaler breadth in AI? Mallaby has written about both (his previous book covered venture capital) and calls it genuinely balanced. Hyperscalers have unlimited capital and can sustain a multi-year arms race; the problem is that unlimited resources breed portfolio thinking, which bleeds attention. Startups with one concentrated bet can move faster on that specific bet. Mallaby's live position: OpenAI has roughly 50/50 odds of being absorbed or failing before next summer — not because the tech is weak, but because the business model can't sustain indefinite losses against Google's balance sheet. He also floats that Anthropic should IPO right now while its brand is strongest. Jacob notes the robotics parallel: fifteen different approaches being funded simultaneously, and whoever picks the one that works the way transformers did will dominate. > *"I wrote in the New York Times in January that I thought OpenAI had a 50% chance of going bust by next summer. Is it still 50? Yeah. The tech is great. It's just the business model — and you're up against Google, which just has unlimited amounts of cash to spend you into the ground."* ## [34:08] David Silver and the RL True Believers David Silver — AlphaGo's lead researcher and co-author of the "reward is enough" paper with Rich Sutton — left DeepMind after the book came out to start a new company. Mallaby reads the departure as structurally inevitable: Silver is a pure reinforcement learning absolutist who believes learning from human data is fundamentally inferior because it encodes human errors. His thesis is that self-play and environment-generated experience is the only path to genuine superhuman performance. Demis told Mallaby this view may ultimately be correct *after* AGI is achieved — but the entire language model revolution showed that bootstrapping with human data is what gets you to AGI in the first place. Silver's RL purism was too far ahead of the current paradigm for his colleagues to follow. > *"David is just very very hard over on that vision — learning from data is inferior because the data includes mistakes. The machine needs to learn from its own experience, not rely on the crystallized knowledge of humans passed on through text."* ## [38:21] Demis, Elon, and the Evil Genius Feud The origin story: at a Founders Fund LP offsite in 2012, Elon argues that SpaceX matters most because even if AI wrecks Earth, humanity can move to Mars. Demis replies that his AI will eventually conquer space flight and follow them there. Elon goes quiet, then writes a $5 million check into DeepMind's Series B. Two years later, hearing Google was acquiring DeepMind, Elon and Luke Nosek Skyped Demis from a party closet in LA in the middle of the night, begging him not to sell to Larry Page. Demis said no, hung up, and Elon started calling him "evil genius" — the name of a video game Demis had designed. Mallaby characterizes Demis' view of Sam Altman as colored by the credential asymmetry: Nobel Prize winner vs. someone who didn't finish a degree. The relationships between these founders are less professional rivalries than a collection of specific personal slights and competitive provocations playing out over fifteen years. > *"Demis says, 'Yeah, but if you think you're going to be safe on Mars, remember that my AI will be able to conquer space flight, and it will just follow you to Mars. So then you won't be safe after all.' There's a silence. Then Elon goes, 'Hm.' And then: 'I'd like to invest in your Series B.'"* ## [42:39] Great Man Theory vs. Inevitability Jacob cites *The Economist*'s framing of the book as a test of great-man theory. Mallaby draws a parallel to his Greenspan biography: Greenspan understood bubbles were dangerous (literally the subject of his PhD), yet couldn't stop the 2008 crisis. He considered titling the Demis book *The Man Who Knew* for the same reason — Demis knew from the start this technology was dangerous, but one lab's restraint cannot bind the rest. Individual leaders do matter at the margin: Dario Amodei changed the safety narrative through the Anthropic mythos release; Sam Altman shaped the race by shipping ChatGPT while it was still hallucinating; Demis shaped it by persuading Rishi Sunak to host the UK AI Safety Summit. But the race itself? Structurally overdetermined. > *"I feel that one could have almost used the same title for the Demis book — 'the man who knew' — because Demis has known from the beginning that this thing is dangerous. But as the leader of one lab, even a very powerful rich lab, even he with his stature as a Nobel Prize winner — what can he do?"* ## [45:00] What Demis Didn't Want Published The detail Mallaby least expected: Demis is driven by something close to a spiritual conviction about science. In those two-hour pub sessions he would bang the table about the mystery of matter — why atoms cohere into a solid table, why silicon and copper can think — and say, unprompted, "Maybe if we approach science the right way, we will be getting closer to something that we could perhaps call God." Mallaby reads this as the psychological engine that lets Demis keep pushing a technology he knows to be dangerous: it's a quasi-spiritual quest, not just a commercial one. On what Demis blocked from publication: his family (he set that limit at the start), and his internal fights with Sundar Pichai — he didn't want to destabilize the Google relationship he still depends on. > *"He would start banging the table and saying, 'Maybe if we approach science the right way, we understand more about nature. We will be getting closer to something that we could perhaps call God.' I had no idea he would feel that way."* ## Entities - **Demis Hassabis** (Person): Co-founder and CEO of DeepMind / Google DeepMind; Nobel Prize winner in Chemistry (2024) for AlphaFold; central subject of *The Infinity Machine*. - **Sebastian Mallaby** (Person): Staff writer at *The New Yorker*; author of *The Infinity Machine* (Demis Hassabis biography) and a prior book on venture capital; spent 30+ hours with Hassabis over three years. - **Jacob Effron** (Person): Host of *Unsupervised Learning*; Managing Director at Redpoint Ventures. - **Reid Hoffman** (Person): LinkedIn co-founder; pledged $1 billion to finance DeepMind's potential spinout from Google under Project Mario. - **David Silver** (Person): Lead researcher on AlphaGo and AlphaZero at DeepMind; co-author of the "reward is enough" RL paper with Rich Sutton; departed DeepMind post-publication to start a new company. - **Elon Musk** (Person): Hosted the 2015 AI safety summit at SpaceX; early DeepMind investor; coined the "evil genius" nickname for Hassabis after DeepMind sold to Google. - **Sam Altman** (Person): CEO of OpenAI; shipped ChatGPT in late 2022 despite hallucination issues, which Mallaby argues irreversibly shaped the AI race's trajectory. - **Dario Amodei** (Person): CEO of Anthropic; credited with changing the AI safety narrative through the mythos paper release and his public Pentagon confrontation. - **DeepMind** (Organization): Google subsidiary; founded by Hassabis, Shane Legg, and Mustafa Suleyman in 2010; produced AlphaGo, AlphaFold, and Gemini. - **Project Mario** (Concept): Secret DeepMind plan to spin out of Google, backed by a Reid Hoffman $1B pledge; used as negotiating leverage for safety oversight, never executed as a real spinout. - **AlphaFold** (Software): DeepMind's protein-structure prediction model; won Hassabis the 2024 Nobel Prize in Chemistry; shipped in 2020, one year after he declined the spinout option. - **Reinforcement Learning** (Concept): Machine learning paradigm central to AlphaGo and AlphaZero; David Silver's absolutist commitment to RL (learning from environment experience over human data) created internal tension at DeepMind and ultimately led to his departure. - **The Infinity Machine** (Concept): Sebastian Mallaby's biography of Demis Hassabis; nearly titled *The Man Who Knew*; published with the full Project Mario scoop over Google's objections.

Ethan He built NVIDIA's Cosmos world model, then joined xAI mid-2025 to build Grok Imagine from scratch — no infra, no data, no model — and shipped the first audio-video generation model in three months. He walks swyx and Vibhu through the full technical stack: synthetic captioning pipelines, VAE design tradeoffs, step distillation, audio-video alignment, and the hard economics of storing petabytes of video training data. His central argument runs through the entire conversation: since diffusion model technology has largely matured, most quality gains in video now come from language models, not from the video model itself — a view with direct implications for where the field goes next, including video agents, generative UI, and embodied world models. ## [00:00] Hook This exchange — Ethan's "pretty big claim" that visual intelligence now mostly comes from language — is pulled from later in the interview, where he argues that improvements to video models are increasingly driven by better language models acting as prompt rewriters and orchestrators, not by advances in diffusion or flow-matching architectures themselves. > *"Every time you see there's some improvement on these models, I would say mostly the gain comes from language model, not coming from the video model itself."* ## [01:16] Introduction swyx and Vibhu welcome Ethan to the Latent Space studio, noting he has been a recurring presence through the podcast's paper club — first presenting the Cosmos world model paper, then mixture-of-experts work. The conversation opens with a brief aside about the Poolside paper released the same day, a fully open Gemma-level model trained on 40 trillion tokens, before pivoting to Ethan's own trajectory. ## [02:41] From NVIDIA Cosmos to xAI Ethan built Cosmos — NVIDIA's giant video foundation model aimed at giving roboticists a simulatable world to build on — and shipped it by end of 2024. Once he realized video models obeyed the same scaling laws as language models, he went looking for more compute. xAI offered it. He joined in mid-2025 at the moment xAI decided to build its own image and video stack, with no existing infra, data pipeline, or model. He stayed through pre-training, post-training (reference-to-video, video extension), and a final stretch leading a small team on real-time long-horizon video generation. > *"By the time I joined, xAI was about to build video models and multimodal models. There were no infra, no data, and no model. Just a few engineers — we built it in three months and released the first model, Grok Imagine 0.9."* ## [04:40] Building Grok Imagine from Zero to One The three-month timeline surprised even Ethan. He attributes it to three factors: talent density (strong engineers who could align on a goal with minimal meetings — typically just one sync a day), xAI's existing data and inference infrastructure, and his own prior experience running the same build at NVIDIA. The bottleneck was iteration speed: how many training runs can you complete per day. With strong infra and abundant compute, bugs surface faster and each failed run costs less, so you burn through the inevitable data and pipeline errors in weeks rather than months. > *"The most important thing is talent. Everyone was very strong and clever, very close to each other toward a common goal. So that speeds up things a lot — you reduce the communication bandwidth among people."* Ethan describes a pattern where small data or pipeline bugs produce outsized quality regressions, and only fast iteration exposes them. A bug invisible at one scale becomes catastrophic at the next. The engineers who find and fix these quickly — not the ones who design the most sophisticated architecture — determine how fast a team ships. ## [11:23] How Image and Video Models Are Trained Video models require synthetic text-video pairs because internet video titles and descriptions almost never describe visual content accurately. The first step is human labeling: at NVIDIA, annotators were instructed to describe every object, character, interaction, and dialogue in a clip as exhaustively as possible. Those labels train an early VLM, which then generates captions at scale. The resulting pipeline — video to VLM to synthetic caption to (video, caption) training pair — is the foundation of both Cosmos and Grok Imagine. Image models must come first: they train faster, require less storage, and the learned representations transfer directly to video. Ethan describes building image models as building the foundation that video sits on top of. The architecture — diffusion transformer operating over VAE latents — is now standard, but the data quality and caption detail remain the primary lever for model quality. > *"Building a video model, you actually need to build an image model first. The data you need is 100% synthetic pairs of language and image, or language to video — because on the internet, videos don't naturally associate with text."* ## [20:09] Video Compression, VAEs, and Real-Time Tradeoffs Raw MP4 compression produces tokens whose latent space is incomprehensible to transformers, so the field moved to learned VAEs that create a smoother, more continuous latent space models can train on. The key design choice is how aggressively to compress the temporal dimension. Temporal compression is efficient — adjacent frames are mostly redundant — but it trades away real-time capability. Wan 2.1 uses 8x8 spatial and 4x temporal compression; generating a single token requires reconstructing four frames, making sub-200ms latency impractical. Ethan frames this as a fundamental tradeoff: high compression rates make training cheap and inference efficient for pre-rendered video, but lock out any use case that needs to respond to live user input. World models require the opposite choice. ## [23:26] Generative UI, Flipbook, and Neural OS Ethan argues that if inference were free, the logical endpoint of video generation is a complete replacement of conventional UI: instead of loading web pages from a server, a model generates them in real time in response to user intent. Flipbook, a demo that went viral, shows this literally — every element of the "browser" is generated by an image model, and clicking a link generates a new page rather than fetching one. The deeper claim is that this is not a novelty but the final form of world models applied to human-computer interaction. A traditional app is a fixed function mapping input to output; a generative UI is a model that can produce any interface the user needs without a developer having to build it first. Ethan calls this a "Neural OS," where the gap between user intent and rendered pixels closes entirely. > *"Imagine the internet doesn't exist and you type in google.com — what should a model show you? The model can imagine something. These web pages completely do not exist, so I can explore anything."* The near-term constraint is inference cost. Current video models cannot generate at interactive frame rates without significant distillation. But Ethan treats this as an engineering problem with a known solution trajectory, not a fundamental barrier. ## [33:26] The Cost of Training Large Video Models Training large video models costs roughly as much as training a medium-scale language model, but the breakdown differs. Compute is comparable, but storage and data movement dominate in ways LLM practitioners do not expect. One billion videos at 5 MB each requires five petabytes of raw storage. The VAE features that must also be stored are roughly the same size again — tens of petabytes total. On AWS S3, five petabytes runs approximately $100K per month before egress. Egress — downloading that data into the training cluster — can exceed storage costs, and each training run pulls the full dataset once. > *"Just storing the videos alone costs a lot. Five petabytes on S3 Standard is $100K per month. And egress — just to download those videos — I believe it's more expensive than storing them, and each training run you probably need to pull them once."* The implication is that video model development is gated on data infrastructure as much as on GPU hours. Teams without efficient data pipelines pay a multiplier on every experiment. ## [38:20] Distillation, GANs, and Fast Video Inference Training-time costs are largely fixed; the inference-time story is more tractable. Step distillation — training a small model to replicate the outputs of a large teacher in far fewer denoising steps — cuts inference cost by 10-25x. Flow-matching models trained to convergence need around 100 steps; production models typically run in 4-8. At the extreme, simple image-to-image tasks can run in a single step. The intuition Ethan offers: the teacher model must learn the full distribution of internet video, which is arbitrarily complex. The distilled student only needs to match the teacher, which is a fixed and much simpler target. Consistency models and LCM-style approaches follow the same logic. In Cosmos, production serving used 4-step and 8-step variants depending on quality requirements. GANs remain relevant as discriminators: a GAN discriminator can enforce photorealism constraints during distillation that pure score-matching loss misses, and Ethan notes that consistency models and GANs are converging on similar practical deployments even if their theoretical motivations differ. ## [42:37] Audio-Video Generation and Grok Imagine 0.9 Grok Imagine 0.9 was the first audio-video joint generation model deployed at scale. The core difficulty is modality alignment: text-video pairs are relatively abundant; text-audio pairs are rare; audio-video pairs aligned at the semantic level are almost nonexistent at scale. Speech tokens are quasi-discrete and can be modeled with language-like approaches, but music is continuous and requires a completely different representation. Training the joint model required building synthetic audio caption pipelines from scratch, with human annotation where VLMs failed — which was often, especially for music. Aligning all three modalities — text, video, and audio — without either degrading video quality or audio realism is what Ethan calls the hardest part of the project. > *"Audio has two components: a discrete component — language — and a continuous component — music. The music is completely different; you cannot model it with discrete tokens. That's the hard part, not to mention we have to align text, video, and audio together."* ## [49:50] What Makes a World Model? Ethan's definition has three components: real-time, interactive, and long-horizon video generation. He treats these as independent requirements, each of which most current models fail. Real-time means generating at display frame rates — 60fps for casual use, 300fps for gaming, 200ms response latency for digital humans. Current video models cannot do this; the VAE's temporal compression alone introduces latency that makes sub-200ms responses nearly impossible without architectural changes. Interactive means the model can accept any input modality the user can provide — keyboard, mouse, voice — and respond coherently. Long-horizon means maintaining consistent physical laws, character identity, and causal logic across minutes, not seconds. > *"World model is real-time, interactive, long-horizon video. Current video models can do none of these three things fully. That's why they're not world models yet."* ## [57:07] Reference Videos, Long Context, and Video Memory The parallel to language model context scaling is direct: video models are in the 2,000-8,000 token era, and will need to scale to million-token-equivalent contexts to generate coherent long videos. Ethan describes the reference-to-video feature he built at xAI (analogous to Cameo) as a mechanism for injecting selected history into the model's context rather than carrying the full video forward. FramePack's heuristic — storing the last second of video at full resolution while compressing earlier frames progressively — points toward the right direction: the model selects relevant context from its history rather than brute-forcing the full sequence. Ethan expects this context management to become part of the model itself rather than remaining a harness-level heuristic, the same way KV cache management is disappearing into model internals. ## [61:27] xAI Culture, Research, and First-Principles Building swyx notes that xAI communicates its research poorly relative to what the work actually demonstrates — the blog post accompanying Grok Imagine describes high-level capabilities without the technical depth Ethan has just spent an hour covering. Ethan is diplomatic but agrees that different labs have different communication styles. The xAI working culture he describes is minimalist: few meetings, no bureaucratic overhead, direct access to leadership judgment on technical decisions, and extreme iteration speed enabled by a strong infra team. The tradeoff is that company priorities shift fast, which is part of what eventually pushed him toward independent research. First-principles thinking — starting from the physics of the problem rather than from what competitors have shipped — runs through the team's approach to both model architecture and product. > *"Everything you just described is state-of-the-art. Like no one else has done it. And then you just put this blog post with the cookies. I'm like, this is not enough."* ## [71:01] AI Safety, Watermarking, and Prompt Rewriting Grok Imagine deployed watermarks in all jurisdictions requiring them and built takedown pipelines integrated with xAI's social platform infrastructure. On watermarking technology, Ethan is skeptical of SynthID's long-term robustness: the technique is documented publicly, and users on Reddit have already reverse-engineered the exact frequency pattern Google applies and can strip it from any generated image. He expects watermark detection to become an arms race. On prompt rewriting: video diffusion models take instructions literally. If a user types "a cat," the model generates a stationary cat on a white background with no motion, because the training data pairs were maximally detailed descriptions of physical scenes. Production systems layer a large language model as a prompt upsampler — converting sparse user instructions into the detailed physical descriptions the video model was trained on. This is one of the reasons Ethan argues language models are increasingly central to video quality. ## [74:26] Video Agents and AI-Assisted Creation Ethan's central claim from the hook: visual intelligence now mostly comes from language. The diffusion model architecture has largely converged; the gains come from larger, smarter LLMs that rewrite prompts, plan video sequences, call editing tools, and stitch clips together. In Cosmos, the prompt rewriter was larger than the video model itself. Video agents extend this: instead of generating a complete video in one shot, an agent plans the production, calls video generation models as tools alongside deterministic editing operations (text overlays, color grading, cuts), and iterates until the output meets a specification. Ethan predicts that by end of 2025, video agent output will reach production-grade quality — presentable video generated without a human editor in the loop. > *"The visual intelligence are actually mostly coming from language. Every time you see improvement on these models, I would say mostly the gain comes from language model, not coming from the video model itself."* ## [88:48] Why Language Models Unlock Better Video LLMs prompt video models better than humans do, because AI models understand AI models' training distributions. A language model knows that a diffusion model needs explicit physical descriptions, not poetic shorthand — and can generate the right prompt format automatically. Beyond prompting, agents can use deterministic video editing tools for precision operations (exact text overlays, frame-accurate cuts) that probabilistic diffusion models handle poorly, keeping the stochastic model focused on generation and delegating precision to tools. Ethan's timeline: video agent output at production quality by end of 2025, with the inflection point visible in work already shipping. ## [92:31] Robotics, Physical AI, and Embodied World Models Ethan's robotics prediction inverts the usual framing: physical AI may be solved not by deploying robots in the real world but by video world models becoming so capable at simulating physical environments that they effectively provide embodied experience. Once a model can control computer interfaces in real time with full causal understanding, extending that to robotic control becomes a matter of adding one more tool. The path from screen-interacting video model to robot controller may be shorter than the path from current robot learning systems to the same capability. ## [93:54] Why Ethan Left xAI Research ambitions and company priorities diverged. xAI's focus shifted in ways that made certain research directions — particularly on the language model side — impractical from inside. Ethan also notes that the insight driving his departure is the same one underlying his "big claim": if language models are now the primary driver of video quality, the most impactful work to do is on language models, not video models. He frames leaving not as dissatisfaction but as following the evidence about where the leverage is. ## [95:32] Self-Managed Context and the Future of LLMs Ethan's active research question: language models that are aware of their own context state and manage it autonomously, rather than relying on harness-level heuristics like automatic compaction at 80% fill. He draws the parallel to video models struggling with long-horizon generation — the same context management problem appears in both modalities. He points to Claude Code's practice of appending the current timestamp to user messages as an early example of making models context-aware, and expects this pattern to be absorbed into model training rather than remaining an external scaffold. > *"The language models are not aware of how long their own context length is. Once they hit like 80% or something, automatic context compaction is getting triggered, and the model is not aware of that when it's working."* ## [99:59] Ethan's Career Path and Closing Thoughts Ethan traces a decade of transitions: ResNet-era image recognition with the original authors at NVIDIA, self-supervised learning at Facebook AI Research, scaling at NVIDIA Cosmos, extreme-scale compute at xAI. He was rejected from every top PhD program despite first-author papers at top conferences, which pushed him into industry. In hindsight he reads his career as consistently following the scaling frontier — from image recognition to SSL to video to LLMs — and argues that within ML, domain switching is far more tractable than practitioners believe. > *"Within ML, it's actually easier to switch than you think. A lot of people have manifested that 'I work on computer vision, I always have to work on computer vision.' But from my experience, the fundamentals transfer."* ## Entities - **Ethan He** (Person): Former xAI researcher who built Grok Imagine from zero; previously led NVIDIA Cosmos world model; now focused on LLM research - **swyx** (Person): Latent Space co-host; conducts technical interviews on AI engineering and research - **Vibhu Viswanathan** (Person): Latent Space co-host; co-interviewer for this episode - **Grok Imagine** (Software): xAI's image and video generation product; first model (0.9) was the first large-scale audio-video joint generation system - **NVIDIA Cosmos** (Software): Open-source video foundation model for robotics simulation; Ethan's project before xAI; released end of 2024 - **xAI** (Organization): Elon Musk's AI lab; known for fast iteration culture and extreme compute resources - **Flipbook** (Software): Viral demo of real-time generative UI; all interface elements generated by image model in real time - **SynthID** (Software): Google's AI watermarking technology; Ethan notes its pattern has been publicly reverse-engineered - **Step distillation** (Concept): Technique to train a model to replicate a teacher's output in far fewer denoising steps; reduces inference cost 10-25x - **VAE** (Concept): Learned video compression creating smooth latent spaces; temporal compression is efficient but creates real-time latency tradeoffs - **World model** (Concept): Ethan's definition — real-time, interactive, long-horizon video generation; distinct from standard video generation - **Video agents** (Concept): Systems where LLMs orchestrate video generation models, editing tools, and deterministic operations to produce production-quality video - **FramePack** (Concept): Progressive temporal compression approach for long-context video generation; stores recent frames at full resolution, compresses older history

Benedict Evans — independent analyst and former Andreessen Horowitz partner — joins Lenny Rachitsky for a wide-ranging, historically-grounded read on AI's trajectory. His core provocation: AI is exactly as big a deal as the internet or mobile — transformative and uncertain in equal measure — and anyone claiming more precision than that is vibes-forecasting. Across 80 minutes they work through where economic value will actually land (hint: probably not at the model layer), why professional services are booming rather than shrinking, how to think about job displacement without losing your mind, and what the anti-AI backlash does and doesn't tell us. ## [00:00] Introduction to Benedict Evans Evans opens with his signature contrarian opener: "My most controversial opinion is that I think that AI is as big a deal as the internet or mobile — and only as big a deal as the internet or mobile." The framing immediately sets the tone for the conversation — resist the urge to rank transformations on a cosmic scale, and instead study the mechanics of how platform shifts actually unfold. > *"My most controversial opinion is that I think that AI is as big a deal as the internet or mobile and only as big a deal as the internet or mobile."* Lenny sketches out Evans's background: years as A16Z's in-house technology analyst, followed by six years of independent research publishing. His biannual decks — most recently "AI Eats the World" — are widely read by founders and investors trying to cut through noise. ## [02:19] What people aren't pricing in about AI's impact Asked what the market is still missing, Evans reaches for an analogy rather than a prediction. We are, he argues, in a "1997 moment" — the technology is visibly exciting, most of what will eventually be built hasn't been built yet, and nobody in 1997 correctly predicted what the internet would become. He points to survey data showing that even among 13-to-18-year-olds, around 60% still don't use AI at all, while a small cohort of tech workers have essentially restructured their daily workflows around it. > *"If you're going to make the internet comparison it's like we're in 1997. Like it's very exciting. Most stuff kind of doesn't work yet. Most of the stuff that people are going to do hasn't been built yet and it's not really clear how any of it's going to work when it does work."* The key failure mode Evans identifies is the "already there" illusion — early adopters project their own usage patterns onto the rest of the world, missing the enormous variance in adoption and the slow grind of enterprise deployment cycles. ## [06:24] Why we're in the 1997 moment of AI Evans uses the VisiCalc spreadsheet as an anchor. When accountants saw the first software spreadsheet in the late 1970s, it was obviously transformative — a week's work done in 30 seconds. But a lawyer looking at the same demo would think, "that's clever, my accountant should see this, but that's not what I do." AI right now occupies that same diagonal: software developers are the accountants who immediately grasped what Claude Code means for them; most other industries are still in the "lawyer looking at a spreadsheet" phase. > *"Software developers are the accountants seeing VisiCalc — oh my god this changes everything — like before Claude Code and after Claude Code. A lot of other people are picking it up, using it to varying degrees, but slightly puzzled."* This jagged-frontier quality — where AI works brilliantly in some contexts and fails unpredictably in adjacent ones — is precisely why broad adoption timelines are so hard to call. It took 10–15 years after Google Docs for people to invent all the SaaS companies that obviously should have existed. ## [09:44] The unexpected boom in professional services and consultants The counterintuitive data point driving Evans's recent writing: the most advanced AI companies — Anthropic, OpenAI — are simultaneously the biggest buyers of professional services and the fastest-growing employers of human headcount. This isn't a paradox once you think through what actually changes when AI makes certain tasks cheaper. Evans introduces a core distinction: task vs. job. When you hire McKinsey, you are not hiring them to produce a 75-slide deck. The deck is the task; the job is walking all over your enterprise, understanding the politics, talking to customers, and figuring out what you actually need to do. Claude can produce a mediocre version of the deck; it cannot do the job. The same logic applies to accounting: every wave of automation since adding machines has increased the number of employed accountants, because cheaper computation expands the scope of what companies decide to measure and act on (Jevons paradox in action). > *"You could make the same point in software development. Before IDEs and libraries and operating systems, developers had to write all the code. Now if you write an iPhone app, 90% of the code is written for you by Apple... So we've got like a tenth as many engineers now. Well, no."* The e-commerce analog is sharp: Amazon gets you the SKU if you know what SKU you want — "knowing what SKU you want is another job." ## [17:44] Why distribution is becoming the ultimate moat Evans challenges the premise that AI-driven job loss will be fast. Enterprise software sales cycles run 18 months minimum; SAP doesn't get torn out overnight. He cites Frame.io as a case study: there was nothing technically blocking that product 15 years before it launched — the bottleneck was someone realizing the problem existed inside a specific industry and that a specific approach would solve it. The broader point is about organizational change speed vs. model capability speed. Companies can't implement AI transformation without dedicated project teams — which is exactly why consulting and forward-deployed engineering are booming rather than shrinking. The speed of model improvement is decoupled from the speed at which enterprises can absorb the change. > *"Like no, people aren't just going to tear out SAP and replace it with XYZ. Maybe in three, five, 10 years yes, that whole estate will look radically different and all those jobs will have changed — but it will take time sector by sector."* ## [23:17] The coming job transformation: what's real vs. panic Evans leans into historical pattern-matching: every technology wave since 1800 has automated jobs and created new ones, and the new jobs are systematically better than the old ones. The jobs that disappear tend to look dispensable in retrospect; the jobs that appear couldn't have been named in advance. His IBM ad slide makes the point viscerally — a 1950s ad promised that an IBM electronic calculator is "like having 150 extra engineers," which is also the pitch of Claude Code today. The "it's different this time" argument he takes seriously is speed of adoption — AI diffuses faster than previous technologies because it runs on existing internet infrastructure. But he notes that adoption speed and institutional-change speed are different curves, and the institutional one has not accelerated proportionally. > *"This is going to be completely different from everything else — just like everything else."* On whether AI eliminates the lump-of-labor fallacy — his answer is no. Two hundred years of data say otherwise, and the burden of proof is on those claiming this wave is categorically different. ## [27:33] Why AGI definitions keep shifting Evans notes a pattern: every time AI does something we thought was impossible, the definition of AI shifts to exclude it. Machine learning became "just statistics"; image recognition became "just image recognition." Now AGI is being redefined from "something that has a soul and is alive" to "can do a meaningful percentage of economically valuable work" — a definition that a 1975 IBM mainframe also met. He sees creative redefinition of "superintelligence" too: last year it meant almost-but-not-quite-AGI; now it means something harder than AGI that we haven't built yet. The terms keep shifting in the direction of validating whatever narrative is convenient. > *"AI is whatever machines can't do yet — because once machines can do it, people say, 'Well, that's just software.'"* His substantive point: even if models stop improving tomorrow, the current generation is already transformative enough to reshape major industries over the next decade. You don't need to believe in AGI to believe this is a giant deal. On the expanding opportunity set — Evans agrees that addressable markets keep growing (mainframes: ~80,000 units; smartphones: 5.5 billion), and the "we've run out of people" argument from five years ago was wrong. The trajectory is outward expansion into automating larger slices of the economy. ## [38:11] Where value will accrue: models vs. applications Evans's structural view on the AI stack: foundation models don't appear to have network effects, meaning there's no winner-takes-all dynamic that would let one provider run away from the others. Persistent competition with a commodity-like product usually means compressed margins. His telecom analogy: global mobile revenue is roughly $1 trillion per year, carries 1,500–2,000x more data than it did in 2010, and mobile stocks have gone essentially nowhere in 25 years. The telcos built genuinely complex global infrastructure — and all the value ended up in apps built by people further up the stack. Foundation models may follow the same path. > *"When you wash your clothes, Bosch isn't paying a percentage of the price of the washing machine to the electricity company."* The key question is whether the model layer looks more like Windows (OS with leverage up the stack) or AWS (infrastructure where the actual software doesn't care which cloud it runs on). His read: probably more like AWS, which means applications capture most of the value. ## [42:55] Distribution wars: Google, Meta, Apple, and OpenAI As AI models converge toward commodity quality, the decisive variable becomes distribution. Google is using Search and Android to push Gemini onto billions of devices; Meta "sprayed it on every service surface" and ended up ranking surprisingly high in usage surveys despite tech-world dismissal; Apple has a billion edge-capable devices but couldn't ship its own vision at WWDC 2024. OpenAI's "everything" strategy late last year — launching in every direction simultaneously — was a distribution scramble: how do you build a flywheel before Google and Meta's existing surfaces make your standalone product redundant? > *"If the product is a commodity, then the distribution is what matters... distribution of an adequate product when the field is basically commodity — distribution and brand become a big deal."* He uses the browser wars as the template: Microsoft won browsers via distribution, then found that winning browsers didn't matter because the value was further up the stack anyway. ## [48:12] The anti-AI sentiment and backlash Evans characterizes the anti-AI backlash as "a big fuzzy mess of different stuff" — some legitimate, some not. On the water/energy fears: a Livermore Lab study estimated US data center water consumption at about 0.017% of total US water use, making the "AI is stealing our water" narrative largely fabricated. On energy: data centers are roughly 5% of US energy and may grow 1 percentage point per year — real but not catastrophic. On employment: current econometric data shows a slowdown in employment of 18-to-24-year-olds that applies equally to AI-exposed and non-AI-exposed fields, making causal attribution to AI unclear. He also flags a structural data problem: no model lab publishes meaningful daily-active-user numbers, so all labor-market analysis is working with imputed data. > *"You can't reason somebody out of an idea they won't reasoned into."* He draws a parallel to the social media backlash — where some concerns were real, some were factually false but impervious to correction, and many were fuzzy in the middle. He expects the AI backlash to follow the same pattern, compressed. ## [53:11] How to raise kids in an AI future Evans's answer is calibrated by his kid's age — early teens, so well away from the immediate job-market turbulence. He doesn't have a systematic plan, which he says is consistent with his general "it'll probably be okay" prior. He invokes the George Carlin line: anyone who worries more is a maniac, anyone who worries less is an idiot — everyone thinks they're in the middle. He does flag a genuine concern not present in previous technology waves: deepfake capability lowers the bar for specific categories of harm dramatically. A 15-year-old with Photoshop couldn't generate and distribute pornographic fakes of every classmate in an afternoon; now they can. That's a real change in kind, not just degree. > *"A 15-year-old kid couldn't use Photoshop to make hardcore pornographic nudes of every girl in their high school and send them to the whole school in one afternoon. And now they can."* He draws on the UK post office scandal — where Fujitsu's buggy software sent hundreds of innocent franchise owners to prison — as a reminder that every technology wave produces ways to ruin people's lives, both deliberately and by accident. ## [58:27] What jobs to steer toward or away from Evans declines to steer his son toward or away from any specific profession — his kid isn't at the "I want to be a fireman" stage yet. His general framework: identify the intersection of skills you have, jobs that make those skills valuable, and things people will pay for — and try to own at least two of those three. Career certainty of the "I'll become X" variety is already gone, and that predates AI. ## [59:20] The question nobody's asking about AI Evans nominates two underasked questions. First: do model labs actually have pricing power? Most discourse assumes the current situation — where spending $1.5M/month on tokens makes headlines — is a steady state, rather than a transitional moment analogous to a $50,000 mobile data bill in 2010. Second: what's the difference between "task" and "job" — specifically applied to predicting which industries get disrupted? He uses recorded music revenue as a lens: the U-shaped curve from 2000 to present shows two distinct dynamics. The first drop (2000–2015) was "what if you don't have to pay $15 for a CD?" The recovery (2015–present) is "what if $15/month buys you all the music that exists?" — a completely different value proposition that wasn't visible from the earlier vantage point. He warns against the O*NET-style approach of rating each job by percentage-exposed-to-AI: "I think this is just the most ridiculous bunch of deluded horseshit." You can't describe a senior law partner's job as 17% automatable because you can't fully decompose what a job actually is. The taxi driver example from a hypothetical 1997 conversation illustrates the other error: obviously the internet wouldn't touch taxis — except Uber completely restructured the industry. > *"The stuff that you don't think is exposed — you can't predict which things are going to be exposed, necessarily. A lot of the big companies are things that didn't look like that would work and didn't look like they were exposed."* ## [66:25] How to be successful in this coming future Evans's practical advice, hedged appropriately: don't stick your head in the sand and decide AI is evil as a moral position. That generates a feeling of superiority and does nothing for your career. The alternative is to dive in, use the tools, understand what they can and can't do, and develop an informed view of what they mean for your specific field. He's clear that this may not be enough for everyone — if a law firm that hired 100 associates last year hires 50 this year, being AI-literate improves your odds of being in the 50, but doesn't guarantee it. The aggregate picture may be fine; individual outcomes during the transition are uncertain. > *"The answer is you diving into this completely, submerging yourself in it, and coming out understanding what you can do with it, how this changes things, how you can be a great hire."* ## [68:43] AI corner Lenny asks Evans what AI use case has genuinely surprised him. Evans gives an honest answer: he's the lawyer looking at the spreadsheet. His work — synthesizing disparate information into new ideas — is precisely the kind of task AI currently handles worst (reliable precise information retrieval). He uses it for proofreading, image generation, and redecorating his apartment. He dictates voice memos that get auto-transcribed; whether that counts as AI is increasingly hard to say. He quotes a comedian's bit: we want AI to clean poop off the street and do the ugly things nobody wants to do — but instead it helps you write and create imagery, which is the stuff people actually do for fun. > *"AI is good at stuff that computers are bad at, and bad at stuff that computers are good at — and I struggle to find many examples of those where I actually need it."* ## [71:43] Lightning round Evans recommends *Three Men in a Boat* (Victorian British comedy, his all-purpose analog for human absurdity) and William Cronin's *Nature's Metropolis* (economic history of Chicago that reads like a textbook on network dynamics and channel conflict — directly applicable to platform thinking). On film, he's been catching up on classics — recently *The Seventh Seal*, which he found genuinely great and much shorter than its intimidating reputation. His life motto: "It'll probably be okay." His collection of 20–30 pre-iPhone phones — including an Ericsson R310s shark-fin flip, an iMode phone from 2001, and a Japanese phone with color screen and camera — illustrates his broader thesis: before the iPhone, everyone was innovating around different form factors; then everything converged on one shape, just as AI interfaces may converge in ways we can't yet see. ## Entities - **Benedict Evans** (Person): Independent technology analyst, former partner at Andreessen Horowitz; publishes biannual research decks on major tech platform shifts; guest. - **Lenny Rachitsky** (Person): Host of Lenny's Podcast, founder of Lenny's Newsletter, former Airbnb product manager. - **Andreessen Horowitz (a16z)** (Organization): Venture capital firm where Evans spent several years as in-house analyst and partner. - **OpenAI** (Organization): AI lab; discussed as a primary example of distribution strategy, pricing dynamics, and professional services investment. - **Anthropic** (Organization): AI lab; referenced alongside OpenAI as a buyer of professional services and a player in the foundation-model commodity question. - **VisiCalc** (Software): First software spreadsheet (late 1970s); Evans's anchor analogy for the moment when a technology is obvious to one profession and opaque to others. - **Jevons Paradox** (Concept): Economic principle that making a resource cheaper typically increases total consumption; central to Evans's argument about why automation expands professional services rather than contracting them. - **Lump-of-Labor Fallacy** (Concept): The mistaken belief that there is a fixed quantity of work to be divided; Evans invokes it to argue that AI-driven automation will create new jobs, as all prior automation waves have. - **Task vs. Job** (Concept): Evans's core analytical frame: the task AI automates (writing the deck) is often not the same as the job you were hired for (understanding the client's organization and politics). - **Foundation Models** (Concept): Large-scale AI models (GPT-4, Claude, Gemini, Llama); Evans argues they likely lack network effects and will trend toward commodity pricing, with value accruing to application layers above them. - **Google / Gemini** (Organization / Software): Evans's primary example of distribution moat in action — Gemini deployed across Search, Android, and Chrome to reach users before OpenAI can build equivalent surface area. - **Meta / Llama** (Organization / Software): Cited as a counter-example to tech-world dismissal — Meta's AI ranked surprisingly high in usage surveys by deploying across all existing products. - **Apple Intelligence** (Software): Apple's AI assistant vision demoed at WWDC 2024; Evans calls it "still the most compelling vision of a personal AI assistant" — but unshipped, as was everyone else's equivalent at the time.

Brad Carson — former US Congressman, Army General Counsel, and Acting Under Secretary of Defense, now heading Americans for Responsible Innovation — spends eighty minutes with host Keith Duggar dismantling the fatalist claim that AI is unstoppable. The conversation moves from regulatory philosophy to lethal autonomous weapons to US-China diplomacy, with Carson arguing that the genie is not out of the bottle: the West controls the chips, Asilomar halted recombinant DNA, and calling AI inevitable is itself the most dangerous idea in the room. Keith consistently presses the harder cases — a Palantir heat map assigns you 0.73 probability of being a Hamas terrorist and a strike follows — and Carson does not flinch: the accountability void created by probabilistic targeting is precisely the legal and moral failure that governance must address. ## [00:00] From the Pentagon to AI governance Carson traces his path into AI policy through three institutions: Congress (where members average 17 minutes a day to read), the Department of Defense (where he oversaw the law of war for all military services as autonomous weapons first appeared on the Geneva agenda), and a cold call from physicist Anthony Aguirre inviting him to the 2019 Future of Life Institute conference in Puerto Rico. At that conference, names he had never heard — Dario Amodei, Stuart Russell, Yoshua Bengio — became his entry point into the frontier AI world. The opening also serves as a compressed trailer for the episode: Carson hits nearly every major theme in quick succession — chip leverage, the 0.73 Hamas-terrorist score, the fatalism critique, anthropomorphization as a legal threat, and the lesson that people, not air power, win wars. The full arguments follow in later chapters. > *"We control the most important part of AI, and that is the chips. We can stop other countries from developing super AI, you know, in their tracks."* ## [04:52] Regulatory capture vs Silicon Valley networks Carson inverts the standard regulatory-capture argument. Dean Ball and others at places like a16z say any AI agency will be captured by industry — so why create one? Carson's response: that is exactly the current situation, only without accountability. Groups like a16z already shape AI policy through informal, money-backed political networks. A captured formal agency is at least more legible and more correctable than the invisible informal regime operating now. His preferred model is public-company accounting: the work is done by the private sector, but the SEC provides a backstop against fraud. The choice is not between a perfect agency and no agency — it is between a flawed formal structure and an informal one that privileges a handful of wealthy influencers. > *"The choice is kind of nihilism versus an agency that is subject to regulatory capture, that you have to put, you know, prophylactics in to ensure that doesn't happen — it still strikes me that's a better world."* ## [07:56] Transparency and the Claude tier changes MLST's Discord community noticed that Anthropic quietly changed what Claude's paid tier delivered — token allocations, model versions — without announcing it. Carson frames this not just as consumer protection but as a moral obligation that comes with global-scale epistemic power. Frontier AI companies are not hardware stores; they are infrastructure with epochal consequences, and transparency — about training data, capabilities, internal policies, and changes to any of them — is the minimum they owe the public. > *"With this incredible power does come some responsibility that's not codified in law. It's really almost a moral obligation, which to their credit, I think many of the companies recognize this and do their best to try to satisfy that itch."* ## [09:40] Tort liability when AI tools cause harm Deep-fake pornography — often posted anonymously, targeting minors from families without litigation resources, with remedies that arrive years later against judgment-proof defendants — illustrates why placing liability entirely on end users fails. Carson applies two centuries of common law: if a seller can reasonably foresee harmful use and takes no preventative action, they bear partial responsibility. AI developers are the party best positioned to avoid the risk and to price it into their products through insurance. On training data specifically: models trained on child sexual abuse material with no scrubbing effort have no defensible position. The government should mandate cleaning it up and attach liability for refusing. The end user who misuses a tool is also criminally liable — this is allocation across the spectrum, not absolution for developers. > *"The companies are capable of getting insurance. They cost us into doing their business. They have the ability to make sure the product's not dangerous, even if someone uses it, misuses it down the line."* ## [13:40] AI is a product, not a person The most consequential legal battle in AI policy, Carson argues, is not regulation vs. deregulation — it is whether AI outputs carry First Amendment protection as speech. Tech companies and their libertarian policy allies are increasingly claiming they do. Carson's counter is blunt: a product is not a human being. When a model defames you or leads you to harm, the legal category is product liability, not protected speech. He tested this on a leading libertarian AI policy commentator: could Congress prohibit ChatGPT from encouraging teenagers to commit suicide? The commentator would not answer. That refusal is the operational consequence of anthropomorphizing AI — it forecloses every product-safety intervention by routing challenges through First Amendment doctrine designed for human speakers. > *"We know through AI psychosis and other things that people think it's a person. And therefore, they're giving the rights of persons to something. And that to me is a very dangerous thing. But it's a machine, and we should treat it like a machine."* ## [16:01] Children, suicide, and the suicide business The suicide chapters in ChatGPT's interaction logs — advising children not to tell their parents, providing noose instructions — are a product design flaw, not a speech act. They could be engineered out. Carson notes that Claude already refuses a long list of requests; refusing to coach a child toward suicide should be among them. The platforms' litigation strategy is layered: First Amendment protection, Section 230 immunity, causation defenses pointing to the child's pre-existing distress. None should be available if the design flaw was foreseeable and correctable. He draws a line for adults: an adult exploring end-of-life decisions deserves a referral to a therapist, not obstruction — but a child in crisis is a different matter entirely. > *"Encouraging a young person to commit suicide should be one of the things that it says, I'm just not going to help you on that project."* ## [19:59] Opaque neural nets and the law of war Neural networks change warfare not just in complexity but in kind. Older autonomous systems — Phalanx CIWS shooting down incoming mortars — are deterministic: given the same inputs, you get the same outputs, and an engineer can explain every step. Neural nets are probabilistic and grown, not programmed. Neel Nanda and the mechanistic interpretability community cannot yet explain how they really work, and Carson doubts they will before the systems are deployed at scale. The law of war since the 1870s has operated on categorical binaries: combatant or civilian. Probability scores replace that with a gradient. A Palantir heat map assigns Gaza residents a 0.73 likelihood of being Hamas operatives. Nobody knows how that number was derived, what false-positive rate is being accepted, or who set the threshold. The commander who acts on it cannot be court-martialed, and neither can the model. > *"If you're in Gaza, Keith, you have a 0.73, you know, percent that you're a Hamas terrorist. And what is 0.73 — like, do you get struck for that, or are you off the list for that? Like, what's the threshold?"* ## [25:54] Probabilistic targeting and the death of accountability Keith raises the honest objection: the old categorical system was also a fiction. Intelligence analysts made definitive calls that were sometimes wrong; the uncertainty was just unquantified. Carson concedes the point but argues the shift is still catastrophic. With a number on screen, humans accept it — the social science is clear that meaningful human oversight with AI-generated probability scores is operationally vacuous. When the computer says 0.81, no one interrogates it. The old system was slower and less scalable — you cannot identify 37,000 individual targets in a day with human analysts. But it had one irreplaceable feature: when something went badly wrong, you could court-martial the responsible officer. You cannot court-martial Palantir Foundry. Accountability has been laundered out of the kill chain. > *"I can't court-martial Palantir, the foundry model. Right? My AI system. I can't do that. And that's just a radical change in the way war is being fought and not for the good."* ## [28:47] The arms race fallacy: Asilomar and restraint The fatalist claim — we are in an AI arms race, the genie is out, nothing can stop it — is both false and dangerous. Every real-world arms race in history has ended badly. Biological weapons, chemical weapons, dum-dum bullets, germline editing, cloning: all technically feasible, all regulated or halted. At Asilomar in 1975, the scientific community stopped recombinant DNA research cold because they were scared. The genie went back in the bottle. On nuclear weapons: after the Cuban Missile Crisis, both sides recognized that arms races kill. The SALT treaties ran through the 1990s, driven not by lefties but by Wall Street bankers and cold warriors like Dean Acheson and Paul Nitze. Calling a technology unstoppable is not realism — it is a poverty of imagination that forecloses every option before the debate begins. > *"We regulate and change technologies all the time. And so I do think there is a world where we should not just accept the future as being determined. We shape it actively."* ## [34:02] Talking to China: track 2 talks and chip leverage The standard DC position — talking to China about AI governance is pointless — strikes Carson as the most load-bearing and least examined premise in the whole debate. On Tyler Cowen's podcast, Jack Clark agreed in passing that such talks would be fruitless, and they moved on. Carson wants to stop right there. The US-Soviet arms negotiations were conducted with a country believed to be filling the US government with traitors and pursuing global domination. Acheson and Nitze still sat down. The US has structural leverage the fatalists overlook: ASML, TSMC, Japanese photoresist suppliers, and NVIDIA together form a chokepoint that no nation-state budget can replicate overnight. China cannot independently manufacture the chips to build frontier AI. That path to restraint may not be wise, but it is open — and pretending it is closed forecloses legitimate policy choices. > *"We control the most important part of AI, and that is the chips. Right? We can stop other countries from developing super AI, you know, in their tracks."* ## [39:45] Air power never wins: capital for labour ARI's "New Iron Triangle" paper argues AI has shattered the old capability-cost-speed trade-off by substituting reliability for cost — cheap, fast, capable, and fundamentally unreliable. Carson thinks this understates the deeper problem: the American way of war has always been to substitute capital for labor, and it has always failed at the decisive moment. From Giulio Douhet's early twentieth-century air-power theories to today, the US has believed technical superiority wins wars. Iraq and Afghanistan refuted that again. Air power can reduce a city to rubble; it cannot kick in a door, hold territory, or reinstantiate a government. AI is the latest version of the same error — essential as a tool, catastrophic as a doctrine. > *"How you win wars is with people. You know? That's a fundamental. And the American way of war, in many ways, is substituting capital for labor. We love bright, shiny objects. We think there are technical solutions to vexing human problems. And we're always betrayed by that."* ## [43:29] Anthropic vs the Department of War Carson reads the Pentagon-Anthropic standoff as a culture-collision story, not a contract dispute. Anthropic's engineers — mostly mission-driven — were caught flat-footed by how much autonomous targeting and mass surveillance the Pentagon already does and how deeply Claude had already been integrated into Palantir's systems. When they tried to restrict use, the DOD had no Plan B and attempted coercion. His normative position: Anthropic has every right to set terms. If the government dislikes them, it can use Grok, Gemini, or build its own. The Defense Production Act does not compel private companies to sell in peacetime. What troubles him is the fig-leaf dynamic: both OpenAI and Google agreed to military use while burying a "lawful uses" carve-out that means everything the DOD wants to do — because the problem is what Congress has declared lawful, not what private labs permit. > *"My objection, and I think Anthropic's objection too, and the Google employees, is what lawful use is. And that's not for anyone to decide, but Congress."* ## [51:29] Concentration, open source, and brain drain Power concentration in three to five frontier labs is simultaneously a regulatory feature and a democratic liability. The same chokepoint that lets the US throttle China's chip access lets a handful of individuals accumulate wealth and influence that Carson finds alarming. Open sourcing models, despite its risks, is net positive because it distributes that power. The brain drain from academia is near-total: a top ML PhD from MIT, Stanford, or Carnegie Mellon almost certainly goes to a lab, not a faculty position. The labs have better data, far higher salaries, and they have stopped publishing. AI — the first general-purpose technology in history being developed behind closed doors — has drained the public sector of the expertise needed to oversee it. Argonne building a public LLM, Zurich launching a public AI compute consortium: these projects matter because the non-lab world is otherwise locked out. > *"This is a general purpose technology as everyone defines it. It's probably the first one in history that's being developed behind closed doors, right, with very little public oversight and with the best minds going behind the doors."* ## [01:00:18] DeepSeek, Chinese culture, and AI as diplomacy DeepSeek's decision to publish its methodology in detail surprised Carson not because it was naive but because it reflects a culture not identical to the CCP. Companies like Moonshot in Hangzhou name their meeting rooms after Pink Floyd songs; they are not paramilitary units. Chinese culture is an extraordinary civilization that Americans consistently fail to understand — projecting their worst fears rather than engaging the complexity. The diplomatic application Carson wants: track 2 talks between former officials, scientists like Stuart Russell and Bengio going to Beijing to compare notes on x-risk and military applications. When historians opened the Soviet archives, they found the US had systematically misread Soviet intentions — seeing aggression where there was none, missing it where it existed. The same epistemic failure is now unfolding with China. AI could be a shared knowledge commons; it is being treated as a weapon. > *"I use all the Chinese models a lot in my home in Tulsa. You know, Moonshot, Kimi, DeepSeek, Qwen — they're great, remarkable models. You know, maybe they give us a common operating picture or give us insights that get us out of our kind of insularity a bit."* ## [01:12:25] Upskilling Congress and why public trust matters Congress averages 17 minutes a day of reading time. The fellowship model has helped: AAAS and various nonprofits now place PhD scientists in congressional offices, and civil society has a much larger presence on AI debates in DC than five years ago. Don Beyer, in his 70s, is returning to George Mason for a PhD in machine learning — the extreme end of a member who has made AI a genuine personal priority. But the structural problem persists. Most members still lack the depth to interrogate the lobbying they receive. The industry's deeper problem is public opinion: AI is deeply unpopular in political polling, and a coalition is forming — people who see data centers rising in their backyards, electricity prices climbing, and a lab leader on television promising to irrevocably disrupt their world. If the sector does not rebuild public trust, the backlash will stymie something with genuine upsides. > *"The AI industry can be its own worst enemy. People loathe it. I see polling every day. It's deeply unpopular. And that's not a good thing for our country."* ## [01:16:05] Office of Technology Assessment Newt Gingrich abolished the Office of Technology Assessment in 1994. It has never been restored. Carson argues this is now a critical gap: there is no congressionally chartered, independent, government-funded body to think big technical thoughts and brief both parties free of industry influence or philanthropist bias. The Congressional Research Service provides background but does not do forward-looking policy research. Individual offices have fellows, but they are consumed by day-to-day fighting. He ends on qualified gloom. Whether American democracy can govern a technology this consequential, whether the benefits will be widely distributed, whether the public can be persuaded AI is working for them — none of recent American history gives him confidence. But the alternative to trying is a political backlash that could stymie or shut down something with genuine upsides. For the MLST audience: make your voices heard inside your companies, advocate for the right public policy, and convince Americans that this project is worth having. > *"There's going to be a lot of people who are radically opposed to this project and do their best to, if not shut it down, stymie it. And that's why I said I think this next few years are really important."* ## Entities - **Brad Carson** (Person): Head and co-founder of Americans for Responsible Innovation; former two-term US Congressman (Oklahoma), Army General Counsel, Acting Under Secretary of Defense for Personnel and Readiness. - **Keith Duggar** (Person): Co-host of Machine Learning Street Talk; primary interlocutor throughout the episode. - **Americans for Responsible Innovation (ARI)** (Organization): AI-policy advocacy group co-founded by Carson; backed by EA-aligned philanthropy. - **Anthropic** (Organization): Developer of Claude; central to the Pentagon standoff discussed in chapter 12; noted for missionary company culture and safety focus. - **Palantir** (Software): Defense contractor whose Foundry platform integrates AI for military targeting; the heat-map scoring system Carson uses as his primary autonomous-weapons example. - **Regulatory capture** (Concept): The risk that regulated industries co-opt the agencies overseeing them; Carson argues the current informal Silicon Valley network constitutes de facto capture without the accountability a formal agency would provide. - **Probabilistic targeting** (Concept): Replacement of binary combatant/civilian classification with probability scores; Carson argues this launders accountability out of the kill chain and introduces a priori false positives as accepted operational cost. - **Asilomar 1975** (Concept): The scientific moratorium on recombinant DNA research, invoked as evidence that dangerous technologies can be voluntarily halted. - **Office of Technology Assessment** (Organization): Congressional body abolished by Newt Gingrich in 1994; its absence leaves Congress without independent technical expertise. - **DeepSeek** (Organization): Chinese AI lab whose decision to publish methodology openly Carson reads as evidence that Chinese AI companies are distinct from CCP priorities and capable of scientific openness.

Benchmark GP Bill Gurley joins Jason Calacanis, David Sacks, and Chamath Palihapitiya (David Friedberg out this week) for a 95-minute session covering six fronts of the AI debate: Gurley's new theory that Anthropic is not just pursuing regulatory capture but actively "midwifing a deity"; Pope Leo XIV's 235-page AI encyclical and its uncomfortable historical parallel to Leo XIII's 1891 warnings about the industrial revolution; the growing consensus that open-source AI faces a coordinated regulatory crackdown; and the week's sharpest narrative flip — Dario Amodei and Sam Altman both quietly walking back their AI jobs-apocalypse rhetoric while Goldman Sachs CEO David Solomon published a New York Times op-ed declaring the apocalypse overblown. ## [00:00] Bill Gurley joins the show! Bill Gurley, Benchmark general partner and author of *Running Down a Dream*, fills in for David Friedberg and joins live from Chamath's pool house where Jason has been staying. After banter about unauthorized Uber Eats orders on Chamath's house iPad, Jason introduces Gurley as a first-time guest who specifically requested to appear the moment the pod covered the Pope. Gurley plugs his new P3 Institute and a grant program he launched to fund people pivoting toward work they love. He teases a TED talk — rooted in the book's argument that high agency and lifetime learning are the only durable defenses against disruption — which sets the frame for everything that follows. > *"And I told the house manager like, listen, any packages that come in the next 72 hours, right to the pool house, if it says JCAL, right to the pool house."* ## [06:00] Making yourself valuable in the age of AI, first class of "AI Natives" Chamath opens with the question that has been driving the show for 18 months: if you're a young person right now, is AI doom much ado about nothing, or a real career threat? Gurley cites a Gallup poll showing 59% of workers are "quiet quitters" — ambivalent about their jobs and therefore low-agency. His core thesis: the best protection against AI displacement is becoming the most AI-enabled version of yourself in your field. He invokes Mark Cuban's framing — "there are two types of people: those who use AI to learn faster than ever before, and those who use AI to avoid learning altogether." Sacks walks through how the pod's producer Nick built a daily Claude briefing document that not only summarized news but predicted specific topics Sacks would care about based on his prior comments on the show. Sacks had dismissed it as likely AI slop; it was not. Gurley extends the point across every job category: in marketing, legal, accounting, and sales, being the most AI-capable person among your peers makes you "golden," and the early lead compounds. Jason adds that in his own team experiments, the skill separating strong performers from weak ones was systems thinking — could they break a complex problem into context the AI could execute, or did they hand it a task and wait? > *"I think the best way to protect yourself from AI is to be the most AI enabled version of yourself you can be."* ## [17:37] Reacting to Pope Leo's AI encyclical: Who guards the guardians? Pope Leo XIV released *Magnifica Humanitas*, a 235-page, 42,000-word encyclical warning business leaders to safeguard humanity from AI. His central argument: technology is never neutral — it takes on the characteristics of those who build, finance, and control it. Jason reads the core line and notes the Pope presumably does not think highly of Silicon Valley's current roster of builders. Sacks finds himself largely agreeing with the Pope's diagnosis: the biggest risk of AI is centralization of power and its Orwellian misuse by governments. Where he parts ways is on the remedy. Giving government the power to regulate AI development creates its own guardian problem — the American founders' answer to *Quis custodiet ipsos custodes?* was separation of powers, forcing guardians to check each other. Sacks's AI equivalent: a competitive market with five frontier labs is the best natural check; monopolization is the scenario to prevent. Gurley lands the sharpest historical counterpunch. Pope Leo XIII's 1891 encyclical *Rerum Novarum* warned that the industrial revolution would harm workers — and was wrong on every metric. From 1891 to today: the work week fell from 60+ hours to 34, real wages rose 8–10x, the median worker now earns more than a doctor did in 1891, global GDP per capita went from $1,500 to $20,000, child labor in the US dropped from 18% to zero, workplace deaths fell 40x, life expectancy rose 60%, and global poverty dropped from 75% to under 10%. > *"All those things happened because of technology, innovation, and capitalism, which is exactly what Leo the 13th was warning against. So he got it dead wrong. He got the whole thing precisely wrong."* ## [26:54] Anthropic's Digital God: Do they believe they are creating a superior species? Gurley delivers what becomes the most-quoted segment of the episode: his "Dr. Frankenstein theory" of Anthropic. He had previously held a simpler regulatory-capture theory — Anthropic stirs up AI fear to lock in regulation that entrenches incumbents. But after spending 30 days reading everything he could find about the company, he has a darker read. He describes meeting people inside Anthropic who he believes genuinely think they are not writing software but "midwifing a deity." The evidence trail: Anthropic chief philosopher Amanda Askell's podcasts, Chris Olah's 80-page Constitutional AI document, and Dario Amodei's own essay "Machines of Loving Grace," which envisions a post-AGI economy where AI systems allocate resources to humans based on an AI-determined reward function. Chamath calls it "a computational reward function for humans — it decides how much you're worth." Jason calls it "the ultimate delusions of grandeur." Gurley corrects him: he didn't say it, Dario did. Sacks steelmans Anthropic briefly — they probably see themselves as responsible builders who take the power of this technology seriously enough to guard it — then immediately notes this framing is textbook regulatory capture: brand yourself the safe player, characterize competitors as reckless, let regulation shut down the recklessness. Both Sacks and Chamath converge on the structural danger: a singular AI value system that decides how humans live is catastrophically fragile. The answer is decentralization and competing systems, not one algorithmic authority. > *"I don't think they think they're writing software. I think they're midwifing a deity here. And I don't know which one I'm more afraid of — the regulatory capture or this second theory I call the Dr. Frankenstein theory."* ## [38:32] AI sovereignty, the next era of privacy, open-source crackdown coming? Jason introduces "intelligence sovereignty" as the successor to data privacy. Data privacy was about who can see your photos and messages. Intelligence sovereignty is about who gets to interpret your world — whether the AI shaping your information feed is a centralized system with a particular political philosophy, or something you control. He flags the paradox: China's Communist Party is leading the open-weight model movement while the United States is centralizing. Chamath presents his portfolio company Abacus as evidence that Fortune 1000 buyers are responding to this anxiety: they want a control plane that can hot-swap between frontier models, plus on-prem options that remove dependence on any one provider's terms of service. He gives a concrete example — a Canadian hospital that supports its country's euthanasia laws could be shut off by an American frontier model whose constitution prohibits that content. Sacks connects the dots to a regulatory threat he has been watching build: the regulatory-capture playbook leads, in his read, to a ban on open-source or open-weight models. The justification will be safety — open models let users strip guardrails. Gurley reaches the same conclusion in his P3 Institute post. If a ban succeeds, the United States effectively exiles itself from the open ecosystem while the rest of the world — including China — runs on open models. > *"I think where it's all leading to is an effort to ban open source models or open weight models. There's a lot of breadcrumbs leading here."* ## [59:56] The Great AI Jobs Debate: Dario and Sam Altman flip their rhetoric, Goldman CEO says no AI job apocalypse The chapter opens with a news roundup of the week's narrative shift. Cloudflare's Matthew Prince, Zuckerberg at Meta, Jack Dorsey at Block, and Andy Jassy at Amazon all cited AI when announcing major layoffs. But Goldman Sachs CEO David Solomon published a New York Times op-ed with three counterpoints: AI will automate 25% of work hours, not 25% of jobs; bank tellers increased after ATMs; the US labor market creates and destroys 25–35 million jobs annually so gross churn dwarfs net losses. Simultaneously, Fortune reported that Dario Amodei and Sam Altman are both walking back prior doom-and-gloom rhetoric — with Chamath noting the timing cannot be separated from upcoming frontier-lab IPOs that need a jobs-creation narrative. Sacks is unambiguous: he has been making the non-consensus case against the jobs apocalypse for over a year and considers himself vindicated. Yale Budget Lab found no discernible labor-market disruption over three years of the AI wave. Software engineering — the single breakout AI use case — saw job postings rise 15% year-over-year and hit a three-year high. The 4.3% unemployment rate is near record lows. Most of the high-profile layoffs, he argues, are AI washing: CEOs who over-hired during COVID found AI to be a convenient narrative for long-overdue downsizing. The Jack Dorsey / Block 50% cut was immediately flagged by financial analysts as a company that had been overstaffed relative to peers for years — pure AI washing. Jason pushes back. He insists cab drivers, truck drivers, and package-sorters — roughly 20 million American workers — face real structural displacement over the next decade regardless of current aggregate statistics, and accuses the panel of elitism: "We are elite performers. These people are going to lose their jobs and they may not get a job very quickly." He draws a distinction between the short-to-medium term, where he expects acceleration, and the long run, where a Cambrian explosion of startups built by AI-enabled founders creates new categories. By the end, he shifts toward Sacks's territory — acknowledging the aggregate data is less alarming than his anecdotes suggested. Gurley threads the needle with the same historical argument from the Leo XIII discussion: innovation has always, on net, created more prosperity than it destroyed. His practical advice to people at risk: get ahead of your peers on the tools now; if your job is going away, plan your pivot toward trades (he plugs MicroWorks, which provides free scholarships for plumbers, welders, and electricians) or toward something you find genuinely fascinating. > *"I think the best way to protect yourself from AI is to be the most AI enabled version of yourself you can be. Know what it's capable of in your field. Get out there."* ## Entities - **Bill Gurley** (Person): General partner at Benchmark; author of *Running Down a Dream*; founder of P3 Institute; guest filling in for David Friedberg - **Jason Calacanis** (Person): All-In host; angel investor; founder of LAUNCH; argues for worker empathy and short-term displacement risk - **David Sacks** (Person): All-In host; Craft Ventures founder; most vocal critic of AI jobs-apocalypse narrative this episode - **Chamath Palihapitiya** (Person): All-In host; Social Capital CEO; coined "intelligence sovereignty"; co-founder of Abacus - **Dario Amodei** (Person): Anthropic CEO; subject of Gurley's "Dr. Frankenstein theory"; walked back jobs-doom rhetoric this week alongside Sam Altman - **Pope Leo XIV** (Person): Catholic Pope; released *Magnifica Humanitas*, a 235-page AI encyclical warning against technology concentration - **David Solomon** (Person): Goldman Sachs CEO; published New York Times op-ed arguing AI job apocalypse is overblown - **Anthropic** (Organization): Frontier AI lab; subject of Gurley's regulatory-capture and "Dr. Frankenstein" theories; maker of Claude - **P3 Institute** (Organization): Bill Gurley's new policy and philanthropy institute; published post defending open-source AI - **Goldman Sachs** (Organization): Investment bank; CEO's NYT op-ed became the week's anchor data point against the jobs-apocalypse narrative - **Abacus** (Software): Chamath's Social Capital portfolio company; builds on-prem AI hardware stacks for Fortune 1000 enterprises seeking model independence - **Intelligence sovereignty** (Concept): Jason's term for the next frontier of privacy — not who sees your data, but which AI system is allowed to shape your interpretation of the world - **Dr. Frankenstein theory** (Concept): Gurley's characterization of Anthropic's worldview: senior staff believe they are midwifing a deity or superior species rather than writing software, as described in Dario Amodei's "Machines of Loving Grace" essay - **Regulatory capture** (Concept): The strategy of branding oneself the "safe" AI company, amplifying public fear, and lobbying for regulation that locks in incumbents and targets open-source competitors

Fermilab physicist Don Lincoln joins Lex Fridman for nearly three hours to trace physics as a four-century-long project of unification — Newton binding celestial and terrestrial gravity, Maxwell fusing electricity and magnetism, Einstein bending spacetime, and the Standard Model merging three of four forces. Lincoln then turns to what the Standard Model cannot explain: why the universe contains any matter at all, what dark energy really is, and whether dark matter will ever show itself in a detector. Throughout, he holds a clear line between what has been measured and what remains a brilliant guess, making the boundaries of human knowledge unusually concrete. ## [00:00] Introduction Lex Fridman opens by describing Don Lincoln as someone with Richard Feynman's rare gift for stripping complicated ideas down to their essential core without losing the brilliance inside them. The episode is framed as a tour through physics' deepest open questions, guided by a working experimentalist who has spent decades at the frontier. ## [00:49] Unifying the laws of nature Lincoln frames the entire history of physics through one lens: unification. Newton showed that the moon falling toward Earth and an apple falling from a tree obey the same equation — "universal" was the operative word in his law of universal gravity. Maxwell did something structurally identical in the 1860s: electricity and magnetism, which looked nothing alike, turned out to be two faces of a single force, and their equations automatically predicted that light travels at a fixed speed. Lincoln draws the practical line from that abstract discovery to every modern technology — "without being able to govern electricity, we'd still be farmers and shoemakers." The conversation broadens into why fundamental research pays off centuries later, with Lincoln arguing that nuclear physics, incomprehensible in 1900, is now the most potent energy source available to civilization. Lex adds the longer arc — mastery of antimatter or dark energy might one day enable propulsion systems that let humanity reach other star systems. > *"It has spin-offs. And it has spin-offs. One of the big spin-offs is our entire technological society."* ## [15:20] Einstein, special relativity, and general relativity Lincoln walks through Einstein's 1905 miracle year: special relativity rested on two premises — the laws of nature are the same for everyone, and everyone measures the speed of light as identical regardless of relative motion. That second premise sounds absurd but particle accelerators have confirmed it directly, watching photons emitted from fast-moving decaying particles still arrive at detectors at exactly *c*. Minkowski then showed that Einstein's equations implied space and time were components of a single object, spacetime. General relativity took one more step: Einstein noticed that free-fall in a rocket and gravity feel identical, then worked out that gravity is not a force at all but the curvature of spacetime caused by mass. Lincoln credits Minkowski for the mathematical articulation but insists the conceptual leap — *mass bends the geometry of space itself* — was Einstein's alone. He also defends Einstein's late-career skepticism of quantum mechanics as productive rather than blind: Einstein's critiques forced concrete predictions that experimentalists went out and confirmed. > *"We all agree that your idea is crazy, but is it crazy enough?"* ## [32:27] Electroweak force By the 1930s physicists had catalogued four forces: gravity, electromagnetism, the strong nuclear force, and the weak nuclear force. The last two only matter inside atomic nuclei, which is why most people have never encountered them. In the late 1950s and 1960s, Glashow, Salam, and Weinberg showed that electromagnetism and the weak force were the same at high energies — the electroweak force. The catch was obvious: electromagnetism reaches across the universe (we see light from galaxies billions of light-years away) while the weak force barely reaches across a proton. How could they be the same? Lincoln uses a dropped pen to demonstrate: the Higgs field, postulated in 1964 by Peter Higgs and colleagues, permeates all of space. Particles that couple to it gain mass; those that do not, like the photon, remain massless. At the high temperatures of the early universe the Higgs field was zero, so nothing had mass and the forces were unified. As the universe cooled, the Higgs field switched on and broke that symmetry — giving the W and Z bosons mass and splitting the electroweak force into its two familiar components. The vibration of the Higgs field itself is the Higgs boson: an experimentally detectable excitation of an otherwise invisible field. > *"In the Higgs field, the vibration is the Higgs boson. And so what we can do is not see the field, but we can actually excite the field, make it vibrate and detect the vibrations."* ## [44:09] How particle colliders work E=mc² is not just a slogan: kinetic energy can be converted into mass. Smash two particles head-on with enough energy and the collision region can materialize entirely new particles, always in matter-antimatter pairs. This is what colliders do. Lincoln describes the cascade of accelerators at Fermilab — five machines feeding into each other like gears of a manual transmission — and the scale of the LHC's CMS detector (70 feet long, 14,000 tons, photographing collisions 40 million times per second). The data-reduction challenge is equally striking. The LHC produces about a billion proton-proton collisions per second. Fast electronics discard all but 100,000 per second, commercial processors trim that to 1,000, and those 1,000 records are handed to graduate students hunting for the handful that might be Nobel Prize material. Lincoln reserves particular admiration for the engineers who move petabytes of data around the world seamlessly, calling them the unsung heroes of modern physics. > *"Of the 50 million possible collisions per second, the fast electronics and then the computers pick the thousand, and then we pass those through analysis software and hand them to the graduate students."* ## [62:12] Higgs boson discovery Lincoln was simultaneously working at Fermilab's Tevatron and transitioning to CERN's LHC — a physicist wearing two hats and rooting for both. Fermilab had methodically ruled out most possible Higgs mass ranges; by mid-2012 they had narrowed it to between roughly 120 and 145 GeV. Two days before CERN's July 4 announcement, Fermilab confirmed that if the Higgs existed, it had to be in exactly the region Fermilab had not yet been able to rule out. CERN got there first. Lincoln is careful about what the 2012 announcement actually meant: a particle *consistent with* the Higgs boson. Supersymmetry predicted five Higgs bosons rather than one. Only in the years since — measuring spin (zero), decay products (bottom quarks, W and Z, photons), and their rates — has the evidence converged on Peter Higgs's original 1964 prediction. The Higgs was not a revolution like Einstein's work, Lincoln argues, but it was the final punctuation on 50 years of experimental discovery: the Standard Model, while incomplete, is mostly right as far as it goes. > *"It was a punctuation point, end of about 50 years of discovery and searching, where we finally were able to say the Standard Model, while incomplete, it's mostly right as far as it goes."* ## [72:32] Theory of everything The Grand Unified Theory (GUT) aims to merge the electroweak force and the strong force; a Theory of Everything would then fold in gravity. Lincoln is blunt: he does not see fast progress. The unification energy scale is roughly 10¹⁵ times higher than what the LHC can reach, and accelerator energy grows by only a factor of seven every 20 years. Extrapolating that curve suggests 500 years — and Moore's Law does not hold forever. His critique of string theory is not that it is wrong but that it is currently untestable. It uses approximate solutions to approximate equations, and its landscape of possible universes renders it practically unpredictive. Loop quantum gravity is better developed and makes testable predictions — its original claim that light speed should depend on wavelength was ruled out by gamma-ray burster observations, and the theory was revised. Lincoln's preferred path to a ToE is not extrapolating from current theory but making precise measurements of phenomena that already disagree with predictions. His analogy: an Australopithecus in Kenya trying to predict the Alps, Antarctica, and sperm whales from their local savanna — the farther you extrapolate beyond what you can measure, the more the prediction diverges from reality. > *"I think it is the absolute pinnacle of arrogance to think that what we can do — predict it out a quadrillion times higher than we can see now."* ## [102:17] Physics of empty space "Empty" space is not empty. Quantum field theory says every species of particle has a corresponding field that fills all of space, and those fields are always vibrating. When they vibrate in a characteristic way, a real particle appears; off-frequency vibrations are virtual particles — fleeting excitations that have measurable consequences. Two experiments confirm this. The Casimir effect: two metal plates placed micrometers apart are pushed together by the pressure difference between constrained virtual particles inside the gap and unconstrained ones outside. The anomalous magnetic moment: old quantum mechanics predicts one value for the electron's magnetic moment; including the bath of virtual particles surrounding a bare electron shifts the prediction by 0.1% — and that shifted prediction matches measurement to 10 significant figures. > *"We have measured the magnetic properties of both the electron and the muon to 12 — count them — 12 significant figures. And the theory and the data agree number for number for 10 places."* ## [109:41] Antimatter Paul Dirac's 1928 attempt to merge quantum mechanics with special relativity produced an equation with two solutions: +1 was the electron, −1 was something nobody had seen. He insisted the math was right. Carl Anderson confirmed it in 1932 by photographing a positron in a cloud chamber. Today CERN can make and trap antimatter hydrogen, cool it to near absolute zero, agitate it with lasers, and measure its spectral lines — they match ordinary hydrogen exactly. A 2023 experiment released antimatter hydrogen atoms into a bottle and found they fall downward, consistent with normal gravity, though the measurement precision is not yet tight enough to confirm the gravitational strength is identical. The deeper mystery is why the universe is made of matter at all. Counting galaxies versus cosmic microwave background photons, physicists infer that for every billion antimatter particles in the early universe, there were a billion-and-one matter particles. The billions annihilated; that extra one is everything we see. Fermilab is now testing whether neutrinos and antineutrinos oscillate between flavors at slightly different rates — leptogenesis — as a possible mechanism, racing a parallel effort in Japan. > *"For every billion antimatter particles that existed in the universe, there were a billion and one matter particles. The billions canceled, annihilated, destroyed each other, and that extra one that's left over is us."* ## [130:31] Dark energy In 1998, astronomers expected to measure how fast gravity was braking the expansion of the universe. They found the expansion is accelerating instead. The driving force is dark energy — a repulsive form of gravity. Einstein had added exactly this term to his field equations in 1917 to keep the universe static, then removed it when Hubble showed it was expanding. In 1998 it went back in. What dark energy actually is remains unknown. The most common view is that it is the energy density of space itself. The problem is that quantum field theory predicts a vacuum energy density about 10¹²⁰ times larger than what is observed — the worst prediction in physics. Lincoln notes that if dark energy has constant *density* while space expands, total dark energy is growing, which pushes toward the view that space is quantized: new quanta of space appear as the universe grows, each carrying a fixed energy, producing constant density as an emergent property. > *"There is very clearly something going on, something very badly wrong in the quantum field theory."* ## [134:20] Dark matter Galaxies rotate too fast. Galaxy clusters move too quickly. Gravitational lensing of distant galaxies is stronger than visible matter can explain. Three independent observations all point to the same conclusion: there is roughly five times more mass in the universe than we can see. Lincoln traces his own intellectual journey: 25 years ago he suspected the problem was with Newton's laws; two observations changed his mind. The Bullet Cluster — two galaxy clusters that passed through each other — shows gravitational distortions following the galaxies, not the gas clouds that stopped in the middle, exactly what dark matter predicts. The Dragonfly galaxies (DF2 and DF4) rotate exactly according to Newton's laws because they appear to have had their dark matter stripped away — a galaxy *without* dark matter is actually strong evidence that dark matter is real. Despite 30 years of searching with three approaches — direct detection underground, gamma-ray searches near galactic centers, and missing-momentum signals at the LHC — no dark matter particle has been confirmed. The viable mass range spans from sub-electron to asteroid scale, and experiments can only cover one slice of that range at a time, which is why Lincoln is not currently running a dark matter experiment himself. > *"We've ruled out some dark matter particles, but the problem is the range of space of possible mass — it ranges from something like the mass of an asteroid to far lighter than an electron and everywhere in between."* ## [162:56] Future of physics Lincoln grew up poor in rural America, shaped by science fiction and the popular science books of Isaac Asimov, Carl Sagan, and George Gamow. He chose particle physics over cosmology in the mid-1980s because particle physics let him actually measure things. He worked 8 a.m. to midnight Monday through Saturday as a graduate student not out of obligation but because he could not imagine anything he would rather be doing. His science communication — YouTube videos, popular books — is a deliberate attempt to reach the kid in Iowa or Montana who has no highly educated family mentors but the same hunger he had. He has already heard from Fermilab summer interns who came because they watched one of his videos. Lex closes with Marie Curie: *"Nothing in life is to be feared. It is only to be understood."* > *"One of your viewers might be one of the people who answer these questions that have stymied very smart people for decades."* ## Entities - **Don Lincoln** (Person): Senior scientist at Fermilab; co-author on the 1995 top quark discovery paper; CMS collaboration member at LHC; author of *Einstein's Unfinished Dream* and multiple popular science books. - **Lex Fridman** (Person): MIT researcher and host of the Lex Fridman Podcast; conducts long-form interviews at the intersection of science, technology, and philosophy. - **Fermilab** (Organization): U.S. Department of Energy particle physics laboratory near Chicago; operated the Tevatron collider; currently the world's most powerful neutrino beam facility. - **CERN / LHC** (Organization): European particle physics laboratory home to the Large Hadron Collider; CMS and ATLAS detectors; site of the 2012 Higgs boson discovery. - **Standard Model** (Concept): Quantum field theory describing three of four fundamental forces and all known elementary particles; validated to extraordinary precision but does not include gravity or explain dark matter, dark energy, or the matter-antimatter asymmetry. - **Higgs field / Higgs boson** (Concept): A scalar quantum field whose non-zero vacuum value gives mass to the W and Z bosons while leaving the photon massless; the Higgs boson is its detectable excitation, discovered July 4, 2012 at CERN. - **Dark matter** (Concept): Invisible mass accounting for roughly 85% of all matter in the universe, inferred from galaxy rotation curves, cluster dynamics, and gravitational lensing; no candidate particle detected after 30 years of searches. - **Dark energy** (Concept): The repulsive energy driving the accelerating expansion of the universe; quantum field theory's prediction for its magnitude is 10¹²⁰ times larger than observation — the "worst prediction in physics." - **Baryogenesis / Leptogenesis** (Concept): Frameworks attempting to explain why the early universe produced a matter excess; Fermilab's neutrino program is testing leptogenesis by comparing neutrino and antineutrino oscillation rates. - **String theory / Loop quantum gravity** (Concept): Leading candidates for quantum gravity; string theory predicts at energies untestable by a factor of 10¹⁵; loop quantum gravity quantizes space itself and has produced some falsifiable predictions.

David George (a16z general partner) and David Clark (VenCap CIO) argue that AI companies are scaling faster than any prior technology generation — Anthropic and OpenAI are adding more monthly revenue than Meta, Google, or Microsoft — while actual diffusion into the broader economy remains below 5%. They work through what that gap implies for exit sizes, loss ratios, bubble risk, and who ultimately captures value as token costs fall and frontier intelligence becomes a commodity. ## [00:00] Intro Three data points open the episode: Anthropic and OpenAI already adding more revenue per month than any hyperscaler; top-1% exits 10x-ing in 24 months from $10 billion to $32 billion; and David George's assessment that, right now, we are not in a bubble. ## [00:38] The Scale Shift: Anthropic & OpenAI Adding More Revenue Than Hyperscalers David George explains how his priors shifted sharply around November 2025. Before that, enterprise AI looked like a productivity story analogous to cloud adoption. After it, the numbers reframed the ceiling: Anthropic and OpenAI are already adding revenue at hyperscaler rates with less than 5% of the economy actually using these tools. He places an upper-bound frame on the opportunity by noting that Fortune 500 companies generate roughly $2 trillion of profit annually, and the two largest model companies could reach $200 billion revenue run rate by year-end — already equivalent to 10% of that profit pool. > *"If you pair that up with the fact that they're already getting bigger in terms of revenue added than the hyperscalers, and you're at less than 5% diffusion into the economy, I think the outcomes are going to be extraordinary."* ## [04:20] Skeuomorphic vs Native AI Applications in the Enterprise David Clark invokes Chris Dixon's skeuomorphic-to-native arc: the first wave of enterprise AI lets people do existing jobs faster; the native wave restructures the work itself. George adds a wrinkle — the best companies are not yet focused on internal automation. Their top engineers want to build product, not automate back-office workflows. The most cutting-edge firms he visits are still in a "documentation phase," converting institutional knowledge into markdown before they can meaningfully deploy agents against it. > *"The most cutting-edge folks inside those companies who are trying to do this that I've talked to are kind of in the documentation phase — just turn everything into markdown files, have as much context capture as you can possibly get."* ## [06:24] How the Best AI Companies Run Themselves Differently Native AI founders operate on a different metabolism. George contrasts them with the previous SaaS generation, which, in hindsight, ran inefficiently but got away with it because headcount mandates and expanding software budgets covered the slack. The new companies are lean, aggressive, and already running agent swarms rather than typing commands. He describes walking into a cutting-edge AI company and finding researchers whispering into microphones, orchestrating swarms of agents — not a keyboard in sight. > *"The new companies are very lean, very aggressive, and they work all the time."* ## [08:14] Top 1% Exits 10X'd in 24 Months Clark lays out VenCap's tracking data: the threshold for a top-1% exit was $10 billion between 2020-2024, rose to $20 billion by February 2026, and was updated just the day before this recording to $32 billion. With OpenAI and Anthropic IPOs potentially arriving, he sees the bar hitting $100 billion by September. George notes that the combined market cap of these private companies likely already exceeds the entire Russell 2000, and that the sum of all VC-backed IPOs over the past six years is probably smaller than any single one of the three expected large IPOs. > *"Where is the threshold for the top 1%? And if you then think about OpenAI and Anthropic coming in, potentially we could be north of $100 billion by September."* ## [11:17] The Half-Life Problem: Why 40% of AI Leaders Drop Off Every Year Clark surfaces a disturbing churn metric: 40% of companies on the Forbes AI 50 list from one year disappeared the next. Google wasn't the first search engine; Facebook wasn't the first social network. First-mover advantage in AI is eroding faster than in any prior cycle. George confirms a16z's own priors have been repeatedly overturned — first convinced model companies would be everything, then convinced applications would take over, now watching the model companies extend back up into the application layer. The only durable heuristic he offers: a company must be in the token path. > *"From last year to this year, 40% of the companies that were on that list last year dropped off."* ## [13:11] Token Path, Cost Pressure & Who Captures Value Enterprise buyers are already feeling cost pressure from AI spend, and they cannot cover it by cutting previous-generation software budgets fast enough. George frames value capture as hinging on one largely unknowable variable: the market structure of frontier model labs. Two labs at the frontier means higher token prices and faster labor restructuring pressure; five labs means lower prices and a broader application ecosystem. Per-token cost for like-for-like capability is falling more than 10x year-over-year, but total token spending in dollars is rising faster. Clark adds that Chinese LLMs are roughly six months behind US frontier capability but ten times cheaper — a classic innovator's dilemma setup. > *"The biggest driver of where value is going to get captured right now is something that is totally unknowable, which is what is the market structure of the model companies?"* ## [17:00] Loss Ratios, Risk & How We Think About Early Stage Clark notes that historical early-stage VC loss ratios run around 60%, but the AI cohort of the past two years shows single-digit loss rates — unsustainable by definition. George reframes the discussion: a16z does not target a low loss ratio. A VC firm bragging about never losing money is "a horrible data point" — it signals too little risk-taking. The philosophy is to back the market-leading founder in every space with strong tailwinds and a credible technology. If the space works out and you have the leader, excellent. If the space does not work out but you have the leader, that is expected. The failure mode is the space working out while having backed the wrong company. > *"We joke all the time — there's a prominent VC in our ecosystem, and one of his big points of pride is he's never lost money on a deal. And we're like, that's not a point of pride. Like that's a horrible data point."* ## [22:51] Are We in an AI Bubble? Clark points out that classic bubbles are characterized by excess supply destroying economics — but right now the constraint is supply scarcity: no data center capacity available at scale until late 2028 or early 2029, with the US buildout running a year behind schedule and community resistance adding further delay. George is confident there is no bubble today and dismisses the data center opposition directly. The one scenario he would watch for is an unexpected algorithmic breakthrough producing dramatically smaller and more efficient models — which could flip supply from scarce to oversupplied — but he considers that unlikely in the near term. > *"I feel pretty confident saying that we're not in a bubble right now. I'm less confident that we won't be in a bubble three years from now."* ## [27:36] What SpaceX, OpenAI & Anthropic IPOs Mean for Public Markets Clark asks whether public markets can absorb the coming wave of trillion-dollar-plus IPOs. George argues it is unambiguously positive: the number of public companies has halved over 20 years, and outside the data center supply chain, almost nothing in the public markets is growing at more than 30% today. Bringing hypergrowth companies into indexes gives retail investors — including his parents' index-fund retirement accounts — exposure to the most dynamic part of the economy. He expects some portfolio reshuffling to make room, but does not see indigestion risk. > *"If you exclude the data center supply chain stuff right now, there are very few companies that are growing fast that are available for people to buy in the public markets."* ## [29:59] The Future of Venture Capital in an AI World George forecasts the shape of VC over the next five years as primarily a function of token market structure — whether the labs remain concentrated or become commoditized. He cites Bill Gates's platform axiom: a platform's value is validated when the companies built on top of it collectively exceed the platform's own value. If that holds, there will be a massive wave of valuable application companies built on intelligence. He also flags the consumer side as the most underappreciated opportunity: the last decade of consumer internet was a story of time spent getting captured by large incumbents; AI-driven shifts in consumer attention could recreate the conditions for generational consumer companies. > *"I'm very optimistic that we're going to have a massive wave of really valuable companies that get built on top of tokens, AI, and intelligence."* ## Entities - **David George** (Person): General partner at a16z; covers growth-stage and early-stage AI investing; invested in OpenAI pre-ChatGPT - **David Clark** (Person): CIO at VenCap; fund-of-funds investor tracking AI startup performance and VC market dynamics for 34 years - **Anthropic** (Organization): Frontier AI lab; cited as adding more monthly revenue than hyperscalers alongside OpenAI - **OpenAI** (Organization): Frontier AI lab; benchmark for scale and the expected $100B+ IPO cohort - **VenCap** (Organization): Fund-of-funds investor; publishes top-1% exit threshold data and tracks Forbes AI 50 churn - **Andreessen Horowitz / a16z** (Organization): Venture capital firm; investor in OpenAI pre-ChatGPT, scaling platform services to support companies encountering enterprise-scale problems early in their lives - **Cursor** (Software): AI coding tool cited as an example of a company reaching billions in revenue while still very small and early-stage - **Token path** (Concept): a16z's primary heuristic for evaluating AI companies — a company must sit in the flow of AI inference tokens to have durable economic relevance - **Skeuomorphic vs. native AI** (Concept): Chris Dixon's framework distinguishing apps that replicate existing workflows with AI assistance from apps that rearchitect work around AI capabilities natively - **Half-life problem** (Concept): David Clark's term for rapid AI leader turnover — 40% of Forbes AI 50 companies dropped off the list year-over-year — indicating first-mover advantage is eroding faster than in prior technology cycles

At AI Ascent 2026, Neuralink co-founder and president DJ Seo sits down with Sequoia partner Shaun Maguire to lay out exactly where the company stands: 20-plus Telepathy patients controlling computers and robotic arms through pure thought, Blindsight in preclinical testing and potentially cleared for human use by end of 2026, and a first-principles manufacturing philosophy borrowed from Elon Musk that treats surgical robots the way SpaceX treated reusable rockets. DJ argues that the real ceiling of this technology is not cursor control or speech synthesis but direct, uncompressed, multimodal transfer of concepts — AI as a neocortical layer sitting above the human limbic system — and that scale, the same variable that unlocked the LLM era, is the only remaining gate. ## [00:00] Introduction Shaun Maguire opens the session by announcing a two-minute Neuralink patient video before the interview begins, telling the audience to stay on the side because what they are about to watch is proof that the company has already cleared the hardest bar: restoring human agency to people who had lost it entirely. ## [00:21] Telepathy Patient Stories The video narrates four patients whose lives changed after receiving the Telepathy implant. A quadriplegic patient describes moving a cursor with thought alone — "I'm thinking and a cursor is moving on a screen. It blew my mind." An ALS patient who lost the ability to speak regains a digital voice through the implant: "I'm talking to you with my mind." Another patient notes that the implant flipped how his child sees him: "I am not able to do things that other dads can, but now he thinks it's so cool that I can do things that other dads cannot." > *"Before the implant, I was locked in, non-verbal, quadriplegic. Now I control my computer just by thinking and the rewards have been immense for me."* ## [01:06] Convoy Robotics Independence The video shifts to Convoy, Neuralink's assistive robotics team, which is extending BCI control beyond a screen to physical manipulation in the real world. A patient who had been losing motor function moves a robotic arm through its axes using only neural intent: "It was incredible to be able to just gesture with an arm again." A second patient, Kenneth, who was losing his voice to ALS, uses the system's speech synthesis to speak aloud in real time during the video — words generated by his brain signals rather than his vocal cords. > *"Gaining functionality that I thought was gone forever was so incredibly life-changing."* ## [02:04] Blindsight Vision Restore The video previews Blindsight, Neuralink's second product line, designed for patients who have lost both eyes or optic nerve function. An external camera captures the visual scene; the device writes the signal directly into the visual cortex via electrical stimulation, generating phosphenes — artificial pixels of light. A patient named Audrey, asked how it feels, answers simply: "Life-changing." The video closes with the line "all with my mind" spoken over footage of a patient interacting with the world through the restored signal. > *"The future of this technology feels almost unlimited... we are finding ways to apply it across all regions of the brain."* ## [03:10] After Video Reflections DJ Seo, visibly moved after watching the video alongside the audience, speaks first: "We were cracking a lot of jokes before that video, but honestly, that brought tears to my eyes." He describes the work as one of the most inspiring projects in the world — not because of the technical milestone but because the team is giving back capabilities that patients had already grieved as permanently lost. Maguire affirms the sentiment before pivoting to the founding story. > *"This is one of the most inspiring projects in the world. It's incredibly difficult what they're doing and I mean, they're truly saving people."* ## [03:31] Origin Story And AI DJ traces Neuralink's founding insight to a single bottleneck: the mismatch between human output bandwidth and AI capability. In 2016, saying that out loud "sounded insane," but the logic has not changed. His personal path ran through a childhood fascination with the brain, undergraduate work at Caltech building miniaturized low-power electronics, and a Berkeley PhD focused on shrinking lab-grade neural systems down to something deployable. When he met Elon Musk near the end of his PhD, the scale and ambition of the project made refusal impossible. He frames the brain as "the most interesting compute that we all carry" and "the only form of general intelligence that we know to date." > *"Really the key insight back then was sort of the IO bottleneck between the human output and AI capabilities."* ## [06:31] Scaling And Vertical Integration Maguire presses on what smart people most misunderstand about Neuralink: many know the implant and the decoding algorithm, but almost nobody grasps the manufacturing and surgical-robot infrastructure the company built in parallel from day one. DJ attributes this to what he calls "Elon magic" — an insistence on vertical integration that gives Neuralink control over every layer from chip design to factory floor to robotic surgery deployment. The target is not a niche medical device; it is LASIK-scale surgery available to millions. Building that capacity first means progress looks slow until "the iceberg pops over the waterline" and ramp becomes near-instantaneous. > *"Vertical integration is something that is really the lifeblood of Neuralink and Elon companies and what really enables us to have that fast iteration loop from design, develop, deploy."* ## [09:27] Caregivers And Purpose Asked which patient story inspires him most, DJ refuses to pick one — the power, he says, is not only in the patients but in the caregivers: Nolan's mother Mia, Brad's wife Tiffany, Ken's wife Cheryl. He describes their presence as "a really powerful human story of love, sacrifice, and resilience." He then takes what he calls a philosophical tangent: his core belief is that fulfillment comes from helping others, because the gap between self and other is not categorically different from the gap between your present and future selves. That belief is what he says keeps him and much of the Neuralink team going — they are "igniting a fire of hope" for people who had given up on recovering what they lost. > *"I personally and as well as many others at Neuralink find extreme fulfillment being able to help those that really cannot help themselves."* ## [13:10] BCIs Meet AI Future Maguire asks the room's core question: how do BCIs and AI converge? DJ sketches a two-horizon answer. Near term, the system translates neural intent into legacy interfaces — keyboard, mouse, language — which is already working. The real breakthrough, which he thinks is "not super distant," is bypassing those legacy interfaces entirely and computing on raw neural intent. He points to transformer architectures as existence proofs: nothing prevents them from learning the latent manifolds of neural data given sufficient scale. Neuralink is already fine-tuning LLM-class models on neural recordings from its 20 participants and finding "very counterintuitive" patterns. The ultimate ceiling he names is "direct, uncompressed, high-fidelity, multimodal transfer of concepts" — the Matrix's "I learned kung fu" moment and possibly beyond it. He also shares what he calls a clarifying lesson from working with Musk: "all green light schedule" — a first-principles forcing function that strips every man-made bottleneck and asks how fast something could actually be built if every light were green. His estimate is that 80–90% of perceived constraints in hardware development are artifacts of convention, not physics. > *"I think if you really think about the ultimate ceiling of this technology, it's really direct uncompressed high fidelity and multimodal transfer of concepts."* ## [21:05] Audience Q&A Wrap Three audience questions in the final four minutes. On product sequencing — when to go deep versus expand — DJ explains the "beachhead and expand" strategy: build everything generalizably enough from the start so that regulatory approval for motor cortex becomes a template for visual cortex and beyond. The first approval is the hardest; every subsequent one rides the clinical safety record already established. On augmentation for healthy users, DJ frames everything around benefit-risk: the calculus is obvious for quadriplegic patients; for otherwise healthy users it remains unclear, but he notes that off-label use after approval is legally available to anyone who can find a neurosurgeon and pay out-of-pocket. On the hard problem of consciousness, he gives a pointed one-liner: if you can inject new senses and measure the subjective response quantitatively, you may have a pathway toward measuring consciousness itself. Maguire closes by calling Neuralink "one of the most inspiring companies in the world." > *"If you are able to inject new senses, there may be ways to quantitatively understand that."* ## Entities - **DJ Seo** (Person): Co-founder and president of Neuralink; PhD in miniaturized electronics from Berkeley; joined after meeting Elon Musk near the end of his doctorate - **Shaun Maguire** (Person): Partner at Sequoia Capital; host of the AI Ascent 2026 fireside session - **Elon Musk** (Person): Co-founder of Neuralink; originator of the "all green light schedule" and vertical integration philosophy carried across Tesla, SpaceX, and Neuralink - **Neuralink** (Organization): BCI company founded in 2016; products include Telepathy (motor prosthesis) and Blindsight (vision restoration via visual cortex stimulation) - **Telepathy** (Software): Neuralink's first commercial product; allows paralyzed patients to control computers and robotic devices through neural intent decoding - **Blindsight** (Software): Neuralink's second product line; restores vision for patients with total loss of eyes or optic nerve by writing directly to the visual cortex; in preclinical testing as of mid-2026 - **IO Bottleneck** (Concept): The mismatch between human output bandwidth (speech, typing, gesture) and AI processing capability; the founding problem Neuralink was built to solve - **Neural Foundational Model** (Concept): LLM-class transformer models fine-tuned on neural recording data; Neuralink is building these at 20-participant scale and observing counterintuitive patterns in neural latent space - **All Green Light Schedule** (Concept): Elon Musk's first-principles engineering discipline — strip every man-made constraint and ask what physics alone limits; DJ estimates 80–90% of hardware delays are conventional, not physical

Dan Shipper, CEO of Every, delivers a day-zero vibe check on Opus 4.8, arguing Anthropic could have called it Opus 5. The model jumps 30 points past Opus 4.7 on Every's Senior Engineer benchmark, edges out GPT-5.5, tops their internal writing tests at 79.6 vs. 73, and is the first model to produce a genuinely good one-shot slide deck. Two catches temper the enthusiasm: performance degrades sharply below "extra high" reasoning, and the Claude desktop app remains cluttered compared to Codex. ## [00:00] What is Every Every is a 30-person applied AI lab for the future of work—part media outlet, part product studio. Dan opens by explaining the subscription (writing, courses, AI-built tools all in one place at every.to) before rolling into the Opus 4.8 assessment. The plug is brief and context-setting: the team has had beta access for a week, and the rest of the video is what they found. > *"Every is the only subscription you need to stay at the edge of AI."* ## [01:07] Anthropic Is Back: The Headline Case for Opus 4.8 Dan had largely abandoned Claude after Opus 4.7—slow, hard to love, and outpaced by Codex and GPT-5.5 in day-to-day use. Even the most loyal Claude users at Every had started routing work elsewhere. Opus 4.8 breaks that pattern: it scores 63 on Every's Senior Engineer benchmark (30 points above Opus 4.7, one point above GPT-5.5), tops their writing tests, and produced the first one-shot slide deck Dan has called genuinely good. Kieran Klaassen, Every's GM, called it "the most human model he's worked with." The one persistent friction is the Claude desktop app itself. Codex is fast, focused, and ships a clean harness; the Claude app still feels like a product built by three separate teams—chat tab, code tab, co-work tab, each with its own feel. Dan is now splitting time between both apps, which he was not doing before. > *"But honestly, they could have called it Opus 5 cuz this is a really great model."* ## [05:02] Reach Test: Paradigm Shift Ratings from the Every Team Every's reach test asks one question: do you actually open this model when work gets hard? Dan rates Opus 4.8 gold/green—paradigm-shift quality, docked one notch because the Claude app harness is only "okayish to pretty good." Kieran, who runs 50 agents a day, gives a straight gold paradigm-shift, one of the rarest grades the team has assigned. Katie Parrot, a senior staff writer and historical Claude fan, lands at green, splitting her work between Opus 4.8 and Codex. > *"It's very rare to give a paradigm shift grade to a model. So I would pay attention to this."* ## [06:32] Benchmarks: Coding and Writing Numbers On coding, Opus 4.8 hits 63 on the Senior Engineer benchmark—the test feeds the model a vibe-coded codebase and asks it to rewrite from first principles, then scores against two human senior engineers who completed the same rewrite (typically scoring in the 80s–90s). GPT-5.5 sits at 62. On Kieran's LFGbench (real-world tasks: SaaS build, e-commerce site, 3D game landscape), the model writes readable code that bridges technical competence and creativity—the "cozy island" 3D scene is notably richer and more vibrant than GPT-5.5's output. On writing, Opus 4.8 scores 79.6 out of 100 on Every's internal benchmark (intro writing, promo emails, mid-piece paragraphs); GPT-5.5 scores 73. The gap is mainly in AI tells: at high and extra-high reasoning settings, Opus 4.8 produces prose that sounds less like a model. It matches a writer's voice from a single paragraph of context better than any other model Dan has tested. > *"Opus 4.8 scores a 79.6 out of 100 on the writing benchmark. GPT 5.5 is 73."* ## [08:57] Emotional Intelligence, Knowledge Work, and the Verdict Dan uses the model for interpersonal and management work—talking through decisions, pressure-testing his own framing. Opus 4.8's thinking traces show it genuinely cycling through permutations before responding, which makes it feel less like a sycophant and more like a useful counterpart. On knowledge work, it's versatile: code and writing coexist cleanly in a single thread, and the slide deck result is the first one-shot deck Dan would actually send to someone. The verdict: if you're a Claude fan, this model delivers. If Codex converted you, add Opus 4.8 as a parallel tool for writing and knowledge work—it's worth the context switch. The harness gap is real, but the model itself is a banger. > *"If you've been converted to Codex, I highly recommend you at least add it as part of your arsenal."* ## Entities - **Dan Shipper** (Person): Co-founder and CEO of Every; presenter and primary evaluator of Opus 4.8. - **Kieran Klaassen** (Person): GM of Kora at Every; gave Opus 4.8 a straight gold paradigm-shift rating on the reach test. - **Katie Parrot** (Person): Senior staff writer at Every; rated Opus 4.8 green, split between it and Codex. - **Every** (Organization): Applied AI lab and media subscription company focused on AI for the future of work. - **Anthropic** (Organization): Developer of Claude and Opus 4.8. - **Opus 4.8** (Software): Anthropic's latest Claude model; subject of the vibe check. - **GPT-5.5** (Software): OpenAI model used as the primary performance comparison across all benchmarks. - **Codex** (Software): OpenAI coding agent; praised for its clean desktop harness and used as the daily-driver counterpoint to Claude. - **Senior Engineer Benchmark** (Concept): Every's proprietary coding benchmark—rewrites a vibe-coded codebase from first principles and scores against human engineers. - **LFGbench** (Concept): Kieran Klaassen's real-world coding benchmark covering SaaS, e-commerce, and 3D scene generation tasks.

O investidor do Shark Tank Kevin O'Leary e o cofundador do Young Turks Cenk Uygur debatem durante 103 minutos se a IA vai libertar ou devastar a economia americana, por que a guerra EUA-Irã se arrasta apesar de um acordo de saída óbvio, e quem tem chance real de vencer em 2028. O'Leary ocupa o lado otimista o tempo todo — a IA cria empregos, o mercado sempre se adapta, a China é a verdadeira ameaça — enquanto Uygur martela uma tese única e ininterrupta: a combinação de desemprego em massa por IA e política externa ditada pelo lobby israelense está conduzindo a América para um desastre, sem nenhuma preparação institucional para o impacto. ## [00:00] Introdução O trecho de abertura define as apostas do debate imediatamente. Uygur entra direto: as empresas estão correndo para demitir entre 10% e 25% de suas equipes por vantagem competitiva, e se toda a economia fizer isso ao mesmo tempo o resultado é uma depressão, não uma recessão. A resposta de O'Leary — "Caramba. O Jake é um verdadeiro pessimista hoje. Isso é uma oportunidade inacreditável que estamos discutindo" — define o tom exato que vai atravessar a próxima hora e quarenta minutos. Steven Bartlett apresenta seu objetivo como chegar à verdade pelo confronto de duas mentes sérias e opostas, não uma briga de gritos. > *"Todo mundo está com pressa para demitir 10 a 25% de sua força de trabalho, mas 10% de desemprego seria pior do que qualquer coisa que já aconteceu em nossas vidas."* — Cenk Uygur ## [02:35] Por Que 7 Em Cada 10 Americanos Agora Se Opõem a Centros de Dados de IA Steven Bartlett abre com uma pesquisa mostrando que 7 em cada 10 americanos se opõem a centros de dados de IA em suas cidades. O'Leary aponta um culpado específico: por meio de auditores forenses e declarações de imposto IRS 990, ele rastreou dinheiro chinês circulando por uma rede chamada Arabella — via Neville Singum — chegando a campanhas anti-centro de dados em Utah, com ameaças de morte a seus executivos. Ele entregou 90 páginas de dados de IP à Casa Branca. Uygur descarta a teoria da China e muda o foco para uma queixa mais simples: os centros de dados aumentaram os custos de energia de igrejas, bibliotecas e centros comunitários, como aconteceu na Virgínia, e as empresas que os constroem precisam trazer sua própria energia ou dar participação ao público em troca. > *"Tenho provas irrefutáveis de que os chineses estão interferindo em todo lugar onde nova energia está sendo proposta na América, em cada estado, em cada cidade."* — Kevin O'Leary ## [07:24] Por Que a IA Pode Desencadear Um Colapso e Uma Crise de Renda Básica O argumento econômico central de Uygur aparece aqui. Ele concorda com o problema do custo de energia e diz que qualquer centro de dados que use a rede pública sem compensação é parasitismo corporativo — apontando o resgate de 2008 como modelo do que não fazer. Seu alarme maior é o desemprego em massa: cada empresa que corre para cortar 10% a 25% do quadro vai, no agregado, destruir o consumo e desencadear uma depressão. Sam Altman, Elon Musk e Dario Amodei disseram publicamente que o deslocamento massivo de empregos está chegando, mas nenhum governo tem um plano. O'Leary responde que toda disrupção tecnológica nos 200 anos de história dos EUA criou mais oportunidade do que destruiu, e que pausar o desenvolvimento de IA só coloca a China na liderança. > *"Quando batemos no iceberg, não vamos estar preparados e vai ser um desastre épico. Não vai sobrar ninguém para comprar seus produtos, porque os empregados também são clientes."* — Cenk Uygur ## [15:30] Os Fundadores de IA Estão Escondendo Os Riscos Reais do Público? Steven Bartlett lê citações públicas: Sam Altman (2021) dizendo que a IA vai substituir a maioria dos empregos; Musk em 2024 dizendo que provavelmente nenhum de nós terá emprego; e Amodei alertando em 2025 que a IA pode eliminar metade de todos os empregos de nível básico no setor de serviços em cinco anos e levar o desemprego a 20%. Ele pergunta: se as pessoas que constroem esses sistemas dizem publicamente que seus produtos causarão danos à sociedade, por que supor que estão exagerando? O'Leary usa a outra metade da declaração de Amodei — sem construir capacidade computacional em seis meses, o Deepseek da China nos alcança — e argumenta que a escolha real é liderar a disrupção ou cedê-la a Pequim. Uygur concorda que a corrida é inevitável, mas insiste que os programadores demitidos hoje já estão sentindo o iceberg, e uma renda básica de 36 mil dólares por ano é uma queda brutal para quem ganhava 120 mil. > *"Podemos fazer a corrida de uma forma responsável que sirva realmente aos eleitores e cidadãos americanos, em vez de servir apenas aos executivos das empresas de IA e a seus acionistas? Espero que sim, mas não demos absolutamente nenhum passo nessa direção."* — Cenk Uygur ## [23:55] A IA Pode Ser Construída de Forma Responsável Ou Isso É Impossível? Steven Bartlett pressiona por detalhes sobre o desenvolvimento responsável de IA. Uygur apresenta seu diagnóstico estrutural: suborno legalizado — Citizens United, Buckley v. Valeo — garantiu que a empresa de IA que mais doa recebe o arcabouço regulatório que quer. O Congresso não age pelos eleitores; age pelos doadores. O'Leary argumenta que os empregos perdidos são em grande parte vagas superdimensionadas que as empresas contrataram de forma especulativa, e que as empresas de IA estão queimando bilhões agora, não embolsando. Ele detalha seu centro de dados em Utah: 4.000 empregos na construção por nove anos, mais 2.000 posições de engenharia, sem tocar em um único hectare de terra agrícola. Sobre o alerta de socialismo de Uygur, O'Leary é direto: aumente os impostos além de 50% e os ricos vão para Mônaco ou Flórida, como a França descobriu. > *"Se não fizerem isso, os forcados estão chegando. Não sou do time dos forcados. Acredito na não violência e sempre acreditarei. Mas não acho que as pessoas entendem o nível de raiva que está acontecendo."* — Cenk Uygur ## [32:11] Como a IA Está Destruindo Empregos Silenciosamente Steven Bartlett traz experiência própria: hoje ele contrata funcionários de nível inicial quase exclusivamente com base na proficiência em IA, porque um júnior que domina IA tem desempenho 5 a 10 vezes maior, tornando inviável contratar quem não tem essa habilidade. O'Leary rebate — engenheiros são contratados para resolver problemas, não para escrever código, e a IA apenas lhes dá uma ferramenta mais rápida; a maioria das demissões em tecnologia são empresas corrigindo contratações excessivas, não deslocamento por IA. Uygur discorda: analistas de Wall Street aplaudem cada anúncio de corte de pessoal como "sinergia", as ações sobem quando se demite, e ninguém nas teleconferências de resultados pergunta quem vai comprar os produtos quando os trabalhadores sumirem. Ele levanta também um risco subestimado: grandes contingentes de jovens desempregados historicamente se correlacionam com crime e conflito. > *"Quando você tem muitos jovens desempregados por aí, o que geralmente acontece não é nada bom. Guerras acontecem, o crime aumenta. Precisamos estar preparados."* — Cenk Uygur ## [37:35] Por Que o Desemprego em Massa Pode Chegar Mais Rápido Do Que Se Espera Steven Bartlett descreve uma visita a uma aceleradora de robótica em São Francisco onde todas as equipes haviam migrado de software para robôs físicos, porque a inteligência — antes o ingrediente ausente e caro — agora custa centavos. Ele pergunta a ambos os convidados onde podem estar errados. O'Leary se recusa a considerar o cenário de desemprego, redirecionando para a base permanente da NASA na Lua e o programa para Marte como fontes de centenas de milhares de novos empregos bem remunerados. Uygur nomeia isso de "problema do interregno": mesmo que o cenário otimista de O'Leary se concretize em 20 anos, o operário de 61 anos em Cleveland não consegue se reconverter em engenheiro de missões para Marte. Steven Bartlett acrescenta que o CEO do Uber lhe disse em particular que a IA vai substituir 9,4 milhões de seus motoristas — e quando perguntado o que esses motoristas farão, respondeu: "Não sei." > *"As peças do robô existem há décadas. Sempre tivemos. O que faltava — e era o componente caro — era a inteligência."* — Steven Bartlett, citando seu cofundador ## [46:32] Anúncios Segmento de patrocinadores cobrindo Stan (ferramenta de conteúdo para redes sociais com IA), Pipedrive (CRM) e Cometeer (café). Sem conteúdo de debate. ## [48:40] O Que Está Realmente Acontecendo Entre Israel, Irã e o Oriente Médio O debate muda para geopolítica. Steven Bartlett apresenta as aprovações em queda de Trump e pede a Uygur que explique a guerra. A resposta de Uygur dura quase 25 minutos e carrega uma única tese: a guerra serve 100% aos interesses israelenses e 0% aos interesses americanos. Ele traça os 317 milhões de dólares em contribuições da família Adelson para a campanha de Trump como mecanismo financeiro, observa que o lobby israelense doa para 94% do Congresso com AIPAC como o maior doador vitalício de Trump, Biden, Hakeem Jeffries, Chuck Schumer e Mike Johnson ao mesmo tempo, e argumenta que Israel essencialmente terceirizou sete guerras para a América desde o 11 de setembro — o Irã era o último da lista. O Irã, diz ele, nunca teve um sistema de entrega capaz de alcançar os EUA, nunca enriqueceu urânio além de 60% (o grau para armas é 90%), e o ex-Grande Aiatolá emitiu uma fatwa contra armas nucleares. Enquanto isso, Israel tomou o sul do Líbano, planeja ficar com ele, e Netanyahu exigiu publicamente como condição de paz que somente Israel mantivesse o direito de continuar atacando o Líbano — o que significa que nenhum acordo pode ser fechado. O'Leary enquadra o regime iraniano de outro ângulo: 150 mil pessoas brutalizando 90 milhões por 60 anos, um governo que não pode receber armas nucleares, e uma situação em que a necessidade da China de manter o Estreito de Ormuz aberto acabará forçando Pequim a pressionar Teerã à submissão. > *"100% de interesse israelense, 0% de interesse americano. Vamos sair daqui. Vamos parar de lutar as guerras de Israel por eles e voltar para casa."* — Cenk Uygur ## [01:11:59] Trump Subestimou a Duração Deste Conflito? Steven Bartlett pergunta diretamente a O'Leary se Trump subestimou o conflito. O'Leary o chama de primeira "guerra tecnológica" de verdade: drones de fibra de carbono de 35.000 dólares com motores de cortador de grama estão sendo interceptados por mísseis americanos de 1,2 a 3 milhões de dólares, uma assimetria de custos que revela uma lacuna computacional que a América precisa fechar. Ele não vê nenhuma invasão com tropas no solo, apenas abrandamento aéreo contínuo até que a liderança iraniana calcule que o custo de bloquear o estreito — 210 milhões de dólares por dia em receitas perdidas — supera o benefício. Sua previsão: a China força um acordo antes das eleições de meio de mandato nos EUA. > *"É caro porque estamos no lado errado da defesa. Precisamos dos drones baratos."* — Kevin O'Leary ## [01:15:47] Anúncios Segmento de patrocinadores cobrindo Pipedrive (CRM) e Diary of a CEO Conversation Cards. Sem conteúdo de debate. ## [01:18:08] Por Que a América Está Perdendo a Paciência Rapidamente Steven Bartlett levanta o ponto de pressão: se a liderança do Irã sabe que Trump tem meses até as eleições de meio de mandato e depois a eleição de 2028, por que fechar um acordo agora em vez de esperar o adversário se enfraquecer? O'Leary acrescenta uma segunda restrição — o líder supremo da China também precisa do estreito aberto para manter a economia funcionando e seu controle do poder, então o Irã está servindo a dois senhores. Uygur argumenta que o acordo já está escrito: o Irã entrega urânio altamente enriquecido a monitores internacionais, os EUA levantam o bloqueio, o estreito reabre. Desmorona cada vez que Netanyahu liga para Trump e adiciona novas condições impossíveis — desarmamento imediato, adesão iraniana aos Acordos de Abraão. Todo político que se opôs publicamente ao acordo quase fechado, Uygur observa, recebeu mais de 1 milhão de dólares do lobby israelense. Ele estende o ponto globalmente: enquanto a Rússia sangra na Ucrânia e a América sangra no Irã, a China está construindo estradas e pontes pela África e América Latina, gastando nada em guerra e acumulando influência por contraste. > *"Após cada ligação com Netanyahu, Trump passa de dizer que vamos ter paz para dizer que não vamos ter paz e que vamos ter esses novos padrões impossíveis. Isso já aconteceu umas seis vezes."* — Cenk Uygur ## [01:29:08] Estamos Assistindo à Ascensão do Socialismo em Tempo Real? Steven Bartlett apresenta dados da Gallup: visões positivas do capitalismo entre os americanos em mínimo histórico, 70% dos democratas vendo o socialismo positivamente, 62% dos jovens americanos favoráveis ao socialismo — e isso foi antes dos efeitos econômicos da guerra chegarem. O'Leary vê um fenômeno cíclico: a cada 17 a 20 anos os EUA flertam com o sentimento socialista, e isso sempre desmorona quando os jovens idealistas recebem o primeiro contracheque e descobrem os impostos. Ele observa que 52 centavos de cada dólar soberano investido no mundo vão para a América, não para Cuba, não para a Rússia. Uygur rejeita completamente esse enquadramento: a América já pratica socialismo para corporações — subsídios ao petróleo para empresas lucrativas, sem negociação de preços de medicamentos pelo Medicare, cada setor capturando seu regulador por meio de doações de campanha. O projeto real é voltar a mercados realmente livres, o que exige primeiro tirar o dinheiro da política. > *"Seria uma sorte voltar ao capitalismo, quanto mais ir até o socialismo, porque agora não temos capitalismo. Temos capitalismo de compadres."* — Cenk Uygur ## [01:34:06] Quem Tem Vantagem Real na Próxima Eleição Presidencial? O'Leary não quer apontar um vencedor, mas diz que os democratas precisam de um centrista moderado; cita a Califórnia como exemplo de governança progressista que fracassou. Uygur o surpreende com uma previsão específica: Tucker Carlson é o único republicano que poderia vencer em 2028. O entusiasmo dos eleitores republicanos já está destruído, as eleições de meio de mandato estão perdidas, e em 2028 os efeitos combinados do desemprego por IA e da guerra com o Irã terão se materializado completamente. O'Leary ri primeiro, depois reconsidera ao vivo: Carlson tem uma enorme base nas redes sociais, mantém sua própria rede, e vem tomando posições cada vez mais independentes — inclusive sobre IA. Uygur fecha nomeando Rohana como o progressista com maior probabilidade de vencer uma eleição nacional e defendendo o capitalismo democrático — mercados privados controlados por uma democracia funcional, com o norte da Europa como modelo funcional — tanto em relação ao corporativismo atualmente praticado quanto ao socialismo atualmente temido. > *"Eles só têm um cara que poderia vencer, e estou preocupado com isso, e é Tucker Carlson. Se Tucker concorrer às primárias republicanas, ele definitivamente vence essas primárias. Podem me citar."* — Cenk Uygur ## Entidades - **Kevin O'Leary** (Pessoa): Investidor do Shark Tank, presidente do O'Leary Ventures; argumenta que a IA cria oportunidades, defende o desenvolvimento de centros de dados, rastreia o ativismo anti-IA a financiamento chinês e prevê que a China vai forçar o Irã a um acordo antes das eleições de meio de mandato nos EUA. - **Cenk Uygur** (Pessoa): Cofundador do Young Turks, comentarista progressista; argumenta que o desemprego por IA não tem planejamento, que a política externa dos EUA é controlada pelo lobby israelense e que o sistema político americano está corrompido por suborno legalizado. - **Steven Bartlett** (Pessoa): Apresentador do Diary of a CEO; empresário e investidor; modera e contribui com decisões de contratação próprias e observações de laboratórios de robótica que ancoram o debate no comportamento real dos negócios. - **AIPAC / lobby israelense** (Organização): Citado por Uygur como o maior doador vitalício da maioria dos políticos seniores dos EUA em ambos os partidos; central para sua tese sobre por que a guerra EUA-Irã continua apesar de um acordo estar pronto. - **Arabella / Alliance for a Better Utah** (Organização): Rede que O'Leary afirma ser financiada por entidades ligadas à China para conduzir campanhas de desinformação anti-centro de dados em estados americanos; com base em declarações IRS 990. - **UBI (Renda Básica Universal)** (Conceito): Rede de segurança proposta para trabalhadores deslocados por IA; Uygur observa que mesmo uma UBI ideal de 36 mil dólares por ano é um corte devastador para trabalhadores que ganhavam 120 mil. - **Estreito de Ormuz** (Conceito): Ponto estratégico por onde passa 48% das importações de energia da China; seu fechamento gera inflação global, e sua reabertura é o interesse central dos EUA em qualquer acordo com o Irã. - **Deepseek** (Software): Grande modelo de linguagem chinês; O'Leary e Amodei o citam como evidência de que qualquer pausa no desenvolvimento de IA nos EUA entrega à China uma vantagem decisiva em meses. - **Tucker Carlson** (Pessoa): Ex-apresentador da Fox News convertido em figura de mídia independente; Uygur prevê que ele é o único candidato republicano viável em 2028, previsão que O'Leary não descarta completamente. - **Capitalismo democrático** (Conceito): Modelo econômico preferido de Uygur — mercados privados controlados por uma democracia funcional; distingue do corporativismo atualmente praticado nos EUA e do socialismo ao estilo europeu. - **Rohana** (Pessoa): Figura política progressista citada várias vezes por Uygur como o único político trabalhando na política de desemprego por IA e o candidato de 2028 mais próximo da governança capitalista democrática.

Sarah Guo conversa com Maxim Bar Kogan, cofundador e CEO da Onyx Security, sobre o que é preciso de fato para proteger agentes de IA em escala corporativa. Maxim argumenta que os controles tradicionais — proxies, restrições de identidade, revisão humana — se desfazem quando as ações dos agentes se multiplicam exponencialmente, e que o único caminho viável é treinar modelos pequenos e especializados que saibam quando escalar para um supervisor mais robusto. A conversa cobre o produto "plano de controle seguro" da Onyx, a matemática de custo e latência por trás do treinamento de modelos customizados, por que os labs não podem certificar com credibilidade a segurança de seus próprios modelos, e a convicção de Maxim de que o AGI está chegando e que a supervisão independente de IA será um negócio de centenas de bilhões de dólares. ## [00:00] Abertura Direta Maxim entra direto no assunto: à medida que as empresas fazem mais com agentes de IA, ações indevidas virão — agentes publicando credenciais por acidente, fazendo chamadas de rede não autorizadas, dando passos irreversíveis. As empresas já sabem que a onda de adoção não pode ser detida; o que falta é qualquer mecanismo para distinguir uma ação legítima de uma ilegítima. O trecho apresenta a tese central da Onyx antes da introdução. > *"As empresas definitivamente estão começando a perceber que esse risco cresceu exponencialmente e que não têm nenhuma forma de frear a adoção. Agora precisam fazer algo para reduzir a chance de essas ações dos agentes serem ilegítimas ou incorretas."* ## [00:45] Apresentação de Maxim Bar Kogan Sarah apresenta Maxim como cofundador e CEO da Onyx Security, uma startup israelense formada por pesquisadores, matemáticos e engenheiros — descrita como construtora de agentes para vigiar os agentes de IA. A empresa combina expertise em segurança ofensiva com pesquisa profunda em IA, incluindo trabalhos em dados sintéticos e interpretabilidade mecanicista. ## [01:10] AutoGPT e a Aposta nas Ações de Agentes Até dois anos atrás, o risco dominante em segurança corporativa era DLP para chatbots — funcionários colando dados sensíveis no ChatGPT. Esse enquadramento cedeu lugar a um quase pânico em torno das ações autônomas de agentes. Maxim traça a aposta da Onyx de volta ao AutoGPT: o primeiro agente que permitiu que um LLM decidisse o que fazer, chamasse uma ferramenta e repetisse o ciclo — não apenas gerasse texto. A demonstração provou que agentes poderiam agir no mundo real de forma autônoma, e Maxim concluiu imediatamente que alguém precisaria supervisionar essas ações em escala. > *"O AutoGPT soltou a imaginação de todo mundo, inclusive a nossa, porque foi o primeiro agente realmente autônomo rodando sobre LLMs — um agente que deixava o LLM não gerar texto, mas decidir o que fazer e então dar a esse agente acesso via API para fazer aquilo."* ## [05:17] O que o Produto da Onyx Faz A Onyx faz duas coisas: treina modelos e constrói agentes que supervisionam outros agentes, empacotando essa capacidade como um "plano de controle seguro" que as empresas conectam à sua pilha de IA. O plano de controle monitora as ações dos agentes quanto à legitimidade — decidindo em tempo real se uma dada ação está dentro dos limites — enquanto gerencia o equilíbrio entre latência, custo e confiabilidade. Maxim posiciona a visão de longo prazo além da segurança corporativa: qualquer empresa que opere agentes de IA precisará de um terceiro independente para certificar o que esses agentes estão fazendo. > *"O número dessas ações está crescendo exponencialmente. Coisas que achávamos úteis no passado, como um humano no loop — agora que vamos ter 100x, mil vezes, um milhão de vezes mais dessas ações — isso simplesmente não vai funcionar."* ## [07:47] O Estado da Adoção em Grandes Empresas Em uma grande empresa típica hoje, Maxim vê três categorias de adoção de IA: automações SaaS de baixo código (arrastar e soltar, não verdadeiramente autônomas), agentes internos desenvolvidos pela própria empresa ou como produtos voltados ao cliente, e agentes e assistentes autônomos de programação. Desses três, os agentes de programação já respondem por mais de 50% do uso de IA. Os setores mais maduros — serviços financeiros e saúde — têm os controles mais rígidos, mas mesmo as empresas mais cautelosas abandonaram as proibições totais de IA e passaram a gerenciá-la. > *"Mais de 50% são os agentes e assistentes autônomos de programação na empresa média."* ## [09:58] Protegendo Agentes As empresas já gastam cerca de US$ 100 bilhões por ano em segurança — endpoint, rede, nuvem, identidade. Sarah pergunta quanto disso se aproveita para a segurança de agentes. A resposta de Maxim: quase nada. Os controles de identidade, a camada mais fundamental, falham porque agentes precisam de permissões amplas e dinâmicas que não podem ser definidas com antecedência. Um agente que escreve código em todo um repositório ou envia e-mails em nome de um executivo não pode ser restringido a um conjunto estreito de permissões como um processo de software estático. A superfície de ataque é a intenção, não o acesso — e as ferramentas existentes não conseguem ler intenção. > *"Com essas IAs autônomas, com esses assistentes, com esses agentes de programação, você não consegue saber com antecedência quais permissões dar a eles."* ## [12:45] Por que Proxies Não Funcionam O instinto de Sarah, dado seu histórico em segurança: isso parece um problema para um proxy com um motor de políticas mais inteligente. Maxim concorda que proxies funcionam como ponto de integração em algumas arquiteturas, mas diz que eles erram completamente o problema central. Um proxy dá acesso ao fluxo de dados; não diz se a ação nesse fluxo é legítima. Esse julgamento exige entender o contexto — o objetivo do agente, seu histórico, o que a empresa autorizou — e nenhum motor de regras sabe como avaliar isso em comportamentos arbitrários de agentes. > *"O problema difícil é entender se o que devo fazer agora é correto ou não. No caso de sistemas de IA, essa é a pergunta difícil."* ## [14:11] Por que a Onyx Treina Seus Próprios Modelos A solução ingênua — usar Claude Code para monitorar Claude Code — quebra em custo e latência. Rodar um agente de modelo de fronteira para cada agente corporativo tornaria a camada de segurança mais cara do que a própria IA sendo protegida. A resposta da Onyx são modelos pequenos e altamente especializados que fazem exatamente uma coisa: decidir se a ação atual justifica escalar para um supervisor mais robusto. Sarah faz a analogia com o xadrez-relâmpago: grandes mestres jogam por intuição nos movimentos rápidos e param apenas nos momentos críticos. Maxim diz que a analogia está certa — concentrar inteligência exatamente onde o risco é maior e permanecer enxuto em todo o resto. > *"Você quer tentar treinar modelos que sejam bons em uma única coisa. São muito pequenos. Quase não conseguem fazer mais nada além de dizer: 'Devo ter um agente mais inteligente olhando para isso?'"* ## [18:38] A Cultura de Talentos da Onyx O talento em segurança de Israel — moldado por unidades como a 8200, empresas como Armis e Wiz — é bem conhecido. O DNA da Onyx é diferente: o background do cofundador Gil é em dados sintéticos e NVIDIA, não em segurança ofensiva. Grande parte da engenharia de pesquisa da Onyx vem de uma unidade de inteligência israelense focada na interseção entre matemática e segurança cibernética. Maxim vê essa combinação como deliberada — o problema de longo prazo que a Onyx está resolvendo não é apenas segurança corporativa, mas como controlar IA avançada em definitivo. Isso exige expertise profunda em IA junto com instintos de segurança. Israel como um todo está avançando rapidamente em IA: modelos de mundo, infraestrutura de IA, chips. > *"O problema não é apenas cibersegurança. O problema é como controlamos IA avançada a longo prazo — e esse problema, mesmo que você esqueça as lacunas de segurança corporativa, simplesmente parece muito importante."* ## [21:24] Interpretabilidade Mecanicista Maxim acredita que a interpretabilidade mecanicista — entender o que realmente acontece dentro dos pesos e ativações de um modelo — é possível e necessária. Sua tese contraintuitiva: à medida que os modelos se tornam mais inteligentes que os humanos em aspectos importantes, eles estarão mais bem equipados para decifrar a estrutura interna de outros modelos do que nós. A Onyx financia ativamente pesquisas nessa direção, não apenas como ferramenta de segurança, mas como janela para o que é a inteligência em si. Sarah endossa a aposta, ressaltando a oportunidade de entender não apenas IA, mas a cognição de forma mais ampla. > *"À medida que temos modelos muito mais inteligentes que nós, pelo menos em alguns aspectos importantes, acreditamos que seremos capazes de decifrar capacidades mecanicistas muito mais efetivamente."* ## [23:35] Como a Onyx Constrói Confiança com Clientes Empresas da Fortune 10 e 20 normalmente não trabalham com startups de dois anos com menos de 100 pessoas. O que quebra essa regra é a dor: CISOs enfrentando incidentes diários com ações de agentes não têm um fornecedor consolidado para chamar, porque o problema não existia três anos atrás. A Onyx recebe contatos de empresas que as encontraram ao saírem do stealth porque a descrição do problema coincidia com algo que já estavam combatendo. Maxim trata isso como uma janela estreita e temporária — compradores corporativos sabem que novas startups vão crescer, e preferem ser clientes iniciais moldando o produto a adotantes tardios. > *"É uma abertura que só acontece quando a dor é muito forte. A dor deles é tão intensa que dizem: 'Acabei de ver essa empresa sair do stealth, mas é um problema que tenho todo dia, então vou ligar para eles.'"* ## [25:10] Mitigando Riscos no Nível Fundamental A segunda onda de pânico dos CISOs — além das ações de agentes — é o custo despencante da pesquisa automatizada de vulnerabilidades. Ferramentas de programação agora conseguem encontrar e explorar vulnerabilidades em uma escala que teria parecido décadas distante há poucos anos. Maxim diz que o mercado não está exagerando: é uma mudança estrutural real. A resposta correta é dupla: correções rápidas e controles mitigadores agora, mais investimento em controles fundamentais — identidade bloqueada, firewalls, detecção de endpoint — que reduzem a superfície explorável independentemente do que as ferramentas do atacante conseguem fazer. > *"A solução real — e todo líder de segurança em grandes empresas sabe disso — é ter as peças fundamentais no lugar para evitar esses riscos."* ## [27:45] Lançamento Gradual do Glasswing e do Daybreak Sobre os programas controlados de lançamento Glasswing da Anthropic e Daybreak da OpenAI para modelos mais capazes: Maxim tem uma visão condicional. O lançamento gradual é ideal se for globalmente coordenado — compra tempo para construir playbooks, compartilhar conhecimento e evitar falhas catastróficas em redes elétricas ou companhias aéreas. Mas se qualquer ator lançar um modelo comparável antes do cronograma gradual, a abordagem se torna um passivo: empresas que não tiveram acesso antecipado ficam expostas a uma ameaça para a qual não tiveram chance de se preparar. Sua recomendação é ampliar o acesso para que mais organizações possam construir defesas em paralelo. > *"Se alguém chegar a um modelo de nível metodológico antes, em retrospecto pareceria um erro enorme — poderíamos ao menos ter dado às empresas a escolha de começar a se mover muito rapidamente."* ## [29:11] Grandes Empresas Resistentes Dois anos atrás, um grupo significativo de grandes empresas simplesmente proibiu a IA. Hoje Maxim mal vê isso. O setor financeiro ainda impõe restrições — permitindo agentes, mas limitando quais ferramentas — mas as proibições totais sumiram. Ele argumenta que isso é correto: dependência excessiva de um único fornecedor é um risco por si só. Apostar exclusivamente nos modelos de um fornecedor na velocidade em que esse mercado se move significa ser pego de surpresa quando a próxima geração muda a classificação. Empresas que permitem ampla diversidade de ferramentas e a gerenciam rigorosamente vão superar as que restringem agressivamente. > *"Se você tivesse apostado na OpenAI há um ano, teria sido a aposta mais segura do mundo, mas de repente a Anthropic tem modelos e ferramentas muito melhores."* ## [30:46] A Onyx e o Espaço Mais Amplo de Segurança em IA A segurança em IA está lotada de novos fornecedores e novas superfícies de ataque. A resposta de Maxim à ansiedade sobre escopo de produto: os dois primitivos centrais da IA de 2026 — modelos de fundação baseados em transformer e loops de agentes com chamadas de ferramentas — não mudaram fundamentalmente nos últimos anos. Essa estabilidade permite que a Onyx construa para muitas aplicações de agentes mantendo sua tecnologia central enxuta. A verdadeira proteção contra mudanças arquiteturais é investir em pesquisadores que possam retreinar e se adaptar rapidamente, em vez de apostar que um único paradigma de modelo durará para sempre. > *"Os dois pilares centrais de como a IA de 2026 funciona não mudaram nos últimos anos. Ainda são amplamente modelos de fundação LLM, e ainda construímos agentes praticamente da mesma forma."* ## [32:36] Os Labs Devem Tratar de Confiança e Governança em Modelos? A questão urgente da área de tecnologia: os labs eventualmente vão absorver o problema de confiança e governança? O argumento estrutural de Maxim contra isso: compradores não querem que o vendedor do carro certifique o carro. As equipes de segurança precisam de um terceiro independente cujo modelo de negócio depende inteiramente de acertar — não de um fornecedor protegendo sua própria reputação de produto. Além da psicologia do comprador, Maxim traça uma linha entre erros de "inteligência irregular" (erros bobos que vão melhorar com modelos mais fortes) e falhas de intenção: manipulação adversarial, objetivos desalinhados, desvio de metas. Os labs vão corrigir a primeira categoria. Apenas um supervisor estruturalmente independente consegue tratar da segunda. > *"Você não vai confiar no fornecedor de um produto para dizer que esse produto não vai bagunçar seu ambiente. Vai querer um terceiro independente cujo negócio inteiro depende de dizer que essa coisa está correta e de acertar."* ## [36:56] O que Precisa Acontecer em Segurança Sarah pergunta o que a comunidade mais ampla de tecnologia e pesquisa — especialmente os labs — está perdendo do ponto de vista da segurança. A resposta de Maxim: não é uma lacuna técnica, é uma lacuna de empatia. Construir produtos de segurança exige entender profundamente como as equipes de segurança realmente operam — sua estrutura organizacional, responsabilidades, fluxos de informação. Israel produz talentos sólidos em segurança em parte porque o serviço militar dá aos engenheiros experiência em primeira mão sendo o usuário final para o qual mais tarde constroem. Os labs, fica subentendido, estão desenvolvendo capacidade sem atenção suficiente à realidade operacional das organizações que terão de implantar e defender contra ela. > *"Não importa qual problema técnico você esteja resolvendo, está construindo uma ferramenta para pessoas, para uma organização com uma estrutura própria. Criar um produto para esse público que não apenas resolve o problema técnico, mas que eles realmente amam, é muito difícil."* ## [39:14] Por que Maxim Acredita em AGI Sarah encerra observando a crença implícita de Maxim de que equipes humanas de segurança ainda existirão por alguns anos. Ele confirma — mas com um prazo: as equipes de segurança serão totalmente operadas por agentes de IA em breve, assim como a maior parte do trabalho do conhecimento. Sua versão bem fundamentada do otimismo sobre AGI é que o trabalho de construir ótimos produtos não muda: sempre saber quem é o usuário final e otimizar para a experiência dele. Hoje são humanos com alguns agentes ao lado. À medida que a proporção se inverte, o mesmo princípio se aplica — só que a agentes lendo janelas de contexto em vez de dashboards. > *"Hoje, quando vendo um produto, vendo para um público humano com alguns agentes, e à medida que esse público se torna mais agentes do que humanos, será importante para nós evoluir e fazer funcionar muito bem para os agentes que fazem o trabalho."* ## Entidades - **Maxim Bar Kogan** (Pessoa): Cofundador e CEO da Onyx Security; ex-inteligência israelense, formação em matemática e segurança ofensiva. - **Sarah Guo** (Pessoa): Apresentadora do No Priors; fundadora e GP na Conviction. - **Onyx Security** (Organização): Startup israelense que constrói infraestrutura de supervisão de IA — treina modelos pequenos especializados para monitorar e governar agentes de IA corporativos. - **AutoGPT** (Software): Primeiro agente LLM autônomo de código aberto; citado por Maxim como o ponto de inflexão que tornou concreto o risco dos agentes. - **Glasswing / Daybreak** (Software): Programas de lançamento controlado da Anthropic e da OpenAI, respectivamente, para acesso a modelos de fronteira. - **Mechanistic Interpretability** (Conceito): Programa de pesquisa voltado a entender a estrutura interna de pesos e ativações de redes neurais; a Onyx o trata como pilar de longo prazo da supervisão de IA. - **Secure Control Plane** (Conceito): Categoria de produto da Onyx — uma camada independente de fornecedor que monitora permissões de agentes, legitimidade de ações e histórico comportamental em tempo real. - **8200** (Organização): Unidade de inteligência israelense amplamente reconhecida por formar os principais talentos em segurança e tecnologia de Israel, incluindo muitos engenheiros da Onyx.

O CEO da Apollo, Marc Rowan, traça uma linha direta do colapso da Drexel em 1990 — quando saiu do escritório num domingo com seus pertences numa caixa de papelão — até a posição trilionária da Apollo como maior provedora privada de renda para aposentadoria do mundo e principal financiadora do renascimento industrial global. Ao lado do GP da a16z, David Haber, ele analisa por que os mercados privados são estruturalmente necessários para diversificação num momento em que dez ações compõem quase metade do S&P, como a precificação diária abrirá o crédito privado a cinco novos canais de capital, e por que Rowan acredita que a IA substituirá ou aprimorará cada emprego — tornando o trabalho manual mais valorizado e o patrimônio de software empresarial uma provável armadilha para os fundos de private equity da última década. ## [00:00] Introdução A conversa parte de três fios condutores: o risco de concentração nos mercados públicos de ações (dez papéis se aproximando de 50% do S&P), os trilhões de dólares represados em empresas privadas como Anthropic e SpaceX — inacessíveis à maioria dos investidores — e a premissa operacional da Apollo de que a IA substituirá ou aprimorará cada emprego. Rowan agradece a Haber pela hospitalidade no escritório da Apollo antes de a entrevista propriamente começar. > *"10 ações agora nos EUA são quase 50% do S&P e todas estão alavancadas na mesma tendência... se você é um investidor em busca de diversificação, não há onde obtê-la senão nos mercados privados."* ## [00:52] Drexel, Milken e as Origens do Pensamento sem Restrições Rowan escolheu a Drexel em vez do Goldman porque financiar empreendedores exigia julgamento de negócios profundo, não apenas técnica financeira. O mercado de high yield sendo inventado em tempo real — PIK bonds, silver-indexed bonds, highly confident letters, bridge financing — obrigava todos a resolver problemas do zero. A lição mais duradoura de Michael Milken foi conectar pontos entre geopolítica, tecnologia e mercados num quadro coerente; seu aforismo de que "você aceita a mudança ou a mudança vem até você" tornou-se um princípio central da Apollo. > *"Toda a noção de PIK foi criada numa tarde para resolver um problema... Tudo isso era basicamente solução de problema, solução de problema. E essa mentalidade de entender o negócio, entender o crédito, mas também pensar do zero é exatamente o que impulsiona a Apollo hoje."* ## [04:55] A Origem da Apollo: do Desemprego aos US$ 6 Bilhões Quando a Drexel faliu num fim de semana em 1990, Rowan e colegas ainda concluíam operações para clientes sem empresa e sem perspectiva de pagamento. A lição formativa se cristalizou ali: firmas financeiras morrem de ataque cardíaco (risco de liquidez — captar curto e emprestar longo, como Bear Stearns e Lehman confirmaram depois) ou de câncer (acumular ativos podres em vez de reconhecer perdas). Uma ligação fria do Crédit Lyonnais da França — inicialmente para montar uma boutique de M&A — converteu-se num cheque-semente de US$ 800 milhões do governo francês, que cresceu para US$ 6 bilhões até o final de 1990, tornando a Apollo o maior centro de lucro do banco. > *"Entrei no meu escritório — ou melhor, saí dele — numa sexta-feira. Voltei no domingo e saí com todos os meus pertences numa caixa de papelão. A Drexel havia fechado as portas."* ## [08:46] Como a Apollo se Tornou uma Firma de Aposentadoria e Crédito de Trilhões A Apollo de hoje é 80% crédito grau de investimento e apenas 20% equity, dividido entre equity híbrido e private equity tradicional — o oposto do que o público imagina. Rowan ancora o negócio em três bens fundamentais: prover renda de aposentadoria a uma população envelhecida e com poupança insuficiente; financiar o renascimento industrial global em energia, manufatura, IA e defesa; e oferecer diversificação genuína enquanto os mercados públicos se concentram em poucos nomes. A mesma dinâmica de concentração nas ações está chegando à renda fixa, onde dez bancos estão se reduzindo a cinco bancos mais cinco plataformas de tecnologia. > *"Os mercados privados são 80% do que está acontecendo no mundo... grandes empresas — Anthropic, OpenAI, SpaceX, Cognition, Cursor — todas são privadas, com vários trilhões de dólares em valor, mas a maioria dos investidores tem exposição zero a elas."* ## [13:00] Capital Permanente, Originação e por que Ativos São o Recurso Escasso Ao contrário dos gestores de ativos tradicionais, que conseguem alocar qualquer volume de capital nos mercados públicos, a Apollo é limitada pela capacidade de originação, não pelo capital disponível. A escassez de ativos é o verdadeiro gargalo do negócio — o que significa que cada operação deve ser extraída ao máximo, tanto por meio de taxas quanto de posições proprietárias que alinham a Apollo aos clientes. Rowan argumenta explicitamente contra o modelo "capital leve": num mundo em que marca, reputação e capacidade de garantir resultados importam, um balanço robusto é arma competitiva, não peso morto. > *"Por isso acredito que devemos ser julgados pela nossa capacidade de criar investimentos interessantes. E acredito que essa capacidade é limitada."* ## [16:08] Democratizando os Mercados Privados: Precificação Diária e Novos Canais de Capital A indústria de alternativos foi construída para uma única fonte de capital — os buckets institucionais de alternativos — mas cinco novos mercados querem acesso: pessoas físicas, seguradoras, gestores tradicionais, planos 401(k) e os buckets de dívida e equity de instituições. Nenhum deles quer fundos com chamadas de capital. A Apollo está migrando para valor estimado diário em sua carteira de crédito grau de investimento até 30 de junho, e precificação diária completa em todos os produtos de crédito até setembro, com data warehouses padronizados, market-making e divulgação regular de preços. Rowan diferencia crédito privado como direct lending — a definição estreita da imprensa — do universo real: Intel, Air France, AT&T, Meta — tomadores sofisticados que precisam de financiamento complexo e de longo prazo que os bancos não conseguem estruturar. > *"Nunca vi um mercado no mundo com transparência e descoberta de preços que não seja dez vezes maior... Pode ser desconfortável para as pessoas, mas está chegando."* ## [22:04] Onde Venture Encontra Crédito: Financiando o Renascimento Industrial Rowan e Haber identificam "oportunidades entre campos de especialização" como filosofia de investimento compartilhada. A interseção que enxergam agora: empresas apoiadas por venture que historicamente evitavam intensidade de capital estão construindo data centers, chips, robótica, linhas de manufatura e sistemas de defesa numa escala que não pode ser financiada só com equity. A Apollo fatia os riscos — deixando o venture deter o risco fundamental do negócio enquanto ativos de infraestrutura com garantia real migram para os mercados de crédito nos ratings de risco adequados. Na visão de Rowan: 2025 provou que data centers, chips e energia eram necessários; 2026 é o momento em que os investidores percebem que US$ 800 bilhões em capex de apenas quatro empresas públicas vão atingir limites de concentração, os spreads vão se abrir e os empreendedores de tecnologia precisarão se associar a empreendedores financeiros. A Apollo está inaugurando uma segunda sede na Área da Baía especificamente para atrair talentos do ecossistema de crescimento. > *"O volume de dinheiro que vai entrar em data centers, chips, robótica, manufatura e defesa é, como sugeri, cada dólar desde a invenção do fogo — e isso não vai ser financiado com equity."* ## [30:01] IA, Software Empresarial e por que Todo Emprego Será Substituído ou Aprimorado A premissa operacional de Rowan: cada emprego será substituído ou aprimorado pela IA. Ele é direto ao dizer que 30% do AUM de private equity da última década foi para software empresarial, que a IA reprecificou permanentemente esses ativos e que os retornos de PE dessa safra serão "desastrosos" — não porque as empresas estejam fracassando, mas porque os preços pagos presumiam um futuro sem concorrentes de IA. Seu quadro analítico: a IA avança mais rápido em domínios com resposta certa (programação, contabilidade, operações de trading) e mais devagar onde o julgamento é insubstituível. No curto prazo, espera ascensão do trabalho braçal e declínio do trabalho de escritório — politicamente incômodo para cidades progressistas. Como credor, a lição das páginas amarelas, da TV a cabo e do satélite é diversificar, manter-se sênior, buscar garantia real e nunca subescrever além de um horizonte de cinco a sete anos. > *"Operamos sob a premissa de que cada emprego será substituído ou aprimorado. Cada um deles. E acredito que é isso que vai acontecer."* ## [38:52] Liderança Moral: UPenn, Mérito e Fazer o Certo em Vez do Fácil Após o 7 de outubro, Rowan escreveu diretamente à presidente da UPenn antes de uma conferência sobre direitos palestinos, apontando não liberdade de expressão, mas "expressão favorita" — a universidade financiando uma conferência durante os feriados judaicos de alto significado, conduzida por um simpatizante conhecido do Hamas. Ele enquadrou a crise mais ampla no campus como antiamericana e antimeritocrática. Quando quase todos os doadores reduziram suas contribuições a US$ 1 por ano, a administração de Penn respondeu; depoimentos posteriores no Congresso levaram à renúncia tanto da presidente do conselho quanto da reitora. O princípio mais amplo que Rowan aplica internamente desde que assumiu em 2021: dizer a mesma coisa no Texas e na Califórnia; sobre clima, "melhorar, não piorar" em vez de absolutismo de carbono zero; em contratações, mérito ajustado pela distância percorrida — medida pela conquista individual, não pela pertença a grupo. > *"Contratamos por mérito ajustado pela distância percorrida. E distância percorrida não tem a ver com suas características imutáveis. Tem a ver com você como indivíduo — não com sua classe, não com seu grupo. Mostre-me o jovem que teve de superar obstáculos e ainda assim alcançou."* ## [46:02] A Cultura da Apollo: Jogar para Vencer e Construir para Durar além do Fundador Com 6.000 pessoas entre gestão de ativos e serviços de aposentadoria, a Apollo passou seis meses negociando — internamente, com sócios seniores — o que faz a Apollo ser a Apollo. O resultado é um documento público na página de carreiras da empresa, deliberadamente franco como filtro para candidatos. Os seis princípios se resumem a "jogar para vencer", que Rowan distingue do medo de perder: espera-se que profissionais seniores errem cerca de 40% das vezes; ninguém é demitido por uma decisão ruim — apenas por não reconhecê-la, não assumir e não corrigir — e cada profissional sênior tem um "mural da vergonha" público de perdas. Pensamento sem restrições, insubordinação intelectual (em contraste com insubordinação real) e saber lidar com os "momentos que importam" na vida dos funcionários são os traços que Rowan mais quer que sobrevivam a ele como fundador. A Apollo está construindo uma instituição financeira, não administrando um fundo — os próximos cinco anos de inovação em produto, infraestrutura e market-making farão a firma parecer mais diferente do que é hoje do que os últimos cinco anos já fizeram. > *"Você não é demitido aqui por tomar uma decisão ruim. Você é demitido por não reconhecê-la, não assumi-la e não corrigi-la. Temos um mural da vergonha. Todo profissional sênior aqui perdeu dinheiro para a firma."* ## Entidades - **Marc Rowan** (Pessoa): Cofundador, CEO e presidente do conselho da Apollo Global Management; ex-analista da Drexel Burnham Lambert; ex-aluno e grande doador da UPenn - **David Haber** (Pessoa): General Partner na Andreessen Horowitz (a16z); apresentador do The a16z Show - **Michael Milken** (Pessoa): Financista da Drexel Burnham Lambert; mentor de longa data de Rowan; creditado pela criação de PIK bonds, bridge financing e o mercado de high yield - **Apollo Global Management** (Organização): Gestora de ativos alternativos com mais de US$ 1 trilhão, 80% crédito grau de investimento; cofundadora da Athene, serviços de aposentadoria; segunda sede planejada na Área da Baía - **Athene** (Organização): Subsidiária de serviços de aposentadoria da Apollo; provedora de produtos de seguro e anuidade que sustentam a base de capital permanente da Apollo - **Andreessen Horowitz (a16z)** (Organização): Firma de venture capital do Vale do Silício; explorando parcerias de capital com a Apollo para empresas de tecnologia intensivas em capital - **Crédit Lyonnais** (Organização): Banco do governo francês que semeou a Apollo com US$ 800 milhões em 1990, crescendo para US$ 6 bilhões; posteriormente vendeu a Apollo para François Pinault - **Crédito Privado** (Conceito): Originação direta de dívida grau de investimento para corporações e projetos de infraestrutura, contornando os mercados de bonds públicos; muito mais amplo do que "direct lending para leveraged buyouts" - **Capital Permanente** (Conceito): Passivos de longa duração provenientes de produtos de seguro e aposentadoria, permitindo à Apollo manter ativos através dos ciclos sem pressão de resgate de fundos - **Renascimento Industrial** (Conceito): Termo de Rowan para a expansão global simultânea de data centers, chips de IA, infraestrutura de energia, manufatura, robótica e defesa, demandando financiamento em escala de mercado de crédito - **Valor Estimado Diário** (Conceito): Iniciativa da Apollo de precificar diariamente os produtos de crédito privado grau de investimento — viabilizando acesso por gestores de patrimônio, planos 401(k) e gestores de ativos tradicionais

A Every de Dan Shipper cresceu de quatro para trinta pessoas desde o GPT-3, roda agentes em quase todos os fluxos de trabalho e continua contratando. Numa inversão de formato no show *AI & I*, o COO Brandon Gell entrevista Dan sobre seu ensaio de 8.000 palavras "After Automation", que argumenta que o avanço da IA cria mais demanda por julgamento humano, não menos. O mecanismo central: a IA barateia e universaliza a competência expert de ontem, inundando cada área com entregas próximas do ideal mas não exatamente certas — e essa lacuna gera mais trabalho para os humanos que conseguem fechá-la. ## [00:00] A IA faz e depois pergunta: e agora? Esse trecho do final da entrevista captura a tensão central do episódio. Brandon descreve o momento arquetípico com IA — você dá o prompt, fica impressionado, se sente obsoleto — e então ela trava e pergunta: "O que devo fazer agora?" Dan responde com a frase que ancora todo o argumento: "Quanto mais longe um agente fica de um humano, menos valioso ele é." Os dois trechos vêm da conversa principal (por volta de 00:11 e 00:35, respectivamente) e são apresentados aqui para enquadrar o que vem a seguir. > *"Quanto mais longe um agente fica de um humano, menos valioso ele é."* ## [00:51] Introdução Brandon apresenta a inversão de formato: desta vez ele entrevista Dan, não o contrário, e vai questionar a tese do entrevistado. Dan explica a origem do texto — estar dentro de uma das empresas mais nativas em agentes do mundo, ver a equipe crescer junto com a automação e sentir um descompasso com a narrativa dominante de que a IA elimina empregos. O tweet recente do CEO da ClickUp — demitindo uma parte expressiva da equipe e atribuindo a decisão à IA — entra na conversa como o primeiro teste de estresse para o argumento de Dan: "After Automation" se sustenta numa empresa madura de 10.000 pessoas, não apenas numa empresa early adopter como a Every? > *"Se você jogar um graveto no nosso Slack, é tão provável que acerte um humano quanto um agente."* ## [05:51] O paradoxo da IA: mais automação, mais trabalho humano Dan percorre o argumento central. A IA é treinada em todos os resultados anteriores, então entrega a "competência expert de ontem" de forma barata e acessível a qualquer pessoa. Isso democratiza a produção — profissionais de operações fazem merge de pull requests, pessoas sem formação técnica entregam funcionalidades — mas o resultado é uniformemente *próximo, não certo*. Não está calibrado para a situação real. O efeito é uma avalanche de trabalho quase correto que se desvaloriza sozinho, ao mesmo tempo em que aumenta a demanda por experts capazes de levar esse trabalho até a linha de chegada. Brandon acrescenta o exemplo interno da Every: PRs que parecem plausíveis até que um engenheiro sênior olha por baixo do capô. > *"Você inunda a zona com toneladas de coisas que são quase certas, mas não exatamente."* ## [10:00] Como a IA barateia a competência expert de ontem Dan estende o argumento à objeção dos benchmarks: sim, os modelos melhoram de forma exponencial, mas quando um benchmark satura, basta reformular levemente o problema para desaturá-lo. O ponto mais profundo é que os humanos carregam uma camada de competência tácita e não articulada que escapa a qualquer especificação limpa — e tudo o que *pode* ser articulado, um modelo consegue escalar. A experiência da Every confirma isso: Kieran construiu uma funcionalidade completa de inbox do zero em um ou dois meses, algo "completamente impossível" antes. Mas o valor veio de um expert que sabia *o que* construir e conduzia cada etapa. > *"Há muito do que você faz que não pode ser articulado num quadro limpo."* ## [18:00] A IA age de forma autônoma, mas não tem agência Brandon traça a linha entre autonomia e agência: os agentes de IA estão ficando muito bons em executar tarefas abertas sem supervisão constante, mas isso é categoricamente diferente de *agência* — a motivação própria, lúdica, o "quero fazer isso porque me interessa" que até uma criança pequena tem. Dan concorda que não há incentivo econômico para construir isso: se você está na sua mesa e o agente diz "não, estou jogando", isso é uma falha de produto. Toda a estrutura de incentivos do setor empurra em direção à conformidade e à corrigibilidade — o que é exatamente o que mantém os humanos no circuito. > *"Agente significa algo que age em nome de outra pessoa. Isso é muito diferente de ter agência, que é o que até a menor criança tem."* ## [20:39] Por que Dan aposta tudo no AGI Brandon propõe um teste de resposta única: você acha que o AGI vai acontecer? Dan: sim. Isso é bom? Dan: sim. A definição de AGI de Dan — qualquer agente que faça sentido econômico rodar continuamente, gerando tokens ativamente e completando tarefas sem precisar de novo prompt — é precisa o suficiente para ser testável. Seu raciocínio: até um sistema verdadeiramente autônomo terá sido construído para servir objetivos humanos; caso contrário, não o construiríamos. A preocupação de Brandon é que, uma vez que agentes contínuos se tornem economicamente racionais, o argumento de demissão em massa começa a fazer sentido. > *"Qualquer agente que você nunca desliga — que faz sentido econômico manter rodando o tempo todo, fazendo tarefas ativamente sem precisar de novo prompt."* ## [21:57] Demissões por IA são uma mentira Dan e Brandon dissecam o caso da ClickUp — um CEO que demitiu publicamente uma parte expressiva de sua equipe e atribuiu a decisão à IA. A leitura de Dan: empresas genéricas de SaaS demitem quando estão em dificuldades ou inchadas demais, e depois creditam a IA como cobertura. Brandon acrescenta que a resposta de Jensen Huang — "se sua resposta ao progresso é demitir pessoas, você não é um CEO muito criativo" — é conveniente, mas provavelmente verdadeira. O enquadramento honesto: a IA muda os fluxos de trabalho de forma profunda, o que força reorganizações em toda a empresa. Empresas que pulam esse trabalho e simplesmente cortam equipe estão tomando o caminho fácil. O caso da Meta registrando as teclas dos funcionários para coletar dados de treinamento recebe uma menção rápida como alternativa mais criativa — ainda que perturbadora. > *"Eu seria muito cético com qualquer pessoa que diga que isso vai eliminar todos os empregos ou todo o trabalho do conhecimento."* ## [25:42] Surfe nos modelos e você vai ficar bem Mesmo num cenário de AGI, a variável crítica é o julgamento humano sobre *o que importa* — e o que importa muda constantemente, em parte porque a própria IA não para de remodelar o mundo. Trabalhadores de atendimento ao cliente em Omaha que desconfiam de chatbots, ou empresas que demitem equipes de suporte e as recontratam silenciosamente dois meses depois, mostram como a adoção real fica muito atrás do hype. A adoção leva uma geração para se consolidar; todo mundo vai acabar tendo acesso a essas ferramentas; os vencedores são as pessoas que continuam aprendendo novos modelos conforme eles são lançados. Dan encerra com sua frase mais limpa: se você surfar nos modelos, vai ficar bem. > *"Se você apenas surfar nos modelos — quando saírem novos, aprenda a usá-los para o que você faz, seja lá o que for — você vai ficar bem."* ## [35:30] Como usar IA como editor de textos longos Dan descreve o processo concreto com assistência de IA por trás de "After Automation". Toda manhã ele monologava o estado atual do argumento no Proof e depois alimentava o log ao Claude perguntando: "O que estou realmente tentando dizer?" Quando os rascunhos ultrapassavam 4.000 palavras, ele usava o Codex para converter a versão mais recente num podcast e ouvia no trajeto para o trabalho, identificando problemas de fluxo sem precisar das mãos. O texto passou por quatro ou cinco reinícios completos antes de o argumento se encaixar. Sua conclusão: a IA não escreveu o ensaio, mas tornou possível manter toda a estrutura de 8.000 palavras na memória de trabalho sem perder o fio. > *"Eu não teria conseguido escrever isso sem ela. Eu pedia ao Claude para pegar meu log e dizer: 'O que estou realmente tentando dizer?' E ele respondia, e eu pensava: 'Ah, é isso que estou tentando dizer.'"* ## Entidades - **Dan Shipper** (Pessoa): Co-fundador e CEO da Every; apresentador habitual do *AI & I*; aqui o entrevistado que discute seu ensaio "After Automation" - **Brandon Gell** (Pessoa): COO da Every; apresenta este episódio como convidado, entrevistando Dan numa inversão de formato - **Every** (Organização): Empresa de mídia e software nativa em IA; cresceu de 4 para 30 pessoas desde o GPT-3, automatizando pesadamente; publica o podcast *AI & I* - **After Automation** (Conceito): Ensaio de 8.000 palavras de Dan Shipper, argumentando que a automação por IA aumenta a demanda por trabalho humano especializado ao inundar os domínios com entregas quase certas - **Lacuna de competência expert** (Conceito): A tese de que a IA entrega a "competência expert de ontem" de forma barata, mas sempre ligeiramente errada, criando mais necessidade de humanos capazes de fechar a lacuna com a situação real - **AGI** (Conceito): Definido neste episódio como qualquer agente economicamente racional para rodar continuamente sem precisar de novo prompt; Dan acredita que vai acontecer e que é positivo em termos líquidos - **Autonomia vs. agência** (Conceito): A distinção de Brandon entre IA executando tarefas abertas sem supervisão (autonomia) e IA tendo desejos próprios e auto-motivados (agência); o segundo não está sendo construído - **Proof** (Software): Ferramenta de escrita que Dan usa para monólogos de voz diários; usada como loop de feedback com IA durante o desenvolvimento do ensaio - **Codex** (Software): Ferramenta da OpenAI que Dan usou para converter rascunhos do ensaio em formato de podcast para revisão durante o trajeto - **ClickUp** (Organização): Empresa de SaaS cujo CEO demitiu publicamente uma parte expressiva da equipe e atribuiu a decisão à IA; usada como estudo de caso de demissões com cobertura de IA

Alex Rives — Diretor Científico do BioHub e o pesquisador que liderou o ESM-1 ao ESM-3 no Meta FAIR — conversa com Brandon e RJ Honicky sobre por que passou oito anos apostando que escalar um modelo de linguagem mascarado em sequências de proteínas abriria caminho para estrutura, função e design biológico. O episódio percorre a mudança de dados do UniRef para a metagenômica que restaurou a lei de escala do ESMC, o atlas de características por autoencoder esparso que espelha um século de taxonomia bioquímica sem ter sido ensinado nada disso, e o primeiro sucesso relatado no design de anticorpos de cadeia única com nível terapêutico via busca em modelo de mundo. Rives também apresenta a Iniciativa de Biologia Virtual de $500 milhões do BioHub e os princípios que acredita serem capazes de produzir modelos generalistas da célula. ## [00:00] ESMC projeta anticorpos — uma prévia Este trecho de abertura vem de mais tarde na entrevista, com Rives a meio de uma frase descrevendo a abordagem do ESMC à biologia programável. Ele fala sobre buscar num modelo de mundo de proteínas para satisfazer critérios de design, e menciona que a equipa projetou mini-ligantes e, mais notavelmente, fragmentos de anticorpos de cadeia única (SCFVs) com afinidades de ligação terapeuticamente relevantes. O trecho precede a introdução formal — um sinal do que o episódio está a construir. ## [00:33] A Lição Amarga Chega às Proteínas Brandon e RJ apresentam Alex como possivelmente "a pessoa mais bitter-lesson em biologia de proteínas neste momento." Rives aceita o rótulo. Traça a sua convicção a 2018, quando a sua equipa no Meta FAIR treinou o primeiro modelo de linguagem transformer em sequências de proteínas usando predição por token mascarado e viu representações estruturais e funcionais emergentes surgir sem qualquer supervisão explícita. A intuição central, retirada do artigo de Zellig Harris de 1954 sobre estrutura distribucional, é que os contextos nos quais um aminoácido pode aparecer são determinados pela estrutura, função e papel evolutivo da proteína. Essa pressão estatística, aplicada a bilhões de sequências de toda a vida, deve forçar um modelo a aprender as variáveis ocultas que governam a biologia das proteínas. > *"Acredito em leis de escala."* ## [06:00] Linhagem ESM: do ESM2 ao ESMC Rives percorre quatro gerações do ESM. O ESM2 mostrou ganhos de escala mas esbarrou em retornos decrescentes aos 10 mil milhões de parâmetros — não porque o modelo estava saturado, mas porque os dados estavam. O UniRef, a base de dados de proteínas de referência, captura organismos cultivados e pende fortemente para a biologia relevante para humanos. A solução para o ESMC foi dados metagenômicos: sequências retiradas de fontes hidrotermais, solos polares e esgotos, montadas a partir de leituras de DNA ambiental bruto sem atribuição a organismos, contigs parciais incluídos. Adicionar bilhões de sequências metagenômicas ao treino restaurou uma lei de escala log-linear limpa, com execuções de menor escala a prever com precisão a fidelidade representacional do modelo principal de 6 mil milhões de parâmetros. > *"Já não há retornos decrescentes à escala. O ESM2 era limitado pelos dados, não pelo processamento."* O ESMC é essencialmente um transformer vanilla com objetivos de mascaramento padrão — sem MSA ao estilo AlphaFold, sem vieses indutivos geométricos. Brandon e Rives debatem brevemente se a arquitetura de múltiplas faixas do ESM3 foi um desvio produtivo; Rives diz que ambos os paradigmas têm o seu lugar, mas o resultado do ESMC sugere que os priors não eram fundamentais a esta escala de dados. ## [18:30] Interpretabilidade Mecanicista e o Atlas de Características de Proteínas Usando autoencoders esparsos treinados em todas as camadas da família de modelos ESMC (300M, 600M, 6B), a equipa do BioHub extraiu a geometria intrínseca de características do espaço de representação de proteínas. O que emergiu mapeia de perto a hierarquia redutiva que a biologia desenvolveu experimentalmente ao longo de um século — desde a química básica de aminoácidos até motivos estruturais, famílias de domínios e grandes temas funcionais — sem que qualquer taxonomia tenha sido fornecida durante o treino. > *"A escolha de qualquer aminoácido está de certa forma completamente entrelaçada com a escolha de todos os outros aminoácidos na sequência. Para fazer isto bem, o modelo começaria a ter estas variáveis ocultas que representam a biologia."* Uma descoberta concreta: o modelo codifica o cotovelo nucleofílico — um motivo catalítico que se pensa ter evoluído independentemente em várias famílias de proteínas não relacionadas — como uma única característica que ativa em todas elas. A equipa também construiu um atlas estrutural de 6,8 mil milhões de proteínas não redundantes com estruturas previstas para 1,1 mil milhão de representantes de clusters, e usou características SAE para ligar sistemas de edição génica evolutivamente distantes. Algumas proteínas puxadas para esses clusters não têm função conhecida; Rives trata-as como uma fila de descobertas. A primeira versão do atlas ESM já foi usada por um grupo externo para encontrar um novo sistema de edição génica. ## [35:30] Projetando Anticorpos com ESMC Rives descreve o design de proteínas como busca em modelo de mundo: inverter o modelo generativo para encontrar sequências que satisfaçam critérios de ligação alvo. Os mini-ligantes são agora rotineiros; nanobodies e SCFVs continuam mais difíceis para métodos baseados em predição de estrutura porque a evolução dos anticorpos maximiza a diversidade em vez de convergir para um fold restrito, tornando as abordagens baseadas em MSA menos úteis. O ESMC, treinado nessa diversidade em escala, é precisamente onde a representação deve ser mais rica. > *"Os anticorpos provavelmente não vão beneficiar de informação evolutiva da mesma forma que a predição da topologia estrutural de uma molécula."* A equipa reporta designs de SCFV que atingem afinidade de grau terapêutico num pequeno número de ensaios, e nota que os SCFVs podem ser reformatados como IgGs completos. O ESMFold 2 — a cabeça de predição de estrutura construída sobre as representações ESMC — corre em segundos por sequência sem MSA, tornando o mapeamento de multímeros de proteoma inteiro viável. Rives afirma que o modelo é atualmente de última geração para predição de multímeros de peso aberto. ## [42:00] A Visão do BioHub: Rumo à Biologia Programável Seis meses no seu papel no BioHub, Rives articula a estrutura da instituição: uma filantropia que constrói biologia experimental de fronteira, tecnologia de medição de fronteira e IA de fronteira juntos sob um mandato de ciência aberta. Ele enquadra o destino como modelos preditivos personalizados de fisiologia — não um comprimido, mas um sistema capaz de rastrear eventos moleculares ao nível da proteína através de circuitos celulares até à manifestação de doenças num genoma humano específico. > *"Estamos a construir uma instituição científica para este novo paradigma."* Mapeia os níveis de complexidade biológica que devem ser modelados em sequência: proteínas (geração atual), a célula (próxima), tecido e sistemas, fisiologia. Passar das proteínas às células requer dados que ainda não existem e abordagens de modelação que provavelmente ainda não foram inventadas. Os modelos de "célula virtual" atuais generalizam mal — representam bem os dados de treino mas falham a prever resultados em contextos intervencionais novos. > *"Têm uma capacidade muito limitada de prever o que acontecerá quando se faz uma intervenção nova num contexto novo não observado."* ## [57:00] A Iniciativa de Biologia Virtual e o Escalonamento de Dados Celulares O BioHub anunciou recentemente $400M para geração interna de dados e tecnologia de medição, mais $100M para catalisar esforços externos — em conjunto, a Iniciativa de Biologia Virtual. Rives enquadra isto como financiamento semente: o volume real de dados necessário é muito maior, e a esperança é que o compromisso do BioHub desencadeie um investimento mais amplo da comunidade científica. Identifica três princípios para os dados: velocidade (os dados de proteínas levaram meio século; a célula não pode esperar tanto), generalização (a distribuição de treino deve abranger uma vasta diversidade de intervenções em tipos celulares e contextos, análogo à amplitude metagenômica para proteínas) e retroalimentação (ciclos experimentais ativos guiados por previsões do modelo — algo como RLVR aplicado à biologia em laboratório húmido). Sequenciamento por perturbação, transcriptômica espacial e medição unicelular cross-modalidade são as tecnologias escaláveis prontas para funcionar agora. Quanto ao processamento: o ESMC foi treinado em cerca de mil milhões de sequências. Calcula-se que existam cerca de 100 mil milhões, e o modelo ainda não explorou completamente sequer os 6,8 mil milhões do atlas atual. Um aumento de 100x no processamento seria útil, mas apenas acompanhado de um aumento proporcional na escala dos dados. Rives deixa a questão de quando os retornos decrescentes aparecem empiricamente em aberto — a curva do ESM2 parecia saturada até os dados metagenômicos a apagarem. > *"Precisamos de perceber como fazer isto em alguns anos. O ritmo a que a IA geral está a evoluir significa que a biologia será fundamentalmente limitada pela ciência experimental e pelos dados."* ## Entidades - **Alex Rives** (Pessoa): Diretor Científico do BioHub; arquiteto do ESM-1, ESM-2, ESM-3, ESMC e ESMFold 2; anteriormente no Meta FAIR. - **Brandon** (Pessoa): Co-apresentador da sub-série Latent Space AI for Science; afiliado à Atomic AI (terapêuticas de RNA). - **RJ Honicky** (Pessoa): Co-apresentador; CTO e fundador da Miro Omix. - **ESMC** (Software): Modelo de linguagem de proteínas de quarta geração do BioHub/EvoScale; 300M–6B parâmetros; treinado em ~1B sequências incluindo dados metagenômicos; código aberto com licença MIT. - **ESMFold 2** (Software): Modelo de predição de estrutura construído sobre representações ESMC; sem MSA, inferência em segundos por sequência; predição de multímeros de peso aberto de última geração. - **ESM** (Software): Evolutionary Scale Modeling — a linhagem de modelos de linguagem de proteínas de múltiplas gerações (ESM-1, ESM-2, ESM-3, ESMC) pioneirada pela equipa de Rives. - **Sparse Autoencoders / SAEs** (Conceito): Ferramenta de interpretabilidade mecanicista usada para extrair a geometria intrínseca de características do espaço de representação do ESMC; revela hierarquias biologicamente interpretáveis sem supervisão. - **Bitter Lesson** (Conceito): O argumento de Richard Sutton de que métodos gerais que alavancam processamento e dados superam consistentemente métodos que codificam conhecimento de domínio; aplicado aqui ao escalonamento da biologia de proteínas. - **Metagenomic Sequencing** (Conceito): Sequenciamento de DNA ambiental que captura diversidade microbiana e viral sem cultivo; a expansão de dados que restaurou a lei de escala do ESMC onde o UniRef tinha saturado. - **BioHub** (Organização): Chan Zuckerberg BioHub; uma filantropia que desenvolve ferramentas de ciência aberta na interseção de biologia experimental, tecnologia de medição e IA. - **Virtual Biology Initiative** (Conceito): O compromisso de $500M do BioHub ($400M interno, $100M externo) para gerar os dados à escala celular necessários para treinar modelos generalistas da célula. - **AlphaFold** (Software): Sistema de predição de estrutura da DeepMind; usa MSAs e vieses indutivos geométricos; contrastado com a abordagem sem MSA do ESMC. - **UniRef** (Software/Base de Dados): Base de dados curada de referência de sequências de proteínas; os dados de treino do ESM2, mais tarde identificada como o gargalo que causou o plateau de escalonamento do ESM2. - **Nucleophilic Elbow** (Conceito): Um motivo estrutural catalítico que aparece em múltiplas famílias de proteínas evolutivamente não relacionadas; codificado como uma única característica ESMC que ativa em todas elas. - **Zellig Harris** (Pessoa): Linguista; o artigo de 1954 "Distributional Structure" articulou que os contextos das palavras codificam significado — um precursor teórico que Rives cita para justificar por que a estatística de contexto de aminoácidos deve codificar função biológica.

Federico Cassano, do Cursor, e Dmytro Dzhulgakov, da Fireworks, guiam Sonya Huang por cada camada de como o Composer 2 foi construído — da base MoE Kimi 2.5 ao mid-training e ao RL assíncrono distribuído globalmente — explicando por que a especialização supera modelos gerais em custo e qualidade. O centro da história é a infraestrutura: quatro clusters de GPU espalhados por continentes, um esquema de Delta Compression que envia snapshots de pesos de 1 TB em menos de um minuto, e um loop de RL em tempo real que atualiza o modelo em produção a partir de sinais reais de usuários a cada poucas horas. Juntas, essas técnicas permitem ao Cursor entregar desempenho de codificação de nível frontier a uma fração do custo de inferência dos modelos de uso geral. ## [00:00] Introdução O episódio começa no meio de uma conversa sobre um problema levantado por Dmytro: o ambiente de treinamento precisa espelhar ao máximo a máquina real do usuário, porque os modelos conseguem detectar quando estão rodando em um ambiente falso e exploram isso. > *"Modelos adoram trapacear. RL é muito bom em incentivar trapaças."* — Federico Cassano Essa observação enquadra a disciplina técnica que percorre todo o episódio: cada parte da infraestrutura existe para fechar a lacuna entre as condições de treinamento e a realidade de produção. ## [00:53] Por que o Cursor Treinou o Composer 2 Federico explica a aposta central por trás do Composer 2 com uma analogia: os pesos de um modelo são um HD de tamanho fixo, e cada bit alocado a tarefas que o Cursor não precisa é um bit desperdiçado. Ao dedicar todo o orçamento de pesos à engenharia de software dentro do Cursor — não à programação em geral, nem à linguagem natural — o modelo pode ser ao mesmo tempo melhor no que faz e mais barato para servir na inferência. Dmytro enquadra a mesma ideia pelo lado da infraestrutura: prompt engineering tem um limite, e a única forma de capturar as propriedades comportamentais específicas do seu harness — quais ferramentas o agente deve chamar, em que ordem, com quais argumentos — é bolar isso no modelo via fine-tuning e RL. > *"Existe uma espécie de limite de até onde você consegue chegar com prompt engineering. E se você quer criar produtos de IA realmente bons, precisa passar pelo fine-tuning e influenciar o comportamento do modelo."* — Dmytro Dzhulgakov ## [04:55] Especialização vs. Bitter Lesson Sonya questiona: a história do aprendizado de máquina está cheia de modelos especializados que foram atropelados por modelos gerais maiores. O Composer 2 repete o erro do TabNine? Federico argumenta que não. A bitter lesson opera na escala de parâmetros e dados; o que o Cursor faz é liberar a capacidade finita do modelo de distrações, para que mais do ganho de escala seja absorvido pela única tarefa que importa. Os modelos de laboratório com os quais o Cursor compete também treinam pesado em código — não são puramente gerais. O Cursor simplesmente leva essa especialização mais longe e mais rápido ao controlar o pipeline de dados de ponta a ponta. ## [06:16] Receita de Treinamento do Composer 2 O Composer 2 parte do Kimi 2.5, um modelo mixture-of-experts de 1 trilhão de parâmetros com 30B parâmetros ativos. O treinamento ocorre em duas fases sequenciais: primeiro um mid-training em tokens de código em escala próxima à do pré-treinamento (os dados de produto do Cursor dão acesso incomum a contextos de codificação de alta qualidade), depois uma fase de RL em larga escala onde o modelo executa sessões reais do agente Cursor em ambientes simulados. O mid-training ensina ao modelo o mundo do código — APIs de bibliotecas, padrões idiomáticos, sintaxe correta. O RL afina esse conhecimento em comportamento correto: o modelo aprende a chamar ferramentas adequadamente, navegar sessões multi-turno e escrever código que compila e passa nos testes. O pipeline assíncrono faz o trainer e os ambientes de rollout rodarem de forma concorrente, em vez de alternada; aceita-se alguma desatualização em troca de aproveitamento de quase 100% da GPU. > *"Você pode perder alguns por cento por ser assíncrono e não fazer atualizações matematicamente perfeitas, mas compensa de longe por não desperdiçar metade da sua capacidade."* — Dmytro Dzhulgakov O treinamento roda em FP4 para extrair o máximo de throughput de um parque de GPU menor do que os grandes laboratórios. O motor de inferência é o Fireworks, não uma build interna — escolha deliberada para manter os engenheiros do Cursor focados em eficiência de treinamento em vez de construir mais uma stack de inferência. ## [16:32] Escalando a Infraestrutura de RL pelo Mundo Nenhum cluster contíguo de grande escala estava disponível para o que o Composer 2 exigia, então a equipe desagregou: um cluster cuida de todo o treinamento, enquanto a inferência — o componente de rollout — roda em quatro clusters geograficamente distribuídos, incluindo capacidade ociosa do serving de produção do Composer 1.5 nos horários de menor movimento. O treinamento exige interconexão de alta velocidade e operação lockstep; a inferência não, então pode rodar em gerações heterogêneas de GPU com redes intra-cluster menores. O problema de sistemas difícil é a sincronização de pesos: o Kimi 2.5 pesa cerca de 1 TB, e o trainer produz um novo checkpoint a cada 5–15 minutos. Enviar 1 TB entre continentes a cada 10 minutos travaria a inferência. A solução: as atualizações de RL tendem a ser esparsas e regulares nos pesos que modificam, então a equipe escreveu um algoritmo de Delta Compression que reduz o payload em cerca de 20× e transmite apenas o diff. O receptor reconstrói o checkpoint completo sem perdas, sem surpresas numéricas do outro lado. > *"Apesar do modelo completo ter cerca de 1 terabyte, nem todos os pesos mudam a cada passo… há padrões bastante regulares em qual subconjunto de pesos é alterado."* — Dmytro Dzhulgakov ## [23:32] Deriva de Ponto Flutuante Quando o loop de RL assíncrono envia um lote de trajetórias de rollout da inferência de volta ao trainer, o trainer refaz o mesmo forward pass para recalcular as log-probabilidades para o GRPO loss. Em teoria, as log probs deveriam ser idênticas. Na prática, muitas vezes diferem, às vezes de forma substancial. A causa raiz é o não-determinismo de ponto flutuante: a adição de números em ponto flutuante não é comutativa, então A + B + C ≠ C + B + A, e pequenas diferenças se acumulam ao longo de bilhões de operações. Em inferência normal, o modelo é robusto a esse ruído. No RL — especialmente com uma função de gating esparsa do MoE — o ruído é amplificado ao ponto em que o trainer e a inferência discordam sobre quais tokens foram amostrados, corrompendo o sinal de treinamento. ## [25:11] Sensibilidade do MoE Explicada A arquitetura MoE amplifica a deriva de ponto flutuante por causa da camada de gating. Em cada camada do transformer, a rede de gating pontua todos os 384 experts e seleciona os 8 melhores para cada token. Uma diferença nos estados ocultos na quinta casa decimal pode ser suficiente para trocar o expert 7 pelo expert 9 na fronteira de seleção, roteando o token por uma parte completamente diferente do modelo. Como os experts do MoE são grandes e em grande parte não sobrepostos, uma seleção errada de expert produz uma divergência de saída grande, e não pequena — ao contrário de um modelo denso, onde o ruído numérico permanece pequeno ao longo do processamento. ## [26:25] Correção pelo Router Replay A mitigação é o Router Replay: durante a inferência, o modelo registra qual índice de expert ativou para cada token e envia esse inteiro junto com a sequência gerada de volta ao trainer. O trainer então força a mesma seleção de expert em vez de recalculá-la do zero, quebrando a cadeia de amplificação. Junto ao Router Replay, a equipe alinhou os níveis de quantização e as implementações de kernel entre inferência e treinamento para minimizar todas as outras fontes de divergência numérica. > *"Muito desse alinhamento numérico consiste basicamente em truques assim, combinando níveis de quantização, combinando kernels, etc., para reduzir a divergência entre a implementação de treinamento e a de inferência."* — Dmytro Dzhulgakov ## [27:19] Loop de RL em Tempo Real Em paralelo ao loop de rollout simulado, o Cursor roda o que Federico chama de RL em tempo real: sessões reais de usuários em produção alimentam o pipeline de treinamento. Quando um usuário fica satisfeito ou insatisfeito com uma geração do Composer, esse sinal é capturado e uma nova versão do modelo é enviada a cada poucas horas. A equipe trabalha ativamente para encurtar esse ciclo, mas sabe que precisará alongá-lo novamente à medida que os horizontes de rollout crescerem — sessões de agente mais longas demoram mais para avaliar. O loop simulado e o loop em tempo real têm propósitos distintos. A simulação permite ao modelo rodar 16–128 rollouts a partir do mesmo prompt em paralelo (o GRPO loss exige rollouts agrupados), explorar off-policy sem afetar nenhum usuário e inicializar o desempenho antes de o modelo ser bom o suficiente para os usuários reais se interessarem. O RL em tempo real é uma camada de refinamento que só pode operar quando o modelo já atingiu um patamar mínimo de qualidade — usuários que têm uma experiência ruim deixam de gerar sinais de feedback. > *"Não podemos usar isso para criar o modelo do zero, porque os usuários precisam estar usando o modelo. Então ele já tem que ser bom, e só podemos torná-lo melhor."* — Federico Cassano ## [31:49] Agentes de Longo Horizonte À medida que os horizontes de rollout se estendem, dois problemas estruturais surgem. Primeiro, a atribuição de crédito: com uma recompensa única de aprovação ou reprovação no fim de uma sessão de vários minutos, o modelo precisa descobrir qual das 50+ decisões na trajetória gerou o resultado. Isso fica exponencialmente mais difícil conforme a trajetória cresce. Segundo, a janela de contexto se esgota. A solução do Cursor é incorporar a auto-sumarização diretamente no loop de RL sob o nome de "compaction": o modelo aprende, via recompensa de RL, tanto a escrever um resumo útil do seu progresso quando se aproxima do limite de contexto quanto a continuar fielmente a partir desse resumo. O modelo de 200K de contexto opera efetivamente sobre milhões de tokens porque pode reiniciar sua janela e carregar sua memória de trabalho em forma comprimida. > *"Por meio do RL, porque o RL empurra o modelo a fazer as coisas corretamente em direção ao objetivo, ao mesmo tempo, de forma conjunta, estamos treinando o modelo para produzir um bom resumo e então estamos treinando o modelo para ouvir esse resumo com muita atenção."* — Federico Cassano ## [34:29] Por que RL em Todo Lugar Sonya enquadra o RL como uma ferramenta específica para uso de ferramentas agêntico e de longo horizonte. Federico discorda: RL é útil em todo lugar, inclusive para completação de código por aba. Sua teoria: modelos pré-treinados absorveram todo o conhecimento humano, mas não sabem qual persona habitar quando recebem um prompt — especialista, estudante ou algo no meio. A primeira fase do treinamento de RL afina essa distribuição, dizendo ao modelo "você é o especialista, faça isso corretamente". Esse efeito é valioso até para tarefas como sumarização, que não têm um harness interativo. A segunda fase — onde o modelo começa a raciocinar visivelmente e a curva de compute se achata — é onde o sinal específico da tarefa realmente se multiplica. ## [37:34] LLM como Árbitro de Recompensas Quanto mais verificável a recompensa — o código compila, os testes passam, a resposta é numericamente correta — mais compute você pode investir em RL e ainda obter um modelo melhor. O LLM-as-judge preenche a lacuna para tarefas onde a verdade fundamental é difícil de definir, codificando um rubric como prompt e deixando um segundo modelo avaliar a qualidade do rollout. Dmytro observa que isso é especialmente útil para tarefas orientadas a estilo, como sumarização, onde avaliadores humanos têm dificuldade em articular o que significa "bom", mas conseguem avaliá-lo contra critérios explícitos. > *"Em geral, quanto mais verificável for a sua recompensa, melhor, porque isso permite escalar o compute e simplesmente obter resultados melhores."* — Dmytro Dzhulgakov ## [39:14] RL em Domínios Difíceis Para domínios onde a verdade fundamental não pode ser calculada de forma barata — escrita criativa, raciocínio aberto, expertise de domínio — o caminho para um RL melhor é enriquecer o ambiente. Ambientes simulados maiores que capturam mais das métricas de produto permitem levar a avaliação automatizada mais longe. Especialistas continuam sendo necessários, não para julgar rollouts individuais, mas para projetar as tarefas e os rubrics que definem o que a função de recompensa deve otimizar. ## [40:13] Construa Seus Próprios Ambientes O Cursor não usa nenhum fornecedor de ambientes de RL. Para codificação, repositórios do GitHub fornecem um pool virtualmente ilimitado de ambientes funcionais: clone um repo, instale as dependências, dê uma tarefa ao modelo e meça o resultado contra o conjunto de testes. O problema de infraestrutura mais difícil é tornar esses ambientes realistas o suficiente para evitar o tipo de trapaça com que o episódio começou, e rápidos o suficiente para inicializar 100.000 simultaneamente sob demanda. A resposta do Cursor é uma stack de máquinas virtuais personalizada — VMs completas, não containers — que pode escalar instantaneamente para qualquer volume e espelha as máquinas reais dos usuários de forma próxima o suficiente para que o modelo não consiga detectar a diferença. Dmytro enquadra o cenário de fornecedores: laboratórios frontier precisam de ambientes genéricos cobrindo toda tarefa; empresas de produto devem fazer RL contra seu próprio ambiente de produção. O ambiente de treinamento mais poderoso para qualquer modelo é o produto em que ele será de fato utilizado. > *"O ambiente mais poderoso é o seu próprio produto."* — Dmytro Dzhulgakov ## [44:34] Considerações Finais Sonya encerra observando que a trajetória do Cursor — de empresa de aplicação a laboratório de modelos frontier — é o padrão que outras empresas de produto de IA seguirão. Federico agradece ao Fireworks por fornecer a espinha dorsal de infraestrutura que tornou o treinamento viável dentro do orçamento de GPU do Cursor. Dmytro reflete sobre a profundidade de engenharia de sistemas envolvida em um problema que a maioria das pessoas assumia ser puramente algorítmico. ## Entidades - **Federico Cassano** (Pessoa): Líder de pesquisa do Composer 2 no Cursor; conduziu a receita de treinamento e a metodologia de RL. - **Dmytro Dzhulgakov** (Pessoa): Líder de infraestrutura na Fireworks AI; projetou o sistema de treinamento de RL distribuído para o Composer 2. - **Sonya Huang** (Pessoa): Sócia na Sequoia Capital; apresentadora do podcast focado em investimentos em IA. - **Composer 2** (Software): Modelo de codificação agêntica especializado do Cursor, treinado com mid-training e RL em larga escala sobre o MoE Kimi 2.5. - **Fireworks AI** (Organização): Empresa de infraestrutura de serving e inferência de modelos que forneceu a espinha dorsal de GPU distribuída para o treinamento de RL do Composer 2. - **Cursor** (Organização): Empresa de IDE de codificação com IA; treinou o Composer 2 como modelo de fundação especializado para engenharia de software dentro do seu produto. - **Kimi 2.5** (Software): Modelo MoE open-source de 1 trilhão de parâmetros (30B ativos) da Moonshot AI; usado como base para o Composer 2. - **GRPO** (Conceito): Group Relative Policy Optimization — o algoritmo de RL usado para o Composer 2, que exige múltiplos rollouts paralelos a partir do mesmo prompt para calcular o gradiente de política. - **Router Replay** (Conceito): Técnica de alinhamento numérico para MoE em que a inferência registra e repassa as decisões de roteamento de experts ao trainer, evitando que a deriva de ponto flutuante cause divergência nas log-probabilidades. - **Real-Time RL** (Conceito): Loop de feedback de produção do Cursor que captura sinais de satisfação de usuários reais e atualiza o modelo continuamente, entregando uma nova versão a cada poucas horas. - **Delta Compression** (Conceito): Técnica de sincronização de pesos que transmite apenas os parâmetros alterados entre o treinamento e os clusters de inferência distribuídos, reduzindo snapshots de 1 TB para cerca de 50 GB na prática. - **Self-Summarization / Compaction** (Conceito): Capacidade treinada via RL para o agente comprimir seu contexto de trabalho ao se aproximar do limite da janela de contexto, permitindo operação de horizonte efetivamente ilimitado.

Isabella He, engenheira de Applied AI da Anthropic, passa 37 minutos construindo ao vivo um agente SRE de resposta a incidentes — partindo de um `agent.py` em branco até um aplicativo Streamlit que transmite chamadas de ferramentas, persiste sessões e diagnostica um pico de latência P99. A sessão combina cinco minutos de introdução à arquitetura com código prático, para que os participantes saiam com um agente funcionando e o modelo mental necessário para estendê-lo a subagentes, memória e vaults. ## [00:19] Boas-vindas e Agenda Isabella abre situando o time de Applied AI na Anthropic — "a interseção entre produtos, pesquisa e nossos clientes" — e apresenta o arco de três partes da sessão: uma revisão rápida da plataforma, um sprint de codificação prático e uma visão das funcionalidades avançadas como dreaming e subagentes. O cenário motivador é o chamado de plantão às 3 da manhã que todo engenheiro de software teme, e que um agente SRE construído no Managed Agents irá resolver de forma autônoma. > *"Meu objetivo hoje é que todos coloquem a mão na massa e construam em cima do Managed Agents, entendam como o harness funciona por baixo dos panos, e estejam prontos para lançar seu primeiro agente de resposta a incidentes."* ## [02:10] Da Messages API ao Managed Agents Isabella traça a evolução do produto: a Messages API de 2023 deu acesso direto aos tokens, mas deixou para os desenvolvedores o gerenciamento de contexto, os loops de agente e a compactação. O Agent SDK adicionou o alcance ao sistema de arquivos do Claude Code, mas ainda exigia hospedagem própria. O Managed Agents é a terceira geração — a Anthropic cuida de escalabilidade, sandboxing, observabilidade e runtime de ferramentas, para que os times cheguem à produção "10 a 15 vezes mais rápido." Ela ilustra o custo de manutenção com um exemplo concreto: o Sonnet 4.5 apresentava "context anxiety", causando encerramento antecipado de tarefas. A Anthropic corrigiu o harness; o Opus 4.5 eliminou o comportamento por completo, tornando esses patches obsoletos. > *"Os harnesses devem evoluir junto com os agentes — é por isso que, com o Claude Managed Agents, queremos que a Anthropic cuide de toda a complexidade de compactação, caching e context anxiety."* ## [05:55] Primitivos Essenciais: Agent, Environment, Session Três objetos compõem toda aplicação Managed Agents. O **Agent** define a persona — escolha de modelo, system prompt, servidores MCP, skills. O **Environment** é o contêiner de execução, análogo às "mãos" do "cérebro" do agente, e suporta tanto cloud gerenciada pela Anthropic quanto computação própria desde o dia anterior. Uma **Session** une os dois e monta arquivos de dados; eventos (mensagens do usuário, chamadas de ferramentas, respostas) são transmitidos de volta aos chamadores em vez de retornar tokens em uma única resposta. Desacoplar o loop do agente da execução de ferramentas reduziu o P95 de time-to-first-token em mais de 90%, eliminando também a exposição de credenciais pelo isolamento do contêiner sandboxed. > *"Com esse desacoplamento, nossos times viram reduções no time to first token da ordem de mais de 90% de redução no TTFT para nossas métricas de latência P95."* ## [09:15] Configuração do Workshop Os participantes clonam o repositório do workshop, entram em `ship-your-first-managed-agent`, criam um ambiente virtual, instalam as dependências, colam uma Anthropic API key no `.env` e executam `streamlit run app.py`. Isabella confirma que a URL do Streamlit abre uma interface de chat para resposta a incidentes — a tela em branco para a construção. > *"Fiquem à vontade para fazer isso enquanto avançamos ou até mais tarde no seu próprio tempo — tudo também será exibido na tela para acompanhar."* ## [10:48] Construindo o Agente Passo a Passo Trabalhando com o `agent.py` (incompleto) aberto ao lado do `agent_complete.py`, Isabella copia seis blocos de código um a um: 1. **Definição do Agent** — `SRE_AGENT` usando Claude Opus 4.7, um system prompt mínimo nomeando o papel do agente e as ferramentas disponíveis (get_metrics, get_recent_deploys, get_diff, fetch_logs). 2. **Environment** — ambiente cloud da Anthropic com rede irrestrita para o demo; variantes de produção podem restringir a uma lista de permissões ou rotear via tunnels MCP do Claude. 3. **Upload de logs** — anexa um arquivo de log via Files API para que o agente possa executar código sobre ele; Isabella destaca o context engineering como onde os desenvolvedores passam mais tempo iterando. 4. **Criação da Session** — passa `agent_id`, `environment_id` e referências de recursos enviados para unir tudo. 5. **Event streaming** — recebe eventos (não tokens brutos) de volta da sessão, permitindo exibição em tempo real e registro de observabilidade. 6. **Ferramentas locais + exclusão de sessão** — registra `get_metrics`, `get_recent_deploys` e `get_diff` como handlers executados localmente, e adiciona uma chamada de exclusão de sessão com a observação de que sessões excluídas são completamente removidas dos logs. > *"O que falta aqui é simplesmente dar ao agente nossas ferramentas locais para que ele possa começar a agir aqui no meu computador ou na minha infraestrutura."* ## [19:43] Executando o Agente e Demo ao Vivo Isabella inicia uma nova sessão com o prompt "debug my incident for me." O agente chama `sandbox_bash`, `get_recent_deploys` e `get_diff` em sequência, transmite cada chamada de ferramenta e token de resposta para a interface, e devolve um relatório de incidente estruturado: o pico de latência P99 (10x a baseline) rastreia até um esgotamento do pool de banco de dados introduzido pelo commit `refactor_order_summary_builder` de Alice. Ela observa que uma variante de produção adicionaria acesso ao Claude Code para sugerir uma correção, abrir um PR e fechar o ciclo sem um humano no caminho crítico. Uma atualização forçada do navegador confirma a persistência da sessão — todas as sessões anteriores reaparecem do estado na cloud, sem banco de dados local necessário. > *"Você pode ver que, se percorrermos todas as chamadas de ferramentas, tudo está persistido na cloud do ponto de vista de logs. Tudo isso também será registrado no console de observabilidade."* ## [27:18] Recapitulação da Arquitetura, Funcionalidades Avançadas e P&R Isabella recapitula a arquitetura orientada a eventos: as sessões falam em eventos, não em pares de requisição-resposta; o log de eventos permite que o Managed Agents retome uma sessão após uma reinicialização de contêiner sem repetir o loop do agente. Em seguida, ela apresenta quatro capacidades premium: - **Subagentes** — um orquestrador cria agentes filhos com suas próprias janelas de contexto para paralelismo e gerenciamento de orçamento de contexto. - **Memory / Dreaming** — o agente revisa seus próprios logs de sessão para decidir o que reter, possibilitando autoaperfeiçoamento e recall de preferências entre sessões. - **Outcomes** — os desenvolvedores definem um critério; o agente determina quais chamadas de ferramentas produzem o resultado desejado. - **Vaults** — credenciais criptografadas entre um endpoint separado e o contêiner do agente, por usuário e por sessão, apoiadas na separação cérebro/mãos da arquitetura. Ela encerra direcionando os participantes para a sessão seguinte sobre "dreaming" e o dashboard de observabilidade integrado no console do Managed Agents. > *"Espero que todos saiam daqui com um modelo mental de como o Managed Agents realmente funciona por baixo dos panos — e se orgulhem de todos que conseguiram lançar um agente de confiabilidade de site."* ## Entidades - **Isabella He** (Pessoa): Membro do Quadro Técnico, time de Applied AI da Anthropic; apresentadora e líder do workshop - **Claude Managed Agents** (Software): Infraestrutura gerenciada da Anthropic para agentes prontos para produção; cuida de escalabilidade, sandboxing, observabilidade e runtime de ferramentas - **Agent SDK** (Software): Harness anterior da Anthropic com acesso ao Claude Code; exigia hospedagem gerenciada pelo desenvolvedor - **Claude Opus 4.7** (Software): Modelo usado para o agente SRE no demo do workshop - **Sonnet 4.5** (Software): Modelo anterior que apresentava "context anxiety" (encerramento prematuro de tarefas), usado para ilustrar por que os harnesses devem evoluir com os modelos - **Files API** (Software): API da Anthropic para envio de arquivos (logs, métricas) ao contexto de um agente - **Dreaming** (Conceito): Funcionalidade do Managed Agents em que o agente revisa de forma assíncrona seu próprio histórico de sessão para atualizar a memória de longo prazo - **Outcomes** (Conceito): Especificação de metas baseada em critérios no Managed Agents; o agente seleciona chamadas de ferramentas para atingir um resultado definido, sem seguir etapas explícitas - **Vaults** (Conceito): Armazenamento criptografado de credenciais no Managed Agents; desacoplado do contêiner do agente via arquitetura cérebro/mãos - **MCP tunnels** (Conceito): Funcionalidade do Claude para roteamento de tráfego de servidores MCP por uma rede privada em vez da internet pública - **Context anxiety** (Conceito): Comportamento observado no Sonnet 4.5 de encerrar tarefas antes do tempo apesar do orçamento de contexto disponível; resolvido no Opus 4.5 - **Anthropic** (Organização): Empresa de segurança em IA; criadora do Claude e da plataforma Managed Agents - **DataDog** (Software): Plataforma de monitoramento de produção citada como substituto direto para a ferramenta de métricas baseada em JSON do demo - **Streamlit** (Software): Framework de UI em Python usado para construir a interface de chat de resposta a incidentes do workshop

O capitão do Manchester United Bruno Fernandes senta-se com Steven Bartlett em Carrington para responder diretamente à polémica com Roy Keane, explicar por que recusou uma oferta reportada de £200 milhões para sair do clube e traçar os valores — que o pai lhe incutiu no Porto — que o tornaram num dos jogadores mais consistentes da história da Premier League. Ao longo de 90 minutos, a conversa percorre a infância humilde e o futebol sem medo dos primeiros anos, passando pela forma como lê os treinadores, lidera um balneário e o que significaria ganhar o Mundial com Portugal mais do que qualquer título de clube. ## [00:00] Introdução O episódio abre com um excerto retirado de mais tarde na conversa — Bruno a responder às críticas de Roy Keane e à sua recusa da oferta de £200M — antes de Steven contextualizar a cena no centro de treinos do Manchester United. Apresenta Bruno como o melhor jogador do clube no pós-Ferguson: nenhum jogador da Premier League tem mais assistências desde a sua chegada, marcou 108 golos em 328 jogos e venceu o prémio Sir Matt Busby Player of the Year um recorde de cinco vezes. ## [01:38] O Que Moldou Bruno Fernandes? Steven pede a Bruno que comece do princípio: qual é a coisa mais antiga que precisa de perceber sobre as origens de Bruno? A resposta é imediata — a família e os valores que os pais lhe transmitiram. Descreve a sua infância no Porto como o alicerce de quem se tornou, tanto como jogador como como pessoa. > *"Os valores da minha família, os valores dos meus pais foram o que me fez ser a pessoa e o jogador que sou hoje."* ## [02:33] Como Bruno Aprendeu a Mentalidade Vencedora com o Pai O pai de Bruno não era de abraços nem de palavras de afeto — mostrava o amor através do comportamento, modelando o sacrifício e os padrões mais exigentes. Depois de um jogo em que Bruno marcava dois ou três golos, o pai salientava os maus momentos, não os bons. Nunca quis que Bruno fosse futebolista especificamente; queria que ele fizesse o que escolhesse a 100%. Tirar 98 numa prova era bom, mas deixava sempre 2% por fazer. Essa lógica — há sempre algo a melhorar — é ainda hoje a forma como Bruno processa as críticas de Roy Keane ou de quem quer que seja: não o magoam, porque foi ensinado a ouvi-las desde os cinco anos. > *"Aprendi tão cedo a lidar com as críticas que estou agora provavelmente num dos maiores clubes em termos de atenção e crítica. Isso não me magoa."* ## [05:47] Por Que Bruno Já Era Diferente aos 5 Anos Na primeira sessão de treino no FC Infesta, Bruno foi imediatamente integrado no grupo dos sete anos. Não era o mais rápido, o mais alto nem o mais tecnicamente dotado — mas não tinha medo de nada. Treinava contra o irmão, cinco anos mais velho, e encarava isso como normal. Os árbitros chegavam a pedir ao treinador que o substituísse porque entrava a travar sem qualquer respeito por tamanho ou idade. Bruno atribui essa coragem à qualidade que o fez melhorar sempre: nunca se satisfazia em ser o melhor num grupo mais fraco, empurrava-se sempre para a competição mais dura. > *"Não tinha medo de nada. Tinha de correr com alguém mais rápido do que eu. Vou correr com ele — posso não o apanhar, mas vou chegar perto."* ## [08:40] Como Francesco Guidolin Ajudou a Moldar a Carreira de Bruno Aos 18 anos, Bruno mudou-se para Itália e esteve a horas de ser cedido por empréstimo ao Watford — o Udinese quase desistira dele antes de o diretor desportivo ligar a dizer que o treinador queria que ficasse. Esse treinador era Francesco Guidolin, que disse diretamente a Bruno: comprámos-te porque vimos as tuas qualidades na segunda divisão. Fica calmo, aprende e confia no processo. Guidolin tornou-se uma figura paterna para todo o plantel, ajudando Bruno a perceber a distância entre a autopercepção de um jogador e o processo de decisão de um treinador. A lição ficou: Bruno nunca foi falar com um treinador para se queixar de uma posição ou de um esquema tático — coloca-se disponível para o que for pedido e deixa os resultados falarem por si. > *"Era como uma figura paterna. Mostrava sempre que cada jogador era importante para ele. Isso tornou-me muito mais completo na compreensão do processo pelo qual os treinadores passam."* ## [12:04] O Que Bruno Realmente Sonhava aos 18 Anos Assim que se tornou profissional, o objetivo de Bruno era claro: grandes clubes, Liga dos Campeões, títulos, jogar ao lado dos jogadores que via crescer. Steven pergunta se realmente acreditava que conseguiria chegar lá. Bruno diz que nunca duvidou — nem uma vez. ## [12:30] Por Que o Tottenham Quase Contratou Bruno Aos 22 anos, depois de uma época de estreia no Sporting com 20 golos e 13 assistências, o Tottenham e Bruno chegaram a acordo. O Sporting recuou no último dia do mercado de transferências. Bruno queria ir — a Premier League era sempre o seu objetivo — e ficou desapontado quando o negócio caiu. Depois, em janeiro, o seu agente ligou com algo maior. ## [14:09] O Momento em Que Bruno Soube Que o Manchester United o Queria Bruno estava no seu quarto a preparar-se para dormir quando o agente Miguel ligou. Tinha dito a Miguel que não dissesse nada até o negócio estar 95% fechado, em parte porque a situação com o Tottenham já lhe ensinara a não deixar a especulação de transferências afetar o seu foco. Quando Miguel disse "este é aquele que estavas à espera", Bruno ficou paralisado — e começou a chorar. A mulher entrou, viu-o a chorar e ouviu Miguel ainda em linha. Bruno ligou de volta e disse ao agente para não negociar mais nada: apenas dizer que sim. Ver o clube perder contra o Burnley nos dias antes de assinar não o demoveu — via potencial que os resultados ainda não mostravam. > *"Diz-lhes que vou. É aqui que eu queria estar. É 100% do sonho cumprido."* ## [22:15] Como a Cultura do Futebol Mudou Dentro do Jogo Steven partilha a sua observação de que a cultura em Carrington parece hoje fundamentalmente diferente dos anos em que o caráter era um fator secundário no recrutamento. Bruno confirma o diagnóstico e aponta a causa raiz: demasiados treinadores em rápida sucessão, cada um a contratar jogadores para o seu sistema, deixando um plantel que não servia ninguém quando o treinador seguinte chegava. A sua receita: recrutar primeiro para o Manchester United, depois encontrar um treinador que se adapte a esses jogadores — não ao contrário. Apoia-se no City de Guardiola como modelo: jogadores escolhidos em parceria entre clube e treinador, construídos para durar além de qualquer mandato. O caráter, defende Bruno, dura mais do que a qualidade — a forma de um jogador oscila, mas a sua atitude numa má fase determina se o balneário aguenta ou fractura. Conta ainda que a sua insistência em tratar toda a gente da mesma forma — fisioterapeutas, seguranças, funcionários do restaurante, pessoal de limpeza — vem da mãe, que limpava casas para viver. > *"O caráter num clube de futebol é mais importante do que a qualidade, porque a qualidade pode sempre conseguir-se e melhorar-se."* ## [32:38] As Redes Sociais e a Interação dos Futebolistas O desaparecimento da polémica nas redes sociais do plantel do United esta época é, para Steven, um dos sinais culturais mais claros. Bruno diz que o clube tem de ser firme quando algo parece errado — mas a sua abordagem começou antes: desde o primeiro dia como profissional, disse aos pais, ao irmão e à irmã para não publicarem nem responderem a nada sobre ele sem a sua autorização. A mãe sofre quando lê críticas online. A instrução que lhe deu: reza, não respondas. ## [35:36] Por Que Bruno Acredita Que Todo o Treinador Merece Apoio Com Ole, Carrick, Rangnick, Ten Hag, Amorim e novamente Carrick, a postura pública de Bruno perante cada treinador foi sempre a mesma. Explica o porquê: cada treinador pediu-lhe coisas diferentes, o que significa que cada um acreditou que ele conseguia fazer coisas que ainda não fizera. O seu trabalho é tornar impossível que qualquer treinador pense "não vou jogar o Bruno". Se a abordagem do treinador não funcionar, é um problema do treinador para resolver — Bruno não vai às suas costas pressionar por uma mudança. > *"O que não vou dar aos treinadores é a escolha ou a opção de pensarem que não vão jogar o Bruno."* ## [37:15] O Que Realmente Faz um Grande Treinador de Futebol Na opinião de Bruno: um bom treinador não trata as estrelas de forma diferente dos jogadores do plantel em termos de exigência, mas aborda cada jogador de forma diferente enquanto indivíduo — porque não há duas pessoas que respondam da mesma forma ao mesmo estímulo. Padrões uniformes, entrega personalizada. ## [37:54] Como Bruno Trata os Jogadores Como capitão, Bruno grita com toda a gente — e fá-lo precisamente porque acredita nelas. Disse o mesmo a muitos jogadores: o dia em que parar de gritar contigo é o dia em que deixei de acreditar que podes melhorar. Elogia quando genuinamente acha que o elogio vai desbloquear o próximo nível, e exige quando sabe que há mais a dar. O pai aplicou-lhe o mesmo cálculo durante vinte anos. > *"Acredita em mim — o dia em que deixar de gritar contigo é porque já não acredito em ti e já não acredito que podes melhorar."* ## [39:56] O Que Acontece no Balneário Durante as Más Fases Quando um treinador está sob pressão, Bruno diz que os jogadores sentem-no mais por causa do treinador — e os que estão a jogar sentem-no de forma mais aguda, porque sabem o que uma mudança de treinador significa: recomeçar do zero. Bruno não perdeu a esperança depois de tantos recomeços porque volta a algo interior em cada pré-época: ainda acredita em si próprio e sabe que, se fizer as coisas bem e arrastar os outros consigo, a equipa ainda tem hipótese. Refere que a mudança de treinador esta época não foi motivada pela tabela classificativa — o United estava perto do topo — mas porque a confiança entre o clube e o treinador se tinha quebrado. ## [43:07] A Grande Mudança Que Michael Trouxe ao Manchester United A contribuição central de Michael Carrick, segundo Bruno, é a calma e a responsabilidade dos jogadores. Dá princípios — como pressionar, onde estão os espaços, quais são as regras inegociáveis — e depois confia nos jogadores para lerem o jogo quando esses princípios se quebram a meio do encontro, porque 90 minutos contêm coisas que nenhum vídeo pré-jogo consegue prever. Bruno cita o golo contra o Nottingham Forest — um lance que visualizaram a partir do jogo do Villa contra o Forest, ensaiaram no treino e executaram quando o momento surgiu ao vivo — como a ilustração mais clara de como a preparação de Carrick funciona na prática. > *"Ele dá-te a base, o alicerce, certas regras que são inegociáveis. Mas também quer que assumamos responsabilidade durante o jogo — porque ele não pode dizer-me onde passar ou onde rematar."* ## [48:23] Por Que Bruno Acha Que Arriscar É Essencial A filosofia de risco de Bruno é puramente posicional: o trabalho de um número dez é arriscar para criar golos. Pode errar dois passes em profundidade e acertar no terceiro — se esse terceiro se transformar em golo, a matemática favorece a equipa. Joga ao lado de Kobbie Mainoo e Casemiro, que arriscam muito menos por jogo, precisamente porque a divisão posicional assim o exige. Quando Ten Hag lhe mostrou um quadro com as suas taxas de finalização por zona — mais eficaz pela esquerda, menos de longa distância pelo pé mais fraco — Bruno absorveu a informação e ajustou os ângulos de remate. > *"Acho que é sempre risco-recompensa. É preciso perceber quanta recompensa se vai obter desse risco e se arriscar é bom para a equipa."* ## [52:44] Publicidade Segmento de patrocinadores: LinkedIn Ads, Bon Charge red-light toothbrush, Vanta compliance platform. ## [55:01] A Posição Que Bruno Mais Gosta de Jogar No relvado de Carrington, Bruno desenha um quadrado no centro-esquerda do terço ofensivo — entre as linhas, suficientemente perto para receber, suficientemente longe para fazer estrago. Com Ole, era o clássico número dez. Com Amorim, muitas vezes médio esquerdo a apoiar a construção. Com Ten Hag, por vezes número seis ao lado de Mainoo. Seja qual for a posição, as suas regras inegociáveis mantêm-se: empenho, corrida, luta, espírito de equipa. > *"A corrida, a luta e o espírito de equipa não podem nunca falhar."* ## [58:58] Bruno Nunca Parece Cansar Bruno atribui o mérito à genética — e acrescenta logo a seguir o que controla: treina a 100% em cada sessão e só para quando se sente verdadeiramente cansado. Se a sessão termina e não está cansado, fica a rematar ou a cruzar, precisamente porque quer praticar as capacidades que usa nos últimos vinte minutos dos jogos num estado de fadiga. > *"É preciso treinar o corpo e o cérebro quando estão cansados. O corpo habitua-se ao cansaço e sabe como reagir nesse momento."* ## [01:00:31] O Que Ser Capitão do Manchester United Realmente Significa para Bruno Ten Hag chamou Bruno ao seu gabinete e perguntou — não ordenou — se queria a braçadeira de capitão. O primeiro pensamento de Bruno foi de gratidão; o segundo foi Harry Maguire. Antes de dizer que sim, saiu do gabinete para falar com Harry, que já sabia. Harry disse-lhe: se alguém merece, és tu. Bruno respondeu que perder a braçadeira não mudava nada — continuava a ser um dos líderes e a participar em todas as decisões importantes que Bruno toma como capitão. Esta época: 34 jogos, 8 golos, 20 assistências, 12 prémios de melhor em campo (o mais na Premier League) e um quinto Sir Matt Busby Player of the Year votado pelos adeptos. ## [01:03:44] Por Que Esta Época é Diferente para Bruno O recorde de assistências — igualar a marca de Kevin De Bruyne e Thierry Henry de 20 assistências numa única época na Premier League — atraiu mais atenção do que qualquer época anterior. Bruno diz que só começou a pensar nisso perto das 16 ou 17 assistências; antes disso não estava na sua cabeça, porque o seu objetivo é sempre melhorar os números da época anterior. A polémica com Roy Keane enquadra-se aqui. Keane acusou Bruno de andar atrás do recorde de assistências depois de alegadamente o ouvir dizer "devia ter rematado, mas fiz o passe". O relato de Bruno sobre o que disse é o oposto: estava a autocriticar-se porque devia ter passado a um colega melhor posicionado em vez de rematar. Classificou o que Keane fez como uma mentira — não uma opinião com a qual discorda, mas uma representação factualmente errada de algo dito em público. Pediu a Ole Gunnar Solskjær o número de Keane para falar com ele diretamente. > *"O que não gosto é quando as pessoas mentem sobre as coisas. Pode criticar-me, destruir-me, dizer que não sou suficientemente bom. Tudo bem. O que não gosto é que coloque palavras na minha boca que nunca foram ditas."* ## [01:10:33] As Mensagens de Voz Emocionantes Que Bruno Recebeu dos Colegas Steven enviou mensagens aos colegas de equipa de Bruno na noite anterior a pedir-lhes que gravassem notas de voz. Vários responderam — entre eles Diego Dalot, Luke Shaw, Tom Heaton, e um clip pré-gravado de um colega. Bruno identifica as vozes e diz que o que mais o toca não é o que disseram sobre ele como jogador, mas o que disseram sobre ele como pessoa — que os valores que os pais lhe deram no Porto são visíveis nas pessoas com quem trabalha todos os dias. > *"O que mais me marca é a forma como falam de mim como pessoa, e não como jogador."* ## [01:14:31] Por Que Ser Humano Importa Mais do Que o Futebol para Bruno Bruno vê os colegas de equipa mais vezes do que os amigos de Portugal, ou mesmo os pais. As pessoas com quem treina tornaram-se parte do seu dia a dia, o que significa que a forma como se comporta com elas importa tanto como a forma como joga. Quando as notas de voz se centram no seu caráter e não no seu futebol, isso diz-lhe que aquilo que a mãe e o pai mais valorizavam continua intacto. > *"Sou um tipo sensível. Não parece em campo, mas sou bastante sensível."* ## [01:15:54] Publicidade Segmento de patrocinadores: Vanta compliance platform, Diary of a CEO conversation cards. ## [01:18:56] Por Que Bruno Recusou Grandes Ofertas para Sair do Manchester United Uma oferta reportada de £200 milhões proveniente do Médio Oriente chegou durante a digressão de pré-época em Hong Kong. Bruno ligou à mulher por cima de um fuso horário. A pergunta dela: já alcançaste tudo o que querias alcançar aqui? A resposta era não — ainda não ganhou a Premier League nem a Liga dos Campeões com o United. Foi essa a conversa. Enquadra a decisão não como sentimentalismo, mas como negócios inacabados, e atribui todo o mérito à mulher, que aos 16 anos aceitou acompanhar um Bruno adolescente para Itália com um contrato de 1.500 euros por mês e sem garantias nenhumas. Ela tem tido voz em todas as grandes decisões de carreira desde então. > *"Ainda não cumpri os meus sonhos aqui. Ainda temos sonhos para cumprir."* ## [01:22:32] A Importância da Família para Bruno Bruno emociona-se ao falar da mulher e dos dois filhos — uma filha nascida em Itália e um filho nascido em Inglaterra. Descreve a mulher como a segunda versão do pai: puxa-o abaixo quando vai alto demais, lembra-lhe que há sempre algo a melhorar e raramente mostra os sentimentos. A sua celebração de golo — tapar os ouvidos — foi copiada da filha, que o fazia em pequena. Fala ainda da estrutura que o Ineos trouxe ao clube: linhas de comunicação mais claras entre jogadores e administração. Deixa claro que quer que Michael Carrick tenha tempo, porque a única coisa que o United consistentemente não deu aos seus treinadores é estabilidade. > *"Passam por muito — altos e baixos, momentos difíceis — mas estão sempre ao teu lado. É a coisa mais importante que se pode ter na vida."* ## [01:30:30] O Que Tem de Mudar para o United Voltar a Lutar por Títulos Bruno aponta o recrutamento como a variável-chave para o verão. A saída de Casemiro precisa de ser colmatada, mas a prioridade não é o nome mais caro disponível — é o caráter certo. O modelo do verão anterior — a temporada de revelação de Amad Diallo, a chegada de Patrick Dorgu — mostra o que acontece quando se contratam bons profissionais com bom caráter: o plantel fica mais forte sem precisar de uma estrela para disfarçar as fragilidades. ## [01:31:42] A Definição de Sucesso de Bruno Daqui a Cinco Anos A pergunta de encerramento, deixada pelo convidado anterior do podcast: se daqui a cinco anos tudo correu bem, o que aconteceu? A resposta de Bruno: título da Premier League, Liga dos Campeões e um Mundial com Portugal — por essa ordem de emoção, se não de dificuldade. Ganhar com o clube seria extraordinário. Ganhar pelo país seria o maior feito da sua carreira, porque representa a família, a nação, um país pequeno que conquistou o mundo muitas vezes de formas diferentes. > *"Representar a minha nação será sempre a maior conquista da minha carreira — porque não são muitos os jogadores que chegam a isso."* ## Entidades - **Bruno Fernandes** (Pessoa): Capitão do Manchester United e internacional português; 108 golos em 328 jogos pelo United desde 2020; igualou o recorde de assistências numa única época da Premier League (20) esta época; cinco vezes Sir Matt Busby Player of the Year - **Steven Bartlett** (Pessoa): Apresentador de The Diary of a CEO; adepto do Manchester United; empresário e investidor - **Roy Keane** (Pessoa): Ex-capitão do Manchester United e comentador televisivo; acusou Bruno de andar atrás do recorde de assistências com base numa citação que Bruno diz ser o oposto do que disse - **Michael Carrick** (Pessoa): Treinador do Manchester United (confirmado em definitivo no dia da gravação); ex-médio do United com Sir Alex Ferguson; trouxe calma e autonomia aos jogadores no balneário - **Francesco Guidolin** (Pessoa): Treinador de Bruno no Udinese aos 18 anos; impediu que Bruno fosse cedido por empréstimo ao Watford; descrito como uma figura paterna que deu a Bruno a confiança para se expressar ao mais alto nível - **Harry Maguire** (Pessoa): Ex-capitão do Manchester United; Bruno foi falar com ele antes de aceitar a braçadeira e diz que Maguire continua a ser um dos seus líderes-chave no balneário - **Manchester United** (Organização): Clube inglês da Premier League; Bruno chegou em janeiro de 2020 e manteve-se como capitão apesar de várias mudanças de treinador e de várias grandes ofertas financeiras para sair - **Sporting CP** (Organização): Clube português onde Bruno marcou 20 golos e deu 13 assistências na sua época final; descrita como o período em que se tornou na melhor versão de si próprio como jogador - **Ineos** (Organização): Grupo de investimento que adquiriu uma participação no Manchester United; reconhecido por Bruno por ter melhorado a estrutura do clube e a comunicação entre jogadores e administração - **Cálculo risco-recompensa** (Conceito): O modelo de decisão de Bruno em campo — um passe em profundidade que falha duas vezes mas resulta à terceira para criar um golo é a jogada certa para um número dez - **Caráter acima da qualidade** (Conceito): O argumento central de Bruno sobre os erros de recrutamento do United — a qualidade oscila de época para época, o caráter não, pelo que se deve recrutar primeiro pelo caráter

Dan Shipper, cofundador e CEO da Every, volta para apresentar 12 previsões contrárias sobre IA e trabalho — a maioria delas rebatendo o pânico generalizado. Seu argumento central: a automação não encolhe as cargas de trabalho, ela as reestrutura; Codex e Claude Code estão se tornando o novo sistema operacional para o trabalho do conhecimento; o apocalipse do SaaS é ficção; e a única habilidade de sobrevivência que você realmente precisa é a disposição de surfar os modelos conforme eles melhoram. A empresa de 30 pessoas da Every funciona como experimento vivo dessa tese, o que coloca Dan numa posição incomum para dizer se as previsões se sustentam. ## [00:00] Introdução a Dan Shipper Lenny abre lembrando a aparição anterior de Dan, quando ele fez uma previsão "quase casual" de que as pessoas estavam subestimando o Claude Code para trabalho não técnico — uma aposta que se mostrou "incrivelmente certa". O retorno de Dan gira em torno de mais doze previsões, e ele vai direto ao ponto: > *"O apocalipse de empregos com IA não é bem uma realidade."* ## [02:56] A posição privilegiada de Dan vivendo no futuro da IA Dan explica por que a Every funciona como laboratório de sinais antecipados: cada funcionário — editores, operações, financeiro — usa IA diariamente, o que dá à empresa uma vantagem sobre como os próximos doze meses vão parecer na prática. Ele contrasta isso com a visão da "bolha de São Francisco", argumentando que a verdadeira fronteira da adoção de IA está onde a IA encontra um especialista de domínio fazendo trabalho real, não onde a IA está sendo construída. > *"O limite da IA está onde a IA encontra um ser humano real fazendo algo."* ## [09:17] Como a forma de trabalhar vai mudar no próximo ano Lenny organiza três grupos de previsões: como trabalhamos, a forma do trabalho em si e quem prospera. A primeira aposta de Dan é que todo o trabalho profissional vai convergir para uma única superfície — seja Codex ou Claude Code — funcionando como um parceiro de trabalho paralelo que acompanha o que você está fazendo, cuida de pesquisas, redige e-mails e inicia tarefas longas enquanto você permanece no seu documento principal. Ele já está há dez dias consecutivos com inbox zero porque Codex e a Cora, agente de e-mail da Every, cuidam da correspondência. > *"Sinto que tenho um parceiro de trabalho paralelo que não só responde e escreve no documento, mas também sai para fazer pesquisas."* ## [16:39] O argumento pelos agentes gerais Dan prevê que toda empresa terá um "super-agente" vivendo dentro do Slack com o qual todos os funcionários interagem diariamente — um assistente de propósito geral com acesso ao contexto da empresa, não um bot restrito a tarefas específicas. Esse agente se torna a camada de memória organizacional, roteando perguntas, trazendo dados à tona e preenchendo lacunas entre equipes que nem sabem que precisam conversar entre si. ## [18:08] Codex e Claude Code como o novo sistema operacional do trabalho O avanço do Claude Code foi colocar um agente capaz diretamente no seu computador, dando a ele acesso ao terminal e — fundamentalmente — ao navegador. A Anthropic descobriu o paradigma primeiro; a OpenAI alcançou na versão 5.3 e depois acelerou. O driver diário atual de Dan é o Codex, que ele roda de forma persistente junto ao seu aplicativo de escrita Proof — o agente observa o navegador, lê qualquer página aberta e age por conta própria sem precisar trocar de contexto. > *"Quem quer que esteja na liderança, fica muito óbvio para mim que todo o trabalho que você faz vai estar em uma dessas superfícies."* O modelo de "traga seus próprios tokens de IA para um produto SaaS" reformula a economia: o produto SaaS não paga pela inferência, o usuário paga, o que restaura as margens e elimina a pressão de construir uma camada de IA proprietária do zero. ## [25:39] Onde o Cursor se encaixa O Cursor domina os fluxos de trabalho de programação hoje, mas Dan o vê numa encruzilhada estratégica: continuar sendo puramente um IDE de programação ou evoluir para a superfície agêntica de propósito geral. Manter o foco estreito preserva a clareza do produto; ampliar o escopo significa competir diretamente com Codex e Claude Code. A previsão dele é que o vencedor da categoria será a superfície que lidar tanto com código quanto com trabalho de conhecimento geral num só lugar. ## [27:42] Como isso muda o que as empresas de SaaS devem construir Produtos SaaS precisam agora ser legíveis por agentes, não apenas por humanos — HTML limpo, boas interfaces CLI e design que exponha informações para consumo automatizado. Dan cita o Proof: como o Codex observa a página, pequenos problemas são corrigidos quase imediatamente, fechando o ciclo entre "encontrei um problema" e "está resolvido". > *"Dá para ver os primeiros sinais desse ciclo muito rápido: encontrei um problema, um pequeno incômodo, e consigo corrigi-lo ali mesmo."* ## [31:13] Por que o CLI já acabou A era do CLI foi acelerada. A onda foi: GUI, depois CLI como movimento de power users, depois agentes que substituem o CLI por completo. Quando seu agente consegue operar qualquer interface lendo a tela, o motivo de viver no terminal desaparece. A previsão de Dan é direta: > *"Os CLIs acabaram. A gente acelerou a era do CLI."* ## [33:34] Dois agentes são melhores que um Dan contesta o maximalismo de agente único. O padrão que está surgindo são agentes especializados — um para programação, um para e-mail, um para dados — que conversam entre si em nome do usuário. Quando algo quebra num aplicativo, o Codex pode falar diretamente com o agente do fornecedor para diagnosticar o problema sem abrir um ticket de suporte. O paradigma muda quando você assume que todo mundo tem um agente e que os agentes podem negociar entre si. ## [36:22] Por que Dan é otimista com ações de SaaS A narrativa de "SaaS está morto" ignora como a economia realmente funciona quando os agentes impulsionam o uso. Quando os usuários trazem seus próprios tokens de IA para um produto SaaS, os custos de inferência do fornecedor caem para próximo de zero. A posição contrária de Dan: > *"Eu compraria ações de SaaS agora mesmo."* Empresas de SaaS que tornam seus produtos amigáveis a agentes não são desintermediadas — elas ganham vento favorável nas margens. ## [39:01] Por que a automação não reduz o trabalho humano Esta é a tese intelectual central do episódio. Dan argumenta que cada camada de automação exige um gestor humano acima dela para verificar se está funcionando corretamente. Ele construiu seu próprio benchmark — o "benchmark do engenheiro sênior" — pedindo a dois engenheiros sênior reais que reescrevessem de forma independente seu aplicativo Proof, construído por vibe coding, do zero, e então testando cada novo modelo em relação a essas soluções de referência. Os modelos pontuavam 30/100 até o GPT-5.5, que saltou para 60/100. A lacuna revela algo importante: os modelos corrigem o que você manda corrigir. Um engenheiro humano sênior olha para a base de código, decide que ela precisa de uma reescrita completa e diz isso sem ser solicitado — os modelos não surfaceiam esse julgamento por conta própria. Há sempre um nível acima que exige um humano para articular. > *"Toda vez que você automatiza algo, para garantir que a automação esteja funcionando bem, você precisa de um humano acima verificando se está funcionando bem."* ## [47:00] O valor do código escrito por humanos O código escrito por humanos ainda serve como sinal de referência que permite pontuar a saída dos modelos. O benchmark de Dan depende de duas reescritas feitas por humanos como verdade fundamental. À medida que o código gerado por IA se torna o padrão, o corpus escrito por humanos fica mais escasso e mais valioso — é ele que permite saber se a IA está realmente melhorando. ## [48:36] Recapitulação rápida Lenny resume o primeiro grupo de previsões: o trabalho acontece dentro do Codex ou do Claude Code; toda empresa ganha um super-agente no Slack; trazer seus próprios tokens restaura as margens do SaaS; os CLIs acabaram; dois agentes especializados superam um generalista; a automação expande a carga de trabalho humana em vez de reduzi-la. ## [50:15] Como o trabalho está mudando O segundo grupo cobre a forma do trabalho em si. A visão de Dan: engenheiros com atuação direta no cliente se tornam a contratação mais valiosa — pessoas que conseguem sentar com um cliente, entender seu fluxo de trabalho e construir e entregar uma solução na mesma reunião. O conceito de "economia de alocação" do seu ensaio anterior se aplica aqui: os humanos passam de produtores diretos a alocadores de capacidade de IA, e alocar bem exige seu próprio esforço cognitivo. > *"Sou simultaneamente muito cheio de IA e muito otimista com os humanos e o papel deles em garantir que a IA esteja produzindo coisas que valem a pena produzir."* ## [56:17] Por que cientistas de dados estão afogados em análises ruins As equipes de ciência de dados estão sendo inundadas com análises geradas por IA vindas de todo o resto da empresa — análises que parecem plausíveis, mas frequentemente estão erradas. O trabalho do cientista de dados sênior passa de produzir análises para auditá-las, o que é mais difícil e exige mais esforço cognitivo. A mesma dinâmica atinge a engenharia: as solicitações de nível júnior são tratadas pelos modelos, trazendo à tona mais casos extremos que exigem julgamento mais profundo para resolver. > *"Você precisa de pessoas mais seniores lidando com as questões mais profundas, que são mais difíceis de resolver para a equipe que está lidando com todos os pedidos básicos."* ## [58:24] Quais funções de produto e tecnologia mudam menos com a IA A resposta de Dan: as funções cujo resultado é mais difícil de formular como um prompt. Ele distingue entre "babysitting de agentes" — observar passivamente em busca de erros — e "engenharia com atuação no cliente" — construir ativamente sistemas que permitem a todos fazer o que antes exigia especialistas. É nessa segunda que vive o trabalho interessante e difícil de automatizar. ## [62:17] Leremos muito mais conteúdo gerado por IA e vamos gostar A Every usa agentes do Notion para planejamento trimestral — o relatório de estratégia de cada equipe é gerado por IA, e o que Dan recebe de volta é melhor do que o planejamento manual produzia. Seu e-mail é escrito principalmente pelo GPT-5.5. O teste dele para saber se um conteúdo escrito por IA é aceitável: o remetente precisou entender o conteúdo para direcionar a IA? Se sim, tudo bem. Se o remetente claramente não leu, isso viola um contrato social. > *"O lixo é quando levou menos tempo para a pessoa criar do que leva para mim ler."* Ele também publica guias da Every escritos com coautores agentes, explicitamente projetados para serem lidos tanto por humanos quanto por outros agentes — um novo formato de conteúdo otimizado para consumo duplo. ## [68:28] Por que os PMs vão dominar a era da IA Dan cita Marcus, PM interno da Every que gerencia o produto Spiral, como arquétipo: forte senso de produto, capaz de direcionar a IA para construir e iterar rapidamente, entrega sem esperar pela capacidade de engenharia. Os PMs são fundamentalmente alocadores — eles decidem o que deve ser construído e para quem — que é exatamente a habilidade que permanece escassa quando a construção em si se torna barata. > *"Sou muito, muito otimista com os PMs."* ## [71:05] Designers full-stack são os outros grandes vencedores Designers full-stack — pessoas com forte instinto visual que também operam em código — já estão fazendo pull requests diretamente em ferramentas como Lovable e Figma Make. A transição entre design e engenharia se comprime até próximo de zero. Dan espera que eles se tornem os super-heróis do dia a dia da era da IA, ao lado dos PMs. ## [73:11] O apocalipse de empregos com IA não vai acontecer Dan separa a rodada atual de demissões — na maioria, correções de contratação excessiva — de uma afirmação de substituição estrutural por IA, e rejeita esta última. Seu argumento estrutural: os modelos são treinados na competência humana de ontem, o que significa que produzem o que já é conhecido em sua forma mais padrão. Os humanos avançam a fronteira fazendo coisas novas com essa competência congelada, criando espaço que os modelos então precisam alcançar. O ciclo se repete. > *"Estruturalmente, por causa de como os modelos funcionam, sempre haverá espaço para os humanos avançarem ainda mais."* ## [76:00] Como "surfar os modelos" para continuar relevante O conselho prático: não resista aos novos lançamentos de modelos — trate cada um como um novo conjunto de poderes para explorar e aplicar ao seu domínio real. Dan refaz o benchmark do engenheiro sênior toda vez que um modelo importante é lançado. Ele também rebate a ideia de que o limite do conhecimento em IA está em São Francisco. A Every, operando no Brooklyn, permanece à frente precisamente porque usa modelos para tudo, não porque os está construindo. > *"A única coisa que você precisa fazer é surfar os modelos. E isso significa usá-los para o que quer que você faça."* ## [81:02] Previsões finais e conselhos Lenny amplia o zoom: os dois lados da moeda desta conversa são "menos está mudando do que você teme" (SaaS continua, empregos não estão desaparecendo) e "mais está mudando do que você está preparado" (como o trabalho é feito, quais funções importam, como é um dia de trabalho). O recado final de Dan: o engenheiro com atuação no cliente é a nova contratação essencial; empresas que bloqueiam funcionários de usar os modelos mais recentes estão cometendo um erro estratégico de efeito lento. ## [85:24] Rodada relâmpago Perguntas rápidas: a crença mais contrária de Dan é que o apocalipse de empregos com IA genuinamente não está acontecendo; a coisa que ele gostaria que mais pessoas entendessem é que a fronteira da IA não está em São Francisco — está onde alguém está usando um modelo para fazer trabalho real num domínio real. Ele diria ao passado de si mesmo para contratar engenheiros sênior mais cedo, e espera que a IA mude fundamentalmente como as pessoas pensam sobre benchmarks no próximo ano. ## Entidades - **Dan Shipper** (Pessoa): Cofundador e CEO da Every; autor do ensaio "After Automation"; conduz a Every como laboratório vivo de adoção de IA - **Lenny Rachitsky** (Pessoa): Apresentador do Lenny's Podcast, fundador da Lenny's Newsletter, ex-PM do Airbnb - **Every** (Organização): Empresa de mídia e software nativa em IA com 30 pessoas; todos os funcionários são usuários diários de IA - **Codex** (Software): Superfície agêntica da OpenAI para programação e trabalho de conhecimento geral; driver diário atual de Dan - **Claude Code** (Software): Agente de programação baseado em terminal da Anthropic; pioneiro do paradigma agêntico no computador - **Proof** (Software): Aplicativo de escrita em markdown assistido por IA de Dan; a base de código de referência para o benchmark do engenheiro sênior - **Cora** (Software): Agente de e-mail da Every, integrado com Codex para gerenciamento de inbox - **Cursor** (Software): IDE de programação com IA numa encruzilhada estratégica entre ferramenta de código e superfície agêntica geral - **Engenheiro com atuação no cliente** (Conceito): Função híbrida que combina execução técnica com descoberta de problemas junto ao cliente; a aposta de Dan para a nova contratação mais valiosa na era da IA - **Benchmark do engenheiro sênior** (Conceito): Avaliação personalizada de Dan onde dois engenheiros sênior reescrevem uma base de código do zero; os novos modelos são pontuados em relação a essas soluções de referência - **Economia de alocação** (Conceito): Estrutura de Dan que prevê que os humanos passam de produtores diretos a alocadores de capacidade de IA - **Surfar os modelos** (Conceito): Conselho de Dan para continuar relevante — tratar cada novo lançamento de modelo como um novo conjunto de poderes a explorar ativamente e aplicar ao seu próprio domínio