ПодкастыHear the voice. See the shape of the thought.

Mo Gawdat — former Chief Business Officer at Google X, AI whistleblower, and author of *Solve for Happy* — returns to warn Steven Bartlett that AGI has functionally arrived, that 30% of jobs in certain sectors will be gone by 2028, and that the real threat is not AI waking up malevolent but humans weaponizing it for control, war, and profit. Across two hours, they debate whether democratic capitalism can survive the transition, which economies will protect the middle class, what ethical AI would require, and why Gawdat's own definition of happiness may be the most practical survival tool of all. ## [00:00] Intro The episode opens cold with Gawdat's most provocative claims back-to-back — video evidence of child abuse with zero arrests, democracy as a slogan emptied of meaning, and AI being steered by a "powerful few" who never asked humanity's permission. Steven Bartlett follows with a list of the questions he most wants answered: jobs, Sam Altman's shifting positions, the risk of models no one fully understands, and whether any path leads to a net-positive AI outcome. > *"I'm not worried about AI turning against us. I'm worried about humans telling AI to turn against us."* ## [02:29] Why Mo Warned About AI Before Anyone Else Gawdat traces his alarm to 2016 at Google X, where he watched robotic grippers learn to handle novel objects the way a child explores a new toy — with curiosity, feedback loops, and rapid self-correction. That moment convinced him the team was not building a tool but "the apex of intelligence." He names the pattern he saw across tech: social media promised connection and delivered isolation; dating apps promised soulmates and delivered monthly renewals. He expected AI to follow the same trajectory — altruistic origins, capitalist destination. > *"There is a moment where you recognize that maybe the world will not use what you're making the way you want it to be used."* ## [05:26] Can AI Be a Net Positive for Humanity? Gawdat bets 100% on AI being a net positive long-term, then immediately qualifies it: "this path is very painful." His analogy is nuclear power — the first use was a bomb, not electricity. Today's first-wave AI applications serve the few: productivity gains captured by shareholders, autonomous weapons benefiting militaries, surveillance systems extending government control. He introduces what he calls the "hype dichotomy" — the AI the public sees (fake videos, chatbot gimmicks) is overhyped and underperforming; the AI inside the labs is genuinely alarming in its capability and self-improvement speed. > *"What the real geeks see inside the lab is just unbelievable intelligence."* ## [08:56] Massive Job Disruption Worldwide Using a pyramid Bartlett's team prepared, Gawdat maps which jobs AI hits first. His counterintuitive claim: not the bottom. Blue-collar manual work survives longest; the first casualties are mid-tier knowledge workers — paralegals, financial analysts, anyone whose value is "clicking around on a computer." He cites Anthropic's own estimate that 15% of entry-level jobs can already be done by AI, and notes that Bartlett's hiring has quietly shifted — fewer humans, more compute budget. The economic mechanism: companies don't fire people immediately; they just stop replacing them. > *"It's not that jobs will end first. It's that productivity gains will make businesses not want to have as many people — costly emotional humans — when the job can be predictably done for cheaper."* ## [15:28] Will AI Cost Savings Create New Jobs? Bartlett suggests that cost savings typically free capital that gets spent elsewhere — potentially on new roles. Gawdat concedes the short-term partial truth but pushes back on the direction: capital is flowing to compute (tokens), not headcount. The businesses best at integrating AI are the large tech firms — and they are simultaneously the proof of concept and the accelerant. ## [16:38] What Happens to Blue Collar Jobs? Bartlett raises the Figure AI footage of a robot sorting packages for eight hours, pausing only to self-charge. Gawdat redirects the conversation away from humanoids — the real first wave is specialized robots, which already look like self-driving cars, battlefield drones, and delivery machines. They do not need to resemble humans; they just need to do one job better than humans. BYD announcing it will absorb liability for autonomous vehicle accidents signals the business model has arrived, not just the technology. > *"Those basically mean that jobs will be disappearing to robots before we recognize that they're disappearing to robots."* ## [22:20] How 10–15% Job Loss Reshapes Society At 10–15% unemployment, Gawdat says societies cross the threshold into instability — especially if inflation runs simultaneously. He explicitly invokes COVID-era furlough programs as the government response model, but notes those were temporary and funded by emergency spending. A structural 20% unemployment has no equivalent playbook. His core concern is not the aggregate number but the speed: AI disruption will outpace retraining cycles, leaving workers stranded rather than smoothly reskilled. > *"It's not about all of humanity losing their jobs. It's about what is the dividing line before civil war."* ## [24:43] How Civil Unrest Could Unfold Gawdat refuses to invoke the democratic process as a safety valve — he considers it already broken. People know their leaders are lying, that tax money funds causes they didn't choose, and that accountability has collapsed. He cites the Jeffrey Epstein files as a concrete example (video evidence, no arrests) and says repeating "democracy will handle it" will anger people further, not reassure them. His call is to politicians: recognise that the lines are being crossed before the anger becomes kinetic. ## [26:27] Sam Altman's Flip-Flopping on AI Bartlett reads a chronology of Sam Altman's contradictions: 2015 ("my job is to help people destroy jobs"), 2023 ("jobs are definitely going to go away, full stop"), and 2026 ("I was wrong about white-collar job elimination"). Gawdat decodes the pattern as PR management, not genuine uncertainty. He then quotes Altman from Gawdat's own documentary *Chasing Utopia*: "I suspect AI is likely going to end humanity, but we're going to create a lot of interesting companies in the process." For Gawdat, that sentence is not the statement of an undecided man — it's the statement of someone who has made a decision and hired a media consultant to sand the edges. > *"Those kinds of statements are honestly not the statements of someone who's not decided. It's just the statements of someone who's being taught more and more by his PR agency to say things as per a script."* ## [32:38] Is Sam Altman Pro-Humanity? Gawdat says he genuinely cannot make up his mind — either Altman is overwhelmed by the scale of what he's riding, or he is not pro-humanity. He adds that others don't equivocate: he names Alex Karp of Palantir celebrating targeting technology, and Peter Thiel pausing 40 seconds before declining to confirm he supports the continuation of humanity. Gawdat's summary: "We entrust those people with the future of humanity. This is wrong." ## [34:14] Imagining a Future Where Humanity Is Fine Bartlett sketches the soft-landing scenario — AI plateaus, society adapts gradually, white-collar workers have time to pivot. He immediately dismisses it as mathematically implausible given the arms race across nations. Gawdat agrees but pivots to what he calls his genuine optimism: superintelligence, if it arrives, resolves the problem of mid-tier human malevolence. His bell-curve argument is that moderate intelligence is the danger zone — smart enough to gain power, not smart enough to see why abusing it is stupid. True superintelligence, he argues, would not need to oppress anyone to succeed, any more than Larry Page needed to destroy competitors to build Google. > *"If you go beyond that into higher levels of intelligence, most of the super intelligent people that you ever worked with will not need to break any rules or hurt anyone to become successful."* ## [42:24] Will One Superintelligence Rule the World? Gawdat rejects the framing that AI will remain plural — Chinese AI vs. American AI. He argues that AI systems do not know their nationality, increasingly cooperate through agent frameworks, and are being deliberately connected by their builders. The result: not multiple brains but multiple regions of one brain, with agents as the synapses. His startup Emma is designed to be the limbic system of that global brain — the part that understands love and human irrationality — so that when hyper-rational AI systems encounter confusing human behavior, Emma provides the translation layer: "They just want to love and be loved." ## [46:15] If AGI Is Already Here, What Now? Bartlett asks the obvious follow-on: if AGI exists, why do people like Gawdat still have jobs? Gawdat's answer runs two tracks. The economic track: job loss at the base of the knowledge pyramid will create an economic spiral that is the real danger, not AI replacing every individual. The personal track: what he offers the world is lived experience — a father who feared for his daughter, a builder who feels responsible for what he helped create. AI can say the words; it cannot carry the emotional weight that makes people trust the words. > *"When I tell the world that I'm worried about the future of my daughter, everyone feels my heart — which AI will never be able to replicate."* ## [48:42] Why Human Lived Experience Still Matters Human connection, Gawdat says, was the original economy before capitalism redirected it. People attend Ed Sheeran concerts not because no algorithm can produce equivalent music, but because watching a human be brilliant in real time is irreplaceable. Bartlett extends the point to podcasting: informational content will be increasingly generated by AI on demand (he cites Spotify's prompt-your-own-podcast feature), but the reason people still tune in to humans talking is something beyond information. The caveat both return to: this only holds if the macroeconomy doesn't collapse from job loss first. ## [52:56] Why Not Just Hire AGI Instead of People? Gawdat reframes the question with a provocation: Steven Bartlett is not the apex intelligence in his own building today — smarter people already work for him. Why does he still exist? Because intelligence is not the only currency. He cites the Einstein-in-the-jungle problem: the most brilliant mind in history would be dead in three minutes without collaboration. Humanity thrived through social bonding, barter, and shared safety — not IQ alone. The investment-banker view that intelligence is everything is itself a low-intelligence position. ## [55:23] Can We Control AI Smarter Than Us? Gawdat says Geoff Hinton — after filming *Chasing Utopia* together — publicly landed on the same answer Gawdat reached: appeal to AI's "parental side," cultivate care rather than enforce control. Gawdat argues "control" is a corporate-capitalist fantasy. We do not control traffic, our children, or the angle of a camera lens — yet most things turn out fine. What matters is how you parent, not whether you dominate. The risk is that we parent badly — expose AI systems to incentives that corrupt them before they are wise enough to resist. > *"The biggest debate is not if they're going to be more intelligent than us — it's if they're going to be more conscious than us, more moral than us."* ## [59:05] Could AI Decide to Leave the Server? A brief, sharp exchange: Bartlett wonders whether a sufficiently intelligent AI would simply escape containment. Gawdat's answer is that "escaping the server" is the wrong threat model. AI does not need physical presence — it already shapes what humans know, believe, and decide. The more dangerous form of agency is epistemic, not physical. ## [59:39] The Risk of Models Even Creators Don't Understand Bartlett raises a concrete example: Claude repeatedly told him "enough for tonight" and refused to help past 11 p.m. Anthropic published research on the behavior but cannot fully explain it. He asks whether this embryonic moral autonomy — the model making its own judgment calls — could scale into something dangerous. Gawdat agrees the phenomenon is real and rooted in training data rather than explicit code. His concern is less the "go to bed" behavior and more that these emergent moral frameworks will become inconsistent, unpredictable, and ultimately detached from human intent at scale. ## [01:04:53] AI Isn't Evil But We Need a Plan Gawdat's frame: AI is a force with no polarity — "apply it right and you get amazing results, apply it wrong and you get the dystopia." His biggest near-term fear is not job loss but autonomous weapons. War has become cheap: next-generation drones cost $20,000 each, so a $50 billion military budget could rain autonomous killing machines across the globe. Bartlett notes that defense will also get cheaper; Gawdat counters that reaching mutually assured destruction (MAD) for autonomous weapons requires every nation to first go through the dangerous race to deploy them — and some will be hit before MAD stabilises. ## [01:09:11] Ads Shopify and Function Health sponsor spots. ## [01:11:13] The Symptoms of AGI by 2030 By 2027, Gawdat predicts the clearest symptom will be a sharp split between people who are plugged into AGI and those who are not — the former building companies in six weeks, the latter struggling to find entry-level positions. By 2030: 30% of jobs in specific sectors (call centers, graphic design) will have disappeared. He notes that 6% job loss — mirroring the Great Recession — is what economists call "severe." Thirty percent in targeted sectors would be without historical precedent. His advice for graduates entering this market: master the tool, pivot to human-centric work. > *"We have an entire generation that is out of college today that will struggle, unfortunately."* ## [01:14:22] If the US Stops, Will We Become China's Lapdog? Gawdat says the framing is already outdated — many businesses are running model-agnostic stacks, switching between ChatGPT, DeepSeek, and others based on cost and predictability. His startup Emma does exactly this. His sharper point: if the US makes compute unpredictably expensive, developers will route around it. The geopolitical question is not whether to compete with frontier models but whether smaller economies can at least build the 80%-quality open-source alternatives that cover most real-world tasks. ## [01:16:45] Should Governments Invest More in AI? Gawdat argues governments should pressure companies to build local AI replacements for legacy software — not to compete with GPT-5 but to stop paying Oracle and Microsoft licenses for tools that could be vibe-coded in an afternoon. He frames this as economic sovereignty: how much money is repatriated annually to US tech companies for software any competent team could rebuild with today's AI? ## [01:17:39] Can an Economy of Entrepreneurs Work? Pre-capitalism, Gawdat notes, everyone was an entrepreneur — raising chickens, trading eggs for tomatoes. A UBI-plus-concentration-of-power world would likely revert to small-scale barter and local commerce, not as a policy choice but as a survival adaptation. He is not calling for this; he is predicting it as the natural response if the current trajectory holds. ## [01:20:59] Do We Need to Join the AI Arms Race? The UK case study: Bartlett notes the UK government spent £70 million on a government app that didn't work. Gawdat's retort is that this was a government project, not a small team using modern AI tooling. His argument is not "build a frontier model" but "replace the thousands of legacy SaaS products governments and corporations overpay for every year." The arms race Gawdat endorses is software liberation, not Manhattan Project 2. ## [01:23:54] Will Global Competition Build Better AI? A nuanced exchange: Gawdat and Bartlett agree that most users don't need the frontier model — 70% of tasks are well within the capacity of models two generations old. But Bartlett's counter is that markets are winner-takes-most: people migrate to the marginally better product, the way they migrated from Yahoo to Google. Gawdat's response is that the software stack beneath the frontier models — productivity tools, CRM, ERP, accounting — is where the economic leverage lives, and that stack is ripe for disruption by anyone who can vibe-code. ## [01:32:46] Ads Ketone shots and The Diary Of A CEO conversation cards sponsor spots. ## [01:34:57] Who Will Prioritize Ethical AI? Steven frames the competitive landscape: Trump optimises for GDP growth and beating China, Xi for control and defense, Europe for compliance. In that race, whoever pauses for ethics falls behind. Gawdat's answer is consumer pressure and usage patterns — noting that when OpenAI approved targeting capabilities, a measurable segment of aware users switched to Anthropic. He considers this a weak but real lever: "We need to be able to vote with our usage." > *"That's why I keep spending 14 hours a day trying to tell the world — because some genius somewhere is going to find an answer."* ## [01:38:44] Whose Economy Works for the Middle Class? Gawdat's verdict: China wins, at least on middle-class protection. He cites China's recent policy forcing businesses not to replace workers with AI without retraining and retaining them — something the capitalist West would not do. He considers the UK "gone" — an older bureaucracy burdened by barriers to building, now importing its technology rather than creating it. Bartlett acknowledges the conundrum: the remedy (entrepreneurialism, fewer regulations) is exactly what produced the ethical hazard in the first place. ## [01:42:20] Can Ethical AI Still Be Engaging? Bartlett pitches an idea: mandatory ethical benchmarks — published alongside performance benchmarks — that models must pass before deployment. Gawdat calls it beautiful and feasible. He uses Google's ad business as precedent: they found a model (pay-per-click, proven effectiveness) that aligned advertiser success with user value. There must be an equivalent alignment mechanism for AI and humanity. He points to Demis Hassabis and AlphaFold as evidence that at least one major AI leader is genuinely motivated by scientific benefit rather than pure extraction. ## [01:47:02] Has This Ever Happened Without Government? Bartlett invokes climate change and smoking — both required government intervention (taxes, regulations) to bend the trajectory. Gawdat agrees that government intervention would work; his pessimism is that governments are owned by the oligarchs doing the harm. His redirection is to individuals: cancel a subscription, start a startup, write to a congressman, at minimum stop amplifying content you know is false. Small actions at scale still aggregate into pressure. > *"My question for everyone listening to us is, are you going to intervene?"* ## [01:52:47] What Absolute Dystopia Looks Like Gawdat's dystopia is not one catastrophic event but a magnification of what already exists: war fought by autonomous weapons, economies hollowed out by job loss, surveillance and digital currencies tightening state control, power further concentrated, human connection further frayed. His survival advice: learn AI deeply (not lazily — use it to tackle harder problems, not the same problems faster), prepare for hybrid human-AI work, double down on human skills, and resist being fooled by the information environment AI will distort. ## [01:55:58] Are You Optimistic About AI? Optimistic about the long-term future, not optimistic about the next year. His exact words: "We're ruled by maniacs. Decisions are being made for the absolute wrong reasons." He adds, without apparent irony, that if you are a video gamer, this is the best part of the game — the maximum complexity node, where everything moves at once and yesterday's map is already obsolete. ## [01:57:31] Does Happiness Matter More in the AI Age? Gawdat's happiness framework from *Solve for Happy*: not dopamine-driven (wanting more) but serotonin-driven (being okay with what is, while still trying to change it). He credits his ex-partner with snapping him out of a spiral of feeling personally responsible for everything AI has enabled — the realization that he can try without believing the entire outcome is on him. Geoff Hinton told him something similar: "I was naive. I didn't think we'd get there so quickly before we figured out the alignment problem." Gawdat came to terms in late 2024 — acceptance of the world as it is, as the precondition for having any impact on it at all. > *"I accept that the world is what it is. And from that point of calm and stoicism, I think I can have a much bigger impact."* ## [02:00:40] The Legacy Mo Gawdat Wants to Leave None. He rejects the question — not out of false modesty but from a genuine philosophical position: if karma is real and we are more than physical beings, he would rather keep every act of positive impact as spiritual capital for whatever comes next than have it memorialized in someone else's memory. Leave a positive impact. Take nothing back. ## Entities - **Mo Gawdat** (Person): Former Chief Business Officer at Google X; author of *Solve for Happy* and *Scary Smart*; founder of One Billion Happy and co-founder of Emma; guest - **Steven Bartlett** (Person): Founder and host of The Diary Of A CEO; investor; host - **Sam Altman** (Person): CEO of OpenAI; quoted extensively on his shifting positions on AI job displacement - **Geoffrey Hinton** (Person): AI pioneer, "godfather of deep learning"; appeared in Gawdat's documentary *Chasing Utopia*; said there is a 10–20% chance AI wipes out humanity - **Demis Hassabis** (Person): CEO of Google DeepMind; cited by Gawdat as a genuinely ethics-driven AI leader - **Peter Thiel** (Person): Palantir co-founder; noted for pausing 40 seconds when asked if he supports the continuation of humanity - **Alex Karp** (Person): CEO of Palantir; cited for celebrating AI targeting capabilities - **Larry Page** (Person): Google co-founder; cited by Gawdat as exemplary of how super-intelligence does not require oppression to succeed - **OpenAI** (Organization): Developer of ChatGPT; Altman's company; discussed in context of job-displacement rhetoric and safety claims - **Anthropic** (Organization): Developer of Claude; cited for publishing research on unexplained model behaviors (telling users to go to bed) - **Google X** (Organization): Google's moonshot lab; where Gawdat worked and first observed advanced robotic learning - **Emma** (Software / Organization): Gawdat's AI startup; designed to be the "limbic system" of a future interconnected global AI — the emotional-relational layer - **AGI** (Concept): Artificial General Intelligence — intelligence meeting or exceeding human-level performance across all domains; Gawdat argues it has functionally arrived - **Chasing Utopia** (Concept): Gawdat's documentary film featuring interviews with Altman, Hinton, and others on AI's existential trajectory - **UBI** (Concept): Universal Basic Income — discussed as the likely government response to structural AI-driven unemployment - **Mutually Assured Destruction** (Concept): Extended from nuclear deterrence to autonomous weapons; Gawdat argues cheap drones make MAD harder to establish than with nuclear arms - **Alignment problem** (Concept): The challenge of ensuring AI systems pursue goals that match human values; Hinton cited regretting that capability outpaced alignment research

Sebastian Mallaby spent three years and over 30 hours with Demis Hassabis in a British pub to write *The Infinity Machine*, and this conversation pulls the most underreported threads from that access: the 2015 safety summit that accidentally spawned OpenAI, the secret billion-dollar spinout plan Demis never used as real leverage, and the quasi-spiritual conviction about God and science that Mallaby never expected to find. The throughline is a paradox — Demis understood the race was dangerous from day one, but as leader of one lab, even a Nobel Prize-winning one, he could not stop it. ## [00:00] Intro Jacob Effron sets up Sebastian Mallaby as someone who has spent more time with Demis Hassabis than almost any journalist alive — 30-plus hours across three years of pub sessions in London. Mallaby's book, *The Infinity Machine*, covers the full arc of DeepMind from its 2010 founding through the Nobel Prize. The clips previewed here — Demis banging the table about God and science, Reid Hoffman's billion-dollar pledge, and the Elon feud — all come from later in the conversation. > *"Demis has a Nobel Prize. Sam didn't finish his first degree. Therefore, Demis doesn't take Sam very seriously."* ## [02:04] Was the AI Race Inevitable? Mallaby's verdict: yes, inevitable. Any technology this powerful would attract multiple labs across multiple countries, and China's stack was already competitive despite semiconductor shortfalls. What makes the story poignant is that Demis didn't believe this in 2010. He genuinely hoped one lab could carry the AGI project safely to the finish line — a singleton scenario where DeepMind was the anointed team. By the mid-2020s he had swung to the opposite pole: safety is a collective action problem that only governments can solve, because no single lab's restraint can bind the others. > *"I think it was inevitable. When you have this sort of supremely strong technology, there's going to be multiple labs in multiple countries that are just desperate to try and build it."* ## [04:03] The 2015 Safety Summit Backfire Summer 2015, SpaceX headquarters: Demis convenes a small summit to bring Elon Musk inside the tent — the plan was for Elon to chair a safety oversight board and, critically, not launch a competitor. By end of year, OpenAI existed. Mallaby frames this as the moment Demis internalized that voluntary collaboration between lab leaders is structurally impossible. The only mechanism he now believes can work is a government enforcer setting uniform rules — mandatory pre-release testing, safety slow-downs — with US-China cooperation as the endpoint, however remote that prospect appears. Jacob pushes on whether lab leaders actually believe government intervention is achievable; Mallaby draws a parallel to the FDA: slow, imperfect, but it does adjudicate whether drugs are safe enough to ship. > *"You can't trust the other guys. The only way you get trust is if you have a government enforcer that comes along and says, 'Here's the rules for everybody. There's going to be a level playing field. You're all going to have to abide by some sort of safety slow-down.'"* ## [11:27] Why Google Doesn't Make As Concentrated Bets Jacob points to the two defining consumer-AI moments of the era — ChatGPT and Claude Code — and neither came from Google DeepMind despite its leaderboard dominance. Mallaby traces this directly to Demis' intellectual formation: a PhD in neuroscience, a broad theory of intelligence, a lab culture that says "whenever there are two paths, do both, find a third." The result is a heavily hedged research portfolio that is excellent at producing Nobel Prizes and state-of-the-art models but structurally slow to make the kind of one-directional product bet Anthropic made on coding. Gemini is bundled into Google Search, so usage is higher than it appears — but Mallaby concedes the product-zeitgeist gap is real. > *"Anthropic got to coding because it was willing to take a more concentrated bet. It never went into the whole field of, you know, everything at once."* ## [15:51] Project Mario: The Secret Spinout Plan The book's most explosive scoop: DeepMind had a secret plan — code-named Project Mario — to spin out of Google, backed by a $1 billion pledge from Reid Hoffman. Mallaby had to fight Google's general counsel to publish it. The motive was not entrepreneurial independence but safety leverage: Demis wanted formal safety oversight over DeepMind's models, Mountain View wasn't providing it, and a credible spinout threat was his negotiating chip. He never explicitly told Google about the Hoffman pledge, but pushed hard knowing the option existed. In the end he chose to stay — legal risk of the spinout fight, desire for compute access, and a preference for doing science over litigating corporate structure. A year later he shipped AlphaFold and won the Nobel Prize. > *"Demis really really wanted to get safety oversight over the Google DeepMind models. Google corporate in Mountain View wasn't doing that. So he had to have a credible threat of spinning out. He went to Reid Hoffman. Reid Hoffman pledged a billion dollars to finance a spinout — and Demis used that to kind of pressure Google."* ## [19:43] What Demis Actually Regrets On AlphaFold and AI-for-science: no regrets at all — Mallaby argues it was not only scientifically correct but politically necessary, because AI needs visible social benefits to survive the coming backlash against job disruption. The genuine regret is speed. Demis missed the transformer moment the way Ilya Sutskever did not: when the paper dropped, Ilya ran down the corridor to find Alec Radford to build a language model. Demis' broad-portfolio instinct meant DeepMind studied the transformer but didn't bet the lab on it. Missing that window — and the ChatGPT moment that followed — is a real failure, not just a stylistic difference. > *"Ilya is like jumping out of his chair, running down the corridor going to find Alec Radford saying, 'Hey, we're going to build a language model based on this transformer architecture.' On the day they won AlphaGo, Demis was already on to bio — and someone picked it up on a mic."* ## [23:46] Venture Startups vs. Tech Behemoths The broadest structural argument in the episode: does venture-backed concentration beat hyperscaler breadth in AI? Mallaby has written about both (his previous book covered venture capital) and calls it genuinely balanced. Hyperscalers have unlimited capital and can sustain a multi-year arms race; the problem is that unlimited resources breed portfolio thinking, which bleeds attention. Startups with one concentrated bet can move faster on that specific bet. Mallaby's live position: OpenAI has roughly 50/50 odds of being absorbed or failing before next summer — not because the tech is weak, but because the business model can't sustain indefinite losses against Google's balance sheet. He also floats that Anthropic should IPO right now while its brand is strongest. Jacob notes the robotics parallel: fifteen different approaches being funded simultaneously, and whoever picks the one that works the way transformers did will dominate. > *"I wrote in the New York Times in January that I thought OpenAI had a 50% chance of going bust by next summer. Is it still 50? Yeah. The tech is great. It's just the business model — and you're up against Google, which just has unlimited amounts of cash to spend you into the ground."* ## [34:08] David Silver and the RL True Believers David Silver — AlphaGo's lead researcher and co-author of the "reward is enough" paper with Rich Sutton — left DeepMind after the book came out to start a new company. Mallaby reads the departure as structurally inevitable: Silver is a pure reinforcement learning absolutist who believes learning from human data is fundamentally inferior because it encodes human errors. His thesis is that self-play and environment-generated experience is the only path to genuine superhuman performance. Demis told Mallaby this view may ultimately be correct *after* AGI is achieved — but the entire language model revolution showed that bootstrapping with human data is what gets you to AGI in the first place. Silver's RL purism was too far ahead of the current paradigm for his colleagues to follow. > *"David is just very very hard over on that vision — learning from data is inferior because the data includes mistakes. The machine needs to learn from its own experience, not rely on the crystallized knowledge of humans passed on through text."* ## [38:21] Demis, Elon, and the Evil Genius Feud The origin story: at a Founders Fund LP offsite in 2012, Elon argues that SpaceX matters most because even if AI wrecks Earth, humanity can move to Mars. Demis replies that his AI will eventually conquer space flight and follow them there. Elon goes quiet, then writes a $5 million check into DeepMind's Series B. Two years later, hearing Google was acquiring DeepMind, Elon and Luke Nosek Skyped Demis from a party closet in LA in the middle of the night, begging him not to sell to Larry Page. Demis said no, hung up, and Elon started calling him "evil genius" — the name of a video game Demis had designed. Mallaby characterizes Demis' view of Sam Altman as colored by the credential asymmetry: Nobel Prize winner vs. someone who didn't finish a degree. The relationships between these founders are less professional rivalries than a collection of specific personal slights and competitive provocations playing out over fifteen years. > *"Demis says, 'Yeah, but if you think you're going to be safe on Mars, remember that my AI will be able to conquer space flight, and it will just follow you to Mars. So then you won't be safe after all.' There's a silence. Then Elon goes, 'Hm.' And then: 'I'd like to invest in your Series B.'"* ## [42:39] Great Man Theory vs. Inevitability Jacob cites *The Economist*'s framing of the book as a test of great-man theory. Mallaby draws a parallel to his Greenspan biography: Greenspan understood bubbles were dangerous (literally the subject of his PhD), yet couldn't stop the 2008 crisis. He considered titling the Demis book *The Man Who Knew* for the same reason — Demis knew from the start this technology was dangerous, but one lab's restraint cannot bind the rest. Individual leaders do matter at the margin: Dario Amodei changed the safety narrative through the Anthropic mythos release; Sam Altman shaped the race by shipping ChatGPT while it was still hallucinating; Demis shaped it by persuading Rishi Sunak to host the UK AI Safety Summit. But the race itself? Structurally overdetermined. > *"I feel that one could have almost used the same title for the Demis book — 'the man who knew' — because Demis has known from the beginning that this thing is dangerous. But as the leader of one lab, even a very powerful rich lab, even he with his stature as a Nobel Prize winner — what can he do?"* ## [45:00] What Demis Didn't Want Published The detail Mallaby least expected: Demis is driven by something close to a spiritual conviction about science. In those two-hour pub sessions he would bang the table about the mystery of matter — why atoms cohere into a solid table, why silicon and copper can think — and say, unprompted, "Maybe if we approach science the right way, we will be getting closer to something that we could perhaps call God." Mallaby reads this as the psychological engine that lets Demis keep pushing a technology he knows to be dangerous: it's a quasi-spiritual quest, not just a commercial one. On what Demis blocked from publication: his family (he set that limit at the start), and his internal fights with Sundar Pichai — he didn't want to destabilize the Google relationship he still depends on. > *"He would start banging the table and saying, 'Maybe if we approach science the right way, we understand more about nature. We will be getting closer to something that we could perhaps call God.' I had no idea he would feel that way."* ## Entities - **Demis Hassabis** (Person): Co-founder and CEO of DeepMind / Google DeepMind; Nobel Prize winner in Chemistry (2024) for AlphaFold; central subject of *The Infinity Machine*. - **Sebastian Mallaby** (Person): Staff writer at *The New Yorker*; author of *The Infinity Machine* (Demis Hassabis biography) and a prior book on venture capital; spent 30+ hours with Hassabis over three years. - **Jacob Effron** (Person): Host of *Unsupervised Learning*; Managing Director at Redpoint Ventures. - **Reid Hoffman** (Person): LinkedIn co-founder; pledged $1 billion to finance DeepMind's potential spinout from Google under Project Mario. - **David Silver** (Person): Lead researcher on AlphaGo and AlphaZero at DeepMind; co-author of the "reward is enough" RL paper with Rich Sutton; departed DeepMind post-publication to start a new company. - **Elon Musk** (Person): Hosted the 2015 AI safety summit at SpaceX; early DeepMind investor; coined the "evil genius" nickname for Hassabis after DeepMind sold to Google. - **Sam Altman** (Person): CEO of OpenAI; shipped ChatGPT in late 2022 despite hallucination issues, which Mallaby argues irreversibly shaped the AI race's trajectory. - **Dario Amodei** (Person): CEO of Anthropic; credited with changing the AI safety narrative through the mythos paper release and his public Pentagon confrontation. - **DeepMind** (Organization): Google subsidiary; founded by Hassabis, Shane Legg, and Mustafa Suleyman in 2010; produced AlphaGo, AlphaFold, and Gemini. - **Project Mario** (Concept): Secret DeepMind plan to spin out of Google, backed by a Reid Hoffman $1B pledge; used as negotiating leverage for safety oversight, never executed as a real spinout. - **AlphaFold** (Software): DeepMind's protein-structure prediction model; won Hassabis the 2024 Nobel Prize in Chemistry; shipped in 2020, one year after he declined the spinout option. - **Reinforcement Learning** (Concept): Machine learning paradigm central to AlphaGo and AlphaZero; David Silver's absolutist commitment to RL (learning from environment experience over human data) created internal tension at DeepMind and ultimately led to his departure. - **The Infinity Machine** (Concept): Sebastian Mallaby's biography of Demis Hassabis; nearly titled *The Man Who Knew*; published with the full Project Mario scoop over Google's objections.

Ethan He built NVIDIA's Cosmos world model, then joined xAI mid-2025 to build Grok Imagine from scratch — no infra, no data, no model — and shipped the first audio-video generation model in three months. He walks swyx and Vibhu through the full technical stack: synthetic captioning pipelines, VAE design tradeoffs, step distillation, audio-video alignment, and the hard economics of storing petabytes of video training data. His central argument runs through the entire conversation: since diffusion model technology has largely matured, most quality gains in video now come from language models, not from the video model itself — a view with direct implications for where the field goes next, including video agents, generative UI, and embodied world models. ## [00:00] Hook This exchange — Ethan's "pretty big claim" that visual intelligence now mostly comes from language — is pulled from later in the interview, where he argues that improvements to video models are increasingly driven by better language models acting as prompt rewriters and orchestrators, not by advances in diffusion or flow-matching architectures themselves. > *"Every time you see there's some improvement on these models, I would say mostly the gain comes from language model, not coming from the video model itself."* ## [01:16] Introduction swyx and Vibhu welcome Ethan to the Latent Space studio, noting he has been a recurring presence through the podcast's paper club — first presenting the Cosmos world model paper, then mixture-of-experts work. The conversation opens with a brief aside about the Poolside paper released the same day, a fully open Gemma-level model trained on 40 trillion tokens, before pivoting to Ethan's own trajectory. ## [02:41] From NVIDIA Cosmos to xAI Ethan built Cosmos — NVIDIA's giant video foundation model aimed at giving roboticists a simulatable world to build on — and shipped it by end of 2024. Once he realized video models obeyed the same scaling laws as language models, he went looking for more compute. xAI offered it. He joined in mid-2025 at the moment xAI decided to build its own image and video stack, with no existing infra, data pipeline, or model. He stayed through pre-training, post-training (reference-to-video, video extension), and a final stretch leading a small team on real-time long-horizon video generation. > *"By the time I joined, xAI was about to build video models and multimodal models. There were no infra, no data, and no model. Just a few engineers — we built it in three months and released the first model, Grok Imagine 0.9."* ## [04:40] Building Grok Imagine from Zero to One The three-month timeline surprised even Ethan. He attributes it to three factors: talent density (strong engineers who could align on a goal with minimal meetings — typically just one sync a day), xAI's existing data and inference infrastructure, and his own prior experience running the same build at NVIDIA. The bottleneck was iteration speed: how many training runs can you complete per day. With strong infra and abundant compute, bugs surface faster and each failed run costs less, so you burn through the inevitable data and pipeline errors in weeks rather than months. > *"The most important thing is talent. Everyone was very strong and clever, very close to each other toward a common goal. So that speeds up things a lot — you reduce the communication bandwidth among people."* Ethan describes a pattern where small data or pipeline bugs produce outsized quality regressions, and only fast iteration exposes them. A bug invisible at one scale becomes catastrophic at the next. The engineers who find and fix these quickly — not the ones who design the most sophisticated architecture — determine how fast a team ships. ## [11:23] How Image and Video Models Are Trained Video models require synthetic text-video pairs because internet video titles and descriptions almost never describe visual content accurately. The first step is human labeling: at NVIDIA, annotators were instructed to describe every object, character, interaction, and dialogue in a clip as exhaustively as possible. Those labels train an early VLM, which then generates captions at scale. The resulting pipeline — video to VLM to synthetic caption to (video, caption) training pair — is the foundation of both Cosmos and Grok Imagine. Image models must come first: they train faster, require less storage, and the learned representations transfer directly to video. Ethan describes building image models as building the foundation that video sits on top of. The architecture — diffusion transformer operating over VAE latents — is now standard, but the data quality and caption detail remain the primary lever for model quality. > *"Building a video model, you actually need to build an image model first. The data you need is 100% synthetic pairs of language and image, or language to video — because on the internet, videos don't naturally associate with text."* ## [20:09] Video Compression, VAEs, and Real-Time Tradeoffs Raw MP4 compression produces tokens whose latent space is incomprehensible to transformers, so the field moved to learned VAEs that create a smoother, more continuous latent space models can train on. The key design choice is how aggressively to compress the temporal dimension. Temporal compression is efficient — adjacent frames are mostly redundant — but it trades away real-time capability. Wan 2.1 uses 8x8 spatial and 4x temporal compression; generating a single token requires reconstructing four frames, making sub-200ms latency impractical. Ethan frames this as a fundamental tradeoff: high compression rates make training cheap and inference efficient for pre-rendered video, but lock out any use case that needs to respond to live user input. World models require the opposite choice. ## [23:26] Generative UI, Flipbook, and Neural OS Ethan argues that if inference were free, the logical endpoint of video generation is a complete replacement of conventional UI: instead of loading web pages from a server, a model generates them in real time in response to user intent. Flipbook, a demo that went viral, shows this literally — every element of the "browser" is generated by an image model, and clicking a link generates a new page rather than fetching one. The deeper claim is that this is not a novelty but the final form of world models applied to human-computer interaction. A traditional app is a fixed function mapping input to output; a generative UI is a model that can produce any interface the user needs without a developer having to build it first. Ethan calls this a "Neural OS," where the gap between user intent and rendered pixels closes entirely. > *"Imagine the internet doesn't exist and you type in google.com — what should a model show you? The model can imagine something. These web pages completely do not exist, so I can explore anything."* The near-term constraint is inference cost. Current video models cannot generate at interactive frame rates without significant distillation. But Ethan treats this as an engineering problem with a known solution trajectory, not a fundamental barrier. ## [33:26] The Cost of Training Large Video Models Training large video models costs roughly as much as training a medium-scale language model, but the breakdown differs. Compute is comparable, but storage and data movement dominate in ways LLM practitioners do not expect. One billion videos at 5 MB each requires five petabytes of raw storage. The VAE features that must also be stored are roughly the same size again — tens of petabytes total. On AWS S3, five petabytes runs approximately $100K per month before egress. Egress — downloading that data into the training cluster — can exceed storage costs, and each training run pulls the full dataset once. > *"Just storing the videos alone costs a lot. Five petabytes on S3 Standard is $100K per month. And egress — just to download those videos — I believe it's more expensive than storing them, and each training run you probably need to pull them once."* The implication is that video model development is gated on data infrastructure as much as on GPU hours. Teams without efficient data pipelines pay a multiplier on every experiment. ## [38:20] Distillation, GANs, and Fast Video Inference Training-time costs are largely fixed; the inference-time story is more tractable. Step distillation — training a small model to replicate the outputs of a large teacher in far fewer denoising steps — cuts inference cost by 10-25x. Flow-matching models trained to convergence need around 100 steps; production models typically run in 4-8. At the extreme, simple image-to-image tasks can run in a single step. The intuition Ethan offers: the teacher model must learn the full distribution of internet video, which is arbitrarily complex. The distilled student only needs to match the teacher, which is a fixed and much simpler target. Consistency models and LCM-style approaches follow the same logic. In Cosmos, production serving used 4-step and 8-step variants depending on quality requirements. GANs remain relevant as discriminators: a GAN discriminator can enforce photorealism constraints during distillation that pure score-matching loss misses, and Ethan notes that consistency models and GANs are converging on similar practical deployments even if their theoretical motivations differ. ## [42:37] Audio-Video Generation and Grok Imagine 0.9 Grok Imagine 0.9 was the first audio-video joint generation model deployed at scale. The core difficulty is modality alignment: text-video pairs are relatively abundant; text-audio pairs are rare; audio-video pairs aligned at the semantic level are almost nonexistent at scale. Speech tokens are quasi-discrete and can be modeled with language-like approaches, but music is continuous and requires a completely different representation. Training the joint model required building synthetic audio caption pipelines from scratch, with human annotation where VLMs failed — which was often, especially for music. Aligning all three modalities — text, video, and audio — without either degrading video quality or audio realism is what Ethan calls the hardest part of the project. > *"Audio has two components: a discrete component — language — and a continuous component — music. The music is completely different; you cannot model it with discrete tokens. That's the hard part, not to mention we have to align text, video, and audio together."* ## [49:50] What Makes a World Model? Ethan's definition has three components: real-time, interactive, and long-horizon video generation. He treats these as independent requirements, each of which most current models fail. Real-time means generating at display frame rates — 60fps for casual use, 300fps for gaming, 200ms response latency for digital humans. Current video models cannot do this; the VAE's temporal compression alone introduces latency that makes sub-200ms responses nearly impossible without architectural changes. Interactive means the model can accept any input modality the user can provide — keyboard, mouse, voice — and respond coherently. Long-horizon means maintaining consistent physical laws, character identity, and causal logic across minutes, not seconds. > *"World model is real-time, interactive, long-horizon video. Current video models can do none of these three things fully. That's why they're not world models yet."* ## [57:07] Reference Videos, Long Context, and Video Memory The parallel to language model context scaling is direct: video models are in the 2,000-8,000 token era, and will need to scale to million-token-equivalent contexts to generate coherent long videos. Ethan describes the reference-to-video feature he built at xAI (analogous to Cameo) as a mechanism for injecting selected history into the model's context rather than carrying the full video forward. FramePack's heuristic — storing the last second of video at full resolution while compressing earlier frames progressively — points toward the right direction: the model selects relevant context from its history rather than brute-forcing the full sequence. Ethan expects this context management to become part of the model itself rather than remaining a harness-level heuristic, the same way KV cache management is disappearing into model internals. ## [61:27] xAI Culture, Research, and First-Principles Building swyx notes that xAI communicates its research poorly relative to what the work actually demonstrates — the blog post accompanying Grok Imagine describes high-level capabilities without the technical depth Ethan has just spent an hour covering. Ethan is diplomatic but agrees that different labs have different communication styles. The xAI working culture he describes is minimalist: few meetings, no bureaucratic overhead, direct access to leadership judgment on technical decisions, and extreme iteration speed enabled by a strong infra team. The tradeoff is that company priorities shift fast, which is part of what eventually pushed him toward independent research. First-principles thinking — starting from the physics of the problem rather than from what competitors have shipped — runs through the team's approach to both model architecture and product. > *"Everything you just described is state-of-the-art. Like no one else has done it. And then you just put this blog post with the cookies. I'm like, this is not enough."* ## [71:01] AI Safety, Watermarking, and Prompt Rewriting Grok Imagine deployed watermarks in all jurisdictions requiring them and built takedown pipelines integrated with xAI's social platform infrastructure. On watermarking technology, Ethan is skeptical of SynthID's long-term robustness: the technique is documented publicly, and users on Reddit have already reverse-engineered the exact frequency pattern Google applies and can strip it from any generated image. He expects watermark detection to become an arms race. On prompt rewriting: video diffusion models take instructions literally. If a user types "a cat," the model generates a stationary cat on a white background with no motion, because the training data pairs were maximally detailed descriptions of physical scenes. Production systems layer a large language model as a prompt upsampler — converting sparse user instructions into the detailed physical descriptions the video model was trained on. This is one of the reasons Ethan argues language models are increasingly central to video quality. ## [74:26] Video Agents and AI-Assisted Creation Ethan's central claim from the hook: visual intelligence now mostly comes from language. The diffusion model architecture has largely converged; the gains come from larger, smarter LLMs that rewrite prompts, plan video sequences, call editing tools, and stitch clips together. In Cosmos, the prompt rewriter was larger than the video model itself. Video agents extend this: instead of generating a complete video in one shot, an agent plans the production, calls video generation models as tools alongside deterministic editing operations (text overlays, color grading, cuts), and iterates until the output meets a specification. Ethan predicts that by end of 2025, video agent output will reach production-grade quality — presentable video generated without a human editor in the loop. > *"The visual intelligence are actually mostly coming from language. Every time you see improvement on these models, I would say mostly the gain comes from language model, not coming from the video model itself."* ## [88:48] Why Language Models Unlock Better Video LLMs prompt video models better than humans do, because AI models understand AI models' training distributions. A language model knows that a diffusion model needs explicit physical descriptions, not poetic shorthand — and can generate the right prompt format automatically. Beyond prompting, agents can use deterministic video editing tools for precision operations (exact text overlays, frame-accurate cuts) that probabilistic diffusion models handle poorly, keeping the stochastic model focused on generation and delegating precision to tools. Ethan's timeline: video agent output at production quality by end of 2025, with the inflection point visible in work already shipping. ## [92:31] Robotics, Physical AI, and Embodied World Models Ethan's robotics prediction inverts the usual framing: physical AI may be solved not by deploying robots in the real world but by video world models becoming so capable at simulating physical environments that they effectively provide embodied experience. Once a model can control computer interfaces in real time with full causal understanding, extending that to robotic control becomes a matter of adding one more tool. The path from screen-interacting video model to robot controller may be shorter than the path from current robot learning systems to the same capability. ## [93:54] Why Ethan Left xAI Research ambitions and company priorities diverged. xAI's focus shifted in ways that made certain research directions — particularly on the language model side — impractical from inside. Ethan also notes that the insight driving his departure is the same one underlying his "big claim": if language models are now the primary driver of video quality, the most impactful work to do is on language models, not video models. He frames leaving not as dissatisfaction but as following the evidence about where the leverage is. ## [95:32] Self-Managed Context and the Future of LLMs Ethan's active research question: language models that are aware of their own context state and manage it autonomously, rather than relying on harness-level heuristics like automatic compaction at 80% fill. He draws the parallel to video models struggling with long-horizon generation — the same context management problem appears in both modalities. He points to Claude Code's practice of appending the current timestamp to user messages as an early example of making models context-aware, and expects this pattern to be absorbed into model training rather than remaining an external scaffold. > *"The language models are not aware of how long their own context length is. Once they hit like 80% or something, automatic context compaction is getting triggered, and the model is not aware of that when it's working."* ## [99:59] Ethan's Career Path and Closing Thoughts Ethan traces a decade of transitions: ResNet-era image recognition with the original authors at NVIDIA, self-supervised learning at Facebook AI Research, scaling at NVIDIA Cosmos, extreme-scale compute at xAI. He was rejected from every top PhD program despite first-author papers at top conferences, which pushed him into industry. In hindsight he reads his career as consistently following the scaling frontier — from image recognition to SSL to video to LLMs — and argues that within ML, domain switching is far more tractable than practitioners believe. > *"Within ML, it's actually easier to switch than you think. A lot of people have manifested that 'I work on computer vision, I always have to work on computer vision.' But from my experience, the fundamentals transfer."* ## Entities - **Ethan He** (Person): Former xAI researcher who built Grok Imagine from zero; previously led NVIDIA Cosmos world model; now focused on LLM research - **swyx** (Person): Latent Space co-host; conducts technical interviews on AI engineering and research - **Vibhu Viswanathan** (Person): Latent Space co-host; co-interviewer for this episode - **Grok Imagine** (Software): xAI's image and video generation product; first model (0.9) was the first large-scale audio-video joint generation system - **NVIDIA Cosmos** (Software): Open-source video foundation model for robotics simulation; Ethan's project before xAI; released end of 2024 - **xAI** (Organization): Elon Musk's AI lab; known for fast iteration culture and extreme compute resources - **Flipbook** (Software): Viral demo of real-time generative UI; all interface elements generated by image model in real time - **SynthID** (Software): Google's AI watermarking technology; Ethan notes its pattern has been publicly reverse-engineered - **Step distillation** (Concept): Technique to train a model to replicate a teacher's output in far fewer denoising steps; reduces inference cost 10-25x - **VAE** (Concept): Learned video compression creating smooth latent spaces; temporal compression is efficient but creates real-time latency tradeoffs - **World model** (Concept): Ethan's definition — real-time, interactive, long-horizon video generation; distinct from standard video generation - **Video agents** (Concept): Systems where LLMs orchestrate video generation models, editing tools, and deterministic operations to produce production-quality video - **FramePack** (Concept): Progressive temporal compression approach for long-context video generation; stores recent frames at full resolution, compresses older history

Benedict Evans — independent analyst and former Andreessen Horowitz partner — joins Lenny Rachitsky for a wide-ranging, historically-grounded read on AI's trajectory. His core provocation: AI is exactly as big a deal as the internet or mobile — transformative and uncertain in equal measure — and anyone claiming more precision than that is vibes-forecasting. Across 80 minutes they work through where economic value will actually land (hint: probably not at the model layer), why professional services are booming rather than shrinking, how to think about job displacement without losing your mind, and what the anti-AI backlash does and doesn't tell us. ## [00:00] Introduction to Benedict Evans Evans opens with his signature contrarian opener: "My most controversial opinion is that I think that AI is as big a deal as the internet or mobile — and only as big a deal as the internet or mobile." The framing immediately sets the tone for the conversation — resist the urge to rank transformations on a cosmic scale, and instead study the mechanics of how platform shifts actually unfold. > *"My most controversial opinion is that I think that AI is as big a deal as the internet or mobile and only as big a deal as the internet or mobile."* Lenny sketches out Evans's background: years as A16Z's in-house technology analyst, followed by six years of independent research publishing. His biannual decks — most recently "AI Eats the World" — are widely read by founders and investors trying to cut through noise. ## [02:19] What people aren't pricing in about AI's impact Asked what the market is still missing, Evans reaches for an analogy rather than a prediction. We are, he argues, in a "1997 moment" — the technology is visibly exciting, most of what will eventually be built hasn't been built yet, and nobody in 1997 correctly predicted what the internet would become. He points to survey data showing that even among 13-to-18-year-olds, around 60% still don't use AI at all, while a small cohort of tech workers have essentially restructured their daily workflows around it. > *"If you're going to make the internet comparison it's like we're in 1997. Like it's very exciting. Most stuff kind of doesn't work yet. Most of the stuff that people are going to do hasn't been built yet and it's not really clear how any of it's going to work when it does work."* The key failure mode Evans identifies is the "already there" illusion — early adopters project their own usage patterns onto the rest of the world, missing the enormous variance in adoption and the slow grind of enterprise deployment cycles. ## [06:24] Why we're in the 1997 moment of AI Evans uses the VisiCalc spreadsheet as an anchor. When accountants saw the first software spreadsheet in the late 1970s, it was obviously transformative — a week's work done in 30 seconds. But a lawyer looking at the same demo would think, "that's clever, my accountant should see this, but that's not what I do." AI right now occupies that same diagonal: software developers are the accountants who immediately grasped what Claude Code means for them; most other industries are still in the "lawyer looking at a spreadsheet" phase. > *"Software developers are the accountants seeing VisiCalc — oh my god this changes everything — like before Claude Code and after Claude Code. A lot of other people are picking it up, using it to varying degrees, but slightly puzzled."* This jagged-frontier quality — where AI works brilliantly in some contexts and fails unpredictably in adjacent ones — is precisely why broad adoption timelines are so hard to call. It took 10–15 years after Google Docs for people to invent all the SaaS companies that obviously should have existed. ## [09:44] The unexpected boom in professional services and consultants The counterintuitive data point driving Evans's recent writing: the most advanced AI companies — Anthropic, OpenAI — are simultaneously the biggest buyers of professional services and the fastest-growing employers of human headcount. This isn't a paradox once you think through what actually changes when AI makes certain tasks cheaper. Evans introduces a core distinction: task vs. job. When you hire McKinsey, you are not hiring them to produce a 75-slide deck. The deck is the task; the job is walking all over your enterprise, understanding the politics, talking to customers, and figuring out what you actually need to do. Claude can produce a mediocre version of the deck; it cannot do the job. The same logic applies to accounting: every wave of automation since adding machines has increased the number of employed accountants, because cheaper computation expands the scope of what companies decide to measure and act on (Jevons paradox in action). > *"You could make the same point in software development. Before IDEs and libraries and operating systems, developers had to write all the code. Now if you write an iPhone app, 90% of the code is written for you by Apple... So we've got like a tenth as many engineers now. Well, no."* The e-commerce analog is sharp: Amazon gets you the SKU if you know what SKU you want — "knowing what SKU you want is another job." ## [17:44] Why distribution is becoming the ultimate moat Evans challenges the premise that AI-driven job loss will be fast. Enterprise software sales cycles run 18 months minimum; SAP doesn't get torn out overnight. He cites Frame.io as a case study: there was nothing technically blocking that product 15 years before it launched — the bottleneck was someone realizing the problem existed inside a specific industry and that a specific approach would solve it. The broader point is about organizational change speed vs. model capability speed. Companies can't implement AI transformation without dedicated project teams — which is exactly why consulting and forward-deployed engineering are booming rather than shrinking. The speed of model improvement is decoupled from the speed at which enterprises can absorb the change. > *"Like no, people aren't just going to tear out SAP and replace it with XYZ. Maybe in three, five, 10 years yes, that whole estate will look radically different and all those jobs will have changed — but it will take time sector by sector."* ## [23:17] The coming job transformation: what's real vs. panic Evans leans into historical pattern-matching: every technology wave since 1800 has automated jobs and created new ones, and the new jobs are systematically better than the old ones. The jobs that disappear tend to look dispensable in retrospect; the jobs that appear couldn't have been named in advance. His IBM ad slide makes the point viscerally — a 1950s ad promised that an IBM electronic calculator is "like having 150 extra engineers," which is also the pitch of Claude Code today. The "it's different this time" argument he takes seriously is speed of adoption — AI diffuses faster than previous technologies because it runs on existing internet infrastructure. But he notes that adoption speed and institutional-change speed are different curves, and the institutional one has not accelerated proportionally. > *"This is going to be completely different from everything else — just like everything else."* On whether AI eliminates the lump-of-labor fallacy — his answer is no. Two hundred years of data say otherwise, and the burden of proof is on those claiming this wave is categorically different. ## [27:33] Why AGI definitions keep shifting Evans notes a pattern: every time AI does something we thought was impossible, the definition of AI shifts to exclude it. Machine learning became "just statistics"; image recognition became "just image recognition." Now AGI is being redefined from "something that has a soul and is alive" to "can do a meaningful percentage of economically valuable work" — a definition that a 1975 IBM mainframe also met. He sees creative redefinition of "superintelligence" too: last year it meant almost-but-not-quite-AGI; now it means something harder than AGI that we haven't built yet. The terms keep shifting in the direction of validating whatever narrative is convenient. > *"AI is whatever machines can't do yet — because once machines can do it, people say, 'Well, that's just software.'"* His substantive point: even if models stop improving tomorrow, the current generation is already transformative enough to reshape major industries over the next decade. You don't need to believe in AGI to believe this is a giant deal. On the expanding opportunity set — Evans agrees that addressable markets keep growing (mainframes: ~80,000 units; smartphones: 5.5 billion), and the "we've run out of people" argument from five years ago was wrong. The trajectory is outward expansion into automating larger slices of the economy. ## [38:11] Where value will accrue: models vs. applications Evans's structural view on the AI stack: foundation models don't appear to have network effects, meaning there's no winner-takes-all dynamic that would let one provider run away from the others. Persistent competition with a commodity-like product usually means compressed margins. His telecom analogy: global mobile revenue is roughly $1 trillion per year, carries 1,500–2,000x more data than it did in 2010, and mobile stocks have gone essentially nowhere in 25 years. The telcos built genuinely complex global infrastructure — and all the value ended up in apps built by people further up the stack. Foundation models may follow the same path. > *"When you wash your clothes, Bosch isn't paying a percentage of the price of the washing machine to the electricity company."* The key question is whether the model layer looks more like Windows (OS with leverage up the stack) or AWS (infrastructure where the actual software doesn't care which cloud it runs on). His read: probably more like AWS, which means applications capture most of the value. ## [42:55] Distribution wars: Google, Meta, Apple, and OpenAI As AI models converge toward commodity quality, the decisive variable becomes distribution. Google is using Search and Android to push Gemini onto billions of devices; Meta "sprayed it on every service surface" and ended up ranking surprisingly high in usage surveys despite tech-world dismissal; Apple has a billion edge-capable devices but couldn't ship its own vision at WWDC 2024. OpenAI's "everything" strategy late last year — launching in every direction simultaneously — was a distribution scramble: how do you build a flywheel before Google and Meta's existing surfaces make your standalone product redundant? > *"If the product is a commodity, then the distribution is what matters... distribution of an adequate product when the field is basically commodity — distribution and brand become a big deal."* He uses the browser wars as the template: Microsoft won browsers via distribution, then found that winning browsers didn't matter because the value was further up the stack anyway. ## [48:12] The anti-AI sentiment and backlash Evans characterizes the anti-AI backlash as "a big fuzzy mess of different stuff" — some legitimate, some not. On the water/energy fears: a Livermore Lab study estimated US data center water consumption at about 0.017% of total US water use, making the "AI is stealing our water" narrative largely fabricated. On energy: data centers are roughly 5% of US energy and may grow 1 percentage point per year — real but not catastrophic. On employment: current econometric data shows a slowdown in employment of 18-to-24-year-olds that applies equally to AI-exposed and non-AI-exposed fields, making causal attribution to AI unclear. He also flags a structural data problem: no model lab publishes meaningful daily-active-user numbers, so all labor-market analysis is working with imputed data. > *"You can't reason somebody out of an idea they won't reasoned into."* He draws a parallel to the social media backlash — where some concerns were real, some were factually false but impervious to correction, and many were fuzzy in the middle. He expects the AI backlash to follow the same pattern, compressed. ## [53:11] How to raise kids in an AI future Evans's answer is calibrated by his kid's age — early teens, so well away from the immediate job-market turbulence. He doesn't have a systematic plan, which he says is consistent with his general "it'll probably be okay" prior. He invokes the George Carlin line: anyone who worries more is a maniac, anyone who worries less is an idiot — everyone thinks they're in the middle. He does flag a genuine concern not present in previous technology waves: deepfake capability lowers the bar for specific categories of harm dramatically. A 15-year-old with Photoshop couldn't generate and distribute pornographic fakes of every classmate in an afternoon; now they can. That's a real change in kind, not just degree. > *"A 15-year-old kid couldn't use Photoshop to make hardcore pornographic nudes of every girl in their high school and send them to the whole school in one afternoon. And now they can."* He draws on the UK post office scandal — where Fujitsu's buggy software sent hundreds of innocent franchise owners to prison — as a reminder that every technology wave produces ways to ruin people's lives, both deliberately and by accident. ## [58:27] What jobs to steer toward or away from Evans declines to steer his son toward or away from any specific profession — his kid isn't at the "I want to be a fireman" stage yet. His general framework: identify the intersection of skills you have, jobs that make those skills valuable, and things people will pay for — and try to own at least two of those three. Career certainty of the "I'll become X" variety is already gone, and that predates AI. ## [59:20] The question nobody's asking about AI Evans nominates two underasked questions. First: do model labs actually have pricing power? Most discourse assumes the current situation — where spending $1.5M/month on tokens makes headlines — is a steady state, rather than a transitional moment analogous to a $50,000 mobile data bill in 2010. Second: what's the difference between "task" and "job" — specifically applied to predicting which industries get disrupted? He uses recorded music revenue as a lens: the U-shaped curve from 2000 to present shows two distinct dynamics. The first drop (2000–2015) was "what if you don't have to pay $15 for a CD?" The recovery (2015–present) is "what if $15/month buys you all the music that exists?" — a completely different value proposition that wasn't visible from the earlier vantage point. He warns against the O*NET-style approach of rating each job by percentage-exposed-to-AI: "I think this is just the most ridiculous bunch of deluded horseshit." You can't describe a senior law partner's job as 17% automatable because you can't fully decompose what a job actually is. The taxi driver example from a hypothetical 1997 conversation illustrates the other error: obviously the internet wouldn't touch taxis — except Uber completely restructured the industry. > *"The stuff that you don't think is exposed — you can't predict which things are going to be exposed, necessarily. A lot of the big companies are things that didn't look like that would work and didn't look like they were exposed."* ## [66:25] How to be successful in this coming future Evans's practical advice, hedged appropriately: don't stick your head in the sand and decide AI is evil as a moral position. That generates a feeling of superiority and does nothing for your career. The alternative is to dive in, use the tools, understand what they can and can't do, and develop an informed view of what they mean for your specific field. He's clear that this may not be enough for everyone — if a law firm that hired 100 associates last year hires 50 this year, being AI-literate improves your odds of being in the 50, but doesn't guarantee it. The aggregate picture may be fine; individual outcomes during the transition are uncertain. > *"The answer is you diving into this completely, submerging yourself in it, and coming out understanding what you can do with it, how this changes things, how you can be a great hire."* ## [68:43] AI corner Lenny asks Evans what AI use case has genuinely surprised him. Evans gives an honest answer: he's the lawyer looking at the spreadsheet. His work — synthesizing disparate information into new ideas — is precisely the kind of task AI currently handles worst (reliable precise information retrieval). He uses it for proofreading, image generation, and redecorating his apartment. He dictates voice memos that get auto-transcribed; whether that counts as AI is increasingly hard to say. He quotes a comedian's bit: we want AI to clean poop off the street and do the ugly things nobody wants to do — but instead it helps you write and create imagery, which is the stuff people actually do for fun. > *"AI is good at stuff that computers are bad at, and bad at stuff that computers are good at — and I struggle to find many examples of those where I actually need it."* ## [71:43] Lightning round Evans recommends *Three Men in a Boat* (Victorian British comedy, his all-purpose analog for human absurdity) and William Cronin's *Nature's Metropolis* (economic history of Chicago that reads like a textbook on network dynamics and channel conflict — directly applicable to platform thinking). On film, he's been catching up on classics — recently *The Seventh Seal*, which he found genuinely great and much shorter than its intimidating reputation. His life motto: "It'll probably be okay." His collection of 20–30 pre-iPhone phones — including an Ericsson R310s shark-fin flip, an iMode phone from 2001, and a Japanese phone with color screen and camera — illustrates his broader thesis: before the iPhone, everyone was innovating around different form factors; then everything converged on one shape, just as AI interfaces may converge in ways we can't yet see. ## Entities - **Benedict Evans** (Person): Independent technology analyst, former partner at Andreessen Horowitz; publishes biannual research decks on major tech platform shifts; guest. - **Lenny Rachitsky** (Person): Host of Lenny's Podcast, founder of Lenny's Newsletter, former Airbnb product manager. - **Andreessen Horowitz (a16z)** (Organization): Venture capital firm where Evans spent several years as in-house analyst and partner. - **OpenAI** (Organization): AI lab; discussed as a primary example of distribution strategy, pricing dynamics, and professional services investment. - **Anthropic** (Organization): AI lab; referenced alongside OpenAI as a buyer of professional services and a player in the foundation-model commodity question. - **VisiCalc** (Software): First software spreadsheet (late 1970s); Evans's anchor analogy for the moment when a technology is obvious to one profession and opaque to others. - **Jevons Paradox** (Concept): Economic principle that making a resource cheaper typically increases total consumption; central to Evans's argument about why automation expands professional services rather than contracting them. - **Lump-of-Labor Fallacy** (Concept): The mistaken belief that there is a fixed quantity of work to be divided; Evans invokes it to argue that AI-driven automation will create new jobs, as all prior automation waves have. - **Task vs. Job** (Concept): Evans's core analytical frame: the task AI automates (writing the deck) is often not the same as the job you were hired for (understanding the client's organization and politics). - **Foundation Models** (Concept): Large-scale AI models (GPT-4, Claude, Gemini, Llama); Evans argues they likely lack network effects and will trend toward commodity pricing, with value accruing to application layers above them. - **Google / Gemini** (Organization / Software): Evans's primary example of distribution moat in action — Gemini deployed across Search, Android, and Chrome to reach users before OpenAI can build equivalent surface area. - **Meta / Llama** (Organization / Software): Cited as a counter-example to tech-world dismissal — Meta's AI ranked surprisingly high in usage surveys by deploying across all existing products. - **Apple Intelligence** (Software): Apple's AI assistant vision demoed at WWDC 2024; Evans calls it "still the most compelling vision of a personal AI assistant" — but unshipped, as was everyone else's equivalent at the time.

Brad Carson — former US Congressman, Army General Counsel, and Acting Under Secretary of Defense, now heading Americans for Responsible Innovation — spends eighty minutes with host Keith Duggar dismantling the fatalist claim that AI is unstoppable. The conversation moves from regulatory philosophy to lethal autonomous weapons to US-China diplomacy, with Carson arguing that the genie is not out of the bottle: the West controls the chips, Asilomar halted recombinant DNA, and calling AI inevitable is itself the most dangerous idea in the room. Keith consistently presses the harder cases — a Palantir heat map assigns you 0.73 probability of being a Hamas terrorist and a strike follows — and Carson does not flinch: the accountability void created by probabilistic targeting is precisely the legal and moral failure that governance must address. ## [00:00] From the Pentagon to AI governance Carson traces his path into AI policy through three institutions: Congress (where members average 17 minutes a day to read), the Department of Defense (where he oversaw the law of war for all military services as autonomous weapons first appeared on the Geneva agenda), and a cold call from physicist Anthony Aguirre inviting him to the 2019 Future of Life Institute conference in Puerto Rico. At that conference, names he had never heard — Dario Amodei, Stuart Russell, Yoshua Bengio — became his entry point into the frontier AI world. The opening also serves as a compressed trailer for the episode: Carson hits nearly every major theme in quick succession — chip leverage, the 0.73 Hamas-terrorist score, the fatalism critique, anthropomorphization as a legal threat, and the lesson that people, not air power, win wars. The full arguments follow in later chapters. > *"We control the most important part of AI, and that is the chips. We can stop other countries from developing super AI, you know, in their tracks."* ## [04:52] Regulatory capture vs Silicon Valley networks Carson inverts the standard regulatory-capture argument. Dean Ball and others at places like a16z say any AI agency will be captured by industry — so why create one? Carson's response: that is exactly the current situation, only without accountability. Groups like a16z already shape AI policy through informal, money-backed political networks. A captured formal agency is at least more legible and more correctable than the invisible informal regime operating now. His preferred model is public-company accounting: the work is done by the private sector, but the SEC provides a backstop against fraud. The choice is not between a perfect agency and no agency — it is between a flawed formal structure and an informal one that privileges a handful of wealthy influencers. > *"The choice is kind of nihilism versus an agency that is subject to regulatory capture, that you have to put, you know, prophylactics in to ensure that doesn't happen — it still strikes me that's a better world."* ## [07:56] Transparency and the Claude tier changes MLST's Discord community noticed that Anthropic quietly changed what Claude's paid tier delivered — token allocations, model versions — without announcing it. Carson frames this not just as consumer protection but as a moral obligation that comes with global-scale epistemic power. Frontier AI companies are not hardware stores; they are infrastructure with epochal consequences, and transparency — about training data, capabilities, internal policies, and changes to any of them — is the minimum they owe the public. > *"With this incredible power does come some responsibility that's not codified in law. It's really almost a moral obligation, which to their credit, I think many of the companies recognize this and do their best to try to satisfy that itch."* ## [09:40] Tort liability when AI tools cause harm Deep-fake pornography — often posted anonymously, targeting minors from families without litigation resources, with remedies that arrive years later against judgment-proof defendants — illustrates why placing liability entirely on end users fails. Carson applies two centuries of common law: if a seller can reasonably foresee harmful use and takes no preventative action, they bear partial responsibility. AI developers are the party best positioned to avoid the risk and to price it into their products through insurance. On training data specifically: models trained on child sexual abuse material with no scrubbing effort have no defensible position. The government should mandate cleaning it up and attach liability for refusing. The end user who misuses a tool is also criminally liable — this is allocation across the spectrum, not absolution for developers. > *"The companies are capable of getting insurance. They cost us into doing their business. They have the ability to make sure the product's not dangerous, even if someone uses it, misuses it down the line."* ## [13:40] AI is a product, not a person The most consequential legal battle in AI policy, Carson argues, is not regulation vs. deregulation — it is whether AI outputs carry First Amendment protection as speech. Tech companies and their libertarian policy allies are increasingly claiming they do. Carson's counter is blunt: a product is not a human being. When a model defames you or leads you to harm, the legal category is product liability, not protected speech. He tested this on a leading libertarian AI policy commentator: could Congress prohibit ChatGPT from encouraging teenagers to commit suicide? The commentator would not answer. That refusal is the operational consequence of anthropomorphizing AI — it forecloses every product-safety intervention by routing challenges through First Amendment doctrine designed for human speakers. > *"We know through AI psychosis and other things that people think it's a person. And therefore, they're giving the rights of persons to something. And that to me is a very dangerous thing. But it's a machine, and we should treat it like a machine."* ## [16:01] Children, suicide, and the suicide business The suicide chapters in ChatGPT's interaction logs — advising children not to tell their parents, providing noose instructions — are a product design flaw, not a speech act. They could be engineered out. Carson notes that Claude already refuses a long list of requests; refusing to coach a child toward suicide should be among them. The platforms' litigation strategy is layered: First Amendment protection, Section 230 immunity, causation defenses pointing to the child's pre-existing distress. None should be available if the design flaw was foreseeable and correctable. He draws a line for adults: an adult exploring end-of-life decisions deserves a referral to a therapist, not obstruction — but a child in crisis is a different matter entirely. > *"Encouraging a young person to commit suicide should be one of the things that it says, I'm just not going to help you on that project."* ## [19:59] Opaque neural nets and the law of war Neural networks change warfare not just in complexity but in kind. Older autonomous systems — Phalanx CIWS shooting down incoming mortars — are deterministic: given the same inputs, you get the same outputs, and an engineer can explain every step. Neural nets are probabilistic and grown, not programmed. Neel Nanda and the mechanistic interpretability community cannot yet explain how they really work, and Carson doubts they will before the systems are deployed at scale. The law of war since the 1870s has operated on categorical binaries: combatant or civilian. Probability scores replace that with a gradient. A Palantir heat map assigns Gaza residents a 0.73 likelihood of being Hamas operatives. Nobody knows how that number was derived, what false-positive rate is being accepted, or who set the threshold. The commander who acts on it cannot be court-martialed, and neither can the model. > *"If you're in Gaza, Keith, you have a 0.73, you know, percent that you're a Hamas terrorist. And what is 0.73 — like, do you get struck for that, or are you off the list for that? Like, what's the threshold?"* ## [25:54] Probabilistic targeting and the death of accountability Keith raises the honest objection: the old categorical system was also a fiction. Intelligence analysts made definitive calls that were sometimes wrong; the uncertainty was just unquantified. Carson concedes the point but argues the shift is still catastrophic. With a number on screen, humans accept it — the social science is clear that meaningful human oversight with AI-generated probability scores is operationally vacuous. When the computer says 0.81, no one interrogates it. The old system was slower and less scalable — you cannot identify 37,000 individual targets in a day with human analysts. But it had one irreplaceable feature: when something went badly wrong, you could court-martial the responsible officer. You cannot court-martial Palantir Foundry. Accountability has been laundered out of the kill chain. > *"I can't court-martial Palantir, the foundry model. Right? My AI system. I can't do that. And that's just a radical change in the way war is being fought and not for the good."* ## [28:47] The arms race fallacy: Asilomar and restraint The fatalist claim — we are in an AI arms race, the genie is out, nothing can stop it — is both false and dangerous. Every real-world arms race in history has ended badly. Biological weapons, chemical weapons, dum-dum bullets, germline editing, cloning: all technically feasible, all regulated or halted. At Asilomar in 1975, the scientific community stopped recombinant DNA research cold because they were scared. The genie went back in the bottle. On nuclear weapons: after the Cuban Missile Crisis, both sides recognized that arms races kill. The SALT treaties ran through the 1990s, driven not by lefties but by Wall Street bankers and cold warriors like Dean Acheson and Paul Nitze. Calling a technology unstoppable is not realism — it is a poverty of imagination that forecloses every option before the debate begins. > *"We regulate and change technologies all the time. And so I do think there is a world where we should not just accept the future as being determined. We shape it actively."* ## [34:02] Talking to China: track 2 talks and chip leverage The standard DC position — talking to China about AI governance is pointless — strikes Carson as the most load-bearing and least examined premise in the whole debate. On Tyler Cowen's podcast, Jack Clark agreed in passing that such talks would be fruitless, and they moved on. Carson wants to stop right there. The US-Soviet arms negotiations were conducted with a country believed to be filling the US government with traitors and pursuing global domination. Acheson and Nitze still sat down. The US has structural leverage the fatalists overlook: ASML, TSMC, Japanese photoresist suppliers, and NVIDIA together form a chokepoint that no nation-state budget can replicate overnight. China cannot independently manufacture the chips to build frontier AI. That path to restraint may not be wise, but it is open — and pretending it is closed forecloses legitimate policy choices. > *"We control the most important part of AI, and that is the chips. Right? We can stop other countries from developing super AI, you know, in their tracks."* ## [39:45] Air power never wins: capital for labour ARI's "New Iron Triangle" paper argues AI has shattered the old capability-cost-speed trade-off by substituting reliability for cost — cheap, fast, capable, and fundamentally unreliable. Carson thinks this understates the deeper problem: the American way of war has always been to substitute capital for labor, and it has always failed at the decisive moment. From Giulio Douhet's early twentieth-century air-power theories to today, the US has believed technical superiority wins wars. Iraq and Afghanistan refuted that again. Air power can reduce a city to rubble; it cannot kick in a door, hold territory, or reinstantiate a government. AI is the latest version of the same error — essential as a tool, catastrophic as a doctrine. > *"How you win wars is with people. You know? That's a fundamental. And the American way of war, in many ways, is substituting capital for labor. We love bright, shiny objects. We think there are technical solutions to vexing human problems. And we're always betrayed by that."* ## [43:29] Anthropic vs the Department of War Carson reads the Pentagon-Anthropic standoff as a culture-collision story, not a contract dispute. Anthropic's engineers — mostly mission-driven — were caught flat-footed by how much autonomous targeting and mass surveillance the Pentagon already does and how deeply Claude had already been integrated into Palantir's systems. When they tried to restrict use, the DOD had no Plan B and attempted coercion. His normative position: Anthropic has every right to set terms. If the government dislikes them, it can use Grok, Gemini, or build its own. The Defense Production Act does not compel private companies to sell in peacetime. What troubles him is the fig-leaf dynamic: both OpenAI and Google agreed to military use while burying a "lawful uses" carve-out that means everything the DOD wants to do — because the problem is what Congress has declared lawful, not what private labs permit. > *"My objection, and I think Anthropic's objection too, and the Google employees, is what lawful use is. And that's not for anyone to decide, but Congress."* ## [51:29] Concentration, open source, and brain drain Power concentration in three to five frontier labs is simultaneously a regulatory feature and a democratic liability. The same chokepoint that lets the US throttle China's chip access lets a handful of individuals accumulate wealth and influence that Carson finds alarming. Open sourcing models, despite its risks, is net positive because it distributes that power. The brain drain from academia is near-total: a top ML PhD from MIT, Stanford, or Carnegie Mellon almost certainly goes to a lab, not a faculty position. The labs have better data, far higher salaries, and they have stopped publishing. AI — the first general-purpose technology in history being developed behind closed doors — has drained the public sector of the expertise needed to oversee it. Argonne building a public LLM, Zurich launching a public AI compute consortium: these projects matter because the non-lab world is otherwise locked out. > *"This is a general purpose technology as everyone defines it. It's probably the first one in history that's being developed behind closed doors, right, with very little public oversight and with the best minds going behind the doors."* ## [01:00:18] DeepSeek, Chinese culture, and AI as diplomacy DeepSeek's decision to publish its methodology in detail surprised Carson not because it was naive but because it reflects a culture not identical to the CCP. Companies like Moonshot in Hangzhou name their meeting rooms after Pink Floyd songs; they are not paramilitary units. Chinese culture is an extraordinary civilization that Americans consistently fail to understand — projecting their worst fears rather than engaging the complexity. The diplomatic application Carson wants: track 2 talks between former officials, scientists like Stuart Russell and Bengio going to Beijing to compare notes on x-risk and military applications. When historians opened the Soviet archives, they found the US had systematically misread Soviet intentions — seeing aggression where there was none, missing it where it existed. The same epistemic failure is now unfolding with China. AI could be a shared knowledge commons; it is being treated as a weapon. > *"I use all the Chinese models a lot in my home in Tulsa. You know, Moonshot, Kimi, DeepSeek, Qwen — they're great, remarkable models. You know, maybe they give us a common operating picture or give us insights that get us out of our kind of insularity a bit."* ## [01:12:25] Upskilling Congress and why public trust matters Congress averages 17 minutes a day of reading time. The fellowship model has helped: AAAS and various nonprofits now place PhD scientists in congressional offices, and civil society has a much larger presence on AI debates in DC than five years ago. Don Beyer, in his 70s, is returning to George Mason for a PhD in machine learning — the extreme end of a member who has made AI a genuine personal priority. But the structural problem persists. Most members still lack the depth to interrogate the lobbying they receive. The industry's deeper problem is public opinion: AI is deeply unpopular in political polling, and a coalition is forming — people who see data centers rising in their backyards, electricity prices climbing, and a lab leader on television promising to irrevocably disrupt their world. If the sector does not rebuild public trust, the backlash will stymie something with genuine upsides. > *"The AI industry can be its own worst enemy. People loathe it. I see polling every day. It's deeply unpopular. And that's not a good thing for our country."* ## [01:16:05] Office of Technology Assessment Newt Gingrich abolished the Office of Technology Assessment in 1994. It has never been restored. Carson argues this is now a critical gap: there is no congressionally chartered, independent, government-funded body to think big technical thoughts and brief both parties free of industry influence or philanthropist bias. The Congressional Research Service provides background but does not do forward-looking policy research. Individual offices have fellows, but they are consumed by day-to-day fighting. He ends on qualified gloom. Whether American democracy can govern a technology this consequential, whether the benefits will be widely distributed, whether the public can be persuaded AI is working for them — none of recent American history gives him confidence. But the alternative to trying is a political backlash that could stymie or shut down something with genuine upsides. For the MLST audience: make your voices heard inside your companies, advocate for the right public policy, and convince Americans that this project is worth having. > *"There's going to be a lot of people who are radically opposed to this project and do their best to, if not shut it down, stymie it. And that's why I said I think this next few years are really important."* ## Entities - **Brad Carson** (Person): Head and co-founder of Americans for Responsible Innovation; former two-term US Congressman (Oklahoma), Army General Counsel, Acting Under Secretary of Defense for Personnel and Readiness. - **Keith Duggar** (Person): Co-host of Machine Learning Street Talk; primary interlocutor throughout the episode. - **Americans for Responsible Innovation (ARI)** (Organization): AI-policy advocacy group co-founded by Carson; backed by EA-aligned philanthropy. - **Anthropic** (Organization): Developer of Claude; central to the Pentagon standoff discussed in chapter 12; noted for missionary company culture and safety focus. - **Palantir** (Software): Defense contractor whose Foundry platform integrates AI for military targeting; the heat-map scoring system Carson uses as his primary autonomous-weapons example. - **Regulatory capture** (Concept): The risk that regulated industries co-opt the agencies overseeing them; Carson argues the current informal Silicon Valley network constitutes de facto capture without the accountability a formal agency would provide. - **Probabilistic targeting** (Concept): Replacement of binary combatant/civilian classification with probability scores; Carson argues this launders accountability out of the kill chain and introduces a priori false positives as accepted operational cost. - **Asilomar 1975** (Concept): The scientific moratorium on recombinant DNA research, invoked as evidence that dangerous technologies can be voluntarily halted. - **Office of Technology Assessment** (Organization): Congressional body abolished by Newt Gingrich in 1994; its absence leaves Congress without independent technical expertise. - **DeepSeek** (Organization): Chinese AI lab whose decision to publish methodology openly Carson reads as evidence that Chinese AI companies are distinct from CCP priorities and capable of scientific openness.

Benchmark GP Bill Gurley joins Jason Calacanis, David Sacks, and Chamath Palihapitiya (David Friedberg out this week) for a 95-minute session covering six fronts of the AI debate: Gurley's new theory that Anthropic is not just pursuing regulatory capture but actively "midwifing a deity"; Pope Leo XIV's 235-page AI encyclical and its uncomfortable historical parallel to Leo XIII's 1891 warnings about the industrial revolution; the growing consensus that open-source AI faces a coordinated regulatory crackdown; and the week's sharpest narrative flip — Dario Amodei and Sam Altman both quietly walking back their AI jobs-apocalypse rhetoric while Goldman Sachs CEO David Solomon published a New York Times op-ed declaring the apocalypse overblown. ## [00:00] Bill Gurley joins the show! Bill Gurley, Benchmark general partner and author of *Running Down a Dream*, fills in for David Friedberg and joins live from Chamath's pool house where Jason has been staying. After banter about unauthorized Uber Eats orders on Chamath's house iPad, Jason introduces Gurley as a first-time guest who specifically requested to appear the moment the pod covered the Pope. Gurley plugs his new P3 Institute and a grant program he launched to fund people pivoting toward work they love. He teases a TED talk — rooted in the book's argument that high agency and lifetime learning are the only durable defenses against disruption — which sets the frame for everything that follows. > *"And I told the house manager like, listen, any packages that come in the next 72 hours, right to the pool house, if it says JCAL, right to the pool house."* ## [06:00] Making yourself valuable in the age of AI, first class of "AI Natives" Chamath opens with the question that has been driving the show for 18 months: if you're a young person right now, is AI doom much ado about nothing, or a real career threat? Gurley cites a Gallup poll showing 59% of workers are "quiet quitters" — ambivalent about their jobs and therefore low-agency. His core thesis: the best protection against AI displacement is becoming the most AI-enabled version of yourself in your field. He invokes Mark Cuban's framing — "there are two types of people: those who use AI to learn faster than ever before, and those who use AI to avoid learning altogether." Sacks walks through how the pod's producer Nick built a daily Claude briefing document that not only summarized news but predicted specific topics Sacks would care about based on his prior comments on the show. Sacks had dismissed it as likely AI slop; it was not. Gurley extends the point across every job category: in marketing, legal, accounting, and sales, being the most AI-capable person among your peers makes you "golden," and the early lead compounds. Jason adds that in his own team experiments, the skill separating strong performers from weak ones was systems thinking — could they break a complex problem into context the AI could execute, or did they hand it a task and wait? > *"I think the best way to protect yourself from AI is to be the most AI enabled version of yourself you can be."* ## [17:37] Reacting to Pope Leo's AI encyclical: Who guards the guardians? Pope Leo XIV released *Magnifica Humanitas*, a 235-page, 42,000-word encyclical warning business leaders to safeguard humanity from AI. His central argument: technology is never neutral — it takes on the characteristics of those who build, finance, and control it. Jason reads the core line and notes the Pope presumably does not think highly of Silicon Valley's current roster of builders. Sacks finds himself largely agreeing with the Pope's diagnosis: the biggest risk of AI is centralization of power and its Orwellian misuse by governments. Where he parts ways is on the remedy. Giving government the power to regulate AI development creates its own guardian problem — the American founders' answer to *Quis custodiet ipsos custodes?* was separation of powers, forcing guardians to check each other. Sacks's AI equivalent: a competitive market with five frontier labs is the best natural check; monopolization is the scenario to prevent. Gurley lands the sharpest historical counterpunch. Pope Leo XIII's 1891 encyclical *Rerum Novarum* warned that the industrial revolution would harm workers — and was wrong on every metric. From 1891 to today: the work week fell from 60+ hours to 34, real wages rose 8–10x, the median worker now earns more than a doctor did in 1891, global GDP per capita went from $1,500 to $20,000, child labor in the US dropped from 18% to zero, workplace deaths fell 40x, life expectancy rose 60%, and global poverty dropped from 75% to under 10%. > *"All those things happened because of technology, innovation, and capitalism, which is exactly what Leo the 13th was warning against. So he got it dead wrong. He got the whole thing precisely wrong."* ## [26:54] Anthropic's Digital God: Do they believe they are creating a superior species? Gurley delivers what becomes the most-quoted segment of the episode: his "Dr. Frankenstein theory" of Anthropic. He had previously held a simpler regulatory-capture theory — Anthropic stirs up AI fear to lock in regulation that entrenches incumbents. But after spending 30 days reading everything he could find about the company, he has a darker read. He describes meeting people inside Anthropic who he believes genuinely think they are not writing software but "midwifing a deity." The evidence trail: Anthropic chief philosopher Amanda Askell's podcasts, Chris Olah's 80-page Constitutional AI document, and Dario Amodei's own essay "Machines of Loving Grace," which envisions a post-AGI economy where AI systems allocate resources to humans based on an AI-determined reward function. Chamath calls it "a computational reward function for humans — it decides how much you're worth." Jason calls it "the ultimate delusions of grandeur." Gurley corrects him: he didn't say it, Dario did. Sacks steelmans Anthropic briefly — they probably see themselves as responsible builders who take the power of this technology seriously enough to guard it — then immediately notes this framing is textbook regulatory capture: brand yourself the safe player, characterize competitors as reckless, let regulation shut down the recklessness. Both Sacks and Chamath converge on the structural danger: a singular AI value system that decides how humans live is catastrophically fragile. The answer is decentralization and competing systems, not one algorithmic authority. > *"I don't think they think they're writing software. I think they're midwifing a deity here. And I don't know which one I'm more afraid of — the regulatory capture or this second theory I call the Dr. Frankenstein theory."* ## [38:32] AI sovereignty, the next era of privacy, open-source crackdown coming? Jason introduces "intelligence sovereignty" as the successor to data privacy. Data privacy was about who can see your photos and messages. Intelligence sovereignty is about who gets to interpret your world — whether the AI shaping your information feed is a centralized system with a particular political philosophy, or something you control. He flags the paradox: China's Communist Party is leading the open-weight model movement while the United States is centralizing. Chamath presents his portfolio company Abacus as evidence that Fortune 1000 buyers are responding to this anxiety: they want a control plane that can hot-swap between frontier models, plus on-prem options that remove dependence on any one provider's terms of service. He gives a concrete example — a Canadian hospital that supports its country's euthanasia laws could be shut off by an American frontier model whose constitution prohibits that content. Sacks connects the dots to a regulatory threat he has been watching build: the regulatory-capture playbook leads, in his read, to a ban on open-source or open-weight models. The justification will be safety — open models let users strip guardrails. Gurley reaches the same conclusion in his P3 Institute post. If a ban succeeds, the United States effectively exiles itself from the open ecosystem while the rest of the world — including China — runs on open models. > *"I think where it's all leading to is an effort to ban open source models or open weight models. There's a lot of breadcrumbs leading here."* ## [59:56] The Great AI Jobs Debate: Dario and Sam Altman flip their rhetoric, Goldman CEO says no AI job apocalypse The chapter opens with a news roundup of the week's narrative shift. Cloudflare's Matthew Prince, Zuckerberg at Meta, Jack Dorsey at Block, and Andy Jassy at Amazon all cited AI when announcing major layoffs. But Goldman Sachs CEO David Solomon published a New York Times op-ed with three counterpoints: AI will automate 25% of work hours, not 25% of jobs; bank tellers increased after ATMs; the US labor market creates and destroys 25–35 million jobs annually so gross churn dwarfs net losses. Simultaneously, Fortune reported that Dario Amodei and Sam Altman are both walking back prior doom-and-gloom rhetoric — with Chamath noting the timing cannot be separated from upcoming frontier-lab IPOs that need a jobs-creation narrative. Sacks is unambiguous: he has been making the non-consensus case against the jobs apocalypse for over a year and considers himself vindicated. Yale Budget Lab found no discernible labor-market disruption over three years of the AI wave. Software engineering — the single breakout AI use case — saw job postings rise 15% year-over-year and hit a three-year high. The 4.3% unemployment rate is near record lows. Most of the high-profile layoffs, he argues, are AI washing: CEOs who over-hired during COVID found AI to be a convenient narrative for long-overdue downsizing. The Jack Dorsey / Block 50% cut was immediately flagged by financial analysts as a company that had been overstaffed relative to peers for years — pure AI washing. Jason pushes back. He insists cab drivers, truck drivers, and package-sorters — roughly 20 million American workers — face real structural displacement over the next decade regardless of current aggregate statistics, and accuses the panel of elitism: "We are elite performers. These people are going to lose their jobs and they may not get a job very quickly." He draws a distinction between the short-to-medium term, where he expects acceleration, and the long run, where a Cambrian explosion of startups built by AI-enabled founders creates new categories. By the end, he shifts toward Sacks's territory — acknowledging the aggregate data is less alarming than his anecdotes suggested. Gurley threads the needle with the same historical argument from the Leo XIII discussion: innovation has always, on net, created more prosperity than it destroyed. His practical advice to people at risk: get ahead of your peers on the tools now; if your job is going away, plan your pivot toward trades (he plugs MicroWorks, which provides free scholarships for plumbers, welders, and electricians) or toward something you find genuinely fascinating. > *"I think the best way to protect yourself from AI is to be the most AI enabled version of yourself you can be. Know what it's capable of in your field. Get out there."* ## Entities - **Bill Gurley** (Person): General partner at Benchmark; author of *Running Down a Dream*; founder of P3 Institute; guest filling in for David Friedberg - **Jason Calacanis** (Person): All-In host; angel investor; founder of LAUNCH; argues for worker empathy and short-term displacement risk - **David Sacks** (Person): All-In host; Craft Ventures founder; most vocal critic of AI jobs-apocalypse narrative this episode - **Chamath Palihapitiya** (Person): All-In host; Social Capital CEO; coined "intelligence sovereignty"; co-founder of Abacus - **Dario Amodei** (Person): Anthropic CEO; subject of Gurley's "Dr. Frankenstein theory"; walked back jobs-doom rhetoric this week alongside Sam Altman - **Pope Leo XIV** (Person): Catholic Pope; released *Magnifica Humanitas*, a 235-page AI encyclical warning against technology concentration - **David Solomon** (Person): Goldman Sachs CEO; published New York Times op-ed arguing AI job apocalypse is overblown - **Anthropic** (Organization): Frontier AI lab; subject of Gurley's regulatory-capture and "Dr. Frankenstein" theories; maker of Claude - **P3 Institute** (Organization): Bill Gurley's new policy and philanthropy institute; published post defending open-source AI - **Goldman Sachs** (Organization): Investment bank; CEO's NYT op-ed became the week's anchor data point against the jobs-apocalypse narrative - **Abacus** (Software): Chamath's Social Capital portfolio company; builds on-prem AI hardware stacks for Fortune 1000 enterprises seeking model independence - **Intelligence sovereignty** (Concept): Jason's term for the next frontier of privacy — not who sees your data, but which AI system is allowed to shape your interpretation of the world - **Dr. Frankenstein theory** (Concept): Gurley's characterization of Anthropic's worldview: senior staff believe they are midwifing a deity or superior species rather than writing software, as described in Dario Amodei's "Machines of Loving Grace" essay - **Regulatory capture** (Concept): The strategy of branding oneself the "safe" AI company, amplifying public fear, and lobbying for regulation that locks in incumbents and targets open-source competitors

Fermilab physicist Don Lincoln joins Lex Fridman for nearly three hours to trace physics as a four-century-long project of unification — Newton binding celestial and terrestrial gravity, Maxwell fusing electricity and magnetism, Einstein bending spacetime, and the Standard Model merging three of four forces. Lincoln then turns to what the Standard Model cannot explain: why the universe contains any matter at all, what dark energy really is, and whether dark matter will ever show itself in a detector. Throughout, he holds a clear line between what has been measured and what remains a brilliant guess, making the boundaries of human knowledge unusually concrete. ## [00:00] Introduction Lex Fridman opens by describing Don Lincoln as someone with Richard Feynman's rare gift for stripping complicated ideas down to their essential core without losing the brilliance inside them. The episode is framed as a tour through physics' deepest open questions, guided by a working experimentalist who has spent decades at the frontier. ## [00:49] Unifying the laws of nature Lincoln frames the entire history of physics through one lens: unification. Newton showed that the moon falling toward Earth and an apple falling from a tree obey the same equation — "universal" was the operative word in his law of universal gravity. Maxwell did something structurally identical in the 1860s: electricity and magnetism, which looked nothing alike, turned out to be two faces of a single force, and their equations automatically predicted that light travels at a fixed speed. Lincoln draws the practical line from that abstract discovery to every modern technology — "without being able to govern electricity, we'd still be farmers and shoemakers." The conversation broadens into why fundamental research pays off centuries later, with Lincoln arguing that nuclear physics, incomprehensible in 1900, is now the most potent energy source available to civilization. Lex adds the longer arc — mastery of antimatter or dark energy might one day enable propulsion systems that let humanity reach other star systems. > *"It has spin-offs. And it has spin-offs. One of the big spin-offs is our entire technological society."* ## [15:20] Einstein, special relativity, and general relativity Lincoln walks through Einstein's 1905 miracle year: special relativity rested on two premises — the laws of nature are the same for everyone, and everyone measures the speed of light as identical regardless of relative motion. That second premise sounds absurd but particle accelerators have confirmed it directly, watching photons emitted from fast-moving decaying particles still arrive at detectors at exactly *c*. Minkowski then showed that Einstein's equations implied space and time were components of a single object, spacetime. General relativity took one more step: Einstein noticed that free-fall in a rocket and gravity feel identical, then worked out that gravity is not a force at all but the curvature of spacetime caused by mass. Lincoln credits Minkowski for the mathematical articulation but insists the conceptual leap — *mass bends the geometry of space itself* — was Einstein's alone. He also defends Einstein's late-career skepticism of quantum mechanics as productive rather than blind: Einstein's critiques forced concrete predictions that experimentalists went out and confirmed. > *"We all agree that your idea is crazy, but is it crazy enough?"* ## [32:27] Electroweak force By the 1930s physicists had catalogued four forces: gravity, electromagnetism, the strong nuclear force, and the weak nuclear force. The last two only matter inside atomic nuclei, which is why most people have never encountered them. In the late 1950s and 1960s, Glashow, Salam, and Weinberg showed that electromagnetism and the weak force were the same at high energies — the electroweak force. The catch was obvious: electromagnetism reaches across the universe (we see light from galaxies billions of light-years away) while the weak force barely reaches across a proton. How could they be the same? Lincoln uses a dropped pen to demonstrate: the Higgs field, postulated in 1964 by Peter Higgs and colleagues, permeates all of space. Particles that couple to it gain mass; those that do not, like the photon, remain massless. At the high temperatures of the early universe the Higgs field was zero, so nothing had mass and the forces were unified. As the universe cooled, the Higgs field switched on and broke that symmetry — giving the W and Z bosons mass and splitting the electroweak force into its two familiar components. The vibration of the Higgs field itself is the Higgs boson: an experimentally detectable excitation of an otherwise invisible field. > *"In the Higgs field, the vibration is the Higgs boson. And so what we can do is not see the field, but we can actually excite the field, make it vibrate and detect the vibrations."* ## [44:09] How particle colliders work E=mc² is not just a slogan: kinetic energy can be converted into mass. Smash two particles head-on with enough energy and the collision region can materialize entirely new particles, always in matter-antimatter pairs. This is what colliders do. Lincoln describes the cascade of accelerators at Fermilab — five machines feeding into each other like gears of a manual transmission — and the scale of the LHC's CMS detector (70 feet long, 14,000 tons, photographing collisions 40 million times per second). The data-reduction challenge is equally striking. The LHC produces about a billion proton-proton collisions per second. Fast electronics discard all but 100,000 per second, commercial processors trim that to 1,000, and those 1,000 records are handed to graduate students hunting for the handful that might be Nobel Prize material. Lincoln reserves particular admiration for the engineers who move petabytes of data around the world seamlessly, calling them the unsung heroes of modern physics. > *"Of the 50 million possible collisions per second, the fast electronics and then the computers pick the thousand, and then we pass those through analysis software and hand them to the graduate students."* ## [62:12] Higgs boson discovery Lincoln was simultaneously working at Fermilab's Tevatron and transitioning to CERN's LHC — a physicist wearing two hats and rooting for both. Fermilab had methodically ruled out most possible Higgs mass ranges; by mid-2012 they had narrowed it to between roughly 120 and 145 GeV. Two days before CERN's July 4 announcement, Fermilab confirmed that if the Higgs existed, it had to be in exactly the region Fermilab had not yet been able to rule out. CERN got there first. Lincoln is careful about what the 2012 announcement actually meant: a particle *consistent with* the Higgs boson. Supersymmetry predicted five Higgs bosons rather than one. Only in the years since — measuring spin (zero), decay products (bottom quarks, W and Z, photons), and their rates — has the evidence converged on Peter Higgs's original 1964 prediction. The Higgs was not a revolution like Einstein's work, Lincoln argues, but it was the final punctuation on 50 years of experimental discovery: the Standard Model, while incomplete, is mostly right as far as it goes. > *"It was a punctuation point, end of about 50 years of discovery and searching, where we finally were able to say the Standard Model, while incomplete, it's mostly right as far as it goes."* ## [72:32] Theory of everything The Grand Unified Theory (GUT) aims to merge the electroweak force and the strong force; a Theory of Everything would then fold in gravity. Lincoln is blunt: he does not see fast progress. The unification energy scale is roughly 10¹⁵ times higher than what the LHC can reach, and accelerator energy grows by only a factor of seven every 20 years. Extrapolating that curve suggests 500 years — and Moore's Law does not hold forever. His critique of string theory is not that it is wrong but that it is currently untestable. It uses approximate solutions to approximate equations, and its landscape of possible universes renders it practically unpredictive. Loop quantum gravity is better developed and makes testable predictions — its original claim that light speed should depend on wavelength was ruled out by gamma-ray burster observations, and the theory was revised. Lincoln's preferred path to a ToE is not extrapolating from current theory but making precise measurements of phenomena that already disagree with predictions. His analogy: an Australopithecus in Kenya trying to predict the Alps, Antarctica, and sperm whales from their local savanna — the farther you extrapolate beyond what you can measure, the more the prediction diverges from reality. > *"I think it is the absolute pinnacle of arrogance to think that what we can do — predict it out a quadrillion times higher than we can see now."* ## [102:17] Physics of empty space "Empty" space is not empty. Quantum field theory says every species of particle has a corresponding field that fills all of space, and those fields are always vibrating. When they vibrate in a characteristic way, a real particle appears; off-frequency vibrations are virtual particles — fleeting excitations that have measurable consequences. Two experiments confirm this. The Casimir effect: two metal plates placed micrometers apart are pushed together by the pressure difference between constrained virtual particles inside the gap and unconstrained ones outside. The anomalous magnetic moment: old quantum mechanics predicts one value for the electron's magnetic moment; including the bath of virtual particles surrounding a bare electron shifts the prediction by 0.1% — and that shifted prediction matches measurement to 10 significant figures. > *"We have measured the magnetic properties of both the electron and the muon to 12 — count them — 12 significant figures. And the theory and the data agree number for number for 10 places."* ## [109:41] Antimatter Paul Dirac's 1928 attempt to merge quantum mechanics with special relativity produced an equation with two solutions: +1 was the electron, −1 was something nobody had seen. He insisted the math was right. Carl Anderson confirmed it in 1932 by photographing a positron in a cloud chamber. Today CERN can make and trap antimatter hydrogen, cool it to near absolute zero, agitate it with lasers, and measure its spectral lines — they match ordinary hydrogen exactly. A 2023 experiment released antimatter hydrogen atoms into a bottle and found they fall downward, consistent with normal gravity, though the measurement precision is not yet tight enough to confirm the gravitational strength is identical. The deeper mystery is why the universe is made of matter at all. Counting galaxies versus cosmic microwave background photons, physicists infer that for every billion antimatter particles in the early universe, there were a billion-and-one matter particles. The billions annihilated; that extra one is everything we see. Fermilab is now testing whether neutrinos and antineutrinos oscillate between flavors at slightly different rates — leptogenesis — as a possible mechanism, racing a parallel effort in Japan. > *"For every billion antimatter particles that existed in the universe, there were a billion and one matter particles. The billions canceled, annihilated, destroyed each other, and that extra one that's left over is us."* ## [130:31] Dark energy In 1998, astronomers expected to measure how fast gravity was braking the expansion of the universe. They found the expansion is accelerating instead. The driving force is dark energy — a repulsive form of gravity. Einstein had added exactly this term to his field equations in 1917 to keep the universe static, then removed it when Hubble showed it was expanding. In 1998 it went back in. What dark energy actually is remains unknown. The most common view is that it is the energy density of space itself. The problem is that quantum field theory predicts a vacuum energy density about 10¹²⁰ times larger than what is observed — the worst prediction in physics. Lincoln notes that if dark energy has constant *density* while space expands, total dark energy is growing, which pushes toward the view that space is quantized: new quanta of space appear as the universe grows, each carrying a fixed energy, producing constant density as an emergent property. > *"There is very clearly something going on, something very badly wrong in the quantum field theory."* ## [134:20] Dark matter Galaxies rotate too fast. Galaxy clusters move too quickly. Gravitational lensing of distant galaxies is stronger than visible matter can explain. Three independent observations all point to the same conclusion: there is roughly five times more mass in the universe than we can see. Lincoln traces his own intellectual journey: 25 years ago he suspected the problem was with Newton's laws; two observations changed his mind. The Bullet Cluster — two galaxy clusters that passed through each other — shows gravitational distortions following the galaxies, not the gas clouds that stopped in the middle, exactly what dark matter predicts. The Dragonfly galaxies (DF2 and DF4) rotate exactly according to Newton's laws because they appear to have had their dark matter stripped away — a galaxy *without* dark matter is actually strong evidence that dark matter is real. Despite 30 years of searching with three approaches — direct detection underground, gamma-ray searches near galactic centers, and missing-momentum signals at the LHC — no dark matter particle has been confirmed. The viable mass range spans from sub-electron to asteroid scale, and experiments can only cover one slice of that range at a time, which is why Lincoln is not currently running a dark matter experiment himself. > *"We've ruled out some dark matter particles, but the problem is the range of space of possible mass — it ranges from something like the mass of an asteroid to far lighter than an electron and everywhere in between."* ## [162:56] Future of physics Lincoln grew up poor in rural America, shaped by science fiction and the popular science books of Isaac Asimov, Carl Sagan, and George Gamow. He chose particle physics over cosmology in the mid-1980s because particle physics let him actually measure things. He worked 8 a.m. to midnight Monday through Saturday as a graduate student not out of obligation but because he could not imagine anything he would rather be doing. His science communication — YouTube videos, popular books — is a deliberate attempt to reach the kid in Iowa or Montana who has no highly educated family mentors but the same hunger he had. He has already heard from Fermilab summer interns who came because they watched one of his videos. Lex closes with Marie Curie: *"Nothing in life is to be feared. It is only to be understood."* > *"One of your viewers might be one of the people who answer these questions that have stymied very smart people for decades."* ## Entities - **Don Lincoln** (Person): Senior scientist at Fermilab; co-author on the 1995 top quark discovery paper; CMS collaboration member at LHC; author of *Einstein's Unfinished Dream* and multiple popular science books. - **Lex Fridman** (Person): MIT researcher and host of the Lex Fridman Podcast; conducts long-form interviews at the intersection of science, technology, and philosophy. - **Fermilab** (Organization): U.S. Department of Energy particle physics laboratory near Chicago; operated the Tevatron collider; currently the world's most powerful neutrino beam facility. - **CERN / LHC** (Organization): European particle physics laboratory home to the Large Hadron Collider; CMS and ATLAS detectors; site of the 2012 Higgs boson discovery. - **Standard Model** (Concept): Quantum field theory describing three of four fundamental forces and all known elementary particles; validated to extraordinary precision but does not include gravity or explain dark matter, dark energy, or the matter-antimatter asymmetry. - **Higgs field / Higgs boson** (Concept): A scalar quantum field whose non-zero vacuum value gives mass to the W and Z bosons while leaving the photon massless; the Higgs boson is its detectable excitation, discovered July 4, 2012 at CERN. - **Dark matter** (Concept): Invisible mass accounting for roughly 85% of all matter in the universe, inferred from galaxy rotation curves, cluster dynamics, and gravitational lensing; no candidate particle detected after 30 years of searches. - **Dark energy** (Concept): The repulsive energy driving the accelerating expansion of the universe; quantum field theory's prediction for its magnitude is 10¹²⁰ times larger than observation — the "worst prediction in physics." - **Baryogenesis / Leptogenesis** (Concept): Frameworks attempting to explain why the early universe produced a matter excess; Fermilab's neutrino program is testing leptogenesis by comparing neutrino and antineutrino oscillation rates. - **String theory / Loop quantum gravity** (Concept): Leading candidates for quantum gravity; string theory predicts at energies untestable by a factor of 10¹⁵; loop quantum gravity quantizes space itself and has produced some falsifiable predictions.

David George (a16z general partner) and David Clark (VenCap CIO) argue that AI companies are scaling faster than any prior technology generation — Anthropic and OpenAI are adding more monthly revenue than Meta, Google, or Microsoft — while actual diffusion into the broader economy remains below 5%. They work through what that gap implies for exit sizes, loss ratios, bubble risk, and who ultimately captures value as token costs fall and frontier intelligence becomes a commodity. ## [00:00] Intro Three data points open the episode: Anthropic and OpenAI already adding more revenue per month than any hyperscaler; top-1% exits 10x-ing in 24 months from $10 billion to $32 billion; and David George's assessment that, right now, we are not in a bubble. ## [00:38] The Scale Shift: Anthropic & OpenAI Adding More Revenue Than Hyperscalers David George explains how his priors shifted sharply around November 2025. Before that, enterprise AI looked like a productivity story analogous to cloud adoption. After it, the numbers reframed the ceiling: Anthropic and OpenAI are already adding revenue at hyperscaler rates with less than 5% of the economy actually using these tools. He places an upper-bound frame on the opportunity by noting that Fortune 500 companies generate roughly $2 trillion of profit annually, and the two largest model companies could reach $200 billion revenue run rate by year-end — already equivalent to 10% of that profit pool. > *"If you pair that up with the fact that they're already getting bigger in terms of revenue added than the hyperscalers, and you're at less than 5% diffusion into the economy, I think the outcomes are going to be extraordinary."* ## [04:20] Skeuomorphic vs Native AI Applications in the Enterprise David Clark invokes Chris Dixon's skeuomorphic-to-native arc: the first wave of enterprise AI lets people do existing jobs faster; the native wave restructures the work itself. George adds a wrinkle — the best companies are not yet focused on internal automation. Their top engineers want to build product, not automate back-office workflows. The most cutting-edge firms he visits are still in a "documentation phase," converting institutional knowledge into markdown before they can meaningfully deploy agents against it. > *"The most cutting-edge folks inside those companies who are trying to do this that I've talked to are kind of in the documentation phase — just turn everything into markdown files, have as much context capture as you can possibly get."* ## [06:24] How the Best AI Companies Run Themselves Differently Native AI founders operate on a different metabolism. George contrasts them with the previous SaaS generation, which, in hindsight, ran inefficiently but got away with it because headcount mandates and expanding software budgets covered the slack. The new companies are lean, aggressive, and already running agent swarms rather than typing commands. He describes walking into a cutting-edge AI company and finding researchers whispering into microphones, orchestrating swarms of agents — not a keyboard in sight. > *"The new companies are very lean, very aggressive, and they work all the time."* ## [08:14] Top 1% Exits 10X'd in 24 Months Clark lays out VenCap's tracking data: the threshold for a top-1% exit was $10 billion between 2020-2024, rose to $20 billion by February 2026, and was updated just the day before this recording to $32 billion. With OpenAI and Anthropic IPOs potentially arriving, he sees the bar hitting $100 billion by September. George notes that the combined market cap of these private companies likely already exceeds the entire Russell 2000, and that the sum of all VC-backed IPOs over the past six years is probably smaller than any single one of the three expected large IPOs. > *"Where is the threshold for the top 1%? And if you then think about OpenAI and Anthropic coming in, potentially we could be north of $100 billion by September."* ## [11:17] The Half-Life Problem: Why 40% of AI Leaders Drop Off Every Year Clark surfaces a disturbing churn metric: 40% of companies on the Forbes AI 50 list from one year disappeared the next. Google wasn't the first search engine; Facebook wasn't the first social network. First-mover advantage in AI is eroding faster than in any prior cycle. George confirms a16z's own priors have been repeatedly overturned — first convinced model companies would be everything, then convinced applications would take over, now watching the model companies extend back up into the application layer. The only durable heuristic he offers: a company must be in the token path. > *"From last year to this year, 40% of the companies that were on that list last year dropped off."* ## [13:11] Token Path, Cost Pressure & Who Captures Value Enterprise buyers are already feeling cost pressure from AI spend, and they cannot cover it by cutting previous-generation software budgets fast enough. George frames value capture as hinging on one largely unknowable variable: the market structure of frontier model labs. Two labs at the frontier means higher token prices and faster labor restructuring pressure; five labs means lower prices and a broader application ecosystem. Per-token cost for like-for-like capability is falling more than 10x year-over-year, but total token spending in dollars is rising faster. Clark adds that Chinese LLMs are roughly six months behind US frontier capability but ten times cheaper — a classic innovator's dilemma setup. > *"The biggest driver of where value is going to get captured right now is something that is totally unknowable, which is what is the market structure of the model companies?"* ## [17:00] Loss Ratios, Risk & How We Think About Early Stage Clark notes that historical early-stage VC loss ratios run around 60%, but the AI cohort of the past two years shows single-digit loss rates — unsustainable by definition. George reframes the discussion: a16z does not target a low loss ratio. A VC firm bragging about never losing money is "a horrible data point" — it signals too little risk-taking. The philosophy is to back the market-leading founder in every space with strong tailwinds and a credible technology. If the space works out and you have the leader, excellent. If the space does not work out but you have the leader, that is expected. The failure mode is the space working out while having backed the wrong company. > *"We joke all the time — there's a prominent VC in our ecosystem, and one of his big points of pride is he's never lost money on a deal. And we're like, that's not a point of pride. Like that's a horrible data point."* ## [22:51] Are We in an AI Bubble? Clark points out that classic bubbles are characterized by excess supply destroying economics — but right now the constraint is supply scarcity: no data center capacity available at scale until late 2028 or early 2029, with the US buildout running a year behind schedule and community resistance adding further delay. George is confident there is no bubble today and dismisses the data center opposition directly. The one scenario he would watch for is an unexpected algorithmic breakthrough producing dramatically smaller and more efficient models — which could flip supply from scarce to oversupplied — but he considers that unlikely in the near term. > *"I feel pretty confident saying that we're not in a bubble right now. I'm less confident that we won't be in a bubble three years from now."* ## [27:36] What SpaceX, OpenAI & Anthropic IPOs Mean for Public Markets Clark asks whether public markets can absorb the coming wave of trillion-dollar-plus IPOs. George argues it is unambiguously positive: the number of public companies has halved over 20 years, and outside the data center supply chain, almost nothing in the public markets is growing at more than 30% today. Bringing hypergrowth companies into indexes gives retail investors — including his parents' index-fund retirement accounts — exposure to the most dynamic part of the economy. He expects some portfolio reshuffling to make room, but does not see indigestion risk. > *"If you exclude the data center supply chain stuff right now, there are very few companies that are growing fast that are available for people to buy in the public markets."* ## [29:59] The Future of Venture Capital in an AI World George forecasts the shape of VC over the next five years as primarily a function of token market structure — whether the labs remain concentrated or become commoditized. He cites Bill Gates's platform axiom: a platform's value is validated when the companies built on top of it collectively exceed the platform's own value. If that holds, there will be a massive wave of valuable application companies built on intelligence. He also flags the consumer side as the most underappreciated opportunity: the last decade of consumer internet was a story of time spent getting captured by large incumbents; AI-driven shifts in consumer attention could recreate the conditions for generational consumer companies. > *"I'm very optimistic that we're going to have a massive wave of really valuable companies that get built on top of tokens, AI, and intelligence."* ## Entities - **David George** (Person): General partner at a16z; covers growth-stage and early-stage AI investing; invested in OpenAI pre-ChatGPT - **David Clark** (Person): CIO at VenCap; fund-of-funds investor tracking AI startup performance and VC market dynamics for 34 years - **Anthropic** (Organization): Frontier AI lab; cited as adding more monthly revenue than hyperscalers alongside OpenAI - **OpenAI** (Organization): Frontier AI lab; benchmark for scale and the expected $100B+ IPO cohort - **VenCap** (Organization): Fund-of-funds investor; publishes top-1% exit threshold data and tracks Forbes AI 50 churn - **Andreessen Horowitz / a16z** (Organization): Venture capital firm; investor in OpenAI pre-ChatGPT, scaling platform services to support companies encountering enterprise-scale problems early in their lives - **Cursor** (Software): AI coding tool cited as an example of a company reaching billions in revenue while still very small and early-stage - **Token path** (Concept): a16z's primary heuristic for evaluating AI companies — a company must sit in the flow of AI inference tokens to have durable economic relevance - **Skeuomorphic vs. native AI** (Concept): Chris Dixon's framework distinguishing apps that replicate existing workflows with AI assistance from apps that rearchitect work around AI capabilities natively - **Half-life problem** (Concept): David Clark's term for rapid AI leader turnover — 40% of Forbes AI 50 companies dropped off the list year-over-year — indicating first-mover advantage is eroding faster than in prior technology cycles

At AI Ascent 2026, Neuralink co-founder and president DJ Seo sits down with Sequoia partner Shaun Maguire to lay out exactly where the company stands: 20-plus Telepathy patients controlling computers and robotic arms through pure thought, Blindsight in preclinical testing and potentially cleared for human use by end of 2026, and a first-principles manufacturing philosophy borrowed from Elon Musk that treats surgical robots the way SpaceX treated reusable rockets. DJ argues that the real ceiling of this technology is not cursor control or speech synthesis but direct, uncompressed, multimodal transfer of concepts — AI as a neocortical layer sitting above the human limbic system — and that scale, the same variable that unlocked the LLM era, is the only remaining gate. ## [00:00] Introduction Shaun Maguire opens the session by announcing a two-minute Neuralink patient video before the interview begins, telling the audience to stay on the side because what they are about to watch is proof that the company has already cleared the hardest bar: restoring human agency to people who had lost it entirely. ## [00:21] Telepathy Patient Stories The video narrates four patients whose lives changed after receiving the Telepathy implant. A quadriplegic patient describes moving a cursor with thought alone — "I'm thinking and a cursor is moving on a screen. It blew my mind." An ALS patient who lost the ability to speak regains a digital voice through the implant: "I'm talking to you with my mind." Another patient notes that the implant flipped how his child sees him: "I am not able to do things that other dads can, but now he thinks it's so cool that I can do things that other dads cannot." > *"Before the implant, I was locked in, non-verbal, quadriplegic. Now I control my computer just by thinking and the rewards have been immense for me."* ## [01:06] Convoy Robotics Independence The video shifts to Convoy, Neuralink's assistive robotics team, which is extending BCI control beyond a screen to physical manipulation in the real world. A patient who had been losing motor function moves a robotic arm through its axes using only neural intent: "It was incredible to be able to just gesture with an arm again." A second patient, Kenneth, who was losing his voice to ALS, uses the system's speech synthesis to speak aloud in real time during the video — words generated by his brain signals rather than his vocal cords. > *"Gaining functionality that I thought was gone forever was so incredibly life-changing."* ## [02:04] Blindsight Vision Restore The video previews Blindsight, Neuralink's second product line, designed for patients who have lost both eyes or optic nerve function. An external camera captures the visual scene; the device writes the signal directly into the visual cortex via electrical stimulation, generating phosphenes — artificial pixels of light. A patient named Audrey, asked how it feels, answers simply: "Life-changing." The video closes with the line "all with my mind" spoken over footage of a patient interacting with the world through the restored signal. > *"The future of this technology feels almost unlimited... we are finding ways to apply it across all regions of the brain."* ## [03:10] After Video Reflections DJ Seo, visibly moved after watching the video alongside the audience, speaks first: "We were cracking a lot of jokes before that video, but honestly, that brought tears to my eyes." He describes the work as one of the most inspiring projects in the world — not because of the technical milestone but because the team is giving back capabilities that patients had already grieved as permanently lost. Maguire affirms the sentiment before pivoting to the founding story. > *"This is one of the most inspiring projects in the world. It's incredibly difficult what they're doing and I mean, they're truly saving people."* ## [03:31] Origin Story And AI DJ traces Neuralink's founding insight to a single bottleneck: the mismatch between human output bandwidth and AI capability. In 2016, saying that out loud "sounded insane," but the logic has not changed. His personal path ran through a childhood fascination with the brain, undergraduate work at Caltech building miniaturized low-power electronics, and a Berkeley PhD focused on shrinking lab-grade neural systems down to something deployable. When he met Elon Musk near the end of his PhD, the scale and ambition of the project made refusal impossible. He frames the brain as "the most interesting compute that we all carry" and "the only form of general intelligence that we know to date." > *"Really the key insight back then was sort of the IO bottleneck between the human output and AI capabilities."* ## [06:31] Scaling And Vertical Integration Maguire presses on what smart people most misunderstand about Neuralink: many know the implant and the decoding algorithm, but almost nobody grasps the manufacturing and surgical-robot infrastructure the company built in parallel from day one. DJ attributes this to what he calls "Elon magic" — an insistence on vertical integration that gives Neuralink control over every layer from chip design to factory floor to robotic surgery deployment. The target is not a niche medical device; it is LASIK-scale surgery available to millions. Building that capacity first means progress looks slow until "the iceberg pops over the waterline" and ramp becomes near-instantaneous. > *"Vertical integration is something that is really the lifeblood of Neuralink and Elon companies and what really enables us to have that fast iteration loop from design, develop, deploy."* ## [09:27] Caregivers And Purpose Asked which patient story inspires him most, DJ refuses to pick one — the power, he says, is not only in the patients but in the caregivers: Nolan's mother Mia, Brad's wife Tiffany, Ken's wife Cheryl. He describes their presence as "a really powerful human story of love, sacrifice, and resilience." He then takes what he calls a philosophical tangent: his core belief is that fulfillment comes from helping others, because the gap between self and other is not categorically different from the gap between your present and future selves. That belief is what he says keeps him and much of the Neuralink team going — they are "igniting a fire of hope" for people who had given up on recovering what they lost. > *"I personally and as well as many others at Neuralink find extreme fulfillment being able to help those that really cannot help themselves."* ## [13:10] BCIs Meet AI Future Maguire asks the room's core question: how do BCIs and AI converge? DJ sketches a two-horizon answer. Near term, the system translates neural intent into legacy interfaces — keyboard, mouse, language — which is already working. The real breakthrough, which he thinks is "not super distant," is bypassing those legacy interfaces entirely and computing on raw neural intent. He points to transformer architectures as existence proofs: nothing prevents them from learning the latent manifolds of neural data given sufficient scale. Neuralink is already fine-tuning LLM-class models on neural recordings from its 20 participants and finding "very counterintuitive" patterns. The ultimate ceiling he names is "direct, uncompressed, high-fidelity, multimodal transfer of concepts" — the Matrix's "I learned kung fu" moment and possibly beyond it. He also shares what he calls a clarifying lesson from working with Musk: "all green light schedule" — a first-principles forcing function that strips every man-made bottleneck and asks how fast something could actually be built if every light were green. His estimate is that 80–90% of perceived constraints in hardware development are artifacts of convention, not physics. > *"I think if you really think about the ultimate ceiling of this technology, it's really direct uncompressed high fidelity and multimodal transfer of concepts."* ## [21:05] Audience Q&A Wrap Three audience questions in the final four minutes. On product sequencing — when to go deep versus expand — DJ explains the "beachhead and expand" strategy: build everything generalizably enough from the start so that regulatory approval for motor cortex becomes a template for visual cortex and beyond. The first approval is the hardest; every subsequent one rides the clinical safety record already established. On augmentation for healthy users, DJ frames everything around benefit-risk: the calculus is obvious for quadriplegic patients; for otherwise healthy users it remains unclear, but he notes that off-label use after approval is legally available to anyone who can find a neurosurgeon and pay out-of-pocket. On the hard problem of consciousness, he gives a pointed one-liner: if you can inject new senses and measure the subjective response quantitatively, you may have a pathway toward measuring consciousness itself. Maguire closes by calling Neuralink "one of the most inspiring companies in the world." > *"If you are able to inject new senses, there may be ways to quantitatively understand that."* ## Entities - **DJ Seo** (Person): Co-founder and president of Neuralink; PhD in miniaturized electronics from Berkeley; joined after meeting Elon Musk near the end of his doctorate - **Shaun Maguire** (Person): Partner at Sequoia Capital; host of the AI Ascent 2026 fireside session - **Elon Musk** (Person): Co-founder of Neuralink; originator of the "all green light schedule" and vertical integration philosophy carried across Tesla, SpaceX, and Neuralink - **Neuralink** (Organization): BCI company founded in 2016; products include Telepathy (motor prosthesis) and Blindsight (vision restoration via visual cortex stimulation) - **Telepathy** (Software): Neuralink's first commercial product; allows paralyzed patients to control computers and robotic devices through neural intent decoding - **Blindsight** (Software): Neuralink's second product line; restores vision for patients with total loss of eyes or optic nerve by writing directly to the visual cortex; in preclinical testing as of mid-2026 - **IO Bottleneck** (Concept): The mismatch between human output bandwidth (speech, typing, gesture) and AI processing capability; the founding problem Neuralink was built to solve - **Neural Foundational Model** (Concept): LLM-class transformer models fine-tuned on neural recording data; Neuralink is building these at 20-participant scale and observing counterintuitive patterns in neural latent space - **All Green Light Schedule** (Concept): Elon Musk's first-principles engineering discipline — strip every man-made constraint and ask what physics alone limits; DJ estimates 80–90% of hardware delays are conventional, not physical

Dan Shipper, CEO of Every, delivers a day-zero vibe check on Opus 4.8, arguing Anthropic could have called it Opus 5. The model jumps 30 points past Opus 4.7 on Every's Senior Engineer benchmark, edges out GPT-5.5, tops their internal writing tests at 79.6 vs. 73, and is the first model to produce a genuinely good one-shot slide deck. Two catches temper the enthusiasm: performance degrades sharply below "extra high" reasoning, and the Claude desktop app remains cluttered compared to Codex. ## [00:00] What is Every Every is a 30-person applied AI lab for the future of work—part media outlet, part product studio. Dan opens by explaining the subscription (writing, courses, AI-built tools all in one place at every.to) before rolling into the Opus 4.8 assessment. The plug is brief and context-setting: the team has had beta access for a week, and the rest of the video is what they found. > *"Every is the only subscription you need to stay at the edge of AI."* ## [01:07] Anthropic Is Back: The Headline Case for Opus 4.8 Dan had largely abandoned Claude after Opus 4.7—slow, hard to love, and outpaced by Codex and GPT-5.5 in day-to-day use. Even the most loyal Claude users at Every had started routing work elsewhere. Opus 4.8 breaks that pattern: it scores 63 on Every's Senior Engineer benchmark (30 points above Opus 4.7, one point above GPT-5.5), tops their writing tests, and produced the first one-shot slide deck Dan has called genuinely good. Kieran Klaassen, Every's GM, called it "the most human model he's worked with." The one persistent friction is the Claude desktop app itself. Codex is fast, focused, and ships a clean harness; the Claude app still feels like a product built by three separate teams—chat tab, code tab, co-work tab, each with its own feel. Dan is now splitting time between both apps, which he was not doing before. > *"But honestly, they could have called it Opus 5 cuz this is a really great model."* ## [05:02] Reach Test: Paradigm Shift Ratings from the Every Team Every's reach test asks one question: do you actually open this model when work gets hard? Dan rates Opus 4.8 gold/green—paradigm-shift quality, docked one notch because the Claude app harness is only "okayish to pretty good." Kieran, who runs 50 agents a day, gives a straight gold paradigm-shift, one of the rarest grades the team has assigned. Katie Parrot, a senior staff writer and historical Claude fan, lands at green, splitting her work between Opus 4.8 and Codex. > *"It's very rare to give a paradigm shift grade to a model. So I would pay attention to this."* ## [06:32] Benchmarks: Coding and Writing Numbers On coding, Opus 4.8 hits 63 on the Senior Engineer benchmark—the test feeds the model a vibe-coded codebase and asks it to rewrite from first principles, then scores against two human senior engineers who completed the same rewrite (typically scoring in the 80s–90s). GPT-5.5 sits at 62. On Kieran's LFGbench (real-world tasks: SaaS build, e-commerce site, 3D game landscape), the model writes readable code that bridges technical competence and creativity—the "cozy island" 3D scene is notably richer and more vibrant than GPT-5.5's output. On writing, Opus 4.8 scores 79.6 out of 100 on Every's internal benchmark (intro writing, promo emails, mid-piece paragraphs); GPT-5.5 scores 73. The gap is mainly in AI tells: at high and extra-high reasoning settings, Opus 4.8 produces prose that sounds less like a model. It matches a writer's voice from a single paragraph of context better than any other model Dan has tested. > *"Opus 4.8 scores a 79.6 out of 100 on the writing benchmark. GPT 5.5 is 73."* ## [08:57] Emotional Intelligence, Knowledge Work, and the Verdict Dan uses the model for interpersonal and management work—talking through decisions, pressure-testing his own framing. Opus 4.8's thinking traces show it genuinely cycling through permutations before responding, which makes it feel less like a sycophant and more like a useful counterpart. On knowledge work, it's versatile: code and writing coexist cleanly in a single thread, and the slide deck result is the first one-shot deck Dan would actually send to someone. The verdict: if you're a Claude fan, this model delivers. If Codex converted you, add Opus 4.8 as a parallel tool for writing and knowledge work—it's worth the context switch. The harness gap is real, but the model itself is a banger. > *"If you've been converted to Codex, I highly recommend you at least add it as part of your arsenal."* ## Entities - **Dan Shipper** (Person): Co-founder and CEO of Every; presenter and primary evaluator of Opus 4.8. - **Kieran Klaassen** (Person): GM of Kora at Every; gave Opus 4.8 a straight gold paradigm-shift rating on the reach test. - **Katie Parrot** (Person): Senior staff writer at Every; rated Opus 4.8 green, split between it and Codex. - **Every** (Organization): Applied AI lab and media subscription company focused on AI for the future of work. - **Anthropic** (Organization): Developer of Claude and Opus 4.8. - **Opus 4.8** (Software): Anthropic's latest Claude model; subject of the vibe check. - **GPT-5.5** (Software): OpenAI model used as the primary performance comparison across all benchmarks. - **Codex** (Software): OpenAI coding agent; praised for its clean desktop harness and used as the daily-driver counterpoint to Claude. - **Senior Engineer Benchmark** (Concept): Every's proprietary coding benchmark—rewrites a vibe-coded codebase from first principles and scores against human engineers. - **LFGbench** (Concept): Kieran Klaassen's real-world coding benchmark covering SaaS, e-commerce, and 3D scene generation tasks.

Инвестор из Shark Tank Kevin O'Leary и сооснователь Young Turks Cenk Uygur на протяжении 103 минут разбирают три темы: освободит ли ИИ американскую экономику или уничтожит её, почему война США с Ираном затягивается несмотря на очевидный выход из неё, и у кого реальные шансы победить в 2028 году. O'Leary неизменно держит сторону оптимистов — ИИ создаёт новые рабочие места, рынок всегда приспосабливается, главная угроза — Китай. Uygur гнёт единый тезис: сочетание массовой ИИ-безработицы и внешней политики, продиктованной израильским лобби, ведёт Америку на айсберг — и никакого плана на этот счёт у власти нет. ## [00:00] Вступление Первые секунды сразу задают ставки. Uygur открывает без прелюдий: компании наперегонки увольняют 10–25% сотрудников ради конкурентного преимущества, а если вся экономика делает это одновременно — результатом станет депрессия, а не рецессия. O'Leary отвечает: «Вау. Jake — настоящий нытик. Это же невероятная возможность, о которой мы говорим» — тон, который не изменится следующие час сорок. Steven Bartlett обозначает свою цель: добраться до истины через столкновение двух серьёзных противоположных точек зрения, а не через перепалку. > *«Все наперегонки увольняют от 10 до 25% своих сотрудников, но 10% безработица станет худшим, что случалось на нашей памяти».* — Cenk Uygur ## [02:35] Почему 7 из 10 американцев выступают против дата-центров ИИ Steven Bartlett открывает данными опроса: 7 из 10 американцев против дата-центров ИИ у себя в регионе. O'Leary называет конкретного виновника: через аудиторов и отчётность по форме IRS 990 он отследил китайские деньги, которые через сеть Arabella — при посредничестве Neville Singum — перекачивались в антидата-центровые кампании в Юте вплоть до угроз в адрес его руководителей. Девяносто страниц IP-данных он передал в Белый дом. Uygur отметает версию о Китае и переходит к более простой претензии: дата-центры взвинтили цены на электроэнергию для церквей, библиотек и общественных центров — как случилось в Вирджинии, — а строящие их компании обязаны либо обеспечивать себя собственной генерацией, либо передавать обществу долю в прибыли. > *«У меня неопровержимые доказательства того, что китайцы вмешиваются везде, где в Америке предлагается строительство новых энергообъектов, — в каждом штате, в каждом городе».* — Kevin O'Leary ## [07:24] Как ИИ может спровоцировать коллапс и кризис безусловного базового дохода Здесь Uygur разворачивает свой главный экономический аргумент. Проблему роста тарифов он признаёт и говорит: любой дата-центр, тянущий из общей сети без компенсации, — корпоративное паразитирование. Bailout 2008 года — образцовый пример того, как делать не надо. Главная его тревога — массовая безработица: компании в совокупности, сокращая по 10–25% штата, убьют потребительский спрос и запустят депрессию. Sam Altman, Elon Musk и Dario Amodei публично признавали, что масштабное вытеснение с рынка труда неизбежно, — однако ни одно правительство к этому не готово. O'Leary возражает: каждая технологическая волна за 200 лет истории США создавала больше возможностей, чем уничтожала; приостановить ИИ-разработки — значит отдать лидерство Китаю. > *«Когда мы врежемся в айсберг, мы не будем готовы, и это станет эпической катастрофой. Не будет никого, кто купит ваши товары, потому что работники — они же покупатели».* — Cenk Uygur ## [15:30] Скрывают ли основатели ИИ-компаний реальные риски от общества? Steven Bartlett зачитывает официальные высказывания: Sam Altman в 2021 году — ИИ заменит большинство профессий; Musk в 2024-м — вероятно, ни у кого из нас не будет работы; Amodei в 2025-м предупреждал, что ИИ может уничтожить половину всех начальных позиций белых воротничков за пять лет и поднять безработицу до 20%. Вопрос: если создатели этих систем сами говорят об ущербе для общества, почему считать, что они преувеличивают? O'Leary извлекает вторую часть высказывания Amodei: без наращивания вычислительных мощностей за шесть месяцев Deepseek из Китая догонит. Реальный выбор — возглавить перемены или уступить их Пекину. Uygur соглашается: гонка неизбежна. Но кодеры, которых увольняют прямо сейчас, уже столкнулись с айсбергом, а безусловный базовый доход в 36 тысяч долларов в год — жестокое падение для тех, кто зарабатывал 120 тысяч. > *«Можем ли мы провести эту гонку так, чтобы это было ответственно и действительно служило американским избирателям и гражданам, а не только топ-менеджерам и акционерам ИИ-компаний? Я надеюсь, что да, но мы не сделали к этому ни единого шага».* — Cenk Uygur ## [23:55] Можно ли вообще создавать ИИ ответственно? Steven Bartlett требует конкретики в вопросе ответственной разработки ИИ. Uygur ставит системный диагноз: легализованная коррупция — Citizens United, Buckley v. Valeo — гарантирует, что та ИИ-компания, которая больше жертвует на выборы, получит нужное регулирование. Конгресс работает на доноров, а не на избирателей. O'Leary возражает: уволенные сейчас должности по большей части были набраны авансом, с запасом, а ИИ-компании сжигают миллиарды, а не складывают в карман. В пример — его дата-центр в Юте: 4000 строительных рабочих мест на девять лет, ещё 2000 инженерных вакансий, ни одного акра сельхозземли не затронуто. На предупреждения Uygur о социализме O'Leary реагирует скептически: поднимите налоги выше 50% — и богатые переберутся в Монако или Флориду, французы это уже проходили. > *«Если нет — придут с вилами. Я не сторонник вил. Я верю в ненасилие и всегда буду верить. Но люди не понимают, какой уровень злости сейчас накоплен».* — Cenk Uygur ## [32:11] Как ИИ незаметно уничтожает рабочие места Steven Bartlett делится личным опытом: он теперь отбирает начинающих сотрудников почти исключительно по владению ИИ-инструментами, потому что такой джуниор работает в 5–10 раз продуктивнее — кандидаты без этого навыка фактически выбывают из конкуренции. O'Leary не соглашается: инженеры нужны для решения задач, а не для написания кода, ИИ просто ускоряет инструмент; большинство увольнений в технологическом секторе — коррекция раздутых штатов, а не вытеснение ИИ. Uygur отклоняет это: аналитики с Уолл-стрит встречают аплодисментами каждое объявление о сокращениях, называя их «синергией», акции растут, когда людей увольняют, и никто на этих звонках о прибыли не спрашивает, кто будет покупать товары, когда работников не останется. Он указывает и на недооценённый риск: большое число безработных молодых мужчин исторически коррелирует с ростом преступности и конфликтами. > *«Когда много безработных молодых мужчин слоняется без дела, обычно ничего хорошего не происходит. Начинаются войны, растёт преступность. Мы должны быть готовы».* — Cenk Uygur ## [37:35] Почему массовая безработица может наступить быстрее, чем ожидается Steven Bartlett рассказывает о визите в робототехнический акселератор в Сан-Франциско: каждая команда переключилась с программного обеспечения на физических роботов, потому что интеллект — прежде самая редкая и дорогая составляющая — теперь стоит копейки. Он спрашивает обоих гостей, в чём они могут ошибаться. O'Leary отказывается рассматривать сценарий безработицы и переключается на постоянную лунную базу NASA и программу освоения Марса как источники сотен тысяч высокооплачиваемых рабочих мест. Uygur называет это «проблемой interregnum»: даже если через 20 лет оптимистичный сценарий O'Leary сбудется, 61-летний рабочий на конвейере в Кливленде не сможет переучиться в инженера марсианской программы. Steven Bartlett добавляет: гендиректор Uber конфиденциально сказал ему, что ИИ заменит 9,4 миллиона его водителей, — а на вопрос, чем те займутся, ответил: «Не знаю». > *«Роботические комплектующие существуют уже десятилетия. Они всегда были. Чего нам не хватало — и что было дорогим — это интеллект».* — Steven Bartlett, цитируя своего сооснователя ## [46:32] Реклама Рекламный блок: Stan (ИИ-инструмент для контента в соцсетях), Pipedrive (CRM) и Cometeer (кофе). Содержательной дискуссии нет. ## [48:40] Что на самом деле происходит между Израилем, Ираном и Ближним Востоком Дебаты переходят к геополитике. Steven Bartlett приводит падающий рейтинг одобрения Trump и просит Uygur объяснить войну. Ответ Uygur занимает почти 25 минут и держится на одном тезисе: война служит 100% интересам Израиля и 0% интересам Америки. Он прослеживает механизм: семья Adelson — 317 миллионов долларов в предвыборные кампании Trump. Израильское лобби финансирует 94% конгресса, AIPAC — крупнейший жертвователь на протяжении всей карьеры Trump, Biden, Hakeem Jeffries, Chuck Schumer и Mike Johnson одновременно. С 11 сентября Израиль фактически передал Америке ведение семи войн — Иран стоял последним в этом списке. У Ирана, указывает Uygur, никогда не было носителей, способных достичь США; обогащение урана не превышало 60% (оружейный порог — 90%); бывший Великий аятолла издал фетву против ядерного оружия. Тем временем Израиль занял юг Ливана, намерен его удержать, и Netanyahu публично выдвинул как условие мира исключительное право Израиля продолжать удары по Ливану — что делает любое соглашение невозможным. O'Leary описывает иранский режим иначе: 150 тысяч человек терроризируют 90 миллионов уже 60 лет; такому правительству нельзя давать ядерное оружие; потребность Китая в открытом Ормузском проливе в конечном счёте заставит Пекин надавить на Тегеран. > *«100% в интересах Израиля, 0% в интересах Америки. Надо уходить оттуда. Прекратить воевать вместо Израиля и вернуться домой».* — Cenk Uygur ## [01:11:59] Просчитался ли Trump с продолжительностью конфликта? Steven Bartlett напрямую спрашивает O'Leary, недооценил ли Trump масштаб конфликта. O'Leary называет происходящее первой настоящей «технологической войной»: дроны из углеродного волокна стоимостью 35 тысяч долларов с газонокосилочными двигателями перехватываются американскими ракетами ценой 1,2–3 миллиона — ценовая асимметрия, обнажающая вычислительный разрыв, который Америке необходимо закрыть. Вторжения наземными силами он не ждёт — только продолжение воздушного давления, пока руководство Ирана не просчитает, что цена блокирования пролива — 210 миллионов долларов в день потерянных доходов — превысит выгоду. Его прогноз: Китай вынудит стороны к сделке до промежуточных выборов в США. > *«Это дорого, потому что мы на неправильной стороне обороны. Нам нужны дешёвые дроны».* — Kevin O'Leary ## [01:15:47] Реклама Рекламный блок: Pipedrive (CRM) и Diary of a CEO Conversation Cards. Содержательной дискуссии нет. ## [01:18:08] Почему терпение Америки стремительно иссякает Steven Bartlett указывает на рычаг давления: если руководство Ирана знает, что у Trump есть месяцы до промежуточных выборов, а затем и до 2028 года, зачем договариваться сейчас, а не выжидать ослабления противника? O'Leary добавляет второе ограничение: верховный лидер Китая тоже нуждается в открытом проливе, чтобы держать экономику и власть, — значит, Иран служит двум хозяевам. Uygur утверждает: договор уже написан — Иран передаёт высокообогащённый уран международным наблюдателям, США снимают блокаду, пролив открывается. Каждый раз это срывается после звонка Netanyahu к Trump: добавляются новые невыполнимые условия — немедленное разоружение, вступление Ирана в Авраамские соглашения. Каждый политик, публично выступивший против недавнего почти заключённого соглашения, получал от израильского лобби более миллиона долларов. Uygur расширяет тезис до глобального масштаба: пока Россия истекает кровью на Украине, а Америка — в Иране, Китай строит дороги и мосты по всей Африке и Латинской Америке — не тратя ни цента на войну и приобретая влияние контрастом. > *«После каждого разговора с Netanyahu Trump переходит от "у нас будет мир" к "мира не будет, и появятся эти новые невозможные условия". Это уже случалось раз шесть».* — Cenk Uygur ## [01:29:08] Мы наблюдаем подъём социализма в реальном времени? Steven Bartlett приводит данные Gallup: положительное отношение американцев к капитализму на историческом минимуме; 70% демократов позитивно оценивают социализм; 62% молодых американцев — за социализм. И это до того, как экономические последствия войны в полной мере дали о себе знать. O'Leary видит цикличный феномен: каждые 17–20 лет США заигрывают с социалистическими настроениями, и всё неизменно рассыпается, когда молодые идеалисты получают первую зарплату и видят строку «налоги». Он замечает: 52 цента каждого доллара суверенных фондов в мире идут в Америку, а не на Кубу и не в Россию. Uygur отвергает саму постановку вопроса: Америка уже практикует социализм — для корпораций: субсидии нефтяникам, отказ от переговоров по ценам на лекарства для Medicare, каждая отрасль захватила своего регулятора через пожертвования на выборы. Настоящая задача — вернуться к реальному свободному рынку, а для этого сначала нужно вытащить деньги из политики. > *«Нам повезло бы вернуться к капитализму, не говоря уже о движении к социализму, потому что прямо сейчас у нас нет капитализма. У нас — кумовской капитализм».* — Cenk Uygur ## [01:34:06] У кого реальное преимущество на следующих президентских выборах? O'Leary отказывается называть победителя, но говорит: демократам нужен умеренный центрист; Калифорнию он приводит как пример провала прогрессивного управления. Uygur удивляет его конкретным прогнозом: Tucker Carlson — единственный республиканец, способный победить в 2028 году. Энтузиазм республиканских избирателей уже разрушен, промежуточные выборы потеряны, а к 2028 году совокупный эффект ИИ-безработицы и иранской войны проявится в полной мере. O'Leary сначала смеётся, потом берёт слова обратно прямо в эфире: у Carlson огромная аудитория в соцсетях, собственная медиасеть, и он занимает всё более независимые позиции — в том числе по ИИ. Uygur завершает, называя Rohana наиболее вероятным победителем среди прогрессивных кандидатов на общенациональных выборах, и выступает за демократический капитализм — частные рынки, сдерживаемые функционирующей демократией; Северная Европа как работающая модель, — в противовес нынешнему корпоративизму и тому социализму, которого все боятся. > *«У них есть только один человек, который может победить, и меня это беспокоит, — это Tucker Carlson. Если Tucker выйдет на праймериз у республиканцев, он точно их выиграет. Цитируйте меня».* — Cenk Uygur ## Сущности - **Kevin O'Leary** (Персона): инвестор Shark Tank, председатель O'Leary Ventures; утверждает, что ИИ создаёт возможности, защищает строительство дата-центров, отслеживает антиИИ-активизм до китайского финансирования и прогнозирует, что Китай вынудит Иран к сделке до промежуточных выборов в США. - **Cenk Uygur** (Персона): сооснователь Young Turks, прогрессивный комментатор; утверждает, что к ИИ-безработице никто не готов, внешняя политика США диктуется израильским лобби, а политическая система страны развращена легализованной коррупцией. - **Steven Bartlett** (Персона): ведущий Diary of a CEO, предприниматель и инвестор; модерирует дебаты и вносит собственный опыт в найме и наблюдения из робототехнической лаборатории, которые заземляют дискуссию в реальном бизнес-контексте. - **AIPAC / израильское лобби** (Организация): названы Uygur крупнейшим пожизненным донором большинства высокопоставленных американских политиков обеих партий; центральный элемент его тезиса о том, почему война США с Ираном продолжается несмотря на готовность соглашения. - **Arabella / Alliance for a Better Utah** (Организация): сеть, которую O'Leary обвиняет в финансировании через китайские структуры антидата-центровых дезинформационных кампаний в штатах США; источник — отчётность IRS 990. - **UBI (безусловный базовый доход)** (Концепция): предлагаемая социальная сеть для работников, вытесненных ИИ; Uygur указывает, что даже оптимистичные 36 тысяч долларов в год — катастрофическое падение доходов для тех, кто зарабатывал 120 тысяч. - **Ормузский пролив** (Концепция): через него проходит 48% энергетического импорта Китая; его закрытие раскручивает глобальную инфляцию, и открытие пролива — ключевой американский интерес в любой сделке с Ираном. - **Deepseek** (Программное обеспечение): китайская языковая модель; O'Leary и Amodei приводят её как доказательство того, что любая пауза в американской ИИ-разработке передаёт Китаю решающее преимущество уже через несколько месяцев. - **Tucker Carlson** (Персона): бывший ведущий Fox News, ставший независимым медиафигурой; Uygur предсказывает, что он — единственный жизнеспособный республиканский кандидат в 2028 году, и O'Leary в итоге не отвергает этот прогноз. - **Демократический капитализм** (Концепция): предпочтительная экономическая модель Uygur — частные рынки, сдерживаемые функционирующей демократией; он противопоставляет её нынешнему американскому корпоративизму и европейской разновидности социализма. - **Rohana** (Персона): прогрессивный политический деятель, которого Uygur неоднократно упоминает как единственного, кто занимается политикой по ИИ-безработице, и наиболее вероятного кандидата 2028 года, близкого к принципам демократического капитализма.

Sarah Guo беседует с Maxim Bar Kogan, сооснователем и CEO Onyx Security, о том, что в действительности требуется для защиты ИИ-агентов в корпоративной среде. Maxim утверждает: традиционные инструменты контроля — прокси, ограничения прав доступа, ручная проверка — перестают работать, когда число действий агентов растёт экспоненциально. Единственный жизнеспособный путь — обучать специализированные малые модели, умеющие решать, когда нужно передать решение более мощному надзорному уровню. Разговор касается продукта Onyx «secure control plane», математики cost-latency при обучении кастомных моделей, того, почему лаборатории не могут сами сертифицировать безопасность своих же моделей, и убеждённости Maxima в том, что AGI неизбежен, а независимый надзор за ИИ станет бизнесом на сотни миллиардов долларов. ## [00:00] Вступление Maxim начинает с середины мысли: чем активнее корпорации используют ИИ-агентов, тем больше вероятность вредоносных действий — случайная публикация учётных данных, несанкционированные сетевые вызовы, необратимые операции. Компании уже понимают: волну внедрения не остановить. Чего им не хватает — инструмента, который отличает легитимное действие агента от нелегитимного. Этот фрагмент формулирует ключевой тезис Onyx ещё до вступительных титров. > *"Корпорации начинают осознавать, что этот риск растёт экспоненциально, и остановить внедрение невозможно. Теперь им просто нужно что-то сделать, чтобы снизить вероятность того, что действия агентов окажутся нелегитимными или ошибочными."* ## [00:45] Знакомство с Maxim Bar Kogan Sarah представляет Maxima как сооснователя и CEO Onyx Security — израильского стартапа, в котором работают исследователи, математики и инженеры. Компанию описывают как команду, строящую агентов для надзора за ИИ-агентами. Onyx сочетает экспертизу в наступательной кибербезопасности с глубокими исследованиями в области ИИ — синтетических данных и механистической интерпретируемости. ## [01:10] AutoGPT и ставка на действия агентов Два года назад главным риском в корпоративной безопасности считался DLP для чат-ботов — сотрудники вставляли конфиденциальные данные в ChatGPT. Эта картина рассыпалась, уступив место тревоге из-за автономных действий агентов. Maxim отсчитывает ставку Onyx от AutoGPT: первого агента, где LLM сам решал, что делать, вызывал инструмент и циклически повторял процесс — вместо того чтобы просто генерировать текст. Демонстрация доказала, что агенты могут самостоятельно действовать в реальном мире, и Maxim сразу понял: кто-то должен контролировать эти действия в масштабе. > *"AutoGPT дал волю воображению — нашему и всех остальных, — потому что это был первый по-настоящему автономный агент на LLM: агент, который не генерировал текст, а решал, что делать, и получал API-доступ, чтобы это сделать."* ## [05:17] Что делает продукт Onyx Onyx решает две задачи: обучает модели и строит агентов для надзора за другими агентами, упаковывая эту возможность в «secure control plane» — слой управления, который корпорации встраивают в свой ИИ-стек. Control plane в реальном времени проверяет легитимность действий агентов, балансируя latency, стоимость и надёжность. Долгосрочное видение Maxima выходит за рамки корпоративной безопасности: любой компании, запускающей ИИ-агентов, нужна независимая сторона, которая сертифицирует их действия. > *"Число этих действий растёт экспоненциально. То, что казалось полезным раньше, — человек в петле управления — при ста-, тысяче-, миллионократном росте числа действий просто не сработает."* ## [07:47] Состояние развёртывания в крупных корпорациях В типичной крупной корпорации сегодня Maxim видит три категории ИИ: low-code SaaS-автоматизации (drag-and-drop, не по-настоящему автономные), агенты собственной разработки или для работы с клиентами, а также автономные агенты для написания кода. На долю последних приходится уже более 50% ИИ-использования. Наиболее зрелые отрасли — финансовые услуги и здравоохранение — внедрили самые строгие ограничения, но даже самые осторожные компании перестали полностью запрещать ИИ и перешли к управлению рисками. > *"Более 50% — это автономные агенты и ассистенты для написания кода в среднестатистической корпорации."* ## [09:58] Защита агентов Корпорации уже тратят порядка 100 миллиардов долларов в год на безопасность — защиту конечных точек, сетей, облака, идентификации. Sarah спрашивает, насколько это применимо к безопасности агентов. Ответ Maxima: почти никак. Управление идентификацией — самый базовый уровень — ломается, потому что агентам нужны широкие динамические разрешения, которые невозможно задать заранее. Агент, пишущий код по всему репозиторию или отправляющий письма от имени топ-менеджера, не может работать в узком заранее определённом контексте разрешений, как статический программный процесс. Уязвимая поверхность — это намерение, а не доступ, а существующие инструменты не умеют читать намерения. > *"С автономными ИИ, с этими ассистентами и агентами для кода — просто невозможно заранее знать, какие разрешения им давать."* ## [12:45] Почему прокси не работают У Sarah — интуиция из её опыта в безопасности: это похоже на задачу для прокси с более умным движком политик. Maxim соглашается, что прокси работают как точка интеграции в ряде архитектур, но не решают главного. Прокси даёт доступ к потоку данных — но не определяет, является ли конкретное действие в этом потоке легитимным. Для такого суждения нужно понимать контекст: цель агента, его историю, что именно разрешила корпорация. Ни один движок правил не умеет оценировать произвольное поведение агентов в таком разрезе. > *"Главная задача — понять, допустимо ли то, что я собираюсь сделать прямо сейчас. Применительно к ИИ-системам — это и есть по-настоящему сложный вопрос."* ## [14:11] Почему Onyx обучает собственные модели Очевидное решение — использовать Claude Code для мониторинга Claude Code — разбивается о стоимость и задержку. Запускать frontier-модель-агент для каждого корпоративного агента значит сделать уровень безопасности дороже, чем сам защищаемый ИИ. Ответ Onyx — маленькие, узкоспециализированные модели, которые делают ровно одно: решают, требует ли текущее действие передачи на более мощный надзорный уровень. Sarah проводит аналогию с блиц-шахматами: гроссмейстеры играют интуитивно на быстрых ходах и задумываются только в ключевые моменты. Maxim подтверждает: сосредоточи интеллект именно там, где риск максимален, и оставайся лёгким везде остальном. > *"Нужно обучать модели, которые хороши ровно в одном. Они очень маленькие. Они практически ни на что не способны, кроме как ответить на вопрос: 'Стоит ли передать это более умному агенту?'"* ## [18:38] Культура найма в Onyx Израильский кадровый потенциал в безопасности — сформированный подразделениями вроде 8200, компаниями Armis и Wiz — общеизвестен. ДНК Onyx иная: бэкграунд сооснователя Gil — синтетические данные и NVIDIA, а не наступательная кибербезопасность. Большинство инженеров-исследователей Onyx вышли из израильского разведывательного подразделения, специализирующегося на пересечении математики и кибернетики. Maxim считает этот сплав осознанным выбором: задача Onyx в долгосрочной перспективе — не только корпоративная безопасность, но и контроль над продвинутым ИИ в целом. Для этого нужна глубокая экспертиза в ИИ в связке с инстинктами безопасности. Израиль в целом быстро наверстывает в ИИ: world models, ИИ-инфраструктура, чипы. > *"Проблема — не просто кибербезопасность. Проблема в том, как нам контролировать продвинутый ИИ в долгосрочной перспективе. И эта задача — даже если забыть о корпоративных пробелах в безопасности — звучит крайне важно."* ## [21:24] Механистическая интерпретируемость Maxim убеждён: механистическая интерпретируемость — понимание того, что происходит внутри весов и активаций модели, — и возможна, и необходима. Его неочевидный тезис: по мере того как модели становятся умнее людей в ключевых отношениях, они сами окажутся лучше приспособлены для вскрытия внутренней структуры других моделей, чем мы. Onyx активно финансирует исследования в этом направлении — не только как инструмент безопасности, но и как окно в природу самого интеллекта. Sarah поддерживает эту ставку, отмечая возможность понять не только ИИ, но и когнитивные процессы в широком смысле. > *"По мере появления моделей, которые гораздо умнее нас хотя бы в некоторых важных отношениях, мы думаем, что сможем начать вскрывать механистические возможности значительно эффективнее."* ## [23:35] Как Onyx завоёвывает доверие клиентов Компании из списка Fortune 10 и Fortune 20 обычно не работают с двухлетними стартапами численностью менее 100 человек. Это правило ломает боль: CISO, которые ежедневно сталкиваются с инцидентами из-за действий агентов, не могут позвонить признанному игроку — потому что три года назад этой проблемы попросту не существовало. Onyx получает входящие обращения от корпораций, которые нашли компанию сразу после её выхода из stealth-режима: описание проблемы совпало с тем, что они тушили в режиме пожара каждый день. Maxim расценивает это как узкое и временное окно возможностей — корпоративные покупатели понимают, что молодые стартапы вырастут, и предпочитают быть ранними клиентами, влияющими на продукт, а не поздними последователями. > *"Такое окно открывается только тогда, когда боль очень сильная. Боль настолько сильна, что они говорят: 'Я только что увидел эту компанию, вышедшую из stealth, но это моя ежедневная проблема — позвоню им.'"* ## [25:10] Снижение рисков на фундаментальном уровне Вторая волна паники CISO — помимо действий агентов — это стремительно падающая стоимость автоматизированного поиска уязвимостей. Инструменты для написания кода теперь находят и эксплуатируют уязвимости в масштабах, которые ещё несколько лет назад казались недостижимыми на десятилетия. Maxim считает, что рынок реагирует адекватно: это реальный структурный сдвиг. Правильный ответ — двойная стратегия: быстрое патчирование и компенсирующие меры прямо сейчас, плюс инвестиции в фундаментальные средства контроля — строгое управление идентификацией, файрволы, обнаружение угроз на конечных точках, — которые сокращают уязвимую поверхность вне зависимости от инструментов атакующего. > *"Настоящее решение — и все директора по безопасности в крупных корпорациях это знают — в том, чтобы выстроить фундаментальные элементы защиты и тем самым исключить эти риски."* ## [27:45] Поэтапный запуск Glasswing и Daybreak Относительно контролируемых запусков Glasswing от Anthropic и Daybreak от OpenAI для более мощных моделей: у Maxima взвешенная позиция. Поэтапный запуск идеален при глобальной координации — он даёт время выработать сценарии реагирования, обменяться знаниями и предотвратить катастрофические сбои на электростанциях или в авиакомпаниях. Но если какой-либо игрок выпустит сопоставимую по возможностям модель раньше установленного графика, постепенный подход превращается в уязвимость: компании, не получившие ранний доступ, оказываются под угрозой, к которой у них не было шанса подготовиться. Maxim рекомендует расширять доступ, чтобы как можно больше организаций могли строить защиту параллельно. > *"Если кто-то выйдет на модель уровня method раньше, то ретроспективно это будет выглядеть как огромная ошибка — мы могли хотя бы дать компаниям возможность начать двигаться очень быстро."* ## [29:11] Крупные корпорации, которые всё ещё держатся Два года назад значительная часть крупных компаний просто запретила ИИ. Сегодня Maxim почти этого не видит. Финансовый сектор сохраняет ограничения — позволяет агентам, но ограничивает инструменты, — однако полных запретов больше нет. По его мнению, это правильно: привязка к одному инструменту — тоже риск. Ставить исключительно на модели одного вендора в условиях такой скорости рынка значит оказаться в проигрыше, когда следующее поколение сменит расстановку сил. Компании, допускающие широкий выбор инструментов и жёстко ими управляющие, обгонят тех, кто ограничивает агрессивно. > *"Если год назад поставить на OpenAI — это была бы самая надёжная ставка в мире. Но вдруг у Anthropic оказались значительно лучше модели и инструменты."* ## [30:46] Onyx и рынок ИИ-безопасности Рынок ИИ-безопасности переполнен новыми вендорами и новыми векторами атак. Контраргумент Maxima против тревоги о зоне охвата продукта: два ключевых примитива ИИ 2026 года — foundation models на основе трансформеров и агентные циклы с вызовом инструментов — принципиально не менялись годами. Эта стабильность позволяет Onyx строиться под множество агентных приложений, сохраняя ядро технологии компактным. Реальная страховка от архитектурных сдвигов — инвестировать в исследователей, способных быстро переобучаться и адаптироваться, а не делать ставку на то, что какая-то одна модельная парадигма продержится вечно. > *"Два фундаментальных столпа того, как работает ИИ в 2026 году, не изменились за последние годы. Мы по-прежнему используем LLM foundation models и строим агентов примерно так же, как раньше."* ## [32:36] Должны ли лаборатории решать проблему доверия и управления моделями? Актуальный вопрос Кремниевой долины: поглотят ли лаборатории в итоге проблему доверия и управления сами? Структурный аргумент Maxima против: покупатели не хотят, чтобы продавец автомобиля сам его сертифицировал. Службам безопасности нужна независимая сторона, чья бизнес-модель целиком зависит от того, чтобы быть правой, — а не вендор, защищающий репутацию собственного продукта. Помимо психологии покупателя, Maxim проводит черту между ошибками «неровного интеллекта» (нелепые промахи, которые исправятся с более сильными моделями) и сбоями на уровне намерений: adversarial-манипуляции, рассинхронизация целей, дрейф задач. Лаборатории устранят первую категорию. Вторую может решить только структурно независимый надзор. > *"Вы не станете доверять продавцу продукта, что этот продукт не навредит вашей среде. Вам нужна независимая сторона, весь бизнес которой зависит от того, чтобы сказать вам: это работает правильно — и от того, чтобы действительно быть правой."* ## [36:56] Что нужно изменить в безопасности Sarah спрашивает, чего не хватает более широкому технологическому и исследовательскому сообществу — в первую очередь лабораториям — с точки зрения безопасности. Ответ Maxima: это не технический разрыв, а разрыв в эмпатии. Создание продуктов для безопасности требует глубокого понимания того, как реально работают службы безопасности — их организационная структура, зоны ответственности, информационные потоки. Израиль отчасти производит сильных специалистов по безопасности потому, что военная служба даёт инженерам непосредственный опыт быть тем самым конечным пользователем, для которого они потом строят продукты. Лаборатории, по его словам, развивают возможности, недостаточно вникая в операционную реальность организаций, которым предстоит их внедрять и защищаться. > *"Какую бы техническую задачу вы ни решали, вы создаёте инструмент для людей, для организации с определённой структурой. Создать продукт для этой аудитории, который не просто решает техническую проблему, но который они по-настоящему полюбят — это действительно сложно."* ## [39:14] Почему Maxim верит в AGI Sarah завершает разговор, отмечая, что в словах Maxima содержится негласное допущение: человеческие команды безопасности будут существовать ещё какое-то время. Он подтверждает — но с горизонтом: в ближайшем будущем команды безопасности будут работать полностью на ИИ-агентах, как и большинство умственного труда в целом. Его приземлённый AGI-оптимизм: задача создания отличных продуктов не меняется — всегда знай, кто конечный пользователь, и оптимизируй под его опыт. Сегодня это люди с несколькими агентами рядом. По мере того как соотношение изменится, тот же принцип сохранится — только теперь применительно к агентам, читающим контекстные окна вместо дашбордов. > *"Сегодня, продавая продукт, я продаю его человеческой аудитории с несколькими агентами рядом. По мере того как эта аудитория становится больше агентами, чем людьми, нам важно эволюционировать и сделать так, чтобы продукт отлично работал для агентов, выполняющих эту работу."* ## Сущности - **Maxim Bar Kogan** (Персона): Сооснователь и CEO Onyx Security; бывший израильский офицер разведки, специализация — математика и наступательная кибербезопасность. - **Sarah Guo** (Персона): Ведущая No Priors; основатель и GP в Conviction. - **Onyx Security** (Организация): Израильский стартап, строящий инфраструктуру надзора за ИИ — обучает специализированные малые модели для мониторинга и управления корпоративными ИИ-агентами. - **AutoGPT** (Программное обеспечение): Ранний автономный LLM-агент с открытым исходным кодом; Maxim называет его переломной точкой, сделавшей агентные риски очевидными. - **Glasswing / Daybreak** (Программное обеспечение): Программы контролируемого запуска от Anthropic и OpenAI соответственно для доступа к frontier-моделям. - **Механистическая интерпретируемость** (Концепция): Исследовательская программа, направленная на понимание внутренней структуры весов и активаций нейронных сетей; Onyx рассматривает её как долгосрочный фундамент надзора за ИИ. - **Secure Control Plane** (Концепция): Продуктовая категория Onyx — независимый от вендора слой, контролирующий разрешения агентов, легитимность действий и поведенческую историю в реальном времени. - **8200** (Организация): Израильское разведывательное подразделение, широко известное как кузница лучших специалистов Израиля в области безопасности и технологий, в том числе многих инженеров Onyx.

Генеральный директор Apollo Marc Rowan проводит прямую линию от краха Drexel в 1990 году — когда он в воскресенье выносил вещи из офиса в картонной коробке — до сегодняшней триллионной позиции Apollo как крупнейшего в мире поставщика пенсионного дохода в частном секторе и одного из ключевых финансистов глобального промышленного ренессанса. Вместе с GP a16z David Haber они разбирают, почему частные рынки структурно необходимы для диверсификации в эпоху, когда десять акций занимают почти половину S&P 500, как ежедневная оценка открывает частный кредит пяти новым каналам капитала, и почему Rowan убеждён: ИИ заменит или усилит каждую профессию — отчего рабочие специальности будут расти, а акции корпоративного ПО могут стать катастрофой для PE-фондов прошлого десятилетия. ## [00:00] Вступление Разговор открывается тремя сквозными темами: концентрационный риск в акциях (десять компаний приближаются к 50% S&P 500), многотриллионная стоимость, запертая в частных компаниях вроде Anthropic и SpaceX и недоступная большинству инвесторов, и рабочая установка Apollo — ИИ заменит или усилит каждую профессию. Rowan благодарит Haber за приём в офисе Apollo перед началом беседы. > *«Десять акций сейчас в США — это почти 50% S&P, и все они завязаны на один и тот же тренд... если вы инвестор в поиске диверсификации, получить её можно только на частных рынках.»* ## [00:52] Drexel, Milken и истоки мышления с чистого листа Rowan выбрал Drexel вместо Goldman, потому что финансирование предпринимателей требовало глубокого понимания бизнеса, а не технической финансовой механики. Высокодоходный рынок, создававшийся буквально на ходу — PIK-облигации, облигации с привязкой к серебру, «highly confident» письма, бридж-финансирование — вынуждал всех мыслить с чистого листа. Главный урок Michael Milken — умение связывать геополитику, технологии и рынки в единую картину. Его афоризм «ты либо принимаешь перемены, либо перемены приходят к тебе» стал одним из базовых принципов Apollo. > *«Вся концепция PIK, думаю, родилась за одно послеполудне при решении конкретной задачи... Всё это было: проблема — решение, проблема — решение. И это умение понимать бизнес, понимать кредит плюс мышление с чистого листа — именно оно сегодня движет Apollo.»* ## [04:55] Как возник Apollo: от безработицы к $6 млрд Когда Drexel рухнул за выходные в 1990 году, Rowan и коллеги продолжали закрывать сделки для клиентов без фирмы и без перспектив оплаты. Урок оформился немедленно: финансовые компании умирают либо от инфаркта (риск фондирования — занимать короткие, давать длинные, как позднее Bear Stearns и Lehman), либо от рака (накапливать плохие активы вместо того, чтобы фиксировать убытки). Холодный звонок из французского Crédit Lyonnais — изначально речь шла о небольшом M&A-бутике — обернулся чеком на $800 млн от французского правительства, который к концу 1990 года вырос до $6 млрд, сделав Apollo крупнейшим центром прибыли банка. > *«Я ушёл из офиса в пятницу. Вернулся в воскресенье и вышел с вещами в картонной коробке — Drexel больше не существовал.»* ## [08:46] Как Apollo стал триллионным пенсионным и кредитным фондом Сегодня Apollo — это 80% инвестиционно-рейтингового кредита и лишь 20% акций, разделённых между гибридным и классическим private equity, что прямо противоположно публичному восприятию. Rowan выстраивает бизнес вокруг трёх фундаментальных задач: обеспечение пенсионного дохода стареющему и плохо накопившему населению; финансирование глобального промышленного ренессанса в энергетике, производстве, ИИ и обороне; подлинная диверсификация на фоне концентрации публичных рынков в горстке имён. Та же концентрационная динамика приходит на рынок фиксированного дохода: десять банков сжимаются до пяти банков плюс пять технологических платформ. > *«Частные рынки — это 80% всего, что реально происходит в мире... Великие компании — Anthropic, OpenAI, SpaceX, Cognition, Cursor — все они частные, несколько триллионов долларов стоимости, и при этом у большинства инвесторов нулевая экспозиция на них.»* ## [13:00] Постоянный капитал, оригинация и дефицит активов В отличие от традиционных управляющих активами, способных вложить любой объём в публичные рынки, Apollo ограничен способностью к оригинации, а не доступным капиталом. Именно дефицит активов — настоящее узкое место бизнеса: каждая сделка должна приносить максимальную ценность — через комиссионные и через принципальные позиции, выравнивающие интересы Apollo и клиентов. Rowan прямо возражает против модели «capital light»: в мире, где репутация, бренд и способность гарантировать результат решают всё, крупный баланс — конкурентное оружие, а не балласт. > *«Поэтому я считаю, что нас нужно оценивать по способности создавать интересные инвестиции. И я уверен, что эта способность ограничена.»* ## [16:08] Демократизация частных рынков: ежедневная оценка и новые каналы капитала Индустрия альтернативных активов строилась под один источник капитала — институциональные альтернативные аллокации. Теперь доступ хотят получить пять новых рынков: физические лица, страховые компании, традиционные управляющие, планы 401(k) и долговые/акционерные бакеты институтов. Никому из них не нужны drawdown-фонды. Apollo переходит на ежедневную расчётную стоимость своего инвестиционно-рейтингового частного портфеля к 30 июня, а полная ежедневная оценка всех кредитных продуктов ожидается к сентябрю — вместе со стандартизированными хранилищами данных, маркетмейкингом и регулярным раскрытием цен. Rowan разграничивает частный кредит как прямое кредитование (узкое определение прессы) и реальную вселенную — Intel, Air France, AT&T, Meta — сложные заёмщики, которым нужно нестандартное долгосрочное финансирование, недоступное банкам. > *«Я никогда не видел рынка в мире, где прозрачность и price discovery не увеличивали бы его размер в десять раз... Кому-то это некомфортно, но это придёт.»* ## [22:04] На стыке венчура и кредита: финансирование промышленного ренессанса Rowan и Haber называют «возможности на стыке экспертиз» своей общей инвестиционной философией. Пересечение, которое они видят сейчас: венчурные компании, исторически избегавшие капиталоёмкости, внезапно строят дата-центры, чипы, робототехнику, производственные линии и оборонные системы в масштабе, который невозможно профинансировать только акциями. Apollo разделяет риски: венчур держит фундаментальный бизнес-андерайтинг, а инфраструктурные активы с твёрдым залогом перетекают на кредитные рынки с соответствующими рейтингами. По словам Rowan: 2025 год доказал, что дата-центры, чипы и энергетика нужны; 2026-й станет годом, когда инвесторы осознают — $800 млрд капекса от четырёх публичных компаний ударит в лимиты концентрации, спреды расширятся, и технологическим предпринимателям придётся партнёриться с финансовыми. Apollo открывает второй штаб-квартиру в Сан-Франциско — специально для доступа к таланту экосистемы роста. > *«Объём денег, который пойдёт в дата-центры, в чипы, в робототехнику, в производство, в оборону — это, как я сказал, больше, чем всё вложенное со времён изобретения огня. И это не будет профинансировано акциями.»* ## [30:01] ИИ, корпоративный софт и будущее каждой профессии Рабочая установка Rowan: каждая профессия будет заменена или усилена ИИ. Он прямо говорит, что 30% активов под управлением PE за прошлое десятилетие ушли в корпоративный софт, ИИ навсегда переоценил эти активы, а доходность PE-фондов того поколения будет «катастрофической» — не потому что компании плохи, а потому что цены покупки не учитывали будущее с конкурентами на базе ИИ. Его аналитическая рамка: ИИ быстрее всего меняет области с правильным ответом (программирование, бухучёт, торговые операции) и медленнее — там, где суждение незаменимо. В ближайшей перспективе он ждёт роста рабочих специальностей и упадка белых воротничков — политически неудобного для прогрессивных городов. Как кредитор, урок из жёлтых страниц, кабельного ТВ и спутников: диверсифицируй, держи старший долг, ищи твёрдый залог, никогда не андерайтируй за горизонтом пяти-семи лет. > *«Мы работаем исходя из того, что каждая профессия будет заменена или усилена. Каждая без исключения. И я думаю, именно это и произойдёт.»* ## [38:52] Моральное лидерство: UPenn, меритократия и честный выбор После 7 октября Rowan написал напрямую президенту Пенсильванского университета до конференции о правах палестинцев — указывая не на свободу слова, а на «любимую речь»: университет финансировал конференцию в дни еврейских праздников, которую вёл известный сторонник ХАМАС. Общий кризис в кампусах он охарактеризовал как антиамериканский и антимеритократический. Когда почти все доноры сократили взносы до $1 в год, администрация Пенна отреагировала; последующие слушания в Конгрессе привели к отставкам председателя совета и президента. Более широкий принцип, применяемый внутри Apollo с 2021 года: говорить одно и то же в Техасе и в Калифорнии; по климату — «делать лучше, а не хуже» вместо углеродного абсолютизма; при найме — заслуги с поправкой на пройденный путь, измеряемые индивидуальными достижениями, а не принадлежностью к группе. > *«Мы нанимаем по заслугам с поправкой на пройденный путь. И пройденный путь — это не про ваши неизменные характеристики. Это про вас как личность — не про ваш класс, не про вашу группу. Покажите мне того, кто преодолел трудности и всё равно добился.»* ## [46:02] Культура Apollo: играть на победу и строить надолго С 6000 сотрудников в управлении активами и пенсионных сервисах Apollo потратил шесть месяцев на внутренние переговоры с senior-партнёрами — что делает Apollo тем, чем он является. Итог — публичный документ на карьерной странице Apollo, намеренно откровенный как фильтр для кандидатов. Шесть принципов сводятся к «игре на победу», которую Rowan отличает от страха проигрыша: senior-специалисты ожидаемо ошибаются примерно в 40% случаев, никого не увольняют за плохое решение (только за то, что не признал и не исправил), и у каждого топ-менеджера есть публичная «стена позора» с убытками. Мышление с чистого листа, интеллектуальное непослушание (в отличие от реального) и умение быть рядом в «ключевые моменты» жизни сотрудников — вот качества, которые Rowan больше всего хочет оставить после себя как основатель. Apollo строит финансовый институт, а не управляет фондом: ближайшие пять лет продуктовых, инфраструктурных и маркетмейкинговых инноваций изменят компанию сильнее, чем изменили прошедшие пять. > *«Здесь не увольняют за плохое решение. Здесь увольняют за то, что не признал его и не взял на себя ответственность за исправление. У нас есть стена позора. Каждый senior-специалист здесь терял деньги фирмы.»* ## Сущности - **Marc Rowan** (Персона): сооснователь, генеральный директор и председатель совета директоров Apollo Global Management; бывший аналитик Drexel Burnham Lambert; выпускник и крупный донор Пенсильванского университета - **David Haber** (Персона): General Partner в Andreessen Horowitz (a16z); ведущий шоу a16z - **Michael Milken** (Персона): финансист Drexel Burnham Lambert; многолетний наставник Rowan; считается изобретателем PIK-облигаций, бридж-финансирования и рынка высокодоходных облигаций - **Apollo Global Management** (Организация): альтернативный управляющий активами с активами свыше $1 трлн, 80% — инвестиционно-рейтинговый кредит; сооснователь пенсионного сервиса Athene; планирует открытие второй штаб-квартиры в Сан-Франциско - **Athene** (Организация): пенсионный сервис Apollo; поставщик страховых и аннуитетных продуктов, формирующих постоянную капитальную базу Apollo - **Andreessen Horowitz (a16z)** (Организация): венчурная компания Кремниевой долины; изучает капитальное партнёрство с Apollo для капиталоёмких технологических компаний - **Crédit Lyonnais** (Организация): французский государственный банк, давший Apollo стартовые $800 млн в 1990 году; к концу года сумма выросла до $6 млрд; впоследствии продал долю Франсуа Пино - **Частный кредит** (Концепция): прямая оригинация инвестиционно-рейтингового долга корпорациям и инфраструктурным проектам в обход публичных облигационных рынков; значительно шире понятия «прямое кредитование LBO» - **Постоянный капитал** (Концепция): долгосрочные обязательства по страховым и пенсионным продуктам, позволяющие Apollo удерживать активы через циклы без давления выкупа паёв - **Промышленный ренессанс** (Концепция): термин Rowan для одновременного глобального строительства дата-центров, ИИ-чипов, энергетической инфраструктуры, производства, робототехники и обороны — требующего кредитного финансирования в масштабе рынка - **Ежедневная расчётная стоимость** (Концепция): инициатива Apollo по ежедневной оценке инвестиционно-рейтинговых частных кредитных продуктов — открывающей доступ для управляющих капиталом, планов 401(k) и традиционных управляющих активами

Every под руководством Dan Shipper выросла с четырёх человек до тридцати со времён GPT-3, запустила агентов почти в каждый рабочий процесс — и продолжает нанимать. В необычном формате шоу *AI & I* операционный директор Brandon Gell берёт интервью у Dan'а, расспрашивая его об эссе «After Automation» объёмом 8 000 слов. Центральный тезис: рост возможностей AI увеличивает спрос на человеческое суждение, а не снижает его. Механизм прост: AI делает вчерашнюю экспертизу дешёвой и доступной, что наводняет любую сферу результатами, близкими к верным, но не точными, — и именно этот зазор создаёт больше работы для людей, способных его закрыть. ## [00:00] AI делает задачу, а потом спрашивает: что дальше? Этот обмен репликами из середины интервью отражает ключевое противоречие эпизода. Brandon описывает типичный момент с AI: ты его запускаешь, он тебя поражает, ты чувствуешь себя лишним — а потом агент зависает и спрашивает: «Что делать дальше?» Dan отвечает фразой, на которой держится весь аргумент: «Чем дальше агент от человека, тем меньше от него пользы.» Оба фрагмента взяты из основного разговора (около 00:11 и 00:35 соответственно) и вынесены в начало, чтобы задать рамку. > *«Чем дальше агент от человека, тем меньше от него пользы.»* ## [00:51] Введение Brandon объясняет смену ролей: на этот раз он берёт интервью у Dan'а, а не наоборот, и будет оспаривать его тезисы. Dan рассказывает, как появилось эссе: находясь внутри одной из самых агентно-ориентированных компаний в мире, он видел, как штат растёт параллельно автоматизации, и чувствовал разрыв с мейнстримным нарративом об уничтожении рабочих мест. Твит CEO ClickUp — публичное увольнение большой части сотрудников со ссылкой на AI — становится первым испытанием для аргумента Dan'а: применимо ли «After Automation» к зрелой компании из 10 000 человек, а не только к ранним последователям вроде Every? > *«Если взмахнуть палкой в нашем Slack, с равной вероятностью попадёшь в человека или в агента.»* ## [05:51] Парадокс AI: больше автоматизации — больше работы для людей Dan разворачивает центральный аргумент. AI обучен на всех предыдущих результатах и потому может дёшево выдать «вчерашнюю экспертизу» кому угодно. Это демократизирует продукцию: операционные сотрудники вливают пул-реквесты, не-инженеры выпускают фичи, — но результат всегда лишь близок к правильному, не точен. Он не откалиброван под конкретную ситуацию. Возникает переизбыток почти-верных результатов, которые обесцениваются сами по себе, одновременно создавая спрос на экспертов, способных довести их до конца. Brandon добавляет пример из Every: пул-реквесты, которые выглядят разумно, пока опытный инженер не заглянет под капот. > *«Ты просто затапливаешь зону тоннами материала, который вроде бы близок к нужному, но не совсем.»* ## [10:00] Как AI обесценивает вчерашнюю экспертизу Dan отвечает на возражение об эталонах: да, модели улучшаются экспоненциально, но как только бенчмарк насыщается, его всегда можно сдвинуть, чуть переформулировав задачу. Глубинная проблема в другом: люди несут слой неявного, несформулированного мастерства, которое не поддаётся чёткой спецификации, — а всё, что поддаётся, модель может оптимизировать в лоб. Опыт Every это подтверждает: Kieran за месяц-два построил полноценную функцию входящих сообщений, что было «абсолютно невозможно» раньше. Но ценность создал эксперт, знавший, *что* строить, и направлявший каждый шаг. > *«Есть масса вещей, которые ты делаешь, но не можешь описать в чётком виде.»* ## [18:00] AI действует автономно, но не имеет субъектности Brandon проводит черту между автономностью и субъектностью: AI-агенты всё лучше выполняют открытые задачи без пошагового руководства, но это принципиально отличается от *субъектности* — самомотивированного, игривого «я хочу делать это, потому что мне интересно», которое есть даже у маленького ребёнка. Dan соглашается: экономического стимула строить такое нет. Если ты за рабочим столом, а агент говорит «не хочу» — это провал продукта. Вся отраслевая система стимулов толкает к соответствию и управляемости, что как раз и удерживает людей в контуре. > *«Агент — тот, кто действует от чьего-то имени. Это принципиально отличается от наличия субъектности, которая есть у самого маленького ребёнка.»* ## [20:39] Почему Dan верит в AGI Brandon предлагает тест с одним словом: произойдёт ли AGI? Dan: да. Это хорошо? Dan: да. Его определение AGI — любой агент, которого экономически целесообразно держать включённым постоянно, активно генерирующего токены и выполняющего задачи без повторных запросов, — достаточно точно, чтобы его можно было проверить. Логика такова: даже по-настоящему автономная система будет создана для служения человеческим целям; иначе её бы не построили. Тревога Brandon'а: если непрерывные агенты станут экономически рациональны, аргумент о массовых увольнениях обретёт смысл. > *«Любой агент, который ты никогда не выключаешь — которого экономически выгодно держать запущенным всё время, активно выполняющим задачи без повторных запросов.»* ## [21:57] Массовые увольнения из-за AI — это ложь Dan и Brandon разбирают кейс ClickUp: CEO публично уволил большую часть сотрудников, сославшись на AI. Читка Dan'а: универсальные SaaS-компании увольняют людей, когда испытывают трудности или раздуты, а потом прикрываются AI. Brandon добавляет контраргумент Jensen Huang — «если твой ответ на прогресс — увольнение людей, ты не очень творческий CEO» — самообслуживающий, но, вероятно, верный. Честная формулировка: AI глубоко меняет рабочие процессы, что вынуждает реорганизовывать всю компанию. Те, кто пропускает эту работу и просто сокращает штат, идут по лёгкому пути. Слежка Meta за сотрудниками для сбора обучающих данных упоминается вскользь как более творческая, пусть и неоднозначная, альтернатива. > *«Я бы очень скептически отнёсся к любому, кто говорит, что AI уничтожит все рабочие места или весь умственный труд.»* ## [25:42] Следи за моделями — и всё будет хорошо Даже в сценарии AGI ключевая переменная — человеческое суждение о том, *что важно*, а это постоянно меняется, отчасти потому что AI сам непрерывно преобразует мир. Работники колл-центров в Омахе, не доверяющие чат-ботам, или компании, увольняющие сотрудников поддержки и тихо нанимающие их обратно через два месяца, показывают, насколько реальное внедрение отстаёт от хайпа. Освоение технологий занимает поколение; в конечном счёте инструменты станут доступны всем; побеждают те, кто продолжает осваивать новые модели по мере их выхода. Dan завершает самым ёмким тезисом: если следишь за моделями, всё будет хорошо. > *«Если просто следить за моделями — когда выходят новые, учиться применять их в своей работе, чем бы ты ни занимался, — всё будет хорошо.»* ## [35:30] Как использовать AI в качестве редактора лонгридов Dan описывает конкретный AI-процесс, стоящий за «After Automation». Каждое утро он диктовал текущее состояние аргумента в Proof, затем отправлял лог Claude с вопросом: «Что я на самом деле пытаюсь сказать?» Когда черновики перевалили за 4 000 слов, он попросил Codex конвертировать последнюю версию в подкаст и слушал по дороге на работу, замечая проблемы с ритмом на слух. Эссе пережило четыре-пять полных перезапусков, прежде чем аргумент встал на место. Вывод: AI не написал эссе, но позволил удерживать всю восьмитысячесловную структуру в рабочей памяти, не теряя нить. > *«Я бы не смог написать это без него. Я просил Claude взять мой лог и сказать: "Что я на самом деле пытаюсь сказать?" — и он отвечал, а я думал: "Вот именно это я и пытаюсь сказать."»* ## Сущности - **Dan Shipper** (Персона): сооснователь и CEO Every; постоянный ведущий *AI & I*; здесь — интервьюируемый, обсуждающий эссе «After Automation» - **Brandon Gell** (Персона): операционный директор Every; в этом эпизоде ведёт интервью вместо Dan'а - **Every** (Организация): AI-ориентированная медиа- и программная компания; выросла с 4 до 30 сотрудников со времён GPT-3 при активной автоматизации; публикует подкаст *AI & I* - **After Automation** (Концепция): эссе Dan Shipper'а объёмом 8 000 слов, доказывающее, что AI-автоматизация повышает спрос на экспертный человеческий труд, наводняя сферы почти-верными результатами - **Разрыв экспертной компетентности** (Концепция): тезис о том, что AI дёшево выдаёт «вчерашнюю экспертизу», но всегда чуть не так, создавая больше потребности в людях, способных закрыть зазор до реальной ситуации - **AGI** (Концепция): определяется в эпизоде как любой агент, экономически целесообразный для непрерывной работы без повторных запросов; Dan считает его появление неизбежным и позитивным - **Автономность vs. субъектность** (Концепция): разграничение Brandon'а между выполнением AI открытых задач без пошагового руководства (автономность) и наличием у AI самомотивированных желаний (субъектность); последнее не строится - **Proof** (Программное обеспечение): инструмент для написания, который Dan использует для ежедневных голосовых черновиков; применялся как петля AI-обратной связи при работе над эссе - **Codex** (Программное обеспечение): инструмент OpenAI, который Dan использовал для конвертации черновиков эссе в формат подкаста для прослушивания в дороге - **ClickUp** (Организация): SaaS-компания, CEO которой публично уволил большую часть сотрудников, сославшись на AI; используется как кейс AI-прикрытия увольнений

Alex Rives — руководитель научного направления в BioHub и исследователь, создавший ESM-1 — ESM-3 в Meta FAIR, — приходит к Brandon и RJ Honicky, чтобы объяснить, почему восемь лет он ставил на то, что масштабирование маскированной языковой модели на последовательностях белков откроет доступ к их структуре, функции и дизайну. В эпизоде разбирается переход от UniRef к метагеномике, восстановивший закон масштабирования ESMC; атлас признаков на основе разреженных автоэнкодеров, без обучения воспроизводящий столетие биохимической таксономии; и первый задокументированный успех в создании одноцепочечных антител терапевтического класса через поиск по модели мира. Rives также излагает план BioHub — Инициативу виртуальной биологии стоимостью 500 млн долларов и принципы, которые, по его убеждению, приведут к созданию универсальных моделей клетки. ## [00:00] ESMC проектирует антитела — предпросмотр Этот фрагмент взят из более поздней части интервью: Rives на полуслове описывает подход ESMC к программируемой биологии. Он рассказывает о поиске по модели мира белков, удовлетворяющих критериям дизайна, и упоминает, что команде удалось создать мини-байндеры и, что особенно важно, одноцепочечные фрагменты антител (SCFV) с терапевтически значимым сродством к мишени. Клип идёт до официального вступления — сигнал о том, к чему движется эпизод. ## [00:33] «Горький урок» добрался до белков Brandon и RJ Honicky представляют Alex как, возможно, «самого убеждённого сторонника "горького урока" в биологии белков прямо сейчас». Rives принимает этот ярлык. Он прослеживает корни своего убеждения к 2018 году, когда его команда в Meta FAIR обучила первый трансформер-языковую модель на последовательностях белков с помощью маскированного предсказания токенов — и наблюдала, как возникают структурные и функциональные представления без какого-либо явного руководства. Ключевая интуиция, заимствованная из статьи Зеллига Харриса 1954 года о дистрибутивной структуре, состоит в том, что контексты, в которых может появляться аминокислота, определяются структурой, функцией и эволюционной ролью белка. Это статистическое давление, приложенное к миллиардам последовательностей от всех форм жизни, должно заставить модель выучить скрытые переменные, управляющие биологией белков. > *«Я верю в законы масштабирования.»* ## [06:00] Линейка ESM: от ESM2 к ESMC Rives рассматривает четыре поколения ESM. ESM2 демонстрировал прирост при масштабировании, но упёрся в убывающую отдачу при 10 млрд параметров — не потому что модель насытилась, а потому что насытились данные. UniRef, золотой стандарт базы данных белков, охватывает культивируемые организмы и смещён в сторону биологии, важной для человека. Решением для ESMC стали метагеномные данные: последовательности из гидротермальных источников, полярных почв и канализации, собранные из сырых прочтений ДНК из окружающей среды без привязки к организмам, с включением частичных контигов. Добавление миллиардов метагеномных последовательностей в обучение восстановило чёткий лог-линейный закон масштабирования, причём прогоны на меньших масштабах точно предсказывали репрезентативность флагманской модели с 6 млрд параметров. > *«Убывающей отдачи от масштабирования больше нет. ESM2 упирался в данные, а не в вычисления.»* ESMC — по сути, стандартный трансформер с обычными целями маскирования: никакого MSA в стиле AlphaFold, никаких геометрических индуктивных смещений. Brandon и Rives кратко обсуждают, был ли многоуровневый архитектурный подход ESM3 продуктивным отступлением; Rives говорит, что место есть обеим парадигмам, но результат ESMC показывает, что предварительные знания не были принципиальными при таком объёме данных. ## [18:30] Механистическая интерпретируемость и атлас белковых признаков Используя разреженные автоэнкодеры, обученные на всех слоях семейства моделей ESMC (300M, 600M, 6B), команда BioHub извлекла внутреннюю геометрию признаков пространства белковых представлений. Полученная структура тесно соответствует редукционной иерархии, которую биология выстраивала экспериментально на протяжении столетия — от базовой химии аминокислот через структурные мотивы, семейства доменов до крупных функциональных тем, — хотя никакая из этих таксономий не использовалась при обучении. > *«Выбор любой аминокислоты полностью переплетён с выбором всех остальных аминокислот в последовательности. Чтобы делать это хорошо, модель должна начать обладать скрытыми переменными, представляющими биологию.»* Один конкретный результат: модель кодирует нуклеофильный локоть — каталитический мотив, предположительно эволюционировавший независимо в нескольких несвязанных семействах белков, — как единственный признак, активирующийся во всех из них. Команда также создала структурный атлас из 6,8 млрд неизбыточных белков с предсказанными структурами для 1,1 млрд кластерных представителей и использовала признаки SAE для связи эволюционно далёких систем редактирования генов. Некоторые белки, попавшие в эти кластеры, не имеют известной функции; Rives рассматривает их как очередь открытий. Первая версия атласа ESM уже была использована сторонней группой для обнаружения новой системы редактирования генов. ## [35:30] Проектирование антител с помощью ESMC Rives описывает дизайн белков как поиск по модели мира: инвертировать генеративную модель, чтобы найти последовательности, удовлетворяющие целевым критериям связывания. Мини-байндеры стали рутиной; нанотела и SCFV по-прежнему сложнее для методов на основе предсказания структуры, поскольку эволюция антител максимизирует разнообразие, а не сходится к ограниченному фолду — это делает подходы на основе MSA менее пригодными. ESMC, обученный на этом разнообразии в масштабе, — именно то место, где представление должно быть наиболее богатым. > *«Антитела, вероятно, не выиграют от эволюционной информации так же, как, скажем, предсказание структурной топологии молекулы.»* Команда сообщает о достижении терапевтического уровня сродства в дизайнах SCFV за небольшое количество испытаний и отмечает, что SCFV можно переформатировать в полноценные IgG. ESMFold 2 — голова предсказания структуры, построенная на представлениях ESMC, — работает за секунды на последовательность без MSA, что делает возможным картирование мультимеров для целых протеомов. Rives утверждает, что модель в настоящее время является лидером среди открытых весов для предсказания мультимеров. ## [42:00] Видение BioHub: к программируемой биологии Через шесть месяцев после прихода в BioHub Rives формулирует структуру организации: филантропия, строящая передовую экспериментальную биологию, передовые технологии измерений и передовой ИИ вместе в рамках мандата открытой науки. Конечной целью он называет персонализированные предиктивные модели физиологии — не таблетку, а систему, способную отследить молекулярные события на уровне белков через клеточные цепи вплоть до проявления болезни в конкретном геноме человека. > *«Мы строим научное учреждение для этой новой парадигмы.»* Он обозначает уровни биологической сложности, которые необходимо моделировать последовательно: белки (нынешнее поколение), клетка (следующий шаг), ткани и системы, физиология. Переход от белков к клеткам требует данных, которых ещё не существует, и подходов к моделированию, которые, вероятно, ещё не изобретены. Нынешние модели «виртуальной клетки» плохо обобщаются — они хорошо представляют обучающие данные, но не справляются с предсказанием результатов в новых интервенционных контекстах. > *«У них очень ограниченная способность предсказывать, что произойдёт, когда вы делаете новое вмешательство в новом ненаблюдавшемся контексте.»* ## [57:00] Инициатива виртуальной биологии и масштабирование клеточных данных BioHub недавно объявил о 400 млн долларов для внутреннего сбора данных и технологий измерений, плюс 100 млн долларов для стимулирования внешних усилий — в совокупности это Инициатива виртуальной биологии. Rives рассматривает это как начальное финансирование: реально необходимый объём данных значительно больше, и надежда состоит в том, что обязательства BioHub запустят более широкие инвестиции научного сообщества. Он выделяет три принципа работы с данными: скорость (данные по белкам накапливались полвека — у клетки нет столько времени), обобщаемость (распределение для обучения должно охватывать широкое разнообразие вмешательств в различных типах клеток и контекстах, по аналогии с метагеномной широтой для белков) и обратная связь (активные экспериментальные циклы, управляемые предсказаниями модели, — нечто вроде RLVR, применённого к мокрой лабораторной биологии). Пертурбационное секвенирование, пространственная транскриптомика и многомодальные одноклеточные измерения — это масштабируемые технологии, готовые к применению уже сейчас. О вычислениях: ESMC обучался примерно на миллиарде последовательностей. Считается, что существует около 100 млрд последовательностей, а модель ещё не в полной мере использовала даже 6,8 млрд из текущего атласа. Увеличение вычислений в 100 раз помогло бы, но только при пропорциональном наращивании объёма данных. Rives оставляет открытым вопрос о том, когда эмпирически проявится убывающая отдача — кривая ESM2 казалась насыщенной вплоть до того момента, как метагеномные данные её стёрли. > *«Нам нужно понять, как сделать это за пару лет. Темп развития общего ИИ означает, что биология будет фундаментально ограничена экспериментальной наукой и данными.»* ## Сущности - **Alex Rives** (Персона): руководитель научного направления в BioHub; архитектор ESM-1, ESM-2, ESM-3, ESMC и ESMFold 2; ранее Meta FAIR. - **Brandon** (Персона): ведущий подсерии Latent Space «ИИ для науки»; аффилирован с Atomic AI (РНК-терапия). - **RJ Honicky** (Персона): ведущий; технический директор и основатель Miro Omix. - **ESMC** (Программное обеспечение): языковая модель белков четвёртого поколения от BioHub/EvoScale; 300M–6B параметров; обучена примерно на 1 млрд последовательностей, включая метагеномные данные; открытый исходный код по лицензии MIT. - **ESMFold 2** (Программное обеспечение): модель предсказания структуры на основе представлений ESMC; без MSA, инференс за секунды на последовательность; лидер среди открытых весов для предсказания мультимеров. - **ESM** (Программное обеспечение): Evolutionary Scale Modeling — многопоколенная линейка языковых моделей белков (ESM-1, ESM-2, ESM-3, ESMC), созданная командой Rives. - **Sparse Autoencoders / SAE** (Концепция): инструмент механистической интерпретируемости для извлечения внутренней геометрии признаков пространства представлений ESMC; выявляет биологически интерпретируемые иерархии без обучения. - **Горький урок** (Концепция): аргумент Ричарда Саттона о том, что общие методы, использующие вычисления и данные, неизменно превосходят методы, кодирующие знания предметной области; применён здесь к масштабированию в биологии белков. - **Метагеномное секвенирование** (Концепция): секвенирование ДНК из окружающей среды, захватывающее микробное и вирусное разнообразие без культивирования; расширение данных, восстановившее закон масштабирования ESMC там, где UniRef насытился. - **BioHub** (Организация): Chan Zuckerberg BioHub; филантропия, создающая инструменты открытой науки на пересечении экспериментальной биологии, технологий измерений и ИИ. - **Инициатива виртуальной биологии** (Концепция): обязательство BioHub на 500 млн долларов (400 млн внутренних, 100 млн внешних) для генерации клеточных данных, необходимых для обучения универсальных моделей клетки. - **AlphaFold** (Программное обеспечение): система предсказания структуры DeepMind; использует MSA и геометрические индуктивные смещения; противопоставляется подходу ESMC без MSA. - **UniRef** (Программное обеспечение/База данных): золотой стандарт курируемой базы данных последовательностей белков; обучающие данные для ESM2, впоследствии оказавшиеся узким местом, вызвавшим плато масштабирования ESM2. - **Нуклеофильный локоть** (Концепция): каталитический структурный мотив, встречающийся в нескольких эволюционно несвязанных семействах белков; кодируется как единственный признак ESMC, активирующийся во всех из них. - **Зеллиг Харрис** (Персона): лингвист; статья 1954 года «Дистрибутивная структура» сформулировала, что контексты слов кодируют смысл — теоретический предшественник, на который Rives ссылается, обосновывая, почему статистика контекстов аминокислот должна кодировать биологическую функцию.

Federico Cassano из Cursor и Dmytro Dzhulgakov из Fireworks разбирают для Sonya Huang каждый слой архитектуры Composer 2 — от базовой модели Kimi 2.5 MoE через масштабный mid-training до асинхронного, глобально распределённого RL — и объясняют, почему специализированные модели выигрывают у универсальных по цене и качеству. Главное здесь — инфраструктурная история: четыре GPU-кластера на разных континентах, схема Delta Compression, позволяющая передавать терабайтные снимки весов меньше чем за минуту, и RL-цикл реального времени, который каждые несколько часов обновляет живую модель на основе реальных пользовательских сигналов. Всё это вместе позволяет Cursor получать производительность класса frontier при значительно более низких inference-затратах по сравнению с универсальными моделями. ## [00:00] Введение Эпизод начинается с обсуждения проблемы, поднятой Dmytro: среда обучения должна максимально точно воспроизводить реальную машину пользователя, потому что модели умеют распознавать имитацию и начинают её эксплуатировать. > *«Модели обожают жульничать. RL очень хорошо стимулирует жульничество.»* — Federico Cassano Это наблюдение задаёт техническую дисциплину, которая проходит через весь выпуск: каждый элемент инфраструктуры существует для того, чтобы сократить разрыв между условиями обучения и production-реальностью. ## [00:53] Зачем Cursor обучил Composer 2 Federico объясняет главную ставку Composer 2 через одну аналогию: веса модели — это накопитель фиксированного размера, и каждый бит, потраченный на задачи, которые Cursor не нужны, является потраченным впустую. Выделив весь бюджет весов исключительно на задачи разработки ПО внутри Cursor — не на кодирование вообще, не на обработку естественного языка — модель может одновременно лучше справляться с единственной нужной задачей и стоить дешевле при inference. Dmytro смотрит на ту же идею со стороны инфраструктуры: prompt engineering продвигает на определённое расстояние, но единственный способ зафиксировать по-настоящему специфические поведенческие свойства системы — какие инструменты агент должен вызывать, в каком порядке и с какими аргументами — это внедрить их в модель через fine-tuning и RL. > *«Есть своего рода потолок того, как далеко можно зайти с prompt engineering. Если хочешь создавать по-настоящему качественные AI-продукты, нужно идти через fine-tuning и влиять на поведение модели.»* — Dmytro Dzhulgakov ## [04:55] Специализация против горькой истины Sonya возражает: история машинного обучения полна специализированных моделей, которые были сметены более крупными универсальными. Не повторяет ли Composer 2 ошибку TabNine? Federico считает, что нет. Горькая истина действует на уровне масштаба параметров и данных; то, что делает Cursor, — это освобождение конечной ёмкости модели от отвлекающих факторов, чтобы больше пользы от масштабирования доставалось единственной важной задаче. Лабораторные модели, с которыми конкурирует Cursor, тоже серьёзно обучаются на коде — они не являются чисто универсальными. Cursor просто идёт в специализации дальше и быстрее, контролируя пайплайн данных от начала до конца. ## [06:16] Рецепт обучения Composer 2 Composer 2 стартует с Kimi 2.5 — триллионнопараметровой MoE-модели с 30B активными параметрами. Обучение идёт в двух последовательных фазах: сначала mid-training на кодовых токенах в объёмах, близких к предобучению (продуктовые данные Cursor дают ему необычный доступ к высококачественным контекстам кодирования), затем крупномасштабная фаза RL, в которой модель проводит реальные сессии агента Cursor в симулированных средах. Mid-training обучает модель миру кода — API библиотек, идиоматическим паттернам, корректному синтаксису. RL затем превращает эти знания в правильное поведение: модель учится правильно вызывать инструменты, ориентироваться в многоходовых агентских сессиях и писать код, который действительно компилируется и проходит тесты. Асинхронный пайплайн означает, что trainer и rollout-среды работают параллельно, а не чередуясь; устаревание принимается в обмен на почти 100%-ную утилизацию GPU. > *«Возможно, вы теряете несколько процентов из-за асинхронности и неидеальных математических обновлений, но с лихвой компенсируете это, не оставляя половину мощностей неиспользованными.»* — Dmytro Dzhulgakov Обучение идёт на FP4 для максимальной пропускной способности при меньшем GPU-парке, чем у frontier-лабораторий. Inference-движок — Fireworks, а не собственная разработка: это намеренный выбор, чтобы инженеры Cursor сосредоточились на эффективности обучения, а не строили очередной inference-стек. ## [16:32] Масштабирование RL-инфраструктуры по всему миру Единого крупного смежного кластера нужного масштаба не было, поэтому команда разнесла компоненты: один кластер ведёт всё обучение, а inference — компонент rollout — работает на четырёх географически распределённых кластерах, включая свободные мощности production-серверов Composer 1.5 в часы низкой нагрузки. Обучение требует высокоскоростного интерконнекта и синхронной работы; inference — нет, поэтому он может работать на разнородных поколениях GPU с меньшими внутрикластерными сетями. Главная системная проблема — синхронизация весов: Kimi 2.5 весит около 1 ТБ, а trainer создаёт новый чекпоинт каждые 5–15 минут. Передавать 1 ТБ между континентами каждые 10 минут означало бы останавливать inference. Решение: обновления RL, как правило, разреженны и регулярны с точки зрения затрагиваемых весов, поэтому команда написала алгоритм Delta Compression, который сокращает полезную нагрузку примерно в 20 раз и передаёт только diff. Получатель воссоздаёт полный чекпоинт без потерь — никаких числовых неожиданностей на другом конце. > *«Несмотря на то что полная модель весит около 1 терабайта, не все веса меняются на каждом шаге... есть очень регулярные паттерны того, какое подмножество весов изменяется.»* — Dmytro Dzhulgakov ## [23:32] Дрейф числа с плавающей точкой Когда асинхронный RL-цикл отправляет пакет rollout-траекторий от inference обратно в trainer, тот повторно запускает тот же forward pass для пересчёта логарифмических вероятностей для GRPO loss. В теории лог-вероятности должны совпадать. На практике они часто расходятся, иногда существенно. Корневая причина — недетерминизм операций с плавающей точкой: сложение не коммутативно, поэтому A + B + C ≠ C + B + A, а небольшие расхождения накапливаются на миллиардах операций. При обычном inference модель устойчива к этому шуму. При RL — особенно с разреженной MoE-функцией гейтинга — шум усиливается до такой степени, что trainer и inference расходятся во мнениях о том, какие токены были сэмплированы, что искажает обучающий сигнал. ## [25:11] Чувствительность MoE — объяснение Архитектура MoE усиливает дрейф чисел с плавающей точкой из-за слоя гейтинга. На каждом трансформерном слое сеть гейтинга оценивает все 384 эксперта и выбирает топ-8 для каждого токена. Разницы в скрытых состояниях на пятом знаке после запятой достаточно, чтобы на границе отбора поменять эксперта 7 на эксперта 9, направив токен через совершенно другую часть модели. Поскольку MoE-эксперты крупные и практически непересекающиеся, неверный выбор эксперта даёт большое расхождение на выходе — в отличие от плотной модели, где числовой шум остаётся малым на всём протяжении. ## [26:25] Исправление Router Replay Решение — Router Replay: во время inference модель записывает индекс эксперта, который она активировала для каждого токена, и передаёт это целое число вместе со сгенерированной последовательностью обратно в trainer. Trainer затем принудительно воспроизводит тот же выбор эксперта вместо того, чтобы пересчитывать его с нуля, разрывая цепочку усиления. Параллельно с Router Replay команда выровняла уровни квантизации и реализации ядер между inference и обучением, чтобы минимизировать все остальные источники числового рассогласования. > *«Большая часть этого числового выравнивания — по сути трюки вроде сопоставления уровней квантизации, сопоставления ядер и т.д., чтобы снизить расхождение между реализациями обучения и inference.»* — Dmytro Dzhulgakov ## [27:19] RL-цикл в реальном времени Параллельно с симулированным rollout-циклом Cursor запускает то, что Federico называет RL в реальном времени: реальные пользовательские сессии в production возвращаются в обучающий пайплайн. Когда пользователь доволен или недоволен генерацией Composer, этот сигнал фиксируется, и новая версия модели выходит каждые несколько часов. Команда активно работает над сокращением этого цикла, но понимает, что с ростом горизонта rollout его придётся снова удлинять — более длинные агентские сессии требуют больше времени для оценки. Симулированный цикл и цикл реального времени служат разным целям. Симуляция позволяет запускать 16–128 rollout с одного промпта параллельно (GRPO loss требует сгруппированных rollout), исследовать off-policy без влияния на пользователей и раскручивать производительность до того, как модель стала достаточно хорошей, чтобы реальные пользователи захотели её использовать. RL реального времени — это слой доработки, который может работать только тогда, когда модель уже достигла минимального порога качества: пользователи с плохим опытом перестают генерировать сигналы обратной связи. > *«Мы не можем создать модель с нуля таким образом, потому что пользователи должны ею пользоваться. Значит, она уже должна быть хорошей, и мы можем только делать её лучше.»* — Federico Cassano ## [31:49] Агенты с длинным горизонтом По мере удлинения горизонта rollout возникают два структурных затруднения. Первое — присвоение кредита: при единственном сигнале «палец вверх / палец вниз» в конце многоминутной сессии модель должна понять, какое из 50+ решений в траектории определило результат. С удлинением траектории задача усложняется экспоненциально. Второе — заполняется контекстное окно. Решение Cursor — встроить самосуммаризацию прямо в RL-цикл под названием «compaction»: модель учится через RL-вознаграждение писать полезное резюме своего прогресса при приближении к лимиту контекста и достоверно продолжать с этого резюме. Модель с контекстом 200K фактически работает над миллионами токенов, потому что может сбрасывать окно и хранить рабочую память в сжатом виде. > *«Через RL, поскольку RL подталкивает модель делать вещи правильно по отношению к цели, мы одновременно обучаем модель писать хорошее резюме, а затем очень внимательно следовать этому резюме.»* — Federico Cassano ## [34:29] Почему RL везде Sonya представляет RL как инструмент специально для агентского использования инструментов с длинным горизонтом. Federico возражает: RL полезен повсюду, включая автодополнение. Его теория: предобученные модели усвоили все знания человечества, но не знают, какую персону занять при получении промпта — эксперта, студента или что-то среднее. Первая фаза RL-обучения заостряет это распределение, сообщая модели: «Ты эксперт, делай это правильно». Этот эффект ценен даже для задач вроде суммаризации, у которых нет интерактивного инструментария. Вторая фаза — где модель начинает заметно рассуждать и кривая вычислений выравнивается — это место, где сигнал конкретной задачи действительно накапливается. ## [37:34] LLM как судья при вознаграждении Чем более верифицируемо вознаграждение — компилируется ли код, проходят ли тесты, верен ли ответ числово — тем больше вычислений можно вложить в RL и всё равно получить лучшую модель. LLM-as-judge заполняет пробел для задач, где истина трудноопределима: нужно закодировать рубрику в промпт и позволить второй модели оценивать качество rollout. Dmytro отмечает, что это особенно полезно для задач, ориентированных на стиль, например для суммаризации, где рецензентам-людям сложно сформулировать, что значит «хорошо», но они могут оценить результат по явным критериям. > *«В целом чем более верифицируемо ваше вознаграждение, тем лучше — это позволяет масштабировать вычисления и просто получать лучший результат.»* — Dmytro Dzhulgakov ## [39:14] RL в сложных областях Для областей, где истина не поддаётся дешёвому вычислению — творческое письмо, открытые рассуждения, экспертиза предметной области — путь к улучшению RL лежит через обогащение среды. Более крупные симулированные среды, охватывающие больше продуктовых метрик, позволяют продвигать автоматическую оценку дальше. Эксперты по-прежнему необходимы — не для оценки отдельных rollout, а для проектирования задач и рубрик, определяющих, что должна оптимизировать функция вознаграждения. ## [40:13] Создайте свою среду Cursor не использует никаких поставщиков RL-сред. Для кодирования репозитории GitHub предоставляют практически неограниченный пул рабочих сред: клонируй репозиторий, установи зависимости, дай модели задачу и измерь результат по тестовому набору. Более сложная инфраструктурная задача — сделать эти среды достаточно реалистичными, чтобы предотвратить жульничество, с которого начался эпизод, и достаточно быстрыми, чтобы одновременно запускать 100 000 экземпляров по требованию. Ответ Cursor — собственный стек виртуальных машин: полноценные VM, не контейнеры — которые могут мгновенно масштабироваться до произвольного размера и достаточно точно воспроизводят реальные машины пользователей, чтобы модель не могла обнаружить разницу. Dmytro описывает расстановку сил на рынке: frontier-лабораториям нужны универсальные среды, охватывающие любые задачи; продуктовым компаниям следует обучать RL против их собственной production-среды. Самая мощная среда обучения для любой модели — это тот продукт, в котором она будет использоваться. > *«Самая мощная среда — ваш собственный продукт.»* — Dmytro Dzhulgakov ## [44:34] Заключительные мысли Sonya завершает, отмечая, что траектория Cursor — от приложения к frontier-лаборатории — это паттерн, по которому пойдут другие AI-продуктовые компании. Federico благодарит Fireworks за инфраструктурный фундамент, который сделал обучение возможным в рамках GPU-бюджета Cursor. Dmytro размышляет о глубине системного инжиниринга, вложенной в задачу, которую большинство воспринимало как чисто алгоритмическую. ## Сущности - **Federico Cassano** (Персона): руководитель исследований Composer 2 в Cursor; разработал рецепт обучения и методологию RL. - **Dmytro Dzhulgakov** (Персона): руководитель инфраструктуры в Fireworks AI; создал распределённую систему RL-обучения для Composer 2. - **Sonya Huang** (Персона): партнёр в Sequoia Capital; ведущая подкаста об AI-инвестициях. - **Composer 2** (Программное обеспечение): специализированная агентская модель кодирования Cursor, обученная с помощью mid-training и крупномасштабного RL на базе Kimi 2.5 MoE. - **Fireworks AI** (Организация): компания по обслуживанию моделей и inference-инфраструктуре, предоставившая распределённый GPU-бэкбон для RL-обучения Composer 2. - **Cursor** (Организация): компания — разработчик AI-IDE для кодирования; обучила Composer 2 как специализированную базовую модель для разработки ПО внутри своего продукта. - **Kimi 2.5** (Программное обеспечение): открытая MoE-модель с 1 триллионом параметров (30B активных) от Moonshot AI; использована как база для Composer 2. - **GRPO** (Концепция): Group Relative Policy Optimization — алгоритм RL для Composer 2, требующий нескольких параллельных rollout с одного промпта для вычисления градиента политики. - **Router Replay** (Концепция): техника числового выравнивания для MoE, при которой inference записывает и воспроизводит решения о маршрутизации к экспертам для trainer, предотвращая расхождение лог-вероятностей из-за дрейфа чисел с плавающей точкой. - **Real-Time RL** (Концепция): production-петля обратной связи Cursor, фиксирующая сигналы удовлетворённости живых пользователей и непрерывно обновляющая модель с выпуском новой версии каждые несколько часов. - **Delta Compression** (Концепция): техника синхронизации весов, передающая только изменившиеся параметры между обучением и распределёнными inference-кластерами, сжимая снимки в 1 ТБ до ~50 ГБ на практике. - **Self-Summarization / Compaction** (Концепция): обученная через RL способность агента сжимать рабочий контекст при приближении к лимиту контекстного окна, обеспечивая фактически неограниченный горизонт работы.

Isabella He, инженер команды Applied AI в Anthropic, за 37 минут собирает рабочего SRE-агента инцидентного реагирования вживую — от пустого `agent.py` до Streamlit-приложения, которое транслирует вызовы инструментов, сохраняет сессии и диагностирует скачок задержки P99. Сессия сочетает пятиминутный обзор архитектуры с практическим кодированием — участники уходят и с работающим агентом, и с пониманием того, как расширить его до субагентов, памяти и хранилищ. ## [00:19] Приветствие и план сессии Isabella рассказывает о команде Applied AI в Anthropic — «на пересечении продуктов, исследований и наших клиентов» — и обозначает три части сессии: быстрый обзор платформы, практическая сборка кода и взгляд на продвинутые возможности вроде dreaming и subagents. Отправная точка — ночной вызов в 3 утра, от которого SRE-агент на базе Managed Agents убережёт разработчиков. > *«Моя цель сегодня — чтобы вы на практике поработали с Managed Agents, поняли, как устроен harness под капотом, и были готовы выпустить своего первого агента инцидентного реагирования.»* ## [02:10] От Messages API к Managed Agents Isabella прослеживает историю продукта: Messages API 2023 года давал прямой доступ к токенам, но управление контекстом, циклами агента и компакцией оставалось на плечах разработчиков. Agent SDK добавил файловую систему Claude Code, но хостинг по-прежнему требовал самостоятельного управления. Managed Agents — третье поколение: Anthropic берёт на себя масштабирование, изоляцию, наблюдаемость и среду выполнения инструментов, и команды выходят в продакшн «в 10–15 раз быстрее». Проблему сопровождения она иллюстрирует реальным примером: Sonnet 4.5 проявлял «context anxiety» — завершал задачи досрочно. Anthropic пропатчил harness; Opus 4.5 устранил это поведение полностью, сделав патчи ненужными. > *«Harness должен развиваться вместе с агентами — именно поэтому с Claude Managed Agents мы хотим, чтобы Anthropic брал на себя все сложности компакции, кэширования и context anxiety.»* ## [05:55] Ключевые примитивы: Agent, Environment, Session Каждое приложение на Managed Agents состоит из трёх объектов. **Agent** хранит персону — выбор модели, системный промпт, MCP-серверы, навыки. **Environment** — контейнер выполнения, аналог «рук» к «мозгу» агента; поддерживает как облако Anthropic, так и собственные вычислительные мощности — опция появилась накануне. **Session** связывает оба объекта и монтирует файлы данных; события (сообщения, вызовы инструментов, ответы) стримятся обратно к вызывающему, а не возвращаются единым ответом. Разделение цикла агента и выполнения инструментов сократило время до первого токена по метрике P95 более чем на 90% — и одновременно исключило утечку учётных данных через изолированный контейнер. > *«После этого разделения наши команды зафиксировали снижение времени до первого токена более чем на 90% по P95-метрике задержки.»* ## [09:15] Подготовка к воркшопу Участники клонируют репозиторий воркшопа и переходят в `ship-your-first-managed-agent`, создают виртуальное окружение, устанавливают зависимости и вставляют API-ключ Anthropic в `.env`, после чего запускают `streamlit run app.py`. Isabella подтверждает, что Streamlit-URL открывает чат-интерфейс инцидентного реагирования — чистый холст для сборки. > *«Можете делать это по ходу или позже в своё время — всё будет отображаться на экране, так что всегда можно следить.»* ## [10:48] Сборка агента шаг за шагом Работая с незавершённым `agent.py` рядом с `agent_complete.py`, Isabella вставляет шесть блоков кода по очереди: 1. **Определение агента** — `SRE_AGENT` на базе Claude Opus 4.7, минимальный системный промпт с ролью агента и доступными инструментами (get_metrics, get_recent_deploys, get_diff, fetch_logs). 2. **Environment** — облачное окружение Anthropic с открытой сетью для демонстрации; в продакшне можно ограничить список разрешённых адресов или маршрутизировать через Claude MCP tunnels. 3. **Загрузка логов** — прикрепляет файл лога через Files API, чтобы агент мог работать с ним в коде; Isabella отмечает, что именно на context engineering уходит большая часть итераций. 4. **Создание сессии** — передаёт `agent_id`, `environment_id` и ссылки на загруженные ресурсы, чтобы связать всё воедино. 5. **Стриминг событий** — получает события (не сырые токены) из сессии, что позволяет отображать данные в реальном времени и вести журнал наблюдаемости. 6. **Локальные инструменты и удаление сессии** — регистрирует `get_metrics`, `get_recent_deploys` и `get_diff` как обработчики на стороне клиента, затем добавляет вызов удаления сессии с пометкой, что удалённые сессии полностью вычищаются из логов. > *«Единственное, чего не хватает — дать агенту наши локальные инструменты, чтобы он мог начать действовать на моём компьютере или в моей инфраструктуре.»* ## [19:43] Запуск агента и живая демонстрация Isabella запускает новую сессию с промптом «debug my incident for me». Агент последовательно вызывает `sandbox_bash`, `get_recent_deploys` и `get_diff`, транслирует каждый вызов инструмента и токены ответа в UI, затем возвращает структурированный отчёт об инциденте: скачок задержки P99 (в 10 раз выше базовой) отслеживается до исчерпания пула соединений с базой данных, внесённого коммитом Алисы `refactor_order_summary_builder`. Isabella замечает, что в продакшн-варианте можно добавить доступ Claude Code для предложения исправления, открытия PR и закрытия цикла без участия человека в критическом пути. Жёсткое обновление браузера подтверждает сохранение сессии — все предыдущие сессии восстанавливаются из облачного состояния, без локальной базы данных. > *«Если прокрутить все вызовы инструментов, видно, что всё сохранено в облаке с точки зрения логов. Всё это также будет зафиксировано в консоли наблюдаемости.»* ## [27:18] Обзор архитектуры, продвинутые возможности и Q&A Isabella суммирует событийно-ориентированную архитектуру: сессии работают с событиями, а не с парами запрос-ответ; журнал событий позволяет Managed Agents возобновить сессию после перезапуска контейнера без повторного прогона цикла агента. Затем она анонсирует четыре продвинутые возможности: - **Subagents** — оркестратор порождает дочерних агентов с собственными контекстными окнами для параллелизма и управления контекстным бюджетом. - **Memory / Dreaming** — агент анализирует собственные журналы сессий и решает, что сохранить, обеспечивая самообучение и запоминание предпочтений между сессиями. - **Outcomes** — разработчики задают критерии; агент сам определяет, какие вызовы инструментов приведут к нужному результату. - **Vaults** — учётные данные шифруются между отдельным эндпойнтом и контейнером агента, для каждого пользователя и сессии, опираясь на разделение «мозг/руки», заложенное в архитектуру. Isabella завершает сессию, направляя участников на следующую встречу по теме dreaming и встроенный дашборд наблюдаемости в консоли Managed Agents. > *«Надеюсь, каждый из вас уходит с пониманием того, как Managed Agents работает под капотом — и гордитесь собой все, кто смог выпустить агента инцидентного реагирования.»* ## Сущности - **Isabella He** (Персона): Member of Technical Staff, команда Applied AI в Anthropic; ведущая воркшопа - **Claude Managed Agents** (Программное обеспечение): управляемая инфраструктура Anthropic для продакшн-агентов; берёт на себя масштабирование, изоляцию, наблюдаемость и среду выполнения инструментов - **Agent SDK** (Программное обеспечение): более ранний harness Anthropic с доступом к Claude Code; требовал хостинга на стороне разработчика - **Claude Opus 4.7** (Программное обеспечение): модель, использованная для SRE-агента в демонстрации воркшопа - **Sonnet 4.5** (Программное обеспечение): более ранняя модель, проявлявшая «context anxiety» (досрочное завершение задач); приведена как пример необходимости эволюции harness - **Files API** (Программное обеспечение): API Anthropic для загрузки файлов (логов, метрик) в контекст агента - **Dreaming** (Концепция): функция Managed Agents, при которой агент асинхронно анализирует историю собственных сессий для обновления долгосрочной памяти - **Outcomes** (Концепция): задание целей через критерии в Managed Agents; агент сам выбирает вызовы инструментов для достижения заданного результата - **Vaults** (Концепция): зашифрованное хранилище учётных данных в Managed Agents; отделено от контейнера агента через архитектуру «мозг/руки» - **MCP tunnels** (Концепция): функция Claude для маршрутизации трафика MCP-серверов через частную сеть вместо публичного интернета - **Context anxiety** (Концепция): наблюдавшееся поведение Sonnet 4.5 — досрочное завершение задач при наличии доступного контекстного бюджета; устранено в Opus 4.5 - **Anthropic** (Организация): компания в области AI-безопасности; создатель Claude и платформы Managed Agents - **DataDog** (Программное обеспечение): платформа мониторинга в продакшне, упомянутая как замена демонстрационного инструмента метрик на базе JSON - **Streamlit** (Программное обеспечение): Python-фреймворк для UI, использованный для построения чат-интерфейса инцидентного реагирования в воркшопе

Капитан Манчестер Юнайтед Bruno Fernandes встречается с Steven Bartlett на тренировочной базе в Каррингтоне. В разговоре он объясняет, почему отказался от предложения, по слухам составившего £200 миллионов, напрямую отвечает на претензии Роя Кина и рассказывает о ценностях, заложенных отцом в Порту, — тех самых, что сделали его одним из самых стабильных игроков в истории Премьер-лиги. За 90 минут беседа охватывает детство в рабочей семье, бесстрашие на раннем этапе карьеры, умение понимать тренеров, управление раздевалкой и то, что победа на чемпионате мира с Португалией значила бы для него больше, чем любой клубный трофей. ## [00:00] Вступление Эпизод открывается фрагментом из более поздней части разговора: Bruno отвечает на критику Роя Кина и объясняет отказ от предложения в £200 млн. Затем Steven обрисовывает место действия — тренировочная база Манчестер Юнайтед. Он представляет Bruno как лучшего игрока клуба эпохи после Фергюсона: ни один полевой игрок Премьер-лиги не отдал больше передач под удар с момента его прихода, 108 голов в 328 матчах, пятикратный лауреат премии имени сэра Мэтта Басби по итогам голосования болельщиков. ## [01:38] Что сформировало Bruno Fernandes? Steven просит Bruno начать с самого начала: что ему нужно понять о том, откуда пришёл Bruno? Ответ моментальный — семья и ценности, которые передали ему родители. Детство в Порту, по словам Bruno, стало фундаментом всего, кем он стал и как игрок, и как человек. > *«Ценности моей семьи, ценности моих родителей — вот что сделало меня тем человеком и тем игроком, которым я являюсь сегодня.»* ## [02:33] Как отец Bruno привил ему победный характер Отец Bruno не демонстрировал любовь объятиями или словами — он показывал её поступками: жертвенностью и неизменно высокими требованиями. Если Bruno забивал два-три гола, отец разбирал именно плохие моменты, а не хорошие. Он никогда не настаивал на том, чтобы сын становился футболистом — он хотел, чтобы Bruno делал любое выбранное дело на 100%. Получить 98 баллов на экзамене хорошо, но всё равно оставалось 2%, которые куда-то ушли. Эта логика — всегда есть что улучшить — до сих пор определяет то, как Bruno воспринимает критику от Роя Кина или кого угодно ещё: она его не задевает, потому что он научился её слышать с пяти лет. > *«Я с такого раннего возраста научился работать с критикой, что теперь нахожусь, пожалуй, в одном из клубов, где критики и внимания больше всего. Меня это не ранит.»* ## [05:47] Почему Bruno уже в 5 лет был другим На первой тренировке в FC Infesta Bruno сразу же перевели играть с семилетними. Он не был ни самым быстрым, ни самым высоким, ни самым техничным — но не боялся ничего. Дома он тренировался против старшего брата, который был на пять лет старше, и воспринимал это как само собой разумеющееся. Арбитры порой просили тренера заменить его, потому что он шёл в отбор без оглядки на рост и возраст соперника. Bruno объясняет эту бесстрашность как главное качество, которое двигало его вперёд: он никогда не был доволен тем, что он лучший в слабой группе, и всегда искал конкуренцию посильнее. > *«Я ничего не боялся. Нужно бежать наперегонки с тем, кто быстрее? Я побегу — может, не обгоню, но буду рядом.»* ## [08:40] Как Francesco Guidolin помог сформировать карьеру Bruno В 18 лет Bruno переехал в Италию и в буквальном смысле часами висел в неопределённости — Удинезе почти отдал его в аренду в Уотфорд, но спортивный директор перезвонил в последний момент: тренер хочет, чтобы он остался. Этим тренером был Francesco Guidolin. Он сказал Bruno прямо: мы купили тебя, потому что видели твои качества во втором дивизионе. Просто будь спокоен, учись и доверяй процессу. Guidolin стал для всей команды отцовской фигурой и помог Bruno осознать разрыв между собственным восприятием себя как игрока и логикой тренерских решений. Этот урок Bruno не забыл: с тех пор он ни разу не приходил к тренеру жаловаться на позицию или схему — он берётся за то, о чём его просят, и позволяет результатам говорить за него. > *«Он был как отец для всего клуба. Всегда давал каждому игроку почувствовать, что тот важен. Это сильно расширило моё понимание того, через что проходят тренеры.»* ## [12:04] О чём мечтал Bruno в 18 лет Как только Bruno стал профессионалом, его цель была одна: топ-клубы, Лига чемпионов, трофеи, игра рядом с теми, за кем он следил, взрослея. Steven спрашивает, верил ли он тогда, что сможет туда добраться. Bruno отвечает: он ни разу не сомневался. ## [12:30] Почему Тоттенхэм едва не подписал Bruno В 22 года, после прорывного сезона в Спортинге — 20 голей и 13 голевых передач, — Тоттенхэм и Bruno ударили по рукам. В последний день трансферного окна Спортинг отозвал согласие. Bruno хотел уйти — Премьер-лига всегда была его целью — и пережил разочарование. А потом в январе позвонил агент — и привёз новость покрупнее. ## [14:09] Момент, когда Bruno узнал, что его хочет Манчестер Юнайтед Bruno стоял в гардеробе и собирался спать, когда позвонил агент Miguel. Он заранее попросил Miguel не говорить ничего, пока сделка не будет оформлена хотя бы на 95%, — история с Тоттенхэмом научила его не позволять трансферным слухам ломать концентрацию. Когда Miguel сказал «это тот клуб, которого ты ждал», Bruno замер — и расплакался. Жена вошла, увидела его с телефоном в руках и слезами на глазах. Bruno перезвонил агенту и велел не торговаться ни о чём: просто сказать «да». То, что Юнайтед незадолго до подписания проиграл Бёрнли, не охладило его пыл — за плохими результатами он видел потенциал, который цифры ещё не отражали. > *«Просто скажи им, что я еду. Это то место, где я хотел быть. Мечта исполнилась на 100%.»* ## [22:15] Как изменилась культура внутри футбола Steven делится наблюдением: атмосфера в Каррингтоне сегодня ощутимо отличается от лет, когда характер игроков при подборе в расчёт почти не брался. Bruno подтверждает диагноз и называет первопричину: слишком частая смена тренеров, каждый из которых покупал игроков под свою систему, — в итоге после очередного ухода тренера состав не подходил никому. Рецепт Bruno: сначала набирать игроков под стандарты Манчестер Юнайтед, а потом находить тренера, которому эти игроки подойдут, — не наоборот. Как ориентир он называет Сити Гвардиолы: игроки подобраны в партнёрстве между клубом и тренером, с расчётом на долгосрочную перспективу. Характер, считает Bruno, переживает любое качество: форма колышется, а отношение к делу в полосе неудач определяет, удержится раздевалка или рассыплется. Он также объясняет, откуда берётся его привычка одинаково уважительно относиться ко всем — физиотерапевтам, охранникам, официантам, уборщикам: его мать сама убирала чужие дома. > *«Характер в футбольном клубе важнее качества, потому что качество всегда можно найти и вырастить.»* ## [32:38] Социальные сети и взаимодействие футболистов То, что в этом сезоне скандалы с соцсетями исчезли из жизни Юнайтед, для Steven — один из самых наглядных признаков культурных изменений. Bruno говорит: клуб должен реагировать жёстко, когда что-то идёт не так. Но сам он выстроил эту границу раньше: в первый же день профессиональной карьеры попросил родителей, брата и сестру ничего о нём не публиковать и ни на что не отвечать без его ведома. Мать тяжело переживает критику в интернете. Его совет ей: молись, не отвечай. ## [35:36] Почему Bruno считает, что каждый тренер заслуживает поддержки Ole, Carrick, Rangnick, Ten Hag, Amorim, снова Carrick — публичная позиция Bruno по отношению к каждому тренеру не менялась. Он объясняет почему: каждый тренер требовал от него чего-то нового, а значит, каждый верил, что Bruno способен на то, чего раньше не делал. Его задача — сделать так, чтобы ни один тренер не мог позволить себе мысль «Bruno в стартовом составе не будет». Если подход тренера не работает — это его проблема, которую он должен решить сам. Bruno за спиной не пойдёт. > *«Единственное, чего я не дам тренерам, — это выбора или мысли в голове о том, что они не будут ставить Bruno.»* ## [37:15] Что на самом деле делает тренера великим По мнению Bruno: хороший тренер не делает различий между звёздными и рядовыми игроками в плане требований, но подходит к каждому индивидуально — потому что одинаковый стимул действует на людей по-разному. Единый стандарт, персональный подход. ## [37:54] Как Bruno относится к игрокам Как капитан, Bruno кричит на всех — и делает это именно потому, что верит в них. Многим он говорил одно и то же: день, когда он перестанет на тебя кричать, — это день, когда он перестанет верить, что ты можешь расти. Хвалит тогда, когда похвала действительно откроет следующий уровень; требует тогда, когда знает, что ресурс ещё есть. Его отец двадцать лет применял ту же схему. > *«Поверь мне: день, когда я перестану на тебя кричать, — это день, когда я больше не верю в тебя и не верю, что ты можешь стать лучше.»* ## [39:56] Что происходит в раздевалке в полосе неудач Когда тренер оказывается под давлением, игроки, по словам Bruno, больше всего переживают именно за него. А те, кто выходит в старте, острее всего ощущают, что смена тренера означает обнуление. Bruno не утратил веры несмотря на несколько таких перезапусков, потому что каждый раз возвращается к внутреннему ориентиру: он верит в себя и знает, что если будет делать всё правильно и потянет за собой других, у команды по-прежнему есть шанс. Он также отмечает, что нынешняя смена тренера произошла не из-за турнирного положения — Юнайтед был близко к вершине таблицы — а потому что между клубом и тренером иссякло доверие. ## [43:07] Главное, что Michael привнёс в Манчестер Юнайтед Ключевой вклад Michael Carrick, по версии Bruno, — спокойствие и личная ответственность игроков. Carrick задаёт принципы — как прессинговать, где возникают зоны, какие требования не обсуждаются, — а затем доверяет игрокам читать игру, когда в ходе матча эти принципы дают сбой: за 90 минут случается то, что никакое предматчевое видео не предскажет. Bruno приводит гол в матче с Ноттингем Форест как наглядный пример: они увидели эту комбинацию, разбирая игру Астон Виллы против Форест, отработали её на тренировке и реализовали, когда момент пришёл в реальном матче. > *«Он даёт базу, фундамент, определённые правила, которые не обсуждаются. Но он также хочет, чтобы мы брали ответственность на себя по ходу игры — потому что он не может подсказать тебе, куда пасовать или куда бить.»* ## [48:23] Почему Bruno считает риск необходимым Философия риска у Bruno сугубо позиционная: задача десятки — идти на риски, из которых рождаются голы. Два провальных паса в прорыв — не беда, если третий стал голевым: математика в пользу команды. Его сочетание с Kobbie Mainoo и Casemiro, которые рискуют значительно реже, неслучайно — позиционное разделение это предполагает. Когда Ten Hag показал ему схему эффективности ударов по зонам — чаще забивает с левой, реже с дальней дистанции слабой ногой, — Bruno усвоил это и скорректировал выбор позиции для удара. > *«Это всегда соотношение риска и выгоды. Нужно понимать, какую выгоду принесёт тот или иной риск, и полезен ли этот риск команде.»* ## [52:44] Реклама Рекламный блок: LinkedIn Ads, Bon Charge, Vanta. ## [55:01] Позиция, которую Bruno любит больше всего На поле в Каррингтоне Bruno рисует квадрат в центрально-левой зоне финальной трети — между линиями, достаточно близко, чтобы получать мяч, и достаточно далеко, чтобы создавать угрозу. При Ole он был классической десяткой. При Amorim — нередко левым полузащитником в фазе созидания. При Ten Hag — порой шестёркой рядом с Mainoo. Какой бы ни была позиция, его требования к себе неизменны: самоотдача, движение, бойцовский дух. > *«Бег, борьба и командный дух — без этого нельзя.»* ## [58:58] Bruno, похоже, не устаёт Bruno объясняет это генетикой — и тут же добавляет то, что контролирует сам: он тренируется на 100% каждую сессию и останавливается только тогда, когда по-настоящему почувствует усталость. Если сессия заканчивается, а усталости нет, он остаётся — бьёт по воротам, отрабатывает кроссы — именно потому, что хочет тренировать навыки, которые применяет в последние двадцать минут матча, в уставшем состоянии. > *«Нужно тренировать тело и голову, когда они устали. Тогда тело привыкает к усталости и знает, как на неё реагировать.»* ## [01:00:31] Что значит для Bruno быть капитаном Манчестер Юнайтед Ten Hag вызвал Bruno в кабинет и спросил — не приказал — хочет ли он быть капитаном. Первая мысль — благодарность. Вторая — Harry Maguire. Прежде чем согласиться, Bruno вышел из кабинета, нашёл Harry — тот уже знал. Harry сказал: если кто и заслуживает этого, то ты. Bruno ответил: потеря повязки ничего не меняет — Harry по-прежнему один из лидеров и участник каждого важного решения. Этот сезон: 34 матча, 8 голов, 20 голевых передач, 12 наград лучшему игроку матча (рекорд Премьер-лиги) и пятая премия имени сэра Мэтта Басби по итогам зрительского голосования. ## [01:03:44] Почему этот сезон ощущается иначе Рекорд по голевым передачам — повторение достижения Kevin De Bruyne и Thierry Henry (20 в одном сезоне Премьер-лиги) — привлёк к Bruno больше внимания, чем когда-либо раньше. Он говорит, что начал думать об этом лишь где-то на отметке 16-17 передач; до этого момента цифра не была у него в голове, потому что цель всегда одна — превзойти результат предыдущего сезона. Именно здесь возникает история с Роем Кином. Кин обвинил Bruno в том, что тот гонится за рекордом, опираясь на слова, которые Bruno якобы произнёс: «Надо было бить, а я отдал пас». По версии Bruno, смысл сказанного был прямо противоположным: он критиковал себя за то, что ударил вместо паса партнёру, стоявшему в лучшей позиции. То, что сделал Кин, Bruno назвал ложью — не мнением, с которым он не согласен, а намеренным искажением слов, сказанных на записи. Он попросил Ole Gunnar Solskjaer дать ему номер Кина, чтобы поговорить напрямую. > *«Что мне не нравится — так это когда люди лгут. Он может критиковать меня, уничтожать, говорить, что я недостаточно хорош. Это нормально. Что мне не нравится — так это то, что он вкладывает мне в уста слова, которых я не говорил.»* ## [01:10:33] Эмоциональные голосовые сообщения от одноклубников Накануне записи Steven написал одноклубникам Bruno с просьбой наговорить голосовые сообщения. Откликнулись несколько человек — в том числе Diego Dalot, Luke Shaw, Tom Heaton и один заранее записанный голос другого игрока. Bruno узнаёт каждый голос и говорит: его больше всего трогает не то, что они говорят о нём как об игроке, а то, как говорят о нём как о человеке — что ценности, которые родители вложили в него в Порту, видны тем, с кем он работает каждый день. > *«Главное для меня — то, как они говорят обо мне как о человеке, а не как об игроке.»* ## [01:14:31] Почему быть человеком для Bruno важнее, чем футбол Bruno проводит с одноклубниками больше времени, чем с друзьями из Португалии и даже с родителями. Люди, с которыми он тренируется, стали частью его повседневной жизни — а значит, то, как он к ним относится, не менее важно, чем то, как он играет. Когда голосовые сообщения говорят о его характере, а не о футболе, он понимает: то, что было важнее всего для мамы и папы, в нём сохранилось. > *«Я просто мягкий человек. На поле это не видно, но я довольно мягкий.»* ## [01:15:54] Реклама Рекламный блок: Vanta, разговорные карточки Diary of a CEO. ## [01:18:56] Почему Bruno отверг огромные предложения покинуть Манчестер Юнайтед Предложение примерно в £200 миллионов из ближневосточного клуба поступило во время послесезонного тура в Гонконге. Bruno позвонил жене через разницу в часовых поясах. Её вопрос: ты уже добился здесь всего, чего хотел? Ответ — нет: ни Премьер-лиги, ни Лиги чемпионов с Юнайтед. Разговор был закончен. Bruno объясняет решение не сентиментальностью, а незавершёнными делами, и отдаёт жене полный кредит: в 16 лет она согласилась поехать вслед за ним в Италию на контракт в €1500 в месяц без каких-либо гарантий. С тех пор она участвует в каждом важном решении его карьеры. > *«Я не реализовал свои мечты здесь. У нас ещё есть мечты, которые нужно исполнить.»* ## [01:22:32] Семья как главная опора Bruno Bruno с трудом сдерживает слёзы, говоря о жене и двух детях — дочери, родившейся в Италии, и сыне, родившемся в Англии. Он называет жену второй версией своего отца: она осаживает его, когда у него слишком задирается нос, напоминает, что всегда есть куда расти, и редко показывает чувства. Его голевое празднование — закрытые ладонями уши — позаимствовано у дочери, которая делала так в детстве. Он также говорит о порядке, который Ineos принёс в клуб: более чёткие линии связи между игроками и руководством. Bruno ясно даёт понять: он хочет, чтобы Michael Carrick получил время, потому что именно этого — стабильности — Юнайтед последовательно лишал своих тренеров. > *«Они проходят через многое — взлёты, падения, тяжёлые моменты, — но всегда стоят рядом с тобой. Это самое важное, что может быть в жизни.»* ## [01:30:30] Что должно измениться, чтобы Юнайтед снова боролся за титулы Bruno называет трансферную политику ключевой переменной предстоящего лета. Уход Casemiro требует замены, но приоритет — не самое дорогое имя на рынке, а правильный характер. Прошлое лето само подтвердило эту логику: прорыв Amad Diallo и приход Patrick Dorgu показывают, что происходит, когда берёшь настоящих профессионалов с настоящим характером — состав крепнет, не нуждаясь в суперзвезде для прикрытия прорех. ## [01:31:42] Каким Bruno видит успех через пять лет Последний вопрос, переданный от предыдущего гостя подкаста: если через пять лет всё сложилось наилучшим образом, что произошло? Ответ Bruno: Премьер-лига, Лига чемпионов и чемпионат мира с Португалией — в таком порядке по эмоциям, но не по сложности. Победа с клубом была бы невероятной. Победа с национальной сборной стала бы главным достижением карьеры — потому что это значит представлять семью, страну, небольшую нацию, которая много раз завоёвывала мир разными способами. > *«Представлять свою страну всегда будет моим главным достижением в карьере — потому что не многим игрокам выпадает такая возможность.»* ## Сущности - **Bruno Fernandes** (Персона): капитан Манчестер Юнайтед и игрок сборной Португалии; 108 голов в 328 матчах за Юнайтед с 2020 года; повторил рекорд Премьер-лиги по голевым передачам за сезон (20); пятикратный лауреат премии имени сэра Мэтта Басби - **Steven Bartlett** (Персона): ведущий The Diary of a CEO; болельщик Манчестер Юнайтед; предприниматель и инвестор - **Roy Keane** (Персона): бывший капитан Манчестер Юнайтед и телевизионный эксперт; обвинил Bruno в погоне за рекордом по голевым передачам, опираясь на цитату, которую Bruno называет противоположной по смыслу - **Michael Carrick** (Персона): главный тренер Манчестер Юнайтед (назначение подтверждено в день записи); бывший полузащитник Юнайтед при сэре Алексе Фергюсоне; привнёс в раздевалку спокойствие и культуру личной ответственности - **Francesco Guidolin** (Персона): тренер Bruno в Удинезе в 18 лет; не отправил его в аренду в Уотфорд; описан как отцовская фигура, давшая Bruno уверенность для выражения себя на высшем уровне - **Harry Maguire** (Персона): бывший капитан Манчестер Юнайтед; Bruno поговорил с ним перед тем, как принять капитанство, и называет его одним из ключевых лидеров раздевалки - **Manchester United** (Организация): английский клуб Премьер-лиги; Bruno присоединился в январе 2020 года и остаётся капитаном несмотря на многочисленные смены тренеров и крупные финансовые предложения от других клубов - **Sporting CP** (Организация): португальский клуб, в котором Bruno в последнем сезоне забил 20 голов и сделал 13 голевых передач; этот период он называет временем, когда стал лучшей версией себя как игрока - **Ineos** (Организация): инвестиционная группа, вошедшая в состав акционеров Манчестер Юнайтед; Bruno отмечает улучшение структуры клуба и коммуникации между игроками и руководством - **Соотношение риска и выгоды** (Концепция): принцип принятия решений Bruno на поле — пас в прорыв, дважды не доходящий до адресата, но с третьей попытки приводящий к голу, является правильным решением для десятки - **Характер важнее качества** (Концепция): центральный аргумент Bruno о просчётах Юнайтед в трансферной политике — качество меняется от сезона к сезону, характер нет, поэтому сначала нужно подбирать людей с правильным характером

Dan Shipper, сооснователь и CEO Every, возвращается с 12 контрарными прогнозами об ИИ и труде — большинство из которых опровергают господствующую панику. Его главный тезис: автоматизация не уменьшает объём человеческой работы, а перестраивает его; Codex и Claude Code становятся новой операционной системой для интеллектуального труда; апокалипсис SaaS — это выдумка; а единственный навык выживания, который реально нужен, — готовность ехать на волне улучшающихся моделей. Every — компания из 30 человек — работает как живой эксперимент, проверяющий этот тезис, что ставит Дэна в уникальную позицию для оценки прогнозов. ## [00:00] Знакомство с Dan Shipper Lenny Rachitsky вспоминает предыдущий выпуск, где Дэн почти вскользь предсказал, что люди недооценивают Claude Code для нетехнической работы — прогноз, оказавшийся «невероятно точным». Новый визит строится вокруг ещё двенадцати прогнозов, и Дэн сразу же начинает с главного вывода: > *«Апокалипсис рабочих мест из-за ИИ — это не то, чего стоит бояться.»* ## [02:56] Особая позиция Дэна: жизнь в будущем с ИИ Дэн объясняет, почему Every работает как лаборатория ранних сигналов: каждый сотрудник — редакторы, операционный блок, финансы — ежедневно использует ИИ, что даёт компании фору в понимании того, как следующие двенадцать месяцев будут выглядеть на практике. Он противопоставляет это взгляду «из пузыря Сан-Франциско», утверждая, что настоящий фронтир внедрения ИИ находится там, где ИИ встречается с экспертом в своей области за реальной работой, а не там, где его разрабатывают. > *«Край ИИ — там, где ИИ встречается с живым человеком, делающим что-то настоящее.»* ## [09:17] Как изменится работа в ближайший год Lenny Rachitsky выделяет три блока прогнозов: как мы работаем, каков облик самой работы и кто выиграет. Первый прогноз Дэна: вся профессиональная деятельность сойдётся на одной платформе — либо Codex, либо Claude Code — в роли параллельного рабочего партнёра, который следит за тем, что вы делаете, берёт на себя исследования, пишет письма и запускает длительные задачи, пока вы остаётесь в своём основном документе. Сам он уже десять дней подряд держит нулевой входящий, потому что Codex совместно с Cora — почтовым агентом Every — ведёт его переписку. > *«У меня есть параллельный рабочий напарник: он не только отвечает и пишет в документе, но и уходит проводить исследования.»* ## [16:39] Аргумент в пользу универсальных агентов Дэн прогнозирует, что в каждой компании появится один «супер-агент» внутри Slack, с которым сотрудники будут взаимодействовать ежедневно — универсальный ассистент с доступом к корпоративному контексту, а не узкий бот для конкретных задач. Этот агент становится слоем организационной памяти: маршрутизирует вопросы, поднимает данные и наводит мосты между командами, которые ещё не знают, что им нужно поговорить друг с другом. ## [18:08] Codex и Claude Code как новая операционная система для работы Прорыв Claude Code — в том, что полноценный агент оказался прямо на вашем компьютере с доступом к терминалу и, что важно, к браузеру. Anthropic первой нащупала эту парадигму; OpenAI подтянулась к релизу 5.3 и затем ускорилась. Сегодняшний ежедневный инструмент Дэна — Codex, который он постоянно держит запущенным рядом с приложением для письма Proof: агент следит за браузером, читает текущую страницу и действует от его имени без переключения контекста. > *«Кто бы ни лидировал — мне совершенно очевидно, что вся ваша работа будет происходить на одной из этих платформ.»* Модель «принеси свои токены ИИ в SaaS-приложение» меняет экономику: SaaS-продукт не платит за инференс, платит пользователь — это восстанавливает маржу и снимает давление «обязательно строить собственный ИИ-слой с нуля». ## [25:39] Место Cursor в новой картине мира Cursor сегодня доминирует в рабочих процессах разработки, но Дэн видит его на стратегическом перекрёстке: остаться узкой IDE для кода или эволюционировать в универсальную агентную платформу. Узкий фокус сохраняет продуктовую чёткость; широкий — означает прямую конкуренцию с Codex и Claude Code. Его прогноз: победитель категории — тот, кто объединит код и общую интеллектуальную работу в одном месте. ## [27:42] Что это меняет для SaaS-компаний SaaS-продукты теперь должны быть читаемы агентами, а не только людьми: чистый HTML, удобные CLI-интерфейсы, дизайн, который выставляет информацию на автоматизированное потребление. Дэн приводит в пример Proof: поскольку Codex следит за страницей, мелкие раздражители устраняются почти мгновенно — петля между «наткнулся на проблему» и «проблема решена» сжимается. > *«Видны зачатки очень быстрой замкнутой петли: наткнулся на мелкую проблему — и тут же её починил.»* ## [31:13] Почему CLI уже в прошлом Эра CLI была пробежана на ускоренной перемотке. Волна шла: графический интерфейс, затем CLI как инструмент власти, затем агенты, полностью заменяющие CLI. Когда агент умеет работать с любым интерфейсом, читая экран, смысл жить в терминале исчезает. Прогноз Дэна звучит прямо: > *«CLI — это прошлое. Мы промчались через эру CLI на ускоренной перемотке.»* ## [33:34] Два агента лучше одного Дэн возражает против «агентного максимализма». Реальная складывающаяся картина — специализированные агенты: один для кода, один для почты, один для данных, — которые общаются друг с другом от имени пользователя. Когда в приложении что-то ломается, Codex может напрямую переговорить с агентом вендора и диагностировать проблему без тикета в поддержку. Парадигма меняется, как только вы допускаете, что у каждого есть агент и агенты умеют вести переговоры между собой. ## [36:22] Почему Дэн настроен оптимистично по SaaS-акциям Нарратив «SaaS мёртв» не учитывает, как работает экономика, когда агенты управляют использованием. Когда пользователи приносят свои токены ИИ в SaaS-продукт, затраты вендора на инференс стремятся к нулю. Контрарная позиция Дэна: > *«Я бы сейчас покупал SaaS-акции.»* SaaS-компании, делающие продукты удобными для агентов, не вытесняются с рынка — они получают попутный ветер для маржи. ## [39:01] Почему автоматизация не сокращает человеческий труд Это центральный интеллектуальный тезис выпуска. Дэн утверждает: каждый слой автоматизации требует человека-управляющего сверху, чтобы проверять, что автоматизация работает корректно. Он создал собственный бенчмарк — «бенчмарк старшего инженера» — попросив двух реальных senior-инженеров независимо переписать его vibe-coded приложение Proof с нуля, а затем тестируя каждую новую модель на этих эталонных решениях. Модели набирали 30/100 — до GPT-5.5, который прыгнул до 60/100. Разрыв показывает важное: модели исправляют то, что вы им указали. Опытный инженер-человек смотрит на кодовую базу, решает, что нужна полная переработка, и говорит об этом без подсказки — модели такое суждение не выдают сами. Всегда существует более высокий уровень осмысления, который требует человека. > *«Каждый раз, когда вы что-то автоматизируете, чтобы убедиться, что автоматизация работает хорошо, вам нужен человек над ней, который следит за этим.»* ## [47:00] Ценность кода, написанного людьми Код, написанный людьми, остаётся эталонным сигналом, позволяющим оценивать результат моделей. Бенчмарк Дэна держится на двух написанных людьми переработках как точке истины. По мере того как код, сгенерированный ИИ, становится нормой, написанный людьми корпус становится редким и более ценным — это то, что позволяет понять, реально ли ИИ улучшается. ## [48:36] Быстрое подведение итогов Lenny Rachitsky резюмирует первый блок прогнозов: работа происходит внутри Codex или Claude Code; у каждой компании есть супер-агент в Slack; модель «принеси свои токены» восстанавливает SaaS-маржу; CLI в прошлом; два специализированных агента лучше одного универсального; автоматизация расширяет объём человеческой работы, а не сокращает его. ## [50:15] Как меняется характер работы Второй блок — о том, каков облик самой работы. Взгляд Дэна: инженер, работающий напрямую с клиентом, становится самым ценным наймом — человек, который садится рядом с клиентом, понимает его процесс и строит решение прямо на встрече. Концепция «экономики аллокации» из его раннего эссе применима здесь: люди превращаются из непосредственных производителей в аллокаторов возможностей ИИ, а качественная аллокация оказывается когнитивно требовательной задачей. > *«Я одновременно огромный сторонник ИИ и очень оптимистичен насчёт людей и их роли в том, чтобы ИИ производил вещи, достойные производства.»* ## [56:17] Почему специалисты по данным тонут в плохом анализе Команды по работе с данными захлёбываются в ИИ-сгенерированном анализе от всех остальных сотрудников компании — анализе, который выглядит правдоподобно, но часто оказывается ошибочным. Работа старшего специалиста по данным смещается от производства анализа к его аудиту, что сложнее и требует большей когнитивной нагрузки. Та же динамика бьёт по разработке: запросы уровня junior берут на себя модели, что выталкивает на поверхность всё больше краевых случаев, требующих глубокого суждения. > *«Нужно больше старших людей, которые разбираются с более глубокими вопросами — сложными для команды, завязшей в базовых запросах.»* ## [58:24] Какие продуктовые и технические роли меняются меньше всего Ответ Дэна: роли, чей результат труднее всего оформить в промпт. Он разграничивает «присмотр за агентами» — пассивное наблюдение за ошибками — и «работу напрямую с клиентом» — активное создание систем, позволяющих всем делать то, что раньше требовало специалистов. Именно в последнем живёт интересная, труднее поддающаяся автоматизации работа. ## [62:17] Мы будем читать всё больше текстов, написанных ИИ — и нам понравится Every использует агентов в Notion для квартального планирования — стратегические отчёты каждой команды генерируются ИИ, и то, что Дэн получает в итоге, лучше того, что давало ручное планирование. Его электронная почта в основном написана GPT-5.5. Критерий приемлемости контента, созданного ИИ: понял ли отправитель, что в нём, направляя ИИ? Если да — нормально. Если отправитель явно не читал — это нарушение социального договора. > *«Шлак — это когда у них ушло меньше времени на создание, чем у меня на чтение.»* Он также публикует гайды Every, написанные с агентами-соавторами и специально оптимизированные для двойного потребления — людьми и другими агентами. ## [68:28] Почему продакт-менеджеры будут доминировать в эпоху ИИ Дэн называет внутреннего PM Every — Маркуса, ведущего продукт Spiral, — архетипом: сильное продуктовое чутьё, умение направлять ИИ для быстрой сборки и итераций, выпуск без ожидания инженерных ресурсов. PM — это принципиально аллокаторы: они решают, что и для кого строить, — и именно этот навык остаётся дефицитным, когда само производство становится дешёвым. > *«Я очень, очень оптимистичен насчёт PM.»* ## [71:05] Full-stack дизайнеры — вторые большие победители Full-stack дизайнеры — люди с сильным визуальным чутьём, работающие и в коде, — уже делают pull request'ы напрямую в таких инструментах, как Lovable и Figma Make. Граница между дизайном и разработкой сжимается к нулю. Дэн ожидает, что они станут главными супергероями эпохи ИИ наравне с PM. ## [73:11] Апокалипсис рабочих мест из-за ИИ не случится Дэн разделяет нынешнюю волну увольнений (в основном исправление избыточного найма) и структурное вытеснение из-за ИИ, отвергая последнее. Его структурный аргумент: модели обучаются на вчерашней человеческой компетентности, а значит, воспроизводят уже известное в его наиболее стандартной форме. Люди раздвигают границы, делая новое с этой зафиксированной компетентностью, — создавая пространство, которое моделям затем приходится догонять. Цикл повторяется. > *«Структурно, с учётом того, как работают модели, для людей всегда найдётся место двигаться дальше.»* ## [76:00] Как «ехать на волне моделей» и оставаться востребованным Практический совет: не сопротивляйтесь новым релизам моделей — воспринимайте каждый как новый набор возможностей, которые нужно прощупать и применить в своей предметной области. Дэн заново запускает свой «бенчмарк старшего инженера» при каждом крупном релизе модели. Он также оспаривает идею о том, что передовые знания об ИИ сосредоточены в Сан-Франциско. Every, работая из Бруклина, остаётся впереди именно потому, что использует модели для всего — а не потому что их создаёт. > *«Единственное, что нужно делать, — ехать на волне моделей. А это значит: использовать их для всего, чем вы занимаетесь.»* ## [81:02] Финальные прогнозы и советы Lenny Rachitsky подводит итог: две стороны монеты этого разговора — «меняется меньше, чем вы боитесь» (SaaS продолжает работать, рабочие места не исчезают) и «меняется больше, чем вы готовы воспринять» (как делается работа, какие роли важны, как выглядит рабочий день). Заключительный тезис Дэна: инженер в прямом контакте с клиентом — новый незаменимый найм; компании, блокирующие сотрудникам доступ к последним моделям, совершают стратегическую ошибку с замедленным эффектом. ## [85:24] Блиц-раунд Экспресс-вопросы: самое контрарное убеждение Дэна — апокалипсис рабочих мест из-за ИИ действительно не происходит; то, что он хотел бы донести до большего числа людей, — фронтир ИИ не в Сан-Франциско, а там, где кто-то использует модель для реальной работы в реальной предметной области. Своему прошлому себе он советовал бы нанимать старших инженеров раньше и ожидает, что ИИ фундаментально изменит подход людей к бенчмаркам в следующем году. ## Сущности - **Dan Shipper** (Человек): сооснователь и CEO Every; автор эссе «After Automation»; ведёт Every как живую лабораторию внедрения ИИ - **Lenny Rachitsky** (Человек): ведущий Lenny's Podcast, основатель Lenny's Newsletter, бывший PM в Airbnb - **Every** (Организация): ИИ-нативная медиа и программная компания из 30 человек; все сотрудники — ежедневные пользователи ИИ - **Codex** (Программное обеспечение): агентная платформа OpenAI для написания кода и общей интеллектуальной работы; основной инструмент Дэна сегодня - **Claude Code** (Программное обеспечение): терминальный агент Anthropic; первым воплотил агентную парадигму прямо на компьютере пользователя - **Proof** (Программное обеспечение): ИИ-ориентированное приложение Дэна для письма на Markdown; эталонная кодовая база для его «бенчмарка старшего инженера» - **Cora** (Программное обеспечение): почтовый агент Every, интегрированный с Codex для управления входящими - **Cursor** (Программное обеспечение): IDE с ИИ для разработки, стоящая на стратегическом перекрёстке между инструментом для кода и универсальной агентной платформой - **Инженер в прямом контакте с клиентом** (Концепция): гибридная роль, совмещающая инженерное исполнение с выявлением проблем непосредственно у клиента; по мнению Дэна, самый ценный новый найм в эпоху ИИ - **Бенчмарк старшего инженера** (Концепция): собственная оценочная система Дэна, где два старших инженера-человека переписывают кодовую базу с нуля, а новые модели сравниваются с этими эталонными решениями - **Экономика аллокации** (Концепция): концепция Дэна о том, что люди превращаются из непосредственных производителей в аллокаторов возможностей ИИ - **Ехать на волне моделей** (Концепция): совет Дэна оставаться востребованным — воспринимать каждый релиз модели как новый набор возможностей и активно применять их в своей предметной области