⚡️ Waarom je sciencefiction moet bouwen — Sunil Pai, Cloudflare

Okay, we're here with Sunil Pai, creator of Code Mode. Oké, we zijn hier met Sunil Pai, bedenker van Code Mode. No, I do take credit for creation of Code Mode. Nee, ik claim wel de eer voor het bedenken van Code Mode. Dynamic Isolates have been Dynamic Isolates zijn er al no, you said I did create it. nee, je zei dat jij het hebt gemaakt. It's mine. Het is van mij. I Ik It is I did create Ik heb het wel gemaakt Since Al Since I was a child, I was I've been thinking about it. Al vanaf dat ik klein was, heb ik erover nagedacht. It's my life's Het is mijn levens- It's my life's mission. Het is mijn levensmissie. I wanted to just catch up on everything going on in Cloudflare lands and also like you obviously you and I have caught up over the years. Ik wilde even bijpraten over alles wat er speelt bij Cloudflare, en ook jij en ik hebben door de jaren heen al wat contact gehad. The more recent thing which just launched yesterday was this Cloud Cloud Managed Agents thing which I which I know that you're you're also like interested in. Het meest recente ding, dat gisteren gelanceerd werd, was dat Cloud Managed Agents-iets, waar ik weet dat jij ook enthousiast over bent. Maybe we can talk about that cuz it's kind of like breaking news and you seem excited about it. Misschien kunnen we het daar over hebben, want het is actueel nieuws en je lijkt er opgewonden over. Cloud Managed Agents is dope because Anthropic is saying here is a platform for you to build and deploy your agents that are like long-running. Cloud Managed Agents is gaaf omdat Anthropic zegt: hier is een platform waarop je agents kunt bouwen en deployen die langdurig draaien. Yeah. Ja. And I like it because I like the people at Anthropic and they're super ambitious about these things. En ik vind het goed omdat ik de mensen bij Anthropic ken en ze zijn super ambitieus met dit soort dingen. Except I looked at the product and I was like I think I want to compete. Maar ik keek naar het product en dacht: ik wil concurreren. I think we can do something better with Workers and Durable Objects. Ik denk dat we iets beters kunnen doen met Workers en Durable Objects. Yeah, Cloudflare is the is an ideal platform for this. Ja, Cloudflare is een ideaal platform hiervoor. You have workflows for a while. Je hebt al een tijdje workflows. Mhm. Mhm. What is what functionalities are available in Cloudflare? Welke functionaliteiten zijn er beschikbaar in Cloudflare? Like why can't you just come on and say yeah, we we already had this? Waarom kun je niet gewoon zeggen dat jullie dit al hadden? Like what what's the difference? Wat is het verschil? I think Ik denk that you see. dat je ziet. Like anything else, I think we are like discovering the architecture of the new architecture of building software of which I'm talking about on stage in a couple of hours. Net als al het andere: we ontdekken nu de architectuur van de nieuwe manier van software bouwen, waar ik het over ga hebben op het podium over een paar uur. 5:40 p.m. 17:40. Please show up to the main stage. Zorg dat je op het hoofdpodium bent. But interestingly, our primitive Maar interessant genoeg, onze primitief The two primitives that I think are critical that I suspect every platform will eventually get. De twee primitieven die ik essentieel vind en die elk platform uiteindelijk zal krijgen. One is Durable Objects which are stateful serverless programming. De eerste zijn Durable Objects: stateful serverless programmeren. I think that's a true innovation. Dat is een echte innovatie, denk ik. It's the world's first implementation of the actor model in an in an infrastructure layer, not in user land. Het is 's werelds eerste implementatie van het actor model in een infrastructuurlaag, niet in user land. It means you can spin up millions of these stateful things that run in the background, etc. Je kunt miljoenen van deze stateful dingen opstarten die op de achtergrond draaien, enzovoort. And it runs with serverless characteristics instead of spinning up a whole VM. En het draait met serverless-kenmerken, zonder een hele VM op te starten. That's one. Dat is de eerste. The second which we announced just a few weeks ago is what we call Dynamic Workers. De tweede, die we een paar weken geleden aankondigden, noemen we Dynamic Workers. Famously, eval has been considered a bad idea, evaluating code user-generated code or now LLM-generated code, but we built this thing that lets you run it in a safe environment with zero startup time. Eval werd altijd als een slecht idee beschouwd, het evalueren van door gebruikers gegenereerde code of nu LLM-gegenereerde code, maar we hebben iets gebouwd waarmee je het in een veilige omgeving kunt uitvoeren met nul opstarttijd. And when I say safe, I mean you can expose only the APIs that you want into it, and you can control all outgoing traffic. En als ik zeg veilig, bedoel ik dat je alleen de API's die je wilt erin kunt blootstellen en al het uitgaand verkeer kunt controleren. In fact, the default way we recommend people using it is to cancel all outgoing traffic and only use the exposed endpoints. Eigenlijk raden we mensen aan om het standaard zo te gebruiken dat al het uitgaand verkeer geblokkeerd wordt en alleen de blootgestelde endpoints gebruikt worden. So, given these things, we feel we can build a much more efficient and much um a new kind of architecture for building AI agents. Dus gegeven deze dingen, denken we dat we een veel efficiëntere en nieuwe soort architectuur kunnen bouwen voor het maken van AI agents. Uh one of one of applications of dynamic workers, we made a little noise about it a while ago, is my colleague Matt Carey built our MCP server. Een van de toepassingen van Dynamic Workers, waar we al eerder wat ruchtbaarheid aan gaven, is dat mijn collega Matt Carey onze MCP-server heeft gebouwd. Uh the Cloudflare API is 2,600 API endpoints. De Cloudflare API heeft 2.600 API-endpoints. So, if you expose the tool for each one of them, you're screwed. Als je voor elk een tool blootstelt, ben je de klos. And you could say, "Oh, I'm going to do progressive disclosure. Je kunt zeggen: ik ga progressive disclosure toepassen. I'm going to do this." Ik ga dit doen. No. Nee. We said you can have two tool calls. We zeiden: je kunt twee tool calls hebben. One is search and execute. De eerste is zoeken en uitvoeren. And to each one of these, you actually submit code that we run in an isolate. En aan elk van die calls voeg je code toe die we in een isolate uitvoeren. So, you can say, "Here's some JavaScript code that searches the entire open API JSON." Je kunt zeggen: hier is JavaScript-code die de volledige open API JSON doorzoekt. And the second time, you can say, "Here's some code to actually run that hey, find all my workers, find the DNS things they're used in, and if it starts with the letter Z, then apply DDoS protection for it." En de tweede keer kun je zeggen: hier is code om dat daadwerkelijk uit te voeren: vind al mijn workers, zoek de DNS-records die ze gebruiken, en als het begint met de letter Z, pas dan DDoS-bescherming toe. In one tool call, no back and forth with the LLM, and it's type checked, and well, turns out LLMs are great at running code. In één tool call, geen heen-en-weer met de LLM, het is type-checked, en blijkt dat LLMs goed zijn in het uitvoeren van code. So, this is fundamental capabilities. Dit zijn fundamentele mogelijkheden. It's not something you can patch on and use it and so, that makes me excited about Cloudflare for the future of agentic software. Het is iets dat je er niet zomaar op kunt plakken, en dat maakt me enthousiast over Cloudflare voor de toekomst van agentische software. I I don't know if you've you've looked at sort of Cloud managed agents thing. Ik weet niet of je het Cloud Managed Agents-ding hebt bekeken. I looked briefly. Ik heb er vluchtig naar gekeken. There's like interesting takes, right? Er zijn interessante standpunten, toch? So, separate the context from what's happening, and then there's like a little quote about, "Okay, recursive models do this." Dus, scheid de context van wat er gebeurt, en dan is er een kleine quote over: oké, recursieve modellen doen dit. Any any takes on that? Enige mening daarover? I do like their thing. Ik vind hun aanpak wel goed. They made a point of pointing out that the harness runs separate like from the execution environment because they're preparing for a world of software that hasn't existed in the past. Ze benadrukkten dat de harness apart draait van de uitvoeringsomgeving, omdat ze zich voorbereiden op een wereld van software die vroeger niet bestond. What a wonderful way of looking towards the future, by the way. Wat een prachtige manier om naar de toekomst te kijken, trouwens. It's not that you're just going to build the next crowd API. Het gaat er niet om dat je gewoon de volgende crowd API bouwt. We're like, we don't even know the shape of what's going to happen and while that needs to run in a sandboxed environment, we do have ideas on how to expose capabilities and an intelligence layer via the harness. We weten niet eens welke vorm het gaat aannemen, en terwijl dat in een sandboxed omgeving moet draaien, hebben we wel ideeën over hoe we via de harness mogelijkheden en een intelligentielaag kunnen blootstellen. I think that's like excellent. Dat vind ik geweldig. Yeah. Ja. Do you think that becomes sort of standardized? Denk je dat het gestandaardiseerd wordt? Like Cloudflare is someone that would probably plug in support. Cloudflare is iemand die waarschijnlijk ondersteuning zou inplugen. Is there a standard unified layer around that? Is er een standaard geünificeerde laag daarvoor? Is there bits you take, different ways that you see it? Zijn er stukken die je pakt, verschillende manieren waarop jij het ziet? Like everyone is building for a version of the future of software engines. Iedereen bouwt voor een versie van de toekomst van software-engines. Uh, do you have a vision that you see? Uh, heb jij een visie? It's so hard, but the way I'm framing it in my head is no one has built the React yet. Het is zo lastig, maar de manier waarop ik het in mijn hoofd frame: niemand heeft de React nog gebouwd. You know, like the moment React came in, it wasn't I mean, it annoyed a bunch of people because it seemed so different. Weet je, op het moment dat React er was, bedoel ik, het irriteerde een hoop mensen omdat het zo anders leek. The fact that you can build uh, describe a component tree with XML. Het feit dat je een componentenboom kunt beschrijven met XML. I I don't know if you remember in 2013, people were walking out of the talk while they were introducing the thing saying Facebook hates JavaScript, but that is that established every framework in the future and React is still massive. Ik weet niet of je het nog weet, in 2013 liepen mensen weg van de presentatie terwijl ze het ding introduceerden met: Facebook haat JavaScript. Maar dat heeft elk framework daarna gevormd en React is nog steeds enorm. I suspect we everyone Ik vermoed dat iedereen Now everyone is building a harness and everyone's like, well, it should be in this shape, it should be in that shape. Nu bouwt iedereen een harness en zegt: het moet deze vorm hebben, het moet die vorm hebben. Uh, someone needs to come out with some original thinking around something that is reproducible across languages, across companies, across infrastructure. Iemand moet met origineel denken komen over iets dat herhaalbaar is over talen, bedrijven en infrastructuur heen. I suspect we haven't done that yet. Ik vermoed dat we dat nog niet gedaan hebben. It might just be skills. Het kunnen gewoon skills zijn. I feel like skills are the ultimate translation. Ik vind skills de ultieme vertaling. And they're they're a version where En het is een versie waarbij It's just English. Het is gewoon Engels. They scale well, it's English. Ze schalen goed, het is Engels. Uh, you know, you can abstract it down, you can create skills on their own. Je kunt het abstraheren, je kunt skills op zichzelf maken. Is that it? Is dat het? Like, by the way, I'd be so happy if you say the future of software is markdown files. Ik zou trouwens dolblij zijn als je zegt dat de toekomst van software markdown-bestanden zijn. Beautiful. Prachtig. Instantly accessible, a multi-language, bridges the world. Direct toegankelijk, meertalig, verbindt de wereld. Uh, could just be skills. Uh, het kunnen gewoon skills zijn. But like, do do you end up with that problem with skills where you have to start getting more and more specific at which point you're like I might as well just express it as code? Maar loop je dan niet tegen dat probleem aan met skills dat je steeds specifieker moet worden, tot het punt dat je denkt: ik kan het net zo goed als code uitdrukken? Yeah, yeah. Ja, ja. I'm being very precise about my my stuff. Ik ben heel precies over mijn spullen. Yeah, I mean and skills bundle code as well, right? Ja, ik bedoel, skills bundelen ook code, toch? So, the whole whole bunch of things. Dus, van alles wat daarbij hoort. Okay, there's I mean there's other topics that we can also touch on. Oké, er zijn nog andere onderwerpen die we kunnen aansnijden.