⚡️ Why you should build Science Fiction — Sunil Pai, Cloudflare

Okay, we're here with Sunil Pai, creator of Code Mode. Okay, wir sind hier mit Sunil Pai, dem Schöpfer von Code Mode. No, I do take credit for creation of Code Mode. Nein, ich beanspruche tatsächlich das Verdienst für die Erschaffung von Code Mode. Dynamic Isolates have been Dynamic Isolates waren schon no, you said I did create it. nein, du hast gesagt, ich habe es erschaffen. It's mine. Es gehört mir. I Ich It is I did create Ich habe es tatsächlich erschaffen Since Seit Since I was a child, I was I've been thinking about it. Seit ich ein Kind war, habe ich darüber nachgedacht. It's my life's Es ist die Mission meines Lebens It's my life's mission. Es ist die Mission meines Lebens. I wanted to just catch up on everything going on in Cloudflare lands and also like you obviously you and I have caught up over the years. Ich wollte einfach mal alles besprechen, was gerade bei Cloudflare passiert, und außerdem, du und ich haben uns ja über die Jahre immer wieder ausgetauscht. The more recent thing which just launched yesterday was this Cloud Cloud Managed Agents thing which I which I know that you're you're also like interested in. Das aktuellste Thema, das gestern gerade gestartet ist, war diese Cloud Managed Agents-Sache, von der ich weiß, dass du dich auch dafür interessierst. Maybe we can talk about that cuz it's kind of like breaking news and you seem excited about it. Vielleicht können wir darüber reden, weil es irgendwie aktuelle Neuigkeiten sind und du scheinst begeistert davon zu sein. Cloud Managed Agents is dope because Anthropic is saying here is a platform for you to build and deploy your agents that are like long-running. Cloud Managed Agents ist der Hammer, weil Anthropic sagt: Hier ist eine Plattform, auf der ihr eure Agents bauen und deployen könnt, die langlebig laufen. Yeah. Ja. And I like it because I like the people at Anthropic and they're super ambitious about these things. Und ich mag es, weil ich die Leute bei Anthropic mag und sie sind bei diesen Dingen super ambitioniert. Except I looked at the product and I was like I think I want to compete. Nur habe ich mir das Produkt angeschaut und dachte: Ich glaube, ich will damit konkurrieren. I think we can do something better with Workers and Durable Objects. Ich glaube, wir können mit Workers und Durable Objects etwas Besseres machen. Yeah, Cloudflare is the is an ideal platform for this. Ja, Cloudflare ist die ideale Plattform dafür. You have workflows for a while. Ihr habt schon eine Weile Workflows. Mhm. Mhm. What is what functionalities are available in Cloudflare? Welche Funktionen sind bei Cloudflare verfügbar? Like why can't you just come on and say yeah, we we already had this? Warum kannst du nicht einfach auftauchen und sagen: Ja, wir hatten das schon? Like what what's the difference? Wie, was ist der Unterschied? I think Ich glaube that you see. siehst du. Like anything else, I think we are like discovering the architecture of the new architecture of building software of which I'm talking about on stage in a couple of hours. Wie bei allem anderen glaube ich, wir entdecken gerade die Architektur, die neue Architektur des Softwareentwickelns, worüber ich in ein paar Stunden auf der Bühne sprechen werde. 5:40 p.m. 17:40 Uhr. Please show up to the main stage. Bitte kommt zur Hauptbühne. But interestingly, our primitive Aber interessanterweise ist unser Primitiv The two primitives that I think are critical that I suspect every platform will eventually get. Die zwei Primitive, die ich für entscheidend halte und von denen ich vermute, dass jede Plattform sie irgendwann haben wird. One is Durable Objects which are stateful serverless programming. Das eine sind Durable Objects, also stateful serverless Programmierung. I think that's a true innovation. Ich halte das für eine echte Innovation. It's the world's first implementation of the actor model in an in an infrastructure layer, not in user land. Es ist die weltweit erste Implementierung des Actor-Modells auf einer Infrastrukturebene, nicht im User-Land. It means you can spin up millions of these stateful things that run in the background, etc. Das bedeutet, man kann Millionen dieser stateful Objekte hochfahren, die im Hintergrund laufen, und so weiter. And it runs with serverless characteristics instead of spinning up a whole VM. Und es läuft mit serverless-Eigenschaften, anstatt eine ganze VM hochzufahren. That's one. Das ist das eine. The second which we announced just a few weeks ago is what we call Dynamic Workers. Das zweite, was wir erst vor ein paar Wochen angekündigt haben, nennen wir Dynamic Workers. Famously, eval has been considered a bad idea, evaluating code user-generated code or now LLM-generated code, but we built this thing that lets you run it in a safe environment with zero startup time. eval galt bekanntlich als schlechte Idee, also das Ausführen von nutzergenerierten oder jetzt LLM-generiertem Code, aber wir haben etwas gebaut, das dir erlaubt, das in einer sicheren Umgebung mit null Startzeit auszuführen. And when I say safe, I mean you can expose only the APIs that you want into it, and you can control all outgoing traffic. Wenn ich sicher sage, meine ich: Du kannst nur die APIs hineinreichen, die du willst, und du kannst den gesamten ausgehenden Traffic kontrollieren. In fact, the default way we recommend people using it is to cancel all outgoing traffic and only use the exposed endpoints. Tatsächlich empfehlen wir standardmäßig, den gesamten ausgehenden Traffic zu unterbinden und nur die freigegebenen Endpunkte zu nutzen. So, given these things, we feel we can build a much more efficient and much um a new kind of architecture for building AI agents. Also, angesichts dieser Dinge glauben wir, dass wir eine viel effizientere und eine neue Art von Architektur für den Aufbau von AI Agents schaffen können. Uh one of one of applications of dynamic workers, we made a little noise about it a while ago, is my colleague Matt Carey built our MCP server. Eine Anwendung von Dynamic Workers, über die wir vor einer Weile ein bisschen Aufmerksamkeit erregt haben, ist unser MCP-Server, den mein Kollege Matt Carey gebaut hat. Uh the Cloudflare API is 2,600 API endpoints. Die Cloudflare API hat 2.600 API-Endpunkte. So, if you expose the tool for each one of them, you're screwed. Wenn du für jeden davon ein Tool exponierst, bist du aufgeschmissen. And you could say, "Oh, I'm going to do progressive disclosure. Und man könnte sagen: Oh, ich mache progressive disclosure. I'm going to do this." Ich mache das so. No. Nein. We said you can have two tool calls. Wir sagten: Du kannst zwei Tool-Aufrufe haben. One is search and execute. Einer ist Suchen und Ausführen. And to each one of these, you actually submit code that we run in an isolate. Und für jeden davon übermittelst du Code, den wir in einem Isolate ausführen. So, you can say, "Here's some JavaScript code that searches the entire open API JSON." Du kannst also sagen: Hier ist JavaScript-Code, der das gesamte Open-API-JSON durchsucht. And the second time, you can say, "Here's some code to actually run that hey, find all my workers, find the DNS things they're used in, and if it starts with the letter Z, then apply DDoS protection for it." Und beim zweiten Mal kannst du sagen: Hier ist Code, der tatsächlich ausführt: Finde alle meine Workers, finde die DNS-Einträge, die sie verwenden, und wenn sie mit dem Buchstaben Z beginnen, aktiviere DDoS-Schutz dafür. In one tool call, no back and forth with the LLM, and it's type checked, and well, turns out LLMs are great at running code. In einem einzigen Tool-Aufruf, kein Hin und Her mit dem LLM, typ-geprüft, und wie sich herausstellt, sind LLMs hervorragend darin, Code auszuführen. So, this is fundamental capabilities. Das sind also fundamentale Fähigkeiten. It's not something you can patch on and use it and so, that makes me excited about Cloudflare for the future of agentic software. Das ist nichts, was man einfach aufsetzen und nutzen kann, und deshalb macht mich das für die Zukunft von agentischer Software bei Cloudflare begeistert. I I don't know if you've you've looked at sort of Cloud managed agents thing. Ich weiß nicht, ob du dir diese Cloud Managed Agents-Sache angeschaut hast. I looked briefly. Ich habe kurz reingeschaut. There's like interesting takes, right? Es gibt interessante Meinungen dazu, oder? So, separate the context from what's happening, and then there's like a little quote about, "Okay, recursive models do this." Also, trenn den Kontext von dem, was gerade passiert, und dann gibt es dieses kleine Zitat: Okay, rekursive Modelle machen das. Any any takes on that? Irgendwelche Meinungen dazu? I do like their thing. Ich mag ihre Sache schon. They made a point of pointing out that the harness runs separate like from the execution environment because they're preparing for a world of software that hasn't existed in the past. Sie haben darauf hingewiesen, dass der Harness getrennt von der Ausführungsumgebung läuft, weil sie sich auf eine Welt von Software vorbereiten, die es in der Vergangenheit noch nicht gab. What a wonderful way of looking towards the future, by the way. Was für eine wunderbare Art, in die Zukunft zu schauen, muss ich sagen. It's not that you're just going to build the next crowd API. Es geht nicht darum, einfach die nächste Crowd-API zu bauen. We're like, we don't even know the shape of what's going to happen and while that needs to run in a sandboxed environment, we do have ideas on how to expose capabilities and an intelligence layer via the harness. Wir wissen nicht einmal, welche Form das haben wird, was passieren wird, und während das in einer Sandbox-Umgebung laufen muss, haben wir Ideen, wie wir Fähigkeiten und eine Intelligenzschicht über den Harness exponieren. I think that's like excellent. Ich halte das für ausgezeichnet. Yeah. Ja. Do you think that becomes sort of standardized? Glaubst du, das wird irgendwie standardisiert? Like Cloudflare is someone that would probably plug in support. Also Cloudflare wäre jemand, der wahrscheinlich Unterstützung einbauen würde. Is there a standard unified layer around that? Gibt es eine standardisierte einheitliche Schicht dafür? Is there bits you take, different ways that you see it? Gibt es Teile, die du nimmst, verschiedene Arten, wie du es siehst? Like everyone is building for a version of the future of software engines. Also alle bauen für eine Version der Zukunft von Software-Engines. Uh, do you have a vision that you see? Hast du eine Vision, die du siehst? It's so hard, but the way I'm framing it in my head is no one has built the React yet. Das ist so schwer, aber die Art, wie ich es in meinem Kopf formuliere, ist: Niemand hat noch das React dafür gebaut. You know, like the moment React came in, it wasn't I mean, it annoyed a bunch of people because it seemed so different. Weißt du, als React kam, hat es eine Menge Leute genervt, weil es so anders wirkte. The fact that you can build uh, describe a component tree with XML. Die Tatsache, dass man einen Komponenten-Baum mit XML beschreiben kann. I I don't know if you remember in 2013, people were walking out of the talk while they were introducing the thing saying Facebook hates JavaScript, but that is that established every framework in the future and React is still massive. Ich weiß nicht, ob du dich erinnerst: 2013 gingen Leute während des Talks raus, als sie das Ding vorstellten, und sagten, Facebook hasst JavaScript, aber das hat jeden Framework der Zukunft geprägt und React ist immer noch riesig. I suspect we everyone Ich vermute, wir, alle Now everyone is building a harness and everyone's like, well, it should be in this shape, it should be in that shape. Jetzt baut jeder einen Harness und alle sind wie: na ja, er sollte so aussehen, er sollte so aussehen. Uh, someone needs to come out with some original thinking around something that is reproducible across languages, across companies, across infrastructure. Jemand muss mit einem originellen Denken herauskommen, das für etwas reproduzierbar ist, das sprachübergreifend, unternehmensübergreifend, infrastrukturübergreifend funktioniert. I suspect we haven't done that yet. Ich vermute, wir haben das noch nicht getan. It might just be skills. Es könnten einfach Skills sein. I feel like skills are the ultimate translation. Ich glaube, Skills sind die ultimative Übersetzungsschicht. And they're they're a version where Und sie sind eine Version, bei der It's just English. Es ist einfach Englisch. They scale well, it's English. Sie skalieren gut, es ist Englisch. Uh, you know, you can abstract it down, you can create skills on their own. Du kannst es weiter abstrahieren, Skills auf eigene Faust erstellen. Is that it? Ist das alles? Like, by the way, I'd be so happy if you say the future of software is markdown files. Also, ich meine, ich wäre so glücklich, wenn du sagst, die Zukunft von Software sind markdown-Dateien. Beautiful. Wunderbar. Instantly accessible, a multi-language, bridges the world. Sofort zugänglich, mehrsprachig, verbindet die Welt. Uh, could just be skills. Könnten einfach Skills sein. But like, do do you end up with that problem with skills where you have to start getting more and more specific at which point you're like I might as well just express it as code? Aber läuft man mit Skills nicht in das Problem, dass man immer spezifischer werden muss, bis man irgendwann denkt: Ich kann es genauso gut als Code ausdrücken? Yeah, yeah. Ja, ja. I'm being very precise about my my stuff. Ich bin bei meinen Sachen sehr präzise. Yeah, I mean and skills bundle code as well, right? Ja, und Skills bündeln auch Code, oder? So, the whole whole bunch of things. Also, da gibt es noch eine ganze Menge anderer Dinge. Okay, there's I mean there's other topics that we can also touch on. Okay, es gibt noch andere Themen, auf die wir eingehen können.