⚡️ Pourquoi vous devriez construire de la science-fiction — Sunil Pai, Cloudflare

Okay, we're here with Sunil Pai, creator of Code Mode. Okay, on est là avec Sunil Pai, le créateur de Code Mode. No, I do take credit for creation of Code Mode. Non, je revendique bien la création de Code Mode. Dynamic Isolates have been Les Dynamic Isolates ont été no, you said I did create it. non, tu as dit que t'avais bien créé ça. It's mine. C'est le mien. I Moi It is I did create C'est bien moi qui ai créé Since Depuis Since I was a child, I was I've been thinking about it. Depuis que je suis enfant, j'ai j'y réfléchissais. It's my life's C'est la mission de ma vie It's my life's mission. C'est la mission de ma vie. I wanted to just catch up on everything going on in Cloudflare lands and also like you obviously you and I have caught up over the years. Je voulais juste faire le point sur tout ce qui se passe du côté de Cloudflare et aussi tu sais, toi et moi on se tient au courant depuis des années. The more recent thing which just launched yesterday was this Cloud Cloud Managed Agents thing which I which I know that you're you're also like interested in. La chose la plus récente qui vient de sortir hier, c'est ce truc de Cloud Cloud Managed Agents, que je sais que toi aussi ça t'intéresse. Maybe we can talk about that cuz it's kind of like breaking news and you seem excited about it. On peut peut-être en parler parce que c'est un peu de l'actu brûlante et t'as l'air enthousiaste. Cloud Managed Agents is dope because Anthropic is saying here is a platform for you to build and deploy your agents that are like long-running. Cloud Managed Agents c'est ouf parce qu'Anthropic dit voilà une plateforme pour construire et déployer vos agents qui tournent en long-running. Yeah. Ouais. And I like it because I like the people at Anthropic and they're super ambitious about these things. Et ça me plaît parce que j'aime bien les gens chez Anthropic et ils sont super ambitieux sur ces sujets. Except I looked at the product and I was like I think I want to compete. Sauf que j'ai regardé le produit et je me suis dit je pense que je veux les concurrencer. I think we can do something better with Workers and Durable Objects. Je pense qu'on peut faire quelque chose de mieux avec Workers et Durable Objects. Yeah, Cloudflare is the is an ideal platform for this. Ouais, Cloudflare c'est la plateforme idéale pour ça. You have workflows for a while. T'as des workflows depuis un moment. Mhm. Mhm. What is what functionalities are available in Cloudflare? C'est quoi les fonctionnalités disponibles chez Cloudflare ? Like why can't you just come on and say yeah, we we already had this? Pourquoi tu viens pas juste dire, ouais, on avait déjà tout ça ? Like what what's the difference? C'est quoi la différence ? I think Je pense that you see. que tu vois. Like anything else, I think we are like discovering the architecture of the new architecture of building software of which I'm talking about on stage in a couple of hours. Comme pour tout le reste, je pense qu'on est en train de découvrir l'architecture de la nouvelle architecture pour construire des logiciels, dont je parle d'ailleurs sur scène dans quelques heures. 5:40 p.m. 17h40. Please show up to the main stage. Venez sur la scène principale. But interestingly, our primitive Mais ce qui est intéressant, notre primitive The two primitives that I think are critical that I suspect every platform will eventually get. Les deux primitives que je considère comme critiques, et que je soupçonne chaque plateforme d'acquérir à terme. One is Durable Objects which are stateful serverless programming. La première, c'est Durable Objects, la programmation serverless avec état. I think that's a true innovation. Je pense que c'est une vraie innovation. It's the world's first implementation of the actor model in an in an infrastructure layer, not in user land. C'est la première implémentation au monde du modèle acteur dans une couche infrastructure, pas en espace utilisateur. It means you can spin up millions of these stateful things that run in the background, etc. Ça veut dire que tu peux lancer des millions de ces objets avec état qui tournent en arrière-plan, etc. And it runs with serverless characteristics instead of spinning up a whole VM. Et ça tourne avec les caractéristiques du serverless au lieu de démarrer une VM entière. That's one. Ça, c'est le premier. The second which we announced just a few weeks ago is what we call Dynamic Workers. Le deuxième, qu'on a annoncé il y a quelques semaines, c'est ce qu'on appelle les Dynamic Workers. Famously, eval has been considered a bad idea, evaluating code user-generated code or now LLM-generated code, but we built this thing that lets you run it in a safe environment with zero startup time. Traditionnellement, eval a été considéré comme une mauvaise idée, évaluer du code généré par l'utilisateur ou maintenant du code généré par LLM, mais on a construit ce truc qui te permet de l'exécuter dans un environnement sécurisé avec un temps de démarrage zéro. And when I say safe, I mean you can expose only the APIs that you want into it, and you can control all outgoing traffic. Et quand je dis sécurisé, je veux dire que tu peux n'exposer que les API que tu veux à l'intérieur, et tu contrôles tout le trafic sortant. In fact, the default way we recommend people using it is to cancel all outgoing traffic and only use the exposed endpoints. En fait, la façon par défaut qu'on recommande d'utiliser c'est d'annuler tout le trafic sortant et d'utiliser uniquement les endpoints exposés. So, given these things, we feel we can build a much more efficient and much um a new kind of architecture for building AI agents. Donc, avec tout ça, on pense pouvoir construire une architecture beaucoup plus efficace et um un nouveau type d'architecture pour les agents IA. Uh one of one of applications of dynamic workers, we made a little noise about it a while ago, is my colleague Matt Carey built our MCP server. Uh une des applications de Dynamic Workers, on en a un peu parlé y'a quelque temps, c'est mon collègue Matt Carey qui a construit notre serveur MCP. Uh the Cloudflare API is 2,600 API endpoints. Uh l'API Cloudflare c'est 2 600 endpoints. So, if you expose the tool for each one of them, you're screwed. Donc si tu exposes un outil pour chacun, t'es foutu. And you could say, "Oh, I'm going to do progressive disclosure. Et tu pourrais dire, oh, je vais faire de la divulgation progressive. I'm going to do this." Je vais faire ça. No. Non. We said you can have two tool calls. On a dit : tu peux avoir deux appels d'outils. One is search and execute. L'un c'est rechercher et exécuter. And to each one of these, you actually submit code that we run in an isolate. Et pour chacun de ces deux, tu soumets du code qu'on exécute dans un isolat. So, you can say, "Here's some JavaScript code that searches the entire open API JSON." Donc tu peux dire, voilà du code JavaScript qui cherche dans l'ensemble du JSON open API. And the second time, you can say, "Here's some code to actually run that hey, find all my workers, find the DNS things they're used in, and if it starts with the letter Z, then apply DDoS protection for it." Et la deuxième fois, tu peux dire, voilà du code pour aller trouver tous mes workers, trouver les éléments DNS qu'ils utilisent, et si ça commence par la lettre Z, appliquer la protection DDoS. In one tool call, no back and forth with the LLM, and it's type checked, and well, turns out LLMs are great at running code. En un seul appel d'outil, sans aller-retour avec le LLM, c'est typé, et il s'avère que les LLM sont super bons pour exécuter du code. So, this is fundamental capabilities. Donc, c'est des capacités fondamentales. It's not something you can patch on and use it and so, that makes me excited about Cloudflare for the future of agentic software. C'est pas quelque chose qu'on peut juste greffer dessus et utiliser, et donc ça m'enthousiasme pour l'avenir du logiciel agentique avec Cloudflare. I I don't know if you've you've looked at sort of Cloud managed agents thing. Moi je sais pas si t'as t'as regardé le truc Cloud managed agents. I looked briefly. J'ai regardé rapidement. There's like interesting takes, right? Y'a des trucs intéressants, non ? So, separate the context from what's happening, and then there's like a little quote about, "Okay, recursive models do this." Donc, sépare le contexte de ce qui se passe, et il y a une petite citation genre, okay, les modèles récursifs font ça. Any any takes on that? Quelques réactions là-dessus ? I do like their thing. Leur truc me plaît bien. They made a point of pointing out that the harness runs separate like from the execution environment because they're preparing for a world of software that hasn't existed in the past. Ils ont souligné que le harness tourne séparément de l'environnement d'exécution parce qu'ils se préparent pour un monde logiciel qui n'a jamais existé avant. What a wonderful way of looking towards the future, by the way. Quelle belle façon de regarder vers l'avenir, d'ailleurs. It's not that you're just going to build the next crowd API. C'est pas juste construire la prochaine API cloud. We're like, we don't even know the shape of what's going to happen and while that needs to run in a sandboxed environment, we do have ideas on how to expose capabilities and an intelligence layer via the harness. On est genre, on ne sait même pas encore la forme que ça va prendre, et pendant que ça doit tourner dans un environnement sandboxé, on a des idées pour exposer des capacités et une couche d'intelligence via le harness. I think that's like excellent. Je pense que c'est excellent. Yeah. Ouais. Do you think that becomes sort of standardized? Tu crois que ça va se standardiser un jour ? Like Cloudflare is someone that would probably plug in support. Genre Cloudflare c'est quelqu'un qui pourrait probablement brancher son support. Is there a standard unified layer around that? Est-ce qu'il y a une couche standard unifiée autour de ça ? Is there bits you take, different ways that you see it? Est-ce qu'il y a des morceaux que tu prends, différentes façons que tu vois les choses ? Like everyone is building for a version of the future of software engines. Genre tout le monde construit pour une version du futur des moteurs logiciels. Uh, do you have a vision that you see? Uh, t'as une vision que tu distingues ? It's so hard, but the way I'm framing it in my head is no one has built the React yet. C'est tellement dur, mais la façon dont je le formule dans ma tête c'est que personne n'a encore construit le React de ça. You know, like the moment React came in, it wasn't I mean, it annoyed a bunch of people because it seemed so different. Tu vois, genre au moment où React est arrivé, c'était pas, je veux dire, ça a énervé plein de gens parce que ça semblait tellement différent. The fact that you can build uh, describe a component tree with XML. Le fait qu'on puisse construire uh, décrire un arbre de composants avec du XML. I I don't know if you remember in 2013, people were walking out of the talk while they were introducing the thing saying Facebook hates JavaScript, but that is that established every framework in the future and React is still massive. Je sais pas si tu te souviens qu'en 2013, des gens quittaient le talk pendant qu'ils présentaient le truc en disant que Facebook déteste JavaScript, mais c'est ça qui a établi tous les frameworks du futur et React est toujours massif. I suspect we everyone Je soupçonne qu'on tout le monde Now everyone is building a harness and everyone's like, well, it should be in this shape, it should be in that shape. Maintenant tout le monde construit un harness et tout le monde est genre, bon, il devrait avoir cette forme, il devrait avoir cette forme-là. Uh, someone needs to come out with some original thinking around something that is reproducible across languages, across companies, across infrastructure. Uh, quelqu'un doit sortir avec une pensée originale autour de quelque chose de reproductible à travers les langages, les entreprises, les infrastructures. I suspect we haven't done that yet. Je soupçonne qu'on n'a pas encore fait ça. It might just be skills. Ça pourrait juste être des skills. I feel like skills are the ultimate translation. J'ai l'impression que les skills sont la traduction ultime. And they're they're a version where Et elles sont elles sont une version où It's just English. C'est juste de l'anglais. They scale well, it's English. Elles scalent bien, c'est de l'anglais. Uh, you know, you can abstract it down, you can create skills on their own. Uh, tu sais, tu peux l'abstraire, tu peux créer des skills par elles-mêmes. Is that it? C'est ça ? Like, by the way, I'd be so happy if you say the future of software is markdown files. Genre, d'ailleurs, je serais tellement heureux si tu dis que l'avenir du logiciel c'est des fichiers markdown. Beautiful. Magnifique. Instantly accessible, a multi-language, bridges the world. Instantanément accessible, multi-langues, fait le pont entre les mondes. Uh, could just be skills. Uh, ça pourrait juste être des skills. But like, do do you end up with that problem with skills where you have to start getting more and more specific at which point you're like I might as well just express it as code? Mais genre, est-ce qu'on finit avec ce problème avec les skills où il faut commencer à être de plus en plus spécifique au point où tu te dis autant l'exprimer directement en code ? Yeah, yeah. Ouais, ouais. I'm being very precise about my my stuff. Je suis très précis dans mes mes trucs. Yeah, I mean and skills bundle code as well, right? Ouais, je veux dire et les skills bundlent aussi du code, non ? So, the whole whole bunch of things. Donc, tout tout un tas de choses. Okay, there's I mean there's other topics that we can also touch on. Okay, il y a je veux dire y'a d'autres sujets qu'on peut aussi aborder.