⚡️ 왜 SF를 만들어야 하는가 — Sunil Pai, Cloudflare

Okay, we're here with Sunil Pai, creator of Code Mode. 자, Code Mode의 창시자 Sunil Pai와 함께 왔어요. No, I do take credit for creation of Code Mode. 아니요, Code Mode 창시의 공을 제가 가져가겠습니다. Dynamic Isolates have been 사실 Dynamic Isolates는 계속 있어왔는데 no, you said I did create it. 아니, 당신이 내가 만들었다고 했잖아요. It's mine. 제 거예요. I 나는 It is I did create 맞아요, 제가 만들었어요 Since 어릴 때부터 Since I was a child, I was I've been thinking about it. 어릴 때부터 계속 생각해 왔어요. It's my life's 제 인생의 It's my life's mission. 제 인생의 사명이에요. I wanted to just catch up on everything going on in Cloudflare lands and also like you obviously you and I have caught up over the years. Cloudflare에서 뭐가 일어나고 있는지 업데이트도 듣고 싶고, 우리 그동안 꾸준히 만나왔잖아요. The more recent thing which just launched yesterday was this Cloud Cloud Managed Agents thing which I which I know that you're you're also like interested in. 어제 막 출시된 Claude Cloud Managed Agents가 있는데, 당신도 관심 있는 거 알아서요. Maybe we can talk about that cuz it's kind of like breaking news and you seem excited about it. 거의 속보 수준이고 흥분해 보이시니까 얘기해봐요. Cloud Managed Agents is dope because Anthropic is saying here is a platform for you to build and deploy your agents that are like long-running. Cloud Managed Agents가 멋진 이유는 Anthropic이 장기 실행 에이전트를 빌드하고 배포할 플랫폼을 제공한다는 거예요. Yeah. 맞아요. And I like it because I like the people at Anthropic and they're super ambitious about these things. 좋아하는 이유는 Anthropic 사람들이 좋고 이 분야에서 정말 야망이 넘치거든요. Except I looked at the product and I was like I think I want to compete. 근데 제품을 보니까 경쟁하고 싶더라고요. I think we can do something better with Workers and Durable Objects. Workers와 Durable Objects로 더 잘할 수 있다고 생각해요. Yeah, Cloudflare is the is an ideal platform for this. 맞아요, Cloudflare가 이상적인 플랫폼이죠. You have workflows for a while. 워크플로가 꽤 됐죠. Mhm. 응. What is what functionalities are available in Cloudflare? Cloudflare에서 어떤 기능들이 가능한 거예요? Like why can't you just come on and say yeah, we we already had this? 왜 그냥 나와서 '우리 이미 있었다'고 말 못 하는 거예요? Like what what's the difference? 차이가 뭔데요? I think 그러니까요 that you see. 제가 보기엔요. Like anything else, I think we are like discovering the architecture of the new architecture of building software of which I'm talking about on stage in a couple of hours. 다른 모든 것처럼, 새로운 소프트웨어 아키텍처를 지금 발견하는 중인 것 같아요. 몇 시간 후에 무대에서 얘기할 내용이에요. 5:40 p.m. 오후 5시 40분. Please show up to the main stage. 메인 스테이지로 와주세요. But interestingly, our primitive 그런데 흥미롭게도, 우리 프리미티브는 The two primitives that I think are critical that I suspect every platform will eventually get. 제가 핵심이라고 생각하는 두 가지 프리미티브는 모든 플랫폼이 결국 갖게 될 거예요. One is Durable Objects which are stateful serverless programming. 하나는 Durable Objects로, 상태를 가진 서버리스 프로그래밍이에요. I think that's a true innovation. 그게 진정한 혁신이라고 생각해요. It's the world's first implementation of the actor model in an in an infrastructure layer, not in user land. 인프라 계층에서 액터 모델을 구현한 세계 최초의 사례예요. 유저 랜드가 아니라요. It means you can spin up millions of these stateful things that run in the background, etc. 수백만 개의 상태 있는 것들을 백그라운드에서 실행할 수 있다는 뜻이에요. And it runs with serverless characteristics instead of spinning up a whole VM. 그리고 전체 VM을 띄우는 게 아니라 서버리스 특성으로 실행돼요. That's one. 그게 하나고요. The second which we announced just a few weeks ago is what we call Dynamic Workers. 둘째는 몇 주 전에 발표한 Dynamic Workers예요. Famously, eval has been considered a bad idea, evaluating code user-generated code or now LLM-generated code, but we built this thing that lets you run it in a safe environment with zero startup time. eval은 오래전부터 나쁜 아이디어로 여겨졌어요. 사용자 생성 코드나 이제 LLM 생성 코드를 평가하는 건데요. 그런데 우리가 제로 스타트업 시간으로 안전한 환경에서 실행할 수 있는 걸 만들었어요. And when I say safe, I mean you can expose only the APIs that you want into it, and you can control all outgoing traffic. 안전하다는 게 원하는 API만 노출하고 모든 아웃바운드 트래픽을 제어할 수 있다는 거예요. In fact, the default way we recommend people using it is to cancel all outgoing traffic and only use the exposed endpoints. 사실 우리가 권장하는 기본 방식은 모든 아웃바운드 트래픽을 차단하고 노출된 엔드포인트만 쓰는 거예요. So, given these things, we feel we can build a much more efficient and much um a new kind of architecture for building AI agents. 그래서 이것들을 바탕으로 AI 에이전트를 만드는 훨씬 효율적인 새로운 아키텍처를 구축할 수 있다고 생각해요. Uh one of one of applications of dynamic workers, we made a little noise about it a while ago, is my colleague Matt Carey built our MCP server. Dynamic Workers의 응용 중 하나로, 동료 Matt Carey가 우리 MCP 서버를 만들었어요. Uh the Cloudflare API is 2,600 API endpoints. Cloudflare API는 2,600개의 API 엔드포인트예요. So, if you expose the tool for each one of them, you're screwed. 각각에 툴을 노출하면 망하는 거죠. And you could say, "Oh, I'm going to do progressive disclosure. 점진적 공개를 하겠다고 말할 수도 있어요. I'm going to do this." 이렇게 할 거라고. No. 안 돼요. We said you can have two tool calls. 두 번의 툴 콜만 가능하다고 했어요. One is search and execute. 하나는 search이고 하나는 execute예요. And to each one of these, you actually submit code that we run in an isolate. 그리고 각각에 실제로 isolate에서 실행하는 코드를 제출해요. So, you can say, "Here's some JavaScript code that searches the entire open API JSON." 예를 들어 전체 open API JSON을 검색하는 JavaScript 코드를 넣을 수 있어요. And the second time, you can say, "Here's some code to actually run that hey, find all my workers, find the DNS things they're used in, and if it starts with the letter Z, then apply DDoS protection for it." 두 번째엔 '내 workers를 다 찾고, 사용하는 DNS를 찾아서, Z로 시작하면 DDoS 방어를 적용해라'는 코드를 넣을 수 있어요. In one tool call, no back and forth with the LLM, and it's type checked, and well, turns out LLMs are great at running code. 툴 콜 한 번으로, LLM과 왕복 없이, 타입 체크도 되고. 결국 LLM은 코드 실행을 잘 해요. So, this is fundamental capabilities. 이게 근본적인 기능이에요. It's not something you can patch on and use it and so, that makes me excited about Cloudflare for the future of agentic software. 덧붙일 수 있는 게 아니라서, 이게 에이전틱 소프트웨어의 미래에서 Cloudflare가 기대되는 이유예요. I I don't know if you've you've looked at sort of Cloud managed agents thing. Cloud managed agents 그거 어느 정도 살펴보셨는지 모르겠는데요. I looked briefly. 잠깐 봤어요. There's like interesting takes, right? 흥미로운 시각들이 있더라고요. So, separate the context from what's happening, and then there's like a little quote about, "Okay, recursive models do this." 그래서 컨텍스트와 현재 일어나는 걸 분리하고, '재귀 모델이 이걸 한다'는 인용이 있어요. Any any takes on that? 거기에 대해 어떻게 생각해요? I do like their thing. 저도 그들 방식이 좋아요. They made a point of pointing out that the harness runs separate like from the execution environment because they're preparing for a world of software that hasn't existed in the past. 하네스가 실행 환경과 분리돼서 돌아간다는 걸 강조했어요. 아직 존재하지 않는 소프트웨어 세계를 준비하는 거니까요. What a wonderful way of looking towards the future, by the way. 그건 정말 멋진 미래 관점이에요. It's not that you're just going to build the next crowd API. 단순히 다음 Claude API를 만드는 게 아니에요. We're like, we don't even know the shape of what's going to happen and while that needs to run in a sandboxed environment, we do have ideas on how to expose capabilities and an intelligence layer via the harness. 무슨 일이 일어날지 형태조차 모르는데, 샌드박스 환경에서 실행되어야 하고, 하네스를 통해 기능과 인텔리전스 계층을 어떻게 노출할지는 아이디어가 있어요. I think that's like excellent. 훌륭한 것 같아요. Yeah. 맞아요. Do you think that becomes sort of standardized? 그게 표준화될 것 같아요? Like Cloudflare is someone that would probably plug in support. Cloudflare는 지원을 붙일 것 같은데요. Is there a standard unified layer around that? 그 위에 표준 통합 계층이 있어요? Is there bits you take, different ways that you see it? 선택하는 부분이 있나요, 다른 방식으로 보는 게요? Like everyone is building for a version of the future of software engines. 다들 미래 소프트웨어 엔진의 어떤 버전을 위해 만들고 있잖아요. Uh, do you have a vision that you see? 당신이 보는 비전이 있어요? It's so hard, but the way I'm framing it in my head is no one has built the React yet. 정말 어렵지만, 제 머릿속에선 아직 아무도 React를 만들지 않았다는 거예요. You know, like the moment React came in, it wasn't I mean, it annoyed a bunch of people because it seemed so different. React가 나왔을 때, 너무 달라 보여서 많은 사람들이 짜증냈어요. The fact that you can build uh, describe a component tree with XML. XML로 컴포넌트 트리를 표현한다는 거잖아요. I I don't know if you remember in 2013, people were walking out of the talk while they were introducing the thing saying Facebook hates JavaScript, but that is that established every framework in the future and React is still massive. 2013년 기억해요? 발표 중에 'Facebook이 JavaScript를 싫어한다'고 하며 나가던 사람들이 있었는데, 그게 미래의 모든 프레임워크를 만든 거고 React는 아직도 막강해요. I suspect we everyone 제 생각엔 우리 모두 Now everyone is building a harness and everyone's like, well, it should be in this shape, it should be in that shape. 지금 모두가 하네스를 만들면서 이 형태여야 하고 저 형태여야 한다고 해요. Uh, someone needs to come out with some original thinking around something that is reproducible across languages, across companies, across infrastructure. 언어, 회사, 인프라를 넘어 재현 가능한 뭔가에 대해 독창적인 생각을 내놓을 사람이 필요해요. I suspect we haven't done that yet. 아직 못 한 것 같아요. It might just be skills. 그냥 skills일 수도 있어요. I feel like skills are the ultimate translation. skills가 궁극의 추상화인 것 같아요. And they're they're a version where 그것들은 일종의 버전인데 It's just English. 그냥 영어예요. They scale well, it's English. 잘 확장되고, 영어예요. Uh, you know, you can abstract it down, you can create skills on their own. 추상화할 수도 있고, skills를 따로 만들 수도 있어요. Is that it? 그게 끝이에요? Like, by the way, I'd be so happy if you say the future of software is markdown files. 아 있잖아요, 미래 소프트웨어가 마크다운 파일이라고 하면 정말 좋겠어요. Beautiful. 멋지다. Instantly accessible, a multi-language, bridges the world. 즉시 접근 가능하고, 다국어이고, 세상을 연결하죠. Uh, could just be skills. 그냥 skills일 수도 있죠. But like, do do you end up with that problem with skills where you have to start getting more and more specific at which point you're like I might as well just express it as code? 근데 skills에서도 결국 점점 더 구체적으로 표현해야 하다가 코드로 쓰는 게 낫겠다 싶어지는 문제가 생기지 않나요? Yeah, yeah. 맞아요, 맞아. I'm being very precise about my my stuff. 제 것들은 아주 정확하게 만들고 있어요. Yeah, I mean and skills bundle code as well, right? 그리고 skills도 코드를 번들하잖아요, 그렇죠? So, the whole whole bunch of things. 여러 가지가 얽혀있죠. Okay, there's I mean there's other topics that we can also touch on. 다른 주제들도 있는데요.