첫 번째 Managed Agent 출시하기

All right. 자, 시작하겠습니다. Hello everyone. 안녕하세요, 여러분. It's great to see you all here today for our session on shipping your first manage agent. 오늘 첫 번째 Managed Agent를 만들어 보는 세션에 이렇게 많이 참석해 주셔서 정말 반갑습니다. Let's go ahead and get started. 바로 시작해 보겠습니다. My name is Isabella He. 저는 Isabella He입니다. I'm a member of technical staff at Anthropic on the Applied AI team. Anthropic Applied AI 팀 소속 테크니컬 스태프입니다. The Applied AI team at Anthropic sits at the intersection of products, research, and our customers, which means that I get to contribute internally to products at Anthropic like Claude code and our Claude harnesses, as well as work externally with our customers that are building on top of Claude and on top of our harnesses. Anthropic의 Applied AI 팀은 제품, 연구, 그리고 고객을 잇는 교차점에 있습니다. 덕분에 저는 Claude Code나 Claude 하네스 같은 내부 제품에 기여하면서, 동시에 Claude와 저희 하네스 위에서 구축하는 외부 고객들과도 협업하고 있습니다. So, my goal today is to get you all hands-on with actually building on top of manage agents, understanding how the harness works under the hood, and getting you ready to actually ship your first incident response management. 오늘 제 목표는 여러분 모두가 Managed Agents 위에서 직접 빌딩해보고, 하네스가 내부적으로 어떻게 작동하는지 이해하며, 첫 번째 인시던트 대응 에이전트를 실제로 배포할 준비를 갖추는 것입니다. So, the quick overview of today's agenda. 오늘 세션의 간략한 개요를 먼저 살펴보겠습니다. We're going to cover first a quick refresher of Claude manage agents. 먼저 Claude Managed Agents에 대한 간단한 복습을 다루겠습니다. I want to talk you through a little bit about how this harness works under the hood and what makes it so special. 이 하네스가 내부적으로 어떻게 작동하는지, 그리고 무엇이 특별한지 간략히 설명해 드리겠습니다. Our team put a lot of thought into the architectural design of Claude manage agents to make sure that it runs ready and reliably for production-ready agents. 저희 팀은 Claude Managed Agents의 아키텍처 설계에 많은 고민을 담아, 프로덕션 환경에서도 안정적이고 신뢰할 수 있도록 만들었습니다. So, I want to talk you through a little bit of how that works so that then when we transition to the second portion here, which is the hands-on workshop, you'll actually understand what each of the primitives you're building actually mean for your agents under the hood. 그 내용을 먼저 짚고 넘어가야, 이어지는 실습 워크숍에서 여러분이 만드는 각 기본 요소들이 에이전트 내부에서 실제로 무슨 역할을 하는지 이해할 수 있습니다. So, for the majority of today's session, I want you all to actually have your laptops open, building alongside me, actually working inside of a repository, and getting you ready to actually spin up a working incident response agent. 오늘 세션의 대부분은 여러분이 직접 노트북을 열고 저와 함께 레포지토리 안에서 작업하면서, 실제로 동작하는 인시던트 대응 에이전트를 구축하는 시간으로 채워질 것입니다. Lastly, we'll talk a little bit about beyond the basics. 마지막으로, 기본을 넘어선 내용도 조금 다뤄보겠습니다. Today's session is the first session of a couple of other ones that will build on top of this on Claude manage agents. 오늘 세션은 Claude Managed Agents를 주제로 이어지는 시리즈 중 첫 번째 세션입니다. Specifically, right after this one, I think there's another session on dreaming, which is one of my favorite new features with Claude manage agents for self-improving agents and memory built into the harness. 특히, 바로 다음 세션에서는 Dreaming을 다룰 예정입니다. 자기 개선 에이전트와 하네스 내장 메모리를 위한 Claude Managed Agents의 새로운 기능 중 제가 가장 좋아하는 기능입니다. So, encourage everyone to dive in a little bit deeper into what else is in the box after we set you all up for success today with a quick introduction. 오늘 간략한 소개로 여러분이 준비를 마친 후, 남은 내용도 더 깊이 파고들어 보시길 권장합니다. So, let's first touch a little bit about how we got here with Claude manage agents. 먼저, Claude Managed Agents가 어떤 과정을 거쳐 지금에 이르렀는지 살펴보겠습니다. When we first released the very first Claude back in 2023, we released a messages API alongside access to Claude. 2023년에 최초의 Claude를 처음 출시했을 때, Claude에 대한 접근과 함께 Messages API도 함께 출시했습니다. This provided raw model access to all Claude models. 이를 통해 모든 Claude 모델에 원시 모델 접근권을 제공했습니다. This became the very first way that people could programmatically build on top of Claude and essentially gave a way for people to access tokens in and tokens out via our Claude models. 이것이 사람들이 프로그래밍 방식으로 Claude 위에서 구축할 수 있는 첫 번째 방법이 되었고, 본질적으로 저희 Claude 모델을 통해 토큰 입출력에 접근하는 방법을 제공했습니다. This also meant that for everyone building on top of Claude models, they had to implement all the various primitives themselves. 이는 동시에 Claude 모델 위에서 구축하는 모든 사람이 다양한 기본 요소들을 직접 구현해야 함을 의미했습니다. Things like context management, the actual agent loop, compaction, etc. 컨텍스트 관리, 실제 에이전트 루프, 컴팩션 등 여러 가지들을요. All the primitives that come alongside making the agent work. 에이전트가 작동하는 데 필요한 모든 기본 요소들입니다. When models were less intelligent back in the early days of let's say 2023, some of these primitives were much simpler because agents could simply do less. 2023년 초기에는 모델 지능이 낮았기 때문에 이러한 기본 요소들이 훨씬 단순했습니다. 에이전트가 할 수 있는 일 자체가 적었으니까요. But, as we evolved into now with higher model intelligence and as agents are able to take on more complex tasks and actually take actions within environments and come to actually do entire tasks for humans, the primitives that come alongside context management and managing an agent's ability to execute API calls and tool calls becomes much more complex. 하지만 이제 모델 지능이 높아지고, 에이전트가 더 복잡한 작업을 맡아 실제로 환경 안에서 행동하며 인간의 전체 작업을 수행하게 되면서, 컨텍스트 관리와 API 및 툴 호출 실행을 관리하는 기본 요소들이 훨씬 복잡해졌습니다. So, that's when we moved to the agent SDK, which became a harness that allows you to programmatically call Claude code, one of our agents at Anthropic. 그래서 저희는 Agent SDK로 전환했습니다. Claude Code 같은 Anthropic 에이전트를 프로그래밍 방식으로 호출할 수 있게 해주는 하네스입니다. So, Claude code is something that an agent has access to a computer and takes actions within file system. Claude Code는 에이전트가 컴퓨터에 접근해 파일 시스템 내에서 행동을 취하는 에이전트입니다. So, the agent SDK became a way for you to make Claude much more powerful by leveraging the power of Claude code within a harness. 따라서 Agent SDK는 하네스 내에서 Claude Code의 힘을 활용해 Claude를 훨씬 강력하게 만드는 방법이 되었습니다. The main thing here though is that with the agent SDK, developers still had to manage hosting and scaling on their own and making sure that the agent SDK would be safe to run within their containers. 다만 Agent SDK에서 핵심적인 문제는, 개발자들이 여전히 직접 호스팅과 확장을 관리해야 했고, Agent SDK가 자신의 컨테이너 안에서 안전하게 실행될 수 있도록 보장해야 했다는 점입니다. That's only then evolved into Claude managed agents, which is the first harness to be able to handle scaling and production ready components for you by Anthropic, providing things like a purpose-built harness, sandboxing, observability, tool runtime, all within a managed infrastructure system. 그것이 발전해 탄생한 것이 Claude Managed Agents입니다. Anthropic이 확장과 프로덕션 준비 컴포넌트를 대신 처리해주는 최초의 하네스로, 전용 하네스, 샌드박싱, 관찰성, 툴 런타임 등을 관리형 인프라 시스템 안에서 모두 제공합니다. This means that developers can focus on task and agent configuration, custom tool logic, the things that actually matter for bringing domain expertise and customizability to your agents, where you're handing off the rest of all the primitives and core compute and primitives of essentially managing the basics of agent running to Anthropic. 즉, 개발자들은 태스크와 에이전트 설정, 커스텀 툴 로직처럼 도메인 전문성과 커스터마이징 측면에서 실제로 중요한 부분에 집중할 수 있으며, 에이전트 실행의 기본 요소와 핵심 컴퓨팅 관리는 Anthropic에 맡길 수 있습니다. So, that brings me to managed agents as the fastest way to build production ready agents on Claude. 이것이 바로 Managed Agents가 Claude 위에서 프로덕션 준비 에이전트를 구축하는 가장 빠른 방법인 이유입니다. We've seen people build 10 to 15 times faster to production with Claude managed agents by leveraging our purpose-built harness. Claude Managed Agents의 전용 하네스를 활용해 프로덕션까지 10배에서 15배 빠르게 구축하는 사례들을 보고 있습니다. Part of the reason why we built Claude managed agents is because is because harnesses should evolve alongside your agents. 저희가 Claude Managed Agents를 구축한 이유 중 하나는, 하네스가 에이전트와 함께 진화해야 하기 때문입니다. For example, back when we were building ourselves on top of models like Sonnet 4.5, we noticed that Sonnet 4.5 emitted a particular behavior called context anxiety. 예를 들어, 저희가 Sonnet 4.5 같은 모델 위에서 직접 빌딩할 때, Sonnet 4.5가 '컨텍스트 불안'이라고 부르는 특정 행동을 보인다는 것을 발견했습니다. This meant that with Sonnet 4.5, Claude started wrapping up tasks early even when it still had room to spare in its context window. Sonnet 4.5에서 Claude가 컨텍스트 창에 여유가 있는데도 작업을 조기에 마무리하는 현상이 나타났습니다. To manage that in our harness, we then added some mitigations to combat against this early stopping behavior. 저희 하네스에서 이를 관리하기 위해, 이 조기 중단 행동에 대응하는 완화 조치들을 추가했습니다. But, when Opus 4.5 then came out, we actually saw this behavior go away, making all that work we had done inside of the harness essentially obsolete because Claude had evolved beyond that behavior that we had built into the harness to manage. 그런데 Opus 4.5가 출시되자 이 행동이 사라진 것을 확인했고, 하네스 안에서 해당 행동을 관리하기 위해 했던 모든 작업이 사실상 불필요하게 됐습니다. Claude 자체가 그 행동을 넘어섰기 때문입니다. So, the takeaway there is that it's a lot of work to maintain harnesses and make sure that they actually evolve alongside your agents, which is why with Claude managed agents, we want to make it really easy for Claude and Anthropic to handle all the complexities that come with compaction, caching, things like context anxiety, all these various primitives that come with actually making agent production ready and getting the most out of Claude. 요점은, 하네스를 유지하고 에이전트와 함께 실제로 진화하도록 만드는 것이 많은 작업을 요구한다는 것입니다. 그래서 Claude Managed Agents에서는 컴팩션, 캐싱, 컨텍스트 불안 같은 복잡한 요소들을 Claude와 Anthropic이 모두 처리하도록 해, 개발자들이 프로덕션 에이전트 구축과 Claude 활용을 최대화하는 데 집중할 수 있게 하고자 합니다. So again, you can focus on the tasks, tools, and things that actually matter for building agents on Claude. 다시 말해, 여러분은 Claude 위에서 에이전트를 만드는 데 실제로 중요한 태스크, 툴, 요소들에만 집중하면 됩니다. So three primary resources go into building on Claude managed agents. Claude Managed Agents 위에서 빌딩하는 데는 세 가지 핵심 리소스가 사용됩니다. First is the agent's endpoint, which is the persona and capabilities. 첫 번째는 에이전트의 엔드포인트, 즉 페르소나와 역량입니다. This is the core system prompt that powers your agent. 에이전트를 구동하는 핵심 시스템 프롬프트입니다. Essentially here, you're defining the model, the MCP servers, the skills, the various components that your agent can actually leverage when it's able to run in that agent loop. 여기서는 에이전트 루프 내에서 실제로 활용할 수 있는 모델, MCP 서버, 스킬, 다양한 컴포넌트들을 정의합니다. The next is the environments. 다음은 Environment입니다. You can think of this as the hands of the agent, where the previous one is the brain of the agent where the agent is thinking through what to execute, and then it's using an environment to actually have a space and a container to actually take action on your behalf. 에이전트의 '손'이라고 생각하면 됩니다. 앞서 정의한 에이전트가 무엇을 실행할지 생각하는 '뇌'라면, Environment는 에이전트가 여러분을 대신해 실제로 행동할 공간과 컨테이너를 갖는 것입니다. Sessions are next the way to tie together agents and environments. 그 다음은 Session으로, 에이전트와 Environment를 연결하는 방법입니다. A single session has a spun up on an agent instance within an environment. 단일 Session은 Environment 내의 에이전트 인스턴스 위에서 실행됩니다. So you can connect the two together and actually stream events back to your user and start to take action on behalf of your humans as part of a Claude powered agent. 이 두 가지를 연결해 이벤트를 사용자에게 스트리밍하고, Claude 기반 에이전트로서 사람을 대신해 행동을 시작할 수 있습니다. A key thing here, as I alluded to briefly before, Claude managed agent has the agent loop run server side. 한 가지 중요한 점은, 앞서 간략히 언급했듯이 Claude Managed Agents는 에이전트 루프를 서버 사이드에서 실행한다는 것입니다. This means that a lot of the complexities that come with managing hosting and scaling are abstracted away. 이는 호스팅과 확장 관리와 관련된 많은 복잡성이 추상화된다는 의미입니다. And when you close your laptop or you hit hard refresh on your agent that you're building on Claude managed agents, everything is maintained and you don't have to worry about durability, reliability, all these various aspects that usually come to bite you when you're trying to turn your agent from a prototype into production. Claude Managed Agents 위에서 구축 중인 에이전트에서 노트북을 닫거나 강력 새로고침을 해도 모든 것이 유지되며, 프로토타입을 프로덕션으로 전환할 때 흔히 발목을 잡는 내구성, 신뢰성 등의 문제들을 걱정할 필요가 없습니다. And lastly here, before we dive into the hands-on portion, is I want to talk you through a key design decision that went into Claude managed agents. 마지막으로, 실습 단계로 넘어가기 전에 Claude Managed Agents 설계 과정에서 내린 핵심 설계 결정 하나를 설명드리고 싶습니다. Previously, with a lot of agent harnesses, we saw the agent loop coupled tightly with tool execution. 기존의 많은 에이전트 하네스에서는 에이전트 루프가 툴 실행과 긴밀하게 결합된 구조를 보았습니다. This design pattern made sense and still makes sense for some agents because you want to give the agent powerful abilities to actually take action within the environment. 이 설계 패턴은 지금도 일부 에이전트에 적합합니다. 에이전트가 환경 내에서 실제로 행동할 강력한 능력을 갖길 원하기 때문입니다. For instance, with Claude Code, we want the agent to be able to access various files on your computer, take action within a file system, and therefore it makes sense for the agent to have access to all those tools spun up on every container. 예를 들어 Claude Code에서는, 에이전트가 컴퓨터의 다양한 파일에 접근하고 파일 시스템 내에서 행동할 수 있어야 하므로, 에이전트가 모든 컨테이너에 스핀업된 모든 툴에 접근하는 것이 합당합니다. But, we also realized there are some constraints for this, especially with some agents where you essentially want to be able to decouple the hands from the brains of the agents. 하지만 일부 에이전트에는 제약이 있다는 것도 인식했습니다. 에이전트의 '손'과 '뇌'를 분리하고 싶은 경우가 있었습니다. For instance, credentials and uh credentials and security became a huge concern. 예를 들어, 자격 증명과 보안이 큰 우려 사항이 되었습니다. With the ability to have the agent access your file system, you can actually add very distinct sandboxing by decoupling these two components, where the agent is no longer able to access the actual credentials without encryption by decoupling the hands from the sandbox of the agent. 에이전트가 파일 시스템에 접근할 수 있는 상황에서, 이 두 컴포넌트를 분리해 매우 명확한 샌드박싱을 구현할 수 있습니다. 에이전트의 '손'을 샌드박스에서 분리함으로써, 에이전트가 암호화 없이 실제 자격 증명에 더 이상 접근할 수 없도록 합니다. The other aspect here is actually you can see huge benefits by doing these decoupling on things like time to first token and latency. 또 다른 측면은, 이 분리를 통해 첫 번째 토큰 도달 시간과 레이턴시 측면에서도 큰 이점을 얻을 수 있다는 것입니다. Previously, with the agent loop into execution in the same box, you had to spin up containers for every single session that you're spinning up in the agent, which contributed to additional latency from a time to first time to first token perspective. 이전에는 에이전트 루프와 실행이 같은 박스 안에 있었기 때문에, 에이전트에서 스핀업하는 모든 단일 Session마다 컨테이너를 스핀업해야 했고, 이것이 첫 번째 토큰 도달 시간 측면에서 추가 레이턴시를 발생시켰습니다. But, with this now decoupled, our teams actually saw reductions in time to first token along the lines of over 90% reduction in TTFT for our P95 metrics on latency. 하지만 이제 이것이 분리되면서, 저희 팀은 P95 레이턴시 지표에서 TTFT가 90% 이상 감소하는 것을 실제로 확인했습니다. So, here you can start to see the power of this design decision coming through from the perspective of safety, reliability, latency, and everything else that you care about when it comes to building production-ready agents. 이처럼 안전성, 신뢰성, 레이턴시, 프로덕션 에이전트 구축에서 중요한 모든 것들의 관점에서 이 설계 결정의 효과가 나타나기 시작합니다. All right, so now it's time for the exciting part of today's session, which is where I want you all to open up your laptops and go to this URL here to actually clone a repository, and let's start to actually feel the magic of everything that I just talked through. 자, 이제 오늘 세션의 가장 흥미로운 부분이 왔습니다. 여러분 모두 노트북을 열고 이 URL로 이동해 레포지토리를 클론하고, 지금까지 제가 설명한 모든 것의 마법을 직접 경험해 보겠습니다. So, I'm going to give everyone a second to just go over to that URL there and just spin up the repository that we have ready for you. 모두 잠깐 시간을 드릴 테니 저기 URL로 이동해서 준비된 레포지토리를 스핀업해 주세요. All right, so here are some additional commands that I want you all to run to make sure this is all set up on your computers. 자, 컴퓨터에 모두 설정이 제대로 됐는지 확인하기 위해 실행할 추가 명령어들이 있습니다. So, the first step many of you might have done already, but just take that repository, hit the URL, get clone it, and then I want you to CD into the specific repository for the session, which is ship your first manage agent. 많은 분들이 이미 하셨겠지만, 레포지토리를 받고 URL로 이동해서 클론하신 다음, 이번 세션 전용 레포지토리인 'ship your first manage agent'로 CD해 주세요. And then, if you're on Mac, you'll see those two commands on the side, the Python and the source. Mac이시라면 사이드에서 Python 명령어와 source 명령어 두 개가 보이실 겁니다. Um, there's a command there for Windows as well. 음, Windows용 명령어도 있습니다. And you'll just do the rest there where you want to install the requirements, copy over the environment key into your .env file. 나머지는 requirements를 설치하고 환경 키를 .env 파일로 복사하는 작업입니다. Um, here you'll put in the Anthropic API key that hopefully all of you also received from the QR code for free credits earlier. 음, 여기에 Anthropic API 키를 입력하시면 됩니다. 아까 QR 코드로 무료 크레딧을 받으신 분들도 계실 거예요. And lastly, we'll just run the app. 마지막으로, 앱을 실행하기만 하면 됩니다. All right, let's go ahead and dive in, but as I mentioned before, let me just show everyone where these instructions are. 자, 바로 시작하겠습니다. 먼저 이 지침이 어디에 있는지 보여드리겠습니다. If you go into the repository in the link and then go to ship your first manage agents, you scroll down on the read me, you'll see all the setup instructions here. 링크에 있는 레포지토리로 이동해서 'ship your first manage agents'로 들어가면 README를 스크롤하면서 모든 설정 지침을 보실 수 있습니다. So, feel free to do this, um, as we go along or even in your own time later today and continue playing around with it, but as I mentioned before, everything will be also shown on the screen to follow along with. 진행하면서 하셔도 되고 오늘 나중에 여유 시간에 해보셔도 됩니다. 더 가지고 놀아 보세요. 앞서 말씀드렸지만 모든 내용은 화면에도 표시됩니다. So, do not worry if you did not have time to fully get it set up on your laptop. 노트북에 완전히 설정하지 못하셨어도 걱정하지 마세요. Without further ado, let's go ahead and dive in. 더 이상 지체하지 말고 바로 시작해 보겠습니다. So, once you run streamlit run app.py, you should be able to see a URL that looks like this and a page that looks like this. streamlit run app.py를 실행하면 이와 같은 URL과 이런 모양의 페이지를 보실 수 있어야 합니다. What we're doing here is we're going to be simulating an agent, um, interaction here where we have an incident that's going to come up. 여기서 우리가 할 것은 인시던트가 발생하는 에이전트 상호작용을 시뮬레이션하는 것입니다. A lot of you who might be software engineers in the room will be intimately familiar with the pain that comes alongside incident response. 이 자리에 소프트웨어 엔지니어가 계시다면, 인시던트 대응과 함께 따라오는 고통을 아주 잘 아실 겁니다. If you are software engineer, you might be woken up at, let's say, 3:00 a.m. in the morning, 2:00 a.m. in the morning when you're out around on on vacation as you're on call, and this is usually a very painful portion of a software engineer's life, uh, because when you're on call, it means that if a server goes down or a service goes down, you have to be immediately the one there to respond and tackle the incident. 소프트웨어 엔지니어라면, 온콜 근무 중 새벽 3시나 2시에 휴가 중에도 깨어나야 하는 경험이 있을 수 있습니다. 온콜이라는 것은 서버나 서비스가 다운되면 즉시 대응해야 하는 사람이 바로 자신이라는 뜻이기 때문에, 소프트웨어 엔지니어 인생에서 꽤 고통스러운 부분입니다. Usually for a human, this means diving into metrics and logs and deployments. 인간에게 이것은 보통 메트릭, 로그, 배포 내역을 파헤치는 것을 의미합니다. You can actually investigate what's going on. 무슨 일이 일어나고 있는지 실제로 조사하는 것이죠. And so, what we're going to do is we're going to now have an agent run on Claude manage agents to do all this for us. 이제 저희가 할 일은, Claude Managed Agents 위에서 에이전트를 실행해 이 모든 것을 대신 처리하도록 하는 것입니다. So, that when we get woken up by 3:00 a.m., we can hand it off to an agent, or maybe we don't even get woken up at all if Claude is able to do everything for us. 그러면 새벽 3시에 깨어날 때 에이전트에 넘기거나, Claude가 모든 것을 처리할 수 있다면 아예 깨어나지 않아도 됩니다. Okay. 좋습니다. So, let's now go ahead and dive into the code here. 이제 코드로 바로 들어가 보겠습니다. What we're going to open up here is we have the agent.py file on the left and the agent complete on the right. 여기서 열 것은 왼쪽에 agent.py 파일, 오른쪽에 완성된 agent입니다. If you want to challenge yourself, you can of course try to implement everything yourself here or with Claude. 도전해 보고 싶으시다면 물론 Claude와 함께 모든 것을 직접 구현해 보셔도 됩니다. Um but, what we're going to do just for simplicity's sake is just copy over various elements from the completed file onto the incomplete file one by one. 음, 하지만 간단히 진행하기 위해 완성된 파일에서 다양한 요소들을 미완성 파일로 하나씩 복사하는 방식으로 진행하겠습니다. So, you can see how these primitives compose our agent one piece at a time. 이렇게 하면 이러한 기본 요소들이 에이전트를 어떻게 한 번에 하나씩 구성하는지 볼 수 있습니다. So, let's go ahead and start off with this very first part, which is the agent. 자, 첫 번째 부분인 Agent부터 시작하겠습니다. We mentioned before that the agent is the one that defines the persona and the capabilities of the agent here. 앞서 언급했듯이 Agent는 여기서 에이전트의 페르소나와 역량을 정의하는 것입니다. So, that's model, the system prompts, and the tools in our case for our agent here. 이 경우 에이전트에 대한 모델, 시스템 프롬프트, 툴을 정의합니다. So, let me go ahead and copy over what we see there on the screen. 화면에서 보이는 내용을 복사해 보겠습니다. And you can see here that we're defining the SRE agent. 여기서 SRE 에이전트를 정의하고 있는 것을 볼 수 있습니다. We're going to use Claude Opus 4.7 here. 여기서는 Claude Opus 4.7을 사용하겠습니다. And I've preconfigured a system prompt and tools for the agent. 에이전트에 대한 시스템 프롬프트와 툴은 미리 설정해 두었습니다.