안녕하세요, 오늘은 아이디어를 몇 초 만에 프로덕션 수준의 에이전트로 만드는 이야기를 해보려고 합니다. Azure의 Devanshi, Simon, 그리고 Auger의 Gopi가 함께 AI 네이티브 런타임 위에서 에이전트가 실제로 돌아가는 모습을 보여드리겠습니다.
오늘 다룰 이야기
먼저 에이전트가 데모와 프로덕션 사이에서 왜 깨지는지 짚고, 코드에서 프로덕션 에이전트까지 가는 라이브 데모를 보여드립니다. 이어서 Azure Container Apps가 어떻게 그 런타임을 제공하는지, 마지막으로 Auger의 자율 공급망 사례까지 순서대로 풀어가겠습니다.
2027년, 에이전트 프로젝트의 40%가 중단
Gartner는 2027년까지 agentic AI 프로젝트의 40%가 취소될 거라고 봅니다. 그런데 이유가 흥미롭습니다. 모델이 추론을 못 해서가 아니라, 런타임이 그 속도를 못 따라가기 때문이죠.
모델이 아니라 런타임이 문제
다시 강조하고 싶은 건 바로 이 지점입니다. 문제는 모델의 지능이 아니라, 그 지능을 안정적으로 굴려줄 런타임의 부재라는 거예요. 그럼 그 런타임이 정확히 어디서 깨지는지 하나씩 보겠습니다.
런타임이 무너지는 다섯 지점
현장에서 런타임은 크게 다섯 군데에서 무너집니다. 방치된 채 예산을 태우고, 신뢰할 수 없는 코드가 개발자 노트북에서 돌고, 콜드 스타트가 루프를 막고, 재시작 때마다 워크스페이스가 사라지고, 도구는 손으로 하나하나 엮어야 하죠.
익숙한 다섯 가지 고통
아마 여기 계신 많은 분들이 이 다섯 가지를 직접 겪어보셨을 겁니다. 하나만 터져도 에이전트는 프로덕션으로 못 넘어가는데, 실제로는 이게 동시에 터지거든요. 그래서 런타임이 반드시 해줘야 할 것들을 정리해봤습니다.
런타임이 반드시 해야 할 다섯 가지
좋은 에이전트 런타임이라면 빠르게 시작하고 재개해야 하고, 신뢰할 수 없는 코드까지 안전하게 도구 호출을 실행해야 합니다. 또 상태를 저장·복원해 장기 워크플로를 지탱하고, 작업마다 강하게 격리하며, 런타임 경계에서부터 기본적으로 안전해야 하죠.
요구사항을 하나의 기준으로
결국 이 다섯 가지가 에이전트 런타임을 평가하는 체크리스트가 됩니다. 그럼 이 조건을 실제로 만족하는 플랫폼이 있을까요? 바로 그걸 지금부터 라이브로 보여드리겠습니다.
라이브 데모: 멀티 에이전트 시나리오
지금 보시는 건 Container Apps Environment 안에서 여러 에이전트가 협업하는 실제 구성입니다. Multi Agent Broker가 Aria와 Nova 같은 에이전트를 잇고, 각 에이전트는 Sandbox 안에서 Copilot CLI로 코드를 돌립니다. Whisper와 Kokoro로 음성까지 붙여서, 전화 한 통이 SRE 에이전트 작업으로 이어지는 걸 보실 수 있어요. 링크는 aka.ms/aca/build2026-brk221 입니다.
모든 런타임 허들을 넘는 방법
방금 데모를 뜯어보면, Container Apps가 앞서 말한 허들을 어떻게 넘는지 보입니다. 서브초 콜드 스타트, 작업별 강한 격리, 지속되는 워크스페이스, 그리고 필요할 때만 켜지는 GPU까지요. Express와 Sandbox의 예열 풀 덕분에 인프라를 고민할 필요가 없습니다.
앱·도구·임시 컴퓨트를 한 플랫폼에
핵심은 앱과 MCP 도구, 그리고 일회성 컴퓨트를 하나의 플랫폼에서 다룬다는 점입니다. 수천 개 샌드박스로 자동 확장하다가 유휴 상태에선 0으로 내려가고, 추론은 서버리스 GPU로 처리하니 비용도 효율적이죠.
Azure Container Apps Sandboxes 공개 프리뷰
그래서 오늘 Azure Container Apps Sandboxes를 공개 프리뷰로 소개합니다. 신뢰할 수 없는 워크로드도 기본적으로 안전하게 실행하고, 모든 상호작용을 보존해 즉시 재개하며, 서브초 만에 0에서 수천까지 폭발적으로 확장하고 유휴 시엔 비용이 들지 않습니다. 자세한 건 aka.ms/aca/sandboxes 에서 보실 수 있어요.
고객이 말하는 Sandboxes의 가치
이미 현장의 반응이 뜨겁습니다. Sitecore의 Mo Cherif는 멀티 테넌트 격리와 빠른 확장 덕분에 에이전트가 실제 업무를 수행하면서도 통제를 잃지 않는다고 말합니다. South Australia 교육부의 Cody Little은 학생마다 격리된 환경에서 스냅샷으로 작업을 이어갈 수 있다는 점을 강조하죠.
Sandboxes 활용 시나리오
활용처는 넓습니다. 에이전트에게 작업 경계를 넘어 지속되는 워크스페이스를 주고, LLM이 생성한 코드를 안전하게 실행하고, Microsoft 서비스와 같은 프리미티브 위에 직접 플랫폼을 세울 수 있습니다. 버스트 워크로드, 멀티 테넌트 보안 컴퓨트, 사용자별 세션까지 모두 여기에 담깁니다.
이제 이 런타임 위에서 진짜 자율 시스템을 만든 고객 이야기로 넘어가겠습니다. Auger의 Chief Scientist인 Gopi Prashanth를 모시고, 자율 공급망이 어떻게 돌아가는지 직접 들어보겠습니다.
Auger가 풀고 있는 문제
반갑습니다. 저희 Auger는 공급망이라는, 세상에서 가장 복잡한 도메인 중 하나를 자율 에이전트로 다루고 있습니다. 오늘은 그게 왜 어렵고, 저희가 어떻게 접근했는지 보여드릴게요.
펜 한 자루, 보이지 않는 50개의 주체
펜 한 자루를 예로 들어볼게요. 원자재부터 가공, 부품, 조립, 배송, 창고, 운송, 소매까지 50개 주체, 8개 티어, 17개국이 얽혀 있습니다. 그런데 대부분의 ERP는 마지막 3단계만 봐요. 베트남의 텅스텐 광산이 침수돼도 ERP는 모르지만, Auger는 이미 그 영향을 완화하고 있습니다.
컨텍스트 레이어가 복리로 쌓인다
모델은 결국 상향 평준화됩니다. 진짜 경쟁력은 모든 배포와 상호작용, 의사결정마다 복리로 쌓이는 컨텍스트 레이어예요. 저희는 Ausco라는 도메인 온톨로지를 의미의 기반으로 삼아, 에이전트가 비즈니스와 같은 세계 모델을 공유하도록 만들었습니다.
데이터 통합, 비싸고 오류투성이
전통적인 방식은 고통스럽습니다. 데이터는 ERP, WMS, TMS, Kafka에 서로 다른 스키마로 흩어져 있고, 이메일 속 지식은 어디에도 통합되지 않죠. 고객마다 몇 달씩 맞춤 통합을 해야 하고, 엣지 케이스는 항상 라이브 이후에 발견됩니다. 규모가 커질수록 비용은 오르고 품질은 떨어져요.
ADI: 에이전트 기반 자가학습 통합
그래서 저희는 데이터 통합 자체를 에이전트에게 맡겼습니다. ADI는 스키마를 이해하고, 온톨로지에 매핑하고, ETL을 설계해 Fabric 위에서 PySpark를 생성하고, 최종적으로 배포까지 반복합니다. 중간중간 사람이 승인하는 HITL과 매스 밸런스 게이트로 신뢰성을 지키죠.
세계 모델이 없으면 에이전트는 깨진다
여기서 핵심을 짚고 싶습니다. 공유된 세계 모델이 없으면 에이전트는 무너집니다. '주문'이라는 단어가 통합마다 다른 뜻이 되고, 한 고객의 학습이 다른 배포로 전이되지 못하고, 'DC'와 'Fulfillment Center' 같은 용어 파편화가 모든 분석을 깨뜨리거든요.
Ausco: 세계 공급망 모델
그 해답이 Ausco입니다. 엔티티, 액션, 함수, 모델, 워크플로, 지식까지 하나의 온톨로지 안에 정의해두면, 에이전트는 매번 새로 만들 필요 없이 조합만 하면 됩니다. 'Dc'는 Fulfillment Center로, 'Otw'는 In Transit으로 매핑하되 고객 용어는 끝까지 보존하는 앨리어싱 레이어가 그걸 받쳐주죠.
컨텍스트 품질이 성능을 좌우한다
강조하고 싶은 문장이 있습니다. 성능을 배가시키는 건 모델이 아니라 컨텍스트 품질이에요. 근거 없는 컨텍스트에선 에이전트가 KPI 로직을 즉흥적으로 만들고 1개월 차와 12개월 차 성능이 똑같습니다. 반면 컨텍스트 레이어가 있으면 검증된 용어와 필요한 슬라이스만 담긴 패킷으로 질의가 복리처럼 쌓여갑니다.
근거 있는 컨텍스트가 이긴다
동작을 보면 이렇습니다. 자연어 질의가 들어오면 Ausco와 단기·장기 메모리, 스킬을 다중 홉으로 검색하고, 알려진 패턴이면 빠른 경로로, 새로운 문제면 추론 경로로 라우팅합니다. 그리고 추적 가능한 근거와 함께 답을 내놓죠. 모델에 종속되지 않으면서 질의마다 복리로 좋아집니다.
복리로 커지는 자율성
결국 네 개의 자가학습 루프가 모두 Ausco로 수렴합니다. 온보딩이 쌓이고, 사용이 쌓이고, 실행 결과가 쌓이고, 전 세계 시그널이 더해지면서 모든 테넌트의 컨텍스트가 함께 강해지죠. 그 결과 실행 속도는 50% 빨라지고, 의사결정의 85%가 자율적으로 이뤄집니다.
핵심 정리
오늘 세 가지만 기억해 주세요. 첫째, Azure Container Apps는 앱, Sandboxes, Express, 서버리스 GPU까지 아우르는 응집된 에이전트 런타임을 지금 제공합니다. 둘째, Sandboxes가 공개 프리뷰로 나왔습니다. 셋째, GitHub Copilot부터 Foundry Agent Service, Sitecore, Auger까지 이미 프로덕션에서 검증됐습니다.
오늘의 세 문장
다시 한 번 짧게 정리하면, 런타임은 이미 준비됐고, Sandboxes는 지금 써보실 수 있으며, 실제 프로덕션에서 증명됐다는 겁니다. 이제 여러분 차례예요.
세션 리소스
더 깊이 파고들고 싶으시면 제품 블로그 aka.ms/aca/build와 코드 샘플 aca/build2026-brk221을 참고해 주세요. QR 코드로도 바로 접근하실 수 있습니다.
지금 바로 시작하기
바로 시작해 보세요. Sandboxes는 aka.ms/aca/sandboxes, Express는 aka.ms/aca/express, 그리고 포털은 aka.ms/aca/sandboxes/portal에서 만나실 수 있습니다.
피드백 부탁드립니다
세션 상세 페이지에서 튜토리얼과 리소스, 코드로 바로 이어가실 수 있습니다. 그리고 aka.ms/build/evals 또는 QR 코드로 설문에 참여해 주시면 큰 도움이 됩니다. 감사합니다.