안녕하세요, Microsoft Build에 오신 것을 환영합니다. 지금부터 오늘의 핸즈온 세션을 시작하겠습니다.
오늘은 최신 Azure Cobalt 200을 직접 만져보면서, 클라우드 네이티브 앱을 코드에서 클라우드 배포까지 Arm으로 옮기는 과정을 함께 해보겠습니다. 방금 Satya의 키노트에서 발표된 Cobalt 200을 여러분이 가장 먼저 실제로 다뤄보게 됩니다. 저는 Microsoft의 TPM Jamshed Damkewala이고, 훌륭한 동료들과 함께 진행합니다.
세션 소개
본격적으로 들어가기 전에, 오늘 다룰 내용을 간단히 짚고 넘어가겠습니다.
오늘의 흐름
먼저 Cobalt 200을 소개하고, 실습 개요를 살펴본 다음, 직접 실습을 진행하겠습니다. 마지막에는 핵심 내용을 정리하고 참고 자료까지 안내해 드리겠습니다.
Cobalt VM이 빛나는 지점
Cobalt VM이 정말 강점을 발휘하는 곳을 짚어보겠습니다. 우선 클라우드 네이티브 영역인데요, 스케일아웃 웹 서비스와 마이크로서비스, 컨테이너처럼 현대 클라우드 앱의 심장부가 여기에 해당합니다. 최근에는 에이전트 런타임과 벡터 검색, 검색 파이프라인 같은 에이전틱 AI도 자연스럽게 이 영역에 들어오죠. 또 하나는 엔터프라이즈 현대화인데요, Java, Python, .NET, Go로 만든 워크로드라면 대부분 재컴파일만으로 깔끔하게 이식됩니다. 마이그레이션 도구는 Arm과 깊이 협력해 이미 준비돼 있습니다.
Azure Cobalt 200
이 여정은 Microsoft가 처음 설계한 클라우드용 CPU인 Cobalt 100에서 시작했고, 그 경험과 고객 피드백이 Cobalt 200을 만들었습니다. 더 많은 코어와 캐시, 더 빠른 메모리를 최신 ARM 아키텍처와 TSMC 3nm 공정으로 구현했고, Azure Boost와 Integrated HSM이 기본 탑재됩니다. 핵심은 Cobalt 100 대비 최대 50% 높은 성능입니다.
클라우드 네이티브와 에이전틱 AI를 위한 설계
Cobalt 200은 지금 시대를 정의하는 워크로드, 즉 클라우드 네이티브 서비스와 에이전틱 AI를 위해 만들어졌습니다. 그래서 단일 SKU가 아니라 여러 VM 제품군으로 출시됩니다. General Purpose와 Memory Optimized에 더해, 새로운 High-Memory Optimized(Mpv4)와 Dense Local Storage(Lpv5)까지 갖춰서 실제 워크로드에 딱 맞는 VM을 고를 수 있습니다. Azure Boost 위에서 동작하며, Azure에서 가장 전력 효율이 높은 컴퓨트입니다.
실제 워크로드에 최적화
개발자에게 가장 중요한 부분입니다. Cobalt 100 대비 코어당 성능을 세 가지 관점으로 측정했는데요, 업계 표준 벤치마크, Microsoft 자체 벤치마크, 그리고 실제 Microsoft 제품 모두에서 일관되게 세대 도약을 보여줍니다. 특정 막대 하나가 아니라 전체 흐름을 봐 주세요. 결론은 하나입니다. 코어당 성능의 바닥을 끌어올렸다는 것, 그래서 더 적은 코어로 더 많은 일을 하고 비용은 낮아진다는 겁니다.
에이전틱 컴퓨트 가속
여기서부터 Cobalt 200이 다음 물결에 왜 중요한지 드러납니다. 에이전틱 워크로드의 성능은 단일 요청 처리량이 아니라, 샌드박스를 얼마나 빨리 띄우고 얼마나 많이 동시에 돌릴 수 있느냐로 판가름 나거든요. Cobalt 200에서는 에이전트가 실제로 일을 시작하기까지의 시간이 Cobalt 100보다 확연히 빨라졌고, 코어당 성능 덕분에 같은 VM에 더 많은 샌드박스를 담을 수 있습니다. 결국 에이전트당 비용은 낮아지고 동시성은 높아집니다.
자, 이제 이론은 여기까지 하고 직접 손으로 실습을 해보겠습니다.
학습 여정 — 6개 모듈
실습은 여섯 개 모듈로 진행됩니다. 먼저 10개 서비스로 구성된 실제 .NET 10 마이크로서비스 앱 eShop의 구조를 살펴보고, Docker Bake로 네이티브 arm64 이미지를 빌드해 로컬 Kubernetes에 배포합니다. 이어서 x64와 arm64 멀티 아키텍처 이미지를 Azure Container Registry에 올리고, 같은 매니페스트로 AKS의 Cobalt 200 하드웨어에 배포합니다. 마지막으로 CI/CD 파이프라인을 구성하고, ONNX Runtime 추론까지 Cobalt 위에서 돌려봅니다.
자, 시작합시다
실습 리포지토리는 aka.ms/build2026-lab512에 있습니다. 막히는 부분이 있으면 트러블슈팅 가이드 링크를 참고하시면 됩니다. 그럼 함께 시작해 보겠습니다.
실습을 마쳤으니, 오늘 내용을 핵심만 다시 짚어보겠습니다.
핵심 요약
Microsoft가 직접 만든 실리콘이 Microsoft 자체 서비스를 구동합니다. Neoverse N3에 SVE2와 i8mm를 갖춘 현대적인 Arm 코어로, 와트당 그리고 달러당 성능이 더 뛰어납니다. 하나의 멀티 아키텍처 이미지로 두 아키텍처 모두에서 여러분의 앱이 그대로 돌아가고요, GPU 없이 ONNX Runtime과 KleidiAI, INT4로 CPU에서 실제 AI 추론까지 가능합니다. 토큰 비용 걱정도 없습니다.
참고 자료
마무리하기 전에 다음 단계로 갈 수 있는 자료를 안내해 드리겠습니다. Cobalt 100 고객 사례와 Cobalt 200 발표 블로그, Arm 마이그레이션 개요, 그리고 여러분이 쓰는 라이브러리와 런타임이 준비됐는지 확인할 수 있는 Arm Software Ecosystem Dashboard, Microsoft Learn의 Cobalt VM 문서까지 모아뒀습니다. 함께 만들어 가는 개발자 커뮤니티에 감사드리고, Cobalt 200에서 만들어 낼 결과가 기대됩니다. 감사합니다.
부록 — VM 상세
이어지는 자료에서는 Cobalt 200 VM 제품군의 세부 스펙을 좀 더 깊이 들여다보겠습니다.
General Purpose와 Memory Optimized VM
Cobalt 200으로 워크로드를 옮길 때 쓰는 VM 제품군을 살펴보겠습니다. 두 개의 기반 제품군이 있는데요, General Purpose에는 vCPU당 2GiB인 Dpls/Dplds와 4GiB인 Dps/Dpds가 있어 미디어 인코딩, 게이밍 서버, 마이크로서비스부터 애플리케이션·웹 서버까지 아우릅니다. Memory Optimized의 Eps/Epds는 vCPU당 8GiB로, 최대 1테라바이트 메모리까지 지원해 대형 인메모리 데이터베이스와 분석 워크로드에 적합합니다. 밑단 플랫폼도 최대 7,040GiB NVMe 로컬 스토리지, 85Gbps 네트워크 대역폭으로 한 단계 올라섰습니다.
지원 게스트 OS
게스트 OS는 간단합니다. AlmaLinux, Azure Linux, Debian, Oracle Linux, RHEL, Rocky Linux, SLES, Ubuntu 같은 주요 Linux 배포판 전부와, 개발 시나리오를 위한 Windows 11 Client까지 폭넓게 지원합니다. 여러분 팀이 지금 쓰는 OS는 거의 확실히 이 목록에 있을 겁니다. 다만 최고의 성능을 위해 최신 패치와 커널, 라이브러리를 꼭 사용해 주세요.
Azure 전체 기능 지원
기능 측면에서도 Cobalt 200은 여러분이 의존하는 Azure 기능 전체를 지원합니다. VMSS와 AKS, Spot VM 같은 코어 기능부터 Azure Monitor, Key Vault, Backup, Defender 같은 관리·보안, 그리고 self-hosted ADO 에이전트와 native Visual Studio Code 같은 개발자 도구까지요. 지원 범위는 계속 넓어지고 있습니다.
Azure 에코시스템 지원
많이 받는 질문이 있습니다. Arm VM은 새로 배워야 하나요? 답은 아니오입니다. Arm 기반 VM은 x86 VM과 똑같은 방식으로 Azure에 통합돼 있습니다. ARM, Portal, CLI, Marketplace, Scale Sets, Spot, Monitor, Backup, AKS까지 같은 컨트롤 플레인과 같은 도구, 같은 워크플로로 그대로 동작합니다. 오늘 Azure에서 VM을 돌릴 줄 안다면, Arm VM도 이미 다룰 줄 아는 겁니다.