Microsoft Build에 오신 걸 환영합니다
안녕하세요, Microsoft Build에 오신 것을 환영합니다. 오늘은 실습을 통해 Azure 기반 AI 애플리케이션을 처음부터 끝까지 함께 만들어 보겠습니다.
이번 랩의 주제는 Azure SQL Hyperscale, Microsoft Fabric, 그리고 Microsoft Foundry를 엮어 하나의 AI 앱을 완성하는 것입니다. 세 가지 기술이 각자의 역할을 하면서 어떻게 자연스럽게 연결되는지 직접 보게 되실 거예요.
오늘 함께 만들 것
본격적으로 들어가기 전에, 우리가 오늘 무엇을 손에 넣게 될지 큰 그림을 먼저 그려 보겠습니다. 데이터, 검색, 에이전트, 분석이 하나로 이어지는 구조예요.
오늘의 아젠다
순서를 짚어 보면, 먼저 Azure SQL Hyperscale에서 벡터 임베딩과 시맨틱 검색의 기반을 다지고, Microsoft Foundry로 AI 에이전트 오케스트레이션과 워크플로 자동화를 구성합니다. 이어서 Microsoft Fabric의 OneLake 미러링으로 실시간 분석을 붙이고, 마지막으로 MCP 도구를 통해 모든 구성 요소를 매끄럽게 연결하겠습니다.
그럼 첫 번째 축인 Azure SQL Hyperscale부터 살펴보겠습니다. 여기서 벡터 임베딩을 저장하고 시맨틱 검색의 기반을 만드는 것이 모든 것의 출발점입니다.
실전 벡터 검색
Azure SQL Hyperscale를 AI에 쓰는 이유는 분명합니다. 벡터를 네이티브로 지원해 시맨틱 검색과 임베딩을 다룰 수 있고, RAG 같은 검색 워크로드에 높은 처리량을 제공하죠. 컴퓨트와 스토리지가 분리돼 있어 AI 파이프라인을 유연하게 확장할 수 있습니다. 실제로 시맨틱 쿼리를 한번 실행해 보겠습니다.
워크플로에 러버덕킹 더하기
여기서 잠깐, GitHub Copilot Chat을 워크플로에 넣으면 컨텍스트 전환의 마찰이 사라집니다. Copilot은 단순히 속도만 높여 주는 게 아니라, 여러분의 AI 시스템에 더 나은 입력을 만들어 주는 파트너 역할을 합니다.
답변을 더 안전하게 만드는 RAG
이제 답변을 더 안전하게 만드는 RAG를 구성해 보겠습니다. 임베딩 기반 시맨틱 검색으로 키워드가 아니라 의미로 관련 FAQ를 찾고, 그 상위 결과를 하나의 그라운딩 컨텍스트로 묶습니다. 프롬프트는 '오직 아래 컨텍스트만 사용하고, 없으면 모른다고 답하라'로 제약하는데, 이게 바로 핵심적인 할루시네이션 방지 장치입니다. 여기에 낮은 temperature까지 더해 GPT-4o에 보내면 훨씬 신뢰할 수 있는 답이 나옵니다.
다음은 Microsoft Foundry입니다. 지금까지 만든 검색 기반 위에, AI 에이전트가 스스로 판단하고 워크플로를 자동화하도록 오케스트레이션 계층을 올려 보겠습니다.
에이전트가 오케스트레이션하는 FAQ
동작을 세 단계로 보면, 먼저 에이전트가 사용자 의도를 해석하고 언제 도구를 호출할지 추론합니다. 그다음 MCP가 노출한 도구로 Azure SQL에서 시맨틱 검색을 실행해 관련 FAQ 컨텍스트를 가져오고, 마지막으로 그 결과만을 근거로 자연스러운 답을 생성하죠. 추론과 데이터 접근을 분리하고 MCP라는 재사용 가능한 도구 인터페이스를 쓰기 때문에, 근거 있고 신뢰할 수 있는 AI가 됩니다.
이제 분석으로 넘어가 보겠습니다. Azure SQL Hyperscale에 Microsoft Fabric을 결합하면, 운영 데이터를 그대로 두고도 대규모 분석을 함께 돌릴 수 있습니다.
AI와 분석을 함께 확장하는 분리 아키텍처
핵심은 계층을 나누는 것입니다. AI·운영 계층인 Azure SQL Hyperscale에서는 FAQ 콘텐츠와 임베딩, 벡터 검색과 RAG를 낮은 지연·높은 처리량으로 처리합니다. 그리고 Flow 커넥터가 ETL 없이 거의 실시간으로 데이터를 미러링해 주면, 분석 계층인 Microsoft Fabric에서 SQL 분석 엔드포인트와 시맨틱 모델로 집계와 리포팅을 담당합니다. 서로 방해하지 않으면서 AI와 분석을 동시에 확장하는 구조죠.
마지막 조각은 통합입니다. Data API Builder로 SQL MCP 서버를 세워서, 에이전트가 데이터에 안전하게 접근할 수 있는 표준 통로를 만들어 보겠습니다.
DAB로 안전한 AI 접근 구성
Data API Builder, 즉 DAB를 쓰면 AI가 데이터베이스에 직접 붙지 않고 잘 정의된 도구를 통해서만 접근하게 됩니다. 덕분에 보안을 지키면서도 에이전트에게 필요한 데이터를 깔끔하게 노출할 수 있습니다.
전체 흐름 되짚어 보기
여기까지 오면 벡터 검색, RAG, 에이전트 오케스트레이션, 실시간 분석, 그리고 MCP 통합이 하나의 앱 안에서 자연스럽게 맞물립니다. 오늘 만든 이 패턴을 여러분의 시나리오에 그대로 응용하실 수 있습니다.
감사합니다
함께해 주셔서 감사합니다. 실습에서 만든 구성으로 여러분만의 AI 앱을 이어서 발전시켜 보시길 바랍니다.
발표자 참고용 노트 (내부용)
이건 발표자가 내부적으로 참고하는 숨김 노트 영역으로, 청중에게 보여 주는 내용은 아닙니다. 필요에 따라 다음 순서를 안내하거나 참고 메모를 남겨 두는 용도로 씁니다.