MLOps 기반 AI 모델 배포 및 파이프라인 자동화

과정 개요

본 과정은 MLOps 엔지니어와 클라우드 아키텍트를 대상으로, 개발된 AI/LLM 모델을 Docker·FastAPI·Kubernetes 등을 통해 실서비스 환경에 배포하고 지속적인 모니터링·재학습(CI/CD) 파이프라인을 구축하는 것을 목표로 합니다. 모델을 컨테이너화하고 FastAPI로 추론 API를 서빙하는 기초 단계부터, Kubernetes를 활용한 오토스케일링·무중단 배포, GitHub Actions 기반 CI/CD 파이프라인 구성까지 실무형 인프라 설계를 실습합니다. 모델 성능 저하(Model Drift)를 탐지하는 모니터링 체계, 로그·메트릭 수집(Prometheus·Grafana), A/B 테스트 및 카나리 배포 전략도 다룹니다. 마지막 프로젝트에서는 실제 LLM/ML 모델 하나를 선정해 학습-배포-모니터링-재학습으로 이어지는 엔드투엔드 MLOps 파이프라인을 직접 구축합니다.