On-Device AI 기반 딥러닝 모델 최적화 및 경량화 실무

과정 개요

스마트폰, 로봇, IoT 기기 등 엣지 디바이스에서 서버 통신 없이 즉시 AI 추론을 수행하는 On-Device AI 수요가 늘면서, 무겁고 느린 딥러닝 모델을 NPU(신경망 처리 장치) 환경에 맞게 압축·가속화할 수 있는 모델 최적화 엔지니어에 대한 수요가 커지고 있다. 본 과정은 Python 기반 딥러닝 모델링(CNN·경량 아키텍처: MobileNet, EfficientNet 등) 기초를 다진 뒤, 양자화(Quantization), 가지치기(Pruning), 지식 증류(Knowledge Distillation) 등 모델 경량화 핵심 기법과 ONNX·TensorRT·TFLite 등 추론 최적화 프레임워크를 실습한다. 교육생은 NPU/엣지 AI 가속기 개발 보드를 활용해 모델을 변환·프로파일링하고, 지연시간(Latency)·전력 소모·정확도 간 트레이드오프를 분석해 최적의 배포 모델을 찾는 실무 과정을 경험한다. 최종적으로는 서버 없이 온디바이스 환경(모바일·임베디드 보드)에서 실시간으로 동작하는 컴퓨터 비전 또는 음성 인식 애플리케이션을 경량화 모델로 직접 구현하고 성능을 검증한다. 커리큘럼은 NPU 전문 기업 및 엣지 AI 실무 교육 사례를 참고해 구성된다.

교육 목표

• Python과 딥러닝 프레임워크(PyTorch/TensorFlow)로 경량 CNN 아키텍처를 설계·학습할 수 있다.
• 양자화(Quantization)·가지치기(Pruning)·지식 증류 기법을 적용해 모델 크기와 연산량을 줄일 수 있다.
• ONNX·TensorRT·TFLite 등 프레임워크로 모델을 변환하고 추론 속도를 최적화할 수 있다.
• NPU 개발 보드에 모델을 배포하고 지연시간·전력·정확도 트레이드오프를 프로파일링할 수 있다.
• 엣지 디바이스 환경에서 실시간으로 동작하는 컴퓨터 비전/음성 인식 애플리케이션을 구현할 수 있다.
• 온디바이스 AI 서비스의 성능을 검증하고 배포 파이프라인을 문서화할 수 있다.

교육 대상

비전공자 중 엣지 AI·임베디드 AI 개발자로 전직을 희망하는 구직자, 임베디드·모바일 개발 경력자 중 AI 모델 최적화 역량을 추가하려는 재직자, 전자공학·컴퓨터공학·인공지능 전공자 중 온디바이스 AI 심화 실무를 원하는 자

수료 혜택

반도체 팹리스·NPU 개발사 및 모바일·로봇 제조사 채용 연계, NPU 개발 보드 실습 키트 무상 대여 및 실기업 프로젝트 연계, 경량화 전-후 성능을 비교한 온디바이스 AI 애플리케이션(비전 또는 음성)을 벤치마크 리포트와 함께 포트폴리오로 완성, 임베디드기사 등 관련 자격증 응시 대비반 운영, 1:1 이력서·기술면접 코칭 및 채용 박람회 연계.