환각 없는 사내 문서 기반 질의응답 시스템, RAG 백엔드 설계부터 배포까지
교육 기간
4월 12일 ~ 5월 14일
총 교육시간
100시간 · 약 1개월
수강료
국비지원 · 자부담 0원
접수 마감
D-205 · 3월 29일
IT/개발
IT·소프트웨어·인공지능 분야 오프라인 강의
본 과정은 백엔드 개발 경험이 있는 개발자와 AI 엔지니어를 대상으로, 기업 내부 보안 문서(PDF·워드·DB)를 근거로 정확하게 답변하는 RAG(검색 증강 생성) 기반 사내 지식 챗봇의 백엔드를 설계·구현하는 것을 목표로 합니다. 문서 파싱과 청킹(Chunking) 전략, 임베딩 모델 선정, 벡터 데이터베이스(Pinecone·Chroma·PGVector 등) 구축, 검색 정확도 향상을 위한 리랭킹(Reranking)까지 RAG 파이프라인의 전 단계를 다룹니다. 특히 환각(Hallucination) 현상을 줄이기 위한 프롬프트 설계, 근거 문서 인용(citation) 처리, 답변 신뢰도 평가 방법을 중점적으로 실습합니다. LangChain·LlamaIndex 프레임워크와 FastAPI를 활용해 실제 사내망에서 동작 가능한 API 서버를 구축하고, 접근 권한 관리 등 기업 환경에 필요한 보안 요소도 함께 설계합니다.
문서 파싱·청킹 전략을 설계하고 문서 특성에 맞는 임베딩 모델을 선정한다 벡터 데이터베이스(PGVector, Chroma, Pinecone 등)를 구축하고 검색 성능을 튜닝한다 LangChain·LlamaIndex를 활용해 검색-생성 파이프라인을 구현한다 리랭킹, 하이브리드 서치 등으로 검색 정확도를 개선하고 환각 현상을 최소화한다 근거 문서 인용(citation)과 답변 신뢰도 평가 로직을 구현한다 FastAPI 기반 API 서버로 챗봇 백엔드를 구축하고 접근 권한·로깅 등 운영 요소를 설계한다
Python 기반 백엔드 개발 경험이 있는 개발자, 사내 AI 도입을 담당하는 AI 엔지니어, 데이터 엔지니어를 대상으로 합니다. 사내 문서 보안이 중요한 금융·공공·제조 업종 재직자에게 특히 적합합니다.
실습용 LLM API(OpenAI·Anthropic 등) 사용료는 교육기관에서 실습 크레딧을 일부 지원하나, 개인 프로젝트로 확장 시 추가 API 사용료(월 1~5만원 내외, 사용량에 따라 변동)는 수강생이 부담합니다. 수료 시 RAG 파이프라인 전체 소스코드와 사내 문서 기반 챗봇 데모(GitHub 저장소)를 포트폴리오로 확보합니다.
정원 24명 규모의 강의실에서 실습 중심으로 진행됩니다. 수강생 1인당 실습용 PC와 유·무선 인터넷 환경을 제공하며, 조별 프로젝트가 가능한 좌석 배치로 운영됩니다.
문서 파싱·청킹 전략을 설계하고 문서 특성에 맞는 임베딩 모델을 선정한다
실습 산출물 제공
포트폴리오 완성
과정 종료 시 실제 프로젝트 산출물을 포트폴리오로 확보합니다.
국비지원 혜택
자부담금 0원
국민내일배움카드 연계 과정으로 수강료 자부담이 없습니다(일부 실습 도구 구독료는 별도).
훈련장려금
출석 연동 지급
출석률 등 요건 충족 시 훈련장려금이 지급될 수 있습니다.
출석률 80% 이상 및 최종 프로젝트(RAG 챗봇 API 서버) 발표·제출 시 수료증이 발급됩니다. 국민내일배움카드 훈련 이수내역이 HRD-Net에 등록됩니다.
Related
인공지능·데이터
Llama 3 등 경량 언어모델을 사내 데이터로 미세조정해 온프레미스로 구축하는 과정
인공지능·데이터
AI 코딩 에이전트를 보조 개발자로 활용해 완성하는 실전 풀스택 웹 서비스
인공지능·데이터
파이썬·ChatGPT로 데이터 정제부터 대시보드·인사이트 리포트까지 자동화
