플러스프로젝트 배경
1) 문제점 - 사내 문서·FAQ·매뉴얼이 흩어져 있어 담당자가 같은 질문에 반복해서 답하고 있었습니다. - 범용 LLM을 그대로 쓰면 사내 규정과 다른 답을 지어내는 할루시네이션이 발생해 업무에 쓸 수 없었습니다. - 답변 근거를 확인할 방법이 없어 사용자가 결과를 신뢰하지 못했습니다. - 문서가 갱신될 때마다 재학습이 필요하다면 운영 비용을 감당할 수 없었습니다. 2) 프로젝트 목표 - 근거
프로젝트 성과
Retrieval 정확도 95% 이상 달성
청킹 전략과 임베딩 튜닝으로 RAG 파이프라인을 정밀 조정해 사내 문서 검색 정확도 95% 이상을 확보
API 토큰 비용 60% 절감
컨텍스트 압축과 유사 질의 캐싱 등 토큰 사용량 최적화로 GPT API 운영 비용을 60% 절감
출처 표시 기반 답변으로 신뢰성 확보
모든 답변에 참조 문서와 근거 구간을 함께 표시해 사용자가 답변의 출처를 즉시 확인 가능
재학습 없는 데이터 소스 확장 구조
새로운 문서나 데이터 소스를 추가해도 모델 재학습 없이 임베딩만 갱신하면 즉시 반영되는 구조를 구현
PDF·DOCX·웹페이지 자동 파싱 처리
다양한 포맷의 문서를 자동 파싱·청킹·임베딩해 운영자가 파일만 올리면 학습 데이터가 되도록 자동화
핵심 기능
출처 표시형 문서 기반 질의응답
사내 문서를 검색해 근거와 함께 답변을 생성하고 참조 문서를 함께 노출해 답변 신뢰도를 확보
진행 단계
요구사항 정의 및 RAG 설계
2024.03.
대상 문서군과 질의 유형을 정리하고 청킹·임베딩·리트리벌·생성으로 이어지는 파이프라인을 설계
프로젝트 상세
1) 포트폴리오 소개 GPT API와 RAG(Retrieval-Augmented Generation) 기술을 활용하여 기업 맞춤형 AI 챗봇 시스템을 설계·개발한 프로젝트입니다. 사내 문서·FAQ·매뉴얼 등 자체 데이터를 학습하여 정확하고 맥락에 맞는 응답을 제공하는 지능형 고객 상담 및 내부 업무 지원 챗봇을 구축했습니다. 2) 작업 범위 - AI 백엔드: Python (FastAPI) 기반 API
