프로젝트 배경
1) 문제점 - 사내 데이터가 ERP·MES·CRM에 나뉘어 있어 필요한 수치를 확인하려면 담당자에게 요청하거나 직접 쿼리를 작성해야 함 - LLM 챗봇을 붙이는 방식은 오류 없이 틀린 답을 내놓아도 확인할 방법이 없음 - 사용자마다 볼 수 있는 데이터 범위가 달라 단순 연동으로는 권한 문제가 해결되지 않음 2) 프로젝트 목표 - 자연어 질의응답: 실무자가 직접 질문하고 실제 데이터 기반 답변을
프로젝트 성과
업무 시스템 7종 연동
ERPNext·Odoo·Dolibarr·Horilla·Twenty 및 MES 2종에 동일한 방식으로 연동, 멀티 컴퍼니 환경 포함
정답 검증 벤치마크 운영
시스템별 100건 이상 질문의 정답을 사전 검증해 응답 정확도를 수치로 관리하고 배포 기준으로 사용
응답 속도 20% 이상 단축
프롬프트 단계화와 토큰 예산 조정으로 평균 응답 시간을 5~6초에서 4~5초로 단축
자체 서버 서빙 전환
파인튜닝한 소형 모델을 자체 서버에서 서빙해 추론 속도 5.4배 개선, 외부 API 비용 절감
자동화 테스트 1,190건
파이프라인·검증·SQL 생성 전 구간을 자동 테스트로 보호해 회귀 없이 기능을 추가
핵심 기능
진행 단계
요구사항 정의 및 구조 설계
2026.01.
질의응답 실패 유형을 먼저 정리하고, LLM이 SQL을 직접 쓰지 않는 검증 구조를 설계
프로젝트 상세
1) 포트폴리오 소개 사내 ERP·MES·CRM 데이터를 자연어로 질문하고 답변받는 AI 에이전트 서비스입니다. 데이터 조회를 담당자에게 의존하던 실무자(생산·영업·관리 부서)를 주 타깃으로 하며, 기존 업무 시스템에 웹훅 3개와 iframe만 추가하면 연동됩니다. 2) 작업 범위 요구사항 정의, 에이전트 파이프라인 설계, 백엔드 개발(FastAPI), 프런트엔드 개발(React/TypeScript)







