플러스프로젝트 배경
1) 예상 리스크 및 대응 계획 - 문서 유형 자동 감지가 불확실한 경우(복합 유형, 비정형 레이아웃) LLM 라우팅 규칙이 틀릴 수 있으므로, 수동 재분류와 라우팅 규칙 수정 UI를 함께 제공하는 폴백 설계가 필요합니다. - Celery 워커가 동시에 다수 LLM API를 호출할 때 API Rate Limit에 도달할 수 있으므로, LLM별 동시 요청 수를 제어하는 Semaphore 기반 병렬도 제한 전
프로젝트 성과
문서 유형별 LLM 자동 라우팅 파이프라인 설계
영업제안서·계약서·카탈로그 유형별로 최적 LLM을 routing_rules 테이블로 매핑하고 요청 시 동적 라우팅하는 엔진을 설계합니다
Celery 기반 병렬 배치 처리 아키텍처 구현
다수 PDF를 Celery 워커 풀에 동시 디스패치하고, 각 워커가 독립적으로 LLM API를 호출한 뒤 결과를 PostgreSQL에 원자적으로 저장하는 배치 파이프라인을 구현합니다.
FastAPI SSE 기반 실시간 진행 상황 스트리밍 구현
Celery 작업 상태 변경 이벤트를 FastAPI EventSourceResponse로 SSE 스트리밍하여 프론트엔드에 진행률을 실시간 전송합니다
프롬프트 성능 평가 및 버전 추천 시스템 구현
template_metrics 테이블에 버전별 추출 정확도를 누적 저장하고, SQLAlchemy 윈도우 함수로 추세를 시각화합니다
다차원 사용량 분석 집계 및 Redis 캐시 최적화
SQLAlchemy group_by + func.sum으로 팀·LLM·날짜 3축 집계를 구현하고 Recharts로 시각화 대시보드를 설계합니다
핵심 기능
배치 처리 현황 대시보드
다수의 PDF 문서가 배치 처리되는 현황을 실시간으로 모니터링하고, LLM별 처리 건수·성공률·평균 소요 시간을 차트로 시각화하는 운영 대시보드를 구현합니다
진행 단계
LLM 라우팅 규칙 설계 및 SQLAlchemy 스키마 구축
2026.04
문서 유형별 최적 LLM 매핑 테이블 설계, PostgreSQL 9개 테이블 ERD 작성, Celery 워커 큐 아키텍처 수립
프로젝트 상세
1) 포트폴리오 소개 여러 팀원이 다수의 PDF 문서를 일괄 업로드하면 LLM 라우팅 엔진이 문서 유형별로 최적 LLM을 자동 선택하여 배치 처리하고, 프롬프트 라이브러리·사용 분석 대시보드·팀 협업 기능을 통합한 엔터프라이즈 문서 처리 자동화 플랫폼 확장 데모입니다. FastAPI + SQLAlchemy + Redis Queue로 대용량 배치 파이프라인을 설계합니다. 2) 작업 범위 - 배치 처리
