플러스프로젝트 배경
AI 호출은 하는 일에 따라 필요한 성능이 크게 다른데, 초기에는 구분 없이 한 모델로 보내고 있었습니다. 그 결과 태그 붙이기나 한두 문장 요약처럼 가벼운 작업이 가장 비싼 모델을 쓰고 있었습니다. 반대 방향의 사고도 겪었습니다. 저가 등급의 전환 순서 끝에 고급 등급이 붙어 있었고, 야간 배치에서 한도가 차자 단순 요약 16건이 값비싼 등급으로 넘어갔습니다. 이 일 뒤로 전환 순서에서 값이 오르는 경
프로젝트 성과
작업 26종을 4단 등급으로 배정하고 상향 전환을 차단
잦고 단순한 작업 9종을 저가 등급으로 내리고, 한도 초과 시 값이 오르는 방향의 자동 전환을 없애 단순 작업이 비싼 모델로 새지 않게 했습니다.
핵심 기능
작업별 모델 배정·하향 전환
작업 유형별 등급 배정, 한도 초과 시 하향 전환, 상향 전환 차단, 등급 소진 시 타 제공사 전환, 제공사별 어댑터 분리, 중복 배정 차단
진행 단계
작업 유형·등급 배정표 확정
2026.07
실제 호출을 작업 유형으로 나누고 필요한 성능 기준을 정해 26종을 4단 등급에 배정한 뒤 코드 한 곳에 고정했습니다.
프로젝트 상세
AI를 업무에 붙일 때 모든 요청을 같은 모델로 보내면 단순한 분류 작업까지 비싼 값을 물게 됩니다. 작업 종류를 먼저 판별해 그에 맞는 등급의 모델로 보내고, 한도가 차면 다음 모델로 자동 전환하는 라우터입니다. 작업 유형 26종을 4단 등급에 배정했습니다. 분류·항목 추출·짧은 요약처럼 정답 폭이 좁고 호출이 잦은 일은 저가 등급, 문서 작성·코드 작성은 기본 등급, 검수·디버깅처럼 놓치면 그대로 나
