플러스프로젝트 배경
1) 문제점 - 서른세 가지 AI 작업이 각자 모델을 호출하는 구조에서는 호출 하나하나의 비용과 책임 소재를 사후에 재구성할 방법이 없었다. - 여러 벤더를 오가다 보면 요청한 품질 티어가 아닌 다른 모델이 대신 답하는 상황이 생기는데, 이것이 표시 없이 넘어가면 사용자는 자기가 요청하지 않은 결과에 요청한 값을 지불하게 된다. - 어느 벤더가 응답했는지 불명확한 호출에까지 기본 요금을 매기면, 편의를
프로젝트 성과
조용한 티어 대체를 구조적으로 차단
요청한 티어로 응답할 수 없을 때 낮은 티어로 자동 대체하던 경로를 없애고, 실패해도 예외를 던지지 않는다는 함수의 원래 계약을 깨면서까지 전용 예외를 밖으로 던지도록 바꿨다.
확신할 수 없는 호출에는 청구하지 않는 과금 경로
과금 배수를 단가가 아직 정해지지 않은 상태와 로컬모델(무료)로 확정된 상태로 끝까지 다른 값으로 구분해 남겼다.
폴백 체인 끝단의 지연과 로그 오염 제거
운영 서버 대부분에서 로컬 추론 서버는 존재하지 않는 것이 정상인데, 폴백 체인이 매번 그 경로까지 내려가 접속을 시도하고 거부당하면서 호출마다 지연이 붙고 로그 마지막 줄이 늘 같은 접속 실패 문구로 채워졌다.
폴백 체인 끝단의 지연과 로그 오염 제거 2
연결 거부 시 일정 시간 해당 경로를 건너뛰고 대기 시간이 지나면 자동 복귀시키는 회로차단기를 넣어, 지연과 오염을 함께 걷어냈다. 영구 차단은 일부러 피했다.
되돌릴 수 없는 행위를 확신도에서 분리
AI가 파일의 목적지를 판정할 때, 사내 공지나 메일 발송이나 일정 초대처럼 한 번 나가면 되돌릴 수 없는 목적지는 확신도와 무관하게 자동 실행 대상에서 제외했다.
핵심 기능
응답 품질 티어와 실행 방식의 독립 2축 라우팅
사용자가 고른 응답 품질 티어(가벼운 로컬 모델, 일반, 고급)와 회사가 정한 실행 방식(로컬 샌드박스, 유료 클라우드)을 서로 간섭하지 않는 두 축으로 두고 조합에 따라 실행 경로를 정한다.
진행 단계
실행 계층의 경계 설정과 두 축 분리 설계
2026.08.
흩어져 있던 33종의 AI 작업이 공통으로 통과할 지점을 먼저 정했다. 이 자리에서 사용자가 고르는 응답 품질 티어와 회사가 정하는 실행 방식을 하나로 합치지 않고 독립된 두 축으로 두기로 결정.
프로젝트 상세
업무용 SaaS 한 곳에는 문서 초안, 요약, 이미지 생성, 일정 명령, 메일 분류처럼 성격이 제각각인 AI 작업이 서른세 가지 들어 있었다. 이들이 저마다 모델을 부르기 시작하면 어느 호출이 얼마를 썼고 실제로 어느 쪽이 답했는지 나중에는 아무도 말할 수 없게 된다. 그래서 33종이 예외 없이 통과하는 공통 실행 계층을 두고, 그 안에서 라우팅과 폴백과 과금을 함께 다루기로 했다. 설계에서 가장 오래
