플러스프로젝트 배경
1) 문제점 - 문서·메일 분류형 AI에서 가장 크게 터지는 사고는 성능 미달이 아니라, 애매한 입력을 억지로 특정 카테고리에 끼워 맞춰 정작 중요한 문서가 엉뚱한 곳에 묻히는 일이었다. - 다른 하나는 AI가 자동으로 무언가를 실행했는데 그 판단이 틀렸고, 이미 나간 것을 회수할 수 없는 상황이다. 사내 공지나 메일 발송, 일정 등록이 여기에 해당한다. - 이 두 가지는 확신도 임계값을 아무리 정교
프로젝트 성과
전면 오분류를 정상 동작처럼 숨기고 있던 결함을 실측으로 찾아냄
확신도가 낮으면 코드에서 강제로 '기타'로 덮어쓰는 안전장치를 두었는데, 폴백 백엔드의 토큰 예산이 짧아 응답이 끝까지 나오기 전에 잘리면서 모든 문서와 메일이 예외 없이 '기타'로 떨어지고 있었다.
되돌릴 수 없는 행위를 구조적으로 자동 실행에서 제외
목적지마다 회수 가능 여부를 플래그로 미리 정하고, 공지·메일 발송·일정 등록처럼 한 번 나가면 되돌릴 수 없는 곳은 확신도와 상관없이 자동 실행 대상에서 뺐다.
SSRF가 성립할 자리를 애초에 없앤 첨부 참조 구조
문서 안의 첨부 참조 링크를 서버가 직접 페치하지 않는다. URL은 힌트로만 쓰고, 거기서 뽑아낸 공유 토큰으로 우리 쪽 DB를 조회해 실제로 열어볼 대상을 정한다.
로컬 실행 모드의 실패를 유료 API로 조용히 떠넘기지 않도록 차단
문서 요약·질의응답 등은 로컬 실행 모드를 선택할 수 있는데, 로컬로 실행할 수 없는 상황이면 몰래 유료 API로 갈아타지 않고 명시적인 오류를 그대로 낸다.
핵심 기능
자유 형식 문서 자동분류·구조화
PDF·워드·엑셀·텍스트·마크다운을 올리면 텍스트를 추출해 종류를 분류하고, 표가 있으면 표로 없으면 섹션별 요약으로 정리해 보여준다. 확신이 낮으면 억지로 칸을 고르지 않고 '기타'로 모아 사람이 직접 훑게 한다
진행 단계
실패 지점 정의와 설계 축 결정
2026.08.
기능 목록을 세우기 전에 "이 기능이 틀렸을 때 무슨 일이 생기는가"를 먼저 적었다.
프로젝트 상세
자유 형식의 사내 문서를 올리면 종류를 자동으로 가려내고, 표가 있으면 표로 없으면 섹션별 요약으로 정리해 보여주는 문서 AI를 만들었다. 같은 엔진을 회사 메일을 일곱 개 카테고리로 나누는 메일함, 문서 기반 질의응답, 콘텐츠 초안 생성, 지시문에 따른 문서 자동 수정까지 함께 쓰도록 설계했다. 백엔드는 Python·Django·PostgreSQL, 화면은 TypeScript와 Next.js App Rout
