병원 행정 AI비서(온프레미스 LLM) 성능 검증 및 보안 점검

[프로젝트 개요]
- 신규 개발이 아니라, 이미 운영 중인 시스템의 성능과 보안을 검증하는 과업입니다.
- 대상은 웹 기반 병원 행정 업무 시스템에 탑재된 자연어 AI비서입니다. 온프레미스 GPU 서버 1대에서 오픈소스 LLM(10~30B급)을 서빙하는 구조입니다.
- 현재 Qwen 계열을 주로 사용하고 있으며 Gemma도 함께 쓰고 있습니다.
- 검증 범위는 네 가지입니다. 모델 구성·경량화 검토, 부하 테스트, 테스트셋 기반 정확도 검증, 보안 점검입니다.
- 테스트 서버 접속 환경과 가상 데이터는 저희가 제공합니다. 실제 환자 데이터는 사용하지 않습니다.
- 현장 출장이나 상주는 없습니다. 전 과정 온라인으로 진행 가능합니다.