2026.06 — 2026.08
한국산업은행
AI디지털전략부 인턴
AI개발팀 | AI데이터팀
현업 검증을 거친 업무별 AI Assistant 개발
공문 초안, 산업분석 요약, 여신승인신청서 종합의견, 문체 변환을 위한 시스템 프롬프트를 설계했습니다. 여신 업무의 RM과 CO 역할을 구분하고 지점 실무자 피드백으로 고도화해 제안한 종합의견 생성 기능은 사내 LLM 서비스(KDB GPT)에 정식 배포되었고, 회장 보고에 팀 사례로 포함되었습니다.
담당 범위 / 기능 제안, 시스템 프롬프트 설계, 실행과 검토. 서비스 코드 반영과 배포는 담당자가 진행했습니다.


LLM 사용 목적별 모니터링 대시보드 개선
서버 과부하 사례를 계기로, 서버 단위로 집계되던 vLLM 지표를 사용 목적별로 재구성했습니다. 토큰 및 요청 처리량과 응답 지연(TTFT, TPOT, E2E)의 p95를 함께 살펴볼 수 있는 Grafana 대시보드를 직접 만들어 제안했습니다.
AS-IS 기존 vLLM 모니터링 대시보드
- 지표가 전체 또는 서버 단위로 집계됨
- 부하가 생겨도 어느 용도 때문인지, 서버 문제인지 바로 구분하기 어려움
- 원인 용도를 좁히지 못해 전체 단위로 판단해야 함
TO-BE 사용 목적별 재구성
- 새로 수집하지 않고, 이미 있던 지표를
purpose기준으로 다시 집계 - 목적별 토큰·요청 처리량과 TTFT·TPOT·E2E p95를 한 화면에서 함께 비교
- 튄 용도만 골라 호출량·동시성·토큰 한도를 검토할 근거
가상 데이터로 구성만 재현한 페이지입니다.
어떤 문제를 발견하고, 어떻게 접근했나요?
문서 분석에서 역할별 업무 설계로
참고 문서에서 여신승인신청서의 종합의견 생성 과제를 발굴하고, 여신 교재 6권과 작성 가이드라인을 학습했습니다. RM과 CO의 관점 차이를 반영해 역할별 Assistant를 설계했으며, 원문 보존, 범위 제한, 적합한 Assistant 안내를 프롬프트에 반영했습니다.
완성도를 높인 것은 현업 피드백
테스트케이스로 프롬프트를 조정한 뒤 지점 실무자의 검토를 받았습니다. 문서상 작성 방식과 현장 관행의 차이를 확인하고, 서술 형식과 재무제표 기준에 대한 의견을 반영해 최종본을 개선했습니다.
운영 지표를 읽는 기준
Counter와 Gauge의 특성에 맞춰 집계를 구분하고, 평균에 가려지는 느린 요청을 보기 위해 지연의 p95를 시각화했습니다. 트래픽 증가와 사용자 체감 성능을 함께 확인하는 운영 관점을 정리했습니다.
모델 성능과 지식 구조를 함께 검증
같은 샘플로 모델 4개의 필수 섹션 누락, 깨진 링크, 원본에 없는 내용 생성을 비교했습니다. 결함이 없던 모델로 만든 규칙 9개는 원문 줄 번호와 모두 일치했습니다. 개정 실험에서는 규칙 ID 재사용과 삭제된 예외의 이력 추적 문제를 확인했습니다.
단일 실험의 결론을 확장 실험으로 확인
직급 중심과 업무 중심의 엔티티 구성을 5개 업무 영역에 걸쳐 비교했습니다. 업무 중심 구조의 장점은 세분화 기준이 명확할 때 유지된다는 조건을 도출하고, 형식 검증과 의미 검증을 분리하는 방안을 제안했습니다.
LLM Wiki 내용은 인턴 개인 PoC의 실험, 비교 결과입니다. 구조는 팀 추진 방향으로 채택되었으나 이후 도입은 보류되었으며, 정량적 성능 개선 수치는 주장하지 않습니다.





