AI 챗봇 만들기, 사내 규정·매뉴얼에 묻고 답하는 챗봇부터 — 시작 전 챙길 7가지

AI 챗봇 만들기를 고객 상담용으로만 생각하면 시작이 어렵습니다. 더 쉽게 시작할 수 있는 대상은 사내 질문입니다. 「연차는 며칠 전에 올려요?」, 「이 장비 점검표는 어디 있어요?」처럼 직원이 매번 묻는 질문입니다. 규정집과 매뉴얼을 챗봇에 등록하고 그 문서 안에서만 답하게 하면, 담당자가 같은 답을 반복하는 시간이 줄어듭니다. 다만 챗봇 품질은 기술보다 문서를 얼마나 정리해서 등록하느냐에 따라 달라집니다.

이번 주 뉴스: 쓰이지 않던 사내 문서를 AI로 활용하는 솔루션

지디넷코리아 보도(10월 7일)에 따르면 한 문서 AI 기업은 10월 6~8일 서울 코엑스 「AI페스타 26」에 참가했습니다. 이 기업은 사내 문서를 AI로 활용하는 솔루션을 전시했습니다. PDF, 스캔 문서, 이메일 첨부파일, 도면, 매뉴얼, 계약서, 내부 규정 같은 문서를 읽어 구조화하는 방식입니다. 회사 측은 구매 의사결정 기간이 약 2주에서 약 30초로, 문서 입력·검수 시간이 최대 70~90% 줄었다고 설명했습니다. 시범 운영 뒤 3개월 안에 초기 효과를 보고, 전체 안정화에는 최소 6개월이 걸린다고도 밝혔습니다.

주목할 숫자는 마지막의 안정화 기간입니다. 문서를 등록하자마자 정확하게 답하는 것이 아니라, 운영하면서 보완하는 기간이 필요하다는 뜻입니다.

사내 문서 챗봇을 만들기 전에 확인할 7가지

1. 질문부터 모으세요. 문서보다 질문이 먼저입니다. 인사·총무·현장 담당자에게 지난 한 달 받은 질문을 적어 달라고 해 보세요. 겹치는 질문을 묶은 목록으로 챗봇의 답을 처음 검증합니다.
2. 규정마다 최신본 하나만 남기세요. 같은 규정이 2023년판, 2025년판으로 두 개 있으면 챗봇은 둘 다 근거로 씁니다. 이전 판 파일부터 제외해야 합니다.
3. 문서마다 관리 담당자를 정하세요. 규정이 바뀌었을 때 누가 챗봇 자료를 바꿀지 정해 두지 않으면, 반년 뒤에는 틀린 답을 하는 챗봇이 됩니다.
4. 답하면 안 되는 범위를 적어 두세요. 개인 급여, 징계, 인사 평가처럼 사람이 직접 답해야 할 주제는 처음부터 「담당자에게 문의하세요」로 넘기게 합니다.
5. 문서에 없는 질문에는 모른다고 답하게 하세요. 문서에 없는 질문에 그럴듯한 답을 지어내는 것이 가장 위험합니다. 근거 문서가 없으면 담당자 연결로 넘기는 규칙이 필요합니다.
6. 스캔본은 미리 확인하세요. 흐릿한 스캔, 표가 잘린 PDF는 AI도 잘못 읽습니다. 자주 묻는 규정만큼은 깨끗한 파일로 바꿔 두는 편이 낫습니다.
7. 직원이 이미 쓰는 프로그램에 챗봇을 연결하세요. 새 프로그램을 따로 열어야 하면 직원들이 쓰지 않습니다. 사내 게시판이나 평소 쓰는 업무 화면에서 바로 물을 수 있어야 합니다.

7개 가운데 1~4번은 개발 전에 회사 안에서 할 수 있는 일입니다. 이 네 가지만 해 두어도 챗봇 개발 기간이 짧아집니다.

사내 문서 챗봇의 효과가 큰 회사

직원 30명 남짓한 제조 회사를 예로 들어 보겠습니다. 현장 직원은 설비 점검 순서를, 사무 직원은 경비 처리 규정을 총무 담당자 한 명에게 묻습니다. 그 담당자가 휴가를 가면 질문은 메신저에 쌓이고 일은 멈춥니다. 매뉴얼은 공유 폴더에 모두 있지만, 어느 문서에 있는지 아는 사람은 그 담당자 한 명뿐입니다.

이런 회사에서 사내 챗봇은 필요한 규정을 대신 찾아 주는 역할을 합니다. 직원이 물으면 해당 문서의 관련 부분을 근거로 답하고, 문서에 없으면 담당자에게 넘깁니다. 담당자는 반복 질문 대신 규정을 고치거나 판단이 필요한 질문에 시간을 씁니다. 추가 효과도 있습니다. 어떤 질문이 많이 들어오는지 기록이 남아, 규정에서 이해하기 어렵게 쓰인 부분을 찾을 수 있습니다. 그 부분만 고쳐도 질문 자체가 줄어듭니다. 반대로 직원이 열 명 미만이고 질문이 한 달에 몇 번뿐이라면, 챗봇보다 문서 목록을 정리하는 편이 빠를 수 있습니다.

사내 문서 챗봇을 만드는 순서: 문서를 나눠서 등록합니다

1. 질문이 가장 많은 문서 한 묶음부터 등록합니다. 인사 규정이든 설비 매뉴얼이든, 질문 목록에서 가장 많이 나온 분야의 문서입니다.
2. 회사에서 쓰는 용어를 알려 줍니다. 같은 서류를 부서마다 다르게 부르면 그 별칭까지 등록해야 챗봇이 이해합니다.
3. 직원 몇 명이 먼저 써 봅니다. 앞서 모은 질문을 그대로 입력해 보고, 틀린 답이 나온 질문은 문서를 보완합니다.
4. 등록 문서를 늘립니다. 첫 문서 묶음에서 틀린 답이 줄어든 뒤에 다음 문서를 등록합니다.

뉴스의 「안정화 최소 6개월」도 3~4번 단계를 반복하는 기간입니다. 직원들이 챗봇을 계속 쓸지는 처음 한 달 동안 틀린 답을 얼마나 바로잡느냐에 달려 있습니다.

사내 문서 챗봇 도입 준비 점검표

• 같은 질문이 한 달에 다섯 번 넘게 반복된다
• 규정·매뉴얼 파일은 있지만 필요한 내용을 찾을 줄 아는 사람이 정해져 있다
• 문서마다 최신본이 어느 것인지 말할 수 있다
• 「이건 사람이 답해야 한다」는 주제를 구분할 수 있다

셋 이상 해당하면 시작해 볼 만합니다. 직원이 자주 묻는 질문 몇 개와 그 답이 들어 있는 문서 하나만 보내 주세요. 챗봇이 그 질문에 어떻게 답하게 되는지, 어떤 질문을 담당자에게 넘기게 할지 함께 보여 드립니다.

📞 상담 1533-5459

출처

• 「잠자는 사내 문서, AI 자산으로…넥톤 '유링파워' 눈길」, 지디넷코리아, 2026-10-07