중소 제조기업 AI 도입 로드맵 4단계
거래처 평가표에 "AI·디지털 활용 계획" 칸이 생겼는데 무엇을 써야 할지, 컨설팅 제안서 세 개 중 무엇을 골라야 할지 기준이 없는 제조사 대표가 많습니다. 중소기업 AI 도입은 프로그램을 고르는 일이 아니라 순서를 정하는 일입니다. 반복 업무와 데이터 상태를 점검하는 진단, 첫 과제 하나를 숫자 목표와 함께 고르는 과제 선정, 사람이 확인하며 8주간 돌리는 시범 적용, 두 번째 과제와 담당자·규칙을 정하는 확산의 4단계로 정리하고, 국내 제조사가 흔히 빠지는 다섯 가지 함정을 덧붙였습니다.

거래처 구매팀에서 협력사 평가표를 보내왔는데, 올해부터 "AI·디지털 활용 계획"이라는 항목이 새로 생겼습니다. 직원 40명 규모 제조사 대표가 이 칸에 무엇을 써야 할지, 그보다 먼저 우리 회사가 실제로 무엇부터 해야 할지를 이 글에서 4단계로 정리합니다. 중소기업 AI 도입은 프로그램을 고르는 일이 아니라 순서를 정하는 일이라는 것이 이 글의 결론입니다.
경기 남부에서 자동차 부품용 사출 금형과 성형품을 만드는 직원 42명 회사 이야기입니다. 지난봄 1차 협력사 구매팀이 보낸 협력사 평가표에 "AI·디지털 활용 계획" 항목이 새로 들어왔습니다. 대표는 빈칸을 앞에 두고 한참 고민했습니다. 사무실에서 직원 두 명이 생성형 AI로 영문 메일을 다듬는 것은 봤지만, 그것을 "활용 계획"이라고 쓸 수는 없었습니다.
같은 달에 컨설팅 회사 세 곳에서 제안서가 들어왔습니다. 한 곳은 생산 설비 데이터를 모아 불량을 예측하자고 했고, 한 곳은 홈페이지에 AI 상담창을 달자고 했고, 한 곳은 전 직원 교육부터 하자고 했습니다. 셋 다 그럴듯했고, 셋 다 금액이 달랐고, 셋 중 무엇이 우리 회사에 먼저 필요한지 판단할 기준이 없었습니다.
이 대표가 겪은 문제는 기술을 모르는 것이 아닙니다. 어떤 순서로 무엇을 결정해야 하는지가 없는 것입니다. 해외에서는 이런 순서를 "AI 도입 프레임워크"라고 부르며 대기업 기준으로 여덟에서 열 단계로 늘어놓습니다. 직원 40명 회사에는 그만큼이 필요하지 않습니다. 이 글은 그것을 진단, 과제 선정, 시범 적용, 확산의 네 단계로 줄이고, 각 단계에서 대표가 실제로 해야 할 일만 남겼습니다.
AI 에이전트가 무엇인지, 챗봇과 어떻게 다른지는 AI 에이전트 완벽 가이드와 AI 에이전트와 챗봇의 차이에서 다루었습니다. 이 글은 그 기술을 회사에 들이는 순서에만 집중합니다.
로드맵이 필요한 이유: 기술이 아니라 순서의 문제입니다
흔한 두 가지 시작, 둘 다 막힙니다
중소 제조사의 AI 도입은 대개 두 가지 방식으로 시작됩니다. 하나는 프로그램부터 사는 방식입니다. 제안서를 받고, 시연을 보고, 가장 인상적인 것을 계약합니다. 석 달 뒤 프로그램은 돌아가는데 넣을 데이터가 없거나, 결과를 볼 사람이 없어서 멈춥니다. 다른 하나는 공부부터 하는 방식입니다. 대표가 세미나를 다니고 직원 교육을 시키는데, 반년이 지나도 회사에서 바뀐 일은 없습니다.
둘의 공통점은 "우리 회사에서 어떤 일을 바꿀 것인가"를 정하지 않고 시작했다는 점입니다. 프로그램도 교육도 그 일이 정해진 뒤에 따라와야 하는 것들입니다. 로드맵은 그 순서를 뒤바꾸지 않도록 잡아 주는 장치입니다.
4단계를 한눈에
이 글의 로드맵은 네 단계입니다. 1단계 진단에서 우리 회사의 반복 업무와 데이터가 어디에 어떤 상태로 있는지 확인합니다. 2단계에서 첫 과제 하나를 고르고 성공 기준을 숫자로 정합니다. 3단계에서 그 과제를 8주 정도 시범 적용하며 사람이 확인하는 단계를 유지합니다. 4단계에서 결과를 보고 두 번째 과제로 넓히면서 담당자와 규칙을 정합니다. 각 단계에 걸리는 시간은 회사마다 다르지만, 1단계와 2단계를 합쳐 한 달을 넘기지 않는 것이 좋습니다.
1단계 진단: 반복 업무와 데이터가 어디에 있는지 확인합니다
반복 업무 목록을 만듭니다
첫 2주 동안 할 일은 프로그램 조사가 아니라 우리 회사 안을 들여다보는 일입니다. 영업, 구매, 생산관리, 품질, 경리 담당자에게 각각 물어보십시오. "매주 같은 방식으로 반복하는 일이 무엇이고, 한 번에 얼마나 걸립니까." 견적서 작성, 발주서 입력, 거래명세서 대조, 검사 성적서 작성, 납기 회신, 전시회 명함 정리 같은 답이 나옵니다. 열에서 스무 개 정도가 모이면 충분합니다.
각 항목 옆에 세 가지를 적습니다. 한 달에 몇 번 일어나는지, 한 번에 몇 분 걸리는지, 그 일에 필요한 정보가 어디에 있는지입니다. 세 번째가 가장 중요합니다. "단가는 김 과장 머릿속에 있다", "재고는 ERP에 있지만 실제와 자주 다르다", "검사 기록은 종이 대장에 있다" 같은 답이 그대로 다음 단계의 재료가 됩니다.
데이터의 상태를 세 등급으로 나눕니다
AI는 사람이 정리해 둔 정보 위에서만 일합니다. 반복 업무 목록에 적힌 정보들을 세 등급으로 나눠 보십시오. 바로 쓸 수 있는 것은 ERP나 그룹웨어, 잘 관리된 엑셀처럼 시스템 안에 정해진 형식으로 들어 있는 정보입니다. 정리하면 쓸 수 있는 것은 담당자마다 다른 엑셀, 메일함에 흩어진 견적서, 파일명만 있는 도면처럼 있긴 하지만 형식이 제각각인 정보입니다. 아직 없는 것은 담당자 머릿속이나 종이 대장에만 있어서 먼저 기록부터 시작해야 하는 정보입니다.
이 등급이 첫 과제를 고르는 기준이 됩니다. 첫 과제는 반드시 첫 번째나 두 번째 등급의 정보로 할 수 있는 일이어야 합니다. 세 번째 등급 정보가 필요한 일은 아무리 효과가 커 보여도 뒤로 미룹니다. 엑셀 고객 명단이 이 두 번째 등급의 대표적인 예이며, 정리하는 요령은 CRM과 엑셀 고객관리의 차이에서 다루었습니다.
사람 쪽도 함께 봅니다
진단에서 빠뜨리기 쉬운 것이 사람입니다. 회사 안에 엑셀 함수를 만들 줄 아는 사람, 생성형 AI를 업무에 이미 써 보고 있는 사람, 새 시스템이 들어올 때 먼저 써 보겠다고 나서는 사람이 누구인지 적어 두십시오. 이 사람들이 3단계에서 시범 적용의 담당자가 됩니다. 직원 40명 회사라면 보통 두세 명이 나옵니다. 아무도 없다면 그것도 진단 결과이며, 이 경우 외부 도움 없이 3단계로 넘어가지 않는 편이 낫습니다.
2단계 과제 선정: 첫 과제 하나를 고르고 성공 기준을 숫자로 정합니다
과제를 고르는 세 가지 기준
1단계에서 만든 목록에서 첫 과제 하나만 고릅니다. 둘이나 셋을 동시에 하지 않습니다. 고르는 기준은 세 가지입니다. 첫째, 시간을 얼마나 잡아먹는가입니다. 월 횟수에 소요 시간을 곱한 값이 큰 것부터 봅니다. 둘째, 데이터가 준비되어 있는가입니다. 앞에서 나눈 등급이 첫 번째나 두 번째여야 합니다. 셋째, 틀렸을 때 피해가 감당할 만한가입니다. 첫 과제에서 잘못된 결과가 고객이나 거래처에 바로 나가면 도입 자체가 중단됩니다.
| 과제 후보 | 월 소요 시간 | 데이터 상태 | 틀렸을 때 피해 | 첫 과제 적합도 |
|---|---|---|---|---|
| 홈페이지 견적 문의 1차 회신 | 약 20시간 | 단가표 엑셀 있음(정리 필요) | 사람 확인 후 발송하면 낮음 | 높음 |
| 전시회 명함 정리와 첫 메일 | 분기 1회, 약 30시간 | 명함 사진만 있음 | 낮음 | 높음(시기 맞으면) |
| 거래명세서와 입금 대조 | 약 15시간 | ERP와 은행 내역 있음 | 내부 업무라 낮음 | 중간 |
| 검사 성적서 자동 작성 | 약 25시간 | 종이 대장(아직 없음) | 고객 제출 문서라 높음 | 낮음(뒤로 미룸) |
| 설비 불량 예측 | 산정 어려움 | 설비 데이터 수집 안 됨 | 생산 판단에 직결 | 낮음(뒤로 미룸) |
표에서 보듯 제안서에 가장 자주 등장하는 "불량 예측"이나 "설비 데이터 분석"은 대부분의 중소 제조사에서 첫 과제가 되기 어렵습니다. 데이터가 아직 쌓이지 않았고, 결과가 생산 판단에 바로 연결되기 때문입니다. 반대로 견적 회신, 명함 정리, 문서 대조처럼 사무실에서 반복되는 일은 데이터가 이미 있고 사람이 확인하기도 쉬워서 첫 과제로 적당합니다.
성공 기준은 숫자 하나로
과제를 골랐으면 8주 뒤에 무엇을 보고 성공이라고 할지 숫자 하나로 정합니다. "견적 문의 1차 회신까지 걸리는 시간을 평균 이틀에서 두 시간 이내로", "명함 300장 정리와 첫 메일 발송을 3주에서 3일로", "담당자가 초안을 고치지 않고 그대로 보낸 비율 70% 이상" 같은 식입니다. "업무 효율 향상"처럼 셀 수 없는 목표는 8주 뒤에 성공인지 실패인지 아무도 말할 수 없습니다.
이 숫자는 시범 적용을 시작하기 전에 현재 값을 먼저 재 둡니다. 지난 석 달 견적 문의 접수 시각과 회신 시각을 메일함에서 뽑아 평균을 내는 정도면 됩니다. 현재 값이 없으면 8주 뒤 숫자가 나와도 얼마나 나아진 것인지 알 수 없습니다.
3단계 시범 적용: 8주 동안 사람이 확인하며 돌립니다
8주 일정의 뼈대
시범 적용 기간은 8주 정도가 적당합니다. 4주는 결과를 판단하기에 짧고, 석 달을 넘기면 담당자의 관심이 식습니다. 첫 2주는 데이터를 정리하고 처리 규칙을 정하는 데 씁니다. 단가표 세 개를 하나로 합치고, 어떤 문의는 자동으로 처리하고 어떤 문의는 사람에게 넘길지 선을 긋는 일입니다. 다음 4주는 실제 업무에 붙여 돌리되 모든 결과를 담당자가 확인한 뒤 내보냅니다. 마지막 2주는 숫자를 정리하고 다음 단계를 결정합니다.
사람이 확인하는 단계를 없애지 않습니다
시범 적용에서 가장 흔한 실수는 초반 성과가 좋아 보이면 곧바로 사람 확인을 빼는 것입니다. 8주 동안은 담당자가 모든 결과를 보고 내보내는 원칙을 지키십시오. 이 확인 과정에서 담당자는 어떤 유형의 문의에서 초안이 틀리는지 알게 되고, 그 유형이 처리 기준에 "사람에게 넘길 것"으로 추가됩니다. 사람 확인은 안전장치이면서 동시에 처리 기준을 다듬는 유일한 방법입니다.
매주 같은 요일에 숫자를 적습니다
매주 금요일 오후, 담당자가 네 가지 숫자를 한 줄로 적습니다. 처리한 건수, 초안을 고치지 않고 그대로 보낸 비율, 접수부터 회신까지 걸린 시간, 사람에게 넘긴 건수와 이유입니다. 8주면 여덟 줄입니다. 이 여덟 줄이 4단계에서 확대할지 멈출지를 정하는 근거가 되고, 협력사 평가표의 "AI·디지털 활용 계획" 칸에 쓸 내용이 됩니다. 계획이 아니라 실적을 쓸 수 있게 되는 것입니다.
4단계 확산과 정착: 두 번째 과제로 넓히고 지키는 사람을 정합니다
세 가지 결론 중 하나를 냅니다
8주가 끝나면 결론은 셋 중 하나입니다. 목표 숫자에 도달했으면 확대합니다. 표준 규격 문의는 사람 확인 없이 자동 발송으로 넓히고, 두 번째 과제를 고릅니다. 숫자가 목표에 못 미쳤지만 매주 나아지고 있었으면 수정합니다. 대개 프로그램 문제가 아니라 데이터나 처리 기준 문제이므로 그 부분을 고쳐 4주 더 돌립니다. 나아지지 않았으면 중단합니다. 중단은 실패가 아니라, 큰 돈을 쓰기 전에 8주와 작은 비용으로 답을 얻은 것입니다.
두 번째 과제는 첫 과제와 이어지는 것으로
두 번째 과제는 1단계 목록에서 다시 고르되, 첫 과제와 데이터나 담당자가 겹치는 것을 우선합니다. 견적 1차 회신을 했다면 그 다음은 회신 뒤 일주일 동안 답이 없는 문의에 후속 연락을 잡는 일이 자연스럽습니다. 같은 단가표, 같은 고객 명단, 같은 담당자를 쓰기 때문에 준비 기간이 첫 과제의 절반으로 줄어듭니다. 이렇게 이어지는 과제를 서너 개 쌓으면 영업 문의 접수부터 후속 관리까지 한 흐름이 됩니다.
담당자와 규칙을 문서로 남깁니다
정착이란 대표가 신경 쓰지 않아도 돌아가는 상태를 말합니다. 그러려면 세 가지가 문서로 있어야 합니다. 단가표와 고객 명단을 누가 언제 갱신하는지, 처리 기준을 바꿀 때 누가 결정하는지, 잘못된 결과가 나갔을 때 누가 어떻게 처리하는지입니다. A4 한 장이면 됩니다. 이 한 장이 없으면 담당자가 바뀌는 순간 시스템은 멈춥니다.
직원의 불안을 먼저 말합니다
확산 단계에서 반드시 나오는 것이 "그러면 내 일은 없어지는가"라는 직원의 걱정입니다. 이 걱정은 대표가 먼저 꺼내서 답하는 것이 낫습니다. 첫 과제에서 줄어든 시간을 어디에 쓸지를 구체적으로 정해 주십시오. 견적 초안 작성에 쓰던 주 5시간을 기존 거래처 방문에 쓴다, 명함 정리에 쓰던 3주를 전시회 후속 상담에 쓴다는 식입니다. 시간이 줄어든 만큼 다른 일이 정해져 있으면 불안은 대부분 사라집니다.
직원 30~50명 제조사가 흔히 빠지는 다섯 가지 함정
해외 자료에는 없지만 국내 중소 제조사 현장에서 반복해서 보이는 함정들입니다. 네 단계 어디에서든 걸릴 수 있으니 미리 알아 두는 편이 좋습니다.
첫째, 정부 지원사업 공고에 일정을 맞추는 경우입니다. 스마트공장 보급 사업 같은 지원 공고가 뜨면 마감에 맞춰 급하게 과제를 정하고 업체를 고르게 됩니다. 지원사업은 자금을 줄 뿐 우리 회사에 맞는 순서를 대신 정해 주지는 않습니다. 1단계 진단이 되어 있는 회사가 지원사업을 만나면 좋은 결과가 나오고, 진단 없이 공고를 먼저 만나면 설비만 남습니다. 공고와 무관하게 진단은 지금 해 두는 것이 맞습니다.
둘째, 설비 자동화와 AI 도입을 같은 것으로 보는 경우입니다. 로봇 팔이나 자동 검사 장비를 들이는 일은 설비 투자이고, 이 글에서 말하는 AI 도입은 사무실과 영업 현장의 반복 업무를 바꾸는 일입니다. 둘은 예산 규모도 준비물도 다릅니다. 설비 투자는 수억 원과 생산 라인 중단이 필요하지만, 견적 회신 자동화는 월 구독료와 정리된 단가표로 시작합니다. 후자를 먼저 하는 것이 대부분의 중소 제조사에 맞는 순서입니다.
셋째, 직원 몇 명의 개인 사용을 도입으로 착각하는 경우입니다. 직원이 개인 계정으로 생성형 AI에 영문 메일을 다듬거나 회의록을 요약하는 것은 좋은 출발이지만 회사의 도입은 아닙니다. 회사 데이터가 개인 계정으로 나가는 문제도 있습니다. 도입은 회사가 정한 과제를, 회사 데이터로, 회사가 정한 규칙 안에서 처리하는 것을 말합니다. 개인 사용을 막을 필요는 없지만, 거래처 정보와 단가를 개인 계정에 넣지 않는다는 원칙 정도는 진단 단계에서 정해 두십시오.
넷째, 데이터 정리를 업체가 해 줄 것으로 기대하는 경우입니다. 단가표 세 개 중 어느 것이 맞는지, 재고가 실제와 왜 다른지는 외부 업체가 알 수 없습니다. 이 정리는 우리 회사 사람만 할 수 있고, 시범 적용 8주 중 첫 2주가 여기에 들어갑니다. 제안서에 "데이터 정리 포함"이라고 쓰여 있어도 결국 우리 직원이 답을 주어야 하는 일입니다.
다섯째, 대표 혼자 결정하고 담당자를 나중에 정하는 경우입니다. 대표가 계약까지 마친 뒤 "이거 김 과장이 맡아"라고 하면 대개 석 달 안에 멈춥니다. 담당자는 1단계 진단 때부터 함께 있어야 하고, 2단계에서 과제를 고를 때 그 사람의 의견이 들어가야 합니다. 자기가 고른 과제는 지키고, 남이 준 과제는 방치되는 것이 사람의 자연스러운 모습입니다.
자주 묻는 질문
직원 40명 회사에서 첫 과제에 드는 비용은 어느 정도로 잡아야 합니까?
과제와 방식에 따라 크게 다르기 때문에 금액을 하나로 말하기는 어렵습니다. 다만 기준은 분명합니다. 1단계에서 계산한 "월 소요 시간에 담당자 인건비를 곱한 값"이 그 과제의 한 달 가치입니다. 시범 적용 8주에 들어가는 비용이 이 값의 서너 달치를 넘으면 첫 과제로는 과합니다. 첫 과제는 효과를 확인하는 것이 목적이므로, 큰 계약보다 월 단위로 시작하고 멈출 수 있는 방식이 낫습니다.
IT 담당 직원이 한 명도 없는데 가능합니까?
첫 과제는 가능합니다. 견적 회신이나 명함 정리 같은 사무 업무 과제는 요즘 도구들이 코드 없이 설정할 수 있게 되어 있고, 필요한 것은 프로그래밍이 아니라 우리 회사 업무를 아는 사람입니다. 엑셀을 능숙하게 쓰는 영업 담당자가 가장 좋은 담당자인 경우가 많습니다. 다만 ERP와 연결하는 단계로 넘어가면 외부 도움이 필요하며, 이때도 우리 쪽에 업무를 아는 담당자가 있어야 대화가 됩니다.
협력사 평가표의 "AI·디지털 활용 계획" 칸에는 무엇을 써야 합니까?
시범 적용을 시작했다면 그 내용을 그대로 쓰십시오. "견적 문의 1차 회신 자동화를 시범 적용 중이며, 회신 시간을 평균 이틀에서 두 시간으로 줄이는 것이 목표"처럼 과제, 현재 상태, 목표 숫자를 적으면 됩니다. 아직 시작 전이라면 1단계 진단 결과와 첫 과제 선정 내용을 쓰는 것도 계획으로 충분합니다. 평가하는 쪽이 보고 싶은 것은 유행하는 기술 이름이 아니라 회사가 자기 업무를 알고 순서를 갖고 있다는 증거입니다.
불량 예측이나 설비 데이터 분석은 언제 하는 것이 맞습니까?
사무 업무 과제를 두세 개 정착시켜 회사 안에 "데이터를 정리하고 규칙을 정해 돌리는" 경험이 쌓인 뒤가 맞습니다. 그 사이에 설비 데이터를 기록하는 일만 먼저 시작해 두십시오. 검사 결과를 종이 대장 대신 엑셀이나 시스템에 남기는 것부터입니다. 데이터가 1년 정도 쌓이고 사무 과제에서 경험을 얻은 회사가 그때 불량 예측을 시작하면, 처음부터 그것으로 시작한 회사보다 훨씬 빨리 결과를 봅니다.
정리하며
중소 제조기업의 AI 도입은 프로그램을 고르는 일이 아니라 순서를 정하는 일입니다. 진단에서 반복 업무와 데이터 상태를 확인하고, 그중 시간을 많이 잡아먹으면서 데이터가 준비된 과제 하나를 고르고, 8주 동안 사람이 확인하며 돌리고, 숫자를 보고 확대할지 멈출지를 정합니다. 이 네 단계는 대기업 프레임워크의 여덟 단계에서 직원 40명 회사에 꼭 필요한 것만 남긴 것입니다.
이 순서를 지키면 제안서 세 개 중 무엇을 고를지도 자연스럽게 정해집니다. 우리 회사 첫 과제가 견적 회신이라면 불량 예측 제안서는 지금 볼 것이 아니고, 홈페이지 상담창 제안서는 "단가표를 읽어 1차 견적을 만들 수 있습니까"라는 질문 하나로 판단할 수 있습니다. 순서가 있으면 기술을 몰라도 결정할 수 있습니다.
오늘 할 수 있는 일은 진단의 첫 줄을 쓰는 것입니다. 영업 담당자에게 "매주 반복하는 일 중 가장 시간이 많이 드는 것이 무엇이고, 그 일에 필요한 정보는 어디에 있습니까"라고 물어보십시오. 그 답 한 줄이 1단계의 시작이고, 협력사 평가표의 빈칸을 채울 첫 문장이 됩니다.
