AI 프로젝트가 실패하는 5가지 이유

작년에 AI를 도입하겠다고 예산을 잡고 업체도 골랐는데, 지금 그 시스템을 쓰는 사람이 없습니다. 돈이 아깝다기보다 왜 그렇게 됐는지 설명이 안 되는 것이 더 답답합니다. 이 글은 중소 제조기업의 AI 도입 실패가 대부분 설치 전에 이미 결정된다는 점과, 그 원인이 되는 다섯 가지 이유를 다룹니다. 다음 프로젝트를 시작하기 전에 확인할 질문도 함께 정리했습니다.

경남 김해에서 자동차 부품을 가공하는 직원 45명 회사 이야기입니다. 재작년 가을, 대표는 거래처 모임에서 "요즘은 AI로 견적을 자동으로 뽑는다"는 말을 듣고 돌아왔습니다. 두 달 뒤 외주 개발사와 계약했고, 견적 자동화 시스템 구축에 4천만 원을 썼습니다. 개발사는 약속한 날짜에 시스템을 설치했고 교육도 두 번 했습니다.

1년이 지난 지금, 견적은 여전히 영업 과장이 엑셀로 냅니다. 시스템이 틀렸던 것도 아닙니다. 도면을 넣으면 가공 시간과 재료비를 계산해 주는데, 과장은 그 숫자를 믿지 않습니다. 실제 견적은 거래처별로 다른 단가, 급한 납기에 붙는 추가 비용, 지난번 클레임 때 깎아 준 이력까지 반영해야 하는데 그런 정보는 과장 머릿속과 개인 엑셀에만 있었기 때문입니다.

이 회사의 AI 도입 실패는 시스템이 설치된 날이 아니라 계약서에 도장을 찍기 전에 결정됐습니다. 무엇을 풀려는지, 그 일에 필요한 정보가 어디에 있는지, 누가 쓸 것인지를 정하지 않은 채 "AI 견적 시스템"이라는 결과물을 먼저 샀습니다. 해외에서도 국내에서도 AI 프로젝트가 멈추는 자리는 대개 같습니다. 기술이 모자라서가 아니라 기술 이전 단계가 비어 있어서입니다.

이 글에서는 그 비어 있는 단계를 다섯 가지 이유로 나눠 설명합니다. 전체 도입 순서를 먼저 보고 싶다면 중소 제조기업 AI 도입 로드맵 4단계를 먼저 읽으셔도 됩니다. 이 글은 그 로드맵에서 어디가 가장 자주 무너지는지를 다룹니다.

실패는 설치 전에 결정됩니다

기술 실패와 전략 실패는 다릅니다

AI 프로젝트가 실패했다고 하면 대부분 "AI가 제대로 안 됐다"고 생각합니다. 그런 경우도 있습니다. 불량 판정 정확도가 기준에 못 미치거나, 처리 속도가 생산 라인을 못 따라가는 경우입니다. 이것이 기술 실패이고, 비교적 드물며 보통은 데이터를 더 모으거나 모델을 바꿔서 고칠 수 있습니다.

훨씬 흔하고 비용이 큰 것은 전략 실패입니다. 풀려는 문제가 정해지지 않았거나, 필요한 데이터가 흩어져 있거나, 쓸 사람이 설계에 참여하지 않았거나, 기존 업무 흐름에 끼워 넣을 자리가 없는 경우입니다. 이런 프로젝트는 시스템이 잘 돌아가도 실패합니다. 위 김해 회사가 바로 이 경우입니다. 시스템은 멀쩡했지만 아무도 쓰지 않았습니다.

조용히 사라지는 프로젝트

전략 실패는 요란하게 터지지 않습니다. 시범 운영이 끝났는데 본격 적용 결정이 미뤄지고, 담당자가 바뀌면서 인수인계에서 빠지고, 어느 날 보면 아무도 로그인하지 않는 식입니다. 그래서 대표는 실패했다는 사실조차 늦게 알게 됩니다. 아래 그림은 중소 제조사의 AI 프로젝트가 어느 단계에서 주로 멈추는지를 정리한 것입니다.

이유 1. 풀 문제가 아니라 살 도구부터 정했습니다

"AI 견적 시스템"은 문제가 아니라 제품명입니다

가장 흔한 출발점은 "우리도 AI 뭔가를 해야 한다"입니다. 그 상태에서 업체를 만나면 업체는 자기 제품을 설명하고, 대표는 그 제품에 맞는 쓸모를 거꾸로 찾게 됩니다. 도구가 먼저 정해지고 문제가 나중에 붙는 순서입니다. 이 순서로 시작한 프로젝트는 성공 기준을 세울 수가 없습니다. 무엇이 좋아져야 성공인지가 처음부터 없었기 때문입니다.

문제 정의는 한 문장으로 적을 수 있어야 합니다. "영업 과장이 견적 한 건에 평균 40분을 쓰는데, 이것을 10분으로 줄이되 거래처별 단가 조건은 그대로 반영되게 한다" 정도면 됩니다. 이 문장에는 누가, 어떤 일에, 지금 얼마나 쓰고, 얼마로 줄일지, 무엇은 지켜야 하는지가 다 들어 있습니다. 이 한 문장이 안 써지면 아직 업체를 만날 때가 아닙니다.

직원 20~50명 회사에서 문제가 되는 일은 뻔합니다

이 규모의 제조사에서 시간을 가장 많이 잡아먹는 일은 대개 정해져 있습니다. 견적 작성, 발주서와 거래명세서 대조, 거래처 문의 응대, 납기 회신, 품질 성적서 작성 같은 것들입니다. 공통점은 매일 반복되고, 담당자 한 사람에게 몰려 있고, 그 사람이 쉬면 멈춘다는 것입니다. 첫 과제는 이 중에서 고르면 됩니다. 불량 예측처럼 들으면 멋있지만 데이터가 없는 과제는 두 번째 이후로 미루는 편이 낫습니다.

이유 2. 필요한 데이터가 엑셀 파일 다섯 개에 흩어져 있습니다

AI는 있는 데이터로만 일합니다

김해 회사의 견적 시스템이 쓸모없었던 이유는 거래처별 단가, 납기 조건, 클레임 이력이 시스템에 없었기 때문입니다. 그 정보는 영업 과장의 개인 엑셀, 카카오톡 대화, 그리고 머릿속에 있었습니다. AI는 들어간 정보로만 답을 냅니다. 핵심 정보가 사람 머릿속에 있으면 AI의 답은 항상 사람보다 못하고, 그러면 사람은 쓰지 않습니다.

데이터 준비는 거창한 통합 작업이 아닙니다. 첫 과제 하나에 필요한 정보가 어디에 어떤 형태로 있는지 목록을 적는 것부터입니다. ERP에 있는지, 엑셀에 있는지, 종이에 있는지, 누구 머릿속에만 있는지를 적어 보면 세 번째와 네 번째가 생각보다 많습니다. 그것을 먼저 엑셀 한 장이나 CRM 한 곳으로 모으는 일이 AI보다 먼저입니다. 고객 정보가 엑셀 여러 장에 흩어진 상태가 어떤 문제를 만드는지는 CRM과 엑셀 고객관리의 차이에서 다뤘습니다.

데이터 점검은 네 가지만 봅니다

• 정확한가 — 같은 거래처가 두 가지 이름으로 들어가 있거나, 작년에 바뀐 단가가 그대로 남아 있지 않은지
• 꺼낼 수 있는가 — 외주 개발사나 도구가 접근할 수 있는 형태인지, 아니면 담당자 개인 PC에만 있는지
• 빠진 칸이 없는가 — AI가 판단에 써야 할 항목이 절반 이상 비어 있지 않은지
• 기준이 같은가 — 영업과 생산이 "납기"라는 말을 같은 뜻으로 쓰는지

이유 3. 담당자 한 명만 알고 현장은 모릅니다

쓸 사람이 설계에 없었습니다

중소 제조사의 AI 프로젝트는 대표 또는 관리부장 한 사람이 끌고 가는 경우가 많습니다. 업체 미팅에도 그 사람만 들어가고, 요구사항도 그 사람이 정리합니다. 정작 매일 그 시스템을 써야 할 영업 과장이나 생산 반장은 설치가 끝난 뒤 교육 자리에서 처음 봅니다. 그 자리에서 "실제로는 이렇게 안 한다"는 말이 나오면 이미 늦은 것입니다.

쓸 사람이 설계에 빠지면 두 가지가 생깁니다. 첫째, 실제 업무와 다른 흐름으로 만들어집니다. 둘째, 그 사람은 자기가 참여하지 않은 시스템에 애착이 없습니다. 바쁘면 원래 하던 방식으로 돌아가고, 그것을 막을 사람도 없습니다. 영업과 생산, 품질이 각자 다른 기대를 품은 채 프로젝트가 시작되면 결과물은 누구의 기대도 채우지 못합니다.

세 사람의 합의가 필요합니다

필요한 합의는 복잡하지 않습니다. 돈을 내고 결정하는 대표, 매일 쓸 담당자, 데이터를 관리할 사람 세 명이 같은 문장을 보고 "맞다"고 하면 됩니다. 직원 30명 회사에서는 이 세 명이 한 방에 모이는 데 30분이면 충분합니다. 그런데 이 30분을 건너뛴 프로젝트가 몇 달 뒤 멈춥니다.

이유 4. 기존 업무 흐름에 끼워 넣지 않고 따로 돌렸습니다

별도 시스템은 별도 일거리가 됩니다

AI 도구가 기존 업무와 따로 돌면 담당자에게는 일이 하나 더 생깁니다. 견적을 엑셀로 내고, 같은 내용을 AI 시스템에도 넣어 보고, 결과를 비교하는 식입니다. 처음 몇 주는 호기심으로 하지만 바쁜 달이 오면 멈춥니다. 도구가 업무를 대신하는 것이 아니라 업무에 얹혀 있기 때문입니다.

해법은 업무 전체를 새로 짜는 것이 아닙니다. 지금 흐름에서 한 단계만 골라 그 자리에 AI를 넣습니다. 견적이라면 "도면을 보고 가공 시간을 추정하는 단계"만 AI가 하고, 단가 적용과 최종 확인은 과장이 지금처럼 합니다. 결과물은 과장이 쓰던 엑셀 양식 그대로 나옵니다. 이렇게 하면 과장 입장에서는 하던 일에서 가장 지루한 20분이 사라진 것이고, 새로 배울 것은 거의 없습니다.

ERP·그룹웨어와 연결되지 않으면 섬이 됩니다

이미 쓰는 ERP, 생산관리시스템(MES), 그룹웨어, 메일과 데이터가 오가지 않는 AI 도구는 또 하나의 섬입니다. 섬에 들어간 정보는 다른 데서 못 쓰고, 다른 데 정보는 섬으로 안 들어옵니다. 계약 전에 "우리 ERP에서 거래처 정보를 자동으로 가져올 수 있습니까"를 묻고 답을 문서로 받아 두십시오. "가능하다"는 대답과 "견적서에 포함된다"는 대답은 다릅니다.

이유 5. 시범 없이 한 번에 다 바꾸려 했습니다

한 과제, 한 담당자, 8주

처음부터 견적, 문의 응대, 발주 대조를 한 번에 자동화하겠다는 계획은 실패 확률을 세 배로 만듭니다. 어느 하나가 걸리면 전체가 멈추고, 무엇이 문제였는지 가려내기도 어렵습니다. 첫 프로젝트는 과제 하나, 담당자 한 사람, 기간 8주로 잡습니다. 그 8주 동안은 기존 방식과 AI 방식을 나란히 돌리면서 매주 숫자를 적습니다.

적는 숫자는 세 가지면 됩니다. AI 결과를 그대로 쓴 비율, 사람이 고친 비율, 고친 이유입니다. 고친 이유가 "단가 정보가 없어서"라면 데이터 문제이고, "도면 해석이 틀려서"라면 기술 문제이며, "양식이 불편해서"라면 흐름 문제입니다. 이 구분이 되어야 다음 8주에 무엇을 고칠지가 정해집니다. 첫 90일을 어떻게 짜는지는 AI 전환 첫 90일 계획에 더 자세히 적었습니다.

작게 성공한 것이 다음 과제의 예산이 됩니다

8주 뒤 "견적 한 건에 40분 걸리던 것이 15분이 됐다"는 숫자가 나오면 두 번째 과제는 설득이 필요 없습니다. 반대로 첫 과제가 크고 모호하면 1년이 지나도 보여 줄 숫자가 없고, 직원들은 AI라는 말에 피로를 느끼기 시작합니다. 두 번째 프로젝트가 첫 번째보다 어려워지는 이유입니다.

국내 중소 제조사에서 유독 자주 보이는 실패 장면

위 다섯 가지는 해외 자료에서도 반복되는 원인입니다. 그런데 국내 직원 20~100명 제조사에는 여기에 겹쳐지는 상황이 몇 가지 더 있습니다. 아래 표는 각 이유가 국내 현장에서 어떤 장면으로 나타나는지와, 착수 전에 던져야 할 질문을 정리한 것입니다.

이유	국내 현장에서 보이는 장면	착수 전 질문
1. 도구가 먼저	지원사업 공고가 뜨고, 공고에 맞춰 과제를 급히 만든다. 사업이 끝나면 시스템도 끝난다.	지원금이 없어도 이 과제를 우리 돈으로 하겠는가?
2. 흩어진 데이터	거래처 조건은 영업 과장 개인 엑셀과 카톡에, 품질 이력은 종이 성적서 파일철에 있다.	첫 과제에 필요한 정보 목록을 적었을 때 "사람 머릿속"이 몇 개인가?
3. 담당자만 안다	대표와 관리부장이 결정하고, 현장 반장과 영업 과장은 설치 후 교육에서 처음 본다.	매일 쓸 사람이 요구사항 문서를 읽고 서명했는가?
4. 따로 도는 시스템	기존 ERP와 연결이 안 돼 같은 내용을 두 번 입력한다. 바쁜 달에 입력이 끊긴다.	결과물이 지금 쓰는 양식과 시스템으로 바로 들어가는가?
5. 한 번에 전부	개발사 제안서의 모듈 다섯 개를 한꺼번에 계약한다. 하나가 막히면 전체 검수가 밀린다.	첫 8주 동안 돌릴 과제 하나와 숫자 세 개를 정했는가?

지원사업이 출발점일 때 조심할 것

정부나 지자체 지원사업으로 AI나 스마트공장 시스템을 도입하는 회사가 많습니다. 지원사업 자체가 문제는 아닙니다. 문제는 순서가 뒤집히는 것입니다. 공고 마감에 맞춰 과제를 만들다 보니 문제 정의가 공고 양식에 끌려가고, 공급사도 공고에 익숙한 곳으로 정해집니다. 사업 기간이 끝나면 유지보수 계약이 없어 시스템이 멈춥니다.

지원사업을 쓰더라도 위 표의 다섯 질문은 공고를 보기 전에 답해 두는 편이 좋습니다. 특히 첫 번째 질문이 중요합니다. 지원금이 없어도 우리 돈으로 하겠다고 답할 수 있는 과제라면 지원금은 보탬이 되고, 그렇지 않다면 지원금은 쓰지 않을 시스템을 사는 돈이 됩니다.

외주 개발사와의 관계에서 생기는 함정

직원 50명 이하 회사에는 개발 인력이 없으니 외주가 당연합니다. 그런데 외주 개발사는 계약서에 적힌 기능을 납품하면 할 일을 다 한 것입니다. 쓰이는지 여부는 개발사의 책임이 아닙니다. 그래서 계약서에 기능 목록만 있고 "영업 과장이 8주 시범 운영 후 기존 엑셀 대신 쓰기로 확인한다" 같은 사용 기준이 없으면, 설치 후 아무도 안 쓰는 상황에서 누구도 책임지지 않습니다. 검수 기준을 기능이 아니라 사용으로 적으십시오.

정리하며

중소 제조기업의 AI 도입 실패는 대부분 기술 실패가 아니라 전략 실패이고, 그 결정은 계약서에 도장을 찍기 전에 이미 내려집니다. 풀 문제보다 살 도구가 먼저였고, 필요한 정보가 사람 머릿속과 개인 엑셀에 흩어져 있었고, 매일 쓸 사람이 설계에 없었고, 기존 흐름과 따로 돌았고, 한 번에 전부 바꾸려 했기 때문입니다. 시스템이 멀쩡해도 이 다섯 가지가 비어 있으면 아무도 쓰지 않습니다.

다행인 것은 다섯 가지 모두 돈이 들지 않는 단계라는 점입니다. 문제 한 문장, 데이터 위치표, 세 사람의 30분 회의, 끼워 넣을 자리 하나, 8주 시범 설계는 A4 두 장이면 끝납니다. 지원사업을 쓰든 외주를 주든, 이 두 장을 먼저 만든 회사와 그렇지 않은 회사의 1년 뒤는 다릅니다. 검수 기준을 기능이 아니라 사용으로 적는 것도 잊지 마십시오.

오늘 할 수 있는 일은 하나입니다. 지금 회사에서 한 사람에게 가장 몰려 있는 반복 업무 하나를 고르고, "누가, 어떤 일에, 지금 얼마 걸리고, 얼마로 줄이되, 무엇은 지킨다"는 문장을 적어 보십시오. 그 문장이 써지면 첫 과제가 정해진 것이고, 안 써지면 업체를 만나기 전에 해야 할 일이 무엇인지 알게 된 것입니다.