AI 에이전트 완벽 가이드: 중소기업이 알아야 할 전부

대화형 AI에 질문을 넣으면 답은 그럴듯하게 나옵니다. 그런데 그 답을 복사해서 메일에 붙이고, 거래처 이력을 찾아보고, 엑셀에 기록하는 일은 여전히 사람이 합니다. AI 에이전트는 바로 그 "답한 다음의 일"까지 맡는 방식입니다. 이 글은 중소 제조기업 대표가 AI 에이전트가 무엇이고, 어떤 일을 맡길 수 있고, 직원 30명 규모에서 어떻게 시작해야 하는지를 처음부터 끝까지 정리한 것입니다.

직원 35명 규모의 산업용 펌프 제조사 이야기입니다. 월요일 아침 영업팀장이 메일함을 열면 주말 사이 홈페이지로 들어온 견적 문의가 일곱 건 쌓여 있습니다. 하나씩 열어 회사 이름을 검색하고, 기존 거래처인지 엑셀에서 찾아보고, 유량과 양정 조건이 빠진 문의에는 되묻는 메일을 씁니다. 일곱 건에 첫 답장을 보내고 나면 오전이 끝납니다.

대표는 지난봄부터 대화형 AI를 써 봤습니다. 메일 문구를 다듬을 때는 확실히 편했습니다. 그런데 석 달이 지나도 영업팀장의 월요일 오전은 그대로였습니다. AI는 물어보면 답을 할 뿐, 메일함을 열어 보지도 거래처 엑셀을 찾아보지도 않기 때문입니다. 일의 앞뒤를 잇는 것은 여전히 사람 몫이었습니다.

AI 에이전트는 이 빈틈을 겨냥합니다. 문의가 들어오면 스스로 읽고, 거래처 이력을 조회하고, 빠진 조건을 되묻는 답장 초안을 써서 영업팀장 앞에 올려놓는 데까지 갑니다. 사람은 일곱 건의 초안을 확인하고 승인 버튼을 누르면 됩니다. 오전 세 시간이 30분으로 줄어드는 구조입니다.

이 글은 개념, 작동 방식, 맡길 수 있는 업무, 도입 절차, 국내 중소 제조기업이 흔히 빠지는 함정까지 전체 그림을 다룹니다. 챗봇과의 차이, 영업 에이전트가 하는 일, 사내 AI 사용 규칙 같은 개별 주제는 이 시리즈의 다른 글에서 따로 깊게 다룹니다.

AI 에이전트란 무엇인가

답하는 AI와 일하는 AI

AI 에이전트는 목표를 받으면 주변 상황을 스스로 읽고, 무엇을 할지 판단하고, 실제 업무 도구를 움직여 일을 끝내는 소프트웨어입니다. 대화형 AI가 "질문에 답하는 직원"이라면 에이전트는 "업무를 맡아서 처리하고 보고하는 직원"에 가깝습니다. 차이는 똑똑함이 아니라 손발이 있느냐입니다. 메일함, 거래처 엑셀, 고객관계관리(CRM) 도구, 그룹웨어에 연결되어 직접 읽고 쓸 수 있어야 에이전트입니다.

예를 들어 "이 문의에 답장을 써 줘"는 대화형 AI에게 하는 말입니다. "홈페이지로 들어오는 견적 문의를 1차 응대해 줘"는 에이전트에게 하는 말입니다. 앞의 것은 매번 사람이 시켜야 하고, 뒤의 것은 한 번 맡기면 문의가 들어올 때마다 알아서 움직입니다. 대표가 직원에게 일을 시키는 방식과 같습니다.

챗봇, 업무 자동화 프로그램과 무엇이 다른가

이미 비슷한 것을 써 본 회사가 많습니다. 홈페이지 구석의 챗봇, 엑셀 매크로, 정해진 화면을 대신 클릭해 주는 로봇 프로세스 자동화(RPA)가 그것입니다. 이들과 AI 에이전트를 가르는 기준은 "정해 주지 않은 상황을 만났을 때 어떻게 하느냐"입니다.

구분	챗봇	매크로·RPA	AI 에이전트
움직이는 계기	사람이 말을 걸 때	정해진 시간·버튼	문의 접수, 일정 도래 등 상황 변화를 스스로 감지
처리 방식	준비된 답을 찾아 말함	정해진 순서를 그대로 반복	상황을 읽고 순서를 스스로 정함
예외 상황	"담당자에게 문의하세요"	멈추거나 오류	빠진 정보를 되묻거나 사람에게 넘김
결과물	답변 문장	옮겨 적은 데이터	답장 초안, 기록, 다음 할 일까지 한 묶음
맞는 업무	영업시간, 위치 같은 단순 안내	형식이 절대 안 바뀌는 입력 작업	매번 내용이 다른 문의·조사·후속 연락

매크로와 RPA는 양식이 한 칸만 바뀌어도 멈춥니다. 제조업 견적 문의는 열 건이 오면 열 건 모두 형식이 다릅니다. 도면을 첨부한 곳도 있고 "전에 쓰던 것과 같은 걸로"라고만 쓴 곳도 있습니다. 이런 일은 글을 읽고 뜻을 파악할 수 있어야 처리할 수 있고, 그래서 에이전트의 영역입니다.

AI 에이전트는 어떻게 움직이나: 읽고, 판단하고, 실행한다

해외 자료들은 AI 에이전트의 구성을 인지, 결정, 행동의 세 부분으로 설명합니다. 용어는 어렵지만 신입 영업사원이 일하는 순서와 같습니다. 서두의 펌프 제조사에 들어온 견적 문의 한 건으로 따라가 보겠습니다.

읽는다: 문의와 회사 안의 기록을 함께 본다

에이전트는 먼저 들어온 정보를 읽습니다. 문의 폼의 본문, 첨부된 도면이나 사양서 같은 정리되지 않은 글이 한 축이고, 거래처 엑셀이나 CRM에 쌓인 거래 이력 같은 정리된 데이터가 다른 축입니다. 사람이라면 창을 세 개 띄워 놓고 하던 일입니다. 여기서 중요한 것은 에이전트가 읽을 수 있는 범위를 회사가 정해 준다는 점입니다. 연결해 주지 않은 파일은 읽지 못합니다.

판단한다: 기준은 회사가 글로 적어 준다

읽은 다음에는 무엇을 할지 정합니다. 기존 거래처면 담당 영업사원에게, 신규면 영업팀장에게 배정한다는 식의 규칙과, 문의 내용에서 빠진 조건을 찾아내는 식의 추론이 섞여 있습니다. 이 판단 기준은 에이전트가 알아서 만들지 않습니다. 영업팀장이 신입에게 말로 알려 주던 것을 글로 적어 주는 것이 도입 작업의 절반입니다.

실행한다: 초안을 쓰고, 기록하고, 알린다

마지막으로 실제 도구를 움직입니다. 답장 초안을 메일 임시보관함에 넣고, 문의 대장에 한 줄을 추가하고, 담당자에게 메신저 알림을 보냅니다. 이 세 가지가 한 묶음으로 끝난다는 점이 대화형 AI와의 가장 큰 차이입니다. 사람은 결과만 확인하면 됩니다.

사람 확인 단계는 빼지 않는다

도식 아래의 녹색 칸이 핵심입니다. 고객에게 나가는 메일, 금액, 납기 약속처럼 회사의 책임이 걸리는 행동은 사람이 승인한 뒤에 나가도록 설계합니다. 에이전트는 틀릴 수 있고, 제조업에서 잘못 나간 납기 약속 하나는 클레임으로 돌아옵니다. 승인 단계가 있다고 효과가 사라지지 않습니다. 세 시간 걸리던 일이 "일곱 건 읽고 승인하는 30분"으로 바뀌는 것만으로 충분합니다.

중소 제조기업에서 맡길 수 있는 일

해외 자료는 공급망 관리, 재무 분석, 의료까지 넓게 예를 듭니다. 직원 10~100명 제조기업의 마케팅·영업으로 좁히면, 당장 맡길 만한 일은 "매번 내용은 다르지만 순서는 같은 일"입니다. 아래 다섯 가지가 대표적입니다.

업무	에이전트가 하는 일	사람이 하는 일
견적 문의 1차 응대	문의 분류, 거래 이력 조회, 빠진 조건을 되묻는 답장 초안, 문의 대장 기록	초안 확인·승인, 견적 금액 산정
전시회 명함 후속	명함 정보 입력, 회사 조사, 등급별 후속 메일 초안, 사흘 뒤 미응답 건 알림	A등급 통화, 방문 약속
방문 전 거래처 조사	상대 회사 홈페이지·공시·뉴스 요약, 과거 거래와 클레임 이력 한 장 정리	조사 내용으로 미팅 준비
콘텐츠 초안	영업팀 통화 메모와 기술 자료로 블로그 글·자주 묻는 질문 초안 작성	사실 확인, 수치 검증, 발행 결정
휴면 거래처 점검	1년 이상 발주 없는 거래처 목록 추출, 마지막 거래 내용 요약, 안부 메일 초안	연락할 곳 선정, 전화

견적 문의 1차 응대가 첫 업무로 좋은 이유

다섯 가지 중 하나만 고르라면 견적 문의 1차 응대입니다. 건수가 세어지고, 응답 시간이 재어지고, 늦었을 때 잃는 것이 분명하기 때문입니다. 구매 담당자는 보통 두세 곳에 동시에 문의를 넣고, 먼저 답한 회사와 이야기를 시작합니다. 금요일 저녁에 들어온 문의에 월요일 오후에 답하는 회사와 10분 안에 "조건 두 가지만 더 알려 주시면 바로 견적 드리겠습니다"라고 답하는 회사의 출발선은 다릅니다. 문의를 받아 관리하는 전체 체계는 「B2B 리드 확보 완벽 가이드」에서 다뤘습니다.

전시회 명함은 2주 안에 승부가 난다

전시회에서 받아 온 명함 300장은 입력하는 데만 이틀이 걸리고, 그 사이에 상대의 기억은 식습니다. 에이전트는 명함 사진에서 정보를 뽑고, 회사를 조사하고, 현장 메모에 맞춘 후속 메일 초안을 등급별로 만들어 놓습니다. 영업팀은 입력이 아니라 A등급 30곳과의 통화에 시간을 씁니다. 명함을 등급으로 나누는 기준은 「전시회 마케팅: 명함 300장을 매출로 바꾸는 법」에 정리해 두었습니다.

맡기지 않는 것이 나은 일

가격 결정, 납기 확약, 클레임 통화, 오래된 거래처와의 관계 관리는 맡기지 않습니다. 틀렸을 때 비용이 크거나, 사람이 직접 해야 의미가 있는 일입니다. 에이전트가 맡는 것은 이런 일의 앞 단계입니다. 클레임 통화 전에 그 거래처의 납품 이력과 과거 클레임을 한 장으로 정리해 주는 데까지가 에이전트의 몫입니다.

기대해도 되는 것과 기대하면 안 되는 것

기대해도 되는 세 가지

첫째는 응답 시간입니다. 에이전트는 밤에도 주말에도 움직이므로 첫 답장까지의 시간이 "다음 영업일"에서 "분 단위"로 줄어듭니다. 둘째는 빠뜨림이 줄어드는 것입니다. 사람은 바쁜 주에 문의 대장 기록을 건너뛰지만 에이전트는 건너뛰지 않습니다. 석 달이 지나면 어느 경로에서 몇 건이 들어왔는지 빠짐없이 남습니다.

셋째는 영업팀의 시간이 옮겨 가는 것입니다. 입력, 검색, 초안 작성에 쓰던 시간이 통화와 방문으로 넘어갑니다. 영업 인원이 두세 명인 회사에서 한 사람당 주 네다섯 시간은 작은 숫자가 아닙니다. 사람을 줄이는 효과가 아니라, 같은 인원으로 놓치던 문의를 잡는 효과로 보는 편이 정확합니다.

기대하면 안 되는 세 가지

없는 문의를 만들어 주지는 않습니다. 홈페이지에 월 문의가 두 건인 회사에서 응대 에이전트가 할 일은 거의 없습니다. 그런 회사는 문의가 들어오는 길을 먼저 만들어야 합니다. 또한 정리되지 않은 데이터를 알아서 정리해 주지도 않습니다. 거래처 이름이 "(주)대한정밀", "대한정밀", "대한"으로 흩어져 있으면 에이전트도 같은 회사인지 헷갈립니다.

그리고 틀리지 않는 것을 기대하면 안 됩니다. 에이전트는 없는 사양을 지어내거나 비슷한 이름의 거래처를 혼동할 수 있습니다. 그래서 앞에서 본 승인 단계가 필요하고, 처음 몇 주는 초안을 꼼꼼히 읽어야 합니다. 신입 직원의 첫 달 결재를 자세히 보는 것과 같은 이치입니다.

AI 에이전트 도입 6단계

해외 자료의 도입 절차는 요구사항 분석, 요건 정의, 도구 선정, 데이터 준비, 학습과 테스트, 배포와 점검의 여섯 단계입니다. IT 부서와 데이터 전문가가 있는 회사를 전제로 한 설명이므로, 전산 담당자가 한 명이거나 없는 회사 기준으로 다시 적었습니다.

1단계. 업무 하나를 고른다

"AI를 도입하자"가 아니라 "견적 문의 첫 답장을 맡기자"로 시작합니다. 고르는 기준은 세 가지입니다. 한 달에 스무 번 이상 반복되는가, 담당자가 순서를 말로 설명할 수 있는가, 틀렸을 때 사람이 바로잡을 수 있는가. 셋 다 "예"인 업무가 첫 후보입니다.

2단계. 지금 하는 방식을 글로 적는다

담당자 옆에 앉아 한 건을 처리하는 과정을 그대로 받아 적습니다. 무엇을 열어 보는지, 어떤 경우에 누구에게 넘기는지, 답장에 꼭 넣는 문장은 무엇인지를 A4 한 장으로 정리합니다. 이 한 장이 에이전트의 업무 지시서가 됩니다. 에이전트를 끝내 도입하지 않더라도 이 문서는 신입 교육 자료로 남습니다.

3단계. 읽을 데이터를 정리한다

에이전트가 참조할 자료를 한곳에 모읍니다. 거래처 목록, 제품 사양표, 표준 답변 문구, 단가 공개 범위 같은 것입니다. 거래처 이름 표기를 통일하고, 퇴사자 이름으로 남아 있는 담당자 칸을 고치는 정도면 시작할 수 있습니다. 완벽하게 정리한 뒤 시작하려 하면 영영 시작하지 못합니다.

4단계. 도구를 고르고 연결한다

선택지는 크게 세 가지입니다. 이미 쓰는 메일·그룹웨어·CRM에 들어 있는 AI 기능을 켜는 것, 업무용 에이전트 서비스를 구독하는 것, 개발사에 맡겨 우리 회사 전용으로 만드는 것입니다. 첫 업무는 앞의 두 가지로 충분한 경우가 대부분입니다. 고르는 기준은 아래 「도구를 고를 때 보는 여섯 가지 기준」에서 다룹니다.

5단계. 지난 문의로 시험한다

실제 고객에게 내보내기 전에 지난 석 달 치 문의 서른 건을 넣어 봅니다. 에이전트가 쓴 초안과 당시 담당자가 실제로 보낸 답장을 나란히 놓고 비교합니다. 틀린 곳이 나오면 2단계의 지시서를 고칩니다. 서른 건 중 스물다섯 건 이상이 "조금 고쳐서 보낼 만하다" 수준이면 다음 단계로 갑니다.

6단계. 좁게 시작해서 범위를 넓힌다

처음에는 초안만 쓰게 하고, 믿을 만해지면 승인 후 자동 발송으로, 그다음에는 정해진 범위 안에서만 자동으로 처리하게 넓힙니다. 매주 월요일 10분, 지난주 처리 건수와 담당자가 초안을 고친 비율을 봅니다. 고친 비율이 줄어드는 것이 범위를 넓혀도 된다는 신호입니다.

직원 30명 제조기업에서는 이렇게 시작한다

해외 자료의 도입 절차는 전담 부서가 있는 회사의 이야기입니다. 국내 중소 제조기업의 현실은 다릅니다. 전산은 총무팀 직원이 겸하고, 거래처 정보는 전사적 자원관리(ERP)와 영업팀 엑셀과 대표 휴대전화에 나뉘어 있고, 급한 연락은 메신저 단체방으로 오갑니다. 이 조건에서 통하는 방식은 따로 있습니다.

담당은 영업 실무자 한 명과 대표

에이전트 도입 담당을 전산 담당자에게 맡기면 설치는 되지만 쓰이지 않습니다. 업무 지시서를 쓸 수 있는 사람은 그 업무를 매일 하는 사람입니다. 영업 실무자 한 명이 주 두 시간을 쓰고, 대표가 월요일 10분 점검에 들어오는 구조가 현실적입니다. 연동 설정처럼 기술이 필요한 부분만 외부 도움을 받으면 됩니다.

첫 석 달 일정

• 1개월차: 업무 하나를 고르고 지시서 한 장을 씁니다. 거래처 목록의 표기를 통일합니다. 지난 문의 서른 건으로 시험합니다.
• 2개월차: 실제 문의에 초안만 쓰게 합니다. 담당자는 모든 초안을 읽고, 고친 부분을 지시서에 반영합니다.
• 3개월차: 승인 후 발송으로 넘어갑니다. 첫 응답 시간, 처리 건수, 초안 수정 비율 세 숫자를 표 하나에 적어 대표와 같이 봅니다.

석 달 뒤에 판단합니다. 첫 응답 시간이 눈에 띄게 줄었고 담당자가 "없으면 불편하다"고 말하면 두 번째 업무로 넓힙니다. 그렇지 않으면 업무 선택이 잘못된 것이니 다른 업무로 바꿉니다. 석 달에 월 구독료 몇십만 원 수준으로 확인할 수 있는 일을 수천만 원짜리 구축 사업으로 시작할 이유는 없습니다.

ERP와 엑셀이 따로 노는 회사라면

ERP를 에이전트에 바로 연결하려면 비용과 시간이 많이 듭니다. 처음에는 ERP에서 거래처 목록과 최근 2년 거래 내역을 엑셀로 내려받아 에이전트가 읽는 폴더에 넣어 두고, 한 달에 한 번 갱신하는 것으로 충분합니다. 실시간 연동은 효과를 확인한 뒤의 일입니다. 고객 정보를 한곳에 모으는 문제는 「중소기업 CRM 도입 완벽 가이드」에서 자세히 다뤘습니다.

지원사업은 순서를 바꾸지 않는다

중소기업의 AI·디지털 도입을 돕는 정부와 지자체 지원사업이 해마다 공고됩니다. 비용 부담을 줄이는 좋은 수단이지만, 지원금에 맞춰 범위를 키우면 회사에 필요 없는 기능까지 만들게 됩니다. 업무 하나로 석 달을 굴려 보고, 넓힐 범위가 분명해진 뒤에 신청하는 순서가 안전합니다. 공고 내용과 자격은 해마다 달라지므로 신청 시점에 직접 확인하십시오.

흔히 빠지는 다섯 가지 함정

1. 업무가 아니라 도구부터 고른다

"요즘 다들 쓴다는데 우리도"로 시작하면 계정만 만들어 놓고 끝납니다. 어떤 업무의 어떤 숫자를 바꿀 것인지가 먼저입니다. "견적 문의 첫 응답을 하루에서 한 시간으로"처럼 한 줄로 적을 수 없으면 아직 도구를 볼 때가 아닙니다.

2. 처음부터 전부 자동으로 돌린다

승인 단계 없이 시작하면 첫 주에 잘못 나간 메일 한 통으로 영업팀 전체가 등을 돌립니다. 한 번 "저거 믿을 수 없다"는 말이 돌면 되돌리는 데 반년이 걸립니다. 초안만 쓰는 1단계를 최소 한 달은 거치십시오.

3. 데이터가 완벽해질 때까지 기다린다

반대 방향의 함정입니다. 거래처 데이터 정비를 1년짜리 과제로 잡고 그 뒤에 시작하겠다는 회사는 1년 뒤에도 같은 말을 합니다. 첫 업무에 필요한 자료만 정리해서 시작하고, 에이전트가 헷갈린 지점을 보고 그 부분부터 고치는 편이 빠릅니다.

4. 직원들에게 "사람 줄이려는 것"으로 읽힌다

대표가 아무 설명 없이 도입하면 실무자는 자기 일을 빼앗는 도구로 받아들이고, 지시서를 성의 있게 쓰지 않습니다. 에이전트의 품질은 그 지시서가 결정합니다. 시작하는 자리에서 "입력과 초안은 에이전트가, 통화와 방문은 사람이"라는 역할 분담을 분명히 말하십시오.

5. 복잡한 흐름을 한 번에 만든다

문의 응대부터 견적서 작성, 수주 등록, 생산 의뢰까지 한 줄로 이으려는 시도는 대개 중간에서 멈춥니다. 단계가 길수록 한 곳의 오류가 뒤로 번지고, 어디서 틀렸는지 찾기도 어려워집니다. 짧은 업무 하나가 석 달 동안 안정적으로 돌아간 뒤에 다음 업무를 붙이십시오.

도구를 고를 때 보는 여섯 가지 기준

해외 자료는 이 대목에서 대형 클라우드 회사들의 AI 서비스를 나열하고 확장성, 연동, 지원, 가격의 네 가지를 보라고 합니다. 서비스 이름은 해마다 바뀌므로 기준만 가져오고, 국내 중소 제조기업에 필요한 두 가지를 더했습니다.

• 연동: 우리가 쓰는 메일, 그룹웨어, CRM, 엑셀 파일을 읽고 쓸 수 있는가. 이것이 안 되면 에이전트가 아니라 대화형 AI입니다.
• 한국어 업무 문서: 국내 거래 메일의 격식, 견적서와 사양서의 용어를 제대로 다루는가. 우리 회사의 지난 문의 다섯 건을 넣어 보면 10분 안에 드러납니다.
• 승인 단계: 발송 전 사람 확인을 넣을 수 있고, 업무별로 켜고 끌 수 있는가.
• 기록: 에이전트가 언제 무엇을 읽고 무엇을 했는지 남는가. 문제가 생겼을 때 원인을 찾는 유일한 수단입니다.
• 가격 구조: 사용자 수 기준인지 처리 건수 기준인지, 문의가 몰리는 전시회 직후에 요금이 얼마나 뛰는지 확인합니다.
• 지원: 한국어로 문의할 수 있고, 초기 설정을 도와주는가. 전산 전담자가 없는 회사에서는 이 항목이 가장 중요할 수 있습니다.

여섯 가지를 표로 만들어 후보 두세 곳을 비교하고, 무료 체험 기간에 5단계의 "지난 문의 서른 건 시험"을 그대로 해 보십시오. 소개 자료의 기능 목록보다 우리 문의 서른 건의 결과가 정확한 비교 자료입니다.

정리하며

AI 에이전트는 질문에 답하는 AI가 아니라 업무를 맡아 읽고, 판단하고, 실행하는 AI입니다. 서두의 펌프 제조사 영업팀장이 월요일 오전을 통째로 쓰던 일, 곧 문의를 읽고 이력을 찾고 되묻는 답장을 쓰고 대장에 적는 일이 에이전트가 가장 잘하는 종류의 일입니다. 매번 내용은 다르지만 순서는 같기 때문입니다.

시작하는 방법은 거창하지 않습니다. 업무 하나를 고르고, 지금 하는 방식을 A4 한 장에 적고, 필요한 자료만 정리하고, 지난 문의 서른 건으로 시험하고, 초안만 쓰게 하는 데서 출발해 석 달에 걸쳐 범위를 넓힙니다. 금액과 납기처럼 책임이 걸리는 일은 끝까지 사람이 승인합니다. 이 순서를 지킨 회사는 석 달 뒤에 숫자로 판단할 수 있습니다.

오늘 할 수 있는 일은 두 가지입니다. 영업 담당자에게 "지난주에 같은 순서로 다섯 번 넘게 한 일이 무엇이냐"고 물어보십시오. 그 답이 첫 업무 후보입니다. 그리고 지난달 홈페이지 견적 문의 몇 건을 골라 접수 시각과 첫 답장 시각을 나란히 적어 보십시오. 그 간격이 하루를 넘는다면, AI 에이전트가 가장 먼저 줄여 줄 숫자가 거기에 있습니다.