중소기업 AX는 어디서 시작할까｜한 업무·한 KPI로 검증하는 현실적 순서
중소기업의 AX는 자체 LLM이나 전사 플랫폼부터 시작할 필요가 없다. 고객문의 분류, 견적 입력, 회의록 요약, 문서검색, 비전검사, 설비 알림처럼 반복량과 기준선을 측정할 수 있는 한 업무를 고르는 편이 현실적이다. 문서검색은 이 가운데 읽기 중심으로 제한하기 쉬운 편집 예시일 뿐, 모든 중소기업에 검증된 최우선 과제는 아니다. 선택한 업무의 성과를 확인한 뒤에만 입력과 승인, 시스템 실행으로 권한을 넓혀야 비용과 사고를 함께 줄일 수 있다.
- 반복량·오류·처리시간을 측정할 수 있는 한 업무를 골라 제한적으로 실증한다.
- 8~12주 동안 기존 방식과 처리시간·오류·재작업을 같은 기준으로 비교한다.
- 정부와 기업이 공개한 성과 수치는 발표 주체의 측정 범위에 한정한다.
- 개인정보, 영업비밀, 접근권한, 망 구성과 유지비를 모델료보다 먼저 본다.
금속 서랍 칸막이에 정리된 단색 샘플 타일 다섯 개로 중소기업의 단계적 AI 실증을 설명하는 이미지. ※ 생성형 AI로 만든 이해용 이미지이며, 실제 기업·기관 현장 기록 사진이 아닙니다.
한 업무를 고르는 기준: 반복량·측정 가능성·실패 비용
첫 과제는 회사마다 달라야 한다. 고객문의 분류와 회의록 요약은 결과를 사람이 바로 확인할 수 있고, 견적 입력과 설비 알림은 오류가 실제 업무에 미치는 영향을 별도로 통제해야 한다. 비전검사는 카메라와 불량 표본이 필요하다. 사내 문서검색은 생산 설비를 멈추거나 ERP 주문을 확정하지 않는 읽기 중심 후보여서 비교적 제한하기 쉽지만, 반복 질문과 최신 원문이 충분한 회사에만 적합하다. “전 직원 생산성 향상” 같은 모호한 목표보다 처리시간·오류·재작업을 잴 수 있는 업무를 선택해야 한다.
시작 전에는 문서 수보다 상태를 봐야 한다. 같은 규정이 여러 폴더에 복제돼 있거나 작성일과 시행일이 없고, 퇴사자만 맥락을 안다면 RAG를 붙여도 오래된 답변이 빨라질 뿐이다. 원문 소유자, 최신본, 폐기본, 공개 범위, 갱신 주기를 먼저 표시하고 자주 묻는 질문 20~50개로 검색 품질의 기준선을 만들 수 있다.
빈 금속 검사 트레이 옆에 놓인 원형 볼록 유리 렌즈로 중소기업의 단계적 AI 실증을 설명하는 이미지. ※ 생성형 AI로 만든 이해용 이미지이며, 실제 기업·기관 현장 기록 사진이 아닙니다.
실제 시장도 전사 혁신보다 작은 단위로 움직인다
NIA의 2025년 보고서는 AI를 업무에 활용한다고 답한 5,064개 기업 가운데 제조업 1,064개를 분석했다. 제조업의 83.5%는 1~2개 부서 또는 개별 프로젝트 단위에서 AI를 활용했고, 전사적 활용 비율은 2.8%였다. AI 활용 지침이 없는 제조업체는 65.9%, 기업 고유의 구체적 지침을 가진 비율은 3.6%였다. 편향 검토 가이드라인 보유율도 1.2%에 그쳤다.
이 수치는 모든 중소기업의 도입률을 뜻하지 않지만, 일부 업무에서 실증하는 패턴과 운영 규칙의 공백을 함께 보여준다. 주요 애로로는 적합한 정보·인프라 부족 36.8%, 전문인력 부족 34.7%, 양질의 기술·서비스 부족 28.3%, 자금 부족 27.1%가 제시됐다. 모델 성능만 높이면 해결되는 문제가 아니라 데이터 형식, 담당자, 비용, 공급사의 현장 이해가 동시에 필요하다는 뜻이다.
나란히 놓인 빈 금속 트레이 세 개로 중소기업의 단계적 AI 실증을 설명하는 이미지. ※ 생성형 AI로 만든 이해용 이미지이며, 실제 기업·기관 현장 기록 사진이 아닙니다.
제조 사례의 큰 성과를 그대로 약속하면 안 된다
중소벤처기업부는 2025년 지역 AX 우수사례로 천일엔지니어링의 AI 비전검사와 예지보전을 소개하며 불량률 42.3% 감소, 생산성 20.8% 향상을 발표했다. 이는 특정 자동차 부품 공정에 대한 정부 보도자료 속 기업 사례 수치다. 측정기간, 비교 기준, 투입비용, 회수기간은 공개 본문에서 확인되지 않는다. 다른 공장이나 문서검색 프로젝트에 같은 비율을 적용할 근거가 아니다.
비전검사는 카메라 각도, 조명, 불량 샘플과 판정 기준이 바뀌면 성능이 달라질 수 있다. 예지보전은 설비 센서와 고장 이력이 없으면 학습 자체가 어렵다. 문서검색 역시 구조는 같다. 최신 원문과 실제 질문, 정답 근거가 없으면 좋은 모델만으로 정확한 결과를 만들 수 없다. 사례 숫자는 가능성을 보여주는 참고값으로 쓰고, 자사 기준선과 실증 결과로 투자 결정을 해야 한다.
말아 둔 파란 케이블 옆 작은 잠금식 부품함으로 중소기업의 단계적 AI 실증을 설명하는 이미지. ※ 생성형 AI로 만든 이해용 이미지이며, 실제 기업·기관 현장 기록 사진이 아닙니다.
8~12주 실증은 읽기와 추천부터 제한한다
고객문의 분류나 회의록 요약을 고르면 초안과 근거를 사람이 확인하고, 비전검사나 설비 알림을 고르면 판정 결과가 실제 제어로 이어지지 않게 분리한다. 문서검색을 고른 경우에는 공개자료나 비식별 문서로 시작한 뒤 권한이 정리된 사내 문서로 범위를 넓힌다. 결과별로 맞음, 부분 맞음, 근거 없음, 권한 위반을 기록하면 단순 만족도보다 개선할 지점이 분명해진다.
실증 기간에는 AI가 ERP 주문, 송금, 가격 변경, 계약, 인사 결정을 자동 실행하지 않게 한다. 추천 결과를 사람이 승인하고, 효과와 오류가 확인된 뒤 제한된 입력 권한을 검토한다. 8~12주는 법으로 정한 기간이 아니라 작은 업무의 계절성과 예외를 관찰하기 위한 실무적 제안이다. 처리량이 적거나 월말 업무가 중요하면 기간을 늘려야 한다.
중앙 트레이 안팎에 놓인 단색 상자 여섯 개로 중소기업의 단계적 AI 실증을 설명하는 이미지. ※ 생성형 AI로 만든 이해용 이미지이며, 실제 기업·기관 현장 기록 사진이 아닙니다.
개인정보·영업비밀·망 구성과 총비용을 확인한다
고객명단, 상담기록, 견적, 도면, 공정조건을 공개형 AI에 그대로 입력해서는 안 된다. 계약과 개인정보 처리방침에서 입력 데이터 종류, 저장기간, 재학습 사용 여부, 국외 이전, 삭제 방법을 확인해야 한다. 사내 검색에서도 직급과 부서에 따라 원래 볼 수 없는 문서가 노출되지 않도록 원문 저장소 권한을 상속하고, 퇴사·이동 시 접근권한을 즉시 갱신해야 한다.
총비용에는 모델 API만이 아니라 문서 정리와 스캔, 메타데이터 입력, 검색 색인, SSO와 권한 연동, 검수시간, 오류 수정, 보안 점검, 직원 교육, 공급사 유지보수가 들어간다. 제조 현장이라면 센서·카메라·게이트웨이와 ERP·MES 연결비가 더해진다. 지원금은 초기 실증비를 낮출 수 있지만 사업 종료 뒤의 클라우드료와 재학습, 공급사 변경 비용까지 없애주지는 않는다.
작업대 위 다포트 은색 직사각형 물체와 닫힌 금속 케이스로 중소기업의 단계적 AI 실증을 설명하는 이미지. ※ 생성형 AI로 만든 이해용 이미지이며, 실제 기업·기관 현장 기록 사진이 아닙니다.
중소기업 AX 시작 체크리스트
- 월 반복량이 많고 결과를 측정할 수 있는 한 업무를 고른다.
- 현재 처리건수, 건당 시간, 오류, 재작업, 이관 건수를 기록한다.
- 원문 소유자와 최신본·폐기본, 문서별 접근권한을 정리한다.
- 개인정보와 영업비밀의 외부 전송·저장·재학습 조건을 확인한다.
- 첫 실증은 읽기·검색·추천으로 제한하고 실행은 사람이 승인한다.
- 모델료 외에 데이터 정비, 연동, 검수, 교육과 유지비를 계산한다.
- 실증 종료 뒤 정확도와 절감시간뿐 아니라 오류 복구비도 비교한다.
작업대 위 흰 플라스틱 통 세 개와 회색 금속 통 두 개로 중소기업의 단계적 AI 실증을 설명하는 이미지. ※ 생성형 AI로 만든 이해용 이미지이며, 실제 기업·기관 현장 기록 사진이 아닙니다.
자주 묻는 질문
Q1. 어떤 업무를 첫 실증 대상으로 골라야 하나?
A. 반복량과 현재 처리시간·오류를 잴 수 있고, 잘못된 결과를 사람이 되돌릴 수 있는 한 업무가 적합하다. 문서검색은 반복 질문과 최신 원문이 충분할 때 선택할 수 있는 후보 중 하나다.
Q2. 8~12주면 효과를 확정할 수 있나?
A. 보편 기준은 아니다. 월말·계절 업무와 예외가 충분히 포함되는지 보고 기간을 조정하며, 기존 방식과 같은 지표로 비교해야 한다.
Q3. 정부 지원금을 받으면 유지비 문제도 해결되나?
A. 지원 범위에 따라 다르다. 사업 종료 뒤 API, 저장, 보안, 재학습, 공급사 유지보수와 전환비를 누가 부담하는지 계약 전에 확인해야 한다.
Q4. 검색이 잘되면 ERP 입력도 바로 자동화해도 되나?
A. 검색 정확도와 실행 안전성은 다르다. 주문·가격·송금처럼 손실이 큰 변경은 별도 인증, 사람 승인, 취소와 감사 기록을 갖춘 뒤 제한적으로 확대해야 한다.
돋보기 아래 놓인 단색 재료 타일 다섯 개로 중소기업의 단계적 AI 실증을 설명하는 이미지. ※ 생성형 AI로 만든 이해용 이미지이며, 실제 기업·기관 현장 기록 사진이 아닙니다.
출처 및 확인 기준
기업·정부 발표 수치는 해당 사례의 자체 측정 또는 인용 범위로 한정했다. 생성 이미지는 실제 기업이나 공장의 현장 기록이 아니다.