AI 개발 외주 맡겼다 돈만 날리는 대표의 4가지 오해와 계약 전 필수 체크리스트

Photo by Matheus Bertelli on Pexels

AI 도입 외주 계약, 왜 일반 IT 프로젝트처럼 진행하면 100% 실패할까?

최근 중소기업 현장에서 "경쟁사도 AI를 도입했다는데 우리도 사내 업무나 고객 서비스에 AI를 붙여보자"는 결정을 내리는 대표님들이 크게 늘었습니다. 하지만 외주 개발 회사나 AI 솔루션 업체의 화려한 시연(Demo)만 보고 수천만 원에서 수억 원 규모의 계약서를 작성했다가, 6개월 뒤 쓸 수도 없는 시스템과 텅 빈 통장만 남기는 사례가 빈번하게 발생하고 있습니다.

가장 큰 원인은 AI 프로젝트를 기존의 웹/앱 구축 사업과 동일한 시각으로 바라보기 때문입니다. 일반적인 IT 시스템 개발은 '요구사항 정리 > 화면 설계 > 코딩 > 테스트'의 정형화된 단계를 거치며, 입력값이 같으면 출력값도 항상 일정합니다. 반면 AI 시스템은 확률에 기반하여 동작하며, 학습 데이터의 질과 실시간 데이터 환경에 따라 성능이 계속해서 변동하는 비결정론적 특성을 갖습니다.

많은 중소기업 대표님들이 영업 담당자의 "데이터만 주시면 한 달 만에 자동화해 드립니다"라는 말을 믿고 계약을 진행합니다. 계약 체결 전에 대표가 반드시 바로잡아야 할 4가지 흔한 오해와 실무적인 대응책을 구체적인 예시와 함께 정리해 드립니다.

오해 1: "사내 데이터만 넘겨주면 AI가 알아서 학습해서 처리할 것이다?"

영업 현장에서 가장 흔하게 발생하는 오해는 사내 데이터를 외주업체에 전달하기만 하면 알아서 완벽한 AI 모델이 구축될 것이라는 생각입니다. 실제로 중소기업이 보유한 데이터의 80% 이상은 정제되지 않은 비정형 데이터이거나 오기재, 누락, 중복이 심한 상태입니다.

예를 들어 제조업체 A사는 사내 수주 및 CS 데이터를 AI로 자동 분석하기 위해 외주 개발 계약을 체결했습니다. A사는 5년 치 엑셀 파일 300개를 외주업체에 전달했습니다. 그러나 엑셀 데이터 안에는 담당자마다 제각각 쓴 제품명, 비어 있는 수량 칸, 스캔본 PDF 형태의 견적서가 섞여 있었습니다. 외주업체는 계약서에 '데이터 정제 작업'이 포함되어 있지 않다는 이유로 추가 비용 2,500만 원과 개발 기간 2개월 연장을 요구했습니다. A사는 어쩔 수 없이 비용을 추가 부담해야 했습니다.

데이터의 준비 상태와 전처리 주체를 계약 단계에서 명확히 하지 않으면, 개발 비용보다 데이터 정리 비용이 더 커지는 배보다 배꼽이 더 큰 상황이 발생합니다.

데이터 준비 상태 및 책임 소재 구분을 위한 3단계 점검법

1. 데이터 가공 형태 확인: 사내 문서가 텍스트 추출이 가능한 디지털 문서(Word, 전자 엑셀)인지, 스캔된 이미지(PDF, JPG)인지 분류해야 합니다. 스캔본 위주라면 OCR(광학 문자 인식) 엔진 도입 및 오류 수정 인건비가 별도로 발생합니다.
2. 데이터 정제(Preprocessing) 책임 명시: 계약서 특약 사항에 "발주사(A사)는 원천 데이터를 제공하며, AI 학습을 위한 데이터 정제, 비식별화, 라벨링 작업은 수주사(개발사)의 과업 범위에 포함한다"라는 문구를 명확히 기재해야 합니다.
3. 개인정보 및 보안 데이터 가공: 고객의 전화번호, 주민등록번호, 계좌번호 등이 포함된 데이터를 외주사에 넘길 경우 개인정보보호법 위반 위험이 있습니다. 외주업체가 사내 망 내에서 마스킹(비식별화) 처리를 진행하도록 조치해야 하며, 이와 관련된 법률 위반 여부는 최신 법령 및 개인정보보호위원회 고시를 사전 확인해야 합니다.

오해 2: "POC(개념 검증)에서 정답률 95%가 나왔으니 본 시스템도 성공이다?"

외주업체에 AI 솔루션을 제안받을 때 대표님들이 가장 흔히 속는 숫자가 바로 '정확도 95%', '성능 98%'라는 데모 결과입니다. 개발사가 준비해 온 깨끗한 샘플 데이터 50건~100건으로 진행한 POC(Proof of Concept, 개념 검증) 테스트 결과는 실제 현장 데이터와 큰 차이가 있습니다.

유통업체 B사는 고객 문의 응대 AI 챗봇을 도입하기 위해 POC를 진행했습니다. 외주업체가 제시한 FAQ 데이터 100건에 대한 테스트 정확도는 96%였습니다. 하지만 실제 서비스 오픈 후 고객들이 줄임말, 오탈자, 복합 질문(예: "지난주 주문한 상품 환불하고 싶은데 택배비는 차감되나요?")을 던지자 AI의 답변 정확도는 55% 수준으로 급락했습니다. 그 결과 고객 불만이 폭주하고 CS 팀의 업무가 오히려 늘어났습니다.

POC 결과에 속지 않기 위한 성능 검증 체크리스트

• 검증용 데이터의 독립성: 외주업체가 학습에 사용한 데이터(Training Data)로 테스트한 결과를 믿어서는 안 됩니다. 발주사가 외주업체에 보여주지 않은 별도의 실무 데이터(Blind Test Data) 200건 이상을 준비하여 직접 테스트해야 합니다.
• 예외 상황(Edge Case) 테스트: 오탈자, 은어, 복잡한 조건이 섞인 까다로운 질문을 최소 30% 이상 포함시켜 응답 성능을 측정해야 합니다.
• 응답 속도 및 동시 접속 처리: AI 모델이 정확하더라도 답변 1개를 생성하는 데 15초 이상 소요된다면 실무에서 사용할 수 없습니다. 평균 응답 시간 기준(예: 3초 이내)을 SLA(서비스 수준 합약)에 포함해야 합니다.

오해 3: "개발이 끝난 후 월 유지보수 비용은 일반 소프트웨어와 비슷할 것이다?"

일반적인 웹사이트나 ERP 시스템의 연간 유지보수비는 최초 개발비의 10%~15% 수준입니다. 그러나 AI 시스템은 구축 이후에 발생하는 운영 비용 구조가 완전히 다릅니다. 이 비용 구조를 미리 계산해 두지 않으면 시스템을 만들어 놓고도 돈이 없어 꺼두어야 하는 황당한 일이 벌어집니다.

AI 시스템 운영 시 발생하는 숨은 비용 항목과 일반 소프트웨어와의 차이점은 다음과 같습니다.

예를 들어 외부 생성형 AI 모델의 API를 활용하여 사내 문서 검색 시스템을 구축한 C사의 경우, 최초 개발비로 4,000만 원을 지급했습니다. 그러나 직원 50명이 매일 수십 건의 문서를 검색하자 외부 API 호출 비용만 월 350만 원 이상 발생하기 시작했습니다. 연간 운영비가 최초 개발비의 100%에 육박하게 된 것입니다.

따라서 외주 계약 체결 시 "월간 예상 사용량에 따른 API/인프라 가상 견적표"를 외주업체로부터 시뮬레이션 문서 형태로 반드시 제출받아야 합니다.

오해 4: "개발이 완료되면 소스코드와 AI 모델 소유권은 당연히 우리 회사 것이다?"

계약서 문구를 치밀하게 검토하지 않으면, 수천만 원을 들여 개발한 AI 시스템의 권리가 외주업체에 남게 되거나, 추후 외주업체를 변경할 때 시스템을 처음부터 다시 만들어야 하는 독소 조항에 걸려들게 됩니다.

독소 조항 예시와 올바른 계약서 문구 비교

외주업체가 제출하는 표준 계약서에는 발주사에 불리한 조항이 포함되어 있는 경우가 많습니다. 아래 예시를 통해 독소 조항을 어떻게 수정해야 하는지 확인하시기 바랍니다.

[위험한 계약 조항 예시]
"본 프로젝트를 통해 개발된 AI 모델의 가중치(Weights), 파인튜닝 알고리즘 및 범용 프롬프트 지시서의 지식재산권은 수주사에 귀속되며, 발주사는 본 시스템 내에서의 사용권만을 갖는다."

→ 이 조항대로 계약하면, 향후 외주업체와 계약을 해지할 경우 그동안 학습시킨 AI 모델을 전혀 사용할 수 없게 되며, 외주업체가 해당 모델을 경쟁사에 그대로 판매해도 법적으로 막을 수 없습니다.

[수정되어야 할 올바른 계약 조항 예시]
"본 사업을 위해 발주사가 제공한 데이터 및 이를 바탕으로 파인튜닝(미세조정)된 AI 모델의 가중치 파일(.bin, .pt, .safetensors 등), 전처리 소스코드, 맞춤형 프롬프트 파이프라인의 지식재산권은 최종 대금 지급 완료 즉시 발주사에게 완전 양도된다. 수주사는 발주사의 서면 동의 없이 본 사업의 산출물을 제3자에게 제공하거나 타 사업에 재활용할 수 없다."

또한, 오픈소스 AI 모델(예: Llama, Mistral 등)을 기반으로 개발할 경우, 해당 오픈소스 라이선스 조건이 '상업적 이용'을 허용하는지, 2차 저작물 공개 의무가 없는지 외주업체로부터 라이선스 검토 보고서를 서면으로 받아두어야 합니다.

계약서 서명 전 대표가 직접 확인해야 할 4단계 검증 프로세스

외주 업체의 말에만 의존하지 않고 사업 위험을 극적으로 줄이기 위해, 대표님께서는 다음 4단계 검증 절차를 거친 후 최종 계약서에 서명하셔야 합니다.

1단계: 사내 데이터 자산화 및 가공 범위 확정

외주업체 미팅 전, 사내에서 AI에 입력할 데이터의 위치, 형태, 개수를 목록화해야 합니다. 데이터 정제 작업량이 전체 과업의 몇 %를 차지하는지 외주업체와 서면으로 확인하고, 데이터 준비 지연에 따른 지체상금 조항이 발주사에게 불리하게 작동하지 않도록 조정합니다.

2단계: 정량적 성능 지표(KPI) 및 검수 기준 명시

'성능 향상', '업무 효율화'와 같은 추상적인 단어는 검수 분쟁의 원인이 됩니다. "발주사가 제공하는 테스트 데이터 300건 기준, 정답률(Accuracy) 88% 이상 및 1건당 응답 시간 4초 이내"와 같이 숫자로 측정 가능한 검수 기준을 계약서에 명시해야 합니다.

3단계: 단계별 분할 정산(Milestone Payment) 구조 채택

선금 50%, 잔금 50% 방식은 AI 프로젝트에서 매우 위험합니다. 프로젝트를 3~4단계로 나누어 성과가 검증될 때마다 대금을 지급하는 방식으로 계약을 체결해야 합니다.

• 1차 지급 (선금 20%): 계약 체결 및 상세 기획서 승인 시
• 2차 지급 (중도금 30%): 데이터 정제 완료 및 POC 테스트 목표치 달성 시
• 3차 지급 (중도금 30%): 전체 시스템 구축 및 사내 실무진 베티 테스트 완료 시
• 4차 지급 (잔금 20%): 최종 성능 검수 통과 및 소스코드/모델 이관 완료 시

4단계: 인수인계 및 사내 교육 의무화

외주업체 철수 후 사내 담당자가 스스로 시스템을 운영하고 프롬프트를 수정할 수 있도록 관리자 페이지 제공, 운영 매뉴얼 제출, 사내 담당자 대상 교육(최소 8시간 이상)을 과업지시서에 필수 항목으로 지정해야 합니다.

도입 실패를 막는 AI 외주 계약 종합 체크리스트

계약서 체결 직전, 아래 표의 체크리스트를 하나씩 대조해 보면서 누락된 항목이 없는지 확인하시기 바랍니다.

대표가 당장 실천해야 할 4가지 핵심 실행 항목

글을 마무리하며, AI 시스템 도입 및 외주 개발을 검토 중인 중소기업 대표님이 오늘 당장 실행해야 할 핵심 항목 4가지를 정리합니다.

1. 외주업체 미팅 전 사내 비공개 테스트 데이터 200건 직접 추출하기: 개발사가 가져오는 데모 세트에 속지 말고, 실제 현장에서 발생한 복잡한 고객 문의나 정제되지 않은 문서 데이터 200건을 대표 직속으로 따로 확보해 두세요.
2. 계약서에 정량적 검수 지표(숫자)와 단계별 분할 정산 조항 추가하기: '최선을 다해 개발한다'는 문구를 삭제하고, '정확도 O% 미달 시 보완 완료까지 잔금 지급을 유예한다'는 구체적인 정산 조건을 넣으세요.
3. 월간 지속 발생 비용(API/GPU 사용료) 시뮬레이션 문서 요구하기: 초기 개발비 외에 매월 통장에서 빠져나갈 인프라 및 LLM 호출 비용의 최저/최대 범위를 외주업체로부터 서면으로 받으세요.
4. 소스코드 및 모델 가중치(Weight) 완전 양도 조항 확인하기: 계약서 내 지식재산권 귀속 조항을 변호사나 전문 컨설턴트를 통해 재검토하고, 외주업체에 대한 종속(Lock-in) 위험을 사전에 차단하세요.