데이터 입력은 이미 여러 번 해결되었어야 했다
여러 번
스프레드시트가 수동 데이터 입력을 없앨 것 같았다. 그다음 OCR이, 그다음 ERP 통합이, 그다음 로봇 프로세스 자동화가. 하지만 종이는 계속 들어왔다. 각 기술은 실제로 무언가를 바꿨지만, 병목은 사라지지 않고 이동했다. 그 이동이 어디로 갔는지 이해하면 AI 추출이 이전의 모든 것과 왜 다른지 알 수 있다.
해결되지 않는 문제
송장, 영수증, 계약서, 명세서, 실험실 보고서, 선적 명세서 등 외부 문서를 다루는 모든 조직은 동일한 문제에 직면합니다. 데이터가 종이나 이미지 형태로 존재하며, 이를 시스템에 입력해야 한다는 점입니다. 문서는 수신자가 아닌 발신자가 통제하는 형식으로 도착합니다. 이 정보를 수신 시스템에 안정적이고 정확하게 대규모로 전송하는 것이 실제 데이터 입력의 의미입니다.
데이터 입력의 역사에서 주목할 점은, 각 시대마다 이전보다 확실히 개선된 기술이 등장했지만, 기존 병목 현상을 해소하기는커녕 새로운 병목을 만들어냈다는 사실입니다. 작업의 성격은 바뀌었지만, 작업량은 줄어들지 않았습니다.
시대별 발전
1950년대 – 1970년대: 천공 카드 시대
컴퓨터가 대화형이 되기 전, 데이터 입력은 물리적인 제조 과정이었습니다. 원본 문서(구매 주문서, 원장 기록, 급여 명세서)는 구멍 하나당 한 문자씩 IBM 천공 카드로 변환되었습니다. 천공 카드 작업자는 타자기와 비슷한 기계를 사용해 80열 카드에 구멍을 뚫었습니다. 카드가 곧 데이터였습니다.
속도보다 정확성이 더 중요했는데, 오류가 즉시 드러나지 않았기 때문이다. 별도의 기계에서 카드를 다시 입력해 불일치를 표시하는 검증 과정(verification pass)이 표준 관행이었다. 이후 카드 묶음은 컴퓨팅 센터로 제출되어 밤새 처리되었고, 출력 결과는 다음 날 아침에 인쇄되었다. 카드가 잘못 입력되면 수정 후 다시 제출하는 데 하루가 걸렸다.
병목 현상은 사람의 손과 배치 지연(batch latency)이었다. 이 작업은 숙련된 기술이 필요했다. 키펀치(keypunch) 운영자는 자격증을 취득하고 시험을 통과했으며, 대규모 전담 풀(pool)로 고용되었다. 주요 조직은 키펀치 운영자 층 전체를 인프라로 유지했다. 이는 임시방편이 아니라 인정된 생산 기능이었다.
1980년대 – 1990년대: 스프레드시트가 입력이 아닌 목적지를 바꾸다
1979년 비지칼크(VisiCalc)가 등장했다. 1983년에는 로터스 1-2-3(Lotus 1-2-3)이 뒤를 이었다. 1980년대 중반까지 엑셀(Excel)은 매킨토시(Macintosh)에서 실행되었다. 이 도구들은 데이터가 입력된 후 일어나는 일, 즉 이전에는 배치 실행이 필요했던 계산을 이제 데스크톱에서 즉시 수행할 수 있게 바꾸었다. 처음으로 한 사람이 프로그래밍 직원 없이 데이터 세트를 구축, 유지, 분석할 수 있게 된 것이다.
스프레드시트가 바꾸지 않은 것은 데이터가 시스템에 들어가는 방식이었다. 모든 셀은 여전히 사람이 원본 문서를 읽고 입력했다. 병목 현상은 배치 처리 처리 시간에서 사람의 타이핑 속도와 정확성으로 옮겨갔다. 데이터 입력은 민주화되었다. 키보드를 가진 사람이라면 누구나 데이터 입력 운영자가 될 수 있었지만, 사람이 문서를 읽고 셀에 값을 입력하는 기본 작업은 키펀치 운영자가 다른 하드웨어에서 했던 것과 동일했다.
스프레드시트 시대는 새로운 실패 유형을 도입했다. 바로 올바르게 보이는 셀 안에 숨겨진 수식 오류다. 데이터는 정확하게 입력되었을 수 있지만, 이후 단계에서 잘못 사용될 수 있었다. 정확성 문제는 입력 정확성과 수식 정확성, 두 가지로 나뉘었다. 둘 다 사람의 검토가 필요했지만, 이제 검토자는 종종 데이터를 입력한 동일한 사람이었다. 이는 천공 카드 시대의 독립적인 검증 과정보다 약한 확인이었다.
1990년대 후반 – 2000년대: OCR의 첫 번째 물결
광학 문자 인식(OCR)은 이 시기에 성숙해졌다. 평판 스캐너는 사무용 장비가 되었다. ABBYY FineReader와 같은 제품은 깨끗한 인쇄물에서 문서를 스캔하여 합리적인 정확도로 기계 판독 가능 텍스트로 변환할 수 있었다. 약속은 현실적이었다. 문서를 스캔할 수 있다면 재입력 단계를 완전히 건너뛸 수 있었다.
OCR은 표준화된 양식(일관된 정부 템플릿으로 인쇄된 세금 문서, 매달 같은 기관에서 발행된 은행 명세서, 수년간 변경되지 않은 보험 청구 양식)에서 잘 작동했다. 문자 인식은 충분히 좋았다. 문제는 레이아웃 인식이었다. 고정되고 예측 가능한 구조가 없는 모든 것에 대해 OCR은 여전히 사람이 읽고, 관련 값을 찾아내고, 대상 시스템에 입력해야 하는 텍스트 스트림을 생성했다. 문자 인식은 타이핑을 줄여주었지만, 이해를 줄여주지는 않았다.
병목 현상은 키 입력 속도에서 수정 작업량으로 이동했다. 비표준 문서에 대한 OCR 출력은 종종 빈 셀보다 다루기 더 어려웠다. 이제는 단순히 정확하게 입력하는 대신 기존 텍스트에서 오류를 찾아 수정해야 했기 때문이다. 충분한 볼륨과 레이아웃 일관성을 가진 문서 유형의 경우, 검증 규칙이 있는 템플릿 기반 OCR이 작동했다. 혼합 소스의 경우, 수정하는 것보다 재입력하는 것이 여전히 더 빠른 경우가 많았다.
2000년대~2010년대: 디지털 문서와 통합 문제
ERP 시스템이 기업의 표준 인프라로 자리 잡고 공급업체들이 종이에 출력하는 대신 소프트웨어로 PDF를 생성하기 시작하면서, 디지털 간 전환은 매끄러워야 한다는 합리적인 기대가 생겼습니다. 원본 문서는 이미 파일이었고, 대상 시스템도 이미 디지털이었습니다. 분명 전사(轉寫) 문제는 해결된 듯 보였습니다.
전사 문제를 대신한 것은 통합 문제였습니다. 모든 ERP는 고유한 가져오기 형식을 가졌고, 모든 공급업체는 고유한 PDF 템플릿을 사용했습니다. EDI(전자 데이터 교환)는 주요 거래 파트너 간의 거래를 표준화했지만, 전용 통합 계약과 이를 유지할 IT 자원을 갖춘 조직 쌍에만 해당되었습니다. 규모가 작은 공급업체, 일회성 벤더, EDI 표준 외부의 문서 유형은 계속해서 사람의 처리가 필요했습니다.
한편, PDF는 데이터 추출보다 인쇄에 최적화된 형식이었기 때문에 디지털 문서조차도 구문 분석 작업이 필요한 경우가 많았습니다. 노동력은 타이피스트에서 통합을 구축하고 유지하는 IT 팀으로 옮겨갔고, 구조화되지 않은 나머지(통합 비용 대비 가치가 낮은 공급업체의 송장, 소규모 은행의 명세서, 비표준 형식의 문서)는 여전히 수동으로 처리되었습니다.
2010년대: 규칙 기반 자동화
로봇 프로세스 자동화 도구는 사람이 하는 작업(화면 읽기, 필드 클릭, 값 입력)을 자동화하여 데이터 입력 문제에 접근했습니다. 봇은 송장 하나를 처리하는 데 몇 분이 아닌 몇 초면 충분했습니다. 안정적인 소스 형식을 가진 대량 반복 워크플로우에서 RPA는 진정한 생산성 향상을 가져왔습니다. 단순한 개선이 아닌, 문서당 처리 시간을 한 자릿수로 줄여준 것입니다.
취약성은 그 대가였습니다. RPA 봇은 규칙에 따라 작동했습니다. 문서의 X 영역에서 "송장 번호"라는 레이블이 있는 필드를 찾고, 값을 추출하여 시스템의 Y 필드에 붙여넣는 식이었죠. 새 공급업체, 재설계된 PDF 템플릿, 발신자 측의 다른 회계 시스템 등 원본 문서 레이아웃이 변경되면 규칙이 깨지고 봇이 작동을 멈췄습니다. 장애를 모니터링하고 레이아웃이 변경될 때 규칙을 업데이트하는 작업은 지속적인 운영 부담이 되었습니다.
소수의 안정적이고 대용량 워크플로우를 가진 조직은 이 유지보수 비용을 흡수할 수 있었습니다. 문서당 절감액이 전담 봇 유지보수 기능을 정당화했기 때문입니다. 다양한 가변 문서 소스를 가진 조직은 그럴 수 없었습니다. 병목 현상은 사람의 데이터 입력에서 규칙 엔지니어링과 봇 유지보수로 이동했습니다. 데이터 입력 작업자는 사실상 봇 개발자가 되었습니다.
2020년대에 실제로 바뀐 것
이전의 모든 기술은 알려진 템플릿이나 사전 정의된 규칙에 대한 패턴 매칭으로 작동했습니다. OCR은 문자를 찾았습니다. RPA는 필드 위치를 매칭했습니다. EDI는 알려진 거래 코드를 매핑했습니다. 이 모든 기술은 소스 레이아웃을 사전에 예측해야 했습니다. 이것이 바로 레이아웃이 변경될 때 모두 작동을 멈춘 이유입니다.
AI 추출은 다르게 작동합니다. 사람이 하는 것처럼 문서를 의미론적으로 읽고, 레이블이나 위치에 관계없이 필드 의미를 이해합니다. 네 공급업체의 네 문서에 있는 "INVOICE NO.", "INV#", "Bill Reference", "Ref:"는 모두 같은 것을 의미하며, 언어 모델은 이를 알려주지 않아도 압니다. 정의하는 열 이름(Invoice Number)은 특정 문자열이나 영역과 일치시킬 키워드가 아니라, 개념을 찾으라는 명령어입니다.
이는 이전의 모든 접근 방식을 취약하게 만들었던 레이아웃 의존성을 제거합니다. 새 공급업체의 인보이스는 새로운 규칙을 작성해야 하는 것이 아니라, 동일한 열 집합으로 처리할 또 다른 문서일 뿐입니다. 첫 번째 공급업체를 위해 작성한 열 정의는 문서 형식이 아무리 달라도 50번째 공급업체에서도 그대로 작동합니다.
시대별 병목 현상
| 시대 | 주요 접근 방식 | 인력 투입 영역 | 무엇이 문제였나 |
|---|---|---|---|
| 1950년대~1970년대 | 천공 카드 | 물리적 카드 천공, 검증 패스 | 배치 지연; 오류 발생 시 다음 날 재제출 필요 |
| 1980년대~1990년대 | 스프레드시트 입력 | 원본 문서 값을 셀에 직접 타이핑 | 사람의 키 입력 오류; 수식 오류; 전사 자동화 부재 |
| 1990년대 후반~2000년대 | OCR + 스캐닝 | OCR 출력물에 대한 수정 패스 | 레이아웃 변동; 비표준 문서는 재입력보다 수정이 더 느림 |
| 2000년대~2010년대 | ERP 통합 / EDI | IT팀이 통합 구축 및 유지보수 | EDI 미지원 공급업체의 긴 꼬리; 통합 비용으로 소규모 물량 배제 |
| 2010년대 | RPA 봇 | 규칙 구축, 모니터링, 레이아웃 변경 시 업데이트 | 레이아웃 취약성; 소스 변경 시마다 규칙 유지보수 필요 |
| 2020년대 | AI 추출 | 출력 스키마 정의 (열 이름) | 열 이름 정밀도; 비정형 문서 구조; 이미지 품질 |
현재 업무의 모습
AI 추출이 데이터 입력 작업을 없애는 것은 아닙니다. 작업의 성격을 바꿀 뿐입니다. 핵심 질문이 "이 문서에서 이 값을 어떻게 추출할까"에서 "모든 문서에서 일관되게 필요한 값은 무엇인가"로 바뀝니다. 이는 빠르고 정확한 타이핑과는 다른 기술이며, 스키마 설계에 더 가깝습니다.
- 컬럼 정의가 문서 읽기를 대체합니다.
송장 번호,공급업체명,청구 금액(숫자만),발행일(YYYY-MM-DD)등 원하는 내용을 한 번만 지정하면, 해당 정의가 이후 모든 배치의 모든 문서에 적용됩니다. 읽기와 필드 찾기는 모델이 처리합니다. - 형식 요구사항은 컬럼명에 포함됩니다. "금액(숫자만, 통화 기호 제외)"는 컬럼명이자 동시에 형식 지시사항입니다. 이전에는 후처리 정리 단계가 필요했던 작업이 추출 시점에 처리됩니다.
- 검증이 문자 단위에서 행 단위로 전환됩니다. 각 키 입력이 원본과 일치하는지 확인하는 대신, 추출된 각 행이 타당한지 확인합니다. 금액이 합리적인지, 날짜가 적절한 범위에 있는지, 공급업체명이 알려진 업체와 일치하는지 등을 검증합니다. 교정이 아닌 이상 탐지입니다.
- 문서량이 제약이 되지 않습니다. 송장 50장도 1장과 동일한 컬럼 설정을 사용합니다. 이전에는 문서 수에 비례하여 증가하던 작업이, 이제는 고유한 문서 스키마의 수에 비례하여 증가합니다. 이는 일반적으로 문서 수보다 훨씬 적습니다.
실패 방식도 다릅니다. AI 추출은 컬럼명이 모호하거나, 문서가 인식 불가능할 정도로 손상되었거나, 필드가 원본 문서에 실제로 존재하지 않을 때 실패합니다. 이는 사양의 실패로, 컬럼 정의를 개선하여 해결할 수 있습니다. 타이핑 속도의 실패처럼 더 빠른 작업자나 더 많은 인력이 필요한 문제가 아닙니다.
열 정의 접근 방식은 송장, 영수증, 은행 명세서, 실험실 보고서 및 배송 문서 등 처리 전에 필요한 필드를 알고 있는 모든 문서 유형에서 작동합니다.
AI 추출 사용해보기자주 묻는 질문
AI 추출이 신뢰할 만한데도 수동 데이터 입력이 여전히 흔한 이유는?
도입 지연과 '신뢰성'이 상황에 따라 다르기 때문입니다. 잘못된 숫자가 법적 또는 재정적 결과를 초래하는 중요도가 높은 분야에서는 모든 자동화 방식에 검증 단계가 필요하며, 이는 완전한 필사가 아닌 이상 탐지 노력이라 할지라도 사람의 개입을 필요로 합니다. 또한 처음 컬럼 스키마를 정의하는 데는 실제 설정 비용이 발생합니다. 문서량이 적은 조직은 이를 정당화할 만한 처리량을 확보하지 못할 수 있습니다. 수동 입력이 여전히 흔한 이유는 OCR과 RPA 도입이 완전하지 않았던 이유와 같습니다. 즉, 접근 방식이 일부 워크플로우에 다른 것보다 더 잘 맞기 때문입니다.
키펀치 운영자는 어떻게 되었나요? 이번에도 같은 대체 현상이 반복되는 건가요?
키펀치 운영자는 대화형 컴퓨팅이 배치 카드 제출을 구식으로 만들면서 대부분 사라졌습니다. 해당 직무는 본질적으로 소멸했습니다. 그러나 데이터 입력이라는 직업 범주는 줄어들기보다 오히려 성장했습니다. 스프레드시트와 양식에 데이터를 입력하는 사람의 수는 이전 키펀치 운영자 수를 훨씬 넘어섰습니다. 작업의 형태가 바뀐 것입니다. AI 추출이 다른 종류의 작업(스키마 설계, 품질 관리, 예외 처리)으로의 동일한 확장을 가져올지, 아니면 노동 수요의 실질적인 감소를 가져올지는 문서 규모가 어떻게 확장되느냐에 달려 있습니다. 이는 업종에 따라 다르며 확실하지 않습니다.
AI 추출이 손글씨 문서에서도 작동하나요?
읽을 수 있는 손글씨라면 가능합니다. 동일한 의미 기반 접근 방식이 적용됩니다. 한 사람이 "총 금액: $847.50"이라고 적은 손글씨 송장은 글꼴과 관계없이 인식 가능한 필드입니다. 손글씨가 불량하거나, 인쇄체와 필기체가 섞여 있거나, 수정 사항으로 인쇄된 원본 위에 손글씨 값이 겹쳐 있는 문서에서는 정확도가 떨어집니다. 정확도가 중요한 손글씨 문서의 경우, 추출 방식과 관계없이 검증 과정을 거치는 것이 여전히 표준 관행입니다.
RPA가 이 문제를 해결해야 했는데, 왜 충분하지 않았나요?
RPA는 안정적이고 일관된 레이아웃을 가진 문서 유형의 문제를 해결했으며, 해당 사례에서는 잘 작동했고 지금도 그렇습니다. 한계는 대부분의 실제 문서 워크플로우에 레이아웃 변형이 있다는 점이었습니다. 여러 공급업체, 여러 은행, 다른 국가나 소프트웨어 버전의 문서 등이 그 예입니다. RPA는 레이아웃별 규칙이 필요했고, 레이아웃이 변경됨에 따라 이러한 규칙을 유지하는 데 지속적인 비용이 발생했습니다. AI 추출에는 레이아웃별 규칙이 필요하지 않습니다. 동일한 열 정의가 소스별 구성 없이 모든 레이아웃에서 작동합니다.
실무에서 "의미 이해"란 정확히 무엇을 의미하나요?
"총 청구 금액", "최종 합계", "지불 금액", "미결제 잔액"은 서로 다른 문서의 다른 위치에 나타나는 서로 다른 문자열이지만, 모두 동일한 개념을 나타냅니다. 의미 이해를 갖춘 모델은 레이블이나 위치가 아닌 의미를 기준으로 필드를 식별합니다. 이는 표 외부의 값에도 적용됩니다. 예를 들어, 바닥글 단락에 있는 총 금액은 "합계"라는 열에 있지 않더라도 총액으로 인식됩니다. 이는 사람이 처음 보는 문서 형식을 처리할 때와 동일한 추론을 모든 문서에 일괄 적용한 것입니다.