템플릿 없는 AI 문서 추출
학습 데이터가 필수가 아닌 이유

문서 추출 기술의 3세대

어떤 도구는 템플릿과 학습 데이터가 필요하고, 다른 도구는 필요 없는 이유를 이해하려면 기본 아키텍처를 이해해야 합니다. 추출 도구 시장은 3세대 기술로 구성되어 있으며, 각 세대의 도구는 사용자에게 근본적으로 다른 요구 사항을 제시합니다.

1세대 — 템플릿 OCR. Docparser 같은 도구가 이 방식을 대표합니다. 샘플 문서를 업로드하고 각 필드(여기서는 "송장 번호", 저기는 "날짜", 오른쪽 하단은 "합계") 주위에 사각형을 그리면 도구가 해당 픽셀 좌표를 기억합니다. 템플릿과 일치하는 이후 문서는 추출되지만, 레이아웃이 다른 다른 업체의 문서는 추출되지 않습니다. 새로운 레이아웃마다 새 템플릿이 필요합니다. 업체가 송장을 재설계하여 날짜 필드를 오른쪽 상단에서 헤더 블록으로 옮기면, 템플릿은 해당 픽셀 영역에 있는 텍스트를 조용히 추출합니다. 잘못된 것을 인지하지 못하고, 단지 사용자가 그린 좌표를 읽을 뿐입니다.

2세대 — 통계적 머신러닝. Nanonets가 이 방식을 보여줍니다. 사용자가 사각형을 그리는 대신, 도구가 레이블이 지정된 학습 데이터에서 위치 패턴을 학습합니다. "날짜", "금액", "공급업체명"을 표시한 50~200개의 예제를 제공합니다. 샘플이 많을수록 새 문서의 필드 위치를 예측하는 통계 모델의 성능이 향상됩니다. 이는 템플릿보다 유연하지만, 새로운 유지 관리 부담이 생깁니다. 문서 형식이 변경되면 모델의 예측이 조용히 저하되고, 재학습을 위해 새 레이블 샘플을 수집해야 합니다. 더 이상 템플릿을 구축하는 것이 아니라 모델을 유지 관리하는 것입니다. 설정 작업이 "업체별"에서 "학습 주기별"로 전환됩니다.

3세대 — 시각적 대규모 언어 모델. ImageToTable.ai, Claude, GPT-4V가 이 방식을 대표합니다. 모델은 문서를 전체적으로 처리합니다. 시각적 레이아웃, 텍스트 내용, 의미론적 의미를 병렬로 분석합니다. 사각형을 그리거나 학습 샘플에 레이블을 지정할 필요가 없습니다. "송장 번호, 날짜, 공급업체, 합계를 추출해줘"라고 모델에 지시하기만 하면 됩니다. 모델은 문서를 읽고, 문맥과 의미에 따라 어떤 값이 어떤 필드에 해당하는지 이해한 후 구조화된 출력을 생성합니다. 학습도, 템플릿도, 좌표 매핑도 필요 없습니다. 업체가 송장을 재설계해도 모델은 신경 쓰지 않습니다. 픽셀을 필드에 매핑하는 것이 아니라 문서가 말하는 내용을 이해하기 때문입니다.

템플릿이 확장 시 깨지는 이유

템플릿 기반 추출은 데모에서 완벽하게 작동합니다. 샘플 송장 하나를 업로드하고 영역을 지정하면, 동일한 공급업체의 다음 10개 송장에서 완벽하게 추출됩니다. 문제는 단일 공급업체를 넘어 확장할 때 시작됩니다.

20개 공급업체로부터 송장을 받는 소규모 비즈니스는 20개의 다른 레이아웃을 처리해야 합니다 — 구축하고 유지 관리해야 할 20개의 템플릿입니다. 200개 공급업체를 보유한 중견 기업은 200개의 템플릿을 직면합니다. 각 템플릿을 구성하는 데 15~30분이 소요됩니다: 샘플 업로드, 각 필드의 영역 지정, 최근 송장 몇 개로 테스트, 불일치 수정, 반복. 유지 관리는 끝나지 않습니다. 공급업체가 정기적으로 송장 형식을 업데이트하기 때문입니다 — 새로운 ERP 시스템, 리브랜딩된 템플릿, 추가된 세금 필드, 업데이트된 규정 준수 문구. 각 형식 변경은 해당 템플릿을 손상시킵니다.

더 나쁜 것은 실패 방식입니다. 템플릿이 깨져도 오류가 발생하지 않습니다. 대신 이전 픽셀 좌표에 있는 텍스트를 추출합니다. 날짜 필드가 배송 주소가 됩니다. 세액이 소계가 됩니다. 오류는 스프레드시트 셀에서 그럴듯해 보이다가 누군가 숫자를 조정할 때 발견됩니다. 템플릿 기반 시스템은 조용히 실패하며, 숫자가 맞지 않을 때 몇 시간 또는 며칠 후에 문제를 발견합니다.

학습 데이터는 기능이 아닌 유지 관리 부담

2세대 통계 도구는 좌표를 암기하는 대신 패턴을 학습하여 템플릿을 개선하지만, 동일한 문제의 다른 버전을 도입합니다: 모델에 유지 관리가 필요합니다.

10개 공급업체의 100개 송장으로 모델을 학습시키면, 모델은 통계적 연관성을 학습합니다: "'합계'로 표시된 값은 보통 오른쪽 하단 근처에 있고, '송장 번호'는 보통 오른쪽 상단 근처에 있으며, '날짜'는 여러 가능한 위치에 나타납니다." 이는 공급업체가 형식을 변경할 때까지 작동합니다. 모델은 송장을 이해하지 못합니다. 위치 확률을 이해할 뿐입니다. 공급업체가 날짜 필드를 이동하면 모델의 확률 분포가 잘못됩니다. 해당 공급업체 송장의 추출 정확도가 저하됩니다. 오류를 발견하거나 누군가 불평할 때까지 알 수 없습니다.

이를 해결하려면 업데이트된 형식에서 새 레이블이 지정된 샘플을 수집하고 재학습시킵니다. 형식 변경이 사소한 경우(필드 하나 재배치), 5~10개의 새 샘플이면 충분할 수 있습니다. 공급업체가 완전히 재설계한 경우, 해당 형식에 대해 처음부터 재학습해야 합니다. 50개의 활성 공급업체가 있는 1년 동안 일부 비율은 형식을 변경할 것입니다. 각 변경은 유지 관리 작업입니다. 이는 Reddit r/automation의 한 사용자가 사업을 시작한 후 설명한 내용입니다: "PDF에서 데이터를 복사하는 데 행정 업무에 얼마나 많은 시간을 소비할지 몰랐습니다." 데이터 입력을 자동화하기로 되어 있던 도구가 추가 유지 관리 계층이 되었습니다.

제로샷 비주얼 LLM이 문서를 읽는 방법

비주얼 LLM은 사용자의 문서에서 학습하지 않습니다. 이 모델들은 방대한 텍스트, 이미지, 구조화된 데이터 코퍼스로 사전 학습되어, 이미 송장이 어떻게 생겼는지, 주요 필드가 일반적으로 어디에 나타나는지, 문서 레이아웃이 어떻게 작동하는지 알고 있습니다. 새 문서를 주고 "송장 번호, 날짜, 공급업체, 합계 추출"이라고 말하면, 특정 예시로 구축된 통계적 맵이 아닌 광범위한 이해를 바탕으로 작업을 수행합니다.

이는 근본적인 변화입니다: 데이터에서 위치 확률을 학습하는 것에서 사전 학습을 통해 의미를 이해하는 것으로의 전환입니다. 모델은 특정 공급업체가 날짜를 어디에 두는지 알 필요가 없습니다. 송장 맥락에서 날짜가 어떻게 생겼는지 이해하기 때문입니다. 상단 근처의 날짜처럼 보이는 문자열, "날짜", "송장 날짜", "발행일"로 레이블이 지정되거나 레이블이 없지만 예상되는 헤더 영역에 있는 경우입니다.

ImageToTable.ai는 이를 열 이름 추출로 구현합니다. 출력에서 원하는 열 이름("송장 번호", "날짜", "공급업체", "소계", "세금", "합계")을 입력하면 비주얼 LLM이 각 값이 의미하는 바를 이해하여 모든 문서에서 해당 값을 찾습니다. 입력한 열 이름은 출력 스프레드시트의 정확한 헤더가 됩니다. 다른 공급업체, 다른 레이아웃, 동일한 추출 로직입니다. 공급업체별 설정이 필요 없고, 형식별 학습이 필요 없습니다. 하나의 열 정의로 모든 문서를 처리합니다.

표준 비즈니스 문서(송장, 영수증, 구매 주문서, 은행 명세서)의 정확도 한계는 이미지 품질이 좋은 인쇄 텍스트의 경우 최대 99%입니다. 처리 시간은 페이지당 5~10초입니다.

학습 데이터가 여전히 의미 있는 경우

트레이드오프에 대해 솔직히 말씀드리자면: 템플릿 없는 추출이 항상 정답은 아닙니다.

학습 데이터가 유리한 경우: 한 공급업체의 공과금 청구서, 표준화된 정부 양식, 고정 템플릿이 있는 내부 보고서 등 거의 동일한 문서를 수백만 건 처리하는 경우, 잘 학습된 통계 모델이 더 높은 처리량과 더 낮은 페이지당 비용을 제공합니다. 설정 투자(모델 학습)는 대량 볼륨에서 효과를 발휘합니다. 추론이 LLM 호출보다 페이지당 저렴하기 때문입니다. 형식이 변경되지 않거나 거의 변경되지 않습니다.

템플릿 없는 방식이 유리한 경우: 각각 다른 레이아웃을 가진 수십 또는 수백 개의 출처에서 문서를 처리하고, 이러한 레이아웃이 주기적으로 변경되는 경우(모든 공급업체의 송장, 팀이 방문하는 모든 매장의 영수증, 교체되는 공급업체의 구매 주문서) 학습 접근 방식은 다양성이 너무 높고 형식 변경이 끊임없이 발생하기 때문에 한계가 있습니다. 제로샷 추출은 템플릿이나 통계적 맵에 얽매이지 않기 때문에 이러한 상황을 자연스럽게 처리합니다.

비용 트레이드오프: LLM 기반 추출은 기존 OCR이나 통계적 추론보다 페이지당 비용이 더 듭니다. 하지만 총 소유 비용에는 템플릿 구축 시간, 모델 재학습 주기, 그리고 조용한 추출 오류의 수동 수정이 포함됩니다. 매월 수백에서 수천 건의 다양한 문서를 처리하는 대부분의 비즈니스의 경우, 설정 및 유지 관리 부담 감소가 페이지당 비용 차이를 상쇄합니다.

자주 묻는 질문

훈련 없이 모델이 어떻게 추출할 내용을 알 수 있나요?

비전 LLM은 문서 유형, 레이아웃 및 필드 의미론에 대한 광범위한 이해를 바탕으로 사전 훈련되었습니다. "송장 번호"를 지정하면 훈련을 통해 송장 번호와 유사한 문자열(종종 레이블이 지정되거나 독특하게 배치된 영숫자 식별자)을 모든 문서에서 인식합니다. 사용자 문서에서 학습하는 것이 아니라 일반적인 문서 이해를 특정 요청에 적용하는 것입니다. 이는 표준 비즈니스 문서(송장, 영수증, 구매 주문서, 양식)에는 효과적이지만 모델 훈련 데이터에 없는 매우 특수하거나 독점적인 형식에는 덜 효과적입니다.

훈련 없이 어느 정도의 정확도를 기대할 수 있나요?

이미지 품질이 좋은 표준 비즈니스 문서의 인쇄 텍스트에서 최대 99%입니다. 결정 요인은 이미지 품질(조명, 초점, 각도), 문서 복잡성(복잡한 표, 다중 열 레이아웃, 혼합 글꼴) 및 필드 명확성(레이블 유무, 표준/비표준 위치)입니다. 필기 내용과 이미지 품질 저하는 정확도를 낮춥니다. 중요한 재무 데이터의 경우 처음 몇 번의 추출 결과를 샘플링하여 확인하는 것이 좋습니다.

훈련 데이터가 필요한 도구를 선택해야 하는 경우가 있나요?

매달 수백만 건의 동일한 형식 문서(공과금 청구서, 정부 양식, 내부 보고서)를 처리하고 형식이 변경되지 않는 경우, 훈련된 모델이 페이지당 비용 효율성이 더 높을 수 있습니다. 설정 비용은 처리량에 따라 상쇄됩니다. 다양한 출처와 다양한 레이아웃의 문서를 처리하는 그 외의 모든 경우에는 템플릿 없는 추출이 더 실용적인 접근 방식입니다.

AI가 내 문서를 보관하거나 학습에 사용하나요?

아니요. ImageToTable.ai는 추출을 위해 문서를 메모리에서 처리하며 서버에 저장하지 않습니다. 문서는 기본 AI 모델을 훈련하거나 개선하는 데 사용되지 않습니다. 각 처리 세션은 독립적입니다.

내 문서에서 템플릿 없는 추출을 어떻게 테스트하나요?

문서를 업로드하고, 원하는 열 이름을 입력하면 AI가 데이터를 추출합니다. 시도해 보기 위해 계정을 만들 필요가 없으며, 무료 티어는 간헐적인 사용을 지원합니다. 특히 스캔된 문서와 양식의 경우, 스캔 문서 추출 도구가 제로샷 방식을 실제로 보여줍니다 — 템플릿, 학습 데이터, 문서별 설정이 필요 없습니다.