OCR Technology Explained: How Computers Read Documents - pdf0.ai

내가 컴퓨터가 실제로 "볼 수 있다"는 것을 깨달은 날

2008년, 내가 첫 번째로 광학 문자 인식이 작동하는 모습을 목격했던 순간이 아직도 기억납니다. 나는 보스턴의 문서 처리 스타트업에서 주니어 소프트웨어 엔지니어로 일하고 있었고, 관리자가 나에게 1,200개의 손으로 쓴 보험 청구서 더미를 건네주었습니다. "이걸 금요일까지 디지털화해야 해,"라고 그는 느긋하게 말했습니다. 나는 그 더미를 보며 간단한 계산을 해보았고, 각 양식을 수동으로 입력하는 데 약 160시간이 소요될 것이라는 것을 깨달았습니다. 그때 내 동료가 OCR 기술을 소개해주었고, 우리는 전체 배치를 4시간 이내로 처리했습니다.

그 경험은 내 경로를 변경했습니다. 지난 16년 동안, 나는 문서 지능 시스템에 전문화하여 포춘 500대 기업부터 작은 헬스케어 스타트업까지 다양한 기업과 협력해왔습니다. 나는 4,700만 개 이상의 문서를 처리하고, 수많은 OCR 오류를 디버깅했으며, 이 기술이 단순한 텍스트 추출에서 정교한 AI 기반 문서 이해로 발전하는 것을 지켜보았습니다. 오늘날, 문서 자동화 플랫폼의 수석 아키텍트로서, 나는 컴퓨터가 문서를 실제로 읽는 방법과 이 기술이 대부분 사람들이 생각하는 것보다 훨씬 복잡하고 매력적이라는 것을 나누고 싶습니다.

OCR은 단순히 이미지를 텍스트로 변환하는 것이 아닙니다. 경향을 가지고 수천 년 동안 인류가 사용해온 시각적 언어를 기계에 가르치는 것입니다. 당신이 핸드폰으로 수표를 입금하거나, 지출 보고를 위해 영수증을 스캔하거나, Google Lens를 사용하여 외국 메뉴를 번역할 때마다, 당신은 OCR 기술을 활용하고 있는 것입니다. 전 세계 OCR 시장은 2023년에 133억 8천만 달러에 도달했으며 2030년까지 연간 16.4% 성장할 것으로 예상됩니다. 그러나 이 기술이 널리 퍼져 있음에도 불구하고 대부분의 사람들은 그것이 실제로 어떻게 작동하는지에 대해 전혀 알지 못합니다.

근본적인 도전: 컴퓨터가 읽기 어려운 이유

대부분의 사람들을 놀라게 하는 것은 다음과 같습니다: 읽기는 우리가 컴퓨터에게 요구하는 가장 복잡한 작업 중 하나입니다. 문서를 보면, 당신의 뇌는 수 밀리초 안에 놀라운 패턴 인식 능력을 발휘합니다. 배경 소음에서 글자를 즉시 구별하고, 한 번도 본 적 없는 글꼴을 인식하며, "O"와 "0"이 문맥에 따라 서로 다른 문자라는 것을 이해하고, 페이지의 텍스트 공간 배열에서 의미를 추출합니다.

OCR은 단순한 패턴 매칭이 아닙니다—기계가 맥락을 이해하고, 애매모호함을 처리하며, 그들이 보는 것에 대해 지능적인 결정을 내리는 것을 가르치는 것입니다. 이것은 인간 독자가 본능적으로 하는 것과 같습니다.

컴퓨터는 이러한 직관적인 이해가 없습니다. 컴퓨터에게 문서는 단순한 픽셀 그리드일 뿐이며—수백만 개의 작은 색 점들에 고유한 의미가 없습니다. 300 DPI(인치당 도트수)의 스캔된 페이지는 약 850만 개의 픽셀을 포함합니다. 컴퓨터는 각 픽셀을 분석하고, 패턴을 식별하고, 이를 문자 덩어리로 그룹화하고, 그 문자들을 인식한 후 서로의 관계를 이해해야 합니다. 누군가에게 눈을 가린 채로 만지고만 해서 퍼즐을 다시 맞추라는 것과 같습니다.

나는 2012년에 고객이 1970년대의 역사적인 의료 기록 50,000개를 처리해 달라고 요청했을 때 이 교훈을 힘겹게 배웠습니다. 이 문서들은 여러 번 복사되고, 습기가 많은 지하실에 보관되며, 해상도가 낮은 상태로 다시 스캔되었습니다. 글씨는 희미하고, 왜곡되었으며, 커피 자국과 손으로 쓴 메모가 여기저기에 있었습니다. 우리의 표준 OCR 시스템은 62%의 정확도만 달성했으며—단 하나의 숫자 오류가 생명에 위협이 될 수 있는 의료 기록에는 전혀 사용 불가능했습니다. 우리는 세 달 동안 완벽하게 개발한 사용자 지정 전처리 알고리즘을 만들어야 했지만, 결국 98.7%의 정확도에 도달했습니다.

문서가 보다 다양해질수록 도전은 더욱 복잡해집니다. 인쇄된 책 페이지는 비교적 간단합니다—일관된 간격으로 정리된 깔끔한 텍스트를 가진 표준 글꼴. 그러나 실제 문서에는 테이블이 있는 송장, 체크박스가 있는 양식, 다양한 레이아웃의 영수증, 손으로 쓴 메모, 수십 개의 언어로 된 문서 및 실제 텍스트가 아닌 텍스트 이미지가 포함된 PDF가 포함됩니다. 각 시나리오는 다른 접근 방식과 기술이 필요합니다.

OCR 파이프라인: 픽셀에서 의미로

현대 OCR 시스템은 내가 수백 가지 구현을 통해 다듬은 다단계 파이프라인을 따릅니다. 이 파이프라인을 이해하는 것은 문서 처리에 종사하는 모든 사람에게 매우 중요합니다. 왜냐하면 각 단계마다 잠재적 오류와 최적화 기회가 있기 때문입니다. 내가 시작했을 때 누군가 내게 설명해줬으면 하는 세부사항으로 각 단계를 안내해 보겠습니다.

첫 번째 단계는 이미지 획득 및 전처리입니다. 이 단계에서는 문서 이미지를 캡처하거나 수신하고 분석을 위해 준비합니다. 내 경험상 이 단계는 최종 정확도의 약 40%를 결정합니다. 품질이 좋지 않은 이미지로 시작하면, 얼마나 정교한 OCR 기술을 사용해도 완전히 보완할 수 없습니다. 우리는 일반적으로 여러 전처리 기술을 적용합니다: 문서의 회전을 수정하기 위한 데스크류(문서는 거의 완벽하게 직선이지 않음), 아티팩트와 배경 패턴을 제거하기 위한 노이즈 제거, 그레이스케일 이미지를 순수한 흑백으로 변환하기 위한 이진화, 텍스트를 명확하게 돋보이게 하기 위한 대비 향상.

나는 한 번 변호사 사무실과 함께 150 DPI로 계약서를 스캔하고 저장 공간을 절약했습니다. 그들은 왜 OCR 정확도가 81%에 불과한지 이해하지 못했습니다. 해상도를 업계 표준인 300 DPI로 높였을 때 정확도는 96.3%로 뛰어올랐습니다. 교훈은 이렇습니다: 쓰레기를 넣으면 쓰레기가 나온다. OCR 시스템은 입력 이미지의 품질만큼만 좋습니다.

두 번째 단계는 레이아웃 분석 및 분할입니다. 개별 문자를 인식하기 전에 문서의 구조를 이해해야 합니다. 텍스트 블록은 어디에 있나요? 어떤 요소가 헤더이고 어떤 것이 본문 텍스트인가요? 테이블, 이미지 또는 양식이 있나요? 현대 시스템은 텍스트 영역을 감지하고 다양한 구역을 분류하며 읽기 순서를 식별하고 그래픽에서 텍스트를 분리하기 위한 정교한 알고리즘을 사용합니다. 이 단계는 텍스트가 예상치 못한 위치에 나타날 수 있는 송장이나 양식과 같은 복잡한 문서에서 특히 도전적입니다.

다음 단계는 문자 분할—텍스트 줄을 개별 문자 또는 문자 그룹으로 나누는 것입니다. 이는 간단하게 들리지만, 필기체, 서로 맞닿은 문자 또는 문자들이 손상되거나 병합된 저하된 문서에서는 믿을 수 없을 만큼 복잡해집니다. 나는 "rn"이 "m"으로 잘못 읽히거나 "cl"이 "d"와 혼동되는 일반적인 시나리오에서 고군분투하는 시스템을 보았습니다. 최고의 시스템은 이러한 오류를 포착하기 위해 맥락 분석을 사용합니다.

패턴 인식: OCR의 두뇌

문자 인식은 마법이 일어나는 곳입니다—그리고 OCR 기술이 내 경력 동안 가장 극적으로 발전한 곳입니다. 초기 OCR 시스템은 템플릿 매칭을 사용하여 각 문자를 알려진 문자 형태의 데이터베이스와 비교했습니다. 이는 표준 글꼴의 인쇄된 텍스트에는 꽤 잘 작동했지만, 변형에는 참패했습니다. 나는 2009년에 오직 12가지 글꼴만 신뢰할 수 있는 시스템으로 일했던 기억이 납니다.

기본 OCR과 현대 문서 지능의 차이는 철자 검사기를 전문 편집자와 비교하는 것과 같습니다. 하나는 글자를 인식하고; 다른 하나는 의미, 구조 및 의도를 이해합니다.

현대 OCR 시스템은 기계 학습, 특히 심층 신경망을 사용하여 문자를 인식합니다. 이러한 시스템은 경직된 템플릿에 의존하는 대신 수백만 개의 예시에서 학습합니다. 나는 200개 이상의 언어와 1,000개 이상의 글꼴에 걸쳐 1억 개 이상의 문자 샘플로 이루어진 데이터셋에서 모델을 훈련했습니다. 차이는 뚜렷합니다: 템플릿 기반 시스템이 깨끗한 인쇄된 텍스트에서 85-90%의 정확도를 달성할 수 있는 반면, 신경망 기반 시스템은 정기적으로 99%의 정확도를 초과하고 손글씨, 비정상 글꼴 및 저하된 문서를 처리할 수 있습니다.

획기적인 발전은 2015년경 합성곱 신경망(CNN) 및 순환 신경망(RNN)과 함께 이루어졌습니다. CNN은 시각적 패턴을 인식하는 데 뛰어납니다—특정한 변수를 식별할 수 있습니다.