簡要回答。 文檔標註實際上是四項工作,人們通常將其視為一項。OCR校正修復機器誤讀的內容。手寫內容轉錄處理OCR從未設計到的功能。佈局標註記錄文本結構——如列、表格、閱讀順序——以賦予文本意義。鍵值提取將命名字段提取到可實際查詢的記錄中。現代系統在清潔、現代、打印的頁面上,對這四項工作都表現得非常出色。
在一份由三位不同登記員撰寫的1890年代的教區登記冊上,它們並不成立,而這個空白之處,正是人工工作的體現。
這四項任務分別是什麼,為什麼要分開它們?
因為每一項失敗的方式都不同,而一個將它們視為單一步驟的流程,無法告訴你具體是哪個環節出了問題。
我們見過的最清晰的流程描述將其劃分為一個序列:攝入與標準化、文檔分類、佈局感知的OCR、關鍵值與表格提取、實體鏈接、與置信度閾值的驗證、人工審核,然後導出。OCR將像素轉化為文本——它識別字符和詞語,保持大致的閱讀順序,並交付一個可搜索的結果。有用,但僅此而已。OCR無法告訴你‘總計’應當等於上方各項之和,也無法判斷日期是否被錯誤格式化。
佈局是人們常常低估的環節。將一頁兩欄內容從左到右平讀,會得到每個部分都正確但整體毫無意義的文本。即使是成熟的商業系統也承認這一點:多欄或不規則文檔通常需要後處理來恢復閱讀順序,而手寫或連筆輸入依然存在不一致性。在家族史工作中,這一點屢見不鮮——一份賬冊中,姓氏列、洗禮日期和主持牧師的信息排列在網格中,任何基於閱讀順序的啟發式方法都無法正確識別,除非被明確告知。
這是Lifewood成長起來的業務領域。在‘文檔AI’成為一類之前,我們就在掃描脆弱的檔案、逐行修正OCR結果,並將其轉化為可索引、可搜索的家族史數據。支撐這項工作的技術發生了巨大變化,但所需的專業判斷並未改變。
手寫識別的實際效果如何?
在經過訓練的材料上表現極為出色,但在其他所有內容上的表現遠不如宣傳數據所示。
手寫文本識別(HTR)是一項與光學字符識別(OCR)真正不同的技術,而不是OCR技術中的一個子場景。傳統OCR是逐個對印刷字符進行分類;而HTR則會整體讀取一整行連筆書寫的文本內容,因為連筆字沒有可靠的字母邊界來進行分割。其質量以字符錯誤率(CER)來報告——即錯誤字符的佔比,包括插入、刪除或替換——以及詞錯誤率(WER),後者通常比CER高出三到四倍,因為一個錯誤的字符就會導致整個單詞失效。
該圖表中有兩個結果值得深入解析。第一個是大語言模型(LLM)的結果。一項2024年的研究測試了主流多模態模型在18至19世紀英文手寫體語料庫上的表現,這些手寫體是刻意模擬歷史學家和家譜學者實際工作方式——手寫體多樣、手機和手持相機拍攝、黑白微縮膠片。模型實現了5.7%至7%的字符錯誤率(CER)和8.9%至15.9%的詞錯誤率(WER),分別比專門的光學字符識別(HTR)軟件提升了14%和32%,同時運行速度更快、成本更低。
第二個是36%的數值。這個數值指的是通用、不受限制的手寫體——也就是說,大多數未分類檔案箱中的內容。從不到2%到36%之間的差距,正是將文檔標註視為一項專業技能而非採購項目這一論點的核心所在。
此外,使用大語言模型進行轉錄還存在一個更細微的風險,任何處理歷史資料的人都應當瞭解。通用模型往往會生成一個整潔、自信且語法正確的讀法,但這個讀法實際上可能是錯誤的,它還會插入源材料中從未出現的合理古舊拼寫——在這些流程的評估中被記錄為‘過度歷史化’。對於家譜研究而言,這種錯誤比可見錯誤更嚴重,因為一個混亂的姓名會被標記,並被索引、傳播和引用,持續三十年之久。
四項工作,四項失敗模式 JOB 什麼是由標註員完成的 在哪裡會出錯 誰應該來做 OCR 修正 修正OCR層無法識別的字符 誤讀的專有名詞、數字和日期 機器優先,人工驗證 手寫體 識別OCR層無法觸及的筆跡 不尋常的筆跡、縮寫、褪色墨水、LLM過度歷史化 人工主導,模型輔助 佈局 標註列、表格、標題、閱讀順序和區域類型 多列和不規則頁面被錯誤地重新排序 模型輔助,人工抽查 關鍵值 將文本映射到命名字段:姓名、日期、地點、關係 正確值,錯誤字段——在字符級指標中不可見 依賴規則加置信度審查 真實基準貫穿所有四項:將每個提取的值與其精確的頁面、區域和文本跨度關聯,是讓評審員幾秒鐘內就能驗證而非幾分鐘的關鍵所在。
為什麼準確率數字會誤導人?
因為供應商報告的是字符準確率,買家聽到的是文檔準確率,而這兩者之間相差一個數量級。
這一區別值得深入理解。字符準確率是正確字符所佔的比例。字段準確率則詢問每個命名字段是否正確地填入了對應值。文檔準確率則詢問有多少比例的文檔在處理過程中完全沒有錯誤——而這一個數字實際上決定了一個工作流程是否可以無需人工審核。一個99%的字符準確率聲明,實際上並不能說明提取的記錄是否正確。
一份典型的族譜記錄——給名、姓氏、其他拼寫形式、性別、出生日期、出生地、洗禮日期、教區、父親、母親、職業、見證人、頁碼和影片引用——通常包含超過二十個字段。其中的計算邏輯仍能為多數記錄至少發現一個錯誤項。
其中任何一項都不意味著基準測試毫無價值。基於代理的解析在DocVQA驗證集上達到了99.16%——在5,331個樣本中正確解析了5,286個,僅有45個錯誤中的18個是真正由於解析缺陷導致的——而當與人工參與閉環工作流結合時,經過微調的視覺-語言模型在生產環境中也達到了約99%的準確率。但DocVQA包含12,767份文檔圖像及其問題-答案對,其評分基於字符串相似度,它反映的是能力而非對解析器在您文檔上表現的可靠預測。這種能力的遷移程度完全取決於您的材料與基準數據的相似程度。
什麼樣的工作流程是經得起檢驗的呢?
以機器為主導、基於置信度的、並建立在真實內容基礎上——讓人類專注於真正需要他們介入的頁面。
經驗證有效的做法與容易被忽視的問題
分類後再提取——不同類型的文檔,對應不同的處理流程
在所有字段上統一應用單一置信度閾值
為每個字段設定獨立的置信度閾值,根據字段風險進行調優
信任一個從未與圖像進行比對驗證的流暢大語言模型(LLM)轉錄結果
每個值均與其所在頁面、區域和跨度相綁定
默認假設閱讀順序,而非進行標註
對名稱、日期和數字進行二次錄入
同一集合中名稱的轉寫不一致
針對專有名詞設立專門流程,對照本地名稱列表
評審人員無法在值旁邊查看其源區域
驗證規則:總和能夠對得上,日期處於合理範圍內
未記錄是哪個模型版本生成了何種輸出報告的準確性,而非字符準確性。
這是預測返工數量的指標。
系統會呈現出規律——在相似文檔中,相同的錯誤會被反覆出現。
有兩個因素讓經濟上可行。第一個是並非每一頁都需同等處理:置信度閾值決定了哪些內容直接通過,哪些需要快速核查,節省效果顯著——從手動或OCR流程切換到基於視覺AI的處理,已報告可將文檔處理成本降低75–92%。第二個是,人工努力必須作用於真正改變答案的環節。一個審核員驗證模型以0.99置信度識別正確的打印表單字段,屬於昂貴的噪音。而同一個審核員判斷一個褪色的姓氏是"Mainwaring"還是"Mannering",則是目前任何模型都無法可靠完成的任務。
這是我們自身掃描和家譜項目中的工作形態:機器處理大量內容,我們的團隊處理模糊性,而兩者之間的路由機制才是質量的真正來源。加入語言和文字體系——哥特體手寫體、西里爾字母、歷史拼寫規則、因地區而異的命名習慣——原生語言審核員的價值不再只是錦上添花。一個在審核團隊無人能懂的語言中被誤讀的姓名,將永遠被誤讀。
從一開始就衡量文檔的準確性。抽樣記錄,統計零錯誤的條目數量,並將該數據與任何字符級指標一同報告。
按字段設置置信度閾值。一個誤讀的證人姓名和一個誤讀的出生日期所造成的成本並不相同。
對每個提取的值進行真實基準標註。如果審核員無法看到值旁邊的真實區域,驗證將耗時數分鐘而非幾秒鐘。
絕不接受未經圖像驗證的LLM轉錄內容。流暢性不等於準確性,過度歷史化錯誤會被誤讀為真實。
為表格和多列材料明確標註佈局。賬冊、賬簿和人口普查記錄正是推理閱讀順序失效的地方。
為專有名詞單獨設立處理流程。名稱承載的權重最大,且上下文冗餘最少。
對所有內容進行版本管理。具體到哪個模型、哪個規則集、哪個導出版本——以便三年後發現的錯誤能夠被追溯並重新應用。
審核人員需閱讀語言和歷史時期。腳本慣例、縮寫和命名習慣屬於專業性知識,而非普遍的讀寫能力。
關鍵要點
- 標註文檔包含四項獨立工作:OCR校正、手寫體轉錄、佈局標註和鍵值提取。
- 手寫體識別(HTR)並非OCR——它會整體讀取整行內容,因為連筆書寫無法提供可靠的字母邊界。
- 字符識別錯誤率(CER)在訓練數據上低於2%,在未加約束的通用手寫體上約為36%;歷史文檔在可辨識時通常為3–5%,在損壞時為10–15%。
- 前沿大語言模型在未經調整的情況下,對18至19世紀英語手寫體的CER達到5.7–7%,WER達到8.9–15.9%,優於專用HTR軟件14%和32%。
- 大型語言模型存在特定風險:能夠流暢且自信地生成錯誤內容,且使用虛構的古舊拼寫形式。
- 字符準確性、領域準確性和文檔準確性是三個不同的數值——每個領域達到97%時,一個包含20個字段的記錄僅有大約一半的時間是乾淨無誤的。
- 如99.16%這樣的DocVQA得分反映的是模型能力,而非在您實際文檔上的生產表現。
- 視覺AI處理已被報告比手動或基於OCR的工作流程節省75–92%的文檔處理成本,當與人工審核結合時,微調後的視覺語言模型(VLM)準確率接近99%。
資料與進一步閱讀
- Humphries等人,《解鎖檔案:利用大語言模型轉錄手寫歷史文檔》,arXiv:2411.03340 — 在18至19世紀英語手寫體上CER為5.7–7%,WER為8.9–15.9%,相比專用HTR軟件提升14%和32%;WER通常為CER的3–4倍;語料庫設計以反映真實檔案採集條件
- Transkribus, "What is Handwritten Text Recognition (HTR)?" — 在清晰的手寫體上CER低於5%,在損壞或不常見手寫體上訓練前為10–15%,且通常需要50–100頁的轉錄作為真實基準集
- EasyData, "Handwriting Recognition: Software & Tools for HTR" (2026) — 在經過良好訓練的特定數據集上CER低於2%,在一般非約束性手寫體上準確率約為64%;Transformer和MLLM架構發生了轉變
- EasyData, "HTR for archives: digitize historical handwritten documents" (2026) — 在清晰可讀的歷史文檔上CER為3–5%,每個字段都有置信度評分,並通過從基礎模型中進行遷移學習實現
- Leo, "Handwritten Text Recognition: A Practical Guide" — 在HTR閱讀整行上下文與OCR分類字符之間的對比,CER作為材料屬性而非工具屬性,以及通用LLM轉錄中已記錄的"過度歷史化"失敗模式。tryleo.ai/resources/handwritten-text-recognition-htr/handwritten-text-recognition Airparser, "AI Document Extraction Accuracy: What the Benchmarks Actually Mean" (2026) — 字符/字段/文檔準確率的區別,DocVQA組成(12,767張圖像,ANLS指標),以及為何基準分數反映的是能力而非生產性能
- LandingAI, "Benchmarks: Answer 99.16% of DocVQA Without Images in QA" — 在DocVQA驗證集上正確5,286項,共5,331項,其中45個錯誤中有18個歸因於解析缺陷。landing.ai/blog/superhuman-on-docvqa-without-images-in-qa-agentic-document-extraction TaskMonk, "Document AI Explained: Techniques, Workflows, and Use Cases (2026 Playbook)" — 八階段流程,OCR與IDP的侷限性,以及接地、置信度閾值和版本控制作為核心實踐
- Parseur, "Vision AI Document Processing — The Complete 2026 Guide" — 在與人工及基於OCR的工作流程相比,成本可降低75–92%,經過微調的VLM在人工參與閉環流程中可達到高達99%的準確率
- LlamaIndex, "Best Document AI Platforms (2026 Comparison)" — 關於手寫體持續不一致以及多欄或不規則佈局需要後處理以恢復閱讀順序的問題
- Parsio,《2026年使用AI進行文檔數據提取指南》——關於置信度標記的人工參與閉環驗證,以及AI系統在相似文檔中重複相同錯誤的現象
- Emergent Mind, "DocVQA: Benchmark for Document VQA" — 包含50,000個問答對和12,767張文檔圖像的數據集規模,以及其作為佈局理解測試平臺的作用
- Lifewood, 掃描、數字化、家譜和AI數據服務
- Lifewood 假設獨立的領域錯誤,使用Airparser(2026)中的指標定義。