簡短回答。 在-house標註看似更便宜,因為大多數在-house預算僅計算標註員工資。加上招聘、培訓、管理、質量保證、工具和基礎設施以及空閒產能後,成本差距會縮小甚至逆轉。CVAT發佈的2024年案例研究具有指導意義,因為它並未美化外包:對於一個示意性的10萬張圖像、230萬個對象的項目,其估算在-house成本為$122,220(不含軟件許可費),而外包成本約為225,400美元。外包通常以速度、靈活性和避免運營開銷為理由,而不是以保證直接成本更低為依據。應綜合考慮總運營成本,並判斷標註是否應成為內部的永久能力。
這是真正意義上的構建與採購決策,值得在兩個方向上誠實地進行論證。對於某些項目,內部實施是正確的;對於另一些項目,這可能是一條長達兩年的迂迴路徑。決定因素是利用率、永久性以及數據敏感性——而不是每標籤的價格。
仔細閱讀已發佈的成本示例
CVAT發佈了一項2024年的案例研究,針對一個示意性的10萬張圖像項目,每張圖像平均標註23個對象,共產生230萬個標註對象。其在-house情景估算成本為$x1$122,220美元(不含軟件許可費)$x1$,其外包情景對相同對象數量的估算成本約為$x2$225,400美元$x2$。
三個觀察,按重要性排序:
- 外包成本更高。 僅以直接價格為依據主張外包的任何方,都是在反駁已發表的案例。外包的誠實論點存在於其他地方。
- 內部團隊成本排除了軟件。 它還像大多數此類模型一樣,假設團隊存在且在整個期間被完全利用。
- 這只是一個示例場景。 一個包含230萬個對象的單模態項目,並非一個跨多年、多語言、多模態的項目,當這些變量進入時,其經濟性會顯著偏離。
各方實際擁有的內容
| 成本類別 | 內部團隊 | 外包管理服務 |
|---|---|---|
| 標註員招募 | 買家擁有 | 供應商擁有 |
| 訓練與校準 | 買家擁有 | 供應商負責管理 |
| 勞動力利用率 | 買家承擔空閒產能 | 供應商承擔更多產能規劃 |
| 標註管理 | 買家聘請管理人員 | 根據合同確定是否包含或由其管理 |
| 問答與驗證 | 買家構建流程 | 供應商提供流程 |
| 軟件與基礎設施 | 買家採購並維護 | 可能包含或單獨計價 |
| 具備縮減規模的靈活性 | 通常難以實現 | 通常在合同上更容易實現 |
| 直接單位費率 | 可以更低 | 通常包含服務管理費用 |
決定大多數情況的行是勞動力利用率。一個內部標註團隊是相對於可變工作量的固定成本。如果你的機器學習路線圖會產生標註需求的峰值——而大多數以研究為導向的路線圖都會如此——你實際上是在為低谷期付費。
隱藏成本問題
TELUS Digital 公開指出,簡單的勞動小時計算忽略了數據標註中的隱藏設置和工程成本。Appen 也專門提出了關於工具的類似觀點:構建內部標註工具會引入開發、維護和機會成本,這些成本很少出現在最初商業計劃中。
這兩個觀點在標註並非公司核心業務的情況下最為有力。在構建標註界面時所花費的工程時間,是本應用於模型開發的時間,而這種機會成本不會出現在任何費用項目中。
一個更完整的內部模型包括:
- 每位標註員的招聘與入職,包括第二個月離職的人員
- 團隊領導與項目管理的人力成本
- 質量保證設計、黃金標準集構建及持續校準
- 標註工具:許可、集成或開發加上維護
- 存儲、傳輸和計算資源
- 安全控制、訪問管理與審計
- 隨著分類體系的演進,工作流工程
- 訓練在每次指南變更後都會刷新
- 員工流動,以及每次都要重新支付學習曲線的成本
- 在模型訓練和評估週期中未被使用的容量
何時內部團隊真正合理
五個條件。若三個或以上成立,則進行建設
- 標註工作量是持久的、可預測且戰略核心的。 不是‘我們永遠需要標籤’,而是‘我們每年每月都需要大約這個數量的標籤’。
- 敏感數據不能離開一個嚴格控制的內部環境,而沒有任何供應商的駐地或設施控制能滿足這一要求。
- 組織已經擁有標註經理、質量保證專家和合適的工具。 大部分建設成本是建設本身;如果已經建成,計算結果將發生變化。
- 專業員工必須在其常規職責中進行標註 — 醫生標註臨床數據,工程師標註工程數據。這裡的勞動在任何價格下都是不可替代的。
- 團隊可以在較長時期內保持高度利用率。 當利用率低於大約70%時,會削弱推動構建的直接成本優勢。
當外包顯然更具經濟效益
- 需求具有波動性、季節性或項目驅動性。
- 項目需要快速擴展,而內部招聘無法匹配。
- 需要多種語言,尤其是在前十之外的語言。
- 多個模態在範圍內,每個模態都需要不同的工具和不同的審核人員技能。
- 標註明確不是組織希望變得擅長的事情。
- 遲到的成本超過了保費的成本。
混合最成熟的項目最終會形成
二元框架在大規模情況下通常都是錯誤的。常見的成熟結構是:
- 一個小型內部團隊 負責分類體系、黃金標準集、裁決和驗收。這部分絕不能外包,因為它承載了你對‘正確’的定義。
- 外部能力 用於大規模生產,其規模需與內部黃金標準集進行校準。
- 一家專業供應商,被聘用,用於高風險狹窄工作流,其中受控基準顯示存在顯著優勢。
這保持了戰略能力在內部,固定成本在外部。它同時也為你回答了大多數內部業務案例中最終提出的問題:當理解語義體系的人離開時,會發生什麼?
Lifewood的應對方式
Lifewood的模型是為這一決策的買方設計的:買方購買一種受管理的標註能力,而不是去招聘和培訓一個標註組織。
三項工作得以完成。標註框架由 Lifewood 內置構建,而非由客戶自行搭建——包含經過培訓的標註員、資深複審、自動化一致性檢查以及客戶反饋閉環,達到 95%以上的準確率SLA,對於低於閾值的批次,由 Lifewood 承擔重做成本。一個覆蓋 40多個交付中心、遍及30多個國家 的分佈式團隊,能夠吸收工作量波動,而內部團隊則可能面臨閒置或加班的情況。在 50多種語言 及多種模態上實現覆蓋,意味著能力可以靈活調配以應對不斷變化的工作負載,而非為每個單獨任務單獨招聘。
Lifewood 自 2004年 起開展人工智能數據業務,擁有 56,788名註冊貢獻者,並在2025年向孟加拉國團隊交付了 414,120小時的訓練工作量——這些數據描述了買家若自行構建將不得不面對的運營層面。是否選擇自建仍取決於上述五個條件。
資料與進一步閱讀
- CVAT發佈了內部實施及外包成本案例研究,針對一個包含10萬張圖像/230萬個對象的項目,分別在cvat.ai和cvat.ai上進行。
- TELUS Digital 在 telusdigital.com 上發佈的人工數據標註策略決策框架。
- Appen 在 appen.com 上關於標註工具自建或外包決策的分析。
- Lifewood 在lifewood.com公佈的交付數據包括:覆蓋 50 多種語言,在 30 多個國家設有 40 多個交付中心,承諾 95% 以上準確率的 SLA,擁有 56,788 名註冊貢獻者,並在 2025 年為孟加拉國員工提供了 414,120 小時培訓。