簡短回答。 標註引述在發佈時不可比較,隨意比較它們最終會導致項目選擇最昂貴的廉價供應商。首先,將每份報價標準化到相同的任務定義——可計費單位、質量保證包含、返工規則、最低承諾、平臺費用、設置費、專家勞動層級、安全溢價和交付週期——然後在每接受單位的成本上進行比較,而不是在每嘗試標籤的成本上進行比較。任何在未審查代表性數據的情況下為大型企業項目定價的供應商,都是在猜測,而你最終將為這個猜測買單。
採購團隊擅長價格對比,但他們被提供了九份文檔,這些文檔對同一事物的定價並不一致。一份報價是按每個對象計算,包含質量保障(QA);一份是按每張圖片計算,QA作為單獨一項列出;一份是按小時計算,附帶平臺許可;另一份報價較低,但要求最低承諾量為預測用量的三倍。將這些報價對齊的表格生成了一個排序,而這個排序是錯誤的。
本指南是標準化流程,加上其後續的評分卡。
比較前必須先標準化
| 報價項目 | 為何重要 | 採購應要求的內容 |
|---|---|---|
| 可計費單位 | 供應商按對象、圖片、幀或小時進行報價 | 一個統一的單位,或一個明確的轉換模型 |
| 是否包含問答環節? | 廉價的初步標註可能排除審核 | 確切的審核員比例和裁決流程 |
| 返工 | 錯誤可能導致第二張隱藏的發票 | 驗收定義及包含的返工量 |
| 最低量 | 低費率可能需要較大的投入 | 最低支出及未使用容量條款 |
| 平臺費用 | 服務價格可能不包含工具費用 | 許可、存儲和集成費用 |
| 部署與培訓 | 複雜指南需要校準 | 一次性入駐及變更請求費用 |
| 專家人力 | 專家團隊大幅調整成本 | 按技能層級分別計費 |
| 安全 | 受限設施會增加成本 | 任何安全或數據駐留溢價 |
| 交付週期 | 緊急擴容需額外配備人員 | 標準與加急SLA分別計價 |
在價格對評估團隊可見之前完成此項操作,如果可能。一旦有人看到一個較低數值,正常化就會感覺像是在移動目標,而非測量。
按被接受的單位計費,而非按嘗試標註的單位計費
假設供應商A每條嘗試標註的費用低20%,但產生的返工量顯著增加。一旦將被拒單位、評審時間以及模型團隊的延誤納入考量,表面上的節省就會消失。
每個驗收合格單位的成本 = 項目總成本 ÷ 達到約定驗收標準的單位數
有效吞吐量 = 交付數據項數 × 首次驗收通過率 ÷ 週期時長
要使這一指標有效,必須滿足兩個條件,這兩個條件都值得堅持:
- 驗收標準在價格比較之前就已達成一致。 否則每個供應商都將依據其自身的定義來衡量‘可接受’,而這正是你試圖解決的問題。
- 返工量是依據你的黃金標準集來衡量,而不是供應商的。 供應商內部的質量檢查措施反映的是他們對指南的解讀。只有經過客戶批准的黃金標準集才能反映你的標準。
返工也會體現在進度上。一個在第六週被退回的批次會延遲一次訓練運行,而這種延遲的成本通常會超過標籤本身的成本。
為什麼供應商應在報價前檢查你的數據
TELUS Digital發佈的指導明確警告買家警惕那些在未審查客戶數據前就報價的標註公司,理由是不同服務和數據類型的報價差異很大。這一警告在企業採購中值得認真對待,原因在於:一個未查看數據就發出的報價,實際上是在對物體密度、模糊性和輸入質量等假設進行定價。當這些假設被證實錯誤時,會出現兩種情況:要麼供應商提出變更訂單,要麼供應商自行承擔成本,導致質量下降以適應價格。
一個可信的報價應基於具有代表性的樣本數據、實際的指南以及可以核查的生產假設。請詢問價格所依賴的假設是什麼,以及如果每個假設都錯誤,價格會發生什麼變化。
採購評分卡
權重是企業採購方的起點。根據您的風險特徵進行調整——但在查看提案之前,需事先達成一致。
| 標準 | 建議權重 | 優秀供應商所展現的內容 |
|---|---|---|
| 質量與驗收 | 30% | 可量化的質量保證、裁決流程、書面返工政策 |
| 單位經濟性 | 20% | 透明化的標準化價格,無隱含費用 |
| 規模與處理能力 | 15% | 具備高峰時期的坡度計劃和評審員容量 |
| 模態適配 | 10% | 針對您具體任務類型的工具和訓練團隊 |
| 語言與專業能力 | 10% | 根據要求配備命名的母語者或領域專家 |
| 安全與治理 | 10% | 符合您要求的控制措施,包含範圍說明 |
| 商業靈活性 | 5% | 合理的最低標準、變更條款和退出條款 |
評分前應用一條淘汰規則:無論總分如何,質量與驗收維度為零即視為淘汰。 這是一個無法通過簽署後額外支付來修正的維度。
警示標誌
- 企業報價精確無誤,且未對代表性數據進行任何審查。
- 報價未明確界定一個可計費單位的定義。
- 質量保證或返工被描述為"包含",但無可測量的驗收標準。
- 較低的單位費率依賴於一個你尚未建模的最低承諾。
- 提供商無法將通用型、專業型和專家型勞動力的定價區分開。
- 平臺、存儲、集成或培訓費用僅在選定後才出現。
- 供應商無法解釋當指南發生變化時定價如何變化。
- 每一個關於質量的問題都只用一個百分比來回答,而沒有分母。
運行相同的試點,然後決定
提案階段會縮小候選範圍。由標準化的試點來決定。向每個入圍的供應商提供:
- 相同的代表性樣本,包括你們最困難的邊緣案例,以及至少一種困難的語言
- 相同的指南,同一版本
- 相同的驗收標準和黃金標準集
- 相同的交付週期
然後評估每個被接受單位的成本、每類質量、在真正模糊項目上的升級行為,以及在入職階段提出的問題質量。最後一個信號被低估了:一個在第一週就向你提出六個關於你本體結構的精確問題的供應商,一定不會在六個月後默默猜測。
Lifewood的應對方式
Lifewood 並不以單個單位價格作為競爭焦點,也不公開發布此類價格。其公開的承諾是設定一個明確的質量目標,並附帶商業後果:一個 95%+ 準確率 SLA,雙重人工審核並輔以自動化一致性檢查,以及低於閾值的批次由 Lifewood 承擔重做成本。對於一個執行上述標準化流程的買家而言,這正是最關鍵的條款,因為它將重做工作從隱藏的第二筆發票轉變為供應商的義務。
關於廣度的論點是關於總成本而非單位價格。覆蓋 50+ 種語言 減少了組建和管理多個語言供應商的需求。對文本、圖像、音頻、視頻和3D點雲工作的覆蓋,減少了供應商碎片化以及對同一本體結構兩種不同解釋之間的協調成本。覆蓋 40+ 個交付中心,分佈在 30+ 個國家 提供了分佈式生產以及滿足區域處理需求的選項,而無需建立第二個供應商關係。
即使是一個專業供應商,如果其試點在特定工作流上顯示出顯著更優的被接受單位經濟性,它仍然可能贏得該工作流。這是一個良好運行對比過程的正確結果,值得設計流程使其能夠發生。
資料與進一步閱讀
- TELUS Digital 關於選擇數據標註公司的指導,包括在未審查客戶數據前不應接受報價的警告,詳見 telusdigital.com。
- CVAT 在 cvat.ai 發佈了其定價模型和供應商選擇指南。
- Lifewood 的質量框架和交付數據發佈於 lifewood.com。
- 相關閱讀:要求標註供應商達到何種準確率標準,以瞭解如何撰寫該流程所依賴的驗收定義。