B 類 ——
通用型 LLM 數據

通常比大多數買家預期的要多,而制約因素往往是質量而非數量。公開數據集通常只經過一輪處理、且未經分級,這正是為什麼前沿項目會轉而委託製作經過分級的語料庫:提示-回覆配對數據、RLHF 偏好排序數據,以及監督微調數據集,各自服務於不同的訓練階段。

提示-回覆配對數據教會模型如何作答;偏好排序數據則教會模型判斷兩個回答中哪一個更好。這是兩類不同的數據,對標註人員的要求也不同。一個只有廣泛覆蓋、卻沒有偏好數據的模型,能用每一種語言流利作答,卻沒有一種語言答得好——這是首輪訓練中最常見的短板。

可以,而且通常必須委託專門採集,而非直接獲取現成資源,因為幾乎不存在可用的公開語料。Lifewood 通過分佈在宿務、馬來西亞及孟加拉國等亞太樞紐的本地母語使用者進行採集,這是觸及那些沒有標準正字法、也沒有商業錄音資源的語種的唯一可靠方式。

評估數據依照與訓練數據相同的標準構建,並與訓練數據嚴格分離保管。預留評估集的意義,就在於模型從未接觸過它,因此兩者之間的汙染,正是需要嚴防的失效點——這也是為什麼數據供應與測試工作,要一併規劃,而非從不同供應商處分別採購。