簡短回答。 合成內容是指信息——文本、圖像、音頻或視頻——通過算法生成或顯著修改而得到的信息；NIST以這種寬泛的意義使用該術語。企業是否應使用合成內容，並非技術問題，而是關於輸出所代表的內容的問題。培訓模塊中的合成背景與對某位高管的真實描繪，使用的是相同的技術，卻涉及完全不同的決策。可操作的規則是：當一個合理觀眾可能將輸出視為真實發生事件的記錄時，風險隨之上升；當輸出明顯是示意性內容時，風險降至接近零。決策應基於內容的表達方式，而非工具本身。
大多數企業關於此問題的政策，要麼是全盤許可，要麼是全盤禁止，而這兩種做法對於團隊實際想要產出的大多數內容來說都是錯誤的。本指南區分了不同情況，提供了可擴展的層級，並明確了五個問題，用於解決邊緣性案例。
什麼構成合成內容？
該類別不僅限於‘由生成模型製作’的內容。它涵蓋AI撰寫的段落、生成的產品場景、合成語音、虛擬主持人、模擬數據集，以及對真實視頻內容進行大幅修改的內容。最後這一點容易讓人誤解：對真實錄音進行實質性算法修改，與完全生成內容屬於同一類別，因此‘我們只是進行了編輯’並不能作為類別退出的理由。
工具本身不能決定風險。同一個生成器既能製作佔位插圖，也能偽造真人形象。以工具為依據的治理必須將兩者同等對待，結果不是阻礙有用工作，就是放行有害內容；以具體呈現內容為依據的治理則沒有這個問題。
三個問題定義了內容的表達方式：
- 該內容聲稱是什麼？ 是一幅插圖、對真實事物的描繪，還是對某事件的記錄。
- 哪些人可能被誤導，以及被誤導的程度如何？ 例如，一位審閱草稿的同事，或一位基於該內容做出財務決策的客戶。
- 它去往哪裡呢？ 一個內部文檔、一個受控通道，還是開放分發且上下文被剝離的場景。
哪些用途是直接明瞭的？
這些屬於低風險，因為輸出內容並未聲稱是任何事實記錄的體現：
- 創意構思、情緒板和故事板框架
- 內部原型和設計探索
- 合成環境與背景
- 供人類重新撰寫的初稿文本
- 明確假設性場景的訓練模擬
- 最終生產前的佔位資產
- 明顯虛構或示意性的插圖
一旦權利歸屬和審核流程確定，這些內容在實際生產中也是完全可行的：宣傳物料、配音、已批准主版本的本地化變體、目錄圖像、教育類媒體。這些內容之所以安全，並非因為內容本身風險低，而是因為其處理流程已明確——存在審批路徑，原始權利清晰，並且有專人對事實內容負責。
何時會變成高風險？
風險在六個觸發因素上急劇上升。任何一個觸發因素的出現都會使資產脫離常規流程：
| 觸發因素 | 為何會改變評估 |
|---|---|
| 描繪了可識別的現實人物 | 同意和肖像權適用，無論輸出是如何生成的 |
| 包含一個實質性事實主張 | 輸出現在成為證據，流暢的錯誤是一種可辯護的錯誤 |
| 可能被視為文件記錄 | 具備照片級真實感，並輔以新聞、事件或記錄的框架 |
| 影響財務、法律或健康決策 | 錯誤造成的損害是直接而非聲譽性的 |
| 使用了受版權保護或保密的輸入 | 權利問題位於輸出之前 |
| 以批量方式交付，缺乏單個資產的審查 | 規模會將小的錯誤率轉化為大量的錯誤 |
最常被低估的是第二和最後一個環節。一個充滿自信但包含錯誤數據的句子，比一個明顯錯誤的句子更具破壞性，因為它能通過任何不進行核查的人的審查。而在50個資產時，2%的缺陷率是偶然現象，但在5000個資產時則成為嚴重問題。
真正能夠實現放大的層級結構
將同一審查流程應用於所有內容，無論在哪個方向都會導致錯誤結果：它對大多數低風險內容來說過於緩慢，對少數高風險內容來說又過於淺顯。三個層級就足夠了。
| 分層 | 代表案例 | 控制措施 |
|---|---|---|
| 常規 | 內部草稿、原型、背景資料、非公開探索 | 經批准的工具；無機密輸入；創作者負責；不對外發布 |
| 已審核 | 公開營銷資產、本地化版本、教育媒體 | 依據評分標準指定人類評審員；依據源文件包核實事實；確認權利歸屬；記錄來源追溯 |
| 已升級 | 任何高於上述的高風險觸發項 | 內容主題、法律或合規審批；在涉及真實人物時明確記錄知情同意；進行完整而非抽樣的評審；明確決定披露 |
兩條設計原則使分層機制成立。 按觸發條件而非團隊分層 —— 一個由升級團隊產生的常規資產仍屬於常規資產，反之亦然。並且 在邊界處自動化執行低成本檢查：禁止用語、缺失免責聲明、未經批准的標誌和不支持的產品聲明可以在人類查看資產之前就被攔截，這正是防止審核層級變成瓶頸的關鍵所在。
跟蹤每個工作流的異常率。一個反覆觸發升級的工作流，說明其初始範圍設定錯誤，而解決這一問題的成本遠低於永遠對其進行審核輸出。
對邊緣案例的五個問題
當一個資產無法明確歸入某個層級時，這些問題比政策文件能更快地解決它：
- 生成該內容是否創造了實質性的價值？ 如果答案是‘更快’，則需將其與所增加的審核成本進行權衡；通常淨結果為負。
- 普通使用者在該內容出現的語境下是否會誤以為看到的是真實內容？ 不是專家能發現，而是普通使用者在實際使用場景中是否可能被誤導。
- 原始權利是否清晰？ 包括輸入內容、參考材料、肖像以及模型訓練所依賴的任何材料。
- 重要聲明是否可以由人類驗證？ 如果鏈條中沒有任何人具備驗證實質內容的資質，那麼無論有多少人批准，該資產都是未經驗證的。
- 如果受到挑戰，是否存在一個可辯護的答案？ 六個月後，你能說明它究竟是如何產生的，基於什麼，由誰審核，以及在什麼日期。
如果收益微乎其微，且問題二或五令人不適，那麼傳統生產是更優的答案。這是一個合理的結論，而如果政策從未產生這種結果，那麼該政策就未被實際應用。
無論層級如何，都必須記錄的內容
來源追溯在內部是必要要求，之後才成為公開要求。即使受眾從未看到任何元數據，組織也應能夠針對每一項資產回答：由哪個模型或流程生成，使用了哪些原始材料和參考文獻，由誰編輯和批准，應用了哪些標籤或披露，以及它在何處發佈。
這份記錄是當文件本身消失後仍能留存的東西。元數據在常規操作中會被剝離——例如轉碼、縮放、大多數平臺上傳——因此，一份獨立於文件的內部賬本是唯一能證明資產主張的依據，尤其是在資產經過分發流程之後。這也是審計實際所要求的內容。
Lifewood的應對方式
Lifewood 在受控的工作流程中生產合成媒體，而非作為工具輸出：在資產層面記錄模型、輸入、審核人員和標籤；將人工審核階段作為流程中的必要步驟，而非最終檢查；並採用上述層級模型，使得高流量的常規工作不必被高優先級層級的節奏所約束。
當工作涉及多語言時，審核是在市場層面進行，而非集中進行——覆蓋 50多種語言 和 30多個國家中的40多個交付中心，並採用雙重人工參與閉環流程，準確率保持在 95%以上。原因在於其狹窄且實際：一個描繪是否被視為說明性或記錄性，部分取決於文化判斷，而這種判斷無法由總部做出。
有關服務範圍的界定方式，請參閱AIGC服務。
資料與進一步閱讀
- NIST，"降低合成內容帶來的風險" — 本文所採用的合成內容的廣泛定義，以及關於來源追溯和檢測的技術方法概覽。
- NIST，AI風險管理框架 — 本政策結構所遵循的風險分級術語。
- Google搜索中心，關於生成式AI內容的指導 — 說明生成內容在面向搜索用戶發佈時的處理方式。
- 配套指南：AI內容治理：披露與來源追溯 和 AI內容標註法規：歐盟、中國和美國。