自動化內容審核已成為常態
這篇部落格文章是為期兩部分系列的第一部分。第二部分將提出針對公司與政策制定者的建議。六年前，在全球疫情剛爆發的一個月後，我們就曾主張——當時許多平台正快速採用的自動化內容審核流程應具備高度透明度、易於申訴，且只能暫時實施。我們警告說：「危機時期制定的協議往往會隨著危機結束而留存。」
這項預言後來證明是正確的。運用人工智慧（AI）來識別、標記與審核內容的做法已成為新常態——平台治理線上言論的方式永遠不會再回到以前的模樣。在這兩部分系列中，我們將回顧這一轉變，並探討平台應該採取哪些行動，以確保 AI 能促進網路表達，而非壓制它。
自動化內容審核的簡短歷史
從垃圾郵件過濾與關鍵字黑名單，到用於辨識兒童色情物質與恐怖主義內容的雜湊比對技術，自動化的商業內容審核技術已有多年歷史。儘管這些工具長期以來都對言論自由構成風險，但其使用範圍一直相對有限。
直到 2017 年，Facebook（現為 Meta）發表了一篇部落格文章，揭示該公司近年來利用人工智慧辨識、分類並移除暴力極端主義內容。與此同時，Facebook 也提醒大家要謹慎行事，強調他們並不希望讓人覺得「有任何簡單的技術解決方案」。
AI 內容審核的成本與效益
2020 年，我們便知曉利用人工智慧（AI）來管理線上言論自由將會帶來問題。（https://www.eff.org/deeplinks/2020/04/automated-moderation-must-be-temporary-transparent-and-easily-appealable）今日，這些問題已在公開的紀錄中被詳盡闡述。一份 2025 年由聯合國人權事務特別報告員及歐洲安全與合作組織（OSCE）、美洲國家組織（OAS）以及非洲人民與人權委員會（ACHPR）等代表共同發布的《聯合聲明》（https://www.ohchr.org/sites/default/files/documents/issues/expression/statements/2025-10-24-joint-declaration-artificial-intelligence.pdf）指出：
- AI 審核可能對言論自由造成侵害，例如過度封鎖或誤判。
- 演算法的偏見可能導致特定群體的內容被不公平地標記為有害。
- 缺乏透明度使公眾難以理解 AI 決策過程。
- 申訴與救濟管道受到限制，使用者無法對 AI 的判斷提出有效挑戰。
這些問題在疫情期間更形嚴峻。Meta 等公司的 AI 審核策略被批評為「滑向」人權、透明度以及法律救濟的退步。（https://www.washingtonpost.com/technology/2020/03/23/facebook-moderators-coronavirus/）AI 被用來快速審核大量使用者上傳的內容，但同時削減了人類審查團隊的人力，這導致更少的監督與修正機制。最終結果是許多不實訊息得以流竄，並對社會造成危害。（https://www.eff.org/deeplinks/2020/10/facebooks-most-recent-transparency-report-demonstrates-pitfalls-automated-content）
AI 審核系統的成本與效益仍需持續評估。一方面，自動化管理能大幅提高效率，並節省人力資源；但另一方面，它也可能降低對言論內容的細緻理解，並加劇 AI 的偏見。（https://www.techcrunch.com/2021/09/14/facebook-hires-former-at&s-to-lead-ai-safety-team/）如何在效率與人權之間取得平衡，仍是平台經營者面臨的重大挑戰。
“使用 AI 內容過濾可能導致過度移除、歧視和審查。依賴內建偏見的資料集與不透明的訓練流程，可能會加劇既有的不平等，進而危及言論的多元化與語言文化的保存。」
電子 front page (EFF) 與許多盟友已記錄這些影響。例如，我們的 2019 年報告，與 Witness 和 Syrian Archive 共同撰寫，檢視極端內容規範（以及透過自動化和 AI 技術的實施）對人權紀錄的衝擊。2020 年 [Human Rights Watch] 的報告（Human Rights Watch report）指出了這些移除的後果，並提到：「我們完全無法得知有多少潛在的嚴重罪行證據因此而消失，且無人知曉。」
Center for Democracy and Technology 最近發表的系列研究（cdt.org/insights/content-moderation-in-the-global-south-a-comparative-study-of-four-low-resource-languages/）針對全球南方地區的內容過濾，指出在四種所謂「低資源語言」上持續存在的偏見——這些語言被稱為「低資源」，因為訓練資料稀缺，使得開發公平且準確的 AI 模型更加困難。
內容過濾經常不成比例地影響弱勢與歷史上被邊緣化的群體，而 AI 內容過濾也不例外。GLAAD 指出 AI 在放大內容過濾的角色，但同時提到：「當過濾系統缺乏細膩度、透明度和人類監督時，便可能無法遏止騷擾，並錯誤地壓制合法的 LGBTQ 內容。」
這些失敗並非偶然。將自動化系統用於大規模評估語言、文化、脈絡與身份等複雜判斷，是可預見的後果。
好的，這段文字的繁體中文翻譯如下：
自動化內容管理可以帶來重要益處
首先，談到這一點，自動化的內容管理確實能為人類內容審核員帶來一些幫助。主要的好處是，能減輕他們的工作負擔——因為他們需要檢視的內容範圍很廣，從天馬行空的趣事到令人髮指的恐怖事件都有可能，而且往往工資微薄，還會對心理健康造成嚴重影響。 將這項工作外包給 AI 機器人，或許能提供一些緩解；但值得注意的是，訓練這些 AI 模型的員工也面臨類似的困境。
此外，隨著時間推移，AI 模型理論上可以變得更精確、準確且更具動態性，有助於減少過度審查和假訊息傳播的問題。然而，這項潛力是否能實現還未可知；我們所確定的事實是，解決內容管理過度與不足的長期問題，迫切需要新的方法。
自動化審核不再只是實驗
如何取得實質成本與潛在效益之間的平衡，很大程度上取決於自動化系統的設計、訓練、執行和稽核方式。
儘管 AI 審核系統的複雜性和規模不斷提升，但社會各界（包括公民團體、研究人員和人權專家）所倡導的透明度、問責制和正當程序等保障措施，仍未完全落實。與此同時，自動化系統已越來越多地被平台用來執行規則和管理線上言論。
現在的問題不再是公司是否會使用 AI 來審核內容，而是「在什麼條件下」應該這麼做。而如往常一樣，答案並非公眾只需相信平台會利用越來越強大的系統來促進而非抑制線上表達；事實上，隨著自動化系統變得更加複雜且深入影響平台的治理，對透明度和問責制的需求反而更為迫切。