AI 公司能從 Oversight Board 學到什麼
Kenji Yoshino 與 Ronaldo Lemos 是 Oversight Board 成員。
Anthropic 執行長 Dario Amodei（未入鏡）與產品長 Mike Krieger 在 Code with Claude 大會上向開發者與產業領袖發表 Claude 4，宣布推出 Opus 4 與 Sonnet 4 兩款 AI 模型。攝於 2025 年 5 月 22 日星期四，舊金山。（Don Feria/AP Content Services for Anthropic）
前沿 AI 公司會在災難發生前，還是之後，學會社群媒體公司曾經學到的教訓？這是 Dario Amodei 上個月在一篇部落格文章中提出的問題；該文呼籲科技公司正視 AI 帶來的存續風險。他主張採取雙軌回應：一是立法，這很必要但速度緩慢；二是產業自我治理，強制力較弱，但更靈活。
Anthropic 正把自己定位為當前 AI 治理的領導者，也積極在市場上與其他公司區隔，塑造自己是「倫理」AI 選項的形象。不過 Amodei 說得沒錯：「產業應持續探索能走得更遠的機制」，而 Anthropic 本身也可以做得更多。
我們作為 Oversight Board（監督委員會）成員，基於自身經驗提出一些看法，說明「更多」應該是什麼樣子。Oversight Board 是迄今最大規模的獨立平台監督實驗，由 Meta 在 2019 年因應數場危機而成立。
我們同意立法是必要的，但並不充分。監管會訂出基準規則與執法機制，這對抗衡 AI 威脅至關重要。然而，如 Amodei 所指出，立法速度出了名地緩慢。他在文章開頭，把倡議負責任 AI 的人與監管機關對話，比喻成《魔戒》裡的哈比人與樹鬍交談；樹鬍是中土世界最古老的生物，「光是向另一棵樹問好，就要花上一整天」。這種不匹配是結構性的，不是暫時現象。等到立法者回應了某一代技術，公司早已前進到下一代。即使已有周全的法律，仍需要能更迅速回應的機構。
我們認為，有效的監督至少必須具備三個要素。首先，監督需要一個可信賴的監督機構，其成員必須同時具備獨立性與代表性。這種獨立性必須是決策上的，也就是說，該機構必須能做出對公司具約束力的決定，並要求公司公開回應其不具約束力的建議。它也必須具備財務獨立性，使公司不能透過收回經費，或因成員做出公司不喜歡的決定而加以懲罰，來控制其決策。監督機構必須有權獨立掌控自己的成員組成。更關鍵的是，這個機構必須來自多元的地域與文化背景，因為 AI 和社群媒體一樣，帶來的是跨越國界的挑戰，需要在不同區域都具備正當性。
其次，有意義的監督需要一套可信賴、外部的標準，不會因公司日常便利而被任意更改。這些標準可以包括公司自行制定、並已預先承諾遵守的規範，例如 Meta 建立的社群守則、章程或憲章。但它也可以像監督委員會（Oversight Board）的案例一樣，仰賴國際人權法；這提供了一套完全獨立於公司之外、且已在全球獲得接受的外部價值。
我們的內容直接寄到你的信箱。
謝謝！
最後，有效的監督需要透明度：決定是什麼、如何做成，以及公司如何回應。關於開放原始碼的重要性，已經有許多討論；而我們在這裡需要的是開源治理。發布具實質內容的決定能建立先例、允許批評，並確保對公眾負責。清楚說明決策如何形成、制度如何設計，能展現一個機構已避免被掌控，也能向其他人示範哪些做法有效。
Anthropic 在確保獨立問責方面，做得比許多同業更多。Amodei 舉 Anthropic 的「Long-Term Benefit Trust」（一個獨立治理機構，旨在確保公司堅守其使命）為例，說明這類問責機制。這個信託確實具有創新性，而由信託任命的董事如今也已占董事會多數席次。Anthropic 也採用了公益公司形式，這使公司在法律上有義務在使命與利潤之間取得平衡。此外，Anthropic 近期也發布了一份 Claude 的「憲法」，列出安全 AI 開發的原則。
儘管如此，Amodei 說這裡還需要更多努力，也是正確的。雖然 Anthropic 一直積極談論透明度，但該信託幾乎是在完全不透明的狀態下運作。它的治理協議並未公開，受託人任期僅一年，股東也保有外界理解有限、可推翻信託決定的權力。同樣地，正如我們的同事 Suzanne Nossel 曾寫道，Anthropic 憲法沒有任何能讓它真正具備約束力的執行機制，也沒有承認 Claude 使用者的權利。
在探索有意義且有效的監督應該是什麼樣貌時，我們敦促前沿 AI 公司考慮設立獨立機構，由其作出具體決策，並發布附具理由的意見，說明這些決策是否符合公司宣稱的價值。這些機構至少應具備：不可撤回的資金保障；成員任期固定且交錯安排，且只有具正當事由才能免職；全球代表性；公開發布且附具理由的決定；明確的職權範圍，並能因應公司不斷變動的挑戰與行動義務；以及清楚區分具約束力的決定與諮詢性建議，兩者都必須要求公司公開回應。
我們必須強調，監督委員會（Oversight Board）仍是一項未完成的工作。我們遠非完美。但我們如今已作成 200 多項裁決（Meta 必須受我們要求保留或移除內容的指示約束），以及 300 多項建議（依照委員會的統計，Meta 約有 75% 是全部或部分採納）。而內容審核雖然不同於 AI 治理，許多與約束私人權力相關的結構性原則，卻非常適合移植到其他場域。技術問題固然不同，但如何約束那些對公眾行使龐大權力的私人行為者，這個治理問題在根本上是相同的。
在 AI 脈絡下，這個治理問題正逼近關鍵且迫切的程度。正如 Amodei 所指出，先進 AI 可能造成的傷害包括針對關鍵基礎設施的網路安全攻擊、生物武器，以及逃避民主監督的自主系統。這些風險需要能夠處理技術上複雜、且變化速度快過傳統監管程序的挑戰之治理機制。如果 Meta 的內容決策值得這種程度的獨立監督，AI 的架構決策就至少需要同等程度的問責，而且必須在災難發生之前，而不是之後。