司法對 AI 治國敲響警鐘
2025 年 4 月 5 日，反對川普政府的示威者聚集在華盛頓特區美國國會大廈前。（讀賣新聞經 AP Images）
在總統第二任期甚至尚未開始前，川普政府就已經全力投入使用 AI 來大砍聯邦法規。2024 年 11 月，Elon Musk 與 Vivek Ramaswamy 提出一套由 AI 驅動去管制的願景；而自 2025 年 1 月以來，DOGE（政府效率部，Department of Government Efficiency）以及其他聯邦機關也試圖使用大型語言模型，在幾乎沒有任何人為監督的情況下撤銷大批法規。這種走到極致的策略，會為了速度而犧牲聯邦監管人員審慎細緻的工作。
今年 5 月，一家聯邦法院給了政府一記現實提醒。該案 American Council of Learned Societies v. National Endowment for the Humanities，涉及一項與 DOGE 去管制推動密切相關的行動：2025 年大規模取消 NEH 補助。
訴訟過程中，浮現出一段令人不安的情節。Donald Trump 總統就職並下令終止對「多元、公平、共融與無障礙」以及「性別意識形態」的資金支持後不久，兩名年輕的 DOGE 工作人員來到 NEH。他們把數百筆 NEH 補助的描述餵進 ChatGPT，並使用這個提示詞：「以下內容是否與 DEI 有任何關聯？」
這個聊天機器人產生了荒謬的輸出。舉例來說，它標記了東北部一間捕鯨博物館的補助案。罪名是：該博物館希望「創造一個具包容性且有影響力的體驗，並符合 DEI 原則」。同樣被標記的，還有一項研究塑膠產業如何影響全國各地市政政策的學術研究。ChatGPT 的實質分析僅限於：「#DEI」。
比這種前後不通更令人不安的是，在許多案例中，ChatGPT 將補助案歸類為「DEI」的依據，僅僅是因為補助說明提到了特定種族或性別。例如，它標記了一部關於科爾法克斯大屠殺（Colfax Massacre）的紀錄片補助，理由是該片「探討了一起重大影響黑人公民權的歷史事件」。其他終止補助的理由還包括：「本提案旨在擴展對奴隸制度時期黑人生活與地理空間的理解」，以及「本書探討一項由黑人主導的計畫」。
DOGE 背書了這種粗糙的做法。一名 DOGE 成員作證表示，一部揭露大屠殺期間猶太女性遭奴役勞動的紀錄片，其補助遭取消是恰當的，因為它「特別聚焦於猶太文化」以及「該文化中女性的聲音」。最後，DOGE 照單全收 ChatGPT 的輸出，將其整批採納為終止超過 1,400 項補助的依據。
法院多次認定 DOGE 的刪減違憲。基於所謂與「不受歡迎的思想」有關而終止補助，違反第一修正案；而因補助案提及特定種族、性別或其他受保護類別就取消補助，也違背了憲法對平等保護的承諾。
我們的內容，直接寄到你的信箱。
謝謝！
DOGE 使用 ChatGPT 一事，與法院的分析有關。DOGE 與 ChatGPT 之間對話的直白，甚至可說坦率，讓政府的歧視動機變得清楚。使用者明確要求聊天機器人進行歧視；聊天機器人也照做了。舉例來說，請回想那筆被取消的補助，理由是 ChatGPT 指出它「探索了一個由黑人主導的專案」。這種關鍵鐵證，在憲法訴訟中極為罕見。
至於政府方面，則試圖與 ChatGPT 的輸出切割。政府堅稱，與 ChatGPT 的這段往來並沒有污染最終的終止決定，而只是提供了「脈絡」。法院理解政府的說法等於是在說：「不是我，是 ChatGPT」，並駁回了這項抗辯。法院認定：「在此，DOGE 選擇了 AI 工具、設計了提示詞，並定義了實際運作的、以觀點為基準的標準：一項補助是否與 DEI 有任何關聯。」DOGE「採用了 ChatGPT 生成的分類與支持理由，來正當化一筆又一筆補助的終止」，而法院裁定，「就憲法目的而言，這些分類就是政府自己的分類。」
這正是 Learned Societies 的關鍵洞見：LLM 是工具。就像任何其他工具一樣，它們可以被審慎使用，也可能被不負責任地使用。當然，LLM 不同於法律研究資料庫、文書處理器或筆；它們具有生成能力，可以生成文字、問題的答案，以及理由說明。因此，無論在資金補助或監管脈絡中，政府機關都可能忍不住把 LLM 當成它們本身就是決策者來看待。這可能意味著像 DOGE 那樣，反射性地認可或橡皮圖章式批准 LLM 的輸出。這也可能反映出 Learned Societies 所暗示的一種更深層的範疇錯誤：把 LLM 當成它本身就是權威與專業知識的來源，也就是法院所說的「獨立、介入其間的行動者」。
把 LLM 視為決策者的政府機關，無論是出於真正相信它們產出的高度仿真文字，還是想用倉促寫成的規則來「灌爆議程場域」，都會讓自己暴露在重大風險之中。正如 Learned Societies 鮮明呈現的那樣，LLM 很容易說出不恰當且錯誤的內容，也已被證明不適合反駁誤導性或惡意的指令。把決策外包給具有這些傾向的工具，顯然會造成問題。政府機關的規範會決定許多事情，包括美國金融體系的完整性，以及交通網絡的安全，因此應該建立在充分根據、審慎思考與合理判斷之上。過度依賴 LLM 也會製造法律問題，正如我先前在 Tech Policy Press 說明過的。除其他問題外，政府機關任意且缺乏支持的行動是違法的。
這並不是說監管機關不能以負責且有成效的方式使用大型語言模型（LLM）。事實上，LLM 可能很適合機關政策制定者必須執行的許多工作：例如，檢視相關文獻、梳理特定議題上的不同觀點、找出監管提案草案中的弱點，以及草擬法律與政策分析。但是，就像任何其他用於監管工作的工具一樣，LLM 應該被部署在能發揮其優勢、並針對其弱點設計防護措施的流程中。這意味著，如我在其他地方所寫，機關必須訓練員工了解 LLM 已知的限制，並制定流程來減輕 LLM 傾向於迎合與產生幻覺的問題。最重要的是，機關使用 LLM 的程度，應限於可課責的機關官員能夠實質審查並驗證其成果的範圍。如果機關實際上無法判定模型是否產出了準確且可靠的結果，那麼 LLM 可能就不適合用於該項任務。隨著各機關制定 LLM 使用的最佳實務，Learned Societies 判決應該作為一份「不要這樣做」的手冊。
LLM 在聯邦行政中必然會有重要應用，但前提是要有正確的防護措施。Learned Societies 是一記警鐘，提醒我們，把監管決策外包給 LLM 的計畫是誤入歧途的，而且至少可以確定的是，這條路行不通。