揭開人權與非營利組織的 AI 治理危機

2025 年 11 月 2 日，星期日，巴勒斯坦人在加薩走廊南部汗尤尼斯（Khan Younis）搬運由世界糧食計劃署（World Food Programme, WFP）發放的食物箱。（美聯社照片／Jehad Alshrafi）

今年 6 月初，在可能是截至目前為止已知最大規模的人權、人道援助受益人資料外洩事件中，針對世界糧食計劃署（WFP）的一起網路攻擊曝光了加薩約 60 萬戶家庭的個人資訊，包括尋求糧食援助者的姓名、身分證號碼、電話號碼與位置資料。對一個早已承受戰爭、流離失所與高度脆弱處境的人口而言，這起事件沉重揭示了人道組織在蒐集與保護敏感資料上的失職，也揭露了當它們失敗時，究竟由誰來承擔代價：正是這些組織本應保護的人。

這起事件發生之際，人道組織正迅速擁抱 AI，卻往往沒有建立管理相關風險所需的治理架構。整個人道援助領域中，援助工作者採用 AI 工具的速度，已經快過其所屬組織能夠加以治理的速度，而這理應引發高度警訊。第一份針對此領域 AI 使用情況的全球研究調查了分布於 144 個國家的 2,539 名援助工作者，發現其中 93% 曾使用 AI 工具，70% 每週或每天都依賴這些工具，另有 69% 明確使用 ChatGPT 這類商業產品，而且幾乎都是出於個人主動選用，而非由雇主提供。然而，只有 22% 的受訪者任職於訂有正式 AI 政策的組織。由於 75% 的受訪者位於撒哈拉以南非洲、中東與北非（MENA）以及亞太地區，也就是人道應變的第一線，這些結果顯示，AI 正在人道行動中逐漸扎根，但確保其安全且負責任使用所需的治理架構，卻遠未到位。

更廣泛的非營利部門也沒有比較好。研究顯示，82% 的非營利組織表示正在使用 AI，但儘管採用已相當普遍，制定正式使用規範的比例仍不到 10%。這個落差被稱為人道 AI 悖論（humanitarian AI paradox），意思是 AI 的採用速度，正在這些部門中迅速超越治理機制的建立。當這些部門的治理失靈時，付出代價的，就是那些早已在為生存奮戰的人，也就是這些組織本應保護、卻對整件事毫無發言權的人。

AI 治理危機核心中未曾同意的受益人

在每一個未受治理的人道或非營利場域 AI 工具背後，都有這樣一位受益人：他們從未同意讓自己的資料被 AI 處理。長久以來，人道行動都建立在蒐集受困者即時且可靠資訊的基礎上。難民不會去協商自己資料蒐集的條件。飢荒倖存者、人口販運受害者，或流離失所的兒童也一樣不會。受益人幾乎不可能對資料蒐集給出有意義的同意，因為他們處於極度脆弱的位置，根本沒有真正的選擇。同意在這裡起不了作用，因為受益人所面對的危機，往往意味著他們實際上沒有不參與的選擇。癥結在於：一個除了同意之外別無選擇、才能獲得救命服務的人，無法提供有效的同意。再把 AI 治理缺口疊加到這種動態之上，風險只會進一步加劇。

為了讓這些領域處理的資料規模更有具體概念，聯合國難民署（UNHCR）已為超過 1,900 萬人建立登錄資料，其中包括 1,580 萬張臉部照片；而世界糧食計畫署（WFP）則在 59 個國家持有超過 3,100 萬人的紀錄。正如近期加薩資料外洩事件清楚顯示的那樣，這些紀錄一旦缺乏妥善保護，後果足以改變人生。受託保護全球最脆弱人群的組織，既承受不起薄弱或零碎的 AI 治理，也不能讓自己成為無法妥善管理所託付資料的保管者。

AI 如何在沒有人決定要用的情況下進入體系，以及它產生了什麼

等到組織意識到 AI 在其運作中被使用到什麼程度時，它往往早已重塑工作流程、影響重大決策，並處理了屬於全球最脆弱人群的資料，而這一切都沒有留下稽核軌跡、沒有風險評估，也缺乏有意義的問責機制。每一個導入點都有各自的失敗風險。

  • 員工使用「影子 AI」會暴露敏感資料：個別工作人員在未獲組織知情或批准的情況下使用並部署 AI 工具。2023 年 12 月，外界得知澳洲維多利亞州家庭、公平與住房部的一名個案工作者，曾使用 ChatGPT 起草提交給兒童法院的保護申請報告，將姓名、風險評估和案件細節輸入一個消費級 AI 工具。最後產出的報告包含不正確資訊，淡化了兒童面臨的風險，且所用語言也與部門指引不一致。這些資料被傳送給境外公司 OpenAI，落在政府控制範圍之外，因而違反隱私法。調查人員發現，這名工作者可能在一年內多達 100 件兒童保護案件中使用了 ChatGPT。與此同時，該部門近 900 名員工，也就是 13% 的人力，在 2023 年下半年曾使用 ChatGPT，卻沒有接受任何訓練或倫理指引。
  • 對免費 AI 工具的依賴： Access Now 指出，影子 AI 有一個大多被忽視的面向：工具層級問題。許多較小型的人道組織，尤其是位於全球多數（Global Majority）的組織，仰賴免費或低成本的 AI 服務，而這些服務缺乏企業級方案所具備的隱私保護、治理控制與資安保障。資源限制會影響取得較安全 AI 基礎設施的能力，而服務全球最脆弱族群的組織，可能因此不成比例地暴露在保護較少的 AI 系統相關風險之下。
  • 正式採購： 在未納入內部 AI 專屬風險標準與稽核義務的情況下採購工具。2025 年底，調查人員對愛爾蘭司法部部署的 AI 聊天機器人 提出疑慮，其中包括一個向尋求庇護者提供法律程序資訊的系統。批評者主張，這些系統是透過既有技術合約導入，而不是經過專門的 AI 採購與治理流程。獨立測試發現，這些聊天機器人可能會針對敏感的法律事項產生不正確或誤導性的資訊。這起案例已成為相關辯論中的重要例子，用來討論僅靠採購與合約合規，是否足以構成對高風險 AI 系統的適當監督。
  • 軟體授權： 2023 年 12 月，Dropbox 為加入其 AI alpha 測試的付費用戶，預設開啟了「第三方 AI」設定；當使用 AI 功能時，檔案內容會傳送給 OpenAI，而且有些用戶表示，他們並不知道自己已被納入測試。Dropbox 事先在 加拿大、英國與歐盟 關閉了這項預設，因為在這些地區，資料保護法讓「預設加入、需自行退出」更難站得住腳；這也意味著其他地方，包括全球南方的大多數地區，除非有人自己找到切換開關，否則都是預設加入。這種差別待遇，正好讓監管保障最薄弱的地方承受後果，而那些地方的人道與非營利組織往往沒有專責的隱私團隊，卻在處理世上最敏感的一些資料。
  • 合作安排：執行夥伴與捐助方引入具 AI 功能的工具，把模型風險轉嫁給接收這些工具的組織；但這些組織既未參與選用，也未參與設計。2024 年時，OpenAI 還是一家非營利組織，並與國際救援委員會（International Rescue Committee）建立人道合作關係，為危機地區的兒童打造 AI 工具。到了 2026 年初，它已成為一家公益公司，同時擁有一份價值 2 億美元的美國國防部合約，並與為軍方打造自主無人機與武器系統的 Anduril 建立合作關係。2024 年選擇由 OpenAI 來服務流離失所兒童的組織，並沒有選擇後來這一切，而是被迫一併承受。標準的供應商盡職調查，沒有任何機制能捕捉這類轉變。
  • 供應商造成的漏洞事件：供應商會透過例行更新，將 AI 嵌入既有平台，卻沒有義務通知簽約的組織。在有史以來針對人道組織規模最大的資安事件之一中，2022 年 1 月，紅十字國際委員會（International Committee of the Red Cross, ICRC）遭到攻擊，途徑是某家已通過所有標準審查的第三方供應商。入侵點是一個 Zoho 驗證工具中未修補的漏洞，且在超過兩個月的時間裡未被察覺地遭到利用。這起事件外洩了超過 51 萬 5 千名處境極度脆弱者的機密資料，包括因衝突而失散的家庭、失蹤者、分布於 60 個協會中的受拘留者，並迫使一項每天服務 12 人的家庭重聚計畫下線。ICRC 幾乎把所有該做的事都做對了，但那仍然不夠。

補上 AI 治理危機的第一步

第一步，是先知道實際上有哪些 AI 正在被使用。除了那些已正式導入的工具之外，還必須盤點所有正在使用中的影子工具，包括嵌在既有平台裡、帶有 AI 強化功能的功能模組，員工裝置上運作的免費消費級工具，以及在供應商合約之內運作的第三方服務。大多數組織都會對自己盤點出的結果感到意外。唯有先完成這樣的盤點，才有可能知道：究竟有哪些關乎受益人的決定，早就在沒有人真正決定要這麼做的情況下，被替他們做掉了。

接下來的問題是，員工是否具備能力，去因應他們所發現的情況。少了實際操作技術的人，技術治理就會失靈。組織必須持續投入、依角色設計 AI 素養訓練，讓員工有能力辨識 AI 產生的錯誤、理解自動化輸出中的偏誤風險、質疑供應商的說法，並在即時的 AI 決策中落實組織價值。這對直接與受益人接觸的第一線人員尤其迫切，因為受 AI 影響的決策，在這裡承載的是最高的人身風險。若沒有真正理解負責任的 AI 使用在實務上長什麼樣子的員工，再完整的盤點、再嚴密的合約條款、再多的資助方要求，都無法帶來安全。

供應商合約是必須補上的一大缺口。現有多數協議在撰寫時並未將 AI 納入考量。合約中需要明訂：客戶資料不得用於訓練 AI 模型、產品若有重大變更必須事先通知、供應商 AI 供應鏈中的第三方關係必須揭露，以及資料外洩通報時程必須具有法律可執行性。更關鍵的是，正如 Access Now 採購報告 所建議，應要求供應商將所有新演算法功能的預設機制，從「退出（opt-out）」改為「加入（opt-in）」，也就是說，未經客戶主動核准，不得在既有系統中新增任何 AI 功能。若供應商拒絕接受這些條款，這種拒絕本身就是重要資訊。 CDAC Network 的 SAFE AI 框架 與 NetHope《人道 AI 行為準則》 都提供了可據以建立、以權利為本的合約範本。

最後，資助方除了推動採用，也必須把資源治理列為優先事項。當前的誘因結構獎勵部署，卻對監督投入不足，於是才形成我們現在看到的局面。捐助者應將 AI 治理標準列為資助條件，並把建立這些標準的成本納入補助之中。由多個聯合國機構於 2025 年 11 月發布的 《關於 AI 與兒童權利的聯合聲明》 呼籲各國政府與國際組織，對所有 AI 系統採取以兒童權利為基礎的治理方式；這項標準也可直接套用到本文通篇記錄的受益人群體。聯合國商業與人權工作小組 已記錄全球在尊重權利的 AI 採購上存在的立法缺口。這些框架需要的是執行基礎設施，而不只是口頭背書。