舊金山——電子前哨基金會（Electronic Frontier Foundation，EFF）今天依《資訊自由法》（Freedom of Information Act，FOIA）對美國醫療保險與醫療補助服務中心（Centers for Medicare & Medicaid Services，CMS）提起訴訟，要求取得一項跨州計畫的相關紀錄；該計畫正使用 AI 評估醫療照護申請。
「把治療判定交給演算法，可能造成必要醫療照護被不當、甚至帶有歧視地延誤或拒絕，」EFF 的 AI 與知識取得法律專案主任 Kit Walsh 表示。「鑑於這些嚴重風險，公眾需要透明度，但至今並未得到。我們提告，是為了取得迫切需要的答案，了解 Medicare 的 AI 實驗到底如何運作。」
這項試辦計畫由 CMS 署長 Mehmet Oz 博士去年宣布，名為 WISeR（Wasteful and Inappropriate Service Reduction，浪費與不適當服務減量），使用 AI 評估 Medicare 受益人的事前授權申請。事前授權過去在傳統 Medicare（original Medicare）中相當少見；它要求醫療服務提供者在提供特定治療或服務之前，先取得病患健康保險方的事先核准，作為保險給付的條件。
遺憾的是，外界對 WISeR 使用的 AI 演算法如何運作所知甚少，包括它們仰賴哪些訓練資料。目前也仍不清楚 WISeR 是否設有任何防範系統性缺陷的保護措施，例如演算法偏誤、隱私侵害，以及錯誤拒絕照護。
醫療照護專家、照護提供者與立法者都已提出警告：若 WISeR 在沒有必要保護措施的情況下仰賴 AI，可能會對病患造成嚴重傷害。儘管面臨廣泛批評，WISeR 仍於 1 月在六個州上路；根據一項估算，可能影響多達 640 萬名 Medicare 受益人。
WISeR 在設計上會鼓勵簽約公司違背病患的最佳利益，拒絕事前核准。廠商的報酬有一部分取決於他們拒絕的醫療服務量，並且有權取得相關節省金額最高 20% 的分成。WISeR 推出短短幾週後，醫院和其他醫療照護提供者就 開始通報 照護核准延遲、溝通落差，以及行政負擔增加等問題。
今年稍早，EFF 向 CMS 提交《資訊自由法》（FOIA）申請，要求取得與 WISeR 相關的紀錄。除其他紀錄外，該申請也要求提供參與 WISeR 的軟體廠商協議、與廠商技術中任何準確性、偏誤或幻覺測試相關的紀錄，以及與 WISeR 和參與廠商的任何稽核、監督或評估相關的紀錄。截至目前，CMS 尚未向 EFF 提供任何這些紀錄。EFF 的 FOIA 訴訟要求立即處理並公開這些紀錄。
「大眾有權進一步了解那些左右其醫療照護決策的演算法，」EFF 專職律師 Tori Noble 表示。「若沒有更高的透明度，病患、醫療照護提供者和政策制定者將持續被蒙在鼓裡。」
EFF 感謝史丹佛法學院 Juelsgaard Intellectual Property & Innovation Clinic 協助準備本訴訟。起訴狀：https://www.eff.org/document/complaint-eff-v-cms-medicare-wiser-foia