國會限縮了 GUARD 法案,但嚴重問題仍然存在

在遭受批評後,立法者限縮了 GUARD 法案的範圍;這是一項旨在限制未成年人使用特定 AI 系統的法案。先前版本可能廣泛適用於幾乎所有由 AI 驅動的聊天機器人或搜尋工具。修正後的法案更聚焦於所謂的「AI 陪伴者」(AI companions),也就是設計來模擬與使用者之間情感或人際互動的對話系統。

這項改變確實回應了外界對原始提案最廣泛的一些疑慮,不過法案適用範圍仍有若干問題未解。重點是:修正版法案仍然對隱私、網路言論與父母選擇權造成嚴重問題。

採取行動

告訴國會:反對 GUARD 法案

新版 GUARD 法案仍要求提供 AI 陪伴者的公司,實施與使用者真實世界身分綁定、負擔沉重的年齡驗證系統。即使是明確希望青少年子女使用這些系統的父母,也仍會面臨重大障礙。一個家庭可能認為,對話式 AI 工具有助於讓孤立的青少年練習社交互動,或進行無害的創意角色扮演。正在軍中服役、被派駐在外的父母,也可能為年紀較小的孩子設定一個持續存在的 AI 說故事工具。依照修正版法案,這些使用者在自己或孩子使用這些服務之前,仍可能必須接受與敏感個人或財務資訊綁定的強制年齡檢查。

修正版法案也讓重要定義維持不明,同時大幅提高開發者與公司一旦判斷錯誤時所面臨的罰則。國會限縮了 GUARD 法案。但它仍試圖用模糊的法律標準、沉重的法律責任,以及侵害隱私的驗證系統,來解決一個複雜的社會問題。

侵入式年齡驗證仍留在法案中

修訂版 GUARD Act 仍要求提供 AI 伴侶服務的公司,透過「合理的年齡驗證」系統確認使用者為成年人。相較於先前版本,這項法案允許更廣泛的驗證方式,但這些方式仍與使用者的現實身分連結,例如金融紀錄,或行動作業系統、應用程式商店中已完成年齡驗證的帳號。

這種做法仍然引發嚴重的隱私與近用疑慮。數百萬美國人沒有有效的政府核發身分證件、主要銀行帳戶,或穩定使用法案所設想的各類數位身分系統。即使是具備這些條件的人,若要存取線上言論工具就必須進行與身分連結的驗證,也會對隱私、匿名性與資料安全造成實際風險。許多人對年齡驗證系統感到不安是有道理的,也可能乾脆放棄使用這些服務,而不是犧牲自己的隱私與安全。

「AI 伴侶」的修訂版定義也比先前更窄,但在邊界上仍不清楚。法案現在聚焦於會讓使用者「進行情緒揭露相關互動」的系統,或呈現「持續性的身分、人格或角色」的系統。

EFF 肯定提案者注意到,先前的定義可能涵蓋各種並非聊天機器人的 AI 系統,包括網路搜尋引擎。但縮小後的定義,也可能被解讀為適用於各種並非 AI 伴侶的聊天工具。舉例來說,許多現代線上對話系統越來越能辨識並回應使用者的情緒。客服系統,包括早在 AI 聊天機器人出現前就存在、完全由真人支援的客服系統,長久以來就被設計成能辨識挫折感並以同理心回應。隨著對話式 AI 變得更能回應情緒,客服聊天機器人試圖表現同理心的做法,可能會讓它落入這項法案的定義範圍。

更高的罰則,更大的限制近用誘因

修訂版法案也大幅提高罰則。公司,包括小型開發者,不再是每次違規罰款 10 萬美元,而是可能面臨每次違規最高 25 萬美元的罰款,並由聯邦與州政府官員共同執法。

這種責任會形成誘因,讓服務更傾向過度限制存取,特別是對未成年人。尤其是較小型的開發者,可能會認為,與其在模糊標準下承擔嚴厲罰則的風險,不如乾脆完全阻擋年輕使用者、停用對話功能,或根本避免開發某些工具。

推動這項法案的憂慮是真實存在的。有些 AI 系統確實曾與脆弱使用者,包括未成年人,發生令人不安的互動。但正確的回應,應該是針對不良行為者進行精準執法,並制定能保護所有人的隱私法律。修訂後的 GUARD Act 卻以一套侵犯隱私的系統作為回應,對人們在網路上發言、閱讀與互動的權利造成負擔。

國會確實改善了這項法案,但 EFF 對言論、隱私與安全的核心疑慮仍然存在。

採取行動

告訴國會:反對 GUARD Act