如果 AI 聊天機器人誤導你，該怪誰？—— 布萊斯·施奈爾與Nathan E. Sanders
如果 AI 聊天機器人誤導你，該怪誰？
德國法院最近裁定Google需對其AI搜尋摘要的內容負責。這是我們需要的問責制
本月初，一間德國法院判決 Google需要為其AI搜尋摘要的內容負責。法院拒絕了如「使用者可以自行查證」等辯護，並認為一般人對於「透過 AI 生成的資訊不應盲目信任」已有普遍認知，指出這些摘要反映的是公司的行為，「最重要的是表達Google的商業活動」。
這起事件是網路上傳播多年爭議中的最新衝突。在歷史上，網路出版可分為兩類資訊發布者：承載者與出版者。電話公司屬於承載者。它會傳輸你所說的一切，即使討論犯罪行為也無不可。文字就是文字，電話公司對你選擇的言論一無所知，「也不需為之負責」。而報紙則是出版者。它決定要刊登的內容與文章中引用的引述。如果這些文字或引述涉及誹謗或其他非法行為，則其需承擔責任。
網路公司長期以來試圖遊走在這兩個端點之間。它們在有利時聲稱自己是承載者，也有利時宣稱為出版者。1996年《通訊法案》第230條將這種遊走型態固定下來：該法案保護網路服務提供者免於對平台上的他人言論承擔責任：「任何資訊內容提供者所提供的互動式電腦服務的供應商或使用者，不得被視為其平台上其他資訊內容提供者的發布者或發言人。」
For years, 關於如何將這項法律應用於社群媒體平台的爭論一直持續不斷。當平台僅僅按照反向時間順序顯示使用者的貼文和留言時，它們基本上充當了中繼者，只是轉發人們的言論而不顧內容。然而，像 Facebook 這類的新一代平台透過演算法精心策劃了動態牆，從而扮演了更像是出版商的角色，對誰能看到什麼進行編輯決策。一些專家認為 230 條款已經走得太遠，並需要改革（[參考] Harvard 商學院文章），而另一些人則認為它是維繫現代網路運作的基石（布魯金斯學會文章）。
Google 的 AI 摘要相對不夠細緻。它與傳統搜尋方式不同，後者法院認為涉及對第三方編輯內容的歸檔與提供存取。AI 摘要不僅僅是引用並重新發布來自不同網站的文字；相反地，透過 AI 摘要，系統會重寫他人的文字，像報紙文章或原創論文一樣行使編輯裁量權。
這不僅限於 Google 的 AI。想像一個提供 AI 摘要的餐廳評論網站、一份總結法律與政府程序的網站，或者一家使用 AI 總結其出版品的傳統出版社。準確性至關重要，而責任則是公眾在當公司因造成傷害而出錯時，可以要求準確性並追究其責任的最重要方式之一。
兩年前，Air Canada 學習了這個教訓。其 AI 客服聊天機器人曾承諾提供折扣，但隨後該公司聲稱不負責該承諾，並在法庭上辯稱，因為該聊天機器人是一個「獨立的法律實體」，應對自己的行為負責。法院最終支持旅客（https://www.bbc.com/travel/article/20240222-air-canada-chatbot-misinformation-what-travellers-should-know），認為航空公司對於其聊天機器人的言論也負有相同責任，就像對待自己網站上的內容一樣。這裡的潛在先例顯示，企業對於所使用的 AI 客服聊天機器的行為負有注意義務。
AI 客服代理人是其所屬個人或組織的行為體，應在法律上被視為此類角色。如果一家公司聘請人類撰寫者撰寫其摘要，該公司將對這些摘要中的不準確性負責。同樣地，若某公司的自然人在公司名義下簽訂契約，該公司也需遵守這些條款。而若醫生提供危險的醫療建議，他們將為醫療疏失負責。
為什麼要聘請人類撰寫者、律師或醫師，當 AI 不僅更便宜，還能在出錯時讓僱主免責？
若允許企業以 AI 出現錯誤為藉口，在上述情況下隱藏責任，這將對公司造成巨大不公，並引入鼓勵企業不良行為的災難性誘因。為什麼要聘請人類撰寫者、律師或醫師，當 AI 不僅更便宜，還能在出錯時讓僱主免責？
我們正快速邁向一個 AI 驅動的聊天機器人將成為所有企業通訊管道盡頭的世界。對於想要履行承諾的公司來說，這並不合理讓其能夠選擇履行承諾，又可以隨意否認；這樣會產生極大的不確定性與風險。
Visa 與 OpenAI 最近宣布了一項合作關係 partnership，旨在建立個人 AI 代理人，其中一項重要功能是代為進行購物。這只是眾多類似計畫中的一個，企業正競相為我們提供 AI 助理。當 Visa 的 AI 未經同意就以你的名義進行購買時，誰來承擔責任？如果 Visa 不願負責，為什麼我們會信任這個系統？正確分配責任對此類技術的運作至關重要。
如果德國的裁決成立，這可能對 Google 的 AI 摘要功能造成毀滅性影響。今年初的測試發現，該功能在約 10% 的時間裡出現錯誤。考慮到每年超過 5tn 次搜尋量，這相當於每秒 16,000 個錯誤摘要。雖然大多數這些錯誤是無害的，但一些可能會造成傷害、傳播不實資訊或引發法律責任。
今年初，Google 的 AI 摘要錯誤地將加拿大小提琴手 Ashley MacIsaac 標記為性犯罪者 falsely identified。他在安大略省提起的訴訟仍在進行中。如果 Google 被迫投資以改進其 AI 系統，直到這類錯誤變得極為罕見，那麼對使用者和搜尋內容的相關方（如 MacIsaac）來說，這是個有利的結果。
更廣義地說，責任問題可能導致許多當前作為代理人使用的場景無法商業化。企業可能無法以盈利的方式營運 AI lawyers、doctors 和媒體 influencers。如果他們因所說和所做的事負責，企業將難以盈利。
我們對於這個結果是沒問題的。法律並沒有要求我們必須為了那些根本不值得信任的人工智慧系統而提供便利，就像我們不需要為那些不值得信賴的人類系統提供便利一樣。任何公司如果無法對其代理人所說的話負責——無論這些代理人是人類還是人工智慧——都不應該獲得使用者的時間或金錢。