為何在治理軍事 AI 時，恐懼很重要
聯合國秘書長安東尼歐．古特瑞斯（Antonio Guterres）於 2026 年 7 月 1 日星期三在聯合國總部舉行的記者會上，就聯合國發布一份關於人工智慧的報告發表談話。（美聯社）
今年 5 月，美國與中國官員重返談判桌，討論人工智慧這項議題。其在本世紀的重要性，可比擬核武在冷戰時期的地位。但 AI 帶來的是一種根本不同的挑戰。它的能力難以衡量、演進速度異常迅猛，且日益與經濟競爭力、軍事力量，以及少數科技公司的戰略利益緊密交織。在缺乏共同規則的情況下，兩個 AI 超級強權面對共同風險的局面，構成二十一世紀最迫切的治理挑戰之一。
在這些風險之中，自主 AI 系統愈來愈多被用於軍事決策，尤其值得關注。這類系統不同於傳統武器，可能以超出人類理解與有效監督的速度與複雜程度運作。隨著機器在監視、目標鎖定與戰場行動中扮演更大角色，出錯、意外與非預期升高衝突的風險也隨之增加。若關於是否動用武力的關鍵決策可能被交由演算法處理，將對問責、人類控制與國際安全提出極為深刻的問題。簡言之，極端的軍事 AI 風險，包括自主系統在缺乏有效人類監督下運作時，可能引發的高後果事件。
歷史顯示，治理往往是在回應被感知為極端的風險時才逐漸形成。核武軍備管制、環境監管與公共衛生機構，都是在社會認知到相關威脅的規模之後，才獲得支持。對核災難的恐懼有助於動員大眾支持軍備管制協議；同時，來自各國政府、科學家與公共衛生組織的國際壓力，也促成了 1972 年的《生物武器公約》（Biological Weapons Convention, BWC），該公約禁止生物武器與毒素武器的研發、生產、取得、轉讓、儲存與使用。這些例子顯示，科學界的憂慮與國際合作，如何能為高風險技術建立全球規範。
對自主軍事 AI 的類似憂慮，或許也會為新的監督形式與國際合作創造政治條件。這些憂慮在上週已表露無遺，當時聯合國秘書長 António Guterres 呼籲禁止「殺手機器人」（killer robots）。若缺乏對風險的共同理解，建立防護措施的努力可能就無法具備跟上技術變化所需的急迫性。我們主張，哲學可以幫助釐清治理軍事 AI 所需的倫理基礎，趕在其風險變得不可逆之前。
當對手開始對話
華府與北京都意識到先進 AI 的風險，但雙方都還沒準備好放慢追求科技領導地位的腳步。兩邊都擔心，若自己先節制，反而會讓對方取得戰略優勢。然而，儘管有些人這麼主張，AI 並不是一場有終點線的競賽。把它框定成競賽，反而可能升高緊張，並增加雙方原本都想避免的那些風險。正如核子時代所顯示的，競爭並不會消除合作以防止災難的必要性。爭奪先進 AI 領導地位的競逐正在加劇。呼應冷戰時期，如今掌握這項技術、率先達成「超級智慧（superintelligence）」已被視為攸關生存與嚇阻的問題。然而，愈來愈多人也意識到，這場競爭可能失控。我們迫切需要降低風險的機制，以防止意外、網路攻擊，以及自主系統失靈。
也許最能說明問題的事實是：當競爭中的強權開始討論 AI 的危機管理協議時，這個議題顯然已經不再只是科幻小說的範疇。先進系統可能被用於極端地緣政治衝突的可能性，已成為國際安全現實考量的一部分。然而，我們要如何確保錯誤不會發生，或者即使發生，也不會透過連其創造者都只部分理解的系統被傳遞並放大？對於內部運作機制尚未被我們完全理解的技術，我們又要如何保證其被負責任地使用？是否有可能將 AI 在戰場上的使用控制在安全範圍內？
Joseph Weizenbaum 是麻省理工學院（MIT）的電腦科學家，1966 年創造出 ELIZA，也是最早批判 AI 及其軍事應用的人之一。對他而言，AI 太過重要，不能只交由電腦科學家掌握，還需要哲學家、社會科學家及其他領域學者共同參與。Weizenbaum 警告，AI 是一種軍民兩用技術，民用領域的進展終將無可避免地被改作軍事用途。他擔心，為了把效率最大化而設計的系統，會削弱人的判斷、稀釋責任歸屬，並降低使用 AI 技術的門檻。
近年的衝突已證實他許多憂慮。在烏克蘭與加薩的戰爭中，都可看出 AI 在目標鎖定與戰場自動化上的角色正不斷擴大。這些案例顯示，AI 正在推動戰爭自動化，同時也對致命軍事行動中的責任歸屬與人類控制權，提出深刻疑問。儘管聯合國（UN）一再示警，全球至今仍未對自主武器建立管制，這意味著 Weizenbaum 數十年前所預見的軍事 AI 軍備競賽，可能早已展開。
我們的內容，直接送到你的收件匣。
謝謝你！
對法國哲學家 Gilbert Simondon 來說，每一種技術物件都可視為人類在世界中行動的延伸與放大。當我們談論與戰爭相關的技術時，歸根究柢，談的是人類破壞與威懾能力的擴張。當前的問題在於，AI 拉大了行使破壞性力量的人，與承受其後果的人之間的心理與道德距離。若如普魯士軍事理論家 Carl von Clausewitz 所 주장，戰爭總是在遮蔽判斷的迷霧中展開，那麼 AI 可能會因為將敵對行動的辨識與分類自動化，而讓這層迷霧變得更濃。從這個意義上說，它自動化的不只是任務，還包括人類認知本身的一部分。
如果政治深受科技形塑，那麼 Andrew Feenberg 與 Langdon Winner 等思想家早已指出，科技總是內嵌著政治理論。值得記住的是，亨利．季辛吉是在 1957 年出版其具影響力的研究著作 核子武器與國際政治 後，才首度在美國政策圈嶄露頭角。二十世紀的技術變遷與二十一世紀的政治挑戰之間，有著清楚可見的對照。AI 在戰場上的運用，凸顯了 AI 監管中的一個核心議題：災難性風險的治理。
主張介入的理由
這並不是在談論機器自行決定要消滅人類的那種幻想。相反地，這裡關注的是，人類使用先進 AI 系統可能造成的極端全球性危害。核心問題在於，在武裝衝突等極端情境下，這些技術可能對人類決策者帶來的認知轉變。現今的 AI 模型已經能大幅提升惡意行為者對醫院、銀行、電網及其他關鍵基礎設施發動網路攻擊的能力。與自主式 AI 代理及生物武器研發相關的威脅，也早已不再只是紙上談兵。
因此，國家介入已經有明確正當性。當一項技術具備戰略與軍事上的重要性時，對它的管制就不再只是經濟議題，而成為全球安全問題。眼前的挑戰，是在技術競爭的邏輯讓這種參與變得不可能之前，建立能讓社會共同參與治理先進 AI 的民主監管制度。這將需要借助哲學反思，不只是為了更好地理解 AI 的本質及其與個人的關係，也是為了思考民主社會如何決定自己願意承擔哪些風險。
1979 年，當時蘇聯由 Leonid Brezhnev 領導，而美國仍深受 Nixon 與 Kissinger 的戰略遺緒所形塑，蘇聯陣營入侵了阿富汗。同一年，德國哲學家 Hans Jonas 出版了 The Imperative of Responsibility: In Search of an Ethics for the Technological Age。Jonas 主張，現代科技已成為對人類生命延續本身的威脅，而人類唯一可靠的羅盤，就是對危險的預先察覺。在一個愈來愈由強大技術所界定的時代，對風險的前瞻能力，成了保存人性的必要條件。恐懼遠非只是一種負面情緒，它更承擔著關鍵功能：提醒我們、引導我們遠離可能致命的威脅。
在控制失手之前
透過設想我們選擇可能帶來的最壞後果，我們會更有能力辨認出什麼才是真正利害攸關之處，以及哪些必須受到保護。Jonas 主張，在一個被科技改變的世界裡，與其辨識我們希望達成的善，更容易透過辨認我們必須避免的惡來保護人類。這個洞見對軍事 AI 與自主武器尤其切題。對於 AI 系統最終可能在缺乏有意義的人類控制下自行選擇並攻擊目標的憂慮，不應被當成危言聳聽而一筆帶過。相反地，意識到這些風險，能夠動員社會，並促進圍繞界線、責任與治理機制的民主辯論。
然而，安全風險只是開端。更大的危險在於，戰爭中的自主性可能削弱人類監督，使衝突變得更快、更自動化，也更具破壞性。因此，軍事 AI 的監管不能只交由政府、軍隊或科技公司處理。它必須納入公民社會，並在自主武器的極端風險超出我們控制能力之前，就建立起限制這些風險的規則。