美俄竟罕見密室聯手!強刪全球AI武器「人類審查」防線
瑞士日內瓦聯合國萬國宮。美國《華盛頓郵報》披露,美俄代表本月初在此進行的致命自主武器談判最後階段閉門修改草案,刪除多項AI武器安全規範。(路透資料照)
在烏克蘭戰場上相互對抗的美國與俄羅斯,卻在聯合國一場攸關致命自主武器規範的國際談判中罕見聯手。全球數百名外交官本月初在瑞士日內瓦開會,試圖推進首份規範致命自主武器使用方式的國際協議草案;然而知情人士與外交文件揭露,美俄兩國代表在最後階段罕見聯手修改草案,共同刪除了包括「發動攻擊前須由人類審查目標」在內的多項關鍵安全規定。
《華盛頓郵報》26日獨家報導,這場閉門協商發生在談判最後一天。知情人士指出,美俄外交官在隨後約15小時的密集磋商中,聯手對文件展開大幅修改,逐一刪除各國原先設計用來約束致命自主武器的多項保障條款。
知情人士透露,美俄代表團刪除了要求AI武器系統必須以「可預測」和「可靠」方式運作的文句,並移除了使用AI武器時必須納入「倫理考量」的條款;更具爭議的是,兩國進一步刪除了要求AI生成的軍事目標在發動攻擊前,必須由人類進行審查的規定。
鏡頭關閉 美俄律師團密集修改
知情人士指出,這項修改過程是在關閉聯合國現場鏡頭、請走非政府組織觀察員的閉門會議中進行。美俄雙方各自派出約10名法律專家,人數接近其他代表團的兩倍,修改速度之快,讓部分代表團難以招架,一名與會人士甚至形容過程宛如「被千刀萬剮」。
美國國務院、俄羅斯外交部及聯合國均未回覆《華盛頓郵報》的置評請求。
《華盛頓郵報》指出,此次條文遭削弱之際,美國國防部也正加速將AI技術納入戰場策略。報導提到,AI在軍事上的應用已逐步進入實戰,美軍在美伊戰爭爆發後24小時內,便曾利用Anthropic的聊天機器人辨識近1000個打擊目標;以色列在加薩走廊的軍事行動同樣高度依賴AI系統。
儘管OpenAI執行長阿特曼(Sam Altman)與Anthropic執行長阿莫迪(Dario Amodei)等人近期在聯合國呼籲建立全球AI監管架構,但川普政府對國際管制抱持強烈抗拒態度。美國總統川普日前在聯合國大會上便公開表示,美方完全拒絕任何企圖掌控AI的「全球主義方案」。
人權組織「人權觀察」(HRW)危機、衝突與武器部門副主任科伊爾(Verity Coyle)警告,規則若遭削弱,可能讓機器在沒有人類控制下作出生死判斷,造成更多平民傷亡、降低究責程度,並讓戰爭更快走向風險更高的自動化。
各國代表預計於11月在日內瓦再度討論,是否讓相關談判取得正式授權,或進一步推動具法律約束力的條約。
