美智庫警告 失控AI恐釀核戰

被整合進核武系統 卻無「相互保證毀滅」顧慮

〔編譯周虹汶／綜合報導〕美國智庫「蘭德公司（Rand Corporation）」二十四日針對當前人類競相開發的人工智慧（AI）提出警訊，直指這項透過電腦演算出人類智慧的科技，極可能讓冷戰以來擁核國家藉以維持和平的「恐怖平衡」破功；若不設法克制，人類恐遭AI主使的毀滅性核子戰爭殲滅，預計世界末日最快二○四○年到來。

請繼續往下閱讀...

關鍵在於戰略嚇阻理論「相互保證毀滅（M.A.D.）」，這是冷戰時期一九五○至九○年代共產與非共產陣營藉以維持「恐怖平衡」的盛行機制：擁核自重的雙方皆自制不敢輕易動武，以免招來對方毀滅性的報復行動，導致同歸於盡。

核戰世界末日 最快2040年到來

但AI可沒這層顧慮。蘭德公司指出，目前AI正被整合進入核武系統，其用途主要是情報分析。這AI加持的情報工具，如自主無人機或潛艦追蹤科技，可以用來尋找並鎖定報復性核武工具；一旦對手相信自己恐怕失去反擊能力，有可能率先發動「第一擊」，引爆核子戰爭。正如一九四○和五○年代，擁核但衝突的各方皆擔心對方技術超前；只須讓其中一國相信自身核武能力落後，就能成功激發它為趕上其他國家而使出激烈手段的自保潛力，「恐怖平衡」失衡易如反掌。

呼籲擁核強權制定相關規範

此外，由於AI做決定快狠準，未來可望成為各國自我防衛要角，若建議指揮官出手攻擊，恐不容操作人員異議，屆時一切將無轉圜餘地。AI的這種快速自主反應能力無疑告訴敵方，該國正準備且願意發動攻擊，一切正中「相互保證毀滅」要害。遑論AI可能遭遇駭客入侵，引爆第三次世界大戰。

違背人類發展初衷，「對AI日漸倚賴，可導致新型災難性錯誤」。共同發表上述報告的蘭德公司工程師洛恩（Andrew Lohn）提醒各界，在AI技術成熟前務必慎用，以免人類大限之日提早降臨；他同時點出，接下來的數十年間，「戰略穩定」恐難上加難，呼籲擁核強權合力制定及遵守相關規範，以減少核戰一觸即發的風險危機。