離開
進入CNN：AI誤判中東情報 美中險爆武裝衝突
CNN18日獨家報導，美伊交戰期間，一份由人工智慧（AI）協助分析的錯誤情報，差點引發美中軍事衝突。圖為美國總統川普7月22日在空軍基地出席四名殉職美軍遺體歸國儀式。（路透）
美國有線電視新聞網（CNN）十八日獨家報導，美軍今年春季與伊朗交戰期間，曾因一份由人工智慧（AI）協助分析的錯誤情報，誤認一艘行經中東的中國船隻載有核武計畫相關零組件，一度準備攔截並登船檢查，所幸行動前夕發現情報有誤，避免可能引發的美中軍事衝突。
分析員太相信聊天機器人
報導引述四名知情人士指出，這份情報在美軍內部流傳後立即引發警戒，美軍著手規劃攔截行動，部分武裝人員準備登船，軍機在空中待命。直到行動即將展開前，官員進一步檢視情報，才發現這份報告是由一名特種作戰司令部分析員利用AI工具協助製作，而聊天機器人錯誤辨識了船上的貨物。目前無法確認該船實際載運何種貨物。知情人士形容這份報告「完全錯誤」，並說這起事件「差點引發一場戰爭」。若美軍當時對中國船隻採取軍事行動，可能導致局勢升高為美中武裝衝突。
CNN指出，涉事分析員當時將來自美國太平洋特種作戰司令部的船舶貨單等情報輸入聊天機器人，系統把公開來源情報與政府掌握的機密訊號情報結合後，錯誤判定船上貨物與核武計畫有關。之後，分析員又利用AI將分析結果整理成標準情報報告並發布，使這份錯誤內容以正式情報文件形式在軍方流通。目前不清楚該AI系統是屬於商業產品，還是政府內部AI工具。
近年美軍與美國情報界大力推動AI應用，希望藉此加快情報分析及戰場決策速度，包括目標判定、兵力調度及後勤管理及供應鏈規劃等領域。今年一月，戰爭部長赫格塞斯公布「人工智慧加速戰略」，要求軍方加速導入AI技術，以維持對潛在對手的競爭優勢。
AI「幻覺」問題並非個案
CNN指出，這起事件凸顯AI技術在軍事情報領域的潛在風險。多名官員表示，目前美國政府各單位使用使用的AI系統、操作規範與安全標準並不一致，缺乏統一的資訊驗證機制，導致不同工具的可靠性差異甚大。知情人士也說，AI產生的「幻覺」問題在情報界並非個案，而部分年輕分析人員較容易直接信任系統輸出結果，進一步增加誤判風險。
