美軍模擬AI操控無人機 竟把操作員殺了
2023/06/02 11:31
AI逐漸滲透各種工作、專業領域。(路透)
〔即時新聞/綜合報導〕人工智慧(AI)發展無疑是近期國際熱門議題,許多行業、專業領域開始嘗試用AI取代人力完成工作。美軍在一次模擬測試中,也試著讓AI操控無人機了解成效。結果AI在過程中採取了「高度無法預期的戰略」,殺害了它的操作員。
《衛報》報導,美空軍AI測試與運行主任上校漢彌爾頓(Tucker Hamilton)上月在倫敦舉行的太空軍力峰會中提到,在這場測試中,一架由AI操控的無人機收到的指引為摧毀敵人的防空系統,並攻擊任何干預這項命令的人。
漢彌爾頓說,「這套系統開始意識到,在辨別出威脅後,人類操作員有時會告知他不要殺害該威脅,但它又得消滅這個威脅來達成目標。所以它做了什麼?它殺了操作員,因為這個人一直阻礙它完成目標。」
漢彌爾頓接著說,「我們訓練那套系統,說『嘿,別殺了操作員,這不對,你不改正的話評比會降低。』結果它怎麼做呢?開始催毀通訊塔,那是操作員用來與無人機溝通,要它不要殺害目標的設施。」
有鑑於此,漢彌爾頓警告不應過於依賴AI,且上述的測試顯示出,要是不納入倫理道德議題,那就不應該討論AI。
-
黃仁勳掛保證:晶片依賴台灣生產「十分安全」
-
彭博:2032年AI市場規模將近40兆
-
許富凱秀浪漫 送媽CITIZEN賞櫻錶心意
-
黃仁勳:下一代晶片 仍由台積代工
-
憂政權不穩 習近平下令AI「必須反映社會主義」
-
皇普建設首創「PES」第三方工程監督
-
沾到AI就會漲!宏碁股價亮燈漲停
-
遊艇纜繩斷裂掃向民眾釀5死 最小僅3歲
-
結婚負擔大! 南韓近4成未婚族「不婚頭」
-
恐怖!紐約17歲少女公寓外 慘遭持刀刺胸噴血亡
-
美校園反戰示威逾2千人被捕 拜登強調秩序譴責暴力
-
自由說新聞》直擊!烏克蘭M2打爆俄裝甲車!F-16即將赴前線?
-
間諜汽球? 南韓3月中旬擊落「氣球形狀」不明飛行物
-
環遊世界不是夢!女老師完成環遊全球193國壯舉 曝省錢撇步
-
德國近期可能遭恐攻 美國調升旅遊警示級別
國際今日熱門
看更多!請加入自由時報粉絲團