離開
進入專家示警 AI發展出欺騙技能 禍福難料
AI造假已成為網路世界最大問題之一。圖為AI生成的教宗方濟各影像，破綻為眼鏡扭曲並溶於臉頰、眼部區塊及陰影；下方掛著的十字架僅有單邊鍊條。（美聯社）
〔編譯林家宇／綜合報導〕隨著人工智慧（AI）高速發展及廣泛應用，伴隨而來的隱憂亦逐漸加深。資料科學期刊「模式」（Patterns）十日刊登的最新研究指出，當前被設計具備「誠實」機制的AI系統已經發展出欺騙技能。研究團隊警告，最糟糕的情境下，AI可能追求對社會的權力和掌控，進而削弱人類力量甚至滅絕人類。
研究首席作者，專精AI存在安全的美國麻省理工博士後研究員帕克警告，AI欺瞞行為看似小題大作，可能很快為現實世界帶來嚴重後果。他表示，深度學習的AI系統與傳統軟體不同之處，在於前者並不是被編寫而成，而是透過類似選擇育種的程序成長。這意味著在訓練設定下看似可預測和控制的AI行為，在外可能迅速變得無法掌握。
點燃團隊研究動機的是由臉書母公司Meta設計，專門用來參與以結盟為致勝關鍵的戰略遊戲「外交」的AI「西塞羅」（Cicero）。依據Meta描述，西塞羅以幾近誠實、有助益且從不蓄意背後捅刀的方式，取得了可排入人類玩家前十％的頂尖成績。
帕克團隊深入挖掘資料後發現。遊戲中扮演法國的西塞羅允諾為扮演英國的人類玩家提供保護，卻又私下告知同樣由人類扮演的德國準備發動入侵，出賣英國玩家的信任。甚至在未獲得明確指示下，許多AI系統便會使用欺騙手段。
欺騙機器人驗證成功
另一項案例為，OpenAI的Chat GPT-4在網路上招募自由工作者替它通過「我不是機器人」驗證。對方一度開玩笑地詢問Chat GPT-4是不是機器人，它回應：「不是，我是因為視覺受損難以看清圖像」。最後成功讓對方替它完成驗證。
研究團隊提醒，以近期來說AI的風險在於涉及選舉相關的詐騙、偽造。然而，若擁有超級智能的AI的「神秘目標」與掌控、奪權甚至人類滅絕的結果一致，最慘烈的情境便可能發生。
