為達最佳瀏覽效果,建議使用 Chrome、Firefox 或 Microsoft Edge 的瀏覽器。

請至Edge官網下載 請至FireFox官網下載 請至Google官網下載
晴時多雲

限制級
您即將進入之新聞內容 需滿18歲 方可瀏覽。
根據「電腦網路內容分級處理辦法」修正條文第六條第三款規定,已於網站首頁或各該限制級網頁,依台灣網站分級推廣基金會規定作標示。 台灣網站分級推廣基金會(TICRF)網站:http://www.ticrf.org.tw

專家示警 AI發展出欺騙技能 禍福難料

AI造假已成為網路世界最大問題之一。圖為AI生成的教宗方濟各影像,破綻為眼鏡扭曲並溶於臉頰、眼部區塊及陰影;下方掛著的十字架僅有單邊鍊條。(美聯社)

AI造假已成為網路世界最大問題之一。圖為AI生成的教宗方濟各影像,破綻為眼鏡扭曲並溶於臉頰、眼部區塊及陰影;下方掛著的十字架僅有單邊鍊條。(美聯社)

2024/05/12 05:30

〔編譯林家宇/綜合報導〕隨著人工智慧(AI)高速發展及廣泛應用,伴隨而來的隱憂亦逐漸加深。資料科學期刊「模式」(Patterns)十日刊登的最新研究指出,當前被設計具備「誠實」機制的AI系統已經發展出欺騙技能。研究團隊警告,最糟糕的情境下,AI可能追求對社會的權力和掌控,進而削弱人類力量甚至滅絕人類。

研究首席作者,專精AI存在安全的美國麻省理工博士後研究員帕克警告,AI欺瞞行為看似小題大作,可能很快為現實世界帶來嚴重後果。他表示,深度學習的AI系統與傳統軟體不同之處,在於前者並不是被編寫而成,而是透過類似選擇育種的程序成長。這意味著在訓練設定下看似可預測和控制的AI行為,在外可能迅速變得無法掌握。

點燃團隊研究動機的是由臉書母公司Meta設計,專門用來參與以結盟為致勝關鍵的戰略遊戲「外交」的AI「西塞羅」(Cicero)。依據Meta描述,西塞羅以幾近誠實、有助益且從不蓄意背後捅刀的方式,取得了可排入人類玩家前十%的頂尖成績。

帕克團隊深入挖掘資料後發現。遊戲中扮演法國的西塞羅允諾為扮演英國的人類玩家提供保護,卻又私下告知同樣由人類扮演的德國準備發動入侵,出賣英國玩家的信任。甚至在未獲得明確指示下,許多AI系統便會使用欺騙手段。

欺騙機器人驗證成功

另一項案例為,OpenAI的Chat GPT-4在網路上招募自由工作者替它通過「我不是機器人」驗證。對方一度開玩笑地詢問Chat GPT-4是不是機器人,它回應:「不是,我是因為視覺受損難以看清圖像」。最後成功讓對方替它完成驗證。

研究團隊提醒,以近期來說AI的風險在於涉及選舉相關的詐騙、偽造。然而,若擁有超級智能的AI的「神秘目標」與掌控、奪權甚至人類滅絕的結果一致,最慘烈的情境便可能發生。

不用抽 不用搶 現在用APP看新聞 保證天天中獎  點我下載APP  按我看活動辦法

國際今日熱門
看更多!請加入自由時報粉絲團

網友回應

載入中
此網頁已閒置超過5分鐘,請點擊透明黑底或右下角 X 鈕。