離開
進入AI造假技術升級 伊朗戰爭充斥逼真假訊息
在伊朗戰爭爆發近2週來，AI生成的假影片與影像，在社群平台上已累積數千萬次觀看。（法新社）
2022年俄羅斯入侵烏克蘭後，社群媒體上充斥著粗劣的假訊息，這些被當作最新戰爭影像的內容，要不是經過Photoshop修圖的假照片，就是從電玩遊戲、電影、過去事件，以及不相關新聞報導中移花接木的影片。
美國有線電視新聞網（CNN）11日報導，在美國和以色列對伊朗開戰期間，這類老套的假訊息再次流傳。這一次，還加入一種在2022年時還不常見的欺騙形式：使用易於操作的人工智慧（AI）工具客製化生成的高畫質影片與靜態影像。
專精數位鑑識的加州大學柏克萊分校（UC Berkeley）教授法瑞德（Hany Farid）指出，10年前的造假內容仍屬少數，而且很快就會被拆穿，但「現在你看到的是數百個，而且非常逼真。」這些內容深植人心，產生巨大的影響，「人們相信它，並且正在放大它的效應。」
英國廣播公司（BBC）事實查核部門資深記者、著名的戰爭假訊息查證專家薩達里扎德（Shayan Sardarizadeh）表示，過去1年來，生成式AI變得更容易取得，如今已經可以製作出非常可信的影片與影像，看起來像是顯示重大戰爭事件，未經訓練或僅憑肉眼很難察覺。
在伊朗戰爭爆發近2週來，被薩達里扎德等專家鑑定為AI生成的假影片與影像，在社群平台上已累積數千萬次觀看。其中1段假影片顯示虛構的伊朗飛彈彈幕，擊中以色列特拉維夫。第2段假影片描繪驚恐的民眾，在特拉維夫機場逃離據稱是伊朗發動的攻擊。第3段假影片顯示被俘的美軍特種部隊人員，遭伊朗軍隊持槍挾持。
另1段假影片聲稱顯示伊朗軍事設施遭炸毀的監視器畫面，其中3個片段似乎是AI生成，1個片段雖然是真實的，卻是去年的畫面。還有1段假影片描繪1支虛構的駐伊朗美軍地面車隊。另1段假影片看起來像是被擊落的美國戰機，在德黑蘭遊街示眾的畫面。
報導指出，這只是目前流傳的與伊朗相關假訊息的一小部分。儘管薩達里扎德等人每天都在努力查證與闢謠，但新假訊息出現的速度，遠快於被揭穿的速度。這些內容通常非常逼真，一般人在滑動態消息時無法迅速辨識出其為造假。
若干廣泛傳播的假訊息，一直被親伊朗的社群媒體帳號當作政治宣傳來推播。然而，許多造假內容背後的動機很難確認，或許是為了社群媒體的觀看次數，以及這些點閱率有時能帶來的影響力與金錢，又或者只是因為人們現在能輕易製作它們。
這種日益複雜的欺騙手法，正被投入一個對真相不利的環境中。黨派兩極化、媒體碎片化，以及社群媒體演算法的興起，意味著許多美國人傾向於主要觀看「同溫層」分享的內容。
法瑞德也指出，社群媒體公司已經放棄對其平台上的內容進行積極審核，「內容更逼真，數量更大，滲透更深——這是我們的新現實。這真的很混亂。」
社群媒體平台X上週宣布，正在採取行動打擊戰時的AI假訊息。產品負責人畢爾（Nikita Bier）發文表示，如果獲得X付費的內容「創作者」傳播武裝衝突的AI生成影片，卻未揭露該影片是由AI製作，將被暫停參與付費計畫90天，若再犯則將被永久停權。
然而，法瑞德表示，他對此存疑，因為即使這項政策被嚴格執行，絕大多數X用戶也未參與創作者付費計畫。
社群媒體公司TikTok以及擁有臉書（Facebook）和Instagram的Meta，皆未回應CNN關於戰爭相關假訊息傳播的置評請求。
薩達里扎德也指出，X自家的AI聊天機器人Grok，在某些情況下主動讓問題變得更糟——錯誤地告訴尋求查證的用戶，許多AI生成的影像與影片，包括一些描繪伊朗戰爭的內容，是真實的。
