川普被捕?普廷入獄? AI製圖成新亂源
影像生成技術日趨成熟 淪操縱輿論新模式
〔編譯孫宇青/綜合報導〕在人工智慧(AI)聊天機器人掀起議論之際,AI影像合成技術也更臻成熟,近期網路上即出現美國前總統川普被捕、俄羅斯總統普廷入獄等以假亂真的AI製圖,且正好切合時事,引起網友熱烈轉發討論。然而,假消息專家再次警告,這恐怕會成為有心人士操縱輿論的新模式。
假圖兩天觀看次數 超過5百萬
美聯社及華盛頓郵報指出,荷蘭開源情報網站「冒險者」(Bellingcat)創辦人希金斯(Eliot Higgins)一時起意將川普自揭可能因「封口費案」遭刑事起訴的消息影像化,於是向具有模仿新聞機構專業影像能力、且剛發布新版「文生圖」合成模式的AI繪圖軟體Midjourney下指令,創造出川普被紐約鎮暴警察團團包圍、在被捕過程跌倒、與警察對峙,以及川普穿囚衣、蹲苦牢,甚至是從下水道逃獄成功、跑到知名速食店吃漢堡等各種影像。
希金斯將影像分享到推特,並清楚說明這是AI製圖,不帶任何惡意。他原先以為會乏人問津,不料兩天後,川普AI製圖的觀看次數竟超過五百萬次。希金斯表示,川普影像只是為了展現Midjourney在描繪真實場景時的優劣,細看就能發現很多破綻,包括照片中的川普竟穿戴警察腰帶,還有很多人的臉和手都明顯扭曲等。在照片引起轟動後,希金斯就被禁止使用Midjourney服務。
假照片生成快又多 令真相難辨
假消息專家警告,AI製圖軟體具有在使用者下達簡單指令後,運用詳細背景資料快速製成真實場景的能力,這意味以後只要出現重大消息,就能透過AI生成海量的假照片或影片,並在社群平台上廣為散布,導致社會在剛接觸某一事件的階段,就無法辨別事件真相。西雅圖華盛頓大學專研假新聞傳播的教授威斯特坦言,這會在危機發生時增添雜音,讓人們開始對體制和接收的訊息失去信賴。
媒體技術專家表示,儘管希金斯或其他使用者表明影像是AI合成,只是博君一笑,但影像通常很快就會被分享出去,卻未註明文字,以致只要看到照片,人們就認定眼見為憑。