小行星撞地球、美捕獲怪獸?TikTok充斥AI假訊息 獎勵機制使然
2024/03/19 06:11
首次上稿 03/18 22:45
更新時間 03/19 06:11
〔編譯林家宇/綜合報導〕「法新社」報導,非營利組織「Media Matters」針對中國短影音社群平台「抖音」國際版TikTok提出的研究報告指出,該平台近期充斥各種由人工智慧(AI)生成且缺乏可靠來源或證據的「末日陰謀論」,題材涵蓋怪獸、吸血鬼和殺手小行星等不一而足,在在凸顯社群平台假消息廣泛傳播的嚴重性。TikTok假訊息研究員李查茲(Abbie Richards)直言,這類怪力亂神的內容大行其道,始作俑者可能就是TikTok用於支付內容創作者收益的「創意計畫」(Creativity Program)。
報告指出,TikTok用戶嘗試藉由「病毒式影音」賺取利益,例如聲稱美國政府秘密捕獲金剛之類的神祕怪獸。這類影片通常配有陰森怪異的背景音樂,搭配AI生成的旁白,有時是模仿知名人士。例如,有一則影片仿造美國知名Podcast主持人(播客)喬羅根(Joe Rogan)的聲音說,「有這麼一顆小行星處在撞擊地球的路徑上」,並稱消息是因一名府官員意外發現寫有「對公眾保密」的文件而洩露。這類影片有許多可獲得數百萬觀看數。
李查茲提到,這些陰謀論影音通常由匿名帳號發布,多半會有AI生成圖像的痕跡,例如多出來的手指或畫面扭曲等現象。她稱,這些利用廣泛且免費AI工具製作的陰謀論內容農場已在蔓生,「以金錢刺激具高度吸引力且廉價製造的內容,為陰謀論創造了絕佳環境」。
對此,TikTok發言人強調傷害性的假訊息受到禁止,「陰謀論不具賺取收益或被推薦給用戶的資格」。