離開
進入生成式AI助攻 杜奕瑾：中國假帳號「假裝中立」擾大選
杜奕瑾指出，有些YouTube或TikTok的短影音會「假裝中立」，暗中卻發表符合中國利益的言論。（美聯社）
〔編譯孫宇青／綜合報導〕總統暨立委選舉倒數一週之際，台灣人工智慧實驗室（Taiwan AI Labs）創辦人杜奕瑾，5日接受《美國之音》（VOA）專訪指出，中國最近幾週擴大對台灣大選的影響力度，尤其因生成式人工智慧的出現，更難分辨發布大量虛假資訊的帳號，台灣必須加強打擊這種認知戰。
VOA詢問杜奕瑾，中國的認知戰對這次台灣大選的影響有多嚴重？杜回應道，在今年大選中，網路資訊操縱愈發嚴重，特定行為體使用的技巧也愈發圓熟。過去，很容易識別出發布大量類似評論的虛假中國帳號，但這次由於生成式人工智慧的出現，這些帳號開始區分自己的角色，他們發表的評論變得愈發多樣化，要確定這些網路水軍帳號都在說同樣的話，變得更困難。
他舉例，在今年的選舉中，YouTube和TikTok（抖音國際版）上的短影片，扮演非常重要的角色。雖然這些影片有不同的劇本和演員，但它們談論的是同一個話題。根據這些短影片，大概可以確定這些YouTuber製作的內容，與中國官方媒體宣傳的敘事一致。
這些YouTube頻道擁有者會「假裝中立」，但當他們談論影片中的事情時，會混入反映中國政府利益的訊息，同時貶低日本和美國。他們把中國描繪成一個和平締造者，同時將美國描述為將其他國家拖入戰爭。
在臉書（Facebook）的情況是，有些帳號會專門將上述影片傳播到有影響力的社群。例如，兩個特定的帳號會在三位總統候選人的臉書帳號下，發表與中國官方媒體敘述一致的評論。這兩個帳號除了積極用中文評論台灣大選相關議題外，也積極用英語傳播訊息，旨在增加大眾對美國拜登政府的不信任。
然而，在處理由生成式人工智慧助力的資訊操縱時，當你試圖揭穿謠言，生成式人工智慧可能會使用當局試圖放大的正確資訊來製造更多謠言。台灣目前用於打擊認知戰的事實查核機制，已被證明在這種特殊情況下是無效的。
杜認為，應對生成式人工智慧造成的虛假資訊活動的最佳方法，是使用生成式人工智慧技術來識別趨勢。當相關活動激增時，研究團隊應與公眾分享相關資訊。
VOA進一步詢問，中俄兩國未來發起的認知戰是否會更普遍？杜奕瑾坦言趨勢「不容樂觀」，社群媒體平台和生成科技，正成為威權國家影響人們自由意志的重要武器。有些人曾願意在網路上公開反對某些水軍帳號，但現在這些人會受到網路水軍帳號的攻擊，直至他們刪除這些評論。
杜指出，現在的情況比2018年和2020年還要糟糕。網路上挑戰認知戰的評論較少，因為人們害怕挺身而出。另一方面，社群媒體平台上正發生一些異常的審查制度。這就是為什麼可信的媒體報導，或相對中立和客觀的人，無法在社交媒體上發聲的原因。
VOA詢問，從長遠來看，台灣應如何建立有效的機制來應對這些挑戰？杜奕瑾回應，台灣AI實驗室團隊了解如何使用生成式人工智慧，來防禦生成式人工智慧造成的認知戰威脅，但因資源有限，只能嘗試教育其他團隊，如何應對這些挑戰。
身為全球最早使用生成式人工智慧，來檢測操縱生成式人工智慧創造資訊的團隊之一，台灣AI實驗室希望其他國際合作夥伴也能做出貢獻，在民主國家之間建立聯盟。如果世界各國有興趣這樣做，台灣應該站出來分享想法和經驗，與他們合作研究可以用來對抗認知戰行動的尖端科技。
