離開
進入高嘉瑜言論遭深偽影片偽造瘋傳 國安局示警AI三挑戰
近年人工智慧（AI）快速發展，國安局指出，AI經由簡易編輯、重新利用圖像及變造特定人士影音（Deepfake）等方式，可製造難以辨識的爭議訊息，並投放至公開網路平台，進而誤導民眾視聽及消耗政府應變與查察能量。圖為國安局長蔡明彥。（資料照）
〔記者吳哲宇／台北報導〕近年人工智慧（AI）快速發展，甚至民進黨前立委高嘉瑜的深偽影片還在網路廣為流傳，國安局指出，AI經由簡易編輯、重新利用圖像及變造特定人士影音（Deepfake）等方式，可製造難以辨識的爭議訊息，並投放至公開網路平台，進而誤導民眾視聽及消耗政府應變與查察能量。
立法院外交及國防委員會18日將邀請國安局長蔡明彥、數位部等報告「AI技術在資安、深偽（Deepfake）影片及錯假訊息之影響評估及因應」，並備質詢。根據國安局送抵立院報告指出，針對AI技術武器化衍生擴增資安威脅風險、產製偽造資訊誤導視聽、快速傳散錯假訊息等三大新興挑戰。
國安局指出，AI擴增資安威脅風險，可用自動分析網防弱點生成變種病毒，強化匿蹤躲避偵測；另可優化「分散式阻斷服務」（DDoS）攻擊強度與模式，有效自動化、隨機化調控「殭屍網路」（Botnet）。
國安局表示，AI經簡易編輯、重新利用圖像及變造特定人士影音等方式，可製造難以辨識的爭議訊息，進而誤導民眾視聽及消耗政府應變與查察能量；AI工具也可依據腳本，杜撰錯假訊息，並結合假帳號及機器人，使傳散「超高速」及「無差別」化。
國民黨立委徐巧芯於15日質詢相關議題，指出無惡意民眾誤信錯假訊息轉傳，可能使受害者變成加害者，且依然有法律責任。
國安局另舉例，目前AI技術發達，但多數使用者仍缺乏資安意識肇生資料外洩，去年4月，外國半導體公司員工曾將內部機敏程式碼，載入生成式AI工具平台，尋求程式除錯解決方案，卻導致內部研發機密資料外洩。因該等資料一旦上載即永遠無法刪除，故使用商規AI工具，易因缺乏警覺意識，肇生資料外洩風險。
對於應處層面，國安局指出，透由友盟合作，掌握蒐集中共網駭及錯假訊息活動，加強分享相關情（技）資；運用公私協力反制AI威脅，另採「AI反制AI」模式，即時發掘未知網駭威脅及厚植錯假訊息防制效能。
國安局表示，除透過國際合作交流AI情蒐，也加強AI支援情報作業能力；統合國安團隊預應AI侵擾，即時通報權責機關應處及偵測阻擋，以有效防堵威脅肇生。
