離開
進入中國監控再進化 官方疑利用ChatGPT開發鎮壓工具
2025/10/07 23:26 國際新聞中心／綜合報導
疑似中國政府人員要求ChatGPT協助撰寫提案，開發可用於大規模監控的工具。（路透檔案照）
人工智慧（AI）聊天機器人ChatGPT的開發商 OpenAI，7日在1份公共威脅報告中指出，疑似中國政府人員曾要求ChatGPT協助撰寫1份提案，內容是開發1種可用於大規模監控的工具，甚至要求ChatGPT協助宣傳1種據稱可以掃描社群媒體帳號、偵測「極端言論」的產品。
報告警告，AI技術可能被用來讓鎮壓行為更有效率，並提供1個「罕見的窗口，窺見威權政府如何濫用AI技術的更廣泛現象」。OpenAI已封鎖多個疑似與中國政府機構有關聯的ChatGPT帳號。
美國與中國正就AI技術的主導權展開激烈競爭，雙方都投入數十億美元發展新能力。但前述報告顯示，疑似受國家支持的行為者使用AI的方式，往往並非展現驚人的技術突破，而是執行相對日常的任務，例如整理資料或潤飾語言。
OpenAI首席調查員尼莫（Ben Nimmo）向美國有線電視新聞網（CNN）表示，中國內部正推動更善用AI技術進行大規模監控與偵察，「中國共產黨早就開始監控自己的人民了，但現在他們認為AI或許能藉此讓監控更精準。」
在1個案例中，1名「極可能與中國政府機構有關」的ChatGPT使用者，要求AI協助撰寫1份提案，內容為開發1項可分析維吾爾族及其他「高風險」人員旅行動態與警方紀錄的工具。
美國國務院曾指控中國政府對維吾爾穆斯林犯下種族滅絕與危害人類罪，北京方面則強烈否認。
另1名說中文的使用者，則要求ChatGPT協助設計「宣傳素材」，用於推廣1種據稱可掃描X、臉書（Facebook）及其他社群平台上政治與宗教內容的工具。OpenAI表示，該2名使用者皆已遭停權。
OpenAI的報告還列舉其他多起案例，顯示AI已滲透至國家支持與犯罪駭客的日常運作。疑似來自俄羅斯、北韓與中國的駭客，都曾使用ChatGPT執行任務，例如改善程式碼，或讓釣魚郵件連結更具說服力。
OpenAI安全專家弗洛斯曼（Michael Flossman）指出，敵對行動者使用AI主要是為了改進既有手法，而不是發明全新的網攻類型。AI的用途之一，是彌補國家行為者以往的弱點，例如中國與俄羅斯的宣傳行動，常因語言錯誤而露出破綻，如今AI可協助改善。
同時，OpenAI指出，極可能來自東南亞國家緬甸的詐騙集團，也使用其AI模型處理多種業務，從財務帳務管理到研究網路詐騙的刑罰等。
對此，中國駐美大使館發言人劉鵬宇聲稱，反對毫無根據的攻擊與抹黑，中國正在「快速建立具有鮮明國家特色的AI治理體系」，該體系「強調發展與安全的平衡，兼顧創新、安全與包容」。他還強調，中國政府已推出涵蓋演算法服務、生成式AI及資料安全的重大政策規劃、倫理指引與法律規範。
