離開
進入2024全球選舉年！防AI介選 OpenAI擬發布打假工具
AI熱潮下，人們越來越擔心氾濫的「深偽」（Deepfake）影像，以及AI生成內容誤導選民。示意圖。（路透檔案照）
〔編譯陳成良／綜合報導〕2024年全球有76國將進行領導人或國會改選，包括台灣、美國、印度、俄羅斯以及歐盟27國等等，影響全球超過一半人口，以及6成以上的經濟產出。為防範中國與俄羅斯等國試圖透過人工智慧（AI）擾亂選舉，生成式AI龍頭OpenAI宣布，即將推出反假訊息工具，同時也禁止將旗下AI技術，被用於競選和選民壓制。
《法新社》報導，OpenAI旗下的ChatGPT聊天機器人爆炸性成功，引發全球AI革命，但也讓各界擔心，這樣的工具可能會在網路上散播假訊息，影響選民。「法新社事實查核 」（AFP Fact Check ）此前發現，在本月台灣總統大選之前，社交媒體上流傳著政治人物被竄改的假影音資料。
報導中提到，OpenAI強調不會允許其技術，包括ChatGPT和圖像生成器「DALL-E 3」被用於政治競選或壓制選民。
OpenAI宣布，今年初將推出使用「內容來源和真實性聯盟」（C2PA）數位憑證的新工具，其使用密碼學對內容來源的詳細資訊進行編碼，可驗證圖片、影片真實性，讓人能分辨AI生成圖片。
C2PA橫跨軟體、晶片和社群媒體等，包括軟體開發商Adobe、微軟、英特爾、Ｘ（前稱Twitter）及日本相機製造商SONY和Nikon和晶片設計大廠安謀（Arm）都參與之中。
OpenAI將開始為使用「DALL-E 3」產生的AI圖片，加上相關數位憑證。該公司補充說，「DALL-E 3」將有「護欄」，可防止用戶生成包括候選人在內的真人圖像。
此外，針對 ChatGPT，OpenAI將使用戶能夠透過聊天機器人，取得目前事件的即時資訊，並提供新聞來源和連結，而當被問及有關美國大選舉的程序性問題（如在哪裡投票）時，ChatGPT將引導用戶前往權威網站。
OpenAI在16日在部落格文章中表示：「我們希望確保我們的技術，不會以可能破壞民主進程的方式被使用。」
世界經濟論壇（WEF）上週示警，AI驅動的錯誤訊息和惡意假訊息，是最大的短期風險，可能會破壞主要經濟體新當選的政府。去年，美國科技巨頭Google和臉書母公司Meta，相繼推出了針對AI生成的誤導性政治廣告的新政策，以防大選遭操弄。
此前，《法新社》已揭露多個利用深偽技術（Deepfake）造假的影片，包括美國總統拜登宣布徵兵，以及前國務卿希拉蕊宣布支持佛州州長迪尚特（Ron DeSantis）競選總統等。
儘管這些內容的品質很低，且還不清楚是否由AI應用程式創建，但專家示警，虛假訊息正加劇人們對政治機構的信任危機。
