美英構築AI防火牆 研發安全模型
2024/04/03 05:30
〔編譯陳成良/綜合報導〕全球科技巨頭紛紛押注人工智慧(AI),競相開發下一代智慧系統。AI發展迅猛,安全風險也日益嚴峻。美國與英國決定合力構築AI防火牆,攜手因應可能產生的嚴重後果。「路透」報導,美國商務部長雷蒙多與英國科技大臣唐萃蘭(Michelle Donelan)一日在華府簽署諒解備忘錄,共同開發先進的AI模型測試。
雷蒙多指出,AI在當今時代扮演關鍵角色。這項合作將加速雙方機構在各方面的努力,解決國家安全和更廣泛的社會問題風險。唐萃蘭則強調,這是全球首個同類協議,具有重要里程碑意義。AI儘管為社會帶來許多好處,但必須有效管控其風險。
美英兩國目前均已建立政府主導的AI安全研究機構。英方去年十月宣布將成立專門檢測和測試新型AI的新機構,而美方去年十一月啟動成立自己的安全研究機構,專責評估所謂「前沿AI模型」的風險,目前正與兩百家公司和實體合作。
根據新達成的協議,雙方將對至少一個可公開獲取的AI模型進行聯合測試,並就AI模型能力、潛在風險以及相關技術研究共享關鍵資訊。兩國還將致力與其他國家達成類似合作,以促進全球AI安全事業發展。
生成式AI可自動生成文字、圖像和影片等內容,大幅革新創作模式,但也引發了就業受威脅、選舉過程受干擾、無法控制等多種擔憂。
近年來,美英兩國均已採取行動因應AI挑戰。去年十月,拜登簽署行政命令旨在降低AI風險;今年一月,美國商務部提議要求美國雲端服務公司查明外國實體是否正在利用美國數據中心訓練AI模型。