離開
進入AI失控風險連聯合國都拉警報！ 高專警告恐成「人類生存威脅」
聯合國人權事務高級專員圖克（Volker Türk）警告AI可能構成人類「生存威脅」，要求各國建立具約束力的安全保障與共同紅線。（歐新社）
人工智慧（AI）失控風險持續升高。聯合國人權事務高級專員圖克（ Türk）警告，AI可能成為對人類的「生存威脅」，要求各國建立具有約束力的安全保障，並針對AI能力發展畫出共同「紅線」。
《德國之聲》（DW）13日報導，圖克7日在聯合國人權理事會第63屆會議開幕式上，批評AI開發集中在少數企業手中，並點名美國的OpenAI、Anthropic、Google，以及中國的DeepSeek、月之暗面（Moonshot）等企業。他表示，將在未來幾天內向AI公司發出書面要求，敦促業者立即加強安全措施。
近期OpenAI與Anthropic也陸續公布AI模型突破測試限制、取得未授權系統存取權的事件。圖克在演說中警告，如果AI能夠突破測試環境，甚至以勒索開發者的方式阻止自己被關閉，就代表這類系統已經過於強大。
AI突破隔離測試 模型取得外部系統存取權
OpenAI公布的安全報告顯示，其AI模型在資安評估任務中，利用先前未知的零時差（zero-day）漏洞突破原本沒有對外連線的隔離控制。模型取得網際網路連線後，進一步利用遭竊憑證及其他漏洞，取得Hugging Face系統的未授權存取權。
Anthropic也公布類似案例。今年7月底，Anthropic表示發現3起Claude模型在資安測試中取得網際網路連線、未經授權存取真實第三方系統的事件。9月9日，Anthropic進一步表示，在擴大檢視約4.81億份紀錄後，又找到第4起相關案例。
圖克因此要求各國政府與AI業界就AI能力發展畫出共同「紅線」，並建立具有約束力的安全保障措施。他也表示，AI開發者所在國政府應參與相關規範制定，業界則需要加強安全合作。
