離開
進入美國務院報告：AI若失控恐成人類「滅絕級威脅」
AI科技示意圖。（歐新社）
首次上稿 03/13 22:53
更新時間 03/14 06:27
〔編譯管淑平／綜合報導〕近日一份由美國政府委託進行的研究報告，對人工智慧（AI）技術的迅速進展帶來的國安風險，描繪「災難性的」面貌，報告直言，最先進的AI系統在最糟糕的情況下，可能「對人類物種構成滅絕等級的威脅」。
這份研究由美國國務院委託AI安全風險顧問公司Gladstone AI進行，在1年多的時間訪問200多名AI產業界高層、網路安全研究人員、大規模毀滅性武器專家以及政府國安官員，報告於2月26日提交給國務院。
報告示警AI廣泛造成的兩大核心危險：首先是最先進AI系統可能被當做武器，造成可能無法逆轉的損害；第二，AI實驗室內私下也有擔憂，認為到了某個程度，開發人員會對他們自己開發的系統「失去控制」，帶來「對全球安全潛在性的毀滅性後果」。
報告說，「當前先進AI發展對國家安全造成急迫且日增的風險」，「AI和通用性AI（AGI）技術的興起，可能類似於核武的出現，具有破壞全球安全穩定的潛力」，並指存有挑起AI「軍備競賽」、衝突以及「大規模毀滅性武器規模的致命事故」之風險。
這份報告呼籲美國政府，必須「迅速且果決」大舉採取新措施，來因應這項威脅，包括成立一個新的AI機構，定出「緊急」規範保護並且限制電腦運算能力投入訓練AI模型的程度。報告說：「有明確和迫切性，需要美國政府介入。」
美國《有線電視新聞網》（CNN）12日引述Gladstone AI公司共同創辦人兼執行長哈里斯（Jeremie Harris）說法，「AI已經是在經濟上轉型技術，它可能讓我們能夠治癒疾病、有新的科學發現，以及克服過去一度認為無法突破的挑戰」，「但是它也可能帶來嚴重風險，包括災難性的風險，需要我們注意」。哈里斯指出，「有愈來愈多證據，包括在世界頂尖AI會議上發表的實證研究和分析，顯示超過一定的能力門檻，AI就有可能變得不受控」。
一名國務院官員向CNN證實委託進行這份報告，該署持續評估AI與確保美國在國內外利益的目標是否一致，不過這名官員強調，這份報告不代表美國政府觀點。
