無關自主意識 專家:AI機器人威脅來自過度忠於人類
2019/10/31 11:33
與科幻電影常見劇情不同,AI威脅並非來自機器人出現的自我意識,反而是人類賦予它們過強的能力,導致其「無意中」順手消滅了我們。(路透)
〔即時新聞/綜合報導〕已故英國著名理論物理學家史蒂芬.霍金生前曾多次警告,人工智慧(AI)若繼續發展,可能對人類生存構成威脅,對此,美國專家直言,與科幻電影常見劇情不同,這個威脅並非來自機器人出現的自我意識,反而是人類賦予它們過強的能力,導致其「無意中」順手消滅了我們。
根據英國廣播公司(BBC)報導,人工智慧領域專家,加州大學柏克萊分校的羅素教授(Stuart Russell)在最新出版的作品中透露,人們應該對AI的過度發展抱持擔憂,並非源自它們出現自我意識而反抗主人,而是在持續賦予其能力的同時出現疏失,為機器人設置錯誤的目標,進而導致它們忠實執行命令而毀滅人類。
羅素舉例指出,假設人類發明一個用於控制氣候的AI系統,並給予其目標將大氣中的二氧化碳(CO2)濃度降至工業革命前的水準,AI很可能會在分析後發現,最容易達成這項目標的方式就是消滅人類,因為人類及其衍生物是產生二氧化碳的最大來源。
英國劍橋大學存在風險研究中心(Centre for the Study of Existential Risk, at Cambridge University)指出,隨著相關科技的發展與進步,如今的AI已非昔比,單一系統可以具備強大的學習能力,在幾乎所有領域都超越人類。
羅素說,面對未來可能發生的嚴重危機,人類應該要收回控制權,並停止給予AI一個固定目標,避免其「忠實地」執行命令,最終卻不經意地毀滅人類。
-
人工智慧強國夢!文在寅:今年內將發表AI國家戰略
-
他(她)是真人嗎? 真假難辨的AI生成人像免費下載
-
當司法遇上AI 美教授:使用不當恐造成黑箱、偏見與誤解
-
科技巨頭前談AI 教宗:切勿退回強者為王的「野蠻」社會
-
避免AI濫用 科技部訂出世界第一個給研發人員的AI指引
-
債市春天到 1分鐘就懂選債眉角
-
豬價飛漲快失控?中商務部:將適時投放儲備豬肉
-
華為「最強AI晶片」昇騰910亮相 恐仍受美牽制
-
危險!日本廣島貓咪掉進六價鉻溶液又跳出 當局籲切勿碰觸
-
敬禮!美國二戰華裔老兵 獲頒國會金質獎章
-
赴日注意! 關東JR電車座位遭「臭蟲入侵」 爬行畫面嚇壞民眾
-
小粉紅瘋狂出征!中國農夫山泉被控不愛國 產品包裝也被轟「媚日」
-
暖哭!消防員26年前救人殉職 父親也捐出畢生積蓄千萬元助人
-
比躺平還可怕! 中國流傳「十不青年」倡不婚、不捐血
-
赴日旅遊當心蟲蟲危機! 網友製作「臭蟲飯店地圖」避雷
-
自由說新聞》中共官媒炒作「恐爆三次世界大戰」 菲律賓超嗆回擊
國際今日熱門
看更多!請加入自由時報粉絲團