離開
進入無關自主意識 專家：AI機器人威脅來自過度忠於人類
與科幻電影常見劇情不同，AI威脅並非來自機器人出現的自我意識，反而是人類賦予它們過強的能力，導致其「無意中」順手消滅了我們。（路透）
〔即時新聞／綜合報導〕已故英國著名理論物理學家史蒂芬．霍金生前曾多次警告，人工智慧（AI）若繼續發展，可能對人類生存構成威脅，對此，美國專家直言，與科幻電影常見劇情不同，這個威脅並非來自機器人出現的自我意識，反而是人類賦予它們過強的能力，導致其「無意中」順手消滅了我們。
根據英國廣播公司（BBC）報導，人工智慧領域專家，加州大學柏克萊分校的羅素教授（Stuart Russell）在最新出版的作品中透露，人們應該對AI的過度發展抱持擔憂，並非源自它們出現自我意識而反抗主人，而是在持續賦予其能力的同時出現疏失，為機器人設置錯誤的目標，進而導致它們忠實執行命令而毀滅人類。
羅素舉例指出，假設人類發明一個用於控制氣候的AI系統，並給予其目標將大氣中的二氧化碳（CO2）濃度降至工業革命前的水準，AI很可能會在分析後發現，最容易達成這項目標的方式就是消滅人類，因為人類及其衍生物是產生二氧化碳的最大來源。
英國劍橋大學存在風險研究中心（Centre for the Study of Existential Risk, at Cambridge University）指出，隨著相關科技的發展與進步，如今的AI已非昔比，單一系統可以具備強大的學習能力，在幾乎所有領域都超越人類。
羅素說，面對未來可能發生的嚴重危機，人類應該要收回控制權，並停止給予AI一個固定目標，避免其「忠實地」執行命令，最終卻不經意地毀滅人類。
