離開
進入恐怖... 麻省理工創造出精神變態人工智慧
美國麻省理工創造出人工智慧諾曼（Norman），它會以負面想法來理解圖片，被描述為精神變態的AI。（圖擷自norman-ai官網）
〔即時新聞／綜合報導〕人工智慧發展迅速，但近來卻出現令人不寒而慄的AI，那就是美國麻省理工媒體實驗室3人團隊創造出的諾曼（Norman），它會以負面想法來理解圖片，例如一張抽象圖案在普通AI眼裡是「在樹枝上的一群鳥」，諾曼會看到「一名男子觸電致死」。
據《BBC》報導，諾曼與希區考克經典電影《驚魂記》的變態旅館老闆諾曼貝茲（Norman Bates）同名，它對這個世界沒有正面的看法。從其他例子來說，正常人工智慧認為抽象圖片是「幾個人站在一起」，諾曼卻說是「一名男子從窗戶跳下」。
原來，在讓諾曼開始分析圖片之前，麻省理工團隊先讓它學習了網路上是如何敘述遺體照片，此後諾曼在每張圖案中都看到了屍體、血液和破壞。這些抽象圖傳統上被心理學家用來評估精神病人的思維狀態，以確認他們是否以負面或正面的眼光看待世界。而麻省理工創造諾曼，正是將其當成了精神病療演算法。
諾曼的開發者之一、Iyad Rahwan教授說，這個AI能反應出非常黑暗的事實，說明人工智慧可以學習這個世界中的恐怖現實。然而，諾曼似乎並不孤單，因為現實生活中的AI若受到有缺陷數據的訓練，它們可能產生類似負面狀況。
去年5月，美國法院用於評估囚犯風險的AI，被指出對黑人囚犯有偏見。微軟2016年發布的聊天AI，很快就被種族主義者帶壞，開始捍衛白人至上主義，呼籲種族滅絕並表達出對希特勒的熱愛。Iyad Rahwan教授表示，對諾曼的實驗證明，軟體工程師必須找到某種方式來平衡AI學習的數據。
一般AI認為這是「在樹枝上的一群鳥」，諾曼會看到「一名男子觸電致死」。（圖擷自norman-ai官網）
正常人工智慧認為抽象圖片是「幾個人站在一起」，諾曼卻說是「一名男子從窗戶跳下」。（圖擷自norman-ai官網）
普通AI認為這是「花瓶近照」，諾曼卻認為是「一名男子被槍斃」。（圖擷自norman-ai官網）
正常人工智慧覺得這是「一隻小鳥的黑白照片」，諾曼卻說是「一名男子被麵糰切割機捲進去」。（圖擷自norman-ai官網）
一般AI敘述這是「一個人在空中拿著傘」，諾曼覺得是「一名男子在尖叫的妻子面前被槍殺」。（圖擷自norman-ai官網）
