恐怖... 麻省理工創造出精神變態人工智慧
美國麻省理工創造出人工智慧諾曼(Norman),它會以負面想法來理解圖片,被描述為精神變態的AI。(圖擷自norman-ai官網)
〔即時新聞/綜合報導〕人工智慧發展迅速,但近來卻出現令人不寒而慄的AI,那就是美國麻省理工媒體實驗室3人團隊創造出的諾曼(Norman),它會以負面想法來理解圖片,例如一張抽象圖案在普通AI眼裡是「在樹枝上的一群鳥」,諾曼會看到「一名男子觸電致死」。
據《BBC》報導,諾曼與希區考克經典電影《驚魂記》的變態旅館老闆諾曼貝茲(Norman Bates)同名,它對這個世界沒有正面的看法。從其他例子來說,正常人工智慧認為抽象圖片是「幾個人站在一起」,諾曼卻說是「一名男子從窗戶跳下」。
原來,在讓諾曼開始分析圖片之前,麻省理工團隊先讓它學習了網路上是如何敘述遺體照片,此後諾曼在每張圖案中都看到了屍體、血液和破壞。這些抽象圖傳統上被心理學家用來評估精神病人的思維狀態,以確認他們是否以負面或正面的眼光看待世界。而麻省理工創造諾曼,正是將其當成了精神病療演算法。
諾曼的開發者之一、Iyad Rahwan教授說,這個AI能反應出非常黑暗的事實,說明人工智慧可以學習這個世界中的恐怖現實。然而,諾曼似乎並不孤單,因為現實生活中的AI若受到有缺陷數據的訓練,它們可能產生類似負面狀況。
去年5月,美國法院用於評估囚犯風險的AI,被指出對黑人囚犯有偏見。微軟2016年發布的聊天AI,很快就被種族主義者帶壞,開始捍衛白人至上主義,呼籲種族滅絕並表達出對希特勒的熱愛。Iyad Rahwan教授表示,對諾曼的實驗證明,軟體工程師必須找到某種方式來平衡AI學習的數據。
一般AI認為這是「在樹枝上的一群鳥」,諾曼會看到「一名男子觸電致死」。(圖擷自norman-ai官網)
正常人工智慧認為抽象圖片是「幾個人站在一起」,諾曼卻說是「一名男子從窗戶跳下」。(圖擷自norman-ai官網)
普通AI認為這是「花瓶近照」,諾曼卻認為是「一名男子被槍斃」。(圖擷自norman-ai官網)
正常人工智慧覺得這是「一隻小鳥的黑白照片」,諾曼卻說是「一名男子被麵糰切割機捲進去」。(圖擷自norman-ai官網)
一般AI敘述這是「一個人在空中拿著傘」,諾曼覺得是「一名男子在尖叫的妻子面前被槍殺」。(圖擷自norman-ai官網)
-
AI間諜? 傳亞馬遜Alexa偷錄用戶對話還傳給第3方
-
AI引災難? 馬斯克:人類恐面臨「魔鬼終結者」
-
被動收入神隊友 將來銀行買基金超優惠
-
人類扳回一城! 機器人打桌球慘遭前球王秒殺
-
AI人工智慧25戰全勝 戰勝圍棋職業高手
-
葉總:打造冠軍球隊 先了解問題核心
-
主播小心了! NHK將推出AI主播搶飯碗
-
曾說不再戰圍棋AI 柯潔食言參賽卻到中盤就投降
-
美特警逮人變槍戰!通緝犯斃命 警3死5傷
-
愛丁堡公爵夫人訪烏克蘭 創英國王室首例
-
美國務院稱以色列5部隊曾侵犯人權 包含「猶大永恆營」
-
聯合國監察員:北韓製飛彈襲擊烏克蘭哈爾科夫
-
中國怪天氣不斷 湖南長沙正午瞬間變黑夜下暴雨
-
抵制醫療改革!南韓首爾兩大學醫院今暫停門診及手術
-
重獲希望!寮國男子移民美國 罹癌8年中了威力球422億頭獎
-
加拿大安省大略新禁令!高中以下上課期間全天禁手機
國際今日熱門