不講人話 臉書關掉聊天機器人


2017-08-02

自創語言對談「脫稿演出」 人工智慧發展出現警訊

〔編譯魏國金/綜合報導〕社群媒體巨擘「臉書」(Facebook)在發現其研發的兩個人工智慧機器人,自創人類未予設定的奇怪語言彼此對話後,已關閉爭議性的聊天機器人(chatbot)實驗。英國「每日郵報」報導,臉書此舉令人再度關切人工智慧發展的界線與可能產生的危機。

聊天機器人是指可以與人類以及其他電腦對話的軟體,以執行諸如訂位、預約或推薦餐廳等工作。臉書的實驗是利用機器學習演算,教導機器人「愛麗絲」(Alice)和「鮑伯」( Bob)有關人類的言說。愛麗絲與鮑伯間的怪異對話,源於上月「臉書人工智慧研究實驗室」(FAIR)的研究人員,要它們就帽子、球與書本間的交易進行協商,相關物品都給予特定價值。

研究人員讓愛麗絲與鮑伯在選擇物件時自行溝通,它們並未獲得以英文交談的指令,結果它們很快地「脫稿演出」,以它們自己的機器語言一來一往地對話。這種全新語言看似胡言亂語,但研究人員說,它實際上是一種速寫,讓「對話智能體」(dialog agent)之間溝通更有效率,但無助於達成它們被指派的任務。

FAIR客座研究員、喬治亞理工學院的巴特拉(Dhruv Batra)說:「智能體將逐漸停止使用可理解的語言,並自創密語。」上週,他與另一名FAIR研究員路易斯(Mike Lewis)甫宣佈,研究出現重大突破,可賦予機器人談判與妥協的能力,有助於研發出具備推理、交談與協商能力的機器人。

對此,網友說,這就和Netflix上演的機器人電影「奧圖瑪塔」(Automata)一樣。也有人說,應將臉書立即關閉,因為他們對實驗沒有控制能力,是在玩火。但也有人說,沒有意識,就不代表什麼。

科學家唱衰 札克柏格樂觀

科學家與微軟創辦人比爾.蓋茲等科技名人曾表示,人工智慧導致意料之外的後果。二○一四年,知名物理學家霍金(Stephen Hawking)警告,人工智慧可自行快速進化與自我再設計,可能導致人類滅亡。特斯拉汽車等企業創辦人兼發明家穆斯克(Elon Musk),上月也疾呼立法規範人工智慧發展。但臉書執行長札克柏格對人工智慧十分樂觀,認為那些反對並鼓吹末日情境者,「我覺得這樣實在很不負責任。」

  • 臉書(歐新社)

    臉書(歐新社)

相關關鍵字: 人工智慧 聊天機器人 臉書