ChatGPT可一鍵產出詐騙「情書」 歐洲刑警組織:AI恐成犯罪新利器
歐洲刑警組織警告,犯罪分子恐開始將ChatGPT等人工智慧(AI)技術,用於詐騙和其他網路犯罪手段。(法新社檔案照)
〔編譯林雨萱/綜合報導〕歐洲刑警組織(Europol)27日警告,ChatGPT等聊天機器人快速進化而產生的能力,不僅有利於人類生活,同時也可能為不肖人士所用,犯罪分子恐開始將人工智慧(AI)技術,用於詐騙和其他網路犯罪手段,包括網路釣魚、散布假訊息和惡意軟體等敲詐手法。
美國新創公司OpenAI去年11月推出的ChatGPT迅速吸引消費者目光,用戶對它明確回答困難問題、編寫詩句和程式,甚至是通過考試等能力驚嘆不已。不過,總部設於荷蘭海牙的歐洲刑警組織指出,犯罪者恐利用這種AI系統犯案的前景令人擔憂。
已有美國國會議員公開宣稱自己「被AI嚇壞了,尤其是不受限制和監管的AI」,並提出決議草案,呼籲強化對AI的監管。
歐洲刑警組織新設的「創新實驗室」(Innovation Lab)整體聚焦於聊天機器人的使用,但在一系列研討會中特別聚焦ChatGPT,因為ChatGPT最引人注目、使用最為廣泛。他們發現,犯罪分子可能會利用ChatGPT大幅加速對未知領域的研究進程,包括草擬詐欺犯案計畫,或查詢如何闖入民宅、執行恐怖行動、網路犯罪、兒童性虐待等資訊。
聊天機器人擬人化敘事的能力,對於網路釣魚攻擊特別有用,犯罪者可藉此引誘使用者點擊假的電子郵件連結,再試圖竊取他們的資料。此外,ChatGPT快速產出逼真的語音文本能力,使其成為宣傳和散布假消息的理想工具,犯罪者不需花費太大力氣便可產出、散佈特定論述的訊息。ChatGPT也可用於撰寫電腦程式,對那些對編碼和開發所知甚少,或一竅不通的犯罪者特別管用。
歐洲刑警組織指出,美國與以色列網路威脅情報公司Check Point Research的初步研究顯示,聊天機器人可用來製作釣魚電子郵件,滲透網路系統。儘管ChatGPT具備內容審查等防護措施,會拒絕回答被歸類為有害或有偏見的問題,卻仍有大批駭客透過巧妙的提示加以規避。
不久前,網路安全平台GBHackers便披露一段駭客利用ChatGPT實施詐騙的犯罪行為,駭客利用ChatGPT在短時間內產生完整的詐騙話術,迅速創建一個「虛擬角色」,從自我介紹、聊天內容到精心製作的「情書」,ChatGPT都可以一鍵產出,讓受害人以為自己「墜入愛河」,最終遭受金錢詐騙。
據報導,這種詐騙手法其實並不新穎,問題在於如今有了AI加持,人們開始難以分辨螢幕的另一端到底是人還是機器。
-
AI監管先建立風險評估? 專家:應讓產業能獲利
-
微軟:禁用Bing提供資訊開發AI產品 否則將切斷數據供應
-
部署水湳經貿園區領漲抗跌 首選「當代首馥」
-
AI也會幫狗看病?他用 ChatGPT成功救愛犬
-
未經許可心血全被AI仿冒偷走! 美國藝術家暴氣「提集體訴訟」
-
天熱流感成要命威脅! 專家籲老人打含佐劑疫苗
-
AI恐輸出特定國家的意識型態 杜奕瑾:AI需在地發展
-
AI超威!日新創公司開發自動選擇幼苗技術
-
高盛集團:AI衝擊主要經濟體3億工作 律師與行政人員風險最大
-
玩線上遊戲起爭執!男半夜搭機飛佛州 買錘子怒砸對手濺血
-
爆乳女侍失業!老牌餐廳Hooters突關美國約40家分店
-
俄羅斯報復官媒遭禁 宣布封鎖81歐盟新聞媒體平台
-
肯亞群眾闖國會抗議加稅 歐巴馬姊姊挨催淚彈襲
-
肯亞民眾反加稅示威遭警開槍 NGO稱至少5死31傷
-
中英對照讀新聞》Messi’s record $20.4 million salary dwarfs entire MLS teams 梅西創紀錄的2040萬美元薪水 使整個職業足球大聯盟球隊相形見絀
-
美駐中大使批中 邊喊交流邊反美
-
承認一中還不夠 中國「統一」施壓南方國家
國際今日熱門