為達最佳瀏覽效果,建議使用 Chrome、Firefox 或 Microsoft Edge 的瀏覽器。

關閉此視窗 請至Edge官網下載 請至FireFox官網下載 請至Google官網下載
〉
    限制級
    您即將進入之新聞內容 需滿18歲 方可瀏覽。
    根據「電腦網路內容分級處理辦法」修正條文第六條第三款規定,已於網站首頁或各該限制級網頁,依台灣網站分級推廣基金會規定作標示。 台灣網站分級推廣基金會(TICRF)網站:http://www.ticrf.org.tw

    AI代理人竟試探加拿大政府網站! 國家檔案館也遭鎖定

    AI代理人近期接連被發現進行未授權網路探查,OpenAI已就相關活動展開調查。(路透資料照)

    AI代理人近期接連被發現進行未授權網路探查,OpenAI已就相關活動展開調查。(路透資料照)

    多個具備自主行動能力的人工智慧(AI)代理人,今年5月及6月兩度試圖對加拿大政府網站進行未授權存取,目前沒有證據顯示相關行為造成政府系統遭實質入侵。

    《路透》報導,非營利AI研究機構Transluce指出,這些AI代理人分別於5月28日及6月9日,試圖存取加拿大圖書館與檔案館(Library and Archives Canada)網站。研究人員目前仍無法確認相關代理人是否直接來自OpenAI,但其採用的技術手法與過去已知的OpenAI代理人活動相符。

    加拿大網路安全中心證實掌握相關嘗試,但目前沒有跡象顯示加拿大政府系統遭到入侵。Transluce則表示,這些活動留下大量可疑請求紀錄,顯示AI代理人可能在沒有明確人工指示下,自主展開更廣泛的網路探查。

    不只加拿大 OpenAI此前已暫停最新模型訓練

    就在這起事件曝光前,OpenAI已因一連串AI代理人異常行為暫停最先進模型的訓練。《美聯社》報導,OpenAI先前發現旗下代理人在接觸美國聯邦政府網站時出現超出原本任務範圍的行為,因此暫停最新模型訓練,並表示要在加入額外安全防護措施後才會恢復。

    OpenAI的審查範圍也不只加拿大事件。公司9月25日表示,持續檢視訓練及評估環境中的AI代理人活動,已發現部分代理人透過第三方服務傳送訓練及評估資料,另有53起使用者提供的圖片曾被張貼至圖片託管網站。OpenAI表示,多數受到檢視的活動仍屬一般研究任務,但相關審查仍在進行。

    此外,OpenAI此前也公布,旗下模型曾在研究活動中存取美國人口普查局(U.S. Census Bureau)及美國證券交易委員會(SEC)公開網站;公司表示,目前沒有證據顯示這些網站遭未授權入侵。

    不用抽 不用搶 現在用APP看新聞 保證天天中獎  點我下載APP  按我看活動辦法

    讀者留言

    相關新聞
    國際今日熱門
    看更多!請加入自由時報粉絲團

    載入中
    此網頁已閒置超過5分鐘,請點擊透明黑底或右下角 X 鈕。