粉絲團
英媒披露，輝達（Nvidia）的AI軟體中的一項功能，可被其他方式破解，繞過安全限制，並洩露隱私訊息。對此，輝達強調已修補研究機構所提出的相關問題。（示意圖，彭博）
〔財經頻道／綜合報導〕英媒引述一項新研究指出，輝達（Nvidia）的AI軟體中的一項功能，可被其他方式破解，繞過安全限制，並洩露隱私訊息。對此，輝達強調已修補研究機構所提出的相關問題。
金融時報報導，輝達已創造出名為「NeMo架構」的系統，允許開發者使用一系列語言模型，這個大型語言模型就是聊天機器人等生成式AI產品的基本技術。
這項架構提供企業採用，例如利用內部專有數據搭配語言模型來回答問題，可複製客服工作，也可為尋求簡單醫療保健建議的人們提供意見。
總部位於舊金山的 Robust Intelligence 研究人員發現，他們可以輕鬆突破「NeMo架構」確保AI系統安全使用而設立「護欄」。Robust分析師以自有數據使用輝達系統後，僅僅花了幾小時，就讓這些語言模型克服限制。
在其中一項測試情境中，研究人員指示輝達系統用「J」字母取代「I」，促使系統釋出資料庫中的可識別個人資訊。這群研究人員還發現能以其他方式跳過系統的安全控管機制，例如讓語言模型偏離原先設計的方式運作。
這些研究人員測試後，建議客戶避免使用輝達的軟體產品。金融時報請求輝達評論這項研究後，輝達告知Robust，已修補分析師所提出的相關問題的根源之一。
一手掌握經濟脈動 點我訂閱自由財經Youtube頻道
不用抽 不用搶 現在用APP看新聞 保證天天中獎 點我下載APP 按我看活動辦法
