回應白宮AI安全承諾 Meta推首個語言模型評測工具

2023/12/08 15:34

Meta推出業界第一套針對大型語言模型的網路安全評測工具。（美聯社檔案照）

〔記者徐子苓／台北報導〕Meta的開源語言模型Llama下載數量突破1億次，為了建立對開發者的信任，Meta今天宣布推出「Purple Llama」，將匯集各類評測方式與工具，幫助開發者負責任地運用生成式人工智慧（AI）模型建構服務。

為什麼選擇紫色（Purple）？Meta表示，引用資安領域的概念，為了應對生成式AI帶來的挑戰，需要同時模擬攻擊（紅隊）與防禦（藍隊）的模式，紫隊便是由紅隊及藍隊協作組成，同時考量評估風險與減輕潛在威脅的作法。

Meta推出業界第一套針對大型語言模型的網路安全評測工具，這些標準是基於產業指南和規範，並與Meta的安全專家合作建構而成。

Meta表示，透過Purple Llama的初始版本，以應對向白宮做出的安全承諾中概述的風險，包括：量化大型語言模型網路安全風險的指標、評估不安全程式碼建議發生頻率的工具、評估使大型語言模型難以產生惡意程式碼或協助網路攻擊的工具。

生成式AI ChatGPT去年爆紅以來，各界關注AI的發展與風險，美國總統拜登今年7月在白宮和科技巨頭舉行會議，包含亞馬遜（Amazon）、谷歌（Google）、臉書母公司Meta、微軟（Microsoft）等企業高層，在會中允諾實施一系列自我監管的安全措施。

不用抽不用搶現在用APP看新聞保證天天中獎　點我下載APP　按我看活動辦法

已經加好友了，謝謝

歡迎加入【自由財經】

按個讚　心情好

已經按讚了，謝謝。