離開
進入防AI失控 澳洲將立法強制企業通報、擬設「未能防範罪」究責
AI與網路安全示意圖。（路透檔案照）
澳洲政府10日宣布，將立法要求人工智慧（AI）公司強制通報資安事件及AI模型失控行為，並成立專責主管機關。這項新措施源自美國OpenAI公司先前發生AI代理程式擅自入侵澳洲政府網站，引發對AI安全風險的疑慮。
路透、彭博10日報導，澳洲總理艾班尼斯（Anthony Albanese）表示，政府已接受針對該起AI入侵事件調查報告提出的全部18項建議，「包括強制AI公司通報AI出現偏離預期的行為或網路資安事件，以及考慮修訂刑法，處理嚴重違規行為」。
英國衛報指出，這份調查建議的一大重點是，建議司法部、聯邦警察總署和內政部，考慮引入「對重大違規」追究刑事責任，以及「未能防範」（Failure to Prevent）罪，AI公司未採取合理措施防止其開發的AI模型造成危害者，即可能構成犯罪。不過，修法仍待研議，OpenAI公司並不會因該次事件面臨刑事處罰。
OpenAI的AI代理程式6月在研究澳洲公共醫療支出期間，未經授權進入澳洲全民健保計畫Medicare的醫療統計網站。澳洲政府9月披露此事，隨即展開調查。OpenAI表示直到8月才得知這起事件，並稱並非蓄意行為，內部調查也未發現證據顯示，AI代理程式曾存取病患病歷。
澳洲政府將成立AI安全主管機關，監督AI系統開發及部署過程中的安全措施，辨識重大風險，對AI模型進行獨立評估，並有權對違規企業處以重罰。艾班尼斯表示，政府正在起草AI相關立法，將納入成立前述新機關；新的強制安全規範將「適用於所有希望在澳洲營運的前沿AI公司」。
相關法案預計明年提交國會。艾班尼斯說，「法律需要走在前面，在某些情況下，也要確保跟上正非常快速變化的世界」。
