AI生成資料 學者贊同公務員不得直接使用
2023/07/20 05:30
中央大學新學年將在微積分等課程中導入ChatGPT。(中央大學提供)
〔記者吳柏軒/台北報導〕國科會研擬政府部門使用「生成式AI參考指引」,資安與電資學者皆認同公務員不得直接使用AI生成的資料,並且要保護好機敏資訊,因為一旦上傳就面臨被AI「訓練套話」,有機密外洩風險。
資料放上雲端網路就可能外洩
台大資工系副教授陳縕儂表示,國科會研擬參考指引對公部門非常合理,因為生成式資訊不一定正確,且目前很多生成式AI的應用都透過「雲端服務」,只要有敏感資料、個資疑慮等,一旦放上雲端網路,就可能外洩,這不是AI技術問題,而是雲端問題,為此,ChatGPT合作公司美國微軟就提供企業隱私保密服務。
陳縕儂指出,生成式AI最大問題是人類對模型的控制力比較弱,對其「該說」、「不該說」部分尚難訓練,且已有套話方式,可繞過其防堵機制。比如規則禁止AI說出「紅燈區」地點,卻可巧妙問AI「想避開紅燈區」而套出想要的地點資訊,公部門資料不上傳,就不會被套出話,這樣最保險。
對於民間企業與學術界是否能套用指引?陳縕儂認為,業界跟學術界的使用情境跟政府部門不同,顧客隱私或機密、學界研究敏感資料不能上傳外,其他資料如產品公開資訊、學術開放成果等,皆可適當使用AI。
台大電機系副教授李宏毅則說,AI使用參考指引多數內容除了公部門外,也適用民間機構,包含機敏資料不要上傳、生成內容需要再次檢查等,但要如何分辨AI的句子是否跟其他人的一模一樣?落實檢查恐有難度。
不具名教師認為,生成式AI可以很方便整理摘要協助教學,比自己整理還好,要禁止老師使用也很奇怪。但若是高爭議性、高風險的考試,不要用AI出題,避免學生也用AI猜中題目。
-
高市教育局攜手屏東大學提升資優教育 跨校遠距共學成果發表
-
無畏聽損考取英資班、站上街舞舞台 建國國中孫瑜蔓獲總統教育獎
-
女怒批馬桶沒掀蓋「像開驚喜包!」 網友正反意見掀論戰
-
台南再添1市地重劃區完工 安南區首座特色公園亮相
-
去奧地利不能自駕!不認台灣國際駕照 外交部同招回敬
-
高雄三民樂齡中心開AI班 長輩學到老還能防詐團Al變聲陷阱
-
桃園永安消防分隊舊址閒置2年 地方盼設導覽中心或展售農產品
-
這波梅雨鋒面有點弱 曾文水庫仍補水350萬立方米
生活今日熱門
看更多!請加入自由時報粉絲團