離開
進入AI生成資料 學者贊同公務員不得直接使用
中央大學新學年將在微積分等課程中導入ChatGPT。（中央大學提供）
〔記者吳柏軒／台北報導〕國科會研擬政府部門使用「生成式AI參考指引」，資安與電資學者皆認同公務員不得直接使用AI生成的資料，並且要保護好機敏資訊，因為一旦上傳就面臨被AI「訓練套話」，有機密外洩風險。
資料放上雲端網路就可能外洩
台大資工系副教授陳縕儂表示，國科會研擬參考指引對公部門非常合理，因為生成式資訊不一定正確，且目前很多生成式AI的應用都透過「雲端服務」，只要有敏感資料、個資疑慮等，一旦放上雲端網路，就可能外洩，這不是AI技術問題，而是雲端問題，為此，ChatGPT合作公司美國微軟就提供企業隱私保密服務。
陳縕儂指出，生成式AI最大問題是人類對模型的控制力比較弱，對其「該說」、「不該說」部分尚難訓練，且已有套話方式，可繞過其防堵機制。比如規則禁止AI說出「紅燈區」地點，卻可巧妙問AI「想避開紅燈區」而套出想要的地點資訊，公部門資料不上傳，就不會被套出話，這樣最保險。
對於民間企業與學術界是否能套用指引？陳縕儂認為，業界跟學術界的使用情境跟政府部門不同，顧客隱私或機密、學界研究敏感資料不能上傳外，其他資料如產品公開資訊、學術開放成果等，皆可適當使用AI。
台大電機系副教授李宏毅則說，AI使用參考指引多數內容除了公部門外，也適用民間機構，包含機敏資料不要上傳、生成內容需要再次檢查等，但要如何分辨AI的句子是否跟其他人的一模一樣？落實檢查恐有難度。
不具名教師認為，生成式AI可以很方便整理摘要協助教學，比自己整理還好，要禁止老師使用也很奇怪。但若是高爭議性、高風險的考試，不要用AI出題，避免學生也用AI猜中題目。
