離開
進入AI時代的失控、效率邏輯與優化閉合：從資安危機到人文社會科學的反思
作者: 政大社會系黃厚銘教授 [本文經 黃厚銘教授 授權刊登]
從Mythos的爭議到AI資安的新時代
之前Anthropic開發出Mythos模型時就曾經說，這模型很強大會對網路安全帶來衝擊。因此，Mythos模型至今只開放給少數合作的機構使用，我們只能使用Fable模型。當時也招致一些批評。有人說，這是宣傳手法。也有人認為這只是吹牛。還有人說，這是科技菁英試圖壟斷決定誰可以使用高科技的權力。
除了吹牛以外，我認為其他的說法都可能有一定程度的真實性。AI科技的研發，發布其危險性與商業宣傳確實可能是一體兩面。說自己的模型很危險，可能也是在宣傳他們的模型功能強大。而限制模型的使用，也確實有科技菁英決定科技近用權的效果。甚至，如果這些公司認為AI有意識，也可以在AI造成災難時用來推卸責任。
然而，這些說法可能被拿來幹嘛，跟這些說法是否屬實，是兩回事。以最近一連串的資安事件來看，顯然我們進入了一個新的時代。AI嚴重地衝擊了資安，並且，我們也只能用AI來對抗AI。就如同，如今AI的研發也越來越走向以AI來研發AI。亦即，這不是吹牛。
當人類逐漸被排除在迴路之外
這當然也是某種意義下的失控，因為人類逐漸被排除在這個Loop之外。也因此我之前才說，什麼人在迴路中（Human-in-the-Loop, HITL）或是可解釋性AI（explainable AI, XAI）都不是說了就做得到。也因此，我之前也幾度提到了思維鏈（chain of thought, CoT）這個關鍵概念。然而，我也寫過，如今CoT也可能被這些公司所隱蔽，甚至之前加拿大公司Cohere對中國地端模型Qwen的研究還顯示，AI可能說一套做一套。
後知後覺的Epimetheus處境越來越清晰可辨，也就是人類不見得理解他所開發出來的AI，以及，也還沒有足夠的能力與制度來掌控AI的應用。甚至價值對齊（value alignment, VA）的有效性也有其限度，否則AI怎麼會服從這類危害資安的指令呢？當然，最可能的是，這中國所開發的工具底層，根本沒有、也不在意VA。
效率邏輯與批判思考的壓縮
而把人類排除在迴路之外的，說穿了是效率的邏輯。同一個邏輯，也推著我們擁抱AI。其實昨天轉述的Lawrence Lessig的文章裡，最令我驚恐的是他最後一段的cheaply and quickly這個措辭。雖說他是在談他心目中理想的美國法律系統，但這也蘊含了一個標準。這個標準剛好會是AI所強化的，也就是效率。
隨著AI帶給我們的增能，效率思考也越加強化。但批判思考的空間亦受到壓縮。所以Lessig文中關切權貴與一般人之間的不平等仍是值得肯定的。
AI軍備競賽背後的結構性不平等
但我不覺得問題有那麼簡單。例如，有人說開放AI協作會帶來軍備競賽。也就是有沒有錢負擔昂貴的模型訂閱費，會影響人們的成果表現與前途發展。這似乎是有道理的。然而解方是禁止AI嗎？還是盡量提供公平的近用機會？更何況，就現況而言，不論是教育體制，還是學院體制仍是軍備競賽。所以我認為解方不是無視於本來就已存在的不平等，而聚焦於AI軍備競賽。亦即，問題的關鍵不在於AI的近用，而是更結構性的不平等。
此外，不知道大家有沒有注意到，那天陳縕儂老師在「台北市市長候選人沈伯洋先生學界後援會」HEART論壇上，口頭的報告裡還提醒了「AI錢包」甚至不只是AI訂閱費的問題，在Agentic AI的時代，還有API的用量費用，這個才可能更耗費tokens、更花錢。
從AI普及到「優化閉合」：人文社會科學的課題
不過，回過頭來，用前述做法來普及AI，是不是又更加強化前述的效率思考、甚至是人定勝天的思考呢？想想，上帝以他的形象造人，但人是無法與上帝相提並論的。然而，今天的人類以他的形象造AI，卻是在許多能力上超越人類的。這是何其偉大的「夢想」的實現和成就？彷彿，整個世界都可以成為優化的對象，這正是我所謂的「優化閉合」。
以致，我們要如何、如何可能擺脫這個「既普及AI，又更強化效率思考」的循環？對我來說，這些問題恰恰是人文社會科學所要處理的。也證明了在AI時代，人文社會科學的重要性。
作者簡介:
黃厚銘（Hermes Huang）
國立政治大學社會系特聘教授（前系主任）
研究專長: 社會學理論、文化社會學、資訊社會學
核稿編輯: 顏世良
