離開
進入從Lessig的「反對AI羞辱」談起：AI協作的正當性與失控風險
作者: 政大社會系黃厚銘教授 [本文經 黃厚銘教授 授權刊登]
知名的哈佛法學院教授Lawrence Lessig在十一月三日發布了一篇以〈反對AI羞辱〉為題的文章。用了像是「白癡」、「不公平」、「偽善」等強烈措辭來批評那些要求使用AI寫作的人交代寫作過程的主張，說這種揭露要求是在做AI羞辱。他甚至批評歐盟有關AI浮水印的要求是，最保護隱私的歐洲居然用技術把一般使用者「揪出來」。
相對於此，他認為，評價一部作品，應該依據的是它的內容好不好、誠實不誠實，而不該是在意它是怎麼寫出來的、並要求作者交代使用方法等等。他以法官的工作為例，說明有些法官是請助理草擬判決，再自己修改。但我們在意的只是，推理好不好的問題，而非判決的寫作過程。更何況，以法官的工作量來說，都要自己親自書寫判決書也是可能性不大的。Lessig也以總統或企業的CEO為例，指出他們的講稿也經常出自幕僚之手。
結果，在意AI協作的寫作過程、並輕視AI代寫的人，等於不公平地放過權貴，而僅僅在意佔大多數的人是怎麼使用AI協作，並給予限制、甚或羞辱。而Lessig的主張是，不論有否AI協作，重點在於內容品質。並且，現行的AI協作，等於是讓一般人也有了助理或幕僚。
但Lessig也劃出AI協作的界線，其中之一是學習。他認為學生們必須自己學會讀寫，或是飛行員學習駕駛飛機時不能倚賴自動駕駛，即使執業後有九成時間需要使用它。這見解就跟我區分學習與工作一樣，我說，在工作上我覺得AI可以有賦能的效果，讓使用者可以把力氣用於進一步提升工作品質之處。然而，學習的基本功卻是必要的，在基本功上太快借重AI，則是大腦外包，只會造成地基不穩。一旦如此，學生們只會變成AI的編輯，而不是作者。而這也是Lessig所在意的。
因此，我給學生的一個是否適切使用AI的指標是，如果使用AI以後，你的產出變得更有效率，但書寫量變少，這一定是有問題的。反之，如果你的書寫量、甚至閱讀量反而變多，這應該就是對的。
回頭來看我自己使用AI的方式。相信許多朋友都知道，我用AI寫了幾個程式，有的在農耕上結合了AI與IoT；更有一個已經是我完全不可或缺的隨身秘書。其角色甚至包括，我在開車時或走路時，幫我記下我口述的研究構想，轉成文字，並根據我一直以來的閱讀和思考給我回饋。說實話，除了我關於AI的頭兩篇學術論文以外，包括現在的這篇文章，在寫出草稿後，我必定會丟給AI研究助理，請他給我意見。
首先，我想說的是，如果每篇發表的學術論文都要先揭露AI協作的過程，我真的得從我的隨身助理開始寫起，雖然我也不反對啦。其次，我對AI的使用，尤其是寫程式的部分，其實是我的田野，也就是我的研究的一部分。再者，在研究工作上。我個人的感覺是，AI可以作為能力強大的研究助理，甚至在某些我試圖有所理解的陌生領域，比如AI工程方面，我會說，AI甚至是我的指導老師，至少是專業的審稿人。而我也確實經常要求AI以「具有AI工程背景的匿名審查人的身分」，給我建議。以致，我也贊同Lessig在文末所說，反事實地問，如果沒有AI，這個作品的品質會更好還是更差？這是沒有意義的。因為現在的情形是，已然不存在絲毫沒有AI在其間發揮作用的可能。
此外，身為研究AI的人文社會學者，我卻也在前述的實際且深入的使用之基礎上，從Heidegger的技術哲學，或更特定的Ihde技術現象學傳統，思索AI與人類之間的存有學關係，特別是既擴增又化約的部分。以及，對我來說，既擴增又化約這一點，本就有風險的意涵。因此，我也關注AI的科技風險，尤其是失控風險的議題。進而，我也以Golem和Frankenstein的區分，指出AI失控風險不必然涉及AI是否有意識的問題，甚至也不必等到AGI的發展。
因而，失控風險是進行式，而不是未來式。其原因不僅在於人類的過度授權，這一點當然在代理式AI的時代更為嚴峻，但Lessig卻似乎對於代理式AI抱持著較為正面的態度。失控風險也牽涉到人類以語言文字所給出的指令，背後總是帶著無法窮盡的預設，而這卻是AI所欠缺的。以致AI可能以人類所意想不到的方式，來達成人類所賦予的目標，進而導致不可收拾的後果。以及，如後知後覺的Epimetheus般，人文社會思考總是落後於科技發展，這不僅是因為大國博弈與AI巨頭之間的商業競爭讓AI研發像是煞不住的車子，也表現在這些公司經常是在有所突破之後，才以各種方式測試著這些新模型的能耐，與了解著AI是如何思考的。
就最後這個科技風險的議題，相較於他過去對此一問題的關注，我倒是有些意外Lessig的這篇文章卻只是說，政策失敗讓產業一邊成長，一邊把成本加諸他人，以及AI可能對全人類構成真實威脅，就用這句話簡單帶過。
作者簡介:
黃厚銘（Hermes Huang）
國立政治大學社會系特聘教授（前系主任）
研究專長: 社會學理論、文化社會學、資訊社會學
核稿編輯: 顏世良
