第190期主持人 徐魯青

過去一年里，AI不再止于技術新聞。胡彥斌、易夢玲的“AI視頻”引發(fā)爭議，出版行業(yè)出現冒名寫作，評論區(qū)里混入疑似AI生成的段落……生成式內容正以很快的速度進入文學、影視、以及普通人的日常表達。 

在上一期的文化周報里，寫到劍橋大學的一項最新研究顯示，超過半數已有作品出版的英國小說家認為，AI最終可能完全取代他們的工作，39%的受訪者的收入已受到影響，市場上也出現更多AI寫作、甚至冒名出版的書籍。

我們作為寫作者，也在經歷同樣的變化。你會用AI寫稿嗎？還是在選題和查資料時用上它？它們都改變著我們的寫作方式。

另一方面，AI的擴張也在放大數字世界里的知識差異。沒有被系統(tǒng)記錄的經驗、弱資源語言，都更容易被排除在模型之外。另一項來自康奈爾大學的研究也指出，自ChatGPT上線后，很多人把AI當作新知識入口，但模型本身深受英文語料的影響，知識分布并不均衡。而且在未來，當模型開始學習模型生成的內容，文化的想象力會不會被固定在某幾種模板里？

這期我們來聊聊，過去一年里，AI怎么改變了我們的創(chuàng)作方式？對創(chuàng)作者而言，這場變化意味著什么？

AI在工作流里的悖論

王鵬凱：我不太信任AI的一些功能。比如說它給我查資料，或者修改我的稿件，我覺得改出來的中文稿件會非常生硬，文體上也會有點奇怪。

我有點老派。前兩天去一個非虛構工作坊，聽他們聊到現在很多媒體工作者至少都會用AI來搜集資料。但我還是對自己的信息檢索能力比較有信心，而且之前有試過，我自己找不到的材料，AI基本上也找不到。

徐魯青：這一年我的搜索方式發(fā)生了挺大變化。比如我現在用Google的時候，會越來越少去打開主頁。因為搜索引擎會在前面出現AI生成的簡略內容，我一般就直接看那個內容。 

我看方可成寫的一篇文章，他說未來媒體機構的流量會被AI剝奪得越來越少。因為現在大家用AI看信息，即使附上了網頁的鏈接，讀者也很少真的會點進去看里面更細節(jié)的信息。 

王鵬凱：但是不是我們已經習慣了把什么東西都喂給AI，現在歐洲有很多內容創(chuàng)作者抵制AI，因為自己的材料未經允許就被放進AI的語料庫里訓練，覺得這是很大的倫理問題。

我參加過一節(jié)人類學的方法課，有一個外國的老教授，胡子花白，坐在前面，很有興致地教我們使用一款我從來沒聽說過的手動轉錄田野錄音的軟件。他講了大概半個小時，一步步地告訴我們這個軟件怎么用。 講完之后，一個同學問出了我們所有人都想問的問題：你為什么不用類似訊飛這樣的軟件？它可以直接幫你轉成文字嘛。 

老教授說，你怎么確定你上傳的這些訪談信息只有你自己能看到？在田野或者采訪工作里，有一個前提就是你已經向對方承諾這些東西是私下的，你要保護他的隱私。但從倫理上來說，如果你把它喂給AI，你不知道誰會看到，它也可能變成語料庫的一部分。 

我覺得雖然這是一個很老派、傳統(tǒng)手藝人式的觀點，但它其實也是一個提醒。如果我們很信任地把所有采訪材料、稿件都發(fā)給AI，也是一個需要反思的問題。

徐魯青：另一個問題是，就算我們在個人層面上不想把自己寫的東西喂給AI，難道它就真的不會得到嗎？我們發(fā)在任何地方，它都有能力抓取，個人創(chuàng)作者是完全失權的。平臺得到了我們的內容，就有權力決定這些內容的流向。

王鵬凱：英國去年有一個法案，當時在議會爭議很大。它的邏輯是，作家必須主動提出“我不同意被AI訓練”，不然就默認你同意。這個引起了很多作家反對，比如石黑一雄他們就提出批評。最后這個法案因為阻力沒有通過。

徐魯青：我覺得還有另一個問題，如果一個信源不愿意給GPT提供開源數據庫，它的可見性會變低。這也是它商業(yè)考量的一部分。

比如現在有一個灰色地帶，類似AI廣告投流。你在網上搜一個“我最近要打什么疫苗比較好”，AI會推薦你某些公司，有一些公司就會去給AI“做數據”，讓AI更大概率吐出他們公司的名字，推薦他們公司。這個就像最早百度刷置頂廣告一樣，數據是可以被刷的。所以如果我們拒絕讓它提取我們庫里的內容，我們的內容會變得越來越不可見，越來越少的人點進去。

王鵬凱：這個困境是雙重的。一方面我們前面在講，作為內容創(chuàng)作者，我們想保護自己的作品，不被AI使用。但另一方面，又會作為使用者去抱怨AI提供的信息不準確，它不準確的前提很多時候就是因為它的語料庫不夠大、不夠全。

知識的等級制度如何被AI進一步固化？

李欣媛：當我們進入數字化時代，或者我們需要用一些產品的時候，這些東西不可避免地會被后臺抓取信息。這是數字時代的一個必然情況。其實更具象地反映了知識領域的權力失衡。之前看了《衛(wèi)報》一篇文章，它講的是AI之后的知識性的崩塌。

早期互聯網是由英語語料組成的，當下的數字庫又是基于網絡內容訓練的，這就導致我們現在對于知識的理解，或者其他領域的見解，會以英文世界為主體。其他語言的語料會被輕視、忽視。

OpenAI自己說ChatGPT已經成為全球廣泛使用的工具，尤其在低收入和中等收入國家增長迅猛，其實這意味著那些生活水平沒那么高、獲得知識沒那么多的人，會更依賴這些工具。而在重建他們自己的知識體系時，反而是用“外來的信息”覆蓋他們自己的語言和世界。我覺得這個現象非常諷刺。

AI需要邏輯學習模型，如果你不斷給它加入某些信息，它就會以那個為主體、為主要觀點。比如我說“世界上最受歡迎的食物是披薩”，這種話出現多了，它就會變成常識、主流觀點。你再問它，它不會說那些很小眾但很好吃的食物，它只會說披薩、可樂、漢堡之類的。

我印象中《衛(wèi)報》的這篇文章里有一句話非常啟發(fā)我：

“通過強化這些等級制度，人工智能時代最可能抹殺的是幾個世紀以來不斷演進的理解體系，使后代與大量未被編碼卻依然是人類認知方式的洞見和智慧隔絕開來。因此岌岌可危的不僅僅是知識的呈現方式，更是知識本身的韌性和多樣性。”

丁欣雨：說回鵬凱之前講到他要用GPT當英語老師。我正好看到一個研究，說人工智能有時候會錯誤地把大量托?？荚囎魑?/span>，也就是英語非母語寫作者的文章標記成AI生成的。還有一個研究是說，在面對黑人說話時，自動語音識別系統(tǒng)的錯誤率幾乎是面對白人時的兩倍。而且這些錯誤不是由于語法，而是語音和韻律特征，即口音導致的。

王鵬凱：這其實是學界長期討論的“算法歧視”問題。不只是你剛剛講的口音。包括之前有統(tǒng)計說，算法在識別黑人和白人的照片時差異很大，因為語料庫本身就以白人為主。在這種情況下少數族群語料越少，算法就越偏向白人群體。

徐魯青：我最近采訪《投喂 AI》的作者，他也提到欣媛剛剛講的現象，他把這種現象叫做“數字殖民主義”，意思是GPT和大規(guī)模的AI普及，會更廣泛地向其他地區(qū)灌輸某一種強勢知識。披薩是歐洲很流行、后來全球化傳播的食物，我們所有人都知道披薩。但它就不會說擂辣椒皮蛋，不會說一個本地食物，因為那些不在全球化的強勢知識體系里。

但另一方面，有個很有趣的現象，兩三年前網友很愛比較中國大模型和GPT。有人問：“你覺得女性的結婚黃金期是什么時候？” GPT的回答是：不存在結婚黃金期，這是對女性的限制，是錯誤的觀點。但同期去問另一個國產模型，它就會告訴你女性黃金期在30歲之前。

很明顯它們采用的語料庫和數據集不一樣，所以輸出的觀點也完全不一樣。我們在用大模型的時候，好像默認它背后是一個客觀、沒有偏見的說話者，但實際上在所有問題里，它都有自己的觀點。 

王百臻：我覺得還有一點非常有趣。對我們而言，我們的成長經歷、教育經歷、認知經歷均主要發(fā)生于前AI時代，保留著前一個時代留下來的慣性和抗拒性。但現在真的有一批從AI時代中長大的“AI土著”，他們可能在今天還只有幾歲大，其心智和認知都處在一個高速發(fā)展階段，而且他們的數量正在不斷擴大。

而對他們來說，AI可能就是他們成長過程中一個非常固有、天然存在的元素，這會在更大的程度上塑造他們看待世界和自己的方式，這種影響可能會在之后不斷加深。

創(chuàng)作可以回到快樂本身嗎

徐魯青：我們剛剛討論的是工作，對于“創(chuàng)作”這件事情本身，我在想它會不會發(fā)生一些變化。

科幻作家陳楸帆之前跟AI一起合寫了一篇科幻小說，有點像他們共同創(chuàng)作出來的一個問題文本，之前創(chuàng)作者都會覺得：“AI會不會替代我？”更多是一種被替代的焦慮，但好像它也可以帶來一些新玩法，對創(chuàng)作這件事本身有新的理解。比如以前我們自己寫作，就是一個人寫，那現在是不是可以協同協作，或者做一些跟以前一個人做完全不一樣的東西？

王百臻：我曾于前兩年翻譯過一篇劉宇昆的訪談。里面有一個比喻，我覺得挺有意思。他認為AI還沒迎來屬于自己的“電影時刻”。這個“電影時刻”指的是：最早膠片電影被發(fā)明時，人們用它拍攝戲曲、舞臺劇。但后來故事電影逐漸發(fā)展出了自己講故事的方式，它作為媒介本身出現了新的可能性，人類也不再把電影僅僅當成記錄其他媒介的工具。

劉宇昆老師的意思是，我們現在對AI的使用還停留在模擬人類行為、重復人類工作的基礎之上，但屬于AI的那個“電影時刻”其實還沒有到來。當它到來之后，AI作為媒介，會在極大程度上豐富我們的表達方式。 

王鵬凱：我感覺使用者的態(tài)度是兩極的。那些暢想AI有很多可能性的人，其實是支持AI的人，他們會覺得AI發(fā)展得還不夠快，你語料庫還不夠多，你還要繼續(xù)進化。但是另外一部分人就會去反思，會警惕，想要讓它發(fā)展的慢一點，覺得我們不需要這么快的進展。一些科幻小說里面反而會設想一個場景：未來人們有一個全球性的公約，把這種新技術封鎖，不去發(fā)展它，因為太快會帶來一些后果。

包括前面講到AI對人的影響，尤其是對創(chuàng)作的影響，我昨天看到一位女哲學家的朋友圈。我一直很欣賞她，但她的書我經?？床欢?，因為她的語言特別……就是你認識每個字，但連起來不知道是什么意思。我之前就會覺得，哲學家是不是說話太繞了？可能是她的寫作有問題，也可能是我的理解有問題。

她寫到說，當代人的語言被AI侵蝕得太強了。我們越來越多的日常語言，都是技術帶來的新語言。我們很多時候已經忘記，除了這些技術之外，原本的語言是什么樣的。 

她的話會提醒我：是不是我們現在說的“我們想要看懂的語言”，其實也是被各種技術影響過的，而不再是原來的那種語言？我們的創(chuàng)作是不是也在無意識中被改變了？我覺得這個提醒對我來說很有啟發(fā)。

中文其實是一個可以通過很多拼接組合產生新詞匯的語言。不光是AI，人也會在寫作中組新的詞。比如把兩個字或詞拼到一起用，這是中文的特點，跟英語不太一樣。但是拼的時候，其實也是有人的創(chuàng)造在里面。拼出來之后這個詞有沒有美感、是否合適，是人來判斷的。

王百臻：最開始我們討論人類的工作是否具有某種獨創(chuàng)性，我一開始對這個問題蠻悲觀的。悲觀的點在于，當下的AI，主要是大語言模型，雖然未必真的在物理層面還原了人類大腦的認知過程，但我們或許依然能看到AI正在以驚人的速度不斷接近某個奇點。我覺得，當把“人類的思考本身不可替代”這一結論放在一個更長的時間跨度上去看時，它會是可疑的。

但我也很認同欣媛剛才說的，我們這樣想會不會太工具論了？當我們用這種方式把自己和AI進行一種帶著一點優(yōu)績主義色彩的比較時，我們并沒有在創(chuàng)作和實踐中真正感受自己的主體性。其實在AI到來之前，我們也有很多導致虛無主義的來源，而AI只是又增加了一種虛無主義誕生的可能性而已。

對抗這樣一種虛無主義，我覺得重要的或許是如何從自我凝視與能力審判，回到“我們在創(chuàng)作這個過程當中，自己到底處在什么位置”這個問題上。不管我們每個人對 ”AI是否會在能力上超越我們”這一問題采納何種判斷，更重要的是自己用心去創(chuàng)作，去愛這個世界，去從創(chuàng)作中獲得快樂。我覺得這比把自己和AI做能力比較重要得多。 

我想call back一下象棋和圍棋。在這兩種棋類游戲當中，AI早已于某個時刻在純粹競技能力上勝過人類了。相比文字的模糊性，棋類的競技性結果更直接。但事實上，現在依然有非常多人從棋類游戲里獲得純粹的快樂，那種智力活動、思考活動的愉悅感依然存在。

這種東西本應是我們的護城河，而不是那種“能力上要靠每次考100分來壓倒AI的悲哀”。我們不應該把存在意義建立在這上面。

徐魯青：有點像游戲哲學里說的：游戲是一種最純粹、無目的的行為。因為游戲的目的不是結果，而是在玩游戲時產生的愉悅。

但我們做創(chuàng)作工作的人，好像反而丟失了這種愉悅，變成了結果導向：我能產出什么內容，AI 能產出什么內容，我們在比較誰能力更高、誰更強。但是AI無法替代的是，人類在做這項活動時，自己產生的愉悅，和自己享受這個過程的能力。這就代表著一種存在，而這種存在沒有任何東西可以代替。