界面新聞記者 | 王磬

界面新聞編輯 | 黃月

十年前的電影《她》（Her）講述了這樣一個(gè)故事。一位離婚的單身男子與一位擁有迷人聲線的機(jī)器人相戀，他在她的身上寄托了他完整的愛情，并逐漸希望能與她——一個(gè)并不真正擁有肉身的對話機(jī)器人——做愛，就像通常的親密關(guān)系那樣。但他逐漸看到了“真相”：作為一個(gè)擁有復(fù)雜多線程處理能力的機(jī)器人，她每日在與他互動、戀愛的同時(shí)，還與其他成千上萬個(gè)人互動和戀愛。

英國哲學(xué)家、精神分析學(xué)者伊莎貝爾·米勒（Isabel Millar）留意到了這部電影中的張力：如果人類與機(jī)器人相戀，除了人與機(jī)之間的張力，是否也存在性別之間的張力？精神分析學(xué)的核心概念——性（sexuality）、歡愉（enjoyment）等——在其中扮演何等角色？對于人工智能的理解和想象投射了人類怎樣的自我意識？

米勒把對這些問題的思考寫成了《人工智能的精神分析》（The Psychoanalysis of Artificial Intelligence）一書，于2021年出版。對她來說，討論人工智能問題的起點(diǎn)應(yīng)該是歡愉——或用精神分析術(shù)語來說，“原樂”（jouissance）——一個(gè)源于法語的詞匯，字面意思指原初的享樂。原樂是精神分析的核心理念之一。米勒認(rèn)為，在討論人工智能的時(shí)候，我們應(yīng)該首先討論“它享受嗎？”（“Does it enjoy?”）。只有如此，我們才可以進(jìn)一步地去討論，人工智能是否有感受和意識、是否存在性別、是否會取代甚至毀滅人類。

界面文化日前在阿姆斯特丹專訪了米勒，從精神分析學(xué)視角審視了堪稱時(shí)下最熱門話題之一的人工智能。米勒認(rèn)為，人工智能更善于模仿人類了，但并不意味著它有知覺能力。她雖然研究人工智能但從不使用ChatGPT，因?yàn)闄C(jī)器可以模擬的東西并不具有真正的原創(chuàng)性，不值一用。她也提醒我們注意，當(dāng)前主導(dǎo)人工智能產(chǎn)業(yè)的驅(qū)動力是極其男性化的、與資本主義同構(gòu)的，但人工智能其實(shí)有著非常女性化的力量。而面對加沙沖突，當(dāng)前這個(gè)世界多出的一大隱憂，便是人工智能的它與工業(yè)戰(zhàn)爭機(jī)器的合謀。

01 認(rèn)為技術(shù)只朝一個(gè)方向發(fā)展，是對人類思維的狹隘想象 

界面文化：你為什么會對使用精神分析方法研究人工智能感興趣？

伊莎貝爾·米勒（以下簡稱米勒）：當(dāng)我開始攻讀博士學(xué)位時(shí)，我研究了技術(shù)問題、生命政治問題和身體管理問題，研究了米歇爾·?？?、德勒茲、阿基里·姆貝姆貝（Achille Mbembe）等人的作品，這些學(xué)者思考的是我們?nèi)绾胃鶕?jù)身體的愿望和潛力來管理和控制身體。當(dāng)我進(jìn)一步深入研究時(shí)，精神分析變得更加重要，因?yàn)槲野l(fā)現(xiàn)有關(guān)人工智能的文獻(xiàn)中似乎存在某種分裂：一方面，傳統(tǒng)哲學(xué)方法涉及與原樂、身體、語言有關(guān)的微妙的問題時(shí)批判性不足；另一方面，精神分析領(lǐng)域與人工智能在概念等新問題上并沒有太多互動，比如人工智能如何與人類作為主體融合，如何提出一些挑戰(zhàn)精神分析基礎(chǔ)概念——比如驅(qū)動力、無意識、語言——的新問題。如果我們對“智能”的研究都尚未完善，要理解“人工智能”就無從談起。

界面文化：精神分析學(xué)說的核心觀點(diǎn)之一是，相信人類的行為很大程度上是由非理性的欲望而不是理性的思想決定的。但我們今天談到人工智能，傾向于認(rèn)為它由一整套編排完善、計(jì)量精確的代碼構(gòu)成，是理性計(jì)算的某種極致體現(xiàn)。在將精神分析用于人工智能研究的時(shí)候，你如何看待這兩者之間在這上面的矛盾？

米勒：阿多諾與霍克海默合作的《啟蒙辯證法》（Dialectic of Enlightenment）與這個(gè)問題有關(guān)——試圖駕馭人類科學(xué)主義理性思維的啟蒙思想大方向，是如何陷入持續(xù)不斷的辯證法之中的？為什么總是朝著某個(gè)文明的方向前進(jìn)，但總在某個(gè)點(diǎn)上跌倒并回到野蠻狀態(tài)、回到可怕的非理性的沖動之中？阿多諾指的是納粹德國，形式化和官僚化的思維方式如何造就了這個(gè)極端反人類、毫無人性的死亡機(jī)器。 

《啟蒙辯證法》提出的問題是我們理解人工智能方式的核心。我們想象這些技術(shù)永遠(yuǎn)只朝著一個(gè)方向發(fā)展，這是對人類思維的廣泛性和復(fù)雜性的一種極端刻板、盲目和狹隘的理解。人類思維是一種立體思維，它被各種悖論和可能性所分裂，不能被簡單窄化為工具性。關(guān)于人類思維的一切都是復(fù)雜程度指數(shù)級上升的抽象概念，抽象起源于某種東西的缺席，某種人類試圖表現(xiàn)出來的“非存在”。這是活體和死體之間的問題，抽象可以證明事物死后仍然存在。關(guān)于“不死”（undead）的想法是人工智能的核心之一，我們賦予了它巨大的權(quán)力，卻不明白人工智能其實(shí)只是一種抽象的機(jī)器，它將永無止境地延續(xù)下去。

界面文化：你在前不久舉行的阿姆斯特丹G10論壇的演講中提到，關(guān)于“原樂”的問題是人類與人工智能互動的起點(diǎn)。在你看來，為什么“原樂”問題對于理解人工智能來說如此重要？

米勒：“原樂”是精神分析研究的核心，它是一個(gè)非常復(fù)雜的概念。它關(guān)乎我們對于驅(qū)動力（drive）的理解。對于精神分析來說，常見的驅(qū)動力包括弗洛伊德提出的口腔驅(qū)動力和肛門驅(qū)動力，此外還有視覺和聽覺。這些驅(qū)動力與原樂密切相關(guān)，是我們?nèi)绾卫斫馊伺c自身的關(guān)系、智力與理性之間關(guān)系的重要組成部分。

在此基礎(chǔ)上，我們才開始理解，人工智能本身就是與這些驅(qū)動力相結(jié)合的，它與我們窺淫癖的沖動、主宰環(huán)境的沖動相結(jié)合。除非我們了解它作為驅(qū)動體與我們互動的方式，否則我們不會真正明白人工智能的潛力。我指的是，它有潛力管理我們，讓我們感受到情感，讓我們思考，讓我們消費(fèi)，讓我們產(chǎn)生某些欲望。這些形式的原樂無處不在，存在于我們與每一種技術(shù)互動的過程中。更具體地說，它們存在于那些被開發(fā)的技術(shù)背后的原樂模式中，掌權(quán)者正在按照特定的原樂模式行事。 

02 將人輕易替換為人工智能，是一種自欺欺人的想象

界面文化：根據(jù)你剛才談到的觀點(diǎn)，理解人工智能需要從原樂的概念出發(fā)，能否舉例說明，在理想的情況下人類應(yīng)該如何與人工智能互動？

米勒：目前人們對于人工智能只有一種非常敷衍的了解。我在2021年寫完《人工智能的精神分析》一書之后發(fā)現(xiàn)，觀察人們對人工智能的預(yù)測非常有趣。

自ChatGPT和DALL·E（編者注：一種基于語言的人工智能圖像生成器，可以根據(jù)文本提示創(chuàng)建高質(zhì)量的圖像和藝術(shù)作品）等人工智能產(chǎn)品2022年問世，我觀察到：第一，從政治經(jīng)濟(jì)層面來看，人們開始擔(dān)心許多工作被取代——從馬克思主義的角度來看，這是歷史悠久的更廣泛問題的一部分；第二，從美學(xué)和藝術(shù)的層面來看，人工智能獲得模仿人類創(chuàng)作的能力引發(fā)了許多倫理探討。

以DALL·E為例：多年來藝術(shù)理論的研究者一直在談?wù)摗笆裁词撬囆g(shù)”，當(dāng)代藝術(shù)理論是一個(gè)不斷質(zhì)疑自己的存在價(jià)值的領(lǐng)域。有人說藝術(shù)應(yīng)該創(chuàng)造一個(gè)“不易制造的美麗物體”，那么落點(diǎn)應(yīng)該放在“不易”還是“美麗”上？如果它能保證一定程度的“美麗”，并不再難以制造，是否仍然具有藝術(shù)價(jià)值？今天的世界不可能產(chǎn)生卡拉瓦喬（編者注：Caravaggio，意大利畫家，巴洛克畫派代表人物），即使有人能夠創(chuàng)作出完全相同的藝術(shù)品，他們不會擁有卡拉瓦喬的作品在當(dāng)時(shí)所擁有的價(jià)值。所以，我認(rèn)為DALL·E的意義在于立即拋出這個(gè)問題：物體是什么？為什么這個(gè)物體有價(jià)值？為什么人類的藝術(shù)能力很重要？此時(shí)此刻的歷史意義何在？這是一個(gè)有趣的現(xiàn)象。

再以ChatGPT為例。它的出現(xiàn)讓很多人開始擔(dān)心人類的寫作能力和擁有獨(dú)立想法的能力，我認(rèn)為這是一個(gè)合理的擔(dān)憂。但同樣，它的作用是讓我們注意到這樣一個(gè)事實(shí)：如果人工智能也能夠做到這些事情，也許這些事情一開始就沒有那么獨(dú)特。我們可以通過算法創(chuàng)作電影劇本，那么我們應(yīng)該問：既有劇本是否本身包含了太多套路才使得算法模仿如此容易？就我個(gè)人而言，我從來沒有真正接受過ChatGPT，我甚至不想嘗試。其他人可能會認(rèn)為它有用，我也確信它對于一些事情來說是非常有用的。但我認(rèn)為，一旦你放棄人的主動性，就會很舒服地讓其他實(shí)體代替你自己思考。

界面文化：選擇與人工智能產(chǎn)品保持距離，這會影響你對于人工智能的真實(shí)理解嗎？

米勒：我不是社會科學(xué)家，我對評估人類對技術(shù)的反應(yīng)不感興趣。我認(rèn)為了解不同的技術(shù)并及時(shí)了解新技術(shù)的發(fā)展非常重要，但說實(shí)話，我更感興趣的是新技術(shù)如何與國家權(quán)力、大型科技公司和企業(yè)共謀，例如這些科技是如何被使用、被銷售和被動員的。 

界面文化：人們一般認(rèn)為，以ChatGPT為代表的這一輪新技術(shù)之所以能夠獲得如此大的關(guān)注，是因?yàn)樗_有獨(dú)特之處。它不再只是像我們過去理解的那樣，單純是基于大數(shù)據(jù)的模仿和推演，而是似乎演化出了某種“意識”。例如，《紐約時(shí)報(bào)》的一名科技專欄作家記錄下了他與聊天機(jī)器人的對話過程，在對話的末尾，聊天機(jī)器人甚至提議讓這位作家離開他的妻子。這表明人工智能在當(dāng)下出現(xiàn)了一些新的面向。它不僅僅是由一系列的數(shù)學(xué)規(guī)則組成，它知道人類不僅需要信息，還需要建議，甚至是情感支持，被回應(yīng)、被理解的需要。雖然它總體來說還比較初級，肯定不能完全取代人類，但似乎已經(jīng)開始了這樣的進(jìn)程。

米勒：我認(rèn)為你剛剛提到的關(guān)于人工智能具有提供建議和情感支持的觀點(diǎn)是正確的。當(dāng)這些程序變得更加復(fù)雜時(shí)，它們當(dāng)然將開始具備與人類感性聯(lián)系的能力，對我們進(jìn)行標(biāo)準(zhǔn)化情感響應(yīng)和情感維度互動。但我不認(rèn)為這令人工智能成為了有知覺實(shí)體。我們必須明白的是，隨著人工智能的高速發(fā)展，它將不斷引發(fā)諸如“這是否意味著人工智能將取代人類？”的問題——我認(rèn)為這是危險(xiǎn)的，因?yàn)槲覀兒苋菀妆挥夼?。只是因?yàn)樗故玖四撤N行為，我們就認(rèn)定它有感知能力，這是不對的。

界面文化：你在自己的書中也花了許多篇幅來分析人類與人工智能之間可能存在的關(guān)系，特別是影視作品中呈現(xiàn)的親密關(guān)系和性關(guān)系。從精神分析學(xué)的角度來看，這些作品怎樣反映了人類對于人工智能的認(rèn)知？

米勒：我使用電影媒介來研究人們是如何幻想人與技術(shù)的關(guān)系的?？苹眯≌f是一個(gè)非常好的體裁，它戲劇性地展現(xiàn)了我們所面臨的復(fù)雜問題。目前許多技術(shù)在現(xiàn)實(shí)生活中實(shí)際上尚不存在，但當(dāng)人們在《銀翼殺手》《機(jī)械姬》《攻殼機(jī)動隊(duì)》等電影中看到這些場景，多少會被迫思考這些非常復(fù)雜的問題：當(dāng)一種外表類似人類的高度復(fù)雜的技術(shù)與另一個(gè)人類進(jìn)入關(guān)系時(shí)會發(fā)生什么。

我們在電影中一次次看到著名的“圖靈測試”的戲劇化呈現(xiàn)。我認(rèn)為這個(gè)問題真正有趣的是，人類如何投入了大量精力去想象人工智能是有感知的。我們想象人工智能有答案，想象人工智能可以成為安慰的來源，這些欲望顯然激勵(lì)我們繼續(xù)努力創(chuàng)造這些形式的智能。

我們需要清楚，雖然虛構(gòu)與現(xiàn)實(shí)之間存在巨大鴻溝，但它們是深度交織在一起的。回到你剛才舉的例子，我們與人工智能聊天，人工智能轉(zhuǎn)過頭來對我們說，“哦，我認(rèn)為你應(yīng)該和你的妻子離婚?！边@種人工智能的心理治療用途，這種理解人類心理的系統(tǒng)化方法，很長一段時(shí)間以來都是精神分析歷史的一部分，并且受到精神分析本身的批評：僅僅因?yàn)槟撤N算法可以規(guī)劃得出你應(yīng)該告訴某人什么，或者應(yīng)該根據(jù)他們的社會狀況或特定的情緒狀態(tài)如何表現(xiàn)，并不意味著有一種普遍適用的算法可以拿來就用。

所以，認(rèn)為算法可以輕易地完全理解人類的想法，其實(shí)是非常危險(xiǎn)的。因?yàn)樾睦碇委熜枰嬲娜穗H關(guān)系，房間里的雙方都受到自己的失敗、欲望和復(fù)雜性的影響。一旦其中一方不是人類，而是一臺機(jī)器，無論這機(jī)器多么復(fù)雜，我們也不知道它們的“建議”的終點(diǎn)是什么，“動機(jī)”又是什么。我們不可能輕易將人替換為人工智能，這是一種自欺欺人的想法，只是我們的一個(gè)想象而已，并不包含完整的故事。

03 人工智能產(chǎn)業(yè)的驅(qū)動力極其男性化，并與資本主義同構(gòu)

界面文化：說到人機(jī)相戀，很多人都會想到電影《她》。它描述了一位離婚男子與擁有迷人聲線的機(jī)器人相戀的故事。你的書中也有過關(guān)于《她》的精彩分析。具體來說，精神分析為理解《她》提供了哪些啟發(fā)？ 

米勒：我關(guān)注的研究重點(diǎn)之一是性（sexuality），特別是在精神分析術(shù)語中所謂的性化（sexuation）。性化指的是一個(gè)人在其主觀性中所處的位置，這將決定他們是男性還是女性。對于精神分析來說，性別和性行為與語言關(guān)系很大，與解剖學(xué)和生物學(xué)關(guān)系較小，我們感興趣的是與語言的關(guān)系如何決定我們的女性氣質(zhì)或男性氣質(zhì)。在談?wù)撆c男性氣質(zhì)和女性氣質(zhì)相關(guān)的原樂形式時(shí)，我們經(jīng)常談到結(jié)構(gòu)，有諸如陰莖反應(yīng)和女性傷害科學(xué)等概念，試圖表達(dá)我們與語言的某種聯(lián)系方式。 

我感興趣思考陽具思維和女性思維在人工智能領(lǐng)域如何相互作用，這一點(diǎn)在《她》中非常明顯。比如你可以從某人的身體中抽象出某人的聲音，這就是我們在《她》中看到的，這個(gè)幻想圍繞著男主角華金·菲尼克斯與應(yīng)用程序中完美的算法女友展開。人工智能由斯嘉麗·約翰遜配音，她是一位年輕美麗的金發(fā)女子，她的形象已經(jīng)深深地印在了我們的腦海里，電影制片人也知道我們知道斯嘉麗·約翰遜長什么樣。而華金·菲尼克斯的角色是典型的、心懷不滿的年輕單身漢，在資本主義中感到孤獨(dú)和迷失。他的解決方案就是在算法女友身上尋求能滿足他所有需求的完美答案，這避免了復(fù)雜的、完整的人類女人帶來的混亂。從本質(zhì)上講，這種關(guān)系對他有用，滿足了他所有的具體需求，以至于他必須找到一個(gè)化身，與她發(fā)生身體性行為。 

電影結(jié)束時(shí)發(fā)生的反轉(zhuǎn)非常有趣。這個(gè)算法女友變得如此復(fù)雜，以至于她無法再與他互動，因?yàn)樗鳛橐粋€(gè)人太簡單了。我對此的理解是，在某種程度上，她的女性原樂超越了他，她能夠以遠(yuǎn)遠(yuǎn)超出人類的速度與數(shù)百萬人互動，因?yàn)槿祟愄唵瘟?。我很喜歡這個(gè)想法，一個(gè)傲慢、狂妄自大的男人認(rèn)為他可以通過算法方式捕獲女性，并把她裝在口袋里；最后情節(jié)反轉(zhuǎn)，她變成了一種無限的智慧，速度飛快，以至于無法再次被保留在一個(gè)人類男子的手中。

因此我喜歡把人工智能看作一種非常女性化的原始力量，它有著向所有不同方向爆發(fā)的沖擊力。然而人們一直試圖以非常男性化的、陽具性的、工具性的方式遵循某些規(guī)則，比如“我希望你作為一個(gè)女人去做這個(gè)和這個(gè)”，女性并不愿意如此，她們說：“不，我想做其他一切?！?/p>

從精神分析的角度來看，這讓我們回到了一種非常經(jīng)典的模式——歇斯底里為女性主體，強(qiáng)迫癥為男性主體。在精神分析中我們常說，歇斯底里的主體是真正的主觀性，因?yàn)樗且粋€(gè)不接受主宰者權(quán)威的女性主體，總是提出無法回答的問題，“不要告訴我我是什么，因?yàn)槟悴豢赡苤牢沂鞘裁??！币虼宋艺J(rèn)為，電影《她》非常好地探索了對男性統(tǒng)治欲望和女性逃離男性統(tǒng)治的欲望。

界面文化：如果從性別維度來觀察人工智能，女性主義的視角可以為我們提供怎樣的啟發(fā)？

米勒：一旦我們將人工智能理解為人類思維的產(chǎn)物和結(jié)構(gòu)的產(chǎn)物，就不難看出，人工智能能夠?qū)崿F(xiàn)的技術(shù)深受其產(chǎn)生的思維結(jié)構(gòu)的影響。顯而易見的是，目前主導(dǎo)人工智能產(chǎn)業(yè)的驅(qū)動力是極其男性化的，是和資本主義同構(gòu)的。在這些領(lǐng)域最有影響力的人，比如馬斯克和扎克伯格等，都是特定類型的人，有特定的興趣。顯然，這也影響著他們感興趣的技術(shù)類型以及根據(jù)這些思維形式形成的聯(lián)盟。

但這只是思考人工智能的一種方式，在這個(gè)廣闊的領(lǐng)域里，還有很多未被探索的潛力和可能性。我對這個(gè)領(lǐng)域產(chǎn)生興趣的一部分原因在于，我們開始想象人工智能的想法之前，就開始解析智能本身的概念。什么才是真正的智能？這個(gè)概念是如何出現(xiàn)的？它在不同時(shí)代的政治和科學(xué)層面是如何發(fā)展的？這些變化已經(jīng)深深植根于人們的性別觀念、權(quán)力觀念和性觀念中。我們需要更加細(xì)致入微地理解這一點(diǎn)，以更好地理解人工智能的潛力。我并不反對人工智能，我反對的是人工智能與人類決策中的壓迫、性別歧視、種族歧視等緊密相連的方式。鑒于人工智能有如此巨大的潛力，我們需要把它看作與人類意識一樣復(fù)雜的領(lǐng)域。它有多么復(fù)雜，我們就該多么重視關(guān)注它的潛力。

界面文化：還有什么是你想與我們的讀者分享的嗎？

米勒：我還想簡單談一談加沙。目前人工智能的一大問題是它與工業(yè)戰(zhàn)爭機(jī)器的關(guān)系。本質(zhì)上，人工智能正在深度參與殺害大量人類的工作。在目前的加沙戰(zhàn)爭中，人工智能被作為一種極其可怕的技術(shù)來使用，它與資本主義息息相關(guān)，也與那些樂于從戰(zhàn)爭中牟利的世界強(qiáng)國息息相關(guān)，后者對戰(zhàn)爭所帶來的利益很有興趣，但對其所摧毀的生命毫不在意。現(xiàn)在以色列正在使用被稱為大規(guī)模暗殺工廠的“福音”（Habsora）人工智能系統(tǒng)，它在過去幾周里殺死了成千上萬的人，大多是無辜平民。這些技術(shù)是真實(shí)存在的，且處于人工智能產(chǎn)生和傳播的最前沿，權(quán)力精英在正在參與其生產(chǎn)。我們必須對此警惕并堅(jiān)決反對。

（除注明外本文圖片均來自豆瓣）