本文節(jié)選自《意識(shí)機(jī)器》第十三章。

16世紀(jì)晚期，在布拉格，拉比猶大·羅·本·比撒列（Rabbi Judah Loew ben Bezalel）從伏爾塔瓦河岸邊采集黏土，用這些黏土塑造了一個(gè)人形——魔像。這個(gè)魔像被稱(chēng)為“約瑟夫”（Josef），或“約瑟利”（Yoselle），是為了保護(hù)拉比的人民免受反猶太大屠殺而創(chuàng)造的，而且顯然這樣做非常有效。一旦被魔法咒語(yǔ)激活，像約瑟夫這樣的魔像就能移動(dòng)，有意識(shí)，并且會(huì)服從。但是約瑟夫出了嚴(yán)重問(wèn)題，它的行為從愚蠢的服從變成了怪物般暴力的屠殺。最終，拉比設(shè)法解除了他的咒語(yǔ)，他的魔像在猶太教堂的場(chǎng)地上摔成了碎片。有人說(shuō)，魔像的遺骸至今仍被藏在布拉格，也許在墓地里，也許在閣樓里，也許在耐心地等待著被重新激活。

拉比猶大的魔像讓我們想起了，當(dāng)我們?cè)噲D塑造智能的、有感知力的生物時(shí)（按照我們自己的形象或從上帝的心智中創(chuàng)造的生物）所招致的傲慢。這種企圖大多不會(huì)順利進(jìn)行，結(jié)果也不盡如人意。從瑪麗·雪萊（Mary Shelley）的《弗蘭肯斯坦》中的怪物到亞歷克斯·嘉蘭（Alex Garland）的《機(jī)械姬》中的艾娃再到卡雷爾·恰佩克（Karel Capek）的同名機(jī)器人、詹姆斯·卡梅隆（James Cameron）的《終結(jié)者》、雷德利·斯科特（Ridley Scott）的《銀翼殺手》中的復(fù)制人、斯坦利·庫(kù)布里克（Stanley Kubrick）的HAL，這些創(chuàng)造物幾乎總是會(huì)攻擊它們的創(chuàng)造者，最終以毀滅、悲傷和哲學(xué)困惑而收?qǐng)觥?/span>

在過(guò)去十年左右的時(shí)間里，人工智能的迅速崛起給機(jī)器意識(shí)的問(wèn)題帶來(lái)了新的緊迫感。人工智能現(xiàn)在就在我們身邊，內(nèi)置于我們的手機(jī)、冰箱和汽車(chē)中，在許多情況下由神經(jīng)網(wǎng)絡(luò)算法提供動(dòng)力，其靈感來(lái)自大腦的結(jié)構(gòu)。我們有理由擔(dān)心這種新技術(shù)的影響。它會(huì)搶走我們的工作嗎？它會(huì)瓦解我們的社會(huì)結(jié)構(gòu)嗎？最終，無(wú)論是出于其剛剛萌生的自身利益，還是由于缺乏編程遠(yuǎn)見(jiàn)，導(dǎo)致地球上所有的資源都變成一大堆無(wú)用的回形針，它會(huì)毀滅我們所有人嗎？在這些擔(dān)憂(yōu)的背后，尤其是那些更關(guān)乎生存和末日的擔(dān)憂(yōu)，都有一種假設(shè)，即人工智能將在其加速發(fā)展的某個(gè)時(shí)刻變得有意識(shí)。這便是硅基魔像的神話(huà)。

怎樣才能讓機(jī)器有意識(shí)？有意識(shí)的機(jī)器會(huì)對(duì)人類(lèi)有什么影響呢？而我們要如何區(qū)分有意識(shí)的機(jī)器和僵尸機(jī)器呢？

為什么我們會(huì)認(rèn)為一個(gè)人工智能機(jī)器可以變得有意識(shí)呢？正如我剛才提到的，人們通常認(rèn)為（盡管這絕不是普遍的），一旦機(jī)器通過(guò)了某些未知的智能門(mén)檻，意識(shí)就會(huì)自然而然地出現(xiàn)。但是這種直覺(jué)從何而來(lái)呢？我認(rèn)為有兩個(gè)關(guān)鍵的假設(shè)在其中起到作用，但沒(méi)有一個(gè)是合理的。第一個(gè)假設(shè)是關(guān)于任何事物有意識(shí)的必要條件。第二個(gè)是關(guān)于特定事物擁有意識(shí)的充分條件。

第一個(gè)假設(shè)——必要條件，是功能主義。功能主義認(rèn)為，意識(shí)并不取決于系統(tǒng)是由什么構(gòu)成的，無(wú)論是濕件還是硬件，無(wú)論是神經(jīng)元還是硅邏輯門(mén)，亦或是伏爾塔瓦河的粘土。功能主義認(rèn)為，對(duì)意識(shí)來(lái)說(shuō)，重要的是系統(tǒng)是做什么的。如果一個(gè)系統(tǒng)以正確的方式將輸入轉(zhuǎn)換成輸出，那么就會(huì)有意識(shí)。正如我在第一章解釋過(guò)的，這里有兩個(gè)單獨(dú)的主張。第一個(gè)是關(guān)于任何特定基質(zhì)或材料的獨(dú)立性，而第二個(gè)是關(guān)于“輸入—輸出”關(guān)系的充分性。大多數(shù)時(shí)候它們是一起的，但有時(shí)它們也會(huì)分開(kāi)。

功能主義在心智哲學(xué)家中是一種流行的觀點(diǎn)，也經(jīng)常被許多非哲學(xué)家視為默認(rèn)的立場(chǎng)。但這并不意味著它是正確的。在我看來(lái)，對(duì)“意識(shí)是獨(dú)立于基質(zhì)，或者意識(shí)僅僅是'信息處理’的輸入—輸出關(guān)系”這一立場(chǎng)，無(wú)論是支持還是反對(duì)，都沒(méi)有確鑿的論據(jù)。我對(duì)功能主義的態(tài)度是一種保持懷疑的不可知論。

為了讓人工智能計(jì)算機(jī)變得有意識(shí)，功能主義必須是正確的。這是必要條件。但僅僅滿(mǎn)足功能主義是正確還不夠，信息加工本身對(duì)意識(shí)來(lái)說(shuō)就是不夠的。第二個(gè)假設(shè)是，足以產(chǎn)生意識(shí)的信息加工同時(shí)也是智能的基礎(chǔ)。這是一個(gè)假設(shè)，即意識(shí)和智能是緊密相關(guān)的，甚至本質(zhì)上是聯(lián)系在一起的，意識(shí)只是順帶而來(lái)。

但這一假設(shè)沒(méi)有得到很好的支持。正如我們?cè)谇耙徽驴吹降?，將意識(shí)與智能混為一談的傾向可以追溯到一種有害的人類(lèi)中心主義，通過(guò)這種主義，我們會(huì)從自身價(jià)值觀和體驗(yàn)的扭曲的視角來(lái)過(guò)度解讀世界。我們是有意識(shí)的，我們是智能的，我們是如此特別的一個(gè)物種，為自己宣稱(chēng)擁有智能而自豪，以至于我們認(rèn)為智能與我們的意識(shí)狀態(tài)有著不可分割的聯(lián)系，反之亦然。

盡管智能為有意識(shí)的有機(jī)體提供了一份豐富的分支意識(shí)狀態(tài)的菜單，但認(rèn)為智能（至少在高級(jí)形式中）對(duì)意識(shí)來(lái)說(shuō)是必要或充分的假設(shè)是錯(cuò)誤的。如果我們堅(jiān)持認(rèn)為意識(shí)在本質(zhì)上與智能有關(guān)，我們可能會(huì)太急于將意識(shí)歸因于看起來(lái)是智能的人工系統(tǒng)，也會(huì)過(guò)于迅速地否認(rèn)意識(shí)源于其他系統(tǒng)（比如其他動(dòng)物），只因這些系統(tǒng)未能達(dá)到我們值得懷疑的人類(lèi)認(rèn)知能力標(biāo)準(zhǔn)。

在過(guò)去的幾年里，這些關(guān)于必要性和充分性的假設(shè)被一大堆其他的擔(dān)憂(yōu)和誤解所粉飾并被排除在外，給了人工意識(shí)的前景一種緊迫感以及一種末世般的光景，而這其實(shí)并不值得緊張。

以下是其中一些擔(dān)憂(yōu)。人們擔(dān)心，人工智能無(wú)論是否有意識(shí)，正走向超越人類(lèi)智能的路上，超出我們的理解和控制。這就是所謂的“奇點(diǎn)”假說(shuō)，由未來(lái)學(xué)家雷·庫(kù)茨魏爾（Raymond Kurzweil）提出，并受到過(guò)去幾十年原始計(jì)算資源驚人增長(zhǎng)的推動(dòng)。我們?cè)谥笖?shù)增長(zhǎng)曲線上處于什么位置？正如我們?cè)S多人在最近的新冠病毒大流行期間所認(rèn)識(shí)到的那樣，指數(shù)曲線的問(wèn)題是，無(wú)論你站在指數(shù)曲線的哪個(gè)位置，前面的路看起來(lái)陡峭得令人難以置信，而后面的路看起來(lái)平坦得毫不相干。從原地的視角看不出你在哪里。然后是我們的普羅米修斯式的恐懼，擔(dān)心我們的創(chuàng)造物會(huì)以某種方式攻擊我們，這種恐懼已經(jīng)被許多科幻電影和書(shū)籍所認(rèn)識(shí)、重新包裝并賣(mài)回給我們。最后，一個(gè)不幸的事實(shí)是，當(dāng)談到機(jī)器的能力時(shí)，“意識(shí)”這個(gè)詞經(jīng)常被毫無(wú)幫助性的濫用。對(duì)于一些人（包括一些人工智能研究人員）來(lái)說(shuō)，任何東西，只要會(huì)對(duì)刺激做出反應(yīng)、能學(xué)會(huì)一些事物、或者以最大化一個(gè)獎(jiǎng)勵(lì)或達(dá)成一個(gè)目標(biāo)行事，都被認(rèn)為是有意識(shí)的。而對(duì)于我來(lái)說(shuō)，這是對(duì)“有意識(shí)”合理含義的荒謬過(guò)度延伸。

將所有這些因素結(jié)合在一起，就不難發(fā)現(xiàn)為何許多人認(rèn)為有意識(shí)的人工智能即將出現(xiàn)，而我們應(yīng)該非常擔(dān)心當(dāng)它到來(lái)時(shí)會(huì)發(fā)生什么。也不能完全排除這種可能性。如果奇點(diǎn)論者的觀點(diǎn)被證明是正確的，那么我們確實(shí)應(yīng)該擔(dān)心。但從目前的情況來(lái)看，這種可能性微乎其微。更有可能的是像圖13.1所示的那種情況。在這里，意識(shí)不是由智能決定的，智能可以在沒(méi)有意識(shí)的情況下存在。兩者都有多種形式，并且都是在許多不同的維度上表達(dá)的，這意味著無(wú)論是意識(shí)還是智能都不是單一維度的。

在圖13.1中，你會(huì)注意到當(dāng)前的AI在智能維度上處于相當(dāng)?shù)偷乃?。這是因?yàn)槟壳斑€不清楚當(dāng)前的人工智能系統(tǒng)是否具有任何有意義的智能。當(dāng)今的大部分人工智能被描述為復(fù)雜的基于機(jī)器的模式識(shí)別，或許還包含一些規(guī)劃。不管是否智能，這些系統(tǒng)只是在毫無(wú)意識(shí)地做著它們?cè)撟龅氖虑椤?/span>

展望未來(lái)，許多人工智能研究人員宣稱(chēng)的“登月”目標(biāo)是開(kāi)發(fā)具有人類(lèi)通用智能能力的系統(tǒng)，即所謂的“人工通用智能”或“通用人工智能”。除此之外，還存在著后奇點(diǎn)智能的未知領(lǐng)域。但在這個(gè)過(guò)程中，我們沒(méi)有理由假設(shè)意識(shí)只是順帶出現(xiàn)的。更重要的是，可能有許多的智能以偏離類(lèi)人智能的形式出現(xiàn)，它們是補(bǔ)充而不是取代或擴(kuò)大我們物種特有的認(rèn)知工具，這同樣不涉及意識(shí)。

也許某些特定形式的智能在沒(méi)有意識(shí)的情況下是不可能存在的，但即使是這樣，也并不意味著所有形式的智能（一旦超過(guò)某些尚不可知的閾值）都需要意識(shí)。相反，如果智能的定義足夠?qū)挿海敲此杏幸庾R(shí)的實(shí)體都可能至少有一點(diǎn)智能。當(dāng)然需要再次指出的是，這并不能證明智能是通往意識(shí)的捷徑。

僅僅讓電腦變得更聰明并不能使它們擁有感知力。但這并不意味著機(jī)器意識(shí)是不可能的。如果我們從一開(kāi)始就嘗試按照有意識(shí)的方式來(lái)設(shè)計(jì)機(jī)器呢？如果不是智能使機(jī)器有意識(shí)，那要怎樣才能造出一臺(tái)有意識(shí)的機(jī)器呢？

回答這個(gè)問(wèn)題取決于你認(rèn)為是什么足以使一個(gè)系統(tǒng)具有意識(shí)，而這又取決于你贊同哪一種意識(shí)理論。因此，對(duì)于如何讓機(jī)器具有意識(shí)，存在多種觀點(diǎn)也就不足為奇了。

在更寬容的一端，那些認(rèn)同功能主義者觀點(diǎn)的人認(rèn)為，意識(shí)只是一種正確類(lèi)型信息加工方式的問(wèn)題。這種信息加工不一定等同于“智能”，但它畢竟是信息加工，因此是可以在計(jì)算機(jī)上實(shí)現(xiàn)的。例如，根據(jù)2017年發(fā)表在《科學(xué)》雜志上的一項(xiàng)提議，如果機(jī)器加工信息的方式涉及信息的“全局可用性”，并允許“自我監(jiān)控”其性能，那么它就可以被認(rèn)為是有意識(shí)的。作者對(duì)“這樣的機(jī)器是真的有意識(shí)還是僅僅表現(xiàn)得像有意識(shí)”含糊其詞，但其潛在的主張是，除了正確類(lèi)型的信息加工之外，意識(shí)不需要其他任何東西。

信息整合理論的倡導(dǎo)者提出了一個(gè)關(guān)于意識(shí)機(jī)器的更有力的主張。正如我們?cè)诘谌驴吹降模畔⒄侠碚撀暦Q(chēng)意識(shí)僅僅是整合的信息，系統(tǒng)產(chǎn)生的整合信息的數(shù)量完全由其內(nèi)在機(jī)制的屬性決定，也就是由它的“因果結(jié)構(gòu)”決定。根據(jù)信息整合理論，任何產(chǎn)生整合信息的機(jī)器，不管它是由什么材料制成的，也不管它的外表看起來(lái)是什么樣子，都會(huì)有某種程度的意識(shí)。然而，信息整合理論也對(duì)這樣一種可能性持開(kāi)放態(tài)度：即在外部觀察者看來(lái)，機(jī)器可能顯得是有意識(shí)的，或者是智能的，或者兩者兼而有之，但其機(jī)制根本不能產(chǎn)生整合信息，因此它們也完全缺乏意識(shí)。

這兩種理論都沒(méi)有將意識(shí)與智能等同起來(lái)，但兩者都認(rèn)為，滿(mǎn)足某些特定條件（正確類(lèi)型的信息加工，或非零整合信息）的機(jī)器是會(huì)有意識(shí)的。但要接受這些含義，當(dāng)然也有必要接受這些理論。

野獸機(jī)器理論將世界和自我的體驗(yàn)建立在一種追求生理完整性的生物驅(qū)動(dòng)力上——即維持生存。這個(gè)理論對(duì)機(jī)器意識(shí)的可能性有何看法呢？

想象一下在不久的將來(lái)，一個(gè)擁有硅基腦和人形身體的機(jī)器人，它配備了各種傳感器和效應(yīng)器。該機(jī)器人由根據(jù)預(yù)測(cè)加工和主動(dòng)推理的原理設(shè)計(jì)的人工神經(jīng)網(wǎng)絡(luò)所控制。流經(jīng)其電路的信號(hào)實(shí)現(xiàn)了其環(huán)境和其自身身體的生成模型。它不斷地使用這個(gè)模型，對(duì)其感覺(jué)輸入的起因進(jìn)行貝葉斯最佳猜測(cè)。根據(jù)設(shè)計(jì)，這些合成的受控（和控制性）幻覺(jué)是為了讓機(jī)器人保持最佳的功能狀態(tài)——憑自己的直覺(jué)，使它“存活”。它甚至還擁有人工的內(nèi)感受輸入，從而指示其電池電量以及執(zhí)行器和合成肌肉的完整性。對(duì)這些內(nèi)感受輸入的控制導(dǎo)向型最佳猜測(cè)會(huì)產(chǎn)生合成的情緒狀態(tài)，從而激勵(lì)和引導(dǎo)它的行為。

這個(gè)機(jī)器人自主地行事，在正確的時(shí)間做正確的事情來(lái)實(shí)現(xiàn)其目標(biāo)。它這樣做給人的外在印象是一個(gè)有智能的、有感知力的主體。在內(nèi)部，它的機(jī)制直接映射到預(yù)測(cè)機(jī)器上，這是我所提出的具身和自我的基本人類(lèi)體驗(yàn)的基礎(chǔ)。這是一個(gè)硅基野獸機(jī)器。

這樣的機(jī)器人會(huì)有意識(shí)嗎？

一個(gè)不太令人滿(mǎn)意但誠(chéng)實(shí)的答案是，我不確定，但答案可能是否定的。野獸機(jī)器理論認(rèn)為，人類(lèi)和其他動(dòng)物的意識(shí)是在進(jìn)化過(guò)程中產(chǎn)生的，在我們每個(gè)人的發(fā)展過(guò)程中逐漸顯現(xiàn)，并以與我們作為生命系統(tǒng)的地位密切相關(guān)的方式每時(shí)每刻運(yùn)作著。我們所有的體驗(yàn)和感知都源于我們作為自我維持的生命機(jī)器的本性，這種生命機(jī)器關(guān)注自我的持久性。我的直覺(jué)是（再?gòu)?qiáng)調(diào)一遍，這只是一種直覺(jué)），生命的物質(zhì)性對(duì)于意識(shí)的所有表現(xiàn)都將被證明是很重要的。其中一個(gè)原因是，生命系統(tǒng)的調(diào)節(jié)和自我維護(hù)的必要性并不局限于一個(gè)層面，比如整個(gè)身體的完整性。生命系統(tǒng)的自我維護(hù)一直深入到單個(gè)細(xì)胞的水平。隨著時(shí)間的推移，你身體里的每一個(gè)細(xì)胞（或任何一個(gè)身體里的每一個(gè)細(xì)胞）都在不斷地重新生成為保持其自身完整性所需的必要條件。但在當(dāng)前或不久的將來(lái)，對(duì)任何計(jì)算機(jī)來(lái)說(shuō)，情況都并非如此，即使對(duì)于我剛才描述的那種硅基野獸機(jī)器來(lái)說(shuō)，也不會(huì)如此。

這并不暗示意味單個(gè)細(xì)胞是有意識(shí)的，也不意味所有的生物都是有意識(shí)的。關(guān)鍵在于，在野獸機(jī)器理論中，支撐意識(shí)和自我性的生理調(diào)節(jié)過(guò)程是由基本的生命過(guò)程引導(dǎo)的，而這些生命過(guò)程可以“一直貫穿始終、向下分解”。從這個(gè)觀點(diǎn)來(lái)看，是生命而不是信息加工給生硬的公式注入了意識(shí)的火焰。

即使真正的有意識(shí)的機(jī)器還很遙遠(yuǎn)（如果它們真的有可能實(shí)現(xiàn)的話(huà)），但仍然有很多事情需要擔(dān)心。在不久的將來(lái)，即使沒(méi)有確鑿的理由相信未來(lái)機(jī)器真的有意識(shí)，但人工智能和機(jī)器人技術(shù)的發(fā)展完全有可能帶來(lái)看似是有意識(shí)的新技術(shù)。

在2014年亞歷克斯·嘉蘭的電影《機(jī)械姬》中，隱居的億萬(wàn)富翁、科技天才納森邀請(qǐng)才華橫溢的程序員加勒到他的偏遠(yuǎn)藏身處，與他創(chuàng)造的智能機(jī)器人艾娃見(jiàn)面。加勒的任務(wù)是弄清楚究竟艾娃是有意識(shí)的，還是她（它）只是一個(gè)智能機(jī)器人，而沒(méi)有任何內(nèi)在生命。

《機(jī)械姬》很大程度上借鑒了圖靈測(cè)試，這是評(píng)估機(jī)器是否能思考的著名標(biāo)準(zhǔn)。在一個(gè)富有深意的場(chǎng)景中，納森正在詢(xún)問(wèn)加勒關(guān)于這個(gè)測(cè)試的情況。加勒知道，在圖靈測(cè)試的標(biāo)準(zhǔn)版本中，一個(gè)人類(lèi)裁判僅通過(guò)交換鍵入的信息來(lái)遠(yuǎn)程詢(xún)問(wèn)一個(gè)候選機(jī)器人和另一個(gè)人類(lèi)。當(dāng)裁判始終無(wú)法區(qū)分人與機(jī)器時(shí)，機(jī)器就被認(rèn)為通過(guò)了測(cè)試。但納森有更有趣的想法。說(shuō)到艾娃，他說(shuō)：“真正的挑戰(zhàn)在于，先向你展示她是個(gè)機(jī)器人，然后看看你是否仍然感覺(jué)她有意識(shí)。”

這個(gè)新游戲?qū)D靈測(cè)試從智能測(cè)試轉(zhuǎn)變?yōu)橐庾R(shí)測(cè)試，正如我們現(xiàn)在所知，這是非常不同的現(xiàn)象。更重要的是，嘉蘭向我們表明，這項(xiàng)測(cè)試根本與機(jī)器人無(wú)關(guān)。正如納森所說(shuō)，重要的不是艾娃是否是一臺(tái)機(jī)器，甚至連它作為一臺(tái)機(jī)器是否具有意識(shí)也不那么重要。重要的是艾娃是否讓一個(gè)有意識(shí)的人覺(jué)得她（它）是有意識(shí)的。納森和加勒之間交流的精彩之處在于，它揭示了這種測(cè)試的真正含義：這是對(duì)人的測(cè)試，而不是對(duì)機(jī)器的測(cè)試。圖靈最初的測(cè)試和嘉蘭21世紀(jì)的以意識(shí)為導(dǎo)向的測(cè)試都是如此。嘉蘭的對(duì)話(huà)如此靈巧地捕捉到將意識(shí)歸因于機(jī)器的挑戰(zhàn)，以至于“嘉蘭測(cè)試”這個(gè)詞現(xiàn)在也開(kāi)始受到關(guān)注——這是科幻小說(shuō)對(duì)科學(xué)反饋的一個(gè)罕見(jiàn)的例子。

許多簡(jiǎn)單的計(jì)算機(jī)程序，包括各種各樣的聊天機(jī)器人，現(xiàn)在都被聲稱(chēng)“通過(guò)”了圖靈測(cè)試，因?yàn)橛凶銐虮壤娜祟?lèi)裁判在足夠長(zhǎng)的時(shí)間里被愚弄了。在一個(gè)特別離奇的例子中，同樣是在2014年，在30名人類(lèi)裁判中有10人被誤導(dǎo)，認(rèn)為一個(gè)假裝成13歲烏克蘭男孩的聊天機(jī)器人實(shí)際上是一個(gè)真正的13歲烏克蘭男孩。這導(dǎo)致人們紛紛宣稱(chēng)，人工智能領(lǐng)域長(zhǎng)期存在的里程碑終于被超越了。但是，冒充一個(gè)英語(yǔ)很差的外國(guó)青少年比成功冒充一個(gè)與自己年齡、語(yǔ)言和文化相同的人當(dāng)然要容易得多，特別是在只允許遠(yuǎn)程文本交流時(shí)。當(dāng)聊天機(jī)器人獲勝時(shí)，它的反應(yīng)是“我感覺(jué)以一種非常簡(jiǎn)單的方式擊敗了圖靈測(cè)試”。把標(biāo)準(zhǔn)降低了這么多，考試當(dāng)然就更容易通過(guò)了。這是對(duì)人類(lèi)易受騙程度的考驗(yàn)，但人類(lèi)失敗了。

隨著人工智能的不斷進(jìn)步，圖靈測(cè)試可能很快就會(huì)通過(guò)，而不會(huì)出現(xiàn)這種人為降低標(biāo)準(zhǔn)的情況。2020年5月，研究實(shí)驗(yàn)室OpenAI發(fā)布了GPT-3，這是一個(gè)巨大的人工神經(jīng)網(wǎng)絡(luò)，它使用從互聯(lián)網(wǎng)上大量提取的自然語(yǔ)言示例進(jìn)行訓(xùn)練。除了參與聊天機(jī)器人的對(duì)話(huà)外，GPT-3還可以在提示開(kāi)頭的幾個(gè)單詞或幾行文字時(shí)，生成許多不同風(fēng)格的文本段落。盡管GPT-3不理解它生成了什么，但它輸出文本的流暢性和復(fù)雜性令人驚訝，甚至令一些人感到恐懼。它在《衛(wèi)報(bào)》上發(fā)表了一篇關(guān)于為什么人類(lèi)不應(yīng)該害怕人工智能的500字的文章——主題涵蓋了從人類(lèi)暴力心理學(xué)到工業(yè)革命，其中還包括那些令人不安的文字：“AI不應(yīng)浪費(fèi)時(shí)間試圖去理解那些不信任人工智能的人的觀點(diǎn)。”

盡管GPT-3很復(fù)雜，但我相當(dāng)確定，它仍然可以被任何相當(dāng)復(fù)雜的人類(lèi)對(duì)話(huà)者所識(shí)別發(fā)現(xiàn)。對(duì)于GPT-4或GPT-10來(lái)說(shuō)可能不是這樣。即使未來(lái)類(lèi)似GPT的系統(tǒng)在圖靈測(cè)試中屢屢勝出，它也只會(huì)表現(xiàn)出一種非常狹窄的（模擬）智能形式（非具身的語(yǔ)言交流），而不是我們?cè)谌祟?lèi)和許多其他動(dòng)物身上看到的那種完全具身的“在正確的時(shí)間做正確的事情”的自然智能，就像我假設(shè)的硅基野獸機(jī)器一樣。

說(shuō)到意識(shí)，烏克蘭的聊天機(jī)器人是無(wú)法比擬的，更別說(shuō)是GPT之類(lèi)的了。嘉蘭測(cè)試仍然保持原樣。事實(shí)上，試圖創(chuàng)造有感知能力的人類(lèi)擬像常常會(huì)使人產(chǎn)生焦慮和厭惡的感覺(jué)，而不是像《機(jī)械姬》中加勒對(duì)艾娃產(chǎn)生的那種吸引、同情和憐憫的復(fù)雜混合感覺(jué)。

日本機(jī)器人學(xué)家石黑浩花了幾十年時(shí)間制造出與人類(lèi)盡可能相似的機(jī)器人。他稱(chēng)它們?yōu)椤半p子機(jī)器人”。石黑浩已經(jīng)創(chuàng)造了像他自己和像他女兒（當(dāng)時(shí)6歲）的雙子機(jī)器人，以及一個(gè)基于大約30個(gè)不同人的混合體的機(jī)器人電視女主播。每個(gè)雙子機(jī)器人都是由詳細(xì)的3D身體掃描構(gòu)造而成，并配有氣動(dòng)執(zhí)行器，能夠產(chǎn)生豐富的面部表情和手勢(shì)。這些設(shè)備中幾乎沒(méi)有人工智能——它們都只是關(guān)于人類(lèi)模仿的，可能的應(yīng)用包括遠(yuǎn)端臨場(chǎng)或“遠(yuǎn)程呈現(xiàn)”。石黑浩曾經(jīng)用他的雙子機(jī)器人為150名大學(xué)本科生做了一場(chǎng)45分鐘的遠(yuǎn)程演講。

不可否認(rèn)，雙子機(jī)器人是令人毛骨悚然的。它們很現(xiàn)實(shí)，但還不夠現(xiàn)實(shí)。想象遇見(jiàn)雙子機(jī)器人和遇見(jiàn)一只貓完全是截然不同的對(duì)立面，所激發(fā)的感覺(jué)完全相反。當(dāng)你遇到一只貓（也可以是一只章魚(yú)）時(shí)，即使視覺(jué)外觀是如此的不同，也會(huì)立即感覺(jué)到另一個(gè)有意識(shí)的實(shí)體的存在。但對(duì)雙子機(jī)器人來(lái)說(shuō)，驚人但不完美的身體相似性會(huì)加劇一種分離和異己的感覺(jué)。在2009年的一項(xiàng)研究中，游客在見(jiàn)到雙子機(jī)器人時(shí)最常見(jiàn)的感覺(jué)是恐懼。

這種反應(yīng)體現(xiàn)了所謂的“恐怖谷”概念，這個(gè)概念是由另一位日本研究人員森政弘在1970年提出的。森政弘提出，隨著機(jī)器人變得越來(lái)越像人類(lèi)，它將引起人們?cè)絹?lái)越積極和移情的反應(yīng)（想想《星球大戰(zhàn)》中的C-3PO）。一旦它超過(guò)某個(gè)點(diǎn)，在某些方面它看起來(lái)非常像人類(lèi)，但在其他方面卻不像，這些反應(yīng)將迅速轉(zhuǎn)變?yōu)閰拹汉涂謶?/span>（恐怖谷效應(yīng)），只有當(dāng)相似性變得更加接近，近到不可區(qū)分的程度時(shí)，情緒才會(huì)恢復(fù)。關(guān)于恐怖谷效應(yīng)為何存在有很多理論，但毫無(wú)疑問(wèn)它確實(shí)存在。

盡管現(xiàn)實(shí)世界的機(jī)器人很難擺脫恐怖谷效應(yīng)，但虛擬世界的發(fā)展已經(jīng)爬上斜坡并走出另一端。使用“生成式對(duì)抗神經(jīng)網(wǎng)絡(luò)”（GANNs）進(jìn)行機(jī)器學(xué)習(xí)的最新進(jìn)展，可以生成從未存在過(guò)的虛擬人臉（見(jiàn)圖13.2）。這些圖像是通過(guò)巧妙地混合來(lái)自真實(shí)面孔大型數(shù)據(jù)庫(kù)的特征而生成的，使用的技術(shù)與我們?cè)诨糜X(jué)機(jī)器中使用的技術(shù)類(lèi)似（見(jiàn)第六章）。一種“深度偽造”技術(shù)可以使這些臉變得栩栩如生并且可以開(kāi)口講出任何話(huà)，當(dāng)虛擬人臉與這種技術(shù)結(jié)合時(shí)，并且當(dāng)它們說(shuō)的話(huà)由日益復(fù)雜的語(yǔ)音識(shí)別和語(yǔ)言生產(chǎn)軟件（如GPT-3）提供支持時(shí)，我們好像突然間就生活在一個(gè)充滿(mǎn)虛擬人的世界里，這些虛擬人與真實(shí)人的實(shí)際表現(xiàn)難以區(qū)分。在這個(gè)世界里，我們將逐漸習(xí)慣于無(wú)法區(qū)分誰(shuí)是真實(shí)的，誰(shuí)是虛擬的。

如果有人認(rèn)為在視頻增強(qiáng)圖靈測(cè)試令人信服地通過(guò)之前，這些發(fā)展將達(dá)到天花板，那么這樣的觀點(diǎn)很可能是錯(cuò)的。以這種方式思考，要么顯示出人類(lèi)例外主義的頑固性，要么顯示出想象力的失敗，或者兩者兼有。這種情況會(huì)發(fā)生。還有兩個(gè)問(wèn)題依然存在。第一個(gè)問(wèn)題是，這些新的虛擬創(chuàng)造物是否能夠穿越石黑浩的雙子機(jī)器人仍然被困的恐怖谷，進(jìn)入現(xiàn)實(shí)世界。第二個(gè)問(wèn)題是嘉蘭測(cè)試是否也會(huì)被淘汰。即使我們知道這些新機(jī)器除了是幾行計(jì)算機(jī)代碼，什么也不是，但我們是否還是會(huì)覺(jué)得它們實(shí)際上是有意識(shí)的，而且是智能的？

如果我們真的有這種感覺(jué)，那會(huì)對(duì)我們產(chǎn)生什么影響？

無(wú)論是由何種炒作或現(xiàn)實(shí)因素的推動(dòng)，人工智能的迅速崛起都引發(fā)了一場(chǎng)重新興起的必要的倫理討論。許多倫理問(wèn)題都與諸如汽車(chē)自動(dòng)駕駛和自動(dòng)化工廠工人等未來(lái)技術(shù)帶來(lái)的經(jīng)濟(jì)和社會(huì)后果有關(guān)，而這些技術(shù)所造成的重大破壞是不可避免的。將決策權(quán)授予人工系統(tǒng)所引發(fā)的擔(dān)憂(yōu)是合理的，因?yàn)槿斯は到y(tǒng)的內(nèi)部運(yùn)作可能容易受到各種偏差和反復(fù)無(wú)常的因素的影響，而且不管是對(duì)那些受影響的人來(lái)說(shuō)，還是對(duì)那些設(shè)計(jì)系統(tǒng)的人來(lái)說(shuō)，系統(tǒng)仍然不透明。在極端的情況下，如果一個(gè)人工智能系統(tǒng)被置于負(fù)責(zé)控制核武器或者互聯(lián)網(wǎng)骨干網(wǎng)，會(huì)引發(fā)什么樣的恐怖局面？

關(guān)于人工智能和機(jī)器學(xué)習(xí)在心理和行為上的后果，也會(huì)帶來(lái)倫理方面的擔(dān)憂(yōu)。深度偽造對(duì)隱私的侵犯，預(yù)測(cè)算法對(duì)行為的修正，以及社交媒體中過(guò)濾氣泡和回音室中的信念扭曲，這些只是影響我們社會(huì)結(jié)構(gòu)的眾多力量中的一小部分。通過(guò)釋放這些力量，我們心甘情愿地將自己的身份和自主權(quán)拱手讓給不知名的數(shù)據(jù)公司，進(jìn)行一場(chǎng)大規(guī)模、不受控制的全球?qū)嶒?yàn)。

在這種背景下，有關(guān)機(jī)器意識(shí)的倫理討論可能顯得放縱而深?yuàn)W。但事實(shí)并非如此。即使這些機(jī)器（目前）還沒(méi)有意識(shí)，這些討論也是必要的。當(dāng)嘉蘭測(cè)試通過(guò)后，盡管我們可能知道或相信機(jī)器沒(méi)有意識(shí)，我們還是會(huì)與那些我們感覺(jué)擁有自己主觀內(nèi)心生活的實(shí)體分享我們的生活。這種情況的心理和行為后果是很難預(yù)見(jiàn)的。一種可能性是，我們將學(xué)會(huì)把我們的感覺(jué)和我們應(yīng)該如何行動(dòng)區(qū)分開(kāi)來(lái)，如此一來(lái)，盡管我們覺(jué)得人和機(jī)器二者都有意識(shí)，但我們關(guān)心在乎一個(gè)人而不是一個(gè)機(jī)器人就會(huì)顯得很自然。目前還不清楚這會(huì)對(duì)我們個(gè)人的心理產(chǎn)生什么影響。

在電視劇《西部世界》中，栩栩如生的機(jī)器人被專(zhuān)門(mén)開(kāi)發(fā)出來(lái)用于被虐待、殺害和強(qiáng)奸——作為人類(lèi)最墮落行為的發(fā)泄工具。有沒(méi)有可能在折磨機(jī)器人的時(shí)候，在沒(méi)有精神崩潰的情況下，能感覺(jué)到機(jī)器人是有意識(shí)的，但同時(shí)又知道它是沒(méi)有意識(shí)的呢？以我們現(xiàn)在的認(rèn)知來(lái)看，這樣的行為是極端反社會(huì)的。另一種可能性是，我們的道德關(guān)注范圍將被我們的人類(lèi)中心主義傾向所扭曲，這種傾向也就是我們對(duì)那些我們感覺(jué)更相似的實(shí)體產(chǎn)生更大的同理心。在這種情況下，相比其他人類(lèi)，我們可能更關(guān)心我們的下一代雙子雙胞胎，更不用說(shuō)其他動(dòng)物了。

當(dāng)然，并非所有的未來(lái)都需要如此反烏托邦。但隨著人工智能的進(jìn)步與炒作之間賽跑步伐的加快，基于心理學(xué)的倫理也必須發(fā)揮作用。僅僅推出新技術(shù)，然后靜觀其變是不夠的。最重要的是，不應(yīng)該盲目追求重新創(chuàng)造并超越人類(lèi)智能這個(gè)標(biāo)準(zhǔn)人工智能目標(biāo)。正如丹尼爾·丹尼特明智地指出的那樣，我們正在打造的是“智能工具，而不是同事”，我們必須確保能夠認(rèn)識(shí)兩者的區(qū)別。

然后就是真正的機(jī)器意識(shí)的可能性。如果我們有意或無(wú)意地向世界引入新的主觀體驗(yàn)形式，我們將面臨前所未有的倫理和道德危機(jī)。一旦某個(gè)物體有了意識(shí)地位，它也就有了道德地位。我們有義務(wù)盡量減少其潛在的痛苦，就像我們有義務(wù)盡量減少生物的痛苦一樣，我們?cè)谶@方面做得不是很好。對(duì)于這些假定的有人工感知能力的主體來(lái)說(shuō)，還有一個(gè)額外的挑戰(zhàn)，那就是我們可能不知道它們可能會(huì)體驗(yàn)到的是什么樣的意識(shí)。想象一下，一個(gè)系統(tǒng)承受著一種全新形式的痛苦，對(duì)此我們?nèi)祟?lèi)沒(méi)有對(duì)等的感受和相關(guān)的概念，也沒(méi)有任何識(shí)別它的本能。想象一個(gè)系統(tǒng)中，積極情緒和消極情緒之間的區(qū)別甚至都不適用，也沒(méi)有相應(yīng)的現(xiàn)象學(xué)維度。這里的道德挑戰(zhàn)是，我們甚至不知道相關(guān)的道德問(wèn)題是什么。

無(wú)論真正的人工意識(shí)離我們有多遠(yuǎn)，即使是遙遠(yuǎn)的可能性也應(yīng)該予以考慮。雖然我們不知道創(chuàng)造一個(gè)有意識(shí)的機(jī)器需要什么，但我們也不知道它不需要什么。

正是出于這些原因，2019年6月，德國(guó)哲學(xué)家湯瑪斯·梅辛革（Thomas Metzinger）呼吁立即暫停所有旨在產(chǎn)生他所謂的“合成現(xiàn)象學(xué)”的研究，暫停時(shí)間為30年。他宣布的時(shí)候我恰好在場(chǎng)。當(dāng)時(shí)我們都在劍橋的利弗休姆未來(lái)智能中心主辦的人工意識(shí)會(huì)議上發(fā)表演講。梅辛革的請(qǐng)求很難嚴(yán)格執(zhí)行，因?yàn)楹芏?/span>（如果不是全部）心理學(xué)的計(jì)算模型可能都屬于他所說(shuō)的范疇，但他的信息主旨是明確的。我們不應(yīng)該僅僅因?yàn)橛X(jué)得人工意識(shí)有趣、有用或者酷，就輕率地嘗試去創(chuàng)造它。最好的道德是預(yù)防性的道德。

在生命主義的全盛時(shí)期，談?wù)撊斯ど膫惱韺W(xué)可能看起來(lái)就像今天談?wù)撊斯ひ庾R(shí)的倫理學(xué)一樣荒謬。但是，一百多年后的今天，我們不僅對(duì)生命的形成有了深刻的理解，而且還擁有許多新的工具來(lái)修改甚至創(chuàng)造生命。我們有像CRISPR這樣的基因編輯技術(shù)，它使科學(xué)家能夠輕松地改變DNA序列和基因的功能。我們甚至有能力僅僅從基因出發(fā)構(gòu)建出完全合成的有機(jī)體：2019年，劍橋的研究人員創(chuàng)造了一種具有完全合成基因組的大腸桿菌變體。創(chuàng)造新生命形式的倫理突然變得非常重要。

或許讓我們最接近人工合成意識(shí)的是生物技術(shù)，而不是人工智能。在這里，“大腦類(lèi)器官”的出現(xiàn)具有特殊的意義。這些微小的類(lèi)似大腦的結(jié)構(gòu)，由真正的神經(jīng)元組成，這些神經(jīng)元是由人類(lèi)多能干細(xì)胞（可以分化成許多不同形式的細(xì)胞）培育而成。雖然大腦類(lèi)器官不是“迷你大腦”，但它在某些方面類(lèi)似于正在發(fā)育的人類(lèi)大腦，這使得它們?cè)谧鳛榇竽X發(fā)育出現(xiàn)問(wèn)題的醫(yī)學(xué)條件的實(shí)驗(yàn)室模型上非常有用。這些類(lèi)器官是否蘊(yùn)藏著一種原始形式的無(wú)身體意識(shí)？很難排除這種可能性，尤其是最近的一項(xiàng)研究發(fā)現(xiàn)，這些類(lèi)器官表現(xiàn)出與人類(lèi)早產(chǎn)兒類(lèi)似的協(xié)同電活動(dòng)波。

與計(jì)算機(jī)不同的是，大腦類(lèi)器官是由與真實(shí)大腦相同的物質(zhì)構(gòu)成的，這消除了將它們視為潛在的有意識(shí)的一個(gè)障礙。另一方面，它們?nèi)匀环浅：?jiǎn)單，完全脫離身體，并且根本不與外部世界互動(dòng)（盡管可以把他們連接到相機(jī)和機(jī)械臂等類(lèi)似物體上）。在我看來(lái)，雖然目前的類(lèi)器官極不可能是有意識(shí)的，但隨著技術(shù)的發(fā)展，這仍然是一個(gè)懸而未決的問(wèn)題，并且令人不安。這讓我們回到需要預(yù)防性道德倫理這個(gè)問(wèn)題上。類(lèi)器官意識(shí)的可能性具有倫理緊迫性，不只是因?yàn)樗荒鼙慌懦疫€因?yàn)樗婕暗臐撛谝?guī)模。正如類(lèi)器官研究人員阿里森·穆特里（Alysson Muotri）所說(shuō)：“我們想要建造這些類(lèi)器官的農(nóng)場(chǎng)?！?/span>

為什么機(jī)器意識(shí)的前景如此誘人？為什么它會(huì)對(duì)我們的集體想象力產(chǎn)生如此大的影響？我開(kāi)始認(rèn)為，這與一種技術(shù)狂熱有關(guān)。這是一種根深蒂固的渴望，隨著世界末日的臨近，想要超越我們受限制而混亂的物質(zhì)生物存在。如果意識(shí)機(jī)器是可能的，隨著它們的出現(xiàn)，我們以濕件為基礎(chǔ)的意識(shí)心智就有可能被重新安置在一個(gè)未來(lái)超級(jí)計(jì)算機(jī)的原始電路中，這個(gè)超級(jí)計(jì)算機(jī)不會(huì)老化，也永遠(yuǎn)不會(huì)死亡。未來(lái)主義者和超人類(lèi)主義者將其比喻為心智上傳的領(lǐng)域，這也是他們喜歡的比喻，對(duì)他們來(lái)說(shuō)，一個(gè)生命是不夠的。

有些人甚至認(rèn)為我們可能已經(jīng)在那里了。牛津大學(xué)哲學(xué)家尼克·博斯特羅姆的“模擬論證”概述了一個(gè)統(tǒng)計(jì)案例，認(rèn)為我們更有可能是高度復(fù)雜的計(jì)算機(jī)模擬的一部分，這個(gè)模擬是由在技術(shù)上先進(jìn)并且癡迷于家族譜系的我們的后代設(shè)計(jì)和實(shí)現(xiàn)的，而不是原始生物人類(lèi)種群的一部分。按照這個(gè)觀點(diǎn)，我們已經(jīng)是虛擬世界中具有虛擬感知能力的主體。

一些被技術(shù)狂熱所吸引的人看到了一個(gè)正在快速逼近的奇點(diǎn)，這是歷史上的一個(gè)重要節(jié)點(diǎn)，在這個(gè)節(jié)點(diǎn)上，人工智能會(huì)自我引導(dǎo)，超越我們的理解和控制范圍。在后奇點(diǎn)的世界，有意識(shí)的機(jī)器和祖先模擬比比皆是。我們碳基生命形式將被遠(yuǎn)遠(yuǎn)落在后面，我們?cè)陉?yáng)光下的時(shí)刻已經(jīng)結(jié)束了。

不需要太多社會(huì)學(xué)洞察力就能看出這種令人陶醉的佳釀對(duì)我們這些技術(shù)精英的吸引力，從這些角度來(lái)看，他們可以把自己視為人類(lèi)歷史上這一前所未有的轉(zhuǎn)變中的關(guān)鍵，并以永生為獎(jiǎng)勵(lì)。當(dāng)人類(lèi)例外主義完全偏離軌道時(shí)，就會(huì)發(fā)生這種情況。從這個(gè)角度來(lái)看，對(duì)機(jī)器意識(shí)的大驚小怪是我們與生物本質(zhì)和進(jìn)化遺產(chǎn)日益疏遠(yuǎn)的癥狀。

野獸機(jī)器的視角幾乎在所有方面都與這種敘述不同。在我的理論中，正如我們所看到的，人類(lèi)全部體驗(yàn)和精神生活都是由于我們作為自我維持的生物有機(jī)體的本性而產(chǎn)生的，而我們關(guān)心自己的持久性。這種關(guān)于意識(shí)和人性的觀點(diǎn)并不排除有意識(shí)機(jī)器存在的可能性，但它確實(shí)削弱了技術(shù)狂熱對(duì)于即將獲得感知能力的計(jì)算機(jī)的夸大的敘述，這種敘述推動(dòng)了我們的恐懼并滲透到我們的夢(mèng)境中。從野獸機(jī)器的角度來(lái)看，理解意識(shí)的探索使我們?cè)絹?lái)越融入自然之中，而不是離它更遠(yuǎn)。

正如它應(yīng)該的那樣。