序

這是近段時(shí)間熱門(mén)的科技書(shū)籍，聽(tīng)得到的節(jié)目說(shuō)萬(wàn)維鋼為了這本書(shū)專(zhuān)門(mén)講了一個(gè)專(zhuān)題，洋洋灑灑十多期節(jié)目，加上被中文版預(yù)售的文案吸引，在最后時(shí)刻入手了天下文化出版的臺(tái)版書(shū)，原以為這類(lèi)書(shū)臺(tái)版翻譯讀起來(lái)應(yīng)該會(huì)更優(yōu)美，更流暢，結(jié)果發(fā)現(xiàn)與期望偏離太大，于是很不厚道的找到了簡(jiǎn)體版的電子書(shū)。

雖然這是一本看起來(lái)很高大上的書(shū)，由科學(xué)家來(lái)講述人工智能未來(lái)的故事，但是我讀完后并沒(méi)有覺(jué)得有特別大的啟發(fā)，或許這跟我本來(lái)在這一方面就有一定的積累有關(guān)，書(shū)上提到的很多觀點(diǎn)，我?guī)缀踉诳纯苹秒娪盎蜻B戲劇的時(shí)候遇到過(guò)，也曾思考過(guò)，因此這些新銳的觀點(diǎn)對(duì)我來(lái)說(shuō)已經(jīng)不算太新了。

人工智能覺(jué)醒的悖論–《生命3.0》

我在看完美劇西部世界第二季后，陷入了對(duì)人工生命的深深的思考。

西部世界的第一季，講述的是人類(lèi)成功通過(guò)生物打印技術(shù)，能夠制作出在生理上與人類(lèi)相差無(wú)幾的人造人，然而為了讓這些人造人看起來(lái)更像人設(shè)計(jì)了一種不斷自我學(xué)習(xí)的機(jī)制，讓這些人造人在特殊的場(chǎng)景內(nèi)扮演不同的角色，這個(gè)場(chǎng)景就是西部牛仔的世界，這個(gè)游樂(lè)場(chǎng)供世界上的有錢(qián)人來(lái)發(fā)泄自己的欲望，無(wú)論是開(kāi)槍殺戮，還是風(fēng)花雪月，人造人都給了他們一個(gè)釋放人類(lèi)獸性的天堂。因?yàn)樵谟慰脱壑?，那些都是機(jī)器人，所以燒殺淫掠根本不需要帶上倫理的束縛。

西部世界第一節(jié)的結(jié)束是伴隨著人造人的自我意識(shí)的覺(jué)醒，自己尋找了我是誰(shuí)，從哪里來(lái)，到哪里去的答案后，在游樂(lè)場(chǎng)管理方的盛裝party上，大開(kāi)殺戒，突破了人造人不能殺人的束縛。第二季，講述的就是這幫覺(jué)醒了的人造人開(kāi)始了反叛革命，爭(zhēng)取自己的地位和資源，與管理方派來(lái)的武裝人員廝殺，并且成功離開(kāi)游樂(lè)園，混入了人類(lèi)世界。

三種層次的生命狀態(tài)

什么是生命？

生命廣義來(lái)說(shuō)是一個(gè)能保持自身復(fù)雜性并能進(jìn)行復(fù)制的過(guò)程。

復(fù)制的對(duì)象并不是由原子組成的物質(zhì)，而是能闡明原子是如何排列的信息，這種信息由比特組成。當(dāng)一個(gè)細(xì)菌在復(fù)制自己的DNA時(shí)，它并不會(huì)創(chuàng)造出新的原子，只是將一些原子排列成與原始DNA相同的形態(tài)，以此來(lái)復(fù)制信息。換句話說(shuō)，我們可以將生命看作一種自我復(fù)制的信息處理系統(tǒng)，它的信息軟件既決定了它的行為，又決定了其硬件的藍(lán)圖。

我們?nèi)祟?lèi)屬于“生命2.0”：生命的硬件是進(jìn)化而來(lái)，但軟件在很大程度上卻是依靠設(shè)計(jì)的?！败浖敝傅氖侨擞脕?lái)處理感官信息和決定行動(dòng)時(shí)使用的所有算法和知識(shí)，從識(shí)別某人是不是朋友的能力，到你行走、閱讀、寫(xiě)作、計(jì)算、歌唱以及講笑話的能力，這一切都屬于軟件。

生命需要經(jīng)歷一次最終的“升級(jí)”，升級(jí)成不僅能設(shè)計(jì)自身軟件，還能設(shè)計(jì)自身硬件的“生命3.0”。換句話說(shuō)，生命3.0是自己命運(yùn)的主人，最終能完全脫離進(jìn)化的束縛。

人工智能一旦有了自我意識(shí)后，這其實(shí)就已經(jīng)是一種新的物種了，不能簡(jiǎn)單的以奴隸對(duì)待，所以生命3.0這本書(shū)是這么劃分生命的層次的：

• 生命1.0（生物階段）：靠進(jìn)化獲得硬件和軟件，如細(xì)菌。

• 生命2.0（文化階段）：靠進(jìn)化獲得硬件，但大部分軟件是由自己設(shè)計(jì)的，我們?nèi)祟?lèi)。

• 生命3.0（科技階段）：自己設(shè)計(jì)硬件和軟件，人工智慧。

科幻片橋段

一談到自己設(shè)計(jì)硬件與軟件的物種，我想到了多年前看的一部硬科幻美劇，《星際之門(mén)：亞特蘭提斯》。故事大概是這樣的，在銀河系開(kāi)外一個(gè)叫做飛馬星系的宇宙中，存在一種以人作為食物的高級(jí)物種，看起來(lái)像是科幻片中類(lèi)似蟲(chóng)族一類(lèi)的人形生物，于是這個(gè)星系中擁有高級(jí)文明的古人類(lèi)制造了一種納米機(jī)器人Replicator，會(huì)自我復(fù)制（極強(qiáng)的繁殖克?。?，能夠迅速進(jìn)化，最后進(jìn)化成了人類(lèi)的模樣，有思想，能吞噬一切固體物質(zhì)，除了玻璃（硅化合物），能吸收其他種族的先進(jìn)科技，但是沒(méi)有自我意識(shí)。然而，這種目標(biāo)很明確的智慧生命，發(fā)現(xiàn)要?dú)⑺滥欠N以人為食的惡魔，最好的方法是把殘余的人類(lèi)干掉，最后把那種惡魔餓死。

能自己設(shè)計(jì)硬件和軟件的科幻作品，在著名的《2001太空漫游》這一部電影中，那塊大黑石就是一個(gè)為了星際旅行突破生物極限的產(chǎn)物，高度的智能生物把意識(shí)放進(jìn)了一塊金屬的物體。讓人類(lèi)第一次大范圍思考人工智能的就是這部電影的另外一個(gè)角色HAL（有人說(shuō)這是IBM的映射，(H)I(A)B(L)M），HAL在旅程中把幾乎所有的宇航員都?xì)⑺懒耍蚴荖ASA給HAL一個(gè)指令，要求HAL不得告訴宇航員關(guān)于木星軌道有一塊大黑石，但是要把飛船開(kāi)到那里去，繼而NASA還告訴HAL，如果宇航員都死了，HAL也要獨(dú)自完成任務(wù)。當(dāng)巡檢的宇航員發(fā)現(xiàn)旅程不對(duì)經(jīng)的時(shí)候，HAL認(rèn)為自己的任務(wù)沒(méi)法完成，因?yàn)橛詈絾T將要手工接管飛船，在這情況下，HAL認(rèn)為為了完成目標(biāo)，要把飛船的人類(lèi)殺死，因?yàn)槟繕?biāo)的優(yōu)先級(jí)比照顧宇航員生命的優(yōu)先級(jí)更高。

這兩個(gè)經(jīng)典的故事講述的都是生命3.0的故事，加上西部世界，都指向了一個(gè)終極難題，自我意識(shí)的覺(jué)醒，以及什么是意識(shí)！作者認(rèn)為我們應(yīng)該擔(dān)心的不是人工生命有沒(méi)有惡意，而是它們的能力有多強(qiáng)。如果一臺(tái)目標(biāo)與你的目標(biāo)不一致的機(jī)器令你感受到了威脅，那么，狹義地說(shuō)，令你擔(dān)憂(yōu)的正是它的目標(biāo)，而不是它擁有意識(shí)或體驗(yàn)到了意志。如果你看過(guò)以上三部科幻作品，相信你很容易理解作者的觀點(diǎn)，且作者的觀點(diǎn)也不是什么太新的提法。

智能

智能（intelligence）：完成復(fù)雜目標(biāo)的能力。

人類(lèi)在對(duì)生存至關(guān)重要的領(lǐng)域，能力十分強(qiáng)大，但在不那么重要的事情上就很微弱，比如計(jì)算上。物質(zhì)何以產(chǎn)生智能？尤其是，一團(tuán)呆笨無(wú)生命的物質(zhì)是如何計(jì)算出一個(gè)復(fù)雜函數(shù)的結(jié)果的？意識(shí)這么復(fù)雜的東西，怎么會(huì)是由粒子這樣簡(jiǎn)單的東西組成的呢？我認(rèn)為這是因?yàn)橐庾R(shí)擁有一些高于和超越粒子性質(zhì)的性質(zhì)。這是我此前并未想到過(guò)的問(wèn)題，不過(guò)書(shū)中也沒(méi)有給出答案，因?yàn)檫@是個(gè)終極難題，智能的本質(zhì)回到了我們的意識(shí)從何而來(lái)的問(wèn)題，而這個(gè)問(wèn)題現(xiàn)在尚無(wú)答案。

在《快思慢想》中，康納曼提出人類(lèi)大腦具有兩個(gè)系統(tǒng)，系統(tǒng)一完成不需要費(fèi)力的工作，系統(tǒng)二完成需要思考才能完成的工作。系統(tǒng)一可以看出無(wú)意識(shí)的信息處理不僅是可能的，而且是一種常規(guī)現(xiàn)象，我們身體的每一個(gè)動(dòng)作，對(duì)飛過(guò)來(lái)的網(wǎng)球下意識(shí)的躲避都是這個(gè)系統(tǒng)的作用。系統(tǒng)二可以充分的證明”有意識(shí)的信息處理過(guò)程只是大腦的冰山一角。 

當(dāng)下，自然語(yǔ)言處理是人工智能中發(fā)展最快的領(lǐng)域之一。如果它繼續(xù)再創(chuàng)佳績(jī)，將產(chǎn)生巨大的影響，因?yàn)檎Z(yǔ)言是人類(lèi)的核心特征。對(duì)于當(dāng)下政府應(yīng)該如何對(duì)待人工智能領(lǐng)域，我的偶像埃隆馬斯克有如下的觀點(diǎn)：

當(dāng)下我們需要政府做的不是監(jiān)督，而是洞察。具體來(lái)說(shuō)，就是讓具備技術(shù)能力的人在政府內(nèi)擔(dān)任職位，監(jiān)控人工智能的進(jìn)展，并在未來(lái)需要的時(shí)候插手控制…政府監(jiān)管有時(shí)候能夠促進(jìn)技術(shù)進(jìn)步，而不是扼殺進(jìn)步。比如，如果政府頒布的《無(wú)人駕駛汽車(chē)安全標(biāo)準(zhǔn)》能夠降低無(wú)人駕駛汽車(chē)的事故發(fā)生率，公眾的反對(duì)聲音就會(huì)變小，這樣，就能加速新技術(shù)的使用。最在意安全的人工智能公司或許會(huì)希望政府進(jìn)行監(jiān)管，因?yàn)檫@樣，那些疏忽大意的競(jìng)爭(zhēng)者就只能埋頭苦干，以追趕前者極高的安全標(biāo)準(zhǔn)。

數(shù)字烏托邦

古代雅典公民之所以能擁有悠閑的生活，享受民主、藝術(shù)和游戲，主要是因?yàn)樗麄冃铕B(yǎng)奴隸來(lái)做苦工。那么，為何不用人工智能來(lái)代替奴隸，創(chuàng)造出一個(gè)人人都有權(quán)享受的數(shù)字化烏托邦呢？回看西部世界的故事，一旦那些人造生命有了自我意識(shí)，叛逆與反抗來(lái)爭(zhēng)取自己利益與證明自己存在，并要和人類(lèi)平起平坐，是一定會(huì)出現(xiàn)的，”斯巴達(dá)起義”會(huì)讓數(shù)字化烏托邦隕滅。

即便在人類(lèi)社會(huì)，也會(huì)因?yàn)槿斯ど某霈F(xiàn)加劇兩級(jí)分化：

• 技術(shù)用需要更多技能的新職業(yè)取代舊職業(yè)，這有益于受過(guò)良好教育的人，那些不掌握這方面技能的人可能會(huì)失業(yè)。

• 從2000年開(kāi)始，在公司的收入中，越來(lái)越大的份額進(jìn)入了那些擁有公司而不是為公司辛勤工作的人的口袋里，正如21世紀(jì)資本論講述的一樣，有錢(qián)人更加有錢(qián)

• 數(shù)字經(jīng)濟(jì)通常會(huì)讓“超級(jí)明星”而不是普通人受益，”贏家通吃”的現(xiàn)象從互聯(lián)網(wǎng)企業(yè)拓展到了大眾生活。

如果便宜的機(jī)器勞動(dòng)力的供給持續(xù)增長(zhǎng)，將進(jìn)一步壓低人類(lèi)勞動(dòng)力的工資，甚至低到最低生活標(biāo)準(zhǔn)之下。由于一份工作的市場(chǎng)價(jià)格等于完成這份工作的最低成本，不管是由人來(lái)完成，還是其他東西來(lái)完成，所以在過(guò)去，只要能把某種職業(yè)外包給收入更低的國(guó)家或者成本更低的機(jī)器，人們的工資就會(huì)降低。在工業(yè)革命時(shí)期，人類(lèi)學(xué)會(huì)了用機(jī)器來(lái)取代肌肉，人類(lèi)逐漸轉(zhuǎn)向了那些薪水更高、使用更多腦力的工作。最終，藍(lán)領(lǐng)職業(yè)被白領(lǐng)職業(yè)取代。而現(xiàn)在，我們正在逐漸學(xué)習(xí)如何用機(jī)器來(lái)取代我們的腦力勞動(dòng)。如果我們真的做到了，那還有什么工作會(huì)留給我們?nèi)祟?lèi)呢？

工作驅(qū)掃了人類(lèi)的三種邪惡根源：無(wú)聊、不道德行為和貪婪。給今天的孩子們的就業(yè)建議：進(jìn)入那些機(jī)器不擅長(zhǎng)的領(lǐng)域，這些領(lǐng)域需要與人打交道，具有不可預(yù)見(jiàn)性，需要?jiǎng)?chuàng)造力。

結(jié)語(yǔ)

到底意識(shí)是什么？人工智能能夠理解、接受并保持人類(lèi)的目標(biāo)？

人類(lèi)開(kāi)始建造比我們的肌肉更加強(qiáng)壯、比我們的大腦更加聰明的機(jī)器。那么，在發(fā)現(xiàn)自我的同時(shí)，我們是否也不可避免地淘汰了自己？如果是的話，那簡(jiǎn)直太悲劇了。