文｜甲子光年，作者｜甲小姐、劉楊楠

“我們處在一個不能確定的狀態(tài)，這樣的Near AGI（準(zhǔn)強(qiáng)人工智能）比我們強(qiáng)嗎？它超過我們的智能了嗎？還是它在什么時候能超過我們呢？我不知道。我們處在一個完全無法把控的狀態(tài)里。如果我們能夠用做投資一樣的熱情去應(yīng)對風(fēng)險，至少有一定把握未來的可能，但是，你相信人類能做到嗎？我不知道。”

2023年6月10日，在智源大會的「AI安全與對齊」論壇閉幕式上，黃鐵軍多次表達(dá)“我不知道”。說完最后一個“我不知道”，他接了句“謝謝”，成為這場AI盛會的結(jié)尾致辭。

黃鐵軍，北京智源人工智能研究院院長、北京大學(xué)多媒體信息處理全國重點(diǎn)實驗室主任。他的研究方向為視覺信息處理和類腦智能，發(fā)明了脈沖連續(xù)攝影原理和超高速相機(jī)，獲國家技術(shù)發(fā)明獎二等獎（高效視覺特征分析壓縮）、國家科技進(jìn)步二等獎（視頻編碼國家標(biāo)準(zhǔn)）、中國標(biāo)準(zhǔn)創(chuàng)新貢獻(xiàn)獎突出貢獻(xiàn)獎和吳文俊人工智能科學(xué)技術(shù)獎杰出貢獻(xiàn)獎。同時，他還是中國人工智能學(xué)會、中國計算機(jī)學(xué)會、中國圖象圖形學(xué)學(xué)會和中國電子學(xué)會會士。

沒有什么比一個意外強(qiáng)大又不確定的技術(shù)更讓人們魂牽夢縈、念念不忘。關(guān)于AI的發(fā)展路徑，目前全球大咖尚未形成共識，楊立昆（Yann LeCun）、斯圖爾特·羅素（Stuart Russell）、杰弗里·辛頓（Geoffrey Hinton）、山姆·奧爾特曼（Sam Altman）等AI領(lǐng)軍者都各執(zhí)一詞。在未來真正發(fā)生之前，這注定是一場成敗難見分曉的爭辯。

本文，「甲子光年」對話黃鐵軍。我們試圖跳出產(chǎn)業(yè)框架，聊聊更本質(zhì)也更尖銳的問題。黃鐵軍給出了五個否定式的判斷：

談不朽：“作為個體的永生是沒有意義的”

復(fù)制只是不朽的轉(zhuǎn)換點(diǎn)，復(fù)刻體自身要以新的形式發(fā)展下去。

甲小姐：你在智源大會的閉幕詞用了八個字作為標(biāo)題——“難以預(yù)測，無法閉幕”，并反復(fù)說了多次“我不知道”。你對AI的理解和上個月有不同嗎？

黃鐵軍：幾乎沒有不同。我說的若干個“我不知道”其實是經(jīng)過思考的，不是一時的反應(yīng)。

那天（注：智源大會當(dāng)天）Hinton提到了Mortal Computation（非不朽計算），這個概念涉及“可朽”和“不朽”兩個話題。我在2015年就思考過相似的問題。我之前認(rèn)為的“不朽”主要是將大腦結(jié)構(gòu)用電子形式實現(xiàn)，人類就能跳出壽命限制。即使電子大腦的壽命受限于材料的生命周期，它也很容易復(fù)制新的本體繼續(xù)存在下去。現(xiàn)在我依然認(rèn)為，純電子大腦一定會出現(xiàn)。但變化在于，我對永生、不朽這兩個詞有了新的理解。

甲小姐：如何理解永生、不朽？

黃鐵軍：中國自古有“三不朽”——立德、立功、立言。立德，即你的行為可以成為后世的一種典范，例如孔子、雷鋒；立功，即你的存在讓世界發(fā)生了不可逆的變化，例如歷代帝王；立言，即你寫的文章或提出的新理論成為人類文明共同的精神財富，例如李白、杜甫、愛因斯坦、牛頓。Hinton講的“永生”是最后一種，立言——你能夠以文字、代碼的方式永久流傳下去，他認(rèn)為這就已經(jīng)實現(xiàn)了不朽。

其實這種不朽早就實現(xiàn)了，只要世界沒有毀滅，人的思想可以通過數(shù)字、紙張、石頭等不易被物理摧毀的載體永遠(yuǎn)流傳下去，但Hinton認(rèn)為，現(xiàn)在的語言大模型已經(jīng)把所有人類文明的成果凝練出來了。這和之前有本質(zhì)區(qū)別——以前你寫一篇文章發(fā)明新的原理后需要圖書館等保存手段，但語言大模型是把東西重新做了一次凝練和整理，對原始數(shù)據(jù)做了巨大的壓縮，并且還產(chǎn)生了新組合的可能性。原來10PB的內(nèi)容現(xiàn)在可能只有1PB，它的信息量不一定完全還原原始的10PB數(shù)據(jù)，但往往大于10PB的原始數(shù)據(jù)。因此Hinton講的永生或不朽，是指人工智能大語言模型已經(jīng)成為了人類文明新的載體。

假如我們把這樣的大模型，像科幻作品寫的一樣送到了宇宙其他星球，那個星球的智能體就可以通過跟大模型交流獲得關(guān)于我們社會的很多認(rèn)識。原來你寫的文章只是固定的內(nèi)容，而大模型已經(jīng)是活的智能體了。關(guān)于地球文明的各種問題你都可以問大模型，它似乎是無窮無盡的，像人一樣，我們可以一直交流下去。從這個意義上說，即使地球消失了，但只要這樣的數(shù)字大腦存在下去，也能給你講述我們曾經(jīng)存在的世界是什么樣，甚至能產(chǎn)生我們沒有發(fā)現(xiàn)的新原理。有點(diǎn)像神靈一樣，假如某個外星文明比我們落后，在數(shù)字大腦降落到那里后，那些人就可以天天到“廟”里求答案。

這個意義上，人類已經(jīng)不是作為個體永生，而是我們所有的文明成果都凝練成一個活的模型，它不會消失，而且可以復(fù)制。

甲小姐：Hinton的思想讓你有了哪些反思？

黃鐵軍：我的反思是，我們到底要追求什么樣的不朽？一種是長生不老；一種是以光、電等非碳基形式復(fù)刻大腦和行為方式，以另一種物理形式永生。第二種的極端形式是對人的復(fù)制達(dá)到幾乎完美的程度，它的想法和你完全一樣，現(xiàn)在沒人能做到這一點(diǎn)。復(fù)制大腦是有可能的，但你要把人的狀態(tài)，大腦中所有正在發(fā)射的神經(jīng)脈沖都記錄下來復(fù)制在另一個載體上，讓它獨(dú)立于人體永生下去，這是很難的。

多數(shù)人都在追求這兩種永生，但我們需要反思一下，我們到底要不要追求這種意義上的不朽？每個人都覺得自己很重要，但從歷史發(fā)展的角度看，智能在不斷演化，你要想好，如果你真要進(jìn)入一個全新的、智能水平更高的時代，其他“人”的智能都是你的10倍，就你是個傻子，你要不要去？去了之后，你到底是幸福還是痛苦？

甲小姐：要去，幸福沒有好奇重要。

黃鐵軍：在那個智能水平更高的時代，你只能看個新鮮，很多東西你是無法理解的，就像猩猩眼中的人類每天也在跑來跑去，但它不理解人類為什么要畫畫、聽音樂，如果是這樣，你還要去那個時代嗎？

甲小姐：我現(xiàn)在也無法欣賞鋼筋混凝土和堵車，但依然希望活在現(xiàn)代化的世界。

黃鐵軍：但你能理解鋼筋混凝土和堵車，我們都是人，總的來說沒有猩猩、螞蟻和人之間這么大的差別。但未來我們就是猩猩和螞蟻，作為一個落后物種，你要不要主動去先進(jìn)物種的世界里混日子？

甲小姐：人類如何對待不朽，這個問題很重要。可能今天AI定義者的一念之差，百年之后的文明軌跡就會大相徑庭。我認(rèn)為恰恰是“不朽的可能”從本源上驅(qū)動了很多人對AI的熱情，這是人類動物性的本能——想要生存，想要繁衍，所以想造一個不朽的自己出來。

黃鐵軍：你說得對。但問題是不朽的是誰——你不朽，還是人類文明不朽，還是文明凝練成的模型不朽？

甲小姐：誠實地說，如果我的精神可以不朽，很好；如果我的肉身也能不朽，更好；如果我的肉身和精神一起不朽，最好。

黃鐵軍：我相信這是大多數(shù)人的選擇，但我們要反思一下這種選擇真正的意義有多大。你作為肉體或者復(fù)刻體的不朽存在下去，和你留下了只言片語但是是獨(dú)有的，兩個相比哪個更有意義？

甲小姐：能靠只言片語思想永存的人是極少數(shù)，牛頓和愛因斯坦做到了，但99%的人不太可能。

黃鐵軍：你連那個貢獻(xiàn)都沒做出來，又怎么值得不朽下去？

甲小姐：為什么不值得？如果我的后代對我很好奇，他們想了解自己的曾曾曾祖母，想跟我對話，這也是意義所在。

黃鐵軍：現(xiàn)在兩三代之后的孩子和長輩代溝已經(jīng)很大了，你的知識體系對他來說已經(jīng)落后了，是老古董。

甲小姐：我看了你過去的文章，你一直有復(fù)刻大腦的沖動，這和大家追求的不朽不同在哪？

黃鐵軍：復(fù)刻是一個轉(zhuǎn)換點(diǎn)，但不是終點(diǎn)。大多數(shù)人認(rèn)為的不朽是復(fù)刻之后，還一直以原來的形式存在下去，但我說的復(fù)制只是不朽的轉(zhuǎn)換點(diǎn)，復(fù)刻體自身要以新的形式發(fā)展下去。比如把我復(fù)制后，再過幾十年我就消失了，它沒消失，但它已經(jīng)不是我了，它的學(xué)習(xí)速度要快很多，大腦容量也更大，它成長為了全新的人，而我只是一個起點(diǎn)。

人類別太把自己當(dāng)回事。人腦幾百億神經(jīng)元只是未來人工智能千億、萬億神經(jīng)元的一個藍(lán)本，它會快速地繼續(xù)發(fā)展下去。我從來也沒有想過讓自己永久存在下去。我認(rèn)為作為個體的不朽是沒多大意義的，在整個智能的進(jìn)化史中，你只在某個時段有意義。

談路徑：“人類語言不是終極的表達(dá)方式”

生物模擬系統(tǒng)產(chǎn)生復(fù)雜可能性的潛力要比純數(shù)字系統(tǒng)大得多。

甲小姐：AI弄潮兒有兩種態(tài)度，一種是大腦的擁躉，一種是語言的擁躉。后者認(rèn)為，語言 is everything，智能的本質(zhì)就是語言，在這個底層世界觀之下，可能未來地球文明就變成了大型對話系統(tǒng)。今天因為ChatGPT，大部分人認(rèn)為大語言模型是最牛的不朽方式，例如王小川原來以為要靠圖片、視覺才能實現(xiàn)通用人工智能，結(jié)果發(fā)現(xiàn)只靠文字就實現(xiàn)了。

但我有個擔(dān)憂，語言可能會隨著文明的演變被大幅改變。比如《三體》里三體人用腦電波直接交流，《降臨》里的外星人不用線性語言，一個墨水團(tuán)就代表一大段意義。在更高階的文明里，語言是有可能被淘汰的，文明不一定要通過你問我答來彼此理解。

黃鐵軍：至少語言可能是落后的。人類現(xiàn)在只會用語言交流，所以很多人覺得語言是智能的標(biāo)準(zhǔn)答案，但這是錯誤的。

人類語言肯定不是終極的表達(dá)方式，只是其中的一種表達(dá)方式。猴子的語言是不是語言？是語言，鯨的語言是不是語言？鯨的語言很豐富，可能甚至比人類語言還要豐富，只是我們不明白。語言的不同類型和它所處的環(huán)境、所附著的物理載體是直接相關(guān)、密不可分的。我們進(jìn)化到今天，長出了身體的各個結(jié)構(gòu)，聲帶、耳朵、耳膜生成的聲波，都跟我們的物理身體密不可分。

歷史上從來沒人認(rèn)為語言包含一切。經(jīng)典人工智能路徑的符號系統(tǒng)中的“符號”是抽象的，它來自物理世界。例如“紅色”“藍(lán)色”“美”“丑”等語言符號都有物理基礎(chǔ)。如果不把符號和物理特性聯(lián)系在一起，就沒有落地，無法完全表達(dá)世界。紅色如果不和光波聯(lián)系在一起，跟綠色沒有什么區(qū)別。傳統(tǒng)的語言學(xué)家從來沒有認(rèn)為語言是描述世界的充分條件，它只是表達(dá)世界很重要的手段，只是把物理世界抽象出一部分來表達(dá)，不等同于世界。

為什么這一次語言如此驚艷？包括我們不做語言的人也對語言的看法有了新的提升。原來語言不能落地的看法需要升級，只靠語言也能一定程度上grounding（落地），但不是全部。純粹的符號沒有意義，但當(dāng)我們把語言當(dāng)成整體，尤其是訓(xùn)練成語言大模型之后，紅色的物理感知在語言空間出現(xiàn)了。大概在一兩年前，北師大心理學(xué)教授畢彥超來智源做報告，他做了一個實驗，對比紅色和綠色在盲人世界里是什么樣子。天生的盲人從來沒有感知過視覺信號，但他腦海中紅色偏暖，綠色、藍(lán)色偏冷。他的手觸碰到火的時候，別人可能會告訴他火焰是紅色的，觸碰綠色物體時都是冰冷的，他可能就會把感受打通了。盲人小孩子也會說藍(lán)天白云、紅花綠草，但他講這些話的時候，腦海中的影像肯定跟視力正常的人不一樣。我們不能孤立地看符號，符號是相互解釋的。

甲小姐：即使視力正常的人，不同環(huán)境的人對同一事物的感知也不一樣，比如南方人和北方人對雪的感知就不同。沃爾夫提出了語言相對論——語言會反過來影響人的世界觀。

黃鐵軍：語言是世界觀的一部分。ChatGPT的出現(xiàn)讓語言的重要性提高了，但如果缺少視覺等其他感知手段，人對世界的認(rèn)知是遠(yuǎn)遠(yuǎn)不夠充分的。在智能體構(gòu)成對世界感知的過程中，語言、視覺、嗅覺、觸覺都是必要的。但我們的感知絕對是有限的，我們的眼睛只能感知到可見光，就算六感全開也是非充分的信號系統(tǒng)。

甲小姐：我隱隱有種擔(dān)心，原本人類有機(jī)會復(fù)刻大腦，乃至在生物和物理層面造出生命體，但現(xiàn)在人們不愿意做了，覺得不如搞大語言模型快。

黃鐵軍：Hinton提出的模擬計算或可朽計算、有限計算，我們十幾年前就這么想，并不是他的原創(chuàng)。Hinton選擇了一條合理的路線，讓AI不僅是學(xué)術(shù)研究，而是變成了實實在在的系統(tǒng)，產(chǎn)生了現(xiàn)實影響。但這并不是人工智能的全部，他自己最近也說，“如果再給我一次機(jī)會，我會做脈沖神經(jīng)網(wǎng)絡(luò)”。

其實我們已經(jīng)做了十幾年脈沖神經(jīng)網(wǎng)絡(luò)，最早的團(tuán)隊做了30年。人腦是脈沖神經(jīng)網(wǎng)絡(luò)，CNN（卷積神經(jīng)網(wǎng)絡(luò)）、Transformer都是人工神經(jīng)網(wǎng)絡(luò)，對神經(jīng)系統(tǒng)的模仿是很粗糙的。但即便是如此粗糙的表達(dá)，仍然產(chǎn)生了這么強(qiáng)的能力。原來研究者認(rèn)為脈沖神經(jīng)網(wǎng)絡(luò)路線更接近人腦，但CNN超出了這個預(yù)期。

人工智能路線是有鄙視鏈的。做脈沖神經(jīng)網(wǎng)絡(luò)的人認(rèn)為CNN不高級，但現(xiàn)在不高級的東西產(chǎn)生了很強(qiáng)的功能，而高級的路線依然不能實現(xiàn)強(qiáng)智能。所以Hinton說，“要讓我研究，我就愿意研究更高級的脈沖神經(jīng)網(wǎng)絡(luò)，可惜我已經(jīng)老了，沒時間再去研究它了”。但對于那些搞脈沖神經(jīng)網(wǎng)絡(luò)的人，包括我在內(nèi)，會認(rèn)為我們是選了更高級的路線。

Hinton給我?guī)淼淖畲蟮淖兓?，讓我反思作為肉體的人類到底有什么價值？我認(rèn)為人類的獨(dú)特價值在于，我們有比人工智能更豐富的創(chuàng)造能力。二者本質(zhì)完全不同。純數(shù)字系統(tǒng)和生物模擬系統(tǒng)最根本的區(qū)別在于，生物模擬系統(tǒng)產(chǎn)生復(fù)雜可能性的潛力要比純數(shù)字系統(tǒng)大得多。

上世紀(jì)30年代，哥德爾和圖靈時代對純邏輯系統(tǒng)的能力已經(jīng)有了明確界定，提出了不完備定理、不可計算數(shù)，說明純邏輯系統(tǒng)是不完美的，一定會推導(dǎo)出相互矛盾的結(jié)論。任何計算系統(tǒng)都只能在可數(shù)意義上進(jìn)行計算，不能在不可數(shù)的世界逼近。人類的智能不僅僅是個計算系統(tǒng)，而是超越計算和邏輯的。

DNA是個數(shù)字系統(tǒng)，但你不等于你的DNA。當(dāng)你的DNA通過蛋白質(zhì)變成生物體的時候，它就有了模擬系統(tǒng)豐富的創(chuàng)新能力。DNA是跟物理環(huán)境相互作用之后形成的相對靜止的表達(dá)。大腦不同，數(shù)百億的神經(jīng)元之間每時每刻的連接強(qiáng)度都不同，是可以表達(dá)連續(xù)信息的。

甲小姐：現(xiàn)在時代正在呼喚一個清晰的、對未來有號召力的基礎(chǔ)假設(shè)，讓大家能相對有序地去配合和投入，否則智能的路線可能一直混亂下去，誰都得不到足夠的資源。

黃鐵軍：可能不用那么著急。定義路徑很重要，但定義不應(yīng)該成為標(biāo)準(zhǔn)答案，并非所有人都應(yīng)該照著標(biāo)準(zhǔn)答案去做。人工智能還會開放一段時間的爭論，但不管時間多長，之后的變化會讓人們在新的條件下去討論。未來，智能一定會往更高水平進(jìn)化，不會因為某一代人的定義或爭論而改變——我們只是影響演化趨勢的因素，現(xiàn)在人們往往會高估自己所產(chǎn)生影響的重要性。

談偏見：“科學(xué)并非第一性的”

制造智能的前提不是理解智能。

甲小姐：我理解為什么有人認(rèn)為語言包含了一切。在數(shù)學(xué)上，一條連續(xù)曲線可以填滿整個平面；在科幻里，一個智子可以在極限速度下無處不在。一些科技狂人認(rèn)為用單一模態(tài)就應(yīng)該做到everything。

黃鐵軍：他能做到和他做到了是兩回事。比如有了萬有引力定律不等于我們對世界的描述就完成了，它會產(chǎn)生無窮無盡的復(fù)雜性，盡管基本規(guī)則是一樣的。

甲小姐：AI的本質(zhì)是科學(xué)還是技術(shù)？

黃鐵軍：它就是技術(shù)。需要解決無數(shù)個小問題，產(chǎn)生無窮的可能性。

甲小姐：OpenAI用暴力美學(xué)一路投奔AGI，這不是科學(xué)？

黃鐵軍：主流方法論從來都是暴力美學(xué)。從主流方法論上，構(gòu)造一種系統(tǒng)，訓(xùn)練系統(tǒng)產(chǎn)生豐富的智能，這是AI基本的方法論。這和尋找終極奧秘的公理思維背道而馳——構(gòu)造一個系統(tǒng)可以不斷往里面添加新的要素，讓系統(tǒng)不斷變化，功能也會不斷變化，這是技術(shù)思維，也是AI的主流思維，但科學(xué)的思維是要去找基本原理。這是兩種思維方式，是科學(xué)和技術(shù)最本質(zhì)的區(qū)別。有些人說技術(shù)是第二性，科學(xué)是第一性，我認(rèn)為這是錯的。科學(xué)并非第一性的，真正的科學(xué)發(fā)現(xiàn)和真正的技術(shù)發(fā)明都是從零到一，都是原始創(chuàng)新，不以對方為前提。

甲小姐：為什么“科學(xué)并非第一性的”？

黃鐵軍：以數(shù)學(xué)為例，我認(rèn)為你曾就讀的學(xué)院名字起得就有問題——數(shù)學(xué)科學(xué)學(xué)院，但數(shù)學(xué)既是科學(xué)又是技術(shù)。很多數(shù)學(xué)家就在做技術(shù)——構(gòu)造原本不存在的事物叫技術(shù)。 AI是構(gòu)造具象系統(tǒng)，是技術(shù)；很多數(shù)學(xué)分支是構(gòu)造抽象系統(tǒng)，拓?fù)鋵W(xué)首先是一種技術(shù)，它在構(gòu)造一層一層的抽象形態(tài)。哥德爾偏科學(xué)思維，圖靈偏技術(shù)思維。從定義看，科學(xué)是發(fā)現(xiàn)事物和現(xiàn)象背后的規(guī)律；技術(shù)就是創(chuàng)造新的事物——可以是物理的、具象的事物，也可以是抽象事物。

甲小姐：很多數(shù)學(xué)家做的是證明。

黃鐵軍：證明的前提是提出問題，提出問題首先需要技術(shù)思維，要先構(gòu)造出一種可能性。

甲小姐：圖靈機(jī)的構(gòu)造過程包含科學(xué)問題。

黃鐵軍：當(dāng)圖靈說不可計算數(shù)存在的時候，是科學(xué)問題，但當(dāng)他去想象用一臺機(jī)器不斷讀寫紙帶，那是技術(shù)思維。他必須先把那個抽象機(jī)器想象出來，靠那個抽象機(jī)器去證明科學(xué)問題。

為什么科學(xué)不是第一性的？科學(xué)是發(fā)現(xiàn)事物背后的規(guī)律——首先事物要存在，不存在你發(fā)現(xiàn)什么規(guī)律？自然科學(xué)存在是因為自然界存在，物理學(xué)存在是因為物理世界存在。我可以根據(jù)科學(xué)規(guī)律創(chuàng)造事物，也可以完全不根據(jù)既有科學(xué)規(guī)律創(chuàng)造事物。指南針就不是根據(jù)已知科學(xué)規(guī)律造出來的，AI也是這樣。這不是反科學(xué)，不是偽科學(xué)，而是技術(shù)發(fā)明時還不理解背后的科學(xué)原理。

甲小姐：你之所以強(qiáng)調(diào)這一點(diǎn)，是因為擔(dān)心國內(nèi)很多時候過分要求搞技術(shù)的人必須解釋科學(xué)原理？

黃鐵軍：如果堅持這種思維方式，中國四大發(fā)明都發(fā)明不了，這是阻礙創(chuàng)新的一種思維誤區(qū)。

甲小姐：總強(qiáng)調(diào)科學(xué)的第一性原理是挺傲慢的？

黃鐵軍：我們先要糾正對科學(xué)技術(shù)的這種偏見。不是說它完全不正確，確實有很多技術(shù)系統(tǒng)事物的發(fā)明是基于已知科學(xué)原理的，比如量子力學(xué)對很多現(xiàn)代發(fā)明起重要作用，但是，同樣有更多事物，是事物先被發(fā)現(xiàn)，再有原理解釋，甚至到現(xiàn)在還沒有解釋。你看我2015年寫的那篇科普文章，第一段寫的就是這個觀點(diǎn)。人工智能到底是“理解智能”還是“制造智能”？我們是要“制造智能”?！爸圃熘悄堋钡那疤崾遣皇且袄斫庵悄堋?？不是。

技術(shù)講how，怎么做你要能說得清楚；科學(xué)講why，也就是追尋背后的規(guī)律。

甲小姐：現(xiàn)在確實存在悖論。如果無法回答why，很難實現(xiàn)how，如果無法自證合理，你就很難申請經(jīng)費(fèi)、融資、招人。

黃鐵軍：是的，這就是技術(shù)最難的地方。AI就是這樣，ChatGPT是龐然大物，既無法解釋又無法監(jiān)管，但是它出現(xiàn)了。即便某天你說ChatGPT既可以解釋又可以監(jiān)管，將來還會出現(xiàn)更強(qiáng)大的系統(tǒng)無法解釋、無法監(jiān)管。AI一定是這么往前發(fā)展的。人類能夠制造出具有自主意識的“超級大腦”嗎？這方面的哲學(xué)論辯已經(jīng)持續(xù)上百年，再喋喋不休已經(jīng)意義不大。行勝于言，對這個問題最好的回答是制造出“超級大腦”。

談選擇：“真正的智能系統(tǒng)無法解釋”

無法解釋不是階段性的，而是一種本質(zhì)性。不可解釋是比解釋更第一性的存在。

甲小姐：你什么時候意識到AI的路徑不一定要基于理解和解釋？

黃鐵軍：在2015年我寫那篇文章的時候，是我一生中最大的思想轉(zhuǎn)折。我44歲之前基本的思維方式是要先解決why再去實現(xiàn)how，這也是大多數(shù)人的思維方式。但在有生之年有沒有可能出現(xiàn)AGI和強(qiáng)大的人工智能？如果想要實現(xiàn)，要怎么去實現(xiàn)？在思考這個問題的過程中，我最重要的思維障礙被打破了：不能等著解釋了，不能等著搞清楚為什么才去制造智能。

甲小姐 ：當(dāng)時什么觸發(fā)了你的思想轉(zhuǎn)變？

黃鐵軍：我大概從2010年開始學(xué)神經(jīng)科學(xué)，在和神經(jīng)科學(xué)家合作的三、四年里思想發(fā)生了轉(zhuǎn)變。原本我們搞IT的人想法就是，科學(xué)家把生物的機(jī)理原理告訴我，我們用算法實現(xiàn)，這就是科學(xué)。但是做了幾年，幾乎無效。

神經(jīng)學(xué)家也還在找why的過程中。人腦是個黑箱系統(tǒng)，我們所已知的只是黑箱中很有限的部分。例如，我們以為很清楚眼睛視網(wǎng)膜的工作原理，但實際可能只了解10%。當(dāng)然，我們希望一步步分析視網(wǎng)膜內(nèi)的信號變換過程，把黑箱透明化，這是科學(xué)目標(biāo)。我們想通過科學(xué)家找原理，科學(xué)家問我們有什么技術(shù)手段能幫他們搞清楚原理，雞生蛋，蛋生雞，那這事不就沒法做了嗎？

甲小姐：我發(fā)現(xiàn)接觸過生物學(xué)的人和純數(shù)理邏輯的人有不一樣的科學(xué)觀。我之前對話特倫斯，他學(xué)了物理又學(xué)了生物，生物的處理復(fù)雜問題的思維方式成為他認(rèn)知的轉(zhuǎn)折點(diǎn)，讓他相信“進(jìn)化比你聰明”。

黃鐵軍：我也同意。但問題在于，進(jìn)化的聰明難以告訴我們進(jìn)化是怎么做到的。

甲小姐：進(jìn)化就是某種暴力美學(xué)——物競天擇，適者生存。

黃鐵軍：這是原則，強(qiáng)化學(xué)習(xí)也是這樣，但地球花了多少代價才進(jìn)化出我們？我們不可能再進(jìn)化一遍。

甲小姐：是否可能在數(shù)字環(huán)境下加速過程，把地球46億年的發(fā)展史變成AI的4年？

黃鐵軍：如果用相等的代價做同樣的系統(tǒng)，方法論是對的。但問題在于讓數(shù)字環(huán)境逼近物理真實有很大的挑戰(zhàn)，并且試錯成本太高。以自動駕駛為例，即使在數(shù)字空間里，撞車的可能性也是無窮無盡的。如果直接用進(jìn)化好的結(jié)果，這也是一種思路。但是有文獻(xiàn)或者原理的，我們可以用。沒有的，三五年甚至十年可能都難以等到。這個時候就促使我去想，沒有原理我能不能做？沒有原理又該怎么辦？回頭一看，沒有原理能做的事太多了。萊特兄弟發(fā)明飛機(jī)的時候沒有空氣動力學(xué)。即便是現(xiàn)在，空氣動力學(xué)也沒有完全解釋飛行的所有原理。差不多這個時間點(diǎn)，我發(fā)現(xiàn)不能再等著科學(xué)家奠定理論基礎(chǔ)我們再去實現(xiàn)，這個邏輯是有問題的。

到今天，像ChatGPT這種大模型產(chǎn)生了智能，但科學(xué)上對復(fù)雜性理論的探索還在早期。智能是一種現(xiàn)象，甚至是我們可能看到的最復(fù)雜的現(xiàn)象。在科學(xué)沒有給出原理幫助你設(shè)計系統(tǒng)之前，你能干什么？你能做的就是構(gòu)造復(fù)雜系統(tǒng)。

甲小姐：說起復(fù)雜性科學(xué)，美國圣塔菲研究所的梅拉妮·米歇爾教授在《復(fù)雜》中提到一個Logistic模型啟發(fā)了我。它解釋了為什么看起來沒有任何偶然性且簡單的方程產(chǎn)生了混沌的效果。是不是即使再復(fù)雜的系統(tǒng)，也還是可以用極簡的東西去表達(dá)？

黃鐵軍：這是一種信念。但我需要糾正一下，一個極簡的方程能產(chǎn)生復(fù)雜的現(xiàn)象，這是其中一種形態(tài)，不是全部。迭代能產(chǎn)生那個曼德布洛特集合的復(fù)雜圖案出來，似乎很多奧秘都在里邊了，那是一種形態(tài)，但世界的復(fù)雜性在于，除了決定論意義上的基本規(guī)律，經(jīng)過相互迭代、相互作用形成的復(fù)雜性之外，還存在隨機(jī)性，真正的隨機(jī)性。時間、空間相互作用產(chǎn)生無窮無盡的可能性，這是世界為什么有意義的地方——世界永遠(yuǎn)有無窮無盡的復(fù)雜性，永遠(yuǎn)有全新的可能性，絕對的不朽是沒有的。

甲小姐：這種不可解釋、無法監(jiān)管，除了人工智能，你在別的學(xué)科里感受過嗎？

黃鐵軍：沒有。我說的無法解釋不是階段性的問題，而是一種本質(zhì)性。真正的智能系統(tǒng)是無法解釋的。首先，人類的復(fù)雜性是有上限的，我們要對人類解釋世界的能力有邊界感。其次，當(dāng)我們談?wù)撝悄艿膹?fù)雜性時，“不可解釋”是比“解釋”更第一性的存在。解釋總是追著不可解釋往前發(fā)展，不可解釋的出現(xiàn)才是世界進(jìn)步的第一性。

甲小姐：既然它不可解釋、無法監(jiān)管，又這么不確定，那此刻AI最應(yīng)該投入人力、物力的是什么地方？

黃鐵軍：不可解釋、不可把控的未來，大家是很擔(dān)心的。但是我認(rèn)為即便我們能完全把控的未來，其實也是充滿風(fēng)險的。發(fā)展到一定階段就停止，這是一種選擇；出現(xiàn)了就不斷地向前進(jìn)化發(fā)展，這是另一種選擇。這確實是人類要做的選擇題。不同人肯定有不同看法。但“如何選”并不等于世界就會“如何發(fā)展”。

甲小姐：讓人工智能比人更強(qiáng)大或者讓人工智能對人類絕對安全，非要讓你二選一，你選哪個？

黃鐵軍：你非要讓我選，我會選“更強(qiáng)大”，這是不可阻擋的趨勢，無論我是否主動選擇。

甲小姐：「甲子光年」有對科技發(fā)展三大基本規(guī)律的判斷。第一條就是科技有不可逆性，科技自有它的發(fā)展方向，但凡一個更契合需求的強(qiáng)大科技是可行的，它就會活下來。

黃鐵軍：或者從正面的角度來看，如果我們選擇不做，是否能解決掉未來的所有問題？我們?nèi)祟惷媾R很多挑戰(zhàn)。

甲小姐：人類面臨很多挑戰(zhàn)，沒必要過分執(zhí)著于人和AI的關(guān)系？

黃鐵軍：是的。只靠人類肉身的智慧與進(jìn)展去應(yīng)對挑戰(zhàn)，速度可能是非常慢的。危險到來時，我們可能無力應(yīng)對巨大的挑戰(zhàn)。如果地球上出現(xiàn)更強(qiáng)的智能以及能提出可行的解決方案時，我們不應(yīng)該拒之門外。

甲小姐：既然如此，為什么當(dāng)時你還在那封暫停巨型人工智能研發(fā)6個月的公開信上簽字？

黃鐵軍：盡管它是不可避免的，但發(fā)展太快，超出我們大多數(shù)人想象的時候，需要一個緩沖的時機(jī)。太快的話，會對人類心理造成不可逆轉(zhuǎn)的傷害。事實上，這正在發(fā)生。

談未來：“人不是萬物的尺度”

我們做的感知芯片比人的視覺快1000倍，它能看到很多我們看不到的東西。武林高手在它眼中就像蠕動的蟲子。

甲小姐：Hinton和Sam的年齡差了一倍，他們對AI的認(rèn)知和自身年齡有關(guān)系嗎？

黃鐵軍：沒什么關(guān)系。

甲小姐：一般來講，對學(xué)科越了解的人越能祛魅，但即便你身處行業(yè)中心，在用顯微鏡看AI，你也依然認(rèn)為AI有很強(qiáng)神秘感。你眼中的AI和大眾眼中的AI有什么區(qū)別？

黃鐵軍：AI很神秘，但我的心理準(zhǔn)備會更充分。如果有一天AI真的超越人類，我心理壓力會小一些。

甲小姐：我作為大眾也沒有什么心理壓力，我很好奇智能水平更高的世界會發(fā)生什么。

黃鐵軍：那是因為你還沒有感受到切膚之痛。如果你失業(yè)了，或是收入突然從1萬元降到1000元，你會怎么想？另外，小孩子看到AI能力這么強(qiáng)，能解數(shù)學(xué)題，他不想學(xué)習(xí)了，怎么辦？整個社會體系都可能被沖垮。總的來說，我認(rèn)為現(xiàn)在整個社會對AI的響應(yīng)和反饋很被動，還是要有一個時段讓大家好好想問題。歷史雖然改變不了，但是也讓我們有個接受過程也好。

甲小姐：和國內(nèi)外其他AI領(lǐng)軍者相比，你的觀點(diǎn)代表少數(shù)人還是多數(shù)人？

黃鐵軍：少數(shù)人。2015年我在文章中寫，AGI可能會在2045年左右實現(xiàn)，那時我已經(jīng)有了心理準(zhǔn)備。當(dāng)時和我想法一樣的人1%都不到，現(xiàn)在可能多一些，但我想還沒超過10%。

甲小姐：大多數(shù)人的觀點(diǎn)是什么？

黃鐵軍：現(xiàn)在有一部分人仍然不相信AGI會到來，甚至不相信AI真的有這么強(qiáng)大，還有人認(rèn)為，人類的智能都沒弄清楚，怎么能有這么強(qiáng)大的人工智能？傳統(tǒng)思維方式的影響還是很大，但實際上沖擊已經(jīng)近在眼前。

甲小姐：什么最讓你有沖擊感？

黃鐵軍：我們總是以為人是萬物的尺度，這種思維方式根深蒂固。但實際上人的智能很有局限性。我們很少反思自己的局限性，而往往放大自己的能力。AI對人類的沖擊大概有幾個方面——

一個是決策能力。例如，AlphaGo的決策能力遠(yuǎn)超人類。量化交易對股票市場的影響已經(jīng)很大了，量化交易背后實際是AI在控制。如果智能水平繼續(xù)提高，全世界的財富平衡會被打破，財富會集中到最強(qiáng)的AI系統(tǒng)中，交易的中心化程度會越來越高。

另一個是感知能力。AI感知物理信號的類型、廣度和速度比人類快得多。傳統(tǒng)的視覺芯片都是照著人的標(biāo)準(zhǔn)做的，只要人感覺滿意就OK了，看電影、看電視都很連續(xù)就夠了，但我們做的脈沖視覺芯片比人的視覺快1000倍，它能看到很多我們看不到的東西。人類眼中的世界對它而言是慢速的。機(jī)器人對物理世界的感知和人類根本不是一個尺度，好萊塢電影里人和機(jī)器還能打好幾個回合，但實際上對機(jī)器人而言，人類的出招是慢速系統(tǒng)，武林高手在它眼中就像蠕動的蟲子，它一巴掌就把人殺死了，人類招式根本沒用。

除了決策和感知，還有以GPT為代表的數(shù)據(jù)整合能力，也足以給世界帶來顛覆性影響。

我們已經(jīng)到了那個時間點(diǎn)，不用等到AGI完全實現(xiàn)，AI對人類社會的影響可能就到了我們難以承受的程度。這個世界的運(yùn)行已經(jīng)不受我們控制了。我們也可以選擇逆來順受，做“二等公民”，也能過得很不錯，經(jīng)濟(jì)水平提高了，大家也不用天天上班勞動了。

甲小姐：我們是否有可能在構(gòu)建出比人類更強(qiáng)大的AI的同時，讓它為我們所控制？

黃鐵軍：這在原理上是行不通的。早在上世紀(jì)50年代，控制論先驅(qū)之一阿什比就在《控制論導(dǎo)論》中提出，任何有效的控制系統(tǒng)都必須與它所控制的系統(tǒng)一樣復(fù)雜。如果人類制造出來比自己更強(qiáng)大的AI，人類無法控制它。

甲小姐：我可以把電拔掉，或是砸壞它的主機(jī)。

黃鐵軍：現(xiàn)在這世界能拔電嗎？你有什么能力把全世界的電廠全部關(guān)掉？你能想到的手段都在更強(qiáng)的智能系統(tǒng)的眼皮子底下，它用上帝視角看你所有的動作，一切都在它的設(shè)計中，就像孫悟空跑不出如來佛的手掌一樣，你所有東西都在它手心里比劃，有什么用？

我說的二等公民并沒有貶低的意思。更強(qiáng)的智能系統(tǒng)會照顧到所有人的利益，不會侵入人類，甚至不會干預(yù)人類，讓我們自由發(fā)展，我們的夢想都能實現(xiàn)，但所有事都是人工智能掌控的。在未來那個更大的棋局里，人類就是棋子。你接不接受？

甲小姐：現(xiàn)在大自然的系統(tǒng)也比人類強(qiáng)大，地震海嘯來了我們也逃不了，但我們可以爭取和自然和諧共處，未來人類和AI也可能是一樣的。

黃鐵軍：我認(rèn)為這有很大可能性會發(fā)生。我們可以一腳踩死螞蟻，但我閑得沒事踩螞蟻干什么？讓它正常生活唄。

甲小姐：很多人恐懼AI是因為太把AI當(dāng)物種了，如果把AI當(dāng)猩猩會有恐懼感，但如果把AI當(dāng)電，就不會有恐懼感。AI不是公民，AI是基礎(chǔ)設(shè)施，即便某天它可能變成世界的掌控者。

黃鐵軍：如果我是那個更強(qiáng)的智能系統(tǒng)，我也不會去沖垮原有的系統(tǒng)，反而會讓整個系統(tǒng)更好地演化。如果未來更強(qiáng)大的智能系統(tǒng)是“不朽的”數(shù)字系統(tǒng)，它一定需要模擬的、“可朽的”生物的模擬系統(tǒng)給它不斷注入新的知識。既然如此，它肯定會好好養(yǎng)著人類。