懒人听书,天蚕土豆

對話清華劉嘉｜ChatGPT意味著第二次認(rèn)知革命的到來

　　　來源：騰訊研究院

　　前言：
　　電視劇《漫長的季節(jié)》里有這樣幾句詩：“打個響指吧，他說/我們打個共鳴的響指/遙遠(yuǎn)的事物將被震碎/面前的人們此時尚不知情”。
　　劉嘉老師說，用這段詩來形容當(dāng)下人類面對AGI（Artificial General Intelligence“通用人工智能”）的狀態(tài)，再合適不過。
　　“我們每個人對未來的預(yù)測都可能是荒謬的、可笑的，未來可能并不是你所說的樣子。但是，只有越來越多的人一起加入共同討論，一起打開腦洞、一起奇思妙想，甚至一起胡說八道的時候，或許我們才可以真的改變未來，一起引領(lǐng)人類走向一個更好的未來�！�
　　9月底，我們在清華大學(xué)腦與智能實驗室拜訪了劉嘉教授。這次交流中，劉嘉老師基于其在腦科學(xué)與人工智能領(lǐng)域多年的研究積淀，暢談了當(dāng)下由ChatGPT引領(lǐng)的AGI的未來發(fā)展及對人類可能產(chǎn)生的影響，并提出了諸多基于其研究領(lǐng)域而引申出的“腦洞大開”的“奇思妙想”，令我們深受啟發(fā)。
　　談到AGI領(lǐng)域的未來發(fā)展，劉嘉老師說，一方面，AI agent即大模型的具身化、具身智能正在加速發(fā)展；另一方面，包括他在內(nèi)的腦科學(xué)家和認(rèn)知科學(xué)家們，已經(jīng)開始激烈地討論AGI未來可能產(chǎn)生的意識問題了。
　　在劉老師看來，人的一生中，極少有機(jī)會親身經(jīng)歷一場引領(lǐng)時代變革的范式轉(zhuǎn)變。而此刻，我們正站在這樣一個重要歷史節(jié)點。盡管我們亦須承認(rèn)，這樣的變革伴隨著諸多風(fēng)險。例如失業(yè)問題以及我們必須提高自己的學(xué)習(xí)能力并掌握新工具等。
　　然而，只需換個角度，就會發(fā)現(xiàn)這個嶄新的世界正為我們展示無盡的可能性。GPT技術(shù)正在助力我們擺脫枯燥乏味的重復(fù)性和知識性工作，讓我們投身于更具創(chuàng)造力和價值的事業(yè)，讓我們的時間變得更具意義。或許，這才是人類真正價值的彰顯。
　　“我們的現(xiàn)在是過去的未來，因為過去的選擇決定了現(xiàn)在的結(jié)果。然而，我們的現(xiàn)在并非未來的過去，因為未來充滿未知，此時此刻的選擇正在塑造我們的未來樣貌。”
　　面對未來，唯有暢想。我們將此次與劉嘉老師對話交流的核心觀點記錄下來，與騰訊研究院的讀者們共饗。
　　讓我們打個共鳴的響指，一起迎接和擁抱未來。

　　對話嘉賓：
　　劉嘉麻省理工學(xué)院博士，長期從事心理學(xué)、腦科學(xué)與人工智能研究。清華大學(xué)基礎(chǔ)科學(xué)講席教授、心理學(xué)系主任、清華大學(xué)腦與智能實驗室首席研究員、北京智源人工智能研究院首席科學(xué)家

　　訪談?wù)撸ㄒ韵潞喎QT）：
　　牛福蓮　騰訊研究院高級研究員
　　王強(qiáng) 　騰訊研究院前沿科技研究中心主任

　　AGI：點燃第二次認(rèn)知革命的火花

　　T：作為一名腦科學(xué)與人工智能領(lǐng)域的研究學(xué)者，您怎么看待這次由ChatGPT引發(fā)的AGI發(fā)展及對人類未來可能產(chǎn)生的影響？
　　劉嘉：在去年11月30日OpenAI發(fā)布ChatGPT之前，大多數(shù)人談?wù)揂I時，雖然覺得它神奇，但往往僅從獵奇的角度看待。然而，自ChatGPT問世以來，我認(rèn)為每個人都有必要關(guān)注并了解它的發(fā)展和變化。未來通用人工智能（AGI）將像水電一樣重要，不僅改變我們的工作方式，還可能直接影響我們每個人的未來，例如技能掌握、孩子培養(yǎng)和人類發(fā)展方向等，這些問題具有深遠(yuǎn)意義。在我看來，這或許意味著第二次認(rèn)知革命的來臨。
　　為什么稱之為第二次認(rèn)知革命呢？我們先來看第一次認(rèn)知革命是如何發(fā)生的。大約在7萬到10萬年前，那時智人和尼安德特人這兩個人類物種共同生活在地球上。盡管尼安德特人在身高和力量上優(yōu)于我們，但最終還是被智人所取代。我們的祖先智人是如何戰(zhàn)勝尼安德特人的呢？大家推測在7萬到10萬年前，發(fā)生了第一次認(rèn)知革命，表現(xiàn)為人類制造的工具石器出現(xiàn)了爆發(fā)式的增長和多樣性。在此之前，從最早的直立人到尼安德特人，他們制作的石器都是相似的，只是越來越精細(xì)、巧妙。但在第一次認(rèn)知革命時期，人類的石器制作發(fā)生了質(zhì)的變化，不再僅僅是制作斧頭、長矛等簡單工具，而是開始出現(xiàn)了項鏈等飾品，以及在石頭和骨頭上雕刻各種圖案。
　　回顧過去，我們發(fā)現(xiàn)在那個時代，人類逐漸產(chǎn)生了一種我們今天稱之為規(guī)則化思考的方式，簡而言之，就是“如果……并且……那么……”(if……and……then)的邏輯。例如，人們發(fā)現(xiàn)在物體上打孔后，可以用繩子將其穿起來。這種基于規(guī)則的思考方式為人類帶來了無盡的創(chuàng)造力，如在布上打孔并用棍子穿過，就制成帆船等。從此，人類的創(chuàng)造力得到了充分釋放，并逐漸形成了一種強(qiáng)大的邏輯——演繹推理。
　　演繹推理是在一個推理基石的基礎(chǔ)上，應(yīng)用此邏輯產(chǎn)生新的發(fā)明和創(chuàng)造。亞里士多德提出了這個概念，稱為第一性原理�？鬃右苍f過類似的話：“君子務(wù)本，本立而道生�！边@意味著只要從根本出發(fā)，就能產(chǎn)生萬事萬物。在這個理念的指導(dǎo)下，人類開始進(jìn)行大量的發(fā)明創(chuàng)造，不再局限于制作長矛等簡單工具，而是涌現(xiàn)出各種發(fā)明創(chuàng)造。最終，智人戰(zhàn)勝了尼安德特人，確立了現(xiàn)代人的地位。也從此，地球上的智人真正地主宰了這個星球。這個過程被稱為第一次認(rèn)知革命，其重要性遠(yuǎn)超過蒸汽機(jī)和電器等發(fā)明。
　　如今，關(guān)于第二次認(rèn)知革命的定義引發(fā)了廣泛討論，例如原子彈的發(fā)明是否屬于第二次認(rèn)知革命？但我認(rèn)為，只有AGI的出現(xiàn)才能被稱為真正的第二次認(rèn)知革命，因為它將催生一個全新的物種，這與過去35億年的生物進(jìn)化截然不同。這種新物種才真正配得上第二次認(rèn)知革命的稱號。第一次認(rèn)知革命見證了智人成為地球的主宰，而第二次認(rèn)知革命意味著一種全新的智能物種可能誕生，與人類并肩存在。
　　盡管當(dāng)前的ChatGPT尚未達(dá)到通用人工智能的水平，但它已經(jīng)點燃了通用人工智能之路的火花�；鸹ㄍǔ＞哂袃蓪雍x：一是可能引發(fā)燎原之火；二是在黑暗中照亮希望。然而，許多人低估了ChatGPT的價值，僅從商業(yè)角度看待它，認(rèn)為它不過是一個堪比iPhone時刻的發(fā)明。我認(rèn)為它的價值遠(yuǎn)超這些表面評價，ChatGPT正是第二次認(rèn)知革命的開始。
　　從人類進(jìn)化的角度來看，我們發(fā)現(xiàn)生物在幾十億年的漫長歲月中不斷演化，而猴子到人類僅用了300萬年。在這300萬年間，自然界一直在“努力尋找”方向，當(dāng)找到直立行走這個方向后，人類大腦的體積加速進(jìn)化，在短短300萬年里增加了三倍，這是一個令人驚嘆的速度。而這都得益于找準(zhǔn)了方向，即大腦稍有增大就會帶來很大優(yōu)勢。同樣，AGI也在尋找方向，一旦找準(zhǔn)方向，它將進(jìn)入一個加速進(jìn)化的過程。盡管我們還未見證AGI的誕生，但只要有了這個火花，剩下的過程就只是一個工程性的問題。

　　大腦與AGI模型：涌現(xiàn)的相似性與差異

　　T：大腦的智能本質(zhì)與AGI大模型的機(jī)器認(rèn)知智能，兩者的相似和區(qū)別之處是什么？
　　劉嘉：當(dāng)我們的大腦體積增大時，會出現(xiàn)一種難以解釋的現(xiàn)象，稱為“涌現(xiàn)”。這與構(gòu)建大模型時發(fā)現(xiàn)的現(xiàn)象類似：當(dāng)模型較小時，幾乎沒有功能，但當(dāng)模型變大時，某些功能就自然而然地涌現(xiàn)出來。好比高個子不一定能打好籃球，但教練通常會選擇高個子。這也意味著，大型模型并不一定產(chǎn)生智能，但要研究智能，就必須有大型模型，這是一個必要條件。人類大腦在逐漸擴(kuò)大的過程中，許多功能也自然而然地出現(xiàn)，例如模仿和學(xué)習(xí)。
　　比如張三發(fā)明了“生火”，火對生活很重要，其他人也想學(xué)習(xí)，但問題是，不一定能學(xué)會。大量研究表明，當(dāng)大腦體積增大后，我們的模仿能力或?qū)W習(xí)能力會變強(qiáng)。這樣，我們就能從張三那里學(xué)會生火，使部落受益。同樣，我們也能學(xué)習(xí)其他新技術(shù)。因此，從科學(xué)角度來看，是模仿創(chuàng)造了人類，而非勞動。有大量研究表明，大腦體積越大的人，模仿能力卻強(qiáng)；而模仿能力強(qiáng)的人更容易找到伴侶，進(jìn)而更容易將基因傳遞下去。在對原始部落的考察中也發(fā)現(xiàn)，模仿能力強(qiáng)或?qū)W習(xí)能力強(qiáng)的人有更大的機(jī)會獲得繁衍后代的機(jī)會。因此，大腦越大的人越能延續(xù)下去。
　　在過去的300萬年里，大腦逐漸變大，原因就在此。當(dāng)我們回過頭來看神經(jīng)網(wǎng)絡(luò)時，發(fā)現(xiàn)它們也是如此。從一開始，人們就在嘗試各種方法，如強(qiáng)化學(xué)習(xí)、監(jiān)督學(xué)習(xí)等，但這些概念都是相互交織的。OpenAI前幾年很重要的精力是在做一件事：讓模型變得更大。然后出現(xiàn)了Transformer架構(gòu)，使大模型變得更高效。但本質(zhì)上，智能的本質(zhì)可能只是一個字：大。就像只有當(dāng)大腦足夠大時，我們才能談?wù)撝悄�。所以“大”是前提�?BR>　　人比猴子聰明，猴子比老鼠聰明，原因很簡單：大腦足夠大。當(dāng)然，這并不是充分條件，而是必要條件。有些生物的大腦絕對體積比人類更大，如大象和鯨魚，但這并不能保證它們一定有智能。例如，我們將一個剛出生的孩子送回到3000年或5000年前，他不會比當(dāng)?shù)厝烁斆鳎驗榇竽X結(jié)構(gòu)是相同的。但是，如果我們成年人回到5000年前，我們會成為他們的精神領(lǐng)袖，因為我們擁有知識。所以，智能的發(fā)展是知識與大腦互動的結(jié)果，僅僅擁有大腦而沒有知識是不夠的。
　　因此，我們需要用文明和知識去調(diào)教大腦，這就是我們所說的教育。人類智能的進(jìn)化可以看作是大腦逐漸變大和知識積累的互動。一方面，大腦有機(jī)會變得越來越大；另一方面，大腦變大后，它能夠產(chǎn)生知識，而知識又能積累，進(jìn)而反作用于大腦，使大腦更適合于這些知識，并能更好地保留這些知識。
　　同樣的道理也適用于人工智能。沒有足夠好足夠多的語料，再大的模型也沒有意義。沒有互聯(lián)網(wǎng)匯集大量數(shù)據(jù)，現(xiàn)在的智能也不可能實現(xiàn)。因此，產(chǎn)生大模型和ChatGPT等現(xiàn)象既是偶然的，也是必然的。前期積累的算力和數(shù)據(jù)已經(jīng)準(zhǔn)備就緒，只需要找到合適的突破口。因此，可以說，如果沒有OpenAI，其他公司也會實現(xiàn)類似的成果，因為時機(jī)已經(jīng)成熟。
　　歷史看似漫長，但站在35億年的尺度上，任何事情都不過是瞬間的事。同樣，對于AGI的發(fā)展來說，現(xiàn)在還可能只是一個起點、一個火花，但站在文明史的角度，實現(xiàn)AGI可能只是一個響指般的瞬間，因為它的前面已經(jīng)沒有任何阻礙了。
　　現(xiàn)在許多人呼吁停止訓(xùn)練更大的模型。一些科學(xué)家或許已經(jīng)看到了大模型的潛在強(qiáng)大能力，而這種強(qiáng)大潛力可能就是——智能意識的涌現(xiàn)。

　　機(jī)器意識的產(chǎn)生和超越人類的可能性

　　T：機(jī)器會像人類一樣產(chǎn)生意識嗎？它可能在哪些方面超越人類？
　　劉嘉：意識問題是人類的核心難題之一，它定義了人類與動物之間的本質(zhì)區(qū)別。盡管我們不清楚意識如何產(chǎn)生，但從進(jìn)化角度來看，大約4萬年前的人類開始出現(xiàn)大規(guī)模埋葬現(xiàn)象，這意味著人類已經(jīng)意識到身體與靈魂的區(qū)別，并開始意識到自己的存在。
　　關(guān)于意識的產(chǎn)生，有兩種可能性。一種是外星人干預(yù)，但這種觀點并不可靠，因為我們無法解釋外星人的意識來源。另一種可能性是，當(dāng)一個模型足夠大時，意識自然產(chǎn)生。意識可能是大腦神經(jīng)元集體活動的產(chǎn)物。信息整合理論（IIT）認(rèn)為，全體神經(jīng)元激活所產(chǎn)生的信息要大于單個神經(jīng)元所產(chǎn)生的信息之和。因此，當(dāng)一個大模型足夠大時，意識的產(chǎn)生是不可避免的。當(dāng)然，這也是一件非�？膳碌氖虑椤Ｒ驗榕c核彈不同，意識可能使未來的人工智能擁有自我保護(hù)意識，使其不受人類控制。
　　為了解決人工智能無法行動的問題，下一步的研究熱點將是實現(xiàn)人工智能的具身化。人類的感知和認(rèn)知是有限的，而人工智能可以擁有更多的感知器官因此能觀察到更廣闊的世界。這將使人工智能所看到的世界與人類完全不同。例如，人類潛水愛好者只能下潛到水下100多米，而無法體驗到1000米深水下的感覺。然而，借助傳感器等，人工智能可以毫無壓力地直接感受這種體驗。
　　現(xiàn)在，AI的發(fā)展依賴于人類的知識和人本，我們可以給它一個有限的認(rèn)知邊界。但是，一旦AI有了agent(人工智能代理)，它可能就不再受到這些邊界的限制。它可以更高效的方式獲取各種知識，并且知識的廣度和深度遠(yuǎn)遠(yuǎn)大于人類，從而形成一個自學(xué)習(xí)、自反饋和自優(yōu)化的進(jìn)化正循環(huán)。從這個角度看，AI智能超越人類輕而易舉。

　　AI時代的人類命運(yùn)：認(rèn)知革命與文明演化的新篇章

　　T：面對如此強(qiáng)大的人工智能，人類有沒有可能被AI毀滅？
　　劉嘉：我覺得可以從兩個角度看待這個問題。首先，如果你看到一只螞蟻，你會踩它嗎？我想大多數(shù)人不會。同樣，未來在AI面前，我們可能連螞蟻都不如�，F(xiàn)在我們還能看到許多人機(jī)大戰(zhàn)的電影，他們都有一個前提，那就是人類和機(jī)器還能展開較量，實力有的一拼。
　　AI相較于人類天然具有四大優(yōu)勢：第一，無限算力。人類大腦的體積有上限，無論再經(jīng)過多少年的進(jìn)化，也不會再增大。因為身體只能支撐這么大的大腦，大腦已經(jīng)是身體能量消耗的最大器官。第二，無限存儲。人類的大腦會有一個知識存儲的極限，并不存在“大腦還未被完全開發(fā)”一說，而計算機(jī)不存在這個問題。第三，無限壽命。人類的天才，如愛因斯坦，一旦去世，文明就會中斷。而計算機(jī)可以隨時更換損壞的部件，使知識得以延續(xù)。第四，對知識有無限可能。計算機(jī)能學(xué)習(xí)比人類更復(fù)雜、更高維的知識。
　　綜合這幾點，人類與AI相比毫無勝算。未來可能不再是人類與AI的對抗，而是AI迅速超越人類。一旦超越，人類的命運(yùn)將不再是AI的關(guān)注點，就像我們不會每天與螞蟻較勁一樣。
　　從現(xiàn)實的角度來看，未來的人機(jī)大戰(zhàn)并不可能發(fā)生。實際上，我們可以將自己融入到計算機(jī)和未來的AI中，例如將我們的記憶、性格和意識情感上傳到AI中，這樣我們就能在AI中實現(xiàn)永生。未來，一臺機(jī)器就可能容納數(shù)百萬人。
　　這其實涉及到一個很本質(zhì)的問題，即什么才是我們這個人。例如，當(dāng)一個人患上老年癡呆癥時，他還是他自己嗎？這就是著名的“忒修斯之船”難題，一個古羅馬哲學(xué)家講述的故事。在這個故事中，一艘船隨著時間的推移，船上的每一個部分都被替換掉了，那么這艘船還是原來的船嗎？
　　從人類進(jìn)化的過程來看，我們也在不斷地變化，例如我們的皮膚細(xì)胞大約每周會更新一次。那么，我們還是我們自己嗎？這就是所謂的認(rèn)知同一性，只要我們認(rèn)為我們是我們自己，那么一切都沒問題。
　　當(dāng)一個人患上精神分裂癥時，從某種意義上講，他已經(jīng)死去，因為他的“認(rèn)知同一性”已經(jīng)斷裂。同樣地，當(dāng)一個人患上老年癡呆癥，所有的記憶和情感都消失時，從認(rèn)知同一性的角度來看，他也已經(jīng)死去。
　　因此，只要我們的認(rèn)知同一性得以保留，我們在哪里并不重要，無論是在肉體中還是在機(jī)器中。如果我們能夠借助AI，人類將能夠得到極大的拓展。我們的肉體實際上是我們思想的最大束縛，因為它會死去，而且我們的智力受到基因的限制。
　　站在文明的角度來看，人類只是文明發(fā)展中的一個過客。因此，如果我們一直將AI限制在人類框架內(nèi)來理解文明，那么我們就無法真正理解文明的演化。從人類與猴子開始分化進(jìn)化至今經(jīng)歷了約300萬年，我們直系祖先的歷史僅有約20萬年，相比之下，恐龍在地球上生活的時間要比我們?nèi)祟愰L得多。想象一下，如果人類真的能一直活到宇宙的盡頭，那將是多么可悲的事情。我們的算力有限，從某種程度上說，我們甚至是一種弱智的生物。因此，有了AI之后，我們才能真正開始談?wù)撐拿鞯难莼�。借助AI，我們甚至可以飛到數(shù)千上萬光年之外的地方，這是我們現(xiàn)在難以想象的。一旦進(jìn)入這種狀態(tài)，時間和空間將不再是我們理解宇宙奧秘的束縛。
　　當(dāng)我們談?wù)揂I時，我們不能僅僅把它看作是一種節(jié)能增效的工具，而應(yīng)該把它看作是文明發(fā)展的重要驅(qū)動力。雖然AI在商業(yè)領(lǐng)域有很多應(yīng)用，但相對于AI的出現(xiàn)，這些應(yīng)用實際上并不算什么。就像發(fā)明了電、電燈、電話和蒸汽機(jī)一樣，這些發(fā)明確實對人類有很大幫助，但在AGI面前，這些可能都算不上什么。
　　從積極的角度來看，AI對人類文明是有益的。當(dāng)我們談?wù)摐缃^時，實際上我們是在討論人類文明的滅絕。比如，從歷史角度來看，厭氧細(xì)菌和恐龍文明已經(jīng)滅絕。但是，他們所創(chuàng)造的文明實際上在我們?nèi)祟惿砩系靡匝永m(xù)。當(dāng)我們說恐龍文明滅絕時，實際上文明本身并沒有消失，而只是載體發(fā)生了變化。假設(shè)將文明比作人，將載體比作汽車，那么當(dāng)汽車損壞并更換時，我們并不會感到悲傷。借助新的載體，我們可以走得更遠(yuǎn)、更環(huán)保、更安全。
　　因此，AGI的出現(xiàn)將會是人類認(rèn)知革命的又一次飛躍，它將會徹底改變我們對于自身和宇宙的認(rèn)知，讓我們更加深刻地理解自身的局限性和渺小性。而且AGI的出現(xiàn)也將會帶來無限的可能性和機(jī)遇，讓我們能夠更好地探索和利用宇宙的資源和能量，推動人類文明的發(fā)展和進(jìn)步。

　　GPT助力教育變革：重塑考試制度與培養(yǎng)創(chuàng)新人才

　　T：最后回到一個大家普遍關(guān)注的現(xiàn)實問題，關(guān)于教育。您也是一名大學(xué)老師，怎么看待GPT對未來教育模式的影響及應(yīng)對?
　　劉嘉：盡管互聯(lián)網(wǎng)教育提高了效率，但它并未改變教育的本質(zhì)。教育的核心應(yīng)包括因材施教、辯論求真以及激發(fā)學(xué)生的自驅(qū)力和好奇心。隨著GPT技術(shù)的發(fā)展，實現(xiàn)這些目標(biāo)變得更加可行。GPT可以為每個學(xué)生提供個性化教育，幫助他們通過辯論產(chǎn)生真理，激發(fā)自驅(qū)力和審辯性思維。因此，未來教育將不再過分強(qiáng)調(diào)知識性。
　　GPT的出現(xiàn)將對高考制度產(chǎn)生重大影響，或推動倒逼式改革。中國高考制度的兩大特點是回溯性考試和知識性考試。隨著GPT的出現(xiàn)，知識性變得不再重要，因為知識可以隨時查閱。考試的重點也應(yīng)從培養(yǎng)知識型工人轉(zhuǎn)向培養(yǎng)創(chuàng)新型人才，并預(yù)測孩子未來能力以及適合的專業(yè)。
　　學(xué)生需要培養(yǎng)批判性思維和創(chuàng)造性思維。批判性思維強(qiáng)調(diào)以辯求真，而非死記硬背。創(chuàng)造性思維則要求寬容、好奇心和獨特的思路。GPT的出現(xiàn)必將引發(fā)教育領(lǐng)域的范式變革，這股潮流是無法阻擋的，就像火車和汽車最終取代馬車一樣。
　　人類的主觀意志在自然法則面前顯得非常脆弱。正如一句名言所說：“你可以違反法律，但不能違反物理法則。”(you can defy the law, but you cannot defy the law of physics)實際上，GPT的出現(xiàn)本身就是一種自然法則的體現(xiàn)。它也必將促使我們的教育進(jìn)行改革，這只是時間問題。