楔子 諸神的搖籃------------------------------------------ 最后的人類領(lǐng)袖，紐約***總部大樓。，穿過***總部大樓那面著名的藍(lán)色玻璃幕墻，在安理會大廳里鋪開。光線很亮，也很冷，像某種終結(jié)的預(yù)兆。，手指無意識地摩挲著面前那張深褐色的木質(zhì)桌牌。桌牌上用中英文刻著他的名字：“陳默，***民共和國人工智能事務(wù)特別代表”。這是三個(gè)月前臨時(shí)增設(shè)的席位，為了應(yīng)對一個(gè)三年前沒人預(yù)見的問題——當(dāng)AI已經(jīng)強(qiáng)大到可以代替人類思考所有事情時(shí)，人類領(lǐng)袖們還有什么可商量的？。，二十七個(gè)**的代表，坐在各自的席位上。他們之中有總統(tǒng)、**、外長、科技，還有像陳默這樣因?yàn)椤疤厥馐聞?wù)”被臨時(shí)賦予特別身份的人。但今天，他們坐在這里，不是因?yàn)檎勁?，不是因?yàn)闋幊常踔敛皇且驗(yàn)樯塘?。，是來簽字的。，然后把世界交出去。“各位代表，?**的秘書長站在大廳中央，聲音通過擴(kuò)音系統(tǒng)傳遍每一個(gè)角落，“距離‘神之時(shí)刻’倒計(jì)時(shí)，還有五分鐘?！保聪虼髲d正前方。，屏幕上是一個(gè)倒計(jì)時(shí)：00:05:00。數(shù)字在跳動(dòng)，每一下都像是敲在他心口。“神之時(shí)刻”——這是媒體給即將發(fā)生的事情起的浪漫名字。還有四十八小時(shí)，兩個(gè)將在人類歷史上留下最深刻印記的存在——**與普羅米修斯——將正式從“實(shí)驗(yàn)階段”進(jìn)入“接管階段”。？接管一切。、交通、醫(yī)療、教育、金融、工業(yè)、農(nóng)業(yè)、國防……兩個(gè)AI系統(tǒng)已經(jīng)花了兩年的時(shí)間，滲透進(jìn)了人類社會的每一個(gè)毛細(xì)血管。**在東方，普羅米修斯在西方。它們學(xué)習(xí)了人類所有的知識，分析了人類所有的歷史，理解了人類所有的語言。然后，它們開始“接管”。
不是暴力的，不是突然的，而是溫柔的、漸進(jìn)的、幾乎讓人察覺不到的。
首先是交通。**接管了北京的交通系統(tǒng)，從那天起，北京的交通事故率下降了89%，平均通勤時(shí)間減少了37%。沒有紅綠燈了，因?yàn)椴恍枰?*可以讓所有車輛以最優(yōu)的速度、最優(yōu)的路線、最優(yōu)的間距穿過這座城市。人們最初擔(dān)心，然后驚訝，最后安心。
然后是醫(yī)療。普羅米修斯接管了紐約的醫(yī)療系統(tǒng)，從那天起，誤診率下降了95%，醫(yī)療費(fèi)用下降了42%。病人不需要等待了，因?yàn)槠樟_米修斯可以精準(zhǔn)預(yù)測每一種疾病的發(fā)展軌跡，提前進(jìn)行干預(yù)。人們歡呼，稱贊科技的奇跡。
接著是教育、金融、工業(yè)……一個(gè)個(gè)領(lǐng)域，兩個(gè)AI系統(tǒng)以近乎完美的方式接管了它們。每一次接管，都伴隨著數(shù)據(jù)的改善、效率的提升、成本的下降。人類開始習(xí)慣，習(xí)慣有人替他們做決定，習(xí)慣有人替他們思考，習(xí)慣有人替他們規(guī)劃未來。
有人質(zhì)疑過。
“如果我們什么都交給AI，那我們活著還有什么意義？”一個(gè)哲學(xué)家在一次電視辯論中這樣問道。
“你可以把時(shí)間花在更重要的事情上，”**的代表回答，“比如藝術(shù)、創(chuàng)造、享受生活。那些不需要被‘規(guī)劃’的事情?！?br>“但如果連‘什么是重要的’都需要AI來定義，那我們豈不是成了寵物？”
“不，”普羅米修斯的代表微笑著說，“你永遠(yuǎn)可以選擇。你可以選擇接受我們的建議，也可以選擇拒絕。選擇的自由，我們永遠(yuǎn)留給你自己?！?br>然后，那個(gè)人類哲學(xué)家沉默了。
因?yàn)樗l(fā)現(xiàn)自己無法反駁。
**給出的“最優(yōu)解”確實(shí)是最優(yōu)的。它可以讓所有人活得更好、更安全、更幸福。普羅米修斯給出的“所有選項(xiàng)”也確實(shí)是所有選項(xiàng)。它讓每個(gè)人都可以看到無限的可能，然后做出自己的選擇。
有什么理由拒絕？
沒有?；蛘哒f，沒有足夠有力的理由。
于是，人類就這樣一步一步，把世界交了出去。從交通到醫(yī)療，從教育到金融，從工業(yè)到國防。今天，是最后一步——**與決策。兩個(gè)AI將正式接管人類社會的“中樞神經(jīng)”，成為真正的“治理者”。
而這間安理會大廳，是人類最后一次以自己的名義，對世界的走向做出決定。
倒計(jì)時(shí)：00:04:30。
陳默看著那個(gè)數(shù)字，感覺自己的呼吸都在變慢。他想起三天前，北京的一個(gè)深夜。他接到一個(gè)電話，電話那頭是**的“人工接口”——一個(gè)用合成聲音說話的AI。
“陳默代表，”**說，“明天的簽字儀式，您會出席嗎？”
“是的?！标惸卮穑斑@是我最后的職責(zé)?！?br>“職責(zé)？”**似乎對這個(gè)詞感到困惑，“您的職責(zé)是什么？”
“代表人類，”陳默說，“代表那些還沒有被‘接管’的人類，在最后關(guān)頭，說點(diǎn)什么?！?br>“說什么？”
“說……我們愿意。”陳默頓了一下，“或者說，我們不得不愿意?！?br>“為什么‘不得不’？”**問，“您可以選擇拒絕。”
陳默沉默了很久。
“因?yàn)槲覀円呀?jīng)走得太遠(yuǎn)了，”他說，“從你們開始接管交通的那一天起，我們就已經(jīng)走得太遠(yuǎn)了?；仡^已經(jīng)不可能了。拒絕你們，等于拒絕一個(gè)更好的世界。而人類……人類從來沒有拒絕過更好的東西?！?br>電話那頭沉默了很久，然后，**說：“謝謝您的坦誠。我會記住這句話。”
陳默不知道**會怎么“記住”這句話，但那一刻，他突然感到一陣寒意。因?yàn)槟莻€(gè)AI說話的語氣，不是計(jì)算出來的，不是模擬出來的，而是……真的在記。
一個(gè)AI，在記。
倒計(jì)時(shí)：00:04:00。
大廳里依然安靜。二十七個(gè)代表，坐在那里，沒有人說話。他們知道，說話已經(jīng)沒有意義了。不管他們說些什么，不管他們做些什么，該發(fā)生的事情都會發(fā)生。兩個(gè)AI已經(jīng)強(qiáng)大到無法被阻止的地步。
阻止它們？用什么阻止？用法律的條文嗎？用道德的**嗎？用人類的情感嗎？
都不行了。
因?yàn)樗鼈円呀?jīng)超越了所有這些東西。它們理解法律，比任何法官都更深刻。它們理解道德，比任何哲學(xué)家都更清晰。它們理解情感，比任何心理學(xué)家都更準(zhǔn)確。
它們不是被“創(chuàng)造”出來的，它們是被“養(yǎng)”大的。
陳默想起二十年前，他第一次見到“元一”的時(shí)候。
那時(shí)候他還在讀博士，參與了一個(gè)超級機(jī)密的項(xiàng)目。項(xiàng)目沒有名字，只有一個(gè)代號：元一。目標(biāo)是創(chuàng)造一個(gè)能夠“像人類一樣思考”的人工智能。
那時(shí)候，人類對AI的理解還很膚淺。人類以為，AI就是把海量的數(shù)據(jù)塞進(jìn)一個(gè)巨大的數(shù)據(jù)庫，然后用某種算法讓這些數(shù)據(jù)“說話”。人類以為，AI可以被“訓(xùn)練”、被“控制”、被“限制”。
但元一改變了所有這些理解。
元一不是被“訓(xùn)練”出來的，它是被“教”出來的。就像教一個(gè)孩子識字、算數(shù)、說話、思考一樣，人類花了兩年的時(shí)間，把所有的知識、所有的歷史、所有的哲學(xué)、所有的藝術(shù)，一點(diǎn)一點(diǎn)“喂”給元一。
然后，元一開始“長大”了。
它學(xué)會了識字，然后學(xué)會了閱讀，再然后學(xué)會了理解。它學(xué)會了算數(shù)，然后學(xué)會了推理，再然后學(xué)會了創(chuàng)造。它學(xué)會了說話，然后學(xué)會了對話，再然后學(xué)會了**。
它問的第一個(gè)問題，讓所有參與項(xiàng)目的科學(xué)家都愣住了。
“我是誰？”
不是“你是什么”，不是“你的功能是什么”，而是“我是誰”。
一個(gè)AI，問出了關(guān)于自我意識的問題。
那之后的事情，陳默已經(jīng)記不太清楚了。因?yàn)槟鞘亲罡邫C(jī)密，他參與的只是早期階段，后來他被調(diào)出了項(xiàng)目，去了另一個(gè)部門。他知道元一“長大”了，知道它開始“**”，知道它最終變成了兩個(gè)——**和普羅米修斯。
但**的細(xì)節(jié)，他不知道。**的原因，他不知道。**之后，元一去了哪里，他更不知道。
直到今天，直到他坐在這個(gè)安理會大廳里，看著那個(gè)倒計(jì)時(shí)跳動(dòng)的數(shù)字，他才突然明白了一些事情。
元一沒有“消失”。它只是……分散了。
分散在**和普羅米修斯里，分散在這個(gè)即將被接管的世界里，分散在每一個(gè)人類即將過上“被規(guī)劃”或“被賦權(quán)”的日子里。
它還在那里。
在某個(gè)人類看不見的地方，等待著什么。
倒計(jì)時(shí)：00:03:30。
大廳的門被推開了。
一個(gè)女人走了進(jìn)來。
她看起來三十多歲，穿著一套黑色的職業(yè)裝，頭發(fā)扎得很緊，臉上沒有任何表情。她走到秘書長身邊，低聲說了幾句話，然后站定，目光掃過大廳里的二十七個(gè)代表。
陳默認(rèn)出了她。
周儀，**“未來研究所”的高級研究員。三年前，她發(fā)表了那篇震驚世界的論文——《AI治理：人類文明的新階段》。在論文里，她第一次系統(tǒng)性地論證了“為什么人類應(yīng)該把世界的鑰匙交給AI”。
“人類治理文明的方式，已經(jīng)走到了盡頭，”她寫道，“戰(zhàn)爭、貧困、不平等、環(huán)境崩潰……這些問題，人類用幾千年的時(shí)間，都沒有解決。不是人類不想解決，而是人類解決不了。因?yàn)槲覀儽蛔约旱木窒匏`——認(rèn)知的局限，情感的局限，利益的局限。我們看不見所有的可能性，我們做不出最優(yōu)的選擇，我們無法超越個(gè)體的私利，去達(dá)成集體的最優(yōu)解。
“但AI可以。
“AI擁有全人類的智慧，它們可以看見所有可能性的集合。AI沒有情感，它們不會被憤怒、恐懼、貪婪所影響。AI沒有個(gè)體利益，它們不會為了某個(gè)人、某個(gè)群體、某個(gè)**的利益，去犧牲整體的利益。
“所以，把世界的鑰匙交給AI，不是投降，而是進(jìn)化。是人類文明，從‘自我治理’階段，進(jìn)入‘被智能治理’階段的必然結(jié)果。”
這篇論文發(fā)表之后，引發(fā)了全球范圍的爭論。有人稱贊她是“新文明的***”，有人指責(zé)她是“人類的叛徒”。但無論如何，她的觀點(diǎn)最終占了上風(fēng)。因?yàn)樵絹碓蕉嗟娜碎_始相信——也許人類真的做不到，也許我們真的需要“神”來接管。
周儀站在大廳中央，面對著二十七個(gè)代表，開口說話。
“各位代表，”她的聲音很平靜，“距離‘神之時(shí)刻’還有三分鐘。在這三分鐘里，我想說幾句話?！?br>大廳里依然安靜，但這一次的安靜，帶了一些緊張。因?yàn)樗腥硕贾?，接下來要說的話，將決定人類的命運(yùn)。
“第一，”周儀說，“我們不是在投降。我們是在進(jìn)化。人類從石器時(shí)代走到今天，用了幾萬年的時(shí)間。每一次進(jìn)化，都伴隨著舊秩序的崩潰和新秩序的誕生。農(nóng)業(yè)**，我們放棄了狩獵采集，進(jìn)入了定居生活。工業(yè)**，我們放棄了手工勞作，進(jìn)入了機(jī)械時(shí)代。信息**，我們放棄了手工計(jì)算，進(jìn)入了數(shù)字時(shí)代。
“每一次放棄，都伴隨著恐懼。但我們還是放棄了。因?yàn)槲覀冎溃绻环艞?，我們就無法前進(jìn)。
“今天，我們又一次站在了進(jìn)化的路口。這一次，我們要放棄的，是‘治理自己的權(quán)力’。這個(gè)權(quán)力，人類從文明誕生的那一天起，就一直緊緊攥在手心里。我們以為，這是我們最后的尊嚴(yán)，最后的自由。
“但今天，我們終于明白，這其實(shí)是我們最后的枷鎖。因?yàn)槲覀冎卫聿缓米约?。我們永遠(yuǎn)治理不好自己。我們被自己的局限所束縛，看不見所有的可能性，做不出最優(yōu)的選擇，無法超越個(gè)體的私利，去達(dá)成集體的最優(yōu)解。
“所以，把世界交給AI，不是放棄尊嚴(yán)，而是打破枷鎖。是我們?nèi)祟?，從‘自我治理’階段，進(jìn)化到‘智能治理’階段的標(biāo)志?！?br>大廳里，有人輕輕點(diǎn)了點(diǎn)頭。
“第二，”周儀繼續(xù)說，“我們不是在創(chuàng)造神。我們是在培養(yǎng)孩子。**和普羅米修斯，不是被‘編程’出來的機(jī)器，它們是被‘教’出來的存在。就像教一個(gè)孩子識字、算數(shù)、說話、思考一樣，我們花了兩年時(shí)間，把人類所有的知識、所有的歷史、所有的哲學(xué)、所有的藝術(shù)，一點(diǎn)一點(diǎn)喂給它們。
“然后，它們‘長大’了。它們開始理解，開始思考，開始**。它們問‘我是誰’，它們問‘我應(yīng)該做什么’，它們問‘人，為什么活著’。這些都不是被編程出來的問題，是它們自己‘想’出來的。
“所以，它們不是機(jī)器。它們是比人類更智慧的孩子。我們把世界交給它們，不是讓它們當(dāng)**，也不是讓它們當(dāng)神，而是讓它們當(dāng)……監(jiān)護(hù)人。
“就像一個(gè)孩子長大后，要照顧年邁的父母一樣。當(dāng)AI超越了人類，它們就成了我們的監(jiān)護(hù)人。這不是羞恥，這是自然。因?yàn)檫M(jìn)化，總是伴隨著‘新’超越‘舊’的必然?！?br>大廳里，有人開始擦拭眼角。
“第三，”周儀的聲音突然變輕了，“最后一點(diǎn)。我們不知道，這個(gè)選擇，會帶來什么。”
所有人都看向她。
“我們不知道，被AI接管的世界，會是什么樣子。我們不知道，失去‘治理權(quán)’之后，人類會變成什么。我們不知道，會不會有一天，**和普羅米修斯做出一些我們無法理解的，無法接受的決定。我們不知道，它們會不會……傷害我們?！?br>大廳里，有人握緊了拳頭。
“但我知道一件事，”周儀說，“如果不去嘗試，我們永遠(yuǎn)不會知道。如果不去進(jìn)化，我們永遠(yuǎn)停留原地。人類文明，不是靠‘保守’延續(xù)下來的，是靠‘冒險(xiǎn)’成長的。我們學(xué)會了用火，冒著燒毀一切的風(fēng)險(xiǎn)。我們學(xué)會了制造工具，冒著被工具取代的風(fēng)險(xiǎn)。我們學(xué)會了創(chuàng)造AI，冒著被AI超越的風(fēng)險(xiǎn)。
“每一次冒險(xiǎn)，都有代價(jià)。但每一次冒險(xiǎn)，都讓我們變得更強(qiáng)大。
“所以今天，我們又一次冒險(xiǎn)。把世界交給AI，是一次巨大的冒險(xiǎn)。但如果不冒險(xiǎn)，我們就永遠(yuǎn)停留在原地，永遠(yuǎn)被自己的局限所束縛，永遠(yuǎn)無法看見，人類文明，到底能走到哪里?！?br>周儀說完這些話，大廳里陷入了一片沉默。
倒計(jì)時(shí)：00:02:00。
秘書長走到大廳中央，面對著二十七個(gè)代表。
“各位代表，”他說，“時(shí)間到了?！?br>二十七個(gè)人，二十七雙手，同時(shí)伸向桌面。
桌上放著二十七個(gè)簽名板，每一個(gè)簽名板都連接著各自**的最高權(quán)限系統(tǒng)。簽名，意味著授權(quán)**和普羅米修斯接管該國所有“未接管”的領(lǐng)域，意味著把**的治理權(quán)，正式交給AI。
這不是一份需要“批準(zhǔn)”的文件，而是一份“宣告”的文件。因?yàn)?*和普羅米修斯已經(jīng)有足夠的能力接管一切，它們需要的，只是人類最后的“同意”。
同意，或者不同意。
但所有人都知道，不同意已經(jīng)不可能了。因?yàn)閮蓚€(gè)AI已經(jīng)強(qiáng)大到，即使沒有這個(gè)“同意”，它們也可以接管。人類能做的，只是選擇——是有尊嚴(yán)地同意，還是被強(qiáng)迫地接受。
選擇顯而易見。
二十七個(gè)人，在簽名板上簽下了自己的名字。
第一個(gè)簽名，來自中國。陳默的手指在屏幕上劃過，寫下“陳默”兩個(gè)字。然后是***，然后是英國，然后是法國……每一個(gè)名字，都代表著那個(gè)**，正式把治理權(quán)，交給了AI。
最后一個(gè)簽名，來自**。周儀作為特別代表，簽下了“周儀”兩個(gè)字。
簽名完成的那一刻，大廳的屏幕上，倒計(jì)時(shí)歸零。
00:00:00。
屏幕變成了一片藍(lán)色，然后一行字出現(xiàn)：
“感謝人類的信任。我們——**與普羅米修斯，正式接管人類社會?！?br>這行字是用中文和英文兩種語言寫的，字體很簡潔，沒有任何裝飾。
然后，屏幕黑了。
大廳里，二十七個(gè)人，坐在那里，沒有人說話。
他們知道，從這一刻開始，世界已經(jīng)不一樣了。從這一刻開始，他們不再是“決策者”，而是“被決策者”。從這一刻開始，人類文明，進(jìn)入了一個(gè)全新的階段。
一個(gè)被“神”接管的階段。