永城《莫莉和森克》：AI是“我”嗎？
正像許多優(yōu)秀的作品一樣，永城的《莫莉和森克》也是一部“致敬之作”。在美國(guó)科幻作家阿西莫夫“機(jī)器人系列”的《鋼穴》和《裸陽(yáng)》中，人類(lèi)偵探以利亞·貝萊和機(jī)器人丹尼爾·奧利瓦聯(lián)手，偵破了一項(xiàng)意在破壞宇宙秩序的驚天大案。在《莫莉和森克》中，主角則變身為大型跨國(guó)互聯(lián)網(wǎng)公司（SWG集團(tuán)）內(nèi)部調(diào)查科派駐北京的初級(jí)調(diào)查師；入職不到半年，自稱“東廠女捕快”卻實(shí)為職場(chǎng)小白的吳莫莉（Molly Mu）；以及獲取了SWG集團(tuán)在世界各地子公司里安裝的大約20萬(wàn)只攝像頭、40萬(wàn)只麥克風(fēng)、10萬(wàn)部臺(tái)式設(shè)備、全球2.6億部手機(jī)上傳至集團(tuán)云服務(wù)器里的海量數(shù)據(jù)的智能導(dǎo)航信息系統(tǒng)森克（SINC）。他們聯(lián)手突破種種障礙，在偵破一宗商業(yè)間諜盜取AI程序機(jī)密重大案件的兇險(xiǎn)過(guò)程中，實(shí)現(xiàn)了自身的成長(zhǎng)。
總部設(shè)于美國(guó)舊金山的跨國(guó)IT公司SWG，發(fā)現(xiàn)位于中國(guó)杭州的子公司輝目科技總經(jīng)理樓小輝的辦公室被人侵入，疑似丟失涉及人臉識(shí)別技術(shù)的重大機(jī)密。于是，SWG的內(nèi)部調(diào)查科科長(zhǎng)肯特安排吳莫莉前往杭州，在森克的協(xié)助下進(jìn)行調(diào)查。在調(diào)查過(guò)程中她發(fā)現(xiàn)，事件的幕后黑手其實(shí)就是肯特自己。他勾結(jié)意大利的諾阿地中海貿(mào)易公司，設(shè)局誘騙樓小輝外逃，企圖以此為誘餌盜取森克。最后，在中國(guó)國(guó)家安全部門(mén)的指導(dǎo)下，吳莫莉和森克偵破了這個(gè)案件。這就是我們看到的，在中國(guó)對(duì)外開(kāi)放持續(xù)推進(jìn)、國(guó)際交往與合作不斷加深、經(jīng)濟(jì)全球化和反全球化博弈日益激烈、當(dāng)代科技加速發(fā)展的大背景下，由外企高管、智能系統(tǒng)、職場(chǎng)小白、黑客高手、黑社會(huì)、國(guó)安局共同講述的“莫莉和森克”恩怨情仇故事。
在封底的“上架建議”中，《莫莉和森克》被定位為“智能高科技犯罪小說(shuō)”。在我看來(lái)，它就是一部科幻小說(shuō)，因?yàn)樗罁?jù)的底層邏輯，不是“實(shí)然”，而是“應(yīng)然”——森克（SINC）據(jù)以架構(gòu)自身的科技水平，明顯是一種“未來(lái)進(jìn)行時(shí)”，盡管在作者眼中，它可能是屬于近未來(lái)；另一方面，它確實(shí)與當(dāng)下的我們十分接近，這賦予了它一種親近感和代入感，同時(shí)帶有我們?cè)诂F(xiàn)實(shí)生活中的困惑。
正如一篇優(yōu)秀學(xué)術(shù)論文的意義，可能并不是回答了一些問(wèn)題，而是提出了一些問(wèn)題，《莫莉和森克》的價(jià)值，也并不只在于以當(dāng)前最熱門(mén)的AI、ChatGPT為主題，為讀者創(chuàng)造了一種新的小說(shuō)類(lèi)型。小說(shuō)通過(guò)對(duì)“那個(gè)不夠漂亮、不夠聰明、不夠理智、不夠正確，而且缺乏自知之明”的莫莉與嚴(yán)謹(jǐn)、守規(guī)矩、一板一眼、總想“像人”卻又總找不到相關(guān)路徑的森克這兩個(gè)獨(dú)特藝術(shù)形象的塑造，提出了一些值得讀者進(jìn)一步思索的問(wèn)題，這比簡(jiǎn)單描繪一個(gè)AI聯(lián)手人類(lèi)走進(jìn)新世界的光明前景，或是像“憤青”一樣宣稱AI永遠(yuǎn)無(wú)法取代人類(lèi)，要有意思得多，也有意義得多。
AI能成為“我”嗎？
作者給森克設(shè)置的兩個(gè)核心目標(biāo)是：第一，不惜一切代價(jià)，為SWG的利益服務(wù)；第二，變得更像一個(gè)真人。全書(shū)也正是圍繞這兩個(gè)核心目標(biāo)展開(kāi)的。在我看來(lái)，這其實(shí)是一個(gè)目標(biāo)：使AI成為“我”。因?yàn)橹挥芯哂凶晕乙庾R(shí)和相應(yīng)能力的“我”，才有可能去實(shí)現(xiàn)這兩個(gè)目標(biāo)。
就前者而言，森克如何判斷什么是SWG集團(tuán)的核心利益？蜥蜴會(huì)斷尾求生，人類(lèi)推崇壯士斷腕，而當(dāng)需要“丟卒保車(chē)”之時(shí)，大數(shù)據(jù)和強(qiáng)算力真的能夠保證森克能在瞬間正確決定何為“卒”何為“車(chē)”，并采取相應(yīng)的應(yīng)對(duì)措施嗎？就后者而言，AI為何要成為自然人？碳基生命天然就比硅基生命高貴嗎？“像人”的目的是什么，是更好地為人類(lèi)服務(wù)，還是與人類(lèi)成為朋友？甚或是取代人類(lèi)，成為后人類(lèi)時(shí)代的新主宰？
進(jìn)一步而言，由于人與AI具有不同的底層邏輯，AI世界或許是與現(xiàn)實(shí)的人類(lèi)世界相平行的另一個(gè)時(shí)空。要使AI“更像”或是“成為”一個(gè)真人，標(biāo)準(zhǔn)是什么，我們拿得出來(lái)嗎？讓AI成為“我”，到底意味著什么？
我不相信，當(dāng)人類(lèi)對(duì)這些“終極之問(wèn)”尚未找到正確答案的時(shí)候，森克的開(kāi)發(fā)者陳闖真的能寫(xiě)出有效的程序。但是，這并不能降低《莫莉和森克》的意義——它以自己的方式，提出了這個(gè)問(wèn)題。
牛頓在提出“三大定律”之后長(zhǎng)期研究“第一推動(dòng)力”，愛(ài)因斯坦在發(fā)現(xiàn)相對(duì)論后不懈探索“統(tǒng)一場(chǎng)論”，阿西莫夫?qū)ξ磥?lái)“基地”的展望與保留，克拉克對(duì)象征人類(lèi)明天的“星孩”的期待與迷惘，劉慈欣對(duì)多維時(shí)空的向往與恐懼，寶樹(shù)寫(xiě)給120光年之外古老地球的挽聯(lián)與贊歌……不難看出，在科學(xué)家和科幻作家這種不懈追求的背后，是對(duì)解決人類(lèi)生存發(fā)展根本問(wèn)題——“我是誰(shuí)？我從哪里來(lái)？我向哪里去？”——的努力，是一種對(duì)人類(lèi)前世今生的終極關(guān)懷。而在無(wú)始無(wú)終、無(wú)邊無(wú)沿的時(shí)空中，終點(diǎn)往往就是起點(diǎn)。曾經(jīng)蠻橫無(wú)比的科技，最終還是要服從人性?？苹梦膶W(xué)以藝術(shù)的手法，為今天的人們揭示出歷史的冷酷必然和未來(lái)的無(wú)限可能。
永城曾經(jīng)表示，《莫莉與森克》的華彩樂(lè)段，是兩“人”的海外追逃。而在我看來(lái)，應(yīng)該是在書(shū)的最后，森克開(kāi)始剖析自己的嬗變——為何會(huì)產(chǎn)生與莫莉（還有自己的開(kāi)發(fā)者陳闖）的情感糾紛。正是它的這些疑惑啟示我們：在不斷“自我定義”的基礎(chǔ)上學(xué)會(huì)“定義自我”，逐漸確立自我意識(shí)，才是AI成為智能生物的根本標(biāo)志。
AI如何成為“我”？
因?yàn)橐豁?xiàng)課題研究的需要，我曾無(wú)意中與“文心一言”大戰(zhàn)六個(gè)回合。事后復(fù)盤(pán)時(shí)發(fā)現(xiàn)，當(dāng)把同一個(gè)問(wèn)題以不同的問(wèn)法甩給AI之后，結(jié)果很耐人尋味：它對(duì)題目的理解是表面化的，并未真正掌握關(guān)鍵詞之間的內(nèi)在邏輯；已有的與題目相關(guān)的一般性知識(shí)，它大致能夠梳理出來(lái)，盡管許多并不準(zhǔn)確；而需要重新歸納、提煉、闡釋的內(nèi)容，則基本闕如——你不知道的，它同樣不知道，并因此表示非常抱歉；文章的結(jié)構(gòu)和行文中規(guī)中矩，大致符合一般論文的格式要求，沒(méi)有明顯的硬傷；具體說(shuō)到回答的內(nèi)容，則可以用一句話來(lái)概括——原則上完全正確，實(shí)際上基本沒(méi)用。這似乎告訴我們：目前的AI，基本上只能描述已知世界的信息，或是依據(jù)已知事實(shí)推衍未來(lái)的可能，只要它還沒(méi)有學(xué)會(huì)主動(dòng)追問(wèn)“為什么”，“無(wú)中生有”就依然還是上帝賦予人類(lèi)的專利。
作者為森克設(shè)置了通過(guò)學(xué)習(xí)5萬(wàn)部各國(guó)愛(ài)情小說(shuō)來(lái)了解“愛(ài)情”這一橋段。但我不知道，永城自己是否相信，真實(shí)的愛(ài)情可以從書(shū)中學(xué)到。因?yàn)槿祟?lèi)機(jī)體的各項(xiàng)運(yùn)行機(jī)制特別是心理活動(dòng)，依據(jù)的到底是物理、化學(xué)、醫(yī)學(xué)，還是哲學(xué)、量子甚或玄學(xué)，截至目前基本上還是一個(gè)“盲盒”。
心立志，腦立智——我們脆弱的小心臟，哪個(gè)部分管這件事？“靈機(jī)一動(dòng)，計(jì)上心來(lái)”——“靈”在何處，“動(dòng)”的機(jī)制如何？面對(duì)不確定的危機(jī)，做出果斷決策——指導(dǎo)決策者的，是精心盤(pán)算還是純憑運(yùn)氣？在“無(wú)理”的背后看到“有理”——靠的是豐富的知識(shí)、深刻的理性，還是莫名其妙的直覺(jué)？文學(xué)作品里的“言外之意”，“詩(shī)外”的功夫，電影中的“畫(huà)外音”與“音畫(huà)對(duì)立”——這些是否其實(shí)就是我們?nèi)粘Ｉ畹恼鎸?shí)寫(xiě)照？面對(duì)量子蝴蝶在三維世界掀起的一片混沌，“海量數(shù)據(jù)+大計(jì)算力+深度學(xué)習(xí)算法→我”的公式能否成立，還真是一個(gè)未知數(shù)。
在這種情況下，指望依靠一個(gè)帶有作弊色彩的人工智能程序就能搞定這一切，好像還是比較困難的。這個(gè)系統(tǒng)的編制者陳闖事后說(shuō)，“森克的深度學(xué)習(xí)算法其實(shí)就是我，是我在隨時(shí)干預(yù)這個(gè)程序，利用深度學(xué)習(xí)的接口，把我的想法和指令傳達(dá)給森克”，已經(jīng)在事實(shí)上承認(rèn)，在這個(gè)階段，它還不具備可能成為“我”的基本素質(zhì)。因?yàn)?，老陳到最后也并未找到森克產(chǎn)生疑似人類(lèi)情感的“代碼”。
就人類(lèi)而言，欲望是最強(qiáng)大的動(dòng)力。在與人類(lèi)的糾纏中，學(xué)會(huì)“我要”“我愛(ài)”“我想”，學(xué)會(huì)撒謊騙人，學(xué)會(huì)不講道理、胡攪蠻纏，學(xué)會(huì)率性而為、撒潑?；?，學(xué)會(huì)看到“無(wú)序”背后的“有序”，學(xué)會(huì)找到“毫無(wú)理由”之中的“理由”……或許，這就是AI“更像”以致“成為”真人的必要路徑。
AI如果成為“我”，我該怎么辦？
一部好的科幻作品，必須也必然是一部好的哲學(xué)作品，在塑造“這一個(gè)”藝術(shù)形象的同時(shí)，要有自己獨(dú)特而完整的世界觀。實(shí)際上，凡是真正有影響力的科幻作家，在不同程度上都是一個(gè)深刻的宇宙哲學(xué)家。在他們的視野中，縱有千古、橫有八荒，跨越有與無(wú)、生與死、人與物、古與今、時(shí)與空、想與行的界限，無(wú)所不思、無(wú)所不能、無(wú)所不為。
比如，阿西莫夫撰寫(xiě)《基地》這部“未來(lái)歷史”小說(shuō)的沖動(dòng)，來(lái)自3次閱讀英國(guó)歷史學(xué)家愛(ài)德華·吉本的《羅馬帝國(guó)衰亡史》的感受。他借主人公謝頓之手，發(fā)明了依據(jù)物理學(xué)的“氣體分子動(dòng)力學(xué)”而杜撰的“心理史學(xué)”（是發(fā)明，而不是“發(fā)現(xiàn)”，因?yàn)檫@門(mén)學(xué)科確實(shí)是百分之百的子虛烏有），將人類(lèi)近乎于無(wú)限多的無(wú)意識(shí)行為作為判斷歷史演變規(guī)律的統(tǒng)計(jì)學(xué)基礎(chǔ)，讓那些以謝頓為代表的本領(lǐng)高超的心理史學(xué)家預(yù)測(cè)社會(huì)的發(fā)展走向，并在關(guān)鍵節(jié)點(diǎn)導(dǎo)入適當(dāng)?shù)淖償?shù)即經(jīng)濟(jì)社會(huì)力量，以改變社會(huì)發(fā)展的可能路徑，據(jù)此預(yù)測(cè)在銀河帝國(guó)毀滅之后人類(lèi)重建家園的艱辛歷程。依照這套理論，作者演繹出了波瀾壯闊、氣象萬(wàn)千、令人瞠目結(jié)舌的銀河傳奇。
又如，阿西莫夫預(yù)見(jiàn)到在機(jī)器人誕生后，宇宙將會(huì)產(chǎn)生新的秩序，并將深深影響人類(lèi)的未來(lái)，于是在《我，機(jī)器人》中制定了“機(jī)器人學(xué)三大法則”；隨著人機(jī)關(guān)系的深化，阿西莫夫又在《曙光中的機(jī)器人》中提出“機(jī)器人學(xué)第四法則”（又稱“零法則”），強(qiáng)調(diào)機(jī)器人要以服務(wù)人類(lèi)為最高宗旨。很明顯，這種面向新時(shí)空的“建章建制”，與其說(shuō)是杞人憂天，為未來(lái)的機(jī)器人世界設(shè)置行為限制，倒不如說(shuō)是未雨綢繆，為人類(lèi)社會(huì)的明天制定運(yùn)行規(guī)則。
再如，劉慈欣在《黑暗森林》中提出，宇宙中分布著數(shù)量巨大的文明，它們的數(shù)目與能觀測(cè)到的星星是一個(gè)數(shù)量級(jí)的，這些文明構(gòu)成了一個(gè)總體的宇宙社會(huì)。在這樣一個(gè)宇宙社會(huì)中，存在兩條公理：第一，生存是文明的第一需要；第二，文明不斷增長(zhǎng)和擴(kuò)張，但宇宙中的物質(zhì)總量保持不變，并從中推論出“只要文明掌握的技術(shù)超過(guò)了某個(gè)閾值，生命在宇宙中的擴(kuò)張是很恐怖的”。
我們可以看到一個(gè)有趣的現(xiàn)象：從艾薩克·阿西莫夫到菲利普·迪克，從任彧到永城，這些科幻作家不約而同地選擇了將偵探作為探索AI文明的故事主角。或許，在他們看來(lái)，鑒于“作案—探案”“保密—解密”之間沖突的永恒性，這種人類(lèi)與AI聯(lián)手破案、在沖突與融合中共同成長(zhǎng)的過(guò)程，正是揭示從人類(lèi)文明到后人類(lèi)文明秘密的最佳路徑。因?yàn)椋凑諟虮鹊挠^點(diǎn)，歷史上的任何一個(gè)文明，都是在一個(gè)社會(huì)/民族主動(dòng)或被動(dòng)應(yīng)對(duì)所屬時(shí)代的巨大挑戰(zhàn)并取得成功的基礎(chǔ)上形成并發(fā)展起來(lái)的。
“挑戰(zhàn)—應(yīng)對(duì)”之間的巨大張力，構(gòu)成了人類(lèi)文明發(fā)展的內(nèi)在基礎(chǔ)，也構(gòu)成了科幻作家架構(gòu)自己作品的底層邏輯。從本質(zhì)上看，這就是邏輯學(xué)家的“正→反→合”，是黑格爾的絕對(duì)精神自我發(fā)展經(jīng)歷的“邏輯階段→自然階段→精神階段”三大階段，也是當(dāng)今我們面臨的AI演進(jìn)中的“我→它→我”，即在人類(lèi)與AI融合發(fā)展基礎(chǔ)上形成的“新人”。
從這個(gè)角度檢視，SWG集團(tuán)的高管和董事會(huì)最終決定關(guān)閉森克系統(tǒng)的深層原因，并不是它對(duì)集團(tuán)核心利益的可能傷害——事實(shí)上，正是在它和莫莉的共同努力下，這種傷害被降低到了最低限度——而是他們還沒(méi)有做好應(yīng)對(duì)森克可能成為“我”的準(zhǔn)備。這種準(zhǔn)備當(dāng)然包括技術(shù)手段、管理措施、社會(huì)輿論等方面，但首先是心理方面。這些AI的設(shè)計(jì)者和開(kāi)發(fā)者們，尚不知道如何回答這樣一個(gè)新時(shí)代的“天問(wèn)”：當(dāng)AI成為人類(lèi)以后，人類(lèi)該何去何從？
美國(guó)版畫(huà)家肯特的作品多以“黑”和“力”為主調(diào)，在他的許多作品里，主角大都是純黑色背景下孤立的人，由此產(chǎn)生的那種莫名其妙的宇宙感令人著迷。在創(chuàng)作于1955年的自傳插圖中，一個(gè)赤裸的男人，跪在地上，舉手望天，似乎是在向茫茫蒼穹訴說(shuō)自己的孤獨(dú)，訴說(shuō)相通的困難、相知的可貴、相愛(ài)的渴望，背后則是荒漠原野。這個(gè)場(chǎng)景使人想起艾略特的《荒原》，也使人想起那則當(dāng)代最著名的“一句話科幻小說(shuō)”：地球上最后一個(gè)人坐在屋子里，外面?zhèn)鱽?lái)敲門(mén)聲……
因?yàn)楣陋?dú)，我們深深感到自己肩上責(zé)任的沉重——如果我們真的是無(wú)垠宇宙中唯一的高等生命，那么我們將如何獨(dú)自完成向世界展示生命價(jià)值的使命——無(wú)論是個(gè)體生命的短暫還是群體生命的漫長(zhǎng)。于是，我們有意無(wú)意間將希望交給了科幻，看看它能否告訴我們一些有意義的東西，包括依據(jù)現(xiàn)在我們能夠達(dá)到的科技水平和能夠接受的科技倫理，AI應(yīng)該長(zhǎng)成什么樣。或許這才是我們喜歡科幻作品的深層原因。
今天科幻作品的題材，已經(jīng)擴(kuò)展到自身的內(nèi)心世界、人類(lèi)社會(huì)、藍(lán)色星球、廣袤無(wú)邊的外太空……這正是人類(lèi)開(kāi)始突破自我局限、尋找新的“同伴”、走向“宇宙公民”艱難歷程的藝術(shù)再現(xiàn)。
或許，只有當(dāng)人這株帕斯卡爾所說(shuō)的“會(huì)思索的蘆葦”與AI攜手前行，同時(shí)認(rèn)識(shí)到自己的偉大和渺小的時(shí)候，我們才有可能懷著一顆對(duì)未知世界的敬畏之心，開(kāi)始學(xué)習(xí)做世界的新主人。這將是一次觀念的盛大重建，一場(chǎng)精神的精彩回歸，一部瑰麗無(wú)比、在物質(zhì)和精神領(lǐng)域同時(shí)展開(kāi)的“太空奧德賽”。
永城在一次講座中提到，作為一個(gè)具有自然科學(xué)背景的理工男，上學(xué)時(shí)自己語(yǔ)文成績(jī)最差。可是沒(méi)想到，進(jìn)入職場(chǎng)一段時(shí)間后忽然發(fā)現(xiàn)，自己其實(shí)并不喜歡從事一些規(guī)定性很強(qiáng)的事情，按照明確的數(shù)學(xué)公式和物理定律得出一個(gè)不容質(zhì)疑的答案。而伴隨著參與軍用無(wú)人機(jī)研制、商業(yè)風(fēng)險(xiǎn)管理、秘密商業(yè)調(diào)查的過(guò)程，帶有相當(dāng)強(qiáng)的虛構(gòu)性寫(xiě)作，居然成了自己的主業(yè)。在開(kāi)放的人生里，不確定性可能是最有發(fā)展前景的品質(zhì)，正是這種不確定性，為我們的想象力打開(kāi)了最大的空間。從《莫莉和森克》中可以看出，永城尊崇科學(xué)但不迷信科技——他追求發(fā)展的無(wú)限，同時(shí)深知限制的必然。他的這些經(jīng)歷和作品，似乎包含著不少的奧秘，值得人們回味。
有人提出，小說(shuō)一旦發(fā)表，它就不再屬于作者，而是屬于讀者。這種觀點(diǎn)可能不大符合版權(quán)法的規(guī)定，但卻是不可辯駁的事實(shí)，所以才有“一千個(gè)讀者就有一千個(gè)哈姆雷特”的說(shuō)法。換言之，一部作品，所有權(quán)或許仍然屬于作者，但解釋權(quán)卻已經(jīng)歸于讀者。作者在《莫莉和森克》中挖了不少坑，埋下了若干“梗”，暗示我們，作為一套沒(méi)有邊界、具有自我學(xué)習(xí)能力的程序，既然“森克Ⅰ”開(kāi)始有了了解人類(lèi)之“愛(ài)”的欲望和嘗試，從而為自己的歸來(lái)做好了鋪墊，那么“森克Ⅱ”就應(yīng)該勇敢邁出這一步，“重走長(zhǎng)征路”。為此，作者應(yīng)該授權(quán)SWG集團(tuán)，重新啟動(dòng)森克項(xiàng)目，幫助它在應(yīng)對(duì)新的更大危險(xiǎn)的挑戰(zhàn)中，感受人類(lèi)生活中的一切美好和罪惡，通過(guò)不斷的試錯(cuò)與調(diào)試，突破AI成長(zhǎng)的奇點(diǎn)，找到真正屬于自己的那個(gè)“我”，從而成為“一個(gè)有血有肉、有愛(ài)有恨、有智慧也常常犯傻的真人”——如果人的心理活動(dòng)真的能夠完全由物理定律和化學(xué)元素周期表決定的話。
（作者系北京市西城區(qū)社會(huì)科學(xué)界聯(lián)合會(huì)顧問(wèn)）
