中國作家協(xié)會主管

機(jī)器人寫的新聞有一天真的能以假亂真？

前不久杭州當(dāng)?shù)鼐用竦纳缃蝗Ο倐饕粭l“3月1號起杭州市政府將取消機(jī)動車尾號限行政策”的消息。后經(jīng)調(diào)查后發(fā)現(xiàn)，這竟然是ChatGPT寫的假新聞，被不明真相的人士截圖轉(zhuǎn)發(fā)后導(dǎo)致了錯誤信息的傳播。

烏龍事件的“始作俑者”ChatGPT自問世之日起即在國內(nèi)外引發(fā)了輿論風(fēng)暴。與人工智能AlphaGo、小冰不同的是，它是一個自然語言處理(NLP)領(lǐng)域的人工智能，能深入?yún)⑴c到比較深度的人類自然語言體系中。它可以直接應(yīng)用到多個場景，比如寫出嚴(yán)謹(jǐn)性不亞于人類所寫的新聞，具有一定文學(xué)性的詩歌、小說等等，甚至還能回答腦筋急轉(zhuǎn)彎，功能強(qiáng)大到無法想象。

這樣一個能夠不斷深入學(xué)習(xí)自然語言的大型語言模型的出現(xiàn)對人類社會而言是上帝的福祉還是潘多拉的魔盒？有人持樂觀態(tài)度，“網(wǎng)紅”哲學(xué)家斯拉沃熱?齊澤克直言“我的學(xué)生交給我他們用AI寫的論文，而我用AI給他們打分。這樣我們?nèi)甲杂闪?！”也有不少人視ChatGPT為潛在威脅者，認(rèn)為會導(dǎo)致很多職業(yè)消失，而ChatGPT有可能引發(fā)的人工智能內(nèi)容生產(chǎn)傳播風(fēng)險也讓人憂心忡忡。尤其在人文社科領(lǐng)域，不僅很多人的工作直接“撞上了ChatGPT的槍口”，人工智能的涉足也在極快地改變很多領(lǐng)域的業(yè)界生態(tài)。ChatGPT的到來是否會導(dǎo)致文化領(lǐng)域兩極分化進(jìn)而“內(nèi)卷”？作為文化領(lǐng)域從業(yè)者，該如何面對人工智能浪潮的到來？中國作家網(wǎng)記者走訪多位媒體從業(yè)者、青年作家和高校文科教授，請他們聊聊 ChatGPT及其帶來的影響。

讓ChatGPT替代人工遠(yuǎn)遠(yuǎn)沒那么容易

“一個比你優(yōu)秀、比你便宜、比你快，永遠(yuǎn)不會抱怨和找借口，永遠(yuǎn)不會鬧情緒的AI，它對平庸人群的沖擊力是比較大的?！?據(jù)科幻作家陳楸帆介紹，國外有很多家善于利用AI創(chuàng)作文案的公司，美國有專業(yè)生產(chǎn)類型小說的網(wǎng)站，通過創(chuàng)建不同模型進(jìn)行垂直化寫作，比如生成科幻小說的世界觀設(shè)定等。前不久，牛津大學(xué)亞洲和中東研究學(xué)院Jieun Kiaer教授與ChatGPT合作出版了第一本討論ChatGPT的語言學(xué)著作。

肉眼可見的未來，人工智能可以深入許多涉及內(nèi)容創(chuàng)作的工作中，社會將更青睞富有創(chuàng)造力和想象力的作品，沒有太多創(chuàng)新的作品會被淘汰。但就現(xiàn)階段ChatGPT的科技水平而言，“人工智能替代人類”的預(yù)言為時尚早。

北京大學(xué)新聞傳播學(xué)院研究員張慧瑜認(rèn)為，ChatGPT是程序化的思考方式，這點(diǎn)和人類的學(xué)習(xí)方式很相似。而機(jī)器又不像人類受身體的限制，它更適用于被廣泛應(yīng)用在新聞稿的寫作和文件整理等工作中。在中國作家網(wǎng)記者鄧潔舲看來，chatGPT抬高新聞從業(yè)門檻，淘汰只會寫簡訊的“文字搬運(yùn)工”是未來很有可能發(fā)生的事情。它可以一個頂替N個，只要給出準(zhǔn)確的關(guān)鍵信息就可以快速組織語言，甚至不同的媒體可以訓(xùn)練自己語言風(fēng)格的人工智能模型。

也有人認(rèn)為，新聞傳媒行業(yè)不能簡單定義為寫稿。據(jù)中國出版?zhèn)髅缴虉笥浾邚堉薪v，僅就文字報道而言，多數(shù)記者目前所作的工作都可以被機(jī)器替代，但是對記者的綜合要求中，視頻思維已經(jīng)很常見了，而ChatGPT對主觀客觀的辨別，還需要很長時間的訓(xùn)練。

科幻、懸疑、網(wǎng)絡(luò)文學(xué)等類型文學(xué)因其相對固定的程式化套路，也有很大的概率被人工智能模仿和取代。北京大學(xué)中文系教授邵燕君從事網(wǎng)絡(luò)文學(xué)研究多年，她認(rèn)為網(wǎng)絡(luò)文學(xué)類型化小說的確更容易被ChatGPT模仿，大量平庸的作者會被取代。但同時她認(rèn)為，類型文學(xué)可以多個套路進(jìn)行組合，正因?yàn)槟Ｊ焦潭?，?chuàng)新部分反而是清晰的，更能讓人一目了然哪些是平庸的創(chuàng)作，哪些是在人們想象力數(shù)據(jù)庫的集合之上的創(chuàng)作，人和機(jī)器的水平高低依然一目了然。只是ChatGPT的創(chuàng)新速度太快了，它會迅速提高平均水平，促使人們不得不進(jìn)行再度創(chuàng)新。此外，ChatGPT令讀者更容易創(chuàng)作自己喜歡的網(wǎng)絡(luò)小說，實(shí)現(xiàn)個體從閱讀轉(zhuǎn)向自主創(chuàng)作，更具有參與性，這是ChatGPT對網(wǎng)絡(luò)文學(xué)的積極影響。

在傳統(tǒng)的嚴(yán)肅文學(xué)創(chuàng)作方面更是如此，閱讀ChatGPT仿寫的文學(xué)片段后，基本所有受訪者都認(rèn)為人工智能或許能夠模仿創(chuàng)作，但遠(yuǎn)遠(yuǎn)達(dá)不到人類原創(chuàng)的程度。青年作家梁豪坦言，ChatGPT的文學(xué)創(chuàng)作仍停留在相對粗糙的模仿之中，其水準(zhǔn)距離專業(yè)作家，尤其是優(yōu)秀的作家，還有相當(dāng)大的差別，“只要是模仿，在創(chuàng)作層面就可以忽略不計。重視可以，但我們不能什么都當(dāng)真。”

“認(rèn)為機(jī)器可以直接寫出和人類創(chuàng)作水平相似的文學(xué)作品，我覺得這種想法比較不切實(shí)際，” 在陳楸帆看來，文學(xué)創(chuàng)作中的“人物塑造”“情感描寫”等都是個人化的不可替代的創(chuàng)作部分，機(jī)器所寫的內(nèi)容是基于統(tǒng)計大數(shù)據(jù)后生成的模式，有著嚴(yán)重的模仿痕跡。在深度學(xué)習(xí)AI時代，更需要作者充分調(diào)動主觀能動性將人工智能提供的材料組織起來，這反而對創(chuàng)造力和想象力提出了更高的要求。

有學(xué)者提示，ChatGPT的文學(xué)創(chuàng)作表現(xiàn)的并不盡如人意的原因主要因?yàn)镃hatGPT是在英文語境中開發(fā)，這導(dǎo)致在其他語言，特別是非歐洲語言中存在局限性?！昂唵蝸碚f，只要是方便計算的，ChatGPT可以處理得很好。不方便計算的，它就不行。”同濟(jì)大學(xué)青年教師叢子鈺提到，中文語料庫目前的分詞儲量還遠(yuǎn)遠(yuǎn)達(dá)不到進(jìn)行情感計算的水平，在北京大學(xué)語料庫中，文學(xué)語料只有7.3%，合計約8500萬字，也就是說按照平均一本書20萬字來算，只錄入了400本書，這個規(guī)模用于文學(xué)分析的話實(shí)在過于有限。這導(dǎo)致ChatGPT善于處理邏輯性強(qiáng)的內(nèi)容，比如新聞稿；不太擅長處理邏輯性較弱的，比如有太多修辭和暗示的文學(xué)作品。廣州大學(xué)“大灣區(qū)海上絲路”傳播中心特任研究員吳長青也認(rèn)為，中國語言中的很多轉(zhuǎn)義、修辭，特別是表象義，chatgpt未必能夠真正識別出來。

“人類和機(jī)器是來回較量的過程”

斯坦福的學(xué)者、計算機(jī)心理學(xué)副教授Michal Kosinski發(fā)表相關(guān)論文，證明GPT-3之后的AI模型，其同理心能力可能已經(jīng)和9歲小孩的自我意識差不多。這仿佛越來越印證了美國哲學(xué)家、麻省理工學(xué)院博士瑞?庫茨維爾曾在《心靈機(jī)器時代——當(dāng)電腦超越人腦》一書中所預(yù)測：人工智能將在2029年通過圖靈測試，2045年人類將成為生物和非生物的混合物。ChatGPT正在挑戰(zhàn)很多人對于“智慧”和“人類獨(dú)特性”的認(rèn)知和假設(shè)，這已經(jīng)不僅僅是人工智能的發(fā)展速度太快的問題了。人類該如何重新看待與機(jī)器人的關(guān)系？

陳楸帆將人和機(jī)器的關(guān)系比作“來回較量的過程”，人工智能在未來更多的是一個工具，如何運(yùn)用是作家需要考慮的事情。在他看來，人類對“意識”所知甚少。意識不是“0”或“1”的狀態(tài)，而是一個連續(xù)且廣泛的光譜。很多動物都擁有某種程度的意識，只不過人類是所有生物中意識層級最高、最復(fù)雜的。如果以人類作為標(biāo)準(zhǔn)，機(jī)器或許永遠(yuǎn)都不會擁有人類個體之間交互的關(guān)系和體驗(yàn)、意識、肉體，但它會具有依托數(shù)據(jù)發(fā)展起來的“機(jī)器意識”。它在未來所創(chuàng)造出的東西肯定和人類設(shè)想的完全不同?！拔疫€挺期待能見識到‘singularity’（奇點(diǎn)）的那一天?！彼f。

邵燕君認(rèn)為，AI只能在個體的思維模式訓(xùn)練完成的情況下作為彌補(bǔ)人類短板的工具來使用?！笆紫纫紤]的是它能干什么，比如AI在寫網(wǎng)絡(luò)文學(xué)綜述時對材料的掌握以及分析的建模方式，人類是否達(dá)到？如果做不到，那首先考慮的應(yīng)當(dāng)是先好好利用它，讓它成為我們的工具。”但是，人的創(chuàng)造力無法通過使用AI做到，她以爬臺階為比喻，“如果將爬100節(jié)臺階以上的人視作擁有創(chuàng)造力，那么前面99節(jié)臺階必須得親自爬上去才能有創(chuàng)造力。如果前99%都用AI來完成，人不可能‘平地一下’飛升到第100節(jié)。”人可以使用AI，但如果無法在此基礎(chǔ)上超越它擁有原創(chuàng)能力，最終只能被社會淘汰。

她提到著名理論家麥克盧漢在《理解媒介》中關(guān)于“媒介是人的延伸”的理論，在延伸的過程中，人類原有的器官會被解除。AI延伸的是人的智能，如果直接使用，人類自己的智能就被解除，這將進(jìn)入一種可怕的狀態(tài)。在她看來，尤其是學(xué)生在求學(xué)的過程中，必須用笨辦法完成思維的訓(xùn)練，AI只能在個體完成訓(xùn)練后作為工具使用。

梁豪也持有相同的看法。人類的文學(xué)創(chuàng)作與機(jī)器最大的不同即人的局限，以及在這種局限中可能出現(xiàn)的一點(diǎn)點(diǎn)脹破。破了，局限的邊界便隨之?dāng)U大，此二者讓創(chuàng)作顯得珍貴和不可取代。文學(xué)寫作通常是一個人的發(fā)明創(chuàng)造，天然帶著巨大的局限性，局限又不認(rèn)命，時時奮筆疾書、努力碼字，在這個過程中，好作家逐漸形成一種叫個人特色的東西，這是局限帶來的遺產(chǎn)。西西弗斯的石頭一次次滾落，但只要是人在推，就始終存在登頂?shù)目赡堋Ｈ绻麚Q成AI，這種攀登便淪為一場無限循環(huán)的表演。作品這塊石頭不管來到哪個高度，都因?yàn)檎礉M汗水而令人感動，它包含著人類的種種寄寓，這是人附著于其上的屬靈性。AI的石頭，永遠(yuǎn)只是一塊石頭。他對ChatGPT的心態(tài)就像利用搜索引擎一樣，或者出于一種啟發(fā)抑或規(guī)避，但絕對不會產(chǎn)生依賴，它只是一個工具?！爸劣谏顚用?，沒問題，來者是客，跟Siri偶爾都能相談甚歡，沒理由不歡迎更能嘮的ChatGPT?！?/p>

“當(dāng)有一天人工智能也能與宇宙交流時，人可以不存在，人本身也可能就是一種生物機(jī)器人，生物AI。”少兒科幻作家超俠從人類的記憶與想象力出發(fā)，認(rèn)為人的記憶和人工智能的記憶不同之處在于，人的記憶存在缺失和錯誤，無法像人工智能那樣百分之百的準(zhǔn)確。但恰恰是因?yàn)槿笔?，?dǎo)致人類用想象力彌補(bǔ)記憶，而人類的想象力本是基于自己的生命情感、觸感、靈感、超感，而產(chǎn)生的大腦微管與宇宙的量子糾纏，在這之上形成的藝術(shù)，它應(yīng)該是獨(dú)一無二，無法被取代和模擬的。從理性和感性的結(jié)合上，ChatGPT并未超越目前的人類。

叢子鈺設(shè)想未來將是人人皆會使用人工智能進(jìn)行寫作的時代。對于學(xué)習(xí)知識并輸出內(nèi)容并且將所知的內(nèi)容進(jìn)行輸出來說，ChatGPT已經(jīng)達(dá)到了及格水平。這個及格水平還有必不可少的條件：它只能寫靠邏輯推演，而不是靠文獻(xiàn)和田野調(diào)查的論文。ChatGPT適合自然科學(xué)，而非社會科學(xué)和人文科學(xué)；適合定量研究，不適合定性研究。所以，像文學(xué)藝術(shù)研究這樣注重表達(dá)形式、難以量化的研究是很難解決的難題。等到ChatGPT升級完成，會為有創(chuàng)造力的學(xué)者和“體力勞動式的腦力勞動者”分別提供更合適的位置，制造更多元的學(xué)術(shù)環(huán)境?！拔矣X得可能在10年后，不會用ChatGPT寫論文的學(xué)生就像不會用微信聊天一樣，他們才是少數(shù)。對他們來說，我們大概已經(jīng)與古代人一般不可思議吧?！?/p>

面對ChatGPT 先要破除“人類中心主義”

美籍華裔科幻作家特德?姜在《紐約客》的一篇文章中將ChatGPT比作網(wǎng)上所有文本的模糊圖像。這種將大型語言模型視為“有損文本壓縮算法”的說法多少有些令人泄氣。也有人提出質(zhì)疑，AI永遠(yuǎn)不可能代替人類把方向盤——因?yàn)椤半娷囯y題”無法解決。

早在2017年，陳楸帆和朋友開始嘗試訓(xùn)練機(jī)器模型進(jìn)行寫作，最近他和李開復(fù)合著的《AI未來進(jìn)行式》剛剛出版。在他看來，ChatGPT是人類通過工程學(xué)的辦法實(shí)現(xiàn)的突破，非常具有突破性，但是和從經(jīng)典的牛頓力學(xué)到量子力學(xué)的飛躍相比，依然不能同日而語。

對于特德?姜的說法，他認(rèn)為人類認(rèn)知外部世界同樣也是一個模糊的圖像，因?yàn)槿祟惖母泄俸痛竽X會對信息進(jìn)行選擇和壓縮，比如視覺上的盲點(diǎn)等等，人類處理信息的方式未見得比機(jī)器高明多少。人類要對人工智能的發(fā)展保持一種開放的心態(tài)，通常人類都會高估一個技術(shù)的短期影響，卻低估其長期效應(yīng)，無法進(jìn)行非線性的思考，這也是人類認(rèn)知上的某種缺失。在他看來，人工智能無法為人類決定類似“電車難題”的抉擇，這本身是“人類中心主義思想”在作祟。人類在面臨“電車難題”的狀況下，其判斷的依據(jù)也受到現(xiàn)代社會的文化、法律、道德、倫理建構(gòu)，以及當(dāng)時的心理狀態(tài)等一系列影響，這其實(shí)跟機(jī)器沒有太大的區(qū)別。如果站在過于人類中心的立場討論，就無法看到更多的可能性，就像汽車的自動駕駛功能，在技術(shù)成熟的時候必然會大幅下降人為交通事故，這也是科技向善的宗旨。

“原來我們是用腿走路，現(xiàn)在我們是騎上滑輪、生出翅膀，這個加速度與最初是不可比擬的。這也是在逼迫我們必須不斷接受、學(xué)習(xí)，否則會被它淘汰?！鄙垩嗑J(rèn)為，ChatGPT為人類的生活方式帶來了革命性變化，雖然現(xiàn)在還沒有特別深入的影響，但在將來一定會重塑人類的生活觀、工作觀。它的加速度太快了，以后將人類的文明導(dǎo)向何處誰也無從得知。

張慧瑜更愿意將此次對ChatGPT的討論看作反思文藝創(chuàng)作、現(xiàn)代文明和人的創(chuàng)造性的契機(jī)。過于強(qiáng)調(diào)只有人類才能創(chuàng)造的作品、擁有的創(chuàng)造力這種想法本身容易讓人們陷入以“自我為中心”的迷思而無法自拔，而這太一廂情愿了。文學(xué)是什么？人文主義是什么？早在本雅明提出機(jī)械復(fù)制時代的藝術(shù)的時候，這就已經(jīng)不是一個新問題了。進(jìn)而，他又提出新的問題，這些機(jī)器為誰所用，它是否真正的改變了人類的社會階層或者社會關(guān)系？如果ChatGPT真的導(dǎo)致大量的人口失業(yè)，那么討論將不單單是科技問題，而是涉及到社會關(guān)系和社會結(jié)構(gòu)的問題，以及背后的文化、政治影響。它目前還不像互聯(lián)網(wǎng)一樣重構(gòu)社會，而是數(shù)字社會的一個更新的應(yīng)用，能夠幫助人類理解現(xiàn)代社會的本質(zhì)特征及其限定性。對于現(xiàn)代社會來說，人工智能背后深藏的是人和機(jī)器的問題，比如“人如何理解這個機(jī)器”，或者“人如何和機(jī)器能夠相輔相成”，這其實(shí)是現(xiàn)代社會的源問題。

吳長青直言，雖然ChatGPT是極具顛覆性的科技產(chǎn)物，自己在做學(xué)術(shù)研究的時候不會使用。高校教育的特別之處在于不僅自己如何思考，還在于教人如何思考，因此對于神經(jīng)科學(xué)和腦科學(xué)產(chǎn)品，他有一種本能的抵抗。他希望自己在做學(xué)術(shù)研究的時候能夠回到“我手寫我心”的肉身感，而差異化也正源于此，否則無異于流水線上的產(chǎn)品。他認(rèn)為這不是保守，而是守護(hù)人類的一道底線。

“就像嬰兒從會爬到了第一次學(xué)會走路一樣，但距離成為一個短跑運(yùn)動員，還有很長的距離。”叢子鈺認(rèn)為， ChatGPT具有的優(yōu)勢并非在技術(shù)層面，而是具有某種方便大眾消費(fèi)的特征?！熬拖裾夹切g(shù)甚至不是科學(xué)，也曾被當(dāng)作科學(xué)看待，這是類似的道理?！?/p>

無論對AI握手言歡還是視作洪水猛獸，不可否認(rèn)的是，ChatGPT時代已經(jīng)到來。我們不妨再大開腦洞，或許有一天，ChatGPT寫作如同AI繪畫一樣人機(jī)無差別，更甚至可將chatGPT植入大腦，徹底達(dá)到人機(jī)合一。在未來，寫就這樣一篇文章或許只需幾分鐘，又或許，那將是另一個版本的《美麗新世界》。 

（鄧潔舲、叢子鈺對本文亦有貢獻(xiàn)）