劉梁劍（右一）主持1小時的圓桌會談，五位嘉賓見解不盡相同，展開充分交流

(資料圖片僅供參考)

【導讀】 6月20日，163期文匯講堂“數(shù)字強國”系列啟動，首期《AIGC驅動生產(chǎn)力躍升與良好世界塑造》，在涌動著畢業(yè)季青春氣息的華東師大櫻桃河畔成功舉辦。北京智源人工智能研究院副院長兼總工程師林詠華應邀作主講，華東師大學者楊國榮致辭，計算機學院賀樑、哲學系酈全民、付長珍、潘斌、劉梁劍參與數(shù)字&人文圓桌對談，13位聽友現(xiàn)場互動。校內(nèi)外7600余人觀看華東師大微信號直播?，F(xiàn)場發(fā)放了50枚NFT數(shù)字徽章.

本次講座由文匯報社、上海樹圖區(qū)塊鏈研究院、華東師大中國現(xiàn)代思想與文化研究所、華東師大哲學系倫理與智慧研究中心聯(lián)合主辦。

現(xiàn)經(jīng)整理，刊發(fā)圓桌對談，以饗聽友與讀者。主講見文末鏈接。

劉梁劍（華東師大哲學系系主任、中國哲學教授）

劉梁劍：我先簡要介紹臺上的各位與談嘉賓。計算機學院的賀樑副院長不僅研究人工智能也與產(chǎn)業(yè)有對接；酈全民教授的關鍵詞是計算，對人工智能的哲學研究啟動早也是強項；潘斌教授的關鍵詞是風險，關注人工智能的倫理風險；付長珍教授關鍵詞是倫理與智慧。付老師正是哲學系倫理與智慧研究中心主任，近年來，付老師借助國家社科重大項目、華師大學報、上海市倫理學會等多平臺，致力于推動科技與倫理的對話。我自己是中國哲學專業(yè)。

這幾年哲學系的發(fā)展遵循守正創(chuàng)新原則，守正是發(fā)揮華東師大哲學系的研究特色；創(chuàng)新是以對話方式推動一些新的研究增長點。包括哲學內(nèi)部不同學科之間的對話；對外與其他學科如教育、藝術、科技的對話；還有跟現(xiàn)實進行對話，現(xiàn)實中有很多新問題出現(xiàn)。最近在建設應用倫理專業(yè)的碩士點，讓倫理與其他學科之間的對話有制度可保障。今天與科技的對話就是跨界對話的嘗試。

賀樑老師，可否先談談對林工主旨演講的感想？

范式改變：成本升降帶來AI應用的巨變

賀樑：劉老師點名了，而我又是幾位嘉賓中唯一和林總屬于“一伙”的，那就我來說說感想吧。雖然我也被邀做過不少關于chatGPT相關的講座，但林工的演講依然讓我耳目一新，學到很多，不僅系統(tǒng)還深入淺出。

*專業(yè)研究門檻降低，各行業(yè)都可參與低成本AI研發(fā)

兩點印象尤其深刻。第一，范式帶來的變化。范式一詞內(nèi)涵很多，其中之一涉及未來人工智能的研究方法。我們從另一個更通俗的“成本”角度來闡述，chatGPT等大模型出來后，使用計算機和人工智能技術來賦能行業(yè)的成本大幅降低，幾乎可以說被打到地板上去了，這可能砸了一些計算機從業(yè)者的“飯碗”，所以他們要趕緊尋找新的“飯碗”，把大模型端起來，很多行業(yè)也會隨之而變?？梢哉f，成本是攪動世界運轉很重要的因素。一旦某一個地方變成成本洼地，很多事的遠轉邏輯就會不一樣了，讓我們拭目以待。

賀樑（華東師大計算機學院副院長、教授）

第二，林工把我們這個行業(yè)內(nèi)不太被人理解但又關鍵的環(huán)節(jié)——基礎模型、專業(yè)基礎模型和基礎模型的微調(diào)，用比喻方式說得很形象。最基礎的模型就如同一個人在世界上游蕩，即使沒有接受專業(yè)培訓而知道的一些應該要知道的世界知識，如同通識教育階段；第二個階段是專業(yè)階段，是在基礎模型情況下專業(yè)方面的增強，如同讀個研究生、博士生。而最后的微調(diào)階段就是上崗培訓，一旦完成了這幾個環(huán)節(jié)，模型就可以為大家提供專業(yè)服務了。

隨著模型能力的不斷疊加，服務的成本會越來越低。大模型對我們生活將會有各種各樣的影響，甚至令人憂慮。但最核心的是，這一輪技術進步后人工智能的能力真的變得可以被用了。各個行業(yè)都能用起來，我們的生活可能會產(chǎn)生大的變化。

*大模型訓練成本投入：有效市場與有為政府結合

劉梁劍：使用成本降低，但是訓練基礎模型的成本很高。成本由誰來承擔呢？就像國家的基礎設施一樣，是不是應該由國家來做這個投入？第二是大模型時代，學習范式如何變？

林詠華：關于成本問題。智源一直呼吁要開源，一旦不開源或者開源之后不能商用，勢必導致每一個公司都只能自己去做大模型。除高成本外，另外重要的因素是，背后的基礎設施要靠能源推動。大模型訓練需要巨大的算力，背后也是巨大的電力消耗。

所以，第一，產(chǎn)業(yè)期待開源，以智源為開始，希望看到有更多的研發(fā)團隊或公司可以加入開源隊伍。

第二，如果要做出高質量的基礎大模型，除了前期投入，關鍵還在于未來要有持續(xù)迭代。智源對自己的要求，包括希望看到的產(chǎn)業(yè)實踐是，基礎大模型至少三個月或半年有一個新的版本，這樣才可以滿足更多新知識的融入、新技術的融入。這個錢誰來掏？在科研界、產(chǎn)業(yè)界，現(xiàn)在還沒有定論。“有組織的科研”這個詞今年屢屢被提及。

林詠華（北京智源人工智能研究院副院長兼總工程師）

賀樑：我認為，大模型的投入應該是市場行為和政府行為相結合的，目前整個大模型領域還是美國優(yōu)于我國，這也是中美在未來科技競爭中的制高點之爭。這一輪大模型的競爭是因為Open Al、沒有開源，導致大家有一點恐慌。因為沒有開源，未來市場就會被OpenAI的生態(tài)全部搶掉。而這個技術明顯將對行業(yè)產(chǎn)生大影響，因此很多企業(yè)紛紛為了自身的商業(yè)利益“揭竿而起”去參與研發(fā)。

這種情況下，中國還是需要有組織的科研、有組織的市場競爭，我相信政府會做好引導，也會更多支持智源這樣的中立科研機構。

*擁抱大模型積極提升學習和研究，不迷信其萬能性

林詠華：關于學習范式的改變，不同人有不同解讀，我自己的看法，首先確實存在科研方式、人才培養(yǎng)范式的改變。包括我自己的孩子，一些小作文都會去問ChatGPT。所以浪潮和趨勢就在那里。因此，

第一，既然輔助咱們?nèi)祟惖募夹g出現(xiàn)，就擁抱它，用它來提升學習效率。但這個過程中一定要火眼金睛地學會辨別，因為現(xiàn)在的ChatGPT、國內(nèi)大模型，真的還做不到提供完全的事實真實性。所以，大模型可以輔助你，但目前不要都信它。

第二，無論是人工智能內(nèi)容生成，還是未來的大模型遷移，可能改變很多領域的研發(fā)以及產(chǎn)品的形態(tài)，從研究和學習的角度都不妨積極考慮怎么樣利用好這樣的技術，改變一些不同領域的研究方法，甚至把有一些合適的技術交叉進來。這是很值得去思考去實踐的。

工具還是朋友：人工智能與人類智能如何相處？

因為是工作日，不少聽友請了休假不遠50里前來參與

劉梁劍：主要是擁抱科技的態(tài)度。我想問一個“杞人憂天”的問題，人工智能的發(fā)展會不會取代和消滅人類智能？

*人類或許只是文化進化鏈上的一個起點

酈全民：6月16日在巴黎舉行的科技創(chuàng)新展上，馬斯克說，人工智能技術可能是有史以來最具顛覆性的技術。我想了想，覺得可以找到一個角度，把“可能”兩個字去掉。這個角度就是“進化”。

其實，人是兩種進化的主體，首先是生物進化。在遵循生物規(guī)律的同時，人在與環(huán)境作用的過程中，將心智生成的知識或者經(jīng)驗外化，通過口語，后來又發(fā)明文字實現(xiàn)外化，使得人從動物界提升出來。這個飛躍讓人成為文化世界或者更廣義地說信息世界的主體，從發(fā)明文字算起已有幾千年了，因此，人也是文化進化的主體。400多年前，文化世界中出現(xiàn)了近代科學，后來又帶動了技術的大發(fā)展。按照我自己的理解，到了20世紀中葉，發(fā)生了最具顛覆性的變化，標志是電子計算機的問世，從此，人類開始把心智運作的能力外化，而不僅僅是外化結果。近十幾年來，隨著機器學習的發(fā)展，這種外化能力的過程突然提速了，已經(jīng)有了AI科學家、AI工程師。

原來，我們?nèi)祟愂俏幕澜绲奈┮恢黧w，現(xiàn)在出現(xiàn)了人工的智能體，也能生成文化產(chǎn)品，比如文本、圖畫，為文化進化作出貢獻。問題就來了，我們該如何為它們定位？是看作新主體還是只看作工具？假如這些AI科學家、AI作者越來越聰明，甚至有自主的意識，又該怎么看？

人工智能的主要創(chuàng)始人明斯基有一個觀點：認為一旦出現(xiàn)這樣的智能體，那它就是我們?nèi)祟愋碌暮蟠恰爸悄芎⒆印?。其實，如果承認進化論，承認人也是進化而來，很難說人類就是進化鏈上的最后一環(huán)，很可能是智能進化或者文化進化的起點。那么，有朝一日，這類“智能孩子”會不會把人類關起來，就像我們將動物關在動物園里一樣？我說，這種擔憂是人類中心主義的表現(xiàn)。

到底怎么看待這個問題？請教后面兩位同行。

酈全民（華東師大哲學系科技哲學教授）

*如果AI打破“只是人類的工具和延伸”關系時

潘斌：人工智能和人類智能的關系是什么？人類常常持一種極為理想化的設想，即人工智能僅僅只是是人類智能的工具、延展、增強。隨著技術的迭代爆發(fā)式的增長，這種想法可能只是一廂情愿的天真。設想未來出現(xiàn)強AI時代，即機器變得和人類一樣能夠理性地思考和行動，人工智能和人類智能之間的關系可能是平起平坐、各負其責。但在未來時代不排除出現(xiàn)超級人工智能，他們無論在速度、數(shù)量或質量方面，都具備對人類智能全方位降維打擊的能力。

著名未來學家尤瓦爾·赫拉利曾大膽預言，未來世代可能將出現(xiàn)后人類或新人類，傳統(tǒng)意義上的人類作為一個物種可能面臨逐漸滅絕的境地，這也是學界一些專家所預言或憂慮的是否真的會出現(xiàn)“碳基文明被硅基文明所超越、取代甚至消滅”的風險后果。

當代學界對人工智能的倫理風險的審視與吁求，也正是基于這一具有極大不確定性、后果不可控性的風險的憂慮。

*AI也在塑造人類，人類對其依賴性窄化了智慧潛能

付長珍（華東師大哲學系倫理與智慧研究中心主任、倫理學教授）

付長珍：人和類人（AI）共生的時代，應該怎樣理解和定位二者的關系？ChatGPT肯定也只是生成式AI的一個階段。人工智能為人類提供便利，造福人類的同時也在塑造人類，在我看來應該是一個雙向賦智、共生共榮的關系。但令我憂慮的是，人類對技術越來越依賴，人類潛在的智慧不僅沒有更好地激發(fā)出來，反而會變得越來越脆弱，對技術的過分依賴使我們的生活越來越平面化，冗長又乏味。

*大模型訓練時會設有倫理框架，但注入愛與善良依然是挑戰(zhàn)

從倫理學角度看，這些年很多人都意識到——社會越發(fā)展，倫理越重要?？萍家l(fā)展，倫理需先行。國家也多次出臺相關文件，倡導科技倫理要貫穿科技活動全過程，各個環(huán)節(jié)都要有倫理在場。原有的倫理學是一種近距離倫理，主要側重后果評估。人工智能時代的倫理學，應該闡發(fā)一種面向人類未來的新型責任倫理意識。。倫理應該成為科技發(fā)展的方向盤，需要前瞻性地預測可能存在的倫理風險。倫理與技術同向而行，確保科技向善。。

特別想請教一下林總，大模型作為底座進行研發(fā)和預訓練時，對于價值觀、安全性、風險等，是否也有一些具體的考量和舉措？

劉梁劍：我想這里有一種矛盾，一方面用倫理規(guī)范技術，人是目的；另一方面又認為人不可能永遠是目的。

林詠華：這是個很好的問題。從偏理工的腦袋來想，這是必須要考慮的問題。我們至少在幾個環(huán)節(jié)去解決：第一，對大模型的預訓練數(shù)據(jù)做安全過濾，包括去除倫理偏見等。目前未必所有的企業(yè)都這么做，但是智源作為開源基礎大模型的提供者，為了減少后續(xù)使用者的顧慮，我們需要從源頭上規(guī)范化；第二，微調(diào)訓練的數(shù)據(jù)也要做這樣的處理；第三，今天沒展開講的強化學習，它速成跟人類的價值觀對齊。技術上就是這樣的流程化處理。

用偏人文的腦袋，我也經(jīng)常在思考，怎么把人類的真善美、人類的榜樣注入到大模型？俗語“三歲見老”，當一個人是善良、有愛心的，沒有必要告訴他很多的條條框框，實際上哪怕會犯錯，也不會犯大錯。但是今天做大模型機器學習時，不得不給出很多的條條框框。坦白說，做安全對齊、倫理對齊時，維度也很多。所以這是一個開放的問題。是否有機會把善良與愛注入到這個機器呢？如果不能，或許這就是機器和人很重要的區(qū)別。

解放或焦慮：大模型帶來自由還是失業(yè)？

哲學系四位（靠右側）與談人覆蓋了科技哲學、倫理學、馬克思主義哲學和中國哲學

劉梁劍：即便不想有偏見，但是怎么能沒有偏見呢？類似這樣的難題就出來了。這里也涉及到倫理風險。馬克思有一句名言，談到一個最理想的自由社會里，可以早晨打獵，下午去釣魚，晚上談哲學，ChatGPT的出現(xiàn)有沒有可能把我們帶入這個理想的世界？

*依據(jù)慣性，人類未必都會善用自由時間成為自由人

潘斌：這一關于未來社會人的自由狀態(tài)的論述，馬克思曾在《德意志意識形態(tài)》中做出了經(jīng)典描述——在共產(chǎn)社會，人們上午打獵，下午捕魚，傍晚開始畜牧，晚飯之后從事哲學批判。之所以能出現(xiàn)這樣自由狀態(tài)有一個根本性的前提條件，即物質產(chǎn)品的極大豐富。

通用人工智能（GAI）的出現(xiàn)會使人類得到更多的勞動解放，擁有更多的自由時間，但我們也需要審慎地思考，人類真的就此進入自由人的境界嗎？相反，在一個高度數(shù)字化、技術化的時代，借助于通用人工智能以及各類大模型，當我們能從體力和腦力勞動中解放出來后，未必就一定真正地進入自由人的狀態(tài)。依據(jù)個體慣性以及數(shù)字技術的強大控制力，很多人可能還是沉溺于數(shù)字世界的娛樂與游戲之中，刷抖音、看視頻、以及流連忘返于各類APP或網(wǎng)站之上，在一定意義上技術的進步不一定帶來我們所期望的自由人狀態(tài)。

相反，我們更需要去重視與思考的問題是，通用人工智能或大類大模型的出現(xiàn)，會不會導致很多人失業(yè)？有的人工智能專家曾預計大模型的實質性成功與商業(yè)化落地，大約50%的工作崗位會被取消。那么，我們當前特別需要思考的是：諸如ChatGPT等大模型的出現(xiàn)，技術進步與就業(yè)機遇之間如何保持一種適當而有機的協(xié)調(diào)？

潘斌（華東師大哲學系馬克思主義哲學教授）

*世界進入老年社會，人類需要高效的機器人輔助

林詠華：短期可能會使得現(xiàn)有職業(yè)崗位的數(shù)量發(fā)生明顯變化，但未來將促進職業(yè)種類的變化變遷。歷史上有太多類似的技術變化，例如汽車替代馬車，照相機的出現(xiàn)代替了油畫、寫真工作者。人類社會有很多文明的進步、技術的進步，帶來工作崗位性質的改變，這是正?，F(xiàn)象。人類總是很聰明地找到更多其他需要人類去做但未做的更好的事情。我們相信職業(yè)社會有很強的自適應調(diào)整能力。

另外從人口結構的變化來看，的確需要高效率的機器人來輔助。從全人類人口結構來看，目前100個人需要奉養(yǎng)30個老年人，到了2045-2050年，100個人甚至要奉養(yǎng)50—60個老年人，此時我們需要有更高效率的工具來輔助我們更少的人完成更多的事情。

賀樑：我的觀點和林總不完全一致。我先假設，這一輪大模型帶來的技術迭代速度會比現(xiàn)在快很多，會替代一大部分現(xiàn)有的工作。如果給三五天時間讓我們想，多少技術是10年后的人工智能所做不到的？我想這類工作不會很多。所以我認為，馬克思講的自由的生活可能真的會到來，我們可以一周工作四天、三天、兩天或一天，甚至你想得到傳統(tǒng)意義上的工作，都會需要努力去爭取。

酈全民：今天討論的是生產(chǎn)力的躍升。我們知道，生產(chǎn)力有三個要素：勞動者、生產(chǎn)資料和生產(chǎn)對象，其中工具屬于生產(chǎn)資料。以往的技術，基本上是生產(chǎn)工具，人是惟一的勞動者，但AI不一樣，它可以充當勞動者，所以，對生產(chǎn)力的躍升定將是革命性的。

失業(yè)問題上，我提供一個有趣的例子。上個世紀50年代初，人們認為自動化出現(xiàn)會讓很多人失業(yè)，有很多職業(yè)會消失。結果到了2016年再統(tǒng)計，發(fā)現(xiàn)與自動化直接相關的消失職業(yè)只有一個，就是開電梯的電梯工。

酈全民（持話題發(fā)言者）以“同類好”打招呼，引發(fā)聽眾特別聆聽

*勞動是階段性需求，“激發(fā)人的潛能成為人”是目標

劉梁劍：酈老師所說呼應了林工的想法，只是工種的變化。請教付老師，為什么失業(yè)是人類進化的一個標志？

付長珍：當我們被解放出來獲得更多自由時間的時候，我覺得問題不是擔心我們失業(yè)了，而是該思考如何來安排我們的閑暇？能否讓我們的閑暇沒有變成無聊？。

人工智能技術的涌現(xiàn)正是出于人的需要，為了人更好的存在。勞動只是生產(chǎn)力不夠發(fā)達時的需要，因此應該擴展勞動的定義更有價值的勞動，在于激發(fā)出人的更大潛能，提升人的內(nèi)在本質，塑造高尚人格和美好生活使人更好地成為人。

酈全民：最近，在英國一些地方正在進行UBI（全民基本收入，Universal basic income）實驗：從社區(qū)里隨機抽取實驗者，每月可獲1600英鎊，隨你上班或不上班，不需要承擔任何義務，以此來觀察這些人會有怎樣的變化。我個人覺得這是人類發(fā)展的一個方向，我們會進入一個體驗的時代。

通用人工智能：何時會出現(xiàn)，會擁有自主意識嗎？

劉梁劍：形而上的討論總能腦洞大開，走得較遠，這是哲學的特性。那么從技術的角度看，通用人工智能是否有可能出現(xiàn)？更進一步，超強人工智能是否有可能出現(xiàn)？這里的關鍵是出現(xiàn)自主意識。

華東師大中國現(xiàn)代思想和文化研究所所長楊國榮教授開場致辭

*“涌現(xiàn)”能力出現(xiàn)，或帶來了GAI出現(xiàn)的加速度

賀樑：這個問題挺難回答的。如果不是大模型出現(xiàn)，我還是持較懷疑態(tài)度。但現(xiàn)在來看，雖然大模型當下依然處在初級階段，大部分能力還是由數(shù)據(jù)喂出來的，但“涌現(xiàn)”能力的出現(xiàn)讓人感到非常吃驚。

什么叫“涌現(xiàn)”？打個比方，中國人常說“熟讀唐詩三百首，不會做詩也會吟”。但是讀到250首或280首時突然就會寫詩了。這種“涌現(xiàn)”能力是一個復雜系統(tǒng)從量變到質變的過程。原先，我認為，量變到質變只是在物理世界里存在，在數(shù)字世界什么都是可以掌控的。

這次大模型爆發(fā)出的“涌現(xiàn)”能力，改變了我的想法，它給了我們指出了新的一條人工智能進階的道路—也就是復雜到一定程度，它會自然產(chǎn)生質變。而且當下人工智能迭代速度一定快于想象。人工智能的通用能力會越來越強，我們現(xiàn)在一直在談論厲害的ChatGPT，但未來五年十年回頭看，現(xiàn)在的ChatGPT一定是個那時候認為的“挺智障”的人工智能。

*“數(shù)字域的囚徒”：聰明腦袋等待手腳進化來匹配

林詠華：現(xiàn)在ChatGPT還是一個困在數(shù)字域的囚徒。咱們希望的AI并不只是在數(shù)字域寫寫文檔，本來以為最早被替代的是藍領，實際最早被替代的是白領。AI+X，X的那些學科的發(fā)展并沒有像人工智能那么快，這也導致機器人有一個很聰明敏捷的腦袋，但是手腳四肢的準確性、靈活性還沒有匹配上。比如，在分揀上的速度，機械臂滿足不了10毫秒以內(nèi)的靈活柔性抓取，而人可以在一堆雜亂無章的東西里面找到有瑕疵的東西。所以使得大家期望的老有所依、為我們做風吹日曬下的事情還比較遠。

主持人李念（左）與嘉賓賀樑、酈全民、林詠華、付長珍、潘斌、劉梁劍合影

*三個層次看自主意識，自主去想人類未想最關鍵

賀樑：關于自主意識，首先是如何界定自主意識，我還是寧愿相信AGI不會有自主意識。如果真有，站在人類角度，我認為還是盡快把它關到籠子里棄用，因為這對人類就是毀滅性的打擊，人類只是歷史長河中一個階段的想法可能是真的，但我希望到來得越晚越好。

林詠華：是否會有自主意識？大家此前一直在討論，這次大模型引領的AI是不是到了一個“奇點”？我個人分成三層來看：第一也是最低的，AI可以自主去應對人類的需求，調(diào)用有限掌握的幾個工具完成人類的任務；第二它是否有能力自主地去學習還沒有學過的東西；第三它是否能夠自主地去創(chuàng)新，去突破一些我們沒有讓它突破的難題。比如說怎么讓飛機凈重減少一半，或者會自主地去看到海洋里因為污染而瀕臨滅絕的生物并去設想拯救方案。

現(xiàn)在看到，目前可以初步達到第一個層次，未來10年可以達到第二個層次，而第三個層次將會是很難達到的目標。

整理：李念

文末鏈接

林詠華：AI邁入大模型時代，新十年如何潮漲不落？|163-1講堂1

作者：賀樑、酈全民、付長珍、潘斌、林詠華、劉梁劍

照片：周文強拍攝 胡楊制作

編輯：李念

責任編輯：李念

*文匯獨家稿件，轉載請注明出處。

標簽：