未來十年，人工智能是否會對人類文明造成奇點(diǎn)式影響

7月7日，“2023 IJCAI-WAIC大模型與技術(shù)奇點(diǎn)：人文與科學(xué)面對面論壇”在上海張江科學(xué)會堂科創(chuàng)廳舉辦。在本次論壇上，5位頂級國際人工智能專家和5位國內(nèi)外知名人文學(xué)科領(lǐng)軍人物展開了精彩的思想碰撞，討論面對人工智能的超越發(fā)展，我們應(yīng)該如何應(yīng)對，以期共同構(gòu)建一個可信的、有邊界、有隱私、有道德、有秩序的人機(jī)共生的未來。

論壇現(xiàn)場 第一部分

生成式人工智能給我們帶來了哪些機(jī)遇與挑戰(zhàn)

在論壇的第一部分，對于時下發(fā)展迅猛的生成式人工智能，與會嘉賓認(rèn)為，它對各學(xué)科都有正面影響。上海智能教育研究院院長袁振國指出，它會使得人類知識增長方式發(fā)生重大變化，而這對于教育、學(xué)習(xí)又會產(chǎn)生 3 點(diǎn)顛覆性變革影響：第一，從獲得答案到提出問題轉(zhuǎn)變。第二，從獲得知識到辨別知識的轉(zhuǎn)變。第三，將人和人的關(guān)系轉(zhuǎn)變成人和機(jī)器的關(guān)系。

華東師范大學(xué)紫江特聘教授許紀(jì)霖則認(rèn)為，ChatGPT的出現(xiàn)會使“人人都將是陳寅恪”。他說：“陳寅恪作為 20 世紀(jì)中國最有影響的史學(xué)大師，其本人懂得十幾國語言，被認(rèn)為是了不起的存在。而今天，我們問 ChatGPT 一個問題，可能會得到比陳寅恪的回答更加完備的答案。這意味著，人工智能將顛覆學(xué)科中的教學(xué)模式。同時，ChatGPT 的出現(xiàn)，會使得好老師、好學(xué)生的評價標(biāo)準(zhǔn)出現(xiàn)變化。好老師意味著教學(xué)水準(zhǔn)要超過 ChatGPT，而好學(xué)生要從被動接受知識轉(zhuǎn)變成提出能夠主動提出好問題，所以，ChatGPT也有機(jī)會讓學(xué)生成為創(chuàng)新型人才?！?/p>

上海社會科學(xué)院哲學(xué)研究所副所長成素梅提出，ChatGPT的出現(xiàn)不僅激發(fā)了許多傳統(tǒng)哲學(xué)問題的討論，而且?guī)砹诵碌恼軐W(xué)問題，使哲學(xué)從科技發(fā)展的邊緣走向中心。當(dāng)下，ChatGPT 的興起，對應(yīng)于路德維?！ぞS根斯坦的哲學(xué)思想，突出了人工智能與人之間的相互學(xué)習(xí)，體現(xiàn)了社會性。當(dāng)人與機(jī)互動從文字交流發(fā)展到用自然語言互動時，人工智能的應(yīng)用場景將會更大。從哲學(xué)角度來看，這促使我們需要重新審思現(xiàn)有的哲學(xué)框架、概念體系如何隨著技術(shù)發(fā)展的變化而變化等問題。

同時，生成式人工智能也對各學(xué)科提出了新的挑戰(zhàn)。對此袁振國認(rèn)為，首先，互聯(lián)網(wǎng)及人工智能對循序漸進(jìn)的學(xué)習(xí)方式產(chǎn)生了挑戰(zhàn)。傳統(tǒng)學(xué)校課程設(shè)置、教學(xué)編寫、教師要求都是按照循序漸進(jìn)的方式進(jìn)行的。但是現(xiàn)在的知識呈現(xiàn)方式完全不受該限制，沒有上過學(xué)的小孩子可以自主學(xué)習(xí)量子力學(xué)、黑洞理論等知識。其次，是知識的系統(tǒng)性。在傳統(tǒng)的大學(xué)教育中，課程設(shè)置層次清晰，可分為基礎(chǔ)課程、專業(yè)課程和應(yīng)用課程等。然而，隨著搜索引擎的普及，我們可以根據(jù)需要隨時搜索所需的信息，也可以隨時提出問題尋求答案，而不再依賴于一個系統(tǒng)化的知識體系。長期以來，我們的教育體系建立在循序漸進(jìn)和系統(tǒng)性的基礎(chǔ)上。倘若這兩個基礎(chǔ)瓦解了，我們需要思考如何構(gòu)建一個適應(yīng)新背景、與網(wǎng)絡(luò)、人工智能和大規(guī)模模型相適應(yīng)的教育新形態(tài)。

許紀(jì)霖則提及世界人工智能大會開幕式上黃仁勛的說法，即下一波人工智能的浪潮是具身性，即機(jī)器人有了身體，擬人化的機(jī)器人。他說未來5-10年，人工智能要解決的問題是數(shù)字生物?，F(xiàn)在的人工智能在某種意義上是沒有肉身的，它只有知識，甚至有智慧，但是它的情感功能開關(guān)是關(guān)閉的?！拔覀冏鳛樽匀蝗耍覀儜?yīng)不應(yīng)該讓這個人工智能擁有自我意識這個問題是一個哲學(xué)上的問題。”許紀(jì)霖說。

許紀(jì)霖指出，許多探討了人機(jī)關(guān)系的科幻片今天都成為了現(xiàn)實。當(dāng)機(jī)器人獲得自我意識之后，可能會出現(xiàn)一些不同的情景。一種可能是自然人和機(jī)器人和諧相處，但也有可能出現(xiàn)另一種情況，即機(jī)器人成為一個新的獨(dú)立物種，與自然人發(fā)生物種之間的沖突。如果我們沒有控制能力或控制意識，我們將面臨一場物種之間的戰(zhàn)爭。今天我們作為碳基生物對硅基生物的了解有限。一旦人工智能超過某個臨界點(diǎn)，超越了我們的控制，它可能會發(fā)展出一套獨(dú)特的邏輯和理性，以及選擇和情感功能。就像原子彈和核技術(shù)的發(fā)明一樣，如果沒有某種監(jiān)管和控制，它可能會帶來毀滅性后果。

許紀(jì)霖說：“從哲學(xué)角度來說，我們必須有一個預(yù)設(shè)，可以是以人類為中心對人工智能進(jìn)行限制，也可以是一些后人類主義的預(yù)設(shè)，即試圖與人工智能平等共處。但是個人而言，我更傾向于在面對未知時保持審慎。我們需要敬畏自然人，畢竟碳基生物經(jīng)歷了上萬年的自然進(jìn)化，擁有自我保護(hù)機(jī)制。然而，我們?nèi)祟愄斆髁?，如同上帝般?chuàng)造了新的人類，等到我們意識到AI不可控時，可能為時已晚。因此，我贊同我們需要成立一個國際組織，對 AI 行業(yè)制定全球規(guī)則來確保人工智能的發(fā)展對于人類是有益的，不會帶來無法預(yù)測的風(fēng)險。”

那么碳基生命和硅基生命能否和諧相處？對此，成素梅認(rèn)為，硅基生命是介于人與工具之間的新生事物，是人類的物質(zhì)助理。硅基生命對人類的威脅不在于其發(fā)展成為擁有超強(qiáng)能力的生命體，而是在于這種發(fā)展將會把人類追求的自動化從生產(chǎn)領(lǐng)域拓展到知識、思想乃至決策領(lǐng)域，并且，加速人的身體技術(shù)化和精神技術(shù)化進(jìn)程，使關(guān)于“人是什么”問題從古老的哲學(xué)命題變成當(dāng)今的實踐命題。從這個意義上看，不是硅基生命的失控會摧毀人類，而是人類在新一輪文明轉(zhuǎn)型過程中，可能會由于“人性”的狂妄而導(dǎo)致自毀。因此，我們需要在文明轉(zhuǎn)型的出發(fā)點(diǎn)開啟新征程，致力關(guān)注如何提升人的生命意義和精神境界的問題，拉成“人，成之為人”的第二個過程。第一個過程是人從自然界中分離出來，第二個過程是對人性的真正理解和自覺守護(hù)。

香港科技大學(xué)教授楊強(qiáng)表示，人類在近幾年的科學(xué)研究中遇到了多次技術(shù)變革，這不僅僅是挑戰(zhàn)，更是機(jī)會。他說：“每一次科學(xué)技術(shù)變革會帶來一些新的機(jī)會，我們應(yīng)該關(guān)注這些新機(jī)會，真正革命性的變化可能也在孕育。我們承認(rèn)我們的大腦只有那么大，我們的神經(jīng)元只有那么多，但是有一天神經(jīng)網(wǎng)絡(luò)的神經(jīng)元可能會超過我們，它可能會在解決某些具體科學(xué)問題的時候比我們要強(qiáng)得多，那個時候科學(xué)研究者就要改變他們的工作方式。也許10-20年以后，有些自然科學(xué)和社會科學(xué)系里的人類會變得非常少，更多的是人工智能在協(xié)助做研究。”

論壇現(xiàn)場 第二部分

AI的發(fā)展是否會對人類文明造成奇點(diǎn)式影響

在論壇的第二部分，與會嘉賓針對未來十年人類和AI的關(guān)系進(jìn)行了預(yù)測和展望。上海紐約大學(xué)校長、華東師范大學(xué)哲學(xué)系教授童世駿認(rèn)為，AI最后會和人類有什么樣的關(guān)系，取決于人類自己想要干什么；人類在認(rèn)識世界的過程中也認(rèn)識了自己，在改造世界的過程中也改造了自己。人工智能可以做到很多對我們有益的事情，但是也可能會做出對我們有害的事情；而有害的事情，哪怕只有很小的發(fā)生概率，也是需要我們特別重視的。就此而言，把中國憂患意識的傳統(tǒng)和古希臘好奇意識的傳統(tǒng)結(jié)合起來，對處理好人工智能和人類的關(guān)系，極為重要。

而華東師范大學(xué)政治與國際關(guān)系學(xué)院院長吳冠軍則補(bǔ)充道，目前已經(jīng)有一門學(xué)問叫做技術(shù)政治學(xué)，研究技術(shù)對人類共同體組織形式所產(chǎn)生的實質(zhì)性影響，很多時候我們對這些影響視而不見。技術(shù)在智能上可能超過人類，但我們?nèi)匀豢梢园l(fā)展政治智慧，用這份智慧把我們組織起來，一起應(yīng)對GPT時代的文明性挑戰(zhàn)。

澳大利亞新南威爾士大學(xué)教授托比·沃爾什（Toby Walsh）則提出了他的兩個嚴(yán)重的擔(dān)憂。他認(rèn)為這將是人類歷史上最大、最嚴(yán)重的擔(dān)憂，所有的人類文明、文化知識、科學(xué)知識，在幾個月內(nèi)就被 AI 收集捕獲，且沒有給予人類智慧任何尊重，沒有給予創(chuàng)造這些智慧財產(chǎn)的人類任何價值回報。他說：“我們曾對社交媒體獲取用戶個人數(shù)據(jù)感到擔(dān)憂，但從沒意識到這其實意味著我們要放棄全部人類知識總和，以及少數(shù)幾家公司從中獲利，從而使得整個社會變得貧窮。這是我的第一個擔(dān)憂?！?/p>

第二個擔(dān)憂更為緊迫更為重大，他擔(dān)心人類無法從社交媒體中學(xué)到任何東西。社交媒體能連接用戶，同時也會加劇人類之間的分裂，例如政治觀點(diǎn)極端化，在許多方面，它被用來制造傷害、煽動暴力、讓幫助者難堪，這些都是通過在社交媒體上發(fā)表的帖子引起的。大量數(shù)據(jù)顯示，使用社交媒體不但不能提升幸福感，反而會加劇焦慮。而且這些傷害往往是意料之外的。

沃爾什說：“隨著類似生成式AI的出現(xiàn)，我擔(dān)心我們正在經(jīng)歷同樣的事情，但是幾年后會發(fā)生什么？帶來哪些危害? 社交媒體上的‘惡’都源自人類行為，所有假消息、所有極端觀點(diǎn)都會被這些工具利用起來，我們現(xiàn)在可以通過生成式AI對其進(jìn)行擴(kuò)展和個性化，并且已經(jīng)開始出現(xiàn)一些負(fù)面的應(yīng)用案例了。我們可能會陷入一個無法分辨真假的世界，每一張圖片、每一個視頻、每一個音頻都有可能被篡改。而且當(dāng)我們談?wù)撊魏蚊襟w時，我們需要留意所有被告知的事情，可能只是某種合成元素的產(chǎn)物。所以我認(rèn)為，在開始擔(dān)心生存風(fēng)險和接下來要面對的事情之前，我們現(xiàn)在面臨著非常緊迫的挑戰(zhàn)?！?/p>

當(dāng)智能從大型語言模型中涌現(xiàn)出來，人類應(yīng)該如何重新思考智能？對于這個問題，童世駿表示：“AI是一個工具，至少是我希望AI永遠(yuǎn)只是為人服務(wù)的工具。人類具有意識，它有兩個最基本的條件，一是要有主體間的互動，二是要有第一人稱視角，或者說，日常生活世界中的第一人稱經(jīng)驗。但這兩者AI都沒有?？梢栽O(shè)想機(jī)器人借助于自然語言不僅能學(xué)習(xí)現(xiàn)有知識，而且能在與用戶和其他機(jī)器人的互動中生成新知識，但這種互動并不是人類社會的正常互動。缺乏這種正常的人際互動，機(jī)器人即使具有意識，也會像人類當(dāng)中因為無法參與正常的人際互動而出現(xiàn)的自閉癥患者那樣，只能具有殘缺意義上的意識。我不希望未來有一群機(jī)器人版本的自閉癥患者來取代人類，所以我不贊成讓AI變成一個人類平等對待的物種。”

沃爾什認(rèn)為，今天的機(jī)器并不具有意識，但這并不意味著機(jī)器不了解任何物理定律。我們對于意識的了解還非常少，甚至都無法清楚地定義它。但是，這并不能排除未來機(jī)器擁有意識的可能。如果幸運(yùn)的話，機(jī)器永遠(yuǎn)都不會產(chǎn)生意識，因為一旦機(jī)器變得有意識，就需要賦予其權(quán)利。相反，如果像現(xiàn)在這樣，機(jī)器沒有自我感知能力, 那么人類可以繼續(xù)把它當(dāng)作仆人對待，并讓其執(zhí)行已經(jīng)設(shè)定好的任務(wù)。未來充滿趣味和挑戰(zhàn)，在探索和建立新技術(shù)過程中, 或許人類可以更深入地理解關(guān)于人類存在的基礎(chǔ)，即使機(jī)器可能永遠(yuǎn)無法真正活過來。

吳冠軍認(rèn)為，隨著大語言模型的興起，人工智能已接近擁有通用智能。而人工智能是否會有意識，這仍然無法預(yù)知。就目前的技術(shù)發(fā)展路徑來看，意識很難產(chǎn)生，但僅僅不久前我們曾經(jīng)也認(rèn)為通用智能短時間內(nèi)不會出現(xiàn)。隨著規(guī)模而產(chǎn)生的“涌現(xiàn)”，已然是人工智能研究中的一個必須關(guān)注的現(xiàn)象。因此，吳冠軍指出，在當(dāng)下我們需要看到：作為一個技術(shù)存在，人類正在使用人工智能，但后者也正在極大地改變著人類做事方式及對彼此的理解。如何應(yīng)對這種改變已成為全社會的挑戰(zhàn)，而我們需盡快思考如何具體去應(yīng)對。

本次論壇由世界人工智能大會（WAIC）組委會指導(dǎo)，國際人工智能聯(lián)合會（IJCAI）中國辦公室、華東師范大學(xué)聯(lián)合主辦，華東師范大學(xué)政治與國際關(guān)系學(xué)院承辦，華東師范大學(xué)奇點(diǎn)政治研究院、安遠(yuǎn)AI、HyperAI超神經(jīng)數(shù)據(jù)科學(xué)社區(qū)、德匯科技創(chuàng)新中心協(xié)辦。

論壇現(xiàn)場