曾毅：人工智能仍然是人類(lèi)的一面鏡子

12月21日，以“聚力·奮發(fā)2024”為主題的環(huán)球人物年度盛典在北京舉行。

本次活動(dòng)邀請(qǐng)到毛澤東同志衛(wèi)士長(zhǎng)李銀橋之子李卓韋，聯(lián)合國(guó)前副秘書(shū)長(zhǎng)埃里克·索爾海姆，中國(guó)科學(xué)院自動(dòng)化研究所研究員、聯(lián)合國(guó)人工智能高層顧問(wèn)機(jī)構(gòu)專(zhuān)家曾毅，中國(guó)科學(xué)院計(jì)算技術(shù)研究所研究員、龍芯首席科學(xué)家胡偉武，復(fù)旦大學(xué)教授梁永安，百年昆曲世家傳人周好璐，中國(guó)科學(xué)院院士陸汝鈐，以主題演講的方式，分享自己在這一年中的感悟與思考，凝聚共識(shí)，奮力前行。

以下為曾毅的演講內(nèi)容：

·2023年12月21日，環(huán)球人物年度盛典現(xiàn)場(chǎng)。

今天我非常高興有機(jī)會(huì)來(lái)到環(huán)球人物年度盛典，跟大家分享人工智能的發(fā)展。

我在參與聯(lián)合國(guó)教科文組織的人工智能全球倫理建議書(shū)、討論人工智能應(yīng)當(dāng)如何發(fā)展的時(shí)候，專(zhuān)家組當(dāng)中的同事們總會(huì)說(shuō)，曾老師雖然你來(lái)自中國(guó)，和我們?nèi)绱瞬煌?，但還是非常希望跟你合作。我總會(huì)打斷他們說(shuō)，我非常想知道，為什么你們認(rèn)為我和你們?nèi)绱瞬煌?/p>

全世界的文化多種多樣，但是世界應(yīng)當(dāng)包容性地發(fā)展。人工智能的技術(shù)不僅能夠推動(dòng)經(jīng)濟(jì)發(fā)展，還應(yīng)當(dāng)幫助我們連接世界。它不僅僅應(yīng)當(dāng)用來(lái)促進(jìn)文化傳承，更關(guān)鍵是，還應(yīng)該用來(lái)促進(jìn)文化的交互。

我想這是人工智能可以帶給我們的力量。人工智能還能帶給我們什么？它還能讓我們進(jìn)行反思。我們經(jīng)常說(shuō)人工智能的發(fā)展應(yīng)該以人類(lèi)為中心，應(yīng)該以人類(lèi)為本。

這個(gè)世界上生命是多種多樣的，我們用人工智能技術(shù)實(shí)現(xiàn)了共生圖。這個(gè)共生圖當(dāng)中描述了人類(lèi)以及所有動(dòng)物、植物之間的關(guān)系，它背后是互聯(lián)網(wǎng)積累的海量數(shù)據(jù)，告訴我們，人類(lèi)跟生態(tài)完完全全是關(guān)聯(lián)在一起的。所有生物、所有動(dòng)物、所有植物，和人類(lèi)是一個(gè)整體。

所以地球應(yīng)當(dāng)只是以人類(lèi)為中心嗎？這給我們很多反思。當(dāng)我用一個(gè)生成式人工智能，希望它告訴我們?nèi)祟?lèi)和螞蟻之間的關(guān)系是什么，人工智能系統(tǒng)居然告訴我，世界上有50種不同的吃螞蟻的方式。只有一句話寫(xiě)著，一位科學(xué)家曾經(jīng)說(shuō)過(guò)，螞蟻社會(huì)的范式是人類(lèi)社會(huì)合作范式的（效法）典范。

·2023年12月21日，曾毅在環(huán)球人物年度盛典現(xiàn)場(chǎng)演講。

生成式人工智能的發(fā)展，使得我們?cè)谟脩?hù)體驗(yàn)層面，在工程技術(shù)組合創(chuàng)新層面，都在2023年的時(shí)候達(dá)到前所未有的高度。但是作為人工智能科技工作者，我也要告訴大家，人工智能的科技突破、科學(xué)突破還遠(yuǎn)遠(yuǎn)沒(méi)有到來(lái)。

人工智能今天的發(fā)展雖然給予我們很多機(jī)會(huì)，讓我們反思自己，讓我們認(rèn)識(shí)這個(gè)世界，但是它帶來(lái)的風(fēng)險(xiǎn)也是巨大的。

大家看到生成式人工智能發(fā)展使得社會(huì)信任受到了極大的影響。你看到互聯(lián)網(wǎng)上的信息，不管是文本還是視頻，會(huì)相信這是真的嗎？是人工智能生成的？還是真實(shí)發(fā)生的？我們的社會(huì)信任在技術(shù)發(fā)展當(dāng)中居然受到了如此之大的挑戰(zhàn)。這是技術(shù)發(fā)展的雙刃劍。

當(dāng)你利用人工智能系統(tǒng)問(wèn)問(wèn)題的時(shí)候，它說(shuō)“我認(rèn)為、我以為、我覺(jué)得、我建議”。作為一個(gè)人工智能的研究者，我想問(wèn)人工智能，你哪里來(lái)的“我”？

人工智能是信息處理工具。它把顯著性的互聯(lián)網(wǎng)曾經(jīng)出現(xiàn)過(guò)的答案呈現(xiàn)給我們。但是它既不是責(zé)任的主體，也不是道德的主體，所以不要混淆人與人工智能之間的界限。

現(xiàn)在的人工智能只是一個(gè)工具，我們不應(yīng)當(dāng)把人類(lèi)責(zé)任推給人工智能，更不應(yīng)該不負(fù)責(zé)任地在人工智能服務(wù)當(dāng)中放棄人類(lèi)的權(quán)力和人類(lèi)的責(zé)任。

我想，未來(lái)人工智能的發(fā)展并不一定只停留在看似智能的信息處理工具階段。比如說(shuō)，在日本人工智能原則當(dāng)中就提到，未來(lái)人工智能可能會(huì)成為社會(huì)的準(zhǔn)成員，可能會(huì)成為人類(lèi)的伙伴。

未來(lái)的人工智能在人類(lèi)社會(huì)當(dāng)中，在生態(tài)當(dāng)中將扮演什么樣的角色？是工具？還是社會(huì)的準(zhǔn)成員？還是像很多科幻作品中描述的人類(lèi)敵人？我想這都是有可能的。

·2023年12月21日，曾毅在環(huán)球人物年度盛典現(xiàn)場(chǎng)演講。

但如果我們把它當(dāng)做工具發(fā)展，就要把它做得更安全?，F(xiàn)在全世界有很多科學(xué)家號(hào)召人工智能發(fā)展能不能稍微慢一點(diǎn)，能不能停下來(lái)先解決安全的問(wèn)題。我想，技術(shù)發(fā)展可能會(huì)往前走，但是如果希望技術(shù)進(jìn)步能夠往前一步，那就要把安全的護(hù)欄提前做好。

因?yàn)槿斯ぶ悄苁琴x能技術(shù)發(fā)展、賦能全球可持續(xù)發(fā)展的基礎(chǔ)設(shè)施。我們不應(yīng)當(dāng)以不穩(wěn)健、風(fēng)險(xiǎn)大的基礎(chǔ)設(shè)施服務(wù)于人類(lèi)。所以我們發(fā)展人工智能不僅僅要保證它的安全可靠，更要保證它合乎倫理。

·2023年12月21日，曾毅在環(huán)球人物年度盛典現(xiàn)場(chǎng)演講。

人類(lèi)道德是這樣獲得的：當(dāng)我們有了自我感知，就能夠區(qū)分自我和他人，能夠換位思考，能夠進(jìn)行認(rèn)知的共情，能夠進(jìn)行情感的共情，最后能夠進(jìn)行道德利他，產(chǎn)生道德的直覺(jué)，最終產(chǎn)生道德的決策。這是人類(lèi)道德的產(chǎn)生。

人類(lèi)合乎倫理之路。我想未來(lái)的人工智能可能難以用這樣的方式，真的獲得理解，真正變成人類(lèi)活動(dòng)，以具有道德的人工智能來(lái)替代現(xiàn)在所謂的合乎倫理的人工智能。

當(dāng)你現(xiàn)在告訴人工智能應(yīng)該做什么、不應(yīng)該做什么的時(shí)候，同時(shí)也有可能有別人告訴它：他說(shuō)的是不對(duì)的，你應(yīng)該按照我的方式做。除非它產(chǎn)生真正的理解，真正像孩子、伙伴和全人類(lèi)一樣獲得真正對(duì)于道德的直覺(jué)，在道德直覺(jué)基礎(chǔ)上進(jìn)行道德決策，那可能才是我們希望的人工智能。

·2023年12月21日，曾毅在環(huán)球人物年度盛典現(xiàn)場(chǎng)演講。

也許人類(lèi)的演化速度并沒(méi)有那么快，但是人工智能的演化隨著超級(jí)計(jì)算平臺(tái)的誕生，速度可能非常快。

如果說(shuō)，對(duì)于未來(lái)的人工智能我們有一個(gè)期望的話，我希望人工智能未來(lái)能夠能夠從中國(guó)文化中學(xué)到君子和而不同，也能從其他國(guó)家文化中獲得文化底蘊(yùn)。

我認(rèn)為人工智能是一面鏡子，不管它未來(lái)停留在工具階段還是變成社會(huì)準(zhǔn)成員或者伙伴，都在不斷幫助人類(lèi)思考人類(lèi)來(lái)自于哪里，人類(lèi)應(yīng)該在哪里。

人類(lèi)永遠(yuǎn)不會(huì)被人工智能替代，因?yàn)槲覀円簧哪繕?biāo)是追尋自我的內(nèi)心。這也就是人工智能能夠幫助人類(lèi)做的事情，讓我們追求善，以善為源。

人與人工智能未來(lái)必然是和諧共生的，如果人工智能未來(lái)真正能夠達(dá)到超級(jí)智能階段，那么它也應(yīng)該是超級(jí)利他的。符合自然演化規(guī)律的人工智能應(yīng)當(dāng)關(guān)愛(ài)整個(gè)社會(huì)、生態(tài)。

·2023年12月21日，曾毅在環(huán)球人物年度盛典現(xiàn)場(chǎng)演講。

這促使人類(lèi)需要反思人與生態(tài)之間的關(guān)系。超級(jí)智能也許需要50年、100年甚至更長(zhǎng)時(shí)間才能到來(lái)。但是我們需要解決人類(lèi)與人工智能、生態(tài)之間和諧共生的問(wèn)題，我們要給超級(jí)智能一個(gè)理由讓它關(guān)愛(ài)人類(lèi)。也許人類(lèi)社會(huì)倫理道德原則應(yīng)該在這樣的反思當(dāng)中進(jìn)行重塑。

人工智能目前仍然是人類(lèi)的一面鏡子，會(huì)給人類(lèi)的未來(lái)帶來(lái)更多啟示。我想我們對(duì)人工智能的發(fā)展應(yīng)當(dāng)抱有開(kāi)放的心態(tài)。

現(xiàn)在，人工智能作為一個(gè)信息處理工具，最負(fù)責(zé)任的使用它的方式應(yīng)該是，不必使人工智能無(wú)所不在，應(yīng)該使人工智能適度使用，負(fù)責(zé)任、穩(wěn)健的發(fā)展才會(huì)使人工智能揚(yáng)帆遠(yuǎn)航。

謝謝大家！

監(jiān)    制： 張建魁

主    編： 許陳靜

編    審： 凌    云

（文章未經(jīng)授權(quán)不得轉(zhuǎn)載，轉(zhuǎn)載請(qǐng)加微信“HQRW2H”了解細(xì)則。歡迎大家投稿和提供新聞線索，可發(fā)至郵箱tougao@hqrw.com.cn。）