12月21日,以“聚力·奮發(fā)2024”為主題的環(huán)球人物年度盛典在北京舉行。
本次活動邀請到毛澤東同志衛(wèi)士長李銀橋之子李卓韋,聯合國前副秘書長埃里克·索爾海姆,中國科學院自動化研究所研究員、聯合國人工智能高層顧問機構專家曾毅,中國科學院計算技術研究所研究員、龍芯首席科學家胡偉武,復旦大學教授梁永安,百年昆曲世家傳人周好璐,中國科學院院士陸汝鈐,以主題演講的方式,分享自己在這一年中的感悟與思考,凝聚共識,奮力前行。
以下為曾毅的演講內容:
·2023年12月21日,曾毅在環(huán)球人物年度盛典現場演講。
今天我非常高興有機會來到環(huán)球人物年度盛典,跟大家分享人工智能的發(fā)展。
我在參與聯合國教科文組織的人工智能全球倫理建議書、討論人工智能應當如何發(fā)展的時候,專家組當中的同事們總會說,曾老師雖然你來自中國,和我們如此不同,但還是非常希望跟你合作。我總會打斷他們說,我非常想知道,為什么你們認為我和你們如此不同?
全世界的文化多種多樣,但是世界應當包容性地發(fā)展。人工智能的技術不僅能夠推動經濟發(fā)展,還應當幫助我們連接世界。它不僅僅應當用來促進文化傳承,更關鍵是,還應該用來促進文化的交互。
我想這是人工智能可以帶給我們的力量。人工智能還能帶給我們什么?它還能讓我們進行反思。我們經常說人工智能的發(fā)展應該以人類為中心,應該以人類為本。
這個世界上生命是多種多樣的,我們用人工智能技術實現了共生圖。這個共生圖當中描述了人類以及所有動物、植物之間的關系,它背后是互聯網積累的海量數據,告訴我們,人類跟生態(tài)完完全全是關聯在一起的。所有生物、所有動物、所有植物,和人類是一個整體。
所以地球應當只是以人類為中心嗎?這給我們很多反思。當我用一個生成式人工智能,希望它告訴我們人類和螞蟻之間的關系是什么,人工智能系統(tǒng)居然告訴我,世界上有50種不同的吃螞蟻的方式。只有一句話寫著,一位科學家曾經說過,螞蟻社會的范式是人類社會合作范式的(效法)典范。
生成式人工智能的發(fā)展,使得我們在用戶體驗層面,在工程技術組合創(chuàng)新層面,都在2023年的時候達到前所未有的高度。但是作為人工智能科技工作者,我也要告訴大家,人工智能的科技突破、科學突破還遠遠沒有到來。
人工智能今天的發(fā)展雖然給予我們很多機會,讓我們反思自己,讓我們認識這個世界,但是它帶來的風險也是巨大的。
大家看到生成式人工智能發(fā)展使得社會信任受到了極大的影響。你看到互聯網上的信息,不管是文本還是視頻,會相信這是真的嗎?是人工智能生成的?還是真實發(fā)生的?我們的社會信任在技術發(fā)展當中居然受到了如此之大的挑戰(zhàn)。這是技術發(fā)展的雙刃劍。
當你利用人工智能系統(tǒng)問問題的時候,它說“我認為、我以為、我覺得、我建議”。作為一個人工智能的研究者,我想問人工智能,你哪里來的“我”?
人工智能是信息處理工具。它把顯著性的互聯網曾經出現過的答案呈現給我們。但是它既不是責任的主體,也不是道德的主體,所以不要混淆人與人工智能之間的界限。
現在的人工智能只是一個工具,我們不應當把人類責任推給人工智能,更不應該不負責任地在人工智能服務當中放棄人類的權力和人類的責任。
我想,未來人工智能的發(fā)展并不一定只停留在看似智能的信息處理工具階段。比如說,在日本人工智能原則當中就提到,未來人工智能可能會成為社會的準成員,可能會成為人類的伙伴。
未來的人工智能在人類社會當中,在生態(tài)當中將扮演什么樣的角色?是工具?還是社會的準成員?還是像很多科幻作品中描述的人類敵人?我想這都是有可能的。
但如果我們把它當做工具發(fā)展,就要把它做得更安全?,F在全世界有很多科學家號召人工智能發(fā)展能不能稍微慢一點,能不能停下來先解決安全的問題。我想,技術發(fā)展可能會往前走,但是如果希望技術進步能夠往前一步,那就要把安全的護欄提前做好。
因為人工智能是賦能技術發(fā)展、賦能全球可持續(xù)發(fā)展的基礎設施。我們不應當以不穩(wěn)健、風險大的基礎設施服務于人類。所以我們發(fā)展人工智能不僅僅要保證它的安全可靠,更要保證它合乎倫理。
人類道德是這樣獲得的:當我們有了自我感知,就能夠區(qū)分自我和他人,能夠換位思考,能夠進行認知的共情,能夠進行情感的共情,最后能夠進行道德利他,產生道德的直覺,最終產生道德的決策。這是人類道德的產生。
人類合乎倫理之路。我想未來的人工智能可能難以用這樣的方式,真的獲得理解,真正變成人類活動,以具有道德的人工智能來替代現在所謂的合乎倫理的人工智能。
當你現在告訴人工智能應該做什么、不應該做什么的時候,同時也有可能有別人告訴它:他說的是不對的,你應該按照我的方式做。除非它產生真正的理解,真正像孩子、伙伴和全人類一樣獲得真正對于道德的直覺,在道德直覺基礎上進行道德決策,那可能才是我們希望的人工智能。
也許人類的演化速度并沒有那么快,但是人工智能的演化隨著超級計算平臺的誕生,速度可能非???。
如果說,對于未來的人工智能我們有一個期望的話,我希望人工智能未來能夠能夠從中國文化中學到君子和而不同,也能從其他國家文化中獲得文化底蘊。
我認為人工智能是一面鏡子,不管它未來停留在工具階段還是變成社會準成員或者伙伴,都在不斷幫助人類思考人類來自于哪里,人類應該在哪里。
人類永遠不會被人工智能替代,因為我們一生的目標是追尋自我的內心。這也就是人工智能能夠幫助人類做的事情,讓我們追求善,以善為源。
人與人工智能未來必然是和諧共生的,如果人工智能未來真正能夠達到超級智能階段,那么它也應該是超級利他的。符合自然演化規(guī)律的人工智能應當關愛整個社會、生態(tài)。
這促使人類需要反思人與生態(tài)之間的關系。超級智能也許需要50年、100年甚至更長時間才能到來。但是我們需要解決人類與人工智能、生態(tài)之間和諧共生的問題,我們要給超級智能一個理由讓它關愛人類。也許人類社會倫理道德原則應該在這樣的反思當中進行重塑。
人工智能目前仍然是人類的一面鏡子,會給人類的未來帶來更多啟示。我想我們對人工智能的發(fā)展應當抱有開放的心態(tài)。
現在,人工智能作為一個信息處理工具,最負責任的使用它的方式應該是,不必使人工智能無所不在,應該使人工智能適度使用,負責任、穩(wěn)健的發(fā)展才會使人工智能揚帆遠航。
謝謝大家!
上一篇: 工廠用防爆電氣設備分類、選型
下一篇: 淺析國內人工智能行業(yè)現狀及趨勢
違法和不良信息舉報投訴電話:0377-62377728 舉報郵箱:fbypt@ex12580.com