9月3日，世界互聯(lián)網(wǎng)大會國際組織在北京召開推動構(gòu)建網(wǎng)絡(luò)空間命運共同體邁向新階段理論研討會，總結(jié)推動構(gòu)建網(wǎng)絡(luò)空間命運共同體理念提出十年來的理論成果和實踐經(jīng)驗，探討攜手構(gòu)建網(wǎng)絡(luò)空間命運共同體邁向新階段的深刻內(nèi)涵、重大意義和時代價值。聯(lián)合國人工智能高級別咨詢機構(gòu)專家組成員、中國科學(xué)院自動化所人工智能倫理與治理中心主任曾毅在會上圍繞“通過國際合作促進全球人工智能安全與治理能力建設(shè)”作主旨發(fā)言。主要發(fā)言內(nèi)容如下：

聯(lián)合國人工智能高級別咨詢機構(gòu)專家組成員

作為一名研究人工智能技術(shù)的科研人員，我首先想講的是，人工智能到底是什么。大家總討論人工智能和機器學(xué)習(xí)的關(guān)系，人工智能和機器學(xué)習(xí)既有關(guān)，但又非常不同。人工智能不僅僅關(guān)系到機器學(xué)習(xí)，還有在學(xué)習(xí)、發(fā)育、演化等機制方面受自然智能的啟發(fā)。人類的大腦在跟世界進行交互的過程當中，之所以有一個安全的框架、倫理和道德的框架，也是演化的結(jié)果。所以，我們要受到大自然的啟發(fā)，研究人工智能學(xué)習(xí)、發(fā)育和演化的機制，使得人工智能以更安全、更具道德的方式逐步接近、甚至超越人類智能。對于社會、生態(tài)、文明，人工智能既可以產(chǎn)生積極影響，也有可能帶來風(fēng)險與安全隱患，但人工智能安全與治理的目的是確保人工智能穩(wěn)健發(fā)展，而非掣肘人工智能的發(fā)展。

現(xiàn)在，人工智能技術(shù)仍是一個看似智能的信息處理工具，仍然會犯一些人不會犯的錯誤，所以要保證其內(nèi)部機制的安全、可靠、可控和可治理。但實際上，我們在人工智能的設(shè)計、研發(fā)、部署、使用各個階段，都要保障人工智能的安全，這樣才能全周期、全鏈條地保證安全、可靠、可控，更關(guān)鍵的是可治理。要讓“安全”成為人工智能發(fā)展的第一性原理，不可刪除，成為人工智能發(fā)展的基因。我們現(xiàn)在應(yīng)對人工智能的安全風(fēng)險，更多是一種反應(yīng)式的。能否變被動為主動地應(yīng)對可能的風(fēng)險，而非不停地給人工智能系統(tǒng)打補丁，這是非常重要的范式轉(zhuǎn)變。

在人工智能發(fā)展過程中，沒有任何一個國家和地區(qū)能夠獨善其身，我們有責(zé)任共護安全、共享發(fā)展。研究數(shù)據(jù)表明，人工智能越發(fā)達的國家出現(xiàn)人工智能風(fēng)險的頻次越高，而目前沒有任何一個國家研發(fā)的人工智能可以確保絕對安全。人工智能科學(xué)技術(shù)與應(yīng)用發(fā)達的國家能夠更早地享受到人工智能帶來的益處，卻同時需要相對更早地應(yīng)對人工智能潛在的風(fēng)險。國際合作，是確保全球人工智能安全、可靠、可控的唯一途徑。

今年7月，聯(lián)合國大會通過中國作為主提國，140多國參與支持的“加強人工智能能力建設(shè)的國際合作”決議，這是近期人工智能領(lǐng)域非常重要的國際共識。反觀當今，國際人工智能安全與治理體系，表現(xiàn)出明顯的“小院高墻”“大院小門”的特點，目前還不具備行之有效、包容性足夠廣泛的國際治理體系，亟需建立以聯(lián)合國為主渠道的全球人工智能安全與治理體系。我們不僅要通過國際合作建立相對完善、可相互借鑒的人工智能安全與治理體系，來應(yīng)對近期人工智能的風(fēng)險，更要未雨綢繆，集全球之智共同研究與應(yīng)對前沿人工智能潛在的災(zāi)難性甚至是生存風(fēng)險。系統(tǒng)化的安全與治理國際合作，將有力地促進人工智能在全球范圍內(nèi)的穩(wěn)健發(fā)展與應(yīng)用，賦能全球可持續(xù)發(fā)展目標與人類命運共同體的實現(xiàn)。