全球AI治理報(bào)告發(fā)布，強(qiáng)調(diào)著力應(yīng)對四大關(guān)鍵問題

人工智能在帶來發(fā)展機(jī)遇的同時(shí)，也引發(fā)了跨領(lǐng)域、多層次的系統(tǒng)性治理挑戰(zhàn)。全球人工智能安全誰來監(jiān)管如何防范？

11月8日，《為人類共同福祉構(gòu)建全球人工智能安全與治理體系》報(bào)告（以下簡稱《報(bào)告》）在2025年世界互聯(lián)網(wǎng)大會(huì)烏鎮(zhèn)峰會(huì)人工智能技術(shù)創(chuàng)新與治理論壇上正式發(fā)布�！秷�(bào)告》指出，人工智能技術(shù)發(fā)展迅猛，其安全與治理體系呈現(xiàn)出碎片化態(tài)勢，國際社會(huì)亟需構(gòu)建具有廣泛共識(shí)的治理框架與標(biāo)準(zhǔn)。

世界互聯(lián)網(wǎng)大會(huì)人工智能專委會(huì)主任委員及安全與治理推進(jìn)計(jì)劃聯(lián)合牽頭人、中國科學(xué)院自動(dòng)化研究所人工智能倫理與治理中心主任、北京前瞻人工智能安全與治理研究院院長曾毅，專委會(huì)安全與治理推進(jìn)計(jì)劃聯(lián)合牽頭人、劍橋大學(xué)教授及智能未來中心人工智能未來與責(zé)任項(xiàng)目主任肖恩·歐·海格緹（Seán Ó hÉigeartaigh）共同介紹了此項(xiàng)聯(lián)合研究成果的形成過程及主要內(nèi)容。

《報(bào)告》系統(tǒng)性地證實(shí)了專家們的擔(dān)憂。它指出，2019至2024年間，全球記錄在案的人工智能風(fēng)險(xiǎn)事件由約400件躍升至7900余件，總量增長了近20倍。其中，涉及魯棒性與數(shù)字安全、人權(quán)與隱私治理、透明度與問責(zé)制等問題的事件占比超過60%，顯示技術(shù)安全性與倫理性議題已成為全球性挑戰(zhàn)。

《報(bào)告》回顧了聯(lián)合國、各國政府、區(qū)域組織及產(chǎn)業(yè)界在人工智能治理上的積極努力。聯(lián)合國通過成立咨詢機(jī)構(gòu)、通過聯(lián)大決議等方式，推動(dòng)全球治理議程；歐盟頒布《人工智能法案》，建成全球首部全面監(jiān)管法律框架；中國發(fā)布《全球人工智能治理倡議》等文件，倡導(dǎo)發(fā)展和安全并重的原則。產(chǎn)業(yè)界和學(xué)術(shù)界也在積極探索自律機(jī)制，如Anthropic的“負(fù)責(zé)任擴(kuò)展政策”和OpenAI的“應(yīng)對準(zhǔn)備框架”，旨在確保人工智能系統(tǒng)的安全部署。

《報(bào)告》指出，當(dāng)前在人工智能治理上仍存在結(jié)構(gòu)性局限，如治理規(guī)則更新速度慢于技術(shù)迭代、工具上不完善，技術(shù)支撐有限、跨境協(xié)作機(jī)制薄弱、責(zé)任歸屬模糊等。

《報(bào)告》強(qiáng)調(diào)，構(gòu)建全球人工智能安全與治理體系需著力應(yīng)對四大關(guān)鍵問題。第一，針對技術(shù)快速迭代與不確定性風(fēng)險(xiǎn)，報(bào)告建議建立技術(shù)跟蹤與風(fēng)險(xiǎn)預(yù)警協(xié)同機(jī)制，推動(dòng)治理規(guī)則實(shí)現(xiàn)動(dòng)態(tài)更新。第二，在平衡各國發(fā)展訴求方面，呼吁構(gòu)建包容性多邊平臺(tái)，以保障各國平等發(fā)展和利用人工智能的權(quán)利。第三，為明確多利益相關(guān)方的權(quán)責(zé)邊界，報(bào)告提出建立履約審查、風(fēng)險(xiǎn)監(jiān)測與爭端調(diào)解機(jī)制，從而形成協(xié)同有序的治理格局。第四，面對地緣政治障礙，報(bào)告倡導(dǎo)以聯(lián)合國為中心踐行多邊主義，推動(dòng)共建人類命運(yùn)共同體。另外，《報(bào)告》還借鑒了核安全、氣候變化等領(lǐng)域的全球治理經(jīng)驗(yàn)，提出具體機(jī)制舉措。

《報(bào)告》最后建議，形成應(yīng)對人工智能技術(shù)失控風(fēng)險(xiǎn)共識(shí)，建立全球廣泛參與的前沿人工智能模型檢測與能力評估機(jī)制。此外呼吁國際社會(huì)凝聚“以人為本、智能向善”的共識(shí)，在聯(lián)合國框架下整合資源，建立分級分類對話機(jī)制。聯(lián)合國系統(tǒng)應(yīng)發(fā)揮協(xié)調(diào)作用，推動(dòng)價(jià)值共識(shí)、技術(shù)規(guī)范與風(fēng)險(xiǎn)治理的多維整合。

曾毅表示，當(dāng)前人工智能安全與治理的國際合作已成為重要的全球公共議題。面對技術(shù)的快速演進(jìn)和各國發(fā)展的不平衡，國際社會(huì)需凝聚共同的風(fēng)險(xiǎn)認(rèn)知，建立一致的行動(dòng)框架，并通過機(jī)制的設(shè)計(jì)與完善，確保人工智能技術(shù)在安全、可控、包容的軌道上發(fā)展。