近年來(lái)，人工智能的新技術(shù)不斷突破、新業(yè)態(tài)持續(xù)涌現(xiàn)、新應(yīng)用加快拓展，已成為新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動(dòng)力量。同時(shí)，人工智能發(fā)展在法律、安全、就業(yè)、道德倫理等方面也面臨著一系列新課題。國(guó)際組織和世界多國(guó)已開(kāi)始在理念、立法和科普等方面探索人工智能治理的可行性路徑并達(dá)成一些共識(shí)，努力在發(fā)展和安全之間尋求平衡，但全球人工智能治理仍面臨“監(jiān)管滯后”“技術(shù)鴻溝”“安全泛化”“共識(shí)難聚”“歸責(zé)不明”“執(zhí)行不力”等挑戰(zhàn)。
探索全球人工智能治理共識(shí)機(jī)制
近年來(lái)，全球主要經(jīng)濟(jì)體和國(guó)際組織紛紛致力于人工智能治理框架的構(gòu)建與迭代，積極探索全球人工智能治理共識(shí)機(jī)制。
“從全球范圍來(lái)看，人工智能已步入技術(shù)發(fā)展的‘奇點(diǎn)時(shí)刻’與監(jiān)管治理的‘關(guān)鍵時(shí)刻’?！睂?duì)外經(jīng)濟(jì)貿(mào)易大學(xué)數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心主任張欣在接受本報(bào)記者采訪時(shí)表示，當(dāng)前，作為全球科技競(jìng)爭(zhēng)最激烈的領(lǐng)域之一，人工智能的國(guó)際競(jìng)爭(zhēng)早已超越技術(shù)和產(chǎn)業(yè)的競(jìng)爭(zhēng)，并實(shí)質(zhì)拓展到以法律規(guī)制為代表的治理競(jìng)爭(zhēng)。美國(guó)、中國(guó)、歐盟、英國(guó)、日本、韓國(guó)、加拿大、新加坡和巴西等均高度重視人工智能治理，形成“技術(shù)賽道”“產(chǎn)品賽道”和“制度賽道”多軌并行的新格局。
國(guó)際組織積極探索促成全球人工智能治理共識(shí)達(dá)成的規(guī)范框架。張欣介紹，2019年，經(jīng)濟(jì)合作與發(fā)展組織發(fā)布了全球首個(gè)政府間人工智能治理原則的文件。同年，二十國(guó)集團(tuán)提出“G20人工智能原則”，確定了人工智能應(yīng)促進(jìn)包容性增長(zhǎng)、可持續(xù)發(fā)展和社會(huì)福祉以及“以人為本”的價(jià)值觀和“問(wèn)責(zé)制”等治理的基礎(chǔ)性原則。2023年10月，聯(lián)合國(guó)秘書(shū)長(zhǎng)安東尼奧·古特雷斯宣布組建高級(jí)別人工智能咨詢機(jī)構(gòu)，該機(jī)構(gòu)于2023年12月發(fā)布《臨時(shí)報(bào)告：以人為本的人工智能治理》。
國(guó)際組織尤為重視生成式人工智能的負(fù)責(zé)任創(chuàng)新。張欣介紹，聯(lián)合國(guó)《全球數(shù)字契約》《關(guān)于負(fù)責(zé)任的生成式人工智能的建議》（世界經(jīng)濟(jì)論壇）、《生成式人工智能在教育和研究中的應(yīng)用指南》等一系列文件發(fā)布，共同強(qiáng)調(diào)了在發(fā)展和應(yīng)用生成式人工智能技術(shù)時(shí)必須遵循的倫理原則和規(guī)范，進(jìn)一步呼吁各國(guó)政府、私營(yíng)主體、學(xué)術(shù)機(jī)構(gòu)以及民間團(tuán)體共同努力，加強(qiáng)全球合作治理。
中國(guó)一直是人工智能全球治理的積極倡導(dǎo)者和踐行者。2021年12月，中國(guó)向聯(lián)合國(guó)《特定常規(guī)武器公約》第六次審議大會(huì)提交《中國(guó)關(guān)于規(guī)范人工智能軍事應(yīng)用的立場(chǎng)文件》，2022年11月又向聯(lián)合國(guó)《特定常規(guī)武器公約》締約國(guó)大會(huì)提交了《中國(guó)關(guān)于加強(qiáng)人工智能倫理治理的立場(chǎng)文件》。2023年10月，中國(guó)提出《全球人工智能治理倡議》，為凝聚國(guó)際社會(huì)共識(shí)、推進(jìn)全球共享共治發(fā)揮了積極作用。2024年7月，第78屆聯(lián)合國(guó)大會(huì)以協(xié)商一致方式通過(guò)了中方主提的“加強(qiáng)人工智能能力建設(shè)國(guó)際合作”決議，143個(gè)聯(lián)合國(guó)會(huì)員國(guó)參加聯(lián)署。這是全球首個(gè)聚焦人工智能能力建設(shè)的共識(shí)性文件。
“在全球人工智能治理秩序形成的過(guò)程中，各大科技企業(yè)也積極探索人工智能治理的多元化路徑，嘗試探尋自我規(guī)制的創(chuàng)新方案?！睆埿勒f(shuō)，一方面，科技企業(yè)積極尋求與監(jiān)管者溝通合作，力求通過(guò)自我承諾、自我約束開(kāi)展人工智能治理；另一方面，科技企業(yè)也積極開(kāi)發(fā)人工智能治理工具以紓解新型技術(shù)風(fēng)險(xiǎn)，推進(jìn)負(fù)責(zé)任的創(chuàng)新與研發(fā)。
“面對(duì)人工智能技術(shù)革新及由此引發(fā)的治理挑戰(zhàn)，當(dāng)前，全球范圍內(nèi)已初步形成主權(quán)國(guó)家主導(dǎo)、國(guó)際組織推進(jìn)、科技企業(yè)協(xié)同的多方治理格局，并出現(xiàn)人工智能治理法治化、智慧化和軟法與硬法雙軌并行深度治理的趨勢(shì)。”張欣說(shuō)。
加強(qiáng)人工智能治理規(guī)則的全球協(xié)作日益成為各方共識(shí)
過(guò)去一年多來(lái)，生成式人工智能技術(shù)已取得了質(zhì)的飛躍。這不僅體現(xiàn)在技術(shù)進(jìn)步的速度上，更體現(xiàn)在其廣泛而深遠(yuǎn)的影響上，為各行各業(yè)帶來(lái)了前所未有的變革。
據(jù)美國(guó)一個(gè)面向公眾開(kāi)放的數(shù)據(jù)集——人工智能、算法、自動(dòng)化事件和爭(zhēng)議存儲(chǔ)庫(kù)顯示，2021年新報(bào)告的人工智能事件和爭(zhēng)議數(shù)量是2012年的26倍。其中，生成式人工智能引發(fā)的虛假信息問(wèn)題尤為突出。由于虛假信息面向的是互聯(lián)網(wǎng)信息內(nèi)容領(lǐng)域，因此產(chǎn)生的影響具有行業(yè)和場(chǎng)景的廣泛性。
“與傳統(tǒng)技術(shù)風(fēng)險(xiǎn)有所不同，人工智能技術(shù)風(fēng)險(xiǎn)具有隱蔽性、跨域性、全球性和長(zhǎng)期性，需要從國(guó)際層面展開(kāi)持續(xù)性、系統(tǒng)性和協(xié)同性的治理努力?！睆埿勒f(shuō)，人工智能技術(shù)的突破式發(fā)展導(dǎo)致新舊風(fēng)險(xiǎn)疊加，帶來(lái)了一系列安全和倫理挑戰(zhàn)。由于人工智能的技術(shù)迭代以日為單位，若不在早期實(shí)施有效的介入治理，則可能出現(xiàn)后期風(fēng)險(xiǎn)難以控制的治理困境。
“各國(guó)雖在人工智能治理思路和具體方案上存在差異，但加強(qiáng)人工智能治理規(guī)則的全球協(xié)作日益成為各方共識(shí)?！睆埿勒f(shuō)，2023年11月，人工智能安全峰會(huì)在英國(guó)舉行，達(dá)成了全球首個(gè)人工智能治理協(xié)議《布萊切利宣言》，包括中國(guó)、美國(guó)、英國(guó)等28個(gè)國(guó)家及歐盟共同簽署了該項(xiàng)宣言。
國(guó)際社會(huì)已形成共識(shí)：將“以人為本”作為人工智能研發(fā)和部署的基本原則和重要理念。張欣分析，“以人為本”這一共識(shí)意味著，在人工智能技術(shù)的開(kāi)發(fā)與應(yīng)用過(guò)程中，首要任務(wù)是確保技術(shù)始終以人類利益為先，尊重每個(gè)個(gè)體的基本權(quán)利和人的尊嚴(yán)，維護(hù)人的主體性地位，確保人工智能技術(shù)的發(fā)展真正服務(wù)于增進(jìn)人類福祉的目標(biāo)。“以人為本”的理念還強(qiáng)調(diào)人工智能開(kāi)發(fā)應(yīng)采取負(fù)責(zé)任的創(chuàng)新方式。這要求在技術(shù)設(shè)計(jì)、開(kāi)發(fā)和部署階段，應(yīng)系統(tǒng)地評(píng)估和衡量潛在的影響與風(fēng)險(xiǎn)，確保系統(tǒng)設(shè)計(jì)的公平性和多樣性，避免技術(shù)濫用。
張欣說(shuō)，從實(shí)踐來(lái)看，全球人工智能治理仍然存在以下不足：一是國(guó)際組織參與度高于政府，但尚未有國(guó)際組織承擔(dān)起全球人工智能核心監(jiān)管機(jī)構(gòu)的角色，各國(guó)際組織間呈現(xiàn)出高度分散的碎片化狀態(tài)。二是政府間合作多具有地域特征和大國(guó)競(jìng)爭(zhēng)導(dǎo)向。以G7國(guó)家為代表的發(fā)達(dá)國(guó)家試圖構(gòu)建一套普適性的人工智能監(jiān)管規(guī)則， 而以金磚國(guó)家為代表的新興市場(chǎng)和發(fā)展中國(guó)家在人工智能治理的國(guó)際合作中潛力尚待發(fā)揮。
不斷彌合智能鴻溝和治理能力差距
由于技術(shù)發(fā)展水平和文化背景差異，各國(guó)對(duì)人工智能風(fēng)險(xiǎn)的感知也顯著不同。斯坦福大學(xué)人工智能研究所發(fā)布的《2023年人工智能指數(shù)報(bào)告》引用調(diào)查機(jī)構(gòu)易普索2022年的調(diào)查指出，部分發(fā)展中國(guó)家對(duì)人工智能普遍更加樂(lè)觀。如78%的中國(guó)受訪者同意“使用人工智能產(chǎn)品和服務(wù)的好處多于壞處”的觀點(diǎn)，76%的沙特阿拉伯受訪者和71%的印度受訪者認(rèn)為人工智能產(chǎn)品“利大于弊”。德國(guó)、荷蘭、澳大利亞、比利時(shí)和加拿大等一些發(fā)達(dá)國(guó)家對(duì)人工智能產(chǎn)品和服務(wù)的評(píng)價(jià)則稍顯負(fù)面。
“打造一個(gè)全方位、多層次、匯聚廣泛共識(shí)， 具有真正的包容性、平等性、多元性的治理框架仍然面臨多項(xiàng)挑戰(zhàn)。其中尤為突出的當(dāng)屬意識(shí)形態(tài)對(duì)人工智能治理框架的影響以及資本逐利帶來(lái)的負(fù)面沖擊?！睆埿勒J(rèn)為，面對(duì)人工智能技術(shù)創(chuàng)新及接踵而來(lái)的治理挑戰(zhàn)，全球人工智能治理確實(shí)已站在歷史選擇的“關(guān)鍵十字路口”，能否超越分歧達(dá)致共識(shí)，能否超越個(gè)別利益實(shí)現(xiàn)共同利益，是決定全球人工智能治理模式是否有韌性、有效的關(guān)鍵因素。
張欣說(shuō)，全球人工智能治理面臨歸責(zé)框架不清晰和協(xié)作治理機(jī)制不健全等問(wèn)題。如何處理數(shù)據(jù)安全、隱私保護(hù)、算法濫用等問(wèn)題，并形成全球范圍內(nèi)的協(xié)同有效治理，也是當(dāng)前的重要議題。
中國(guó)始終將發(fā)展中國(guó)家的期待與需求放在重要位置?！度蛉斯ぶ悄苤卫沓h》指出，增強(qiáng)發(fā)展中國(guó)家在人工智能全球治理中的代表性和發(fā)言權(quán)，確保各國(guó)人工智能發(fā)展與治理的權(quán)利平等、機(jī)會(huì)平等、規(guī)則平等，開(kāi)展面向發(fā)展中國(guó)家的國(guó)際合作與援助，不斷彌合智能鴻溝和治理能力差距。
中國(guó)常駐聯(lián)合國(guó)代表傅聰介紹加強(qiáng)人工智能能力建設(shè)國(guó)際合作決議草案時(shí)表示，大多數(shù)國(guó)家特別是發(fā)展中國(guó)家尚未能真正接觸、使用人工智能并從中受益，全球數(shù)字鴻溝仍有擴(kuò)大之勢(shì)。在此背景下，中國(guó)順應(yīng)廣大國(guó)家特別是發(fā)展中國(guó)家的期待，倡導(dǎo)人工智能能力建設(shè)國(guó)際合作，平等發(fā)展和利用人工智能技術(shù)，共享人工智能知識(shí)成果，體現(xiàn)了中國(guó)對(duì)人工智能發(fā)展和治理的負(fù)責(zé)任態(tài)度。
“發(fā)展中國(guó)家與發(fā)達(dá)經(jīng)濟(jì)體之間在人工智能技術(shù)發(fā)展和治理議程設(shè)置能力上仍存在‘智能鴻溝’和治理代差?！睆埿勒f(shuō)，構(gòu)建全球人工智能治理機(jī)制需要以包容性、平等性、多元性為基礎(chǔ)原則，探索政府間、企業(yè)間、專家間的對(duì)話交流和磋商機(jī)制，通過(guò)在重點(diǎn)領(lǐng)域率先凝聚治理共識(shí)推動(dòng)實(shí)現(xiàn)協(xié)同發(fā)展、和諧共榮的治理格局。