研究背景：近期，世界人工智能大會(huì)在上海召開(kāi)，重點(diǎn)討論了AI治理的相關(guān)問(wèn)題。AI作為引領(lǐng)未來(lái)的戰(zhàn)略新興技術(shù)，已成為發(fā)展新質(zhì)生產(chǎn)力和推動(dòng)科技革命的核心引擎。然而，AI的高速發(fā)展也帶來(lái)了復(fù)雜效應(yīng)，包括數(shù)據(jù)安全、倫理治理、算法歧視、能源環(huán)境和數(shù)智鴻溝等問(wèn)題。這些問(wèn)題不僅影響技術(shù)本身的發(fā)展，更對(duì)社會(huì)產(chǎn)生了深遠(yuǎn)的影響。因此，如何有效治理AI成為當(dāng)前及未來(lái)的重大課題。
一、AI發(fā)展的不平衡問(wèn)題
1.AI發(fā)展不平衡的現(xiàn)狀
AI的廣泛應(yīng)用在帶來(lái)效率提升的同時(shí)，也引發(fā)了就業(yè)結(jié)構(gòu)的變化。傳統(tǒng)崗位被AI取代，可能導(dǎo)致大規(guī)模失業(yè)，進(jìn)而引發(fā)社會(huì)不穩(wěn)定。此外，AI技術(shù)的研發(fā)和應(yīng)用集中在少數(shù)科技巨頭手中，加劇了經(jīng)濟(jì)不平等和壟斷問(wèn)題。正如包括新開(kāi)發(fā)銀行行長(zhǎng)羅塞夫、聯(lián)合國(guó)工發(fā)組織總干事穆勒、聯(lián)合國(guó)秘書長(zhǎng)技術(shù)特使吉爾等重要人物在本次世界人工智能大會(huì)上所說(shuō)的，當(dāng)前全球AI治理的一大挑戰(zhàn)，是要防止資源不平等造成發(fā)展差異進(jìn)一步擴(kuò)大；國(guó)際社會(huì)應(yīng)采取措施，確保發(fā)展中國(guó)家不在人工智能時(shí)代掉隊(duì)。
2.AI發(fā)展不平衡的原因分析
引發(fā)“AI掉隊(duì)”的因素，包括技術(shù)依賴、科技封鎖、數(shù)據(jù)泄露等?？傮w上，和此前互聯(lián)網(wǎng)時(shí)代的“數(shù)字鴻溝”相似，在AI時(shí)代，發(fā)展中國(guó)家面臨“AI鴻溝”的擠壓，并且，因?yàn)橄鄬?duì)的弱勢(shì)地位，這些國(guó)家更容易受到AI的負(fù)面影響。有專家表示，發(fā)達(dá)國(guó)家一方面努力向發(fā)展中國(guó)家推廣AI技術(shù)，但并不關(guān)心這些國(guó)家人民真正需要什么。這種出于利益驅(qū)動(dòng)而形成的不平等關(guān)系，是AI全球治理最值得關(guān)注的問(wèn)題之一。
3.AI發(fā)展不平衡的解決方法
AI治理迫切需要解決的，就是形成平衡的發(fā)展格局，先進(jìn)國(guó)家不可忽視發(fā)展中國(guó)家AI發(fā)展的不平等問(wèn)題。否則，AI就會(huì)影響聯(lián)合國(guó)可持續(xù)發(fā)展愿景的實(shí)現(xiàn)，進(jìn)而給世界帶來(lái)新的不安定因素，成為構(gòu)建人類命運(yùn)共同體的障礙。在這個(gè)意義上，中國(guó)政府在聯(lián)合國(guó)框架內(nèi)提出《全球人工智能治理倡議》，倡導(dǎo)國(guó)際社會(huì)更關(guān)注發(fā)展中國(guó)家，倡導(dǎo)權(quán)利、機(jī)會(huì)、規(guī)則的平等。并且在今年的世界人工智能大會(huì)上，聯(lián)合國(guó)工發(fā)組織還宣布將與工業(yè)和信息化部、上海市一道，在上海建設(shè)一個(gè)制造業(yè)AI卓越中心，面向發(fā)展中國(guó)家、特別是最不發(fā)達(dá)國(guó)家，用中國(guó)的AI最佳實(shí)踐提升他們的AI能力。在這一層面上，中國(guó)起到了很好的帶頭示范作用。
長(zhǎng)三角國(guó)創(chuàng)中心主任劉慶在世界人工智能大會(huì)上也表示，培育新質(zhì)生產(chǎn)力一方面依賴科技創(chuàng)新占據(jù)前沿賽道，同時(shí)也要兼顧傳統(tǒng)產(chǎn)業(yè)的轉(zhuǎn)型升級(jí)，讓“新”與“舊”找到互相賦能的通道、齊頭并進(jìn)，而人工智能可以成為“鑰匙”。人工智能領(lǐng)域近年來(lái)出現(xiàn)了多個(gè)現(xiàn)象級(jí)的技術(shù)突破，這些突破，正在引領(lǐng)新的商業(yè)形態(tài)并賦能千行百業(yè)。本次會(huì)上就展出了諸如“AI+辦公”“AI+醫(yī)療”“AI+教育”“AI+社交”……人工智能正在加速融入這些傳統(tǒng)項(xiàng)目，引領(lǐng)其走向未來(lái)。
二、AI發(fā)展的安全危機(jī)
1.AI發(fā)展的安全性問(wèn)題
當(dāng)下，人工智能正在不斷地引發(fā)它的創(chuàng)造者——全球科技界的擔(dān)憂，或者更準(zhǔn)確地說(shuō)是喜憂參半，因?yàn)樗忻黠@造福人類的特性，但也有難以回避的風(fēng)險(xiǎn)和不確定性。有研究表明，在經(jīng)濟(jì)發(fā)展、社會(huì)發(fā)展和環(huán)境可持續(xù)發(fā)展三大領(lǐng)域中，人工智能會(huì)對(duì)134個(gè)具體目標(biāo)產(chǎn)生促進(jìn)作用，但也可能對(duì)59個(gè)具體目標(biāo)產(chǎn)生阻礙作用。上海人工智能實(shí)驗(yàn)室主任、首席科學(xué)家周伯文也展示了一張坐標(biāo)圖，顯示人工智能發(fā)展安全技術(shù)滯后于性能提升。目前99%的算力用于模型預(yù)訓(xùn)練，只有不到1%用于價(jià)值對(duì)齊或更多安全優(yōu)先的考量。包括馬斯克在內(nèi)的多名科技界知名人士曾發(fā)表公開(kāi)信，呼吁6個(gè)月內(nèi)暫停研發(fā)人工智能技術(shù)。對(duì)人工智能的擔(dān)憂首先來(lái)源于它在某些方面超越人類的卓越表現(xiàn)。例如AlphaZero從零開(kāi)始自行學(xué)習(xí)國(guó)際象棋、將棋和圍棋，最終在每個(gè)領(lǐng)域都擊敗了人類世界冠軍。下棋，只是人工智能小試牛刀的游戲。它在人類引以為豪的思維疆域里，還在不斷地挑戰(zhàn)邊界。
更令人憂慮的是，人們尚無(wú)法索解人工智能的智能從何而來(lái)。人工智能的核心技術(shù)——深度學(xué)習(xí)常常被稱為“黑盒子”，意思是說(shuō)，雖然它的代碼、參數(shù)、訓(xùn)練方法是公開(kāi)透明的，但人們?nèi)匀浑y以追蹤、理解和預(yù)測(cè)它們?nèi)绾螐奶囟ǖ妮斎肷商囟ǖ妮敵觥２粌H是普通人、使用者無(wú)法理解，即使那些書寫人工智能代碼的程序員也無(wú)法預(yù)測(cè)。這種不確定性更加增強(qiáng)了人們對(duì)AI發(fā)展的擔(dān)憂。
2.對(duì)于AI安全問(wèn)題的反思
哲學(xué)家海德格爾曾反思過(guò)現(xiàn)代技術(shù)的危險(xiǎn)性。他認(rèn)為現(xiàn)代技術(shù)強(qiáng)調(diào)效率，在這種效率觀念的促逼下，人類反而被技術(shù)所控制和占有，成為了技術(shù)的奴隸，收到技術(shù)發(fā)展的支配。雖然當(dāng)下加速了發(fā)展進(jìn)程，但是盲目的發(fā)展最終會(huì)導(dǎo)致一系列的社會(huì)危機(jī)，這是人類不可忽視的問(wèn)題。
例如，近年來(lái)，一些不法分子利用AI深度偽造新工具實(shí)施電信詐騙、散布虛假視頻、激化社會(huì)矛盾，給安全領(lǐng)域帶來(lái)了諸多風(fēng)險(xiǎn)。AI深度偽造是一種利用人工智能技術(shù)合成、修改或替換圖像、視頻和音頻內(nèi)容的技術(shù)，可以將一個(gè)人的面部表情、言辭和動(dòng)作應(yīng)用到其他人的圖像或視頻上，使生成的內(nèi)容看似原始內(nèi)容。這項(xiàng)技術(shù)讓假新聞和虛假信息更具迷惑性，嚴(yán)重威脅公眾的信任和社會(huì)穩(wěn)定。
此類安全產(chǎn)生的主要原因在于，技術(shù)發(fā)展速度過(guò)快而法律法規(guī)和倫理規(guī)范未能及時(shí)跟進(jìn)。首先是法律問(wèn)題，現(xiàn)有的法律框架往往難以適應(yīng)AI的快速發(fā)展，導(dǎo)致監(jiān)管滯后。例如，AI自動(dòng)駕駛汽車的責(zé)任認(rèn)定問(wèn)題，目前尚無(wú)明確的法律規(guī)定。當(dāng)AI系統(tǒng)出現(xiàn)故障導(dǎo)致事故時(shí)，如何界定制造商、開(kāi)發(fā)者和用戶的責(zé)任，成為法律界亟待解決的難題。其次是倫理問(wèn)題，AI的決策機(jī)制和數(shù)據(jù)處理方式存在不透明性，可能導(dǎo)致偏見(jiàn)和歧視的擴(kuò)散。例如，面部識(shí)別技術(shù)在執(zhí)法中的應(yīng)用可能帶來(lái)隱私侵害和種族偏見(jiàn)的問(wèn)題。經(jīng)濟(jì)基礎(chǔ)決定上層建筑，上層建筑反作用于經(jīng)濟(jì)基礎(chǔ)，當(dāng)上層建筑為適合生產(chǎn)力發(fā)展的經(jīng)濟(jì)基礎(chǔ)服務(wù)時(shí)，它就成為推動(dòng)社會(huì)發(fā)展的進(jìn)步力量；反之則成為阻礙社會(huì)發(fā)展的力量。當(dāng)前的法律法規(guī)和倫理規(guī)范已經(jīng)落后于AI技術(shù)發(fā)展水平，亟需改良進(jìn)步。
3.解決AI安全問(wèn)題的方法
首先，政府應(yīng)當(dāng)與各個(gè)社會(huì)組織共同制定和實(shí)施關(guān)于AI技術(shù)發(fā)展相關(guān)的法律法規(guī)體系，并加強(qiáng)對(duì)AI技術(shù)的監(jiān)管力度，建立起有效的監(jiān)管制度和執(zhí)法體系，明確AI技術(shù)的研發(fā)、應(yīng)用、監(jiān)督等方面的法律責(zé)任與義務(wù)，以確保AI的發(fā)展和應(yīng)用可以在合法的框架下進(jìn)行。同時(shí)，應(yīng)當(dāng)建立起明確的問(wèn)責(zé)機(jī)制，確保AI系統(tǒng)在出現(xiàn)問(wèn)題時(shí)可以追溯和糾正。
其次，在完善法律法規(guī)的基礎(chǔ)上，應(yīng)當(dāng)制定科學(xué)合理的AI倫理規(guī)范體系，使得AI技術(shù)符合社會(huì)的倫理要求和行為準(zhǔn)則。不僅需要讓倫理規(guī)范覆蓋AI技術(shù)的多個(gè)方面，如數(shù)據(jù)隱私、算法公正、人機(jī)關(guān)系等，還應(yīng)當(dāng)對(duì)AI技術(shù)的從業(yè)人員進(jìn)行倫理教育，提高相關(guān)從業(yè)人員的倫理意識(shí)和責(zé)任感。此外，也要鼓勵(lì)社會(huì)各界積極參與到對(duì)AI的監(jiān)管中來(lái)，共同推動(dòng)AI技術(shù)的倫理發(fā)展。
最后，推動(dòng)技術(shù)層面創(chuàng)新。問(wèn)題的解決也往往需要有更高水平的發(fā)展，因此需要鼓勵(lì)和支持科研機(jī)構(gòu)與科技企業(yè)，加大對(duì)AI技術(shù)研發(fā)的投資，推動(dòng)AI技術(shù)的不斷創(chuàng)新與突破。技術(shù)創(chuàng)新可以更好地解決AI技術(shù)發(fā)展過(guò)程中問(wèn)題與矛盾，由此提高AI技術(shù)的安全性、可靠性和效率。在此基礎(chǔ)上，還應(yīng)當(dāng)積極探索AI技術(shù)在各個(gè)領(lǐng)域內(nèi)的適用性，擴(kuò)大AI技術(shù)的使用范圍，尤其是要積極推動(dòng)AI技術(shù)與實(shí)體經(jīng)濟(jì)的深度融合發(fā)展，讓AI技術(shù)能更好地促進(jìn)實(shí)體經(jīng)濟(jì)發(fā)展。
三、AI治理的全球性挑戰(zhàn)
當(dāng)前，人工智能技術(shù)的快速發(fā)展，為人類社會(huì)發(fā)展帶來(lái)了諸多紅利，同時(shí)也出現(xiàn)了不少風(fēng)險(xiǎn)挑戰(zhàn)。如何在全球范圍內(nèi)通過(guò)協(xié)同共治，實(shí)現(xiàn)人工智能發(fā)展與安全并重，成為各方亟需對(duì)話與合作的重大課題。
1.AI全球治理的必要性
AI技術(shù)的快速發(fā)展和廣泛應(yīng)用已經(jīng)超越了國(guó)界和地域的限制，成為全球性現(xiàn)象。國(guó)內(nèi)外有多家科技公司都已經(jīng)都推出了自己的大數(shù)據(jù)模型，如OpenAI的GPT-4o、字節(jié)跳動(dòng)的豆包以及智譜的GLM。AI技術(shù)發(fā)展帶來(lái)的風(fēng)險(xiǎn)也早已成為全球性挑戰(zhàn)。因此，AI治理不能各自為營(yíng)，也需要從全球視角出發(fā)，加強(qiáng)國(guó)際合作與交流。各個(gè)國(guó)家和科技公司之間共同制定國(guó)際標(biāo)準(zhǔn)和規(guī)范，可以有效應(yīng)對(duì)AI技術(shù)帶來(lái)的全球性挑戰(zhàn)，如跨國(guó)數(shù)據(jù)流動(dòng)、網(wǎng)絡(luò)安全、人工智能武器等。同時(shí)，全球性的AI治理還可以促進(jìn)各國(guó)之間的互利共贏和共同發(fā)展，推動(dòng)構(gòu)建人類命運(yùn)共同體。
2.AI全球治理的困難
首先，不同國(guó)家在政治制度、文化背景和社會(huì)價(jià)值觀上存在顯著差異，這些差異導(dǎo)致各國(guó)對(duì)AI治理的優(yōu)先事項(xiàng)和方法存在分歧。
其次，AI技術(shù)的發(fā)展涉及巨大的經(jīng)濟(jì)利益，各國(guó)之間在技術(shù)研發(fā)、市場(chǎng)份額和產(chǎn)業(yè)布局方面存在激烈競(jìng)爭(zhēng)。一些國(guó)家和科技公司在AI領(lǐng)域占據(jù)領(lǐng)先地位，不愿意在國(guó)際治理框架中受到限制，擔(dān)心影響自身的競(jìng)爭(zhēng)優(yōu)勢(shì)；AI技術(shù)的應(yīng)用涉及廣泛的商業(yè)利益，各國(guó)可能會(huì)為了保護(hù)本國(guó)企業(yè)的市場(chǎng)份額而抵制統(tǒng)一的國(guó)際規(guī)范；不同國(guó)家在產(chǎn)業(yè)政策上也會(huì)有不同的側(cè)重點(diǎn)，一些國(guó)家可能會(huì)更傾向于保護(hù)本國(guó)的AI產(chǎn)業(yè)，制定有利于自身發(fā)展的政策，而不是參與全球性的治理框架。
再次，AI技術(shù)本身的復(fù)雜性和快速發(fā)展使得全球治理更加困難。AI技術(shù)涉及深度學(xué)習(xí)、自然語(yǔ)言處理、計(jì)算機(jī)視覺(jué)等多個(gè)領(lǐng)域，每個(gè)領(lǐng)域都有其獨(dú)特的技術(shù)挑戰(zhàn)和應(yīng)用場(chǎng)景，治理的復(fù)雜性大大增加。并且AI技術(shù)更新速度快，傳統(tǒng)的立法和監(jiān)管手段難以跟上技術(shù)進(jìn)步的步伐。即使制定了相關(guān)政策和法規(guī)，也可能很快變得過(guò)時(shí)，需要不斷更新和調(diào)整。
然后，AI技術(shù)的發(fā)展依賴于大量數(shù)據(jù)的收集和共享，但數(shù)據(jù)隱私和安全問(wèn)題卻成為全球治理的重要難題。許多國(guó)家對(duì)本國(guó)數(shù)據(jù)的控制權(quán)有很強(qiáng)的保護(hù)意識(shí)，不愿意輕易共享數(shù)據(jù)。而且各國(guó)對(duì)數(shù)據(jù)隱私保護(hù)的標(biāo)準(zhǔn)和要求不同，一些國(guó)家可能對(duì)數(shù)據(jù)的跨境流動(dòng)設(shè)置嚴(yán)格的限制。
最后少數(shù)科技巨頭公司在AI技術(shù)和市場(chǎng)上占據(jù)主導(dǎo)地位，導(dǎo)致全球治理面臨技術(shù)壟斷和不平等問(wèn)題。大型科技公司在AI技術(shù)研發(fā)和應(yīng)用方面占據(jù)主導(dǎo)地位，擁有巨大的經(jīng)濟(jì)和政治影響力，可能會(huì)影響政策的制定和執(zhí)行。AI技術(shù)的發(fā)展還可能加劇全球范圍內(nèi)的經(jīng)濟(jì)不平等，發(fā)展中國(guó)家在技術(shù)和資源方面處于劣勢(shì)，難以在全球治理中發(fā)揮有效作用。
3.AI全球治理的方法探究
實(shí)現(xiàn)AI全球治理需要各國(guó)共同努力，目前已有多個(gè)國(guó)際組織和倡議在推動(dòng)AI治理方面做出了重要努力和貢獻(xiàn)。例如聯(lián)合國(guó)教科文組織在2021年通過(guò)了《人工智能倫理問(wèn)題建議書》，這是首個(gè)全球性的AI倫理框架，旨在確保AI技術(shù)的發(fā)展和應(yīng)用符合倫理標(biāo)準(zhǔn)。在此基礎(chǔ)上，各國(guó)政府、國(guó)際組織、企業(yè)和學(xué)術(shù)機(jī)構(gòu)應(yīng)加強(qiáng)對(duì)話與合作，分享AI技術(shù)的研究成果和治理經(jīng)驗(yàn)。通過(guò)舉辦國(guó)際會(huì)議和論壇，促進(jìn)不同國(guó)家和地區(qū)之間的交流與合作，共同制定全球性的AI治理標(biāo)準(zhǔn)和規(guī)范，其中包括倫理標(biāo)準(zhǔn)、法律框架與技術(shù)標(biāo)準(zhǔn)。在制定AI治理政策和法規(guī)時(shí)，廣泛聽(tīng)取公眾意見(jiàn)，確保政策制定過(guò)程的透明度和公眾參與度。通過(guò)公開(kāi)咨詢、聽(tīng)證會(huì)和調(diào)查問(wèn)卷等形式，鼓勵(lì)公眾對(duì)AI治理問(wèn)題發(fā)表意見(jiàn)和建議。
對(duì)于AI技術(shù)本身，則應(yīng)當(dāng)繼續(xù)加大對(duì)AI研究的投入，開(kāi)發(fā)更為先進(jìn)的加密技術(shù)和防火墻，防范黑客攻擊和數(shù)據(jù)泄露。同時(shí)，推動(dòng)AI技術(shù)的安全測(cè)試和評(píng)估，確保其在各種環(huán)境下的穩(wěn)定性和可靠性。與此同時(shí)，各國(guó)政府也應(yīng)加強(qiáng)對(duì)公眾的數(shù)字教育，提升其對(duì)AI技術(shù)的理解和應(yīng)用能力。通過(guò)宣傳和培訓(xùn)，提高公眾對(duì)AI技術(shù)的認(rèn)知，確保更多人能夠享受AI帶來(lái)的便利和機(jī)遇。在國(guó)際組織的引導(dǎo)下，幫助發(fā)展中國(guó)家提升AI技術(shù)的研發(fā)和應(yīng)用能力，縮小全球范圍內(nèi)的數(shù)字鴻溝。提供專項(xiàng)資金和技術(shù)支持，促進(jìn)AI技術(shù)在發(fā)展中國(guó)家的普及應(yīng)用。
實(shí)現(xiàn)AI全球治理需要各國(guó)共同努力，共同應(yīng)對(duì)AI技術(shù)帶來(lái)的全球性挑戰(zhàn)。只有通過(guò)全球共治，才能在平衡發(fā)展與風(fēng)險(xiǎn)的基礎(chǔ)上，實(shí)現(xiàn)AI技術(shù)的可持續(xù)發(fā)展，為人類社會(huì)帶來(lái)更多福祉。
