6月9日-10日，AI內(nèi)行頂級盛會“北京智源大會”在北京舉辦。智源大會是智源研究院主辦的年度國際性人工智能高端專業(yè)交流活動，業(yè)界學界共200余位人工智能頂尖專家到場。 ChatGPT讓公眾直觀領(lǐng)受到AI的力量，它展現(xiàn)出強大的翻譯、理解、推理能力，在多項考試中超過人類平均水平，在帶來AGI（通用人工智能，像人一樣思考、從事多種用途的人工智能）曙光的同時，也帶來大家對AI侵犯隱私、導致失業(yè)，甚至取代人類等問題的擔憂。
一、超級AI所帶來的近憂和遠慮
近憂1：侵犯個人隱私
目前來說，人工智能至少可通過三種方式侵犯隱私，即非法監(jiān)控、非法侵入個人空間或住宅以及非法干擾個人行為。
1.非法監(jiān)控
監(jiān)控不僅包括對物理空間的監(jiān)控，也包括對虛擬空間的監(jiān)控。虛擬空間是指網(wǎng)絡空間，它獨立于物理空間而存在。盡管非法監(jiān)控與非法侵入個人空間或住宅存在交叉，但不論是對物理空間還是對網(wǎng)絡空間的監(jiān)控，非法監(jiān)控所涉及的隱私領(lǐng)域主要是信息隱私，而非法侵入個人空間或住宅主要涉及空間隱私。在非法監(jiān)控中，對物理空間或網(wǎng)絡空間的侵入只是手段，終極目的在于獲取未公開的個人信息。
2.非法侵入個人空間或住宅
這里所指的個人空間僅限于實體空間，并不包括網(wǎng)絡空間。傳統(tǒng)的侵入個人空間或住宅的方法比較有限，如監(jiān)視、竊聽、刺探、秘密進入等，這些方法都需要人力來完成。然而，人工智能可以通過侵入住宅內(nèi)的監(jiān)控攝像頭、通訊網(wǎng)絡設(shè)備、智能家居系統(tǒng)等方式侵擾個人空間或住宅，且不留下任何外部物跡。
3. 非法干擾個人行為
眾所周知，互聯(lián)網(wǎng)上存在大量的實名或未實名的用戶數(shù)據(jù)，人工智能通過一定的技術(shù)手段對用戶數(shù)據(jù)進行收集與分析，可以準確分析出用戶的興趣愛好、行為蹤跡等信息，并進行信息推薦，而這些信息用戶并未主動提供，顯而易見，用戶是根本不愿意這些信息被其他主體知曉，這勢必侵犯個人隱私。
近憂2：造成失業(yè)與壟斷
從失業(yè)的角度來說，主要是因為超級人工智能的出現(xiàn)造成了勞動力的供大于求。人工智能的普及必然取代社會中原有的部分勞動力，且由于人工智能的低成本、高效率等突出特性，更易受到用人單位的青睞，造成以出賣勞動力為主的社會底層居民喪失勞動和就業(yè)機會，極大壓縮其生存的空間，使其成為社會中的不穩(wěn)定因素，進而引發(fā)不同群體間的對立和沖突。從形成行業(yè)壟斷的角度來看，在市場中，資本與技術(shù)結(jié)合共謀實施行業(yè)壟斷是時常發(fā)生的情形，由于掌握先進技術(shù)，部分企業(yè)可以借此獲得壟斷或支配地位，肆意打壓中小企業(yè)或歧視性地對待合作商家而謀取巨額利益，進而嚴重破壞市場公平公正的競爭秩序。
遠慮：存在毀滅性風險
總部位于舊金山的人工智能安全非營利組織（CAIS），一直在為“如何降低人工智能（AI）的社會規(guī)模風險”而努力。5月30日，該機構(gòu)發(fā)布了一份《AI風險聲明》，呼吁全世界應該像控制大流行病和核戰(zhàn)爭那樣，降低AI帶給人類滅頂之災的風險，并且把優(yōu)先級調(diào)到最高。在ChatGPT走紅全球之后，75歲的辛頓從谷歌辭職，便拉響AI的警報，更自由地討論AI給人類帶來的風險。當時，他出席美國麻省理工大學（MIT）的一場論壇時表示：“如果AI模型比人類聰明得多，它將善于操縱人類，你都不會意識到發(fā)生了什么?！痹谧顗那闆r下，“人類只是智能進化的一個過場”，在生物智能進化出數(shù)字智能后，數(shù)字智能將吸收人類創(chuàng)造的一切，并開始直接接觸世界。當AI變得比人類更聰明時，就有可能會導致人類面臨生存威脅。
二、強化對超級人工智能監(jiān)管的必要性分析
細化法律法規(guī)，監(jiān)管技術(shù)齊驅(qū)
盡管新一代AI技術(shù)提出了諸多挑戰(zhàn)，具有較大的監(jiān)管難度，但是我們卻不能聽之任之和置之不理。如果任由ChatGPT等新一代AI技術(shù)如脫韁的野馬一樣橫沖直撞，那么就可能出現(xiàn)難以挽回的損失甚至是災難性后果。只有未雨綢繆地對新一代AI技術(shù)的發(fā)展趨勢和應用前景進行研判和分析，提前做好監(jiān)管準備，才能避免“兵來將擋水來土掩”式的被動響應。當我們建立和完善一攬子的新一代AI技術(shù)監(jiān)管制度體系后，監(jiān)管創(chuàng)新便能跟上技術(shù)進步的步伐，避免監(jiān)管被技術(shù)甩在后面。否則，監(jiān)管技術(shù)的落后將直接決定技術(shù)監(jiān)管的失敗，也必然會導致新一代AI技術(shù)的失控和無序發(fā)展。
新一代AI技術(shù)具有很強的不確定性，使政府監(jiān)管難以下手。首先，新一代AI技術(shù)的高度不確定性意味著一般的政府部門難以預判其風險，政府部門的監(jiān)管往往是針對既有問題而展開的，而新興技術(shù)提出的監(jiān)管挑戰(zhàn)則可能不在其監(jiān)管框架之內(nèi)。在這種監(jiān)管機制存在局限的情況下，政府部門對新興技術(shù)的監(jiān)管經(jīng)常陷入被動響應的尷尬局面。其次，當新一代AI技術(shù)應用于各個領(lǐng)域時，它會成為新的操作系統(tǒng)、數(shù)字基礎(chǔ)設(shè)施或技術(shù)平臺，使其同相關(guān)業(yè)務難以切割。這使政府部門的監(jiān)管不得不通盤考慮技術(shù)應用的廣泛性和深入性，而不能采取一技一策的方式進行監(jiān)管。而在這種情況下，由專門部門去細化相關(guān)的責任顯得尤為必要。
加強國際合作，共度AI深秋
在全球化時代，由于人工智能技術(shù)呈現(xiàn)出跨國家、跨文化和跨領(lǐng)域特點，應對人工智能技術(shù)挑戰(zhàn)并非完全取決于個別的國家日，因此加強國際間的相互合作也就成為人工智能監(jiān)管的必然趨勢。這種國際間的相互合作應該主要表現(xiàn)為兩方面:一方面是主權(quán)國家之間的相互協(xié)調(diào)，以美國為主的部分西方國家以所謂的“意識形態(tài)”“共同價值觀”為合作紐帶，以應對中國在人工智能領(lǐng)域不斷提升的影響，確保其在該領(lǐng)域的領(lǐng)導地位。如美國不僅計劃與歐盟在跨大西洋合作方面積極展開關(guān)于人工智能技術(shù)發(fā)展、規(guī)制的討論與合作，還在與韓國來往時多次強調(diào)希望促進韓美兩國在人工智能等新興技術(shù)方面的合作。另一方面是產(chǎn)業(yè)界、學術(shù)界等形成的行業(yè)宣言，如在首屆全球數(shù)字經(jīng)濟大會人工智能產(chǎn)業(yè)治理論壇上發(fā)布的《人工智能產(chǎn)業(yè)擔當宣言》，便是企業(yè)與學術(shù)機構(gòu)在共同商討下形成的倡議性文件。
三、加強國際合作具體規(guī)范設(shè)想
AGI擁有徹底改造文明的能力，因此，有意義的國際合作非常必要。作為地球上的一員，我們需要投資AGI安全、謹慎協(xié)調(diào)才能實現(xiàn)并享受這個未來。作為一項全球性的技術(shù)，輕率合作帶來的后果，將影響所有人。因此，在國際合作中，這三個關(guān)鍵領(lǐng)域最為重要。
建立國際規(guī)范，注重過程包容
我國應注重運用在人工智能相關(guān)領(lǐng)域的技術(shù)優(yōu)勢，積極參與人工智能技術(shù)相關(guān)國際標準的制定工作，包括規(guī)范術(shù)語、技術(shù)框架、產(chǎn)品服務等，逐步實現(xiàn)我國在人工智能技術(shù)標準方面的國際化。同時，鑒于人工智能國際標準在國際上具有一定敏感性，在標準化立項和推進過程中要秉承積極協(xié)商、靈活應對、推進共識的工作策略，保障國際標準工作的順利推進。在推動共同國際規(guī)范和標準建立的過程中，應從相互依存、命運與共的“共同體”意識出發(fā)，同時注意各國之間的差異性，在制定規(guī)制的過程中，留下一定變通的空間。
加強人才互通，建立交流機制
千里之行，始于足下。我認為，最有建設(shè)性的第一步，是國際科學界、技術(shù)界展開合作。我們應該在AGI安全領(lǐng)域，推動建立增加透明度和知識共享的機制。發(fā)現(xiàn)緊急情況的研究人員應該為了共同的利益，共享新進展。另外，我們也應仔細考慮，如何在尊重和保護知識產(chǎn)權(quán)的同時鼓勵這種做法。更廣泛地說，我們應該推動、引導AI對齊和安全研究。
同時，我國應緊密跟蹤研究國內(nèi)外人工智能安全標準化工作動態(tài)和發(fā)展趨勢，把握人工智能安全領(lǐng)域國際標準研究態(tài)勢和重點方向。建立人工智能重點難點標準合作交流機制，借鑒各國在國際標準組織中的工作經(jīng)驗，參考形成我國人工智能安全國際標準化工作推進策略。充分吸收國外人工智能安全領(lǐng)域標準研究成果，借助國際力量豐富和推進我國人工智能安全標準制定，保持國家/行業(yè)標準與國際標準之間的協(xié)調(diào)一致，提高我國標準的先進性、規(guī)范性，確保人工智能安全標準能夠及時滿足人工智能安全保障和新興技術(shù)產(chǎn)業(yè)發(fā)展的需求。借助于雙邊或多邊的合作契機，邀請人工智能相關(guān)領(lǐng)域?qū)＜业轿覈_展交流研究，不斷向世界輸出人類命運共同體的合作理念和價值，搭建校企之間、科研院所之間等廣泛的交流合作機制，推動構(gòu)建人工智能國際監(jiān)管的合作框架，為人工智能監(jiān)管貢獻中國方案，發(fā)出中國聲音。
