翻開(kāi)流淌中國(guó)文明的書(shū)卷，我們驚訝的發(fā)現(xiàn)，在兩千多年前，智者們便以古老的筆觸勾勒出驚心動(dòng)魄的機(jī)械化生命，喚醒了人們對(duì)機(jī)器智慧與生命的原始的遐思?！妒酚洝访枥L了機(jī)械獸、精巧器械的神奇故事；《莊子》中思辨了人與機(jī)器的辨析；《列子》中討論了制造人造人的可能?！渡胶＝?jīng)》中描繪了機(jī)關(guān)獸、神奇造物的奇幻場(chǎng)景。
隨著科技的進(jìn)步和現(xiàn)代文明的發(fā)展，中國(guó)當(dāng)代科幻文學(xué)也涌現(xiàn)出一批富有想象力和啟迪性的作品。在劉慈欣的科幻小說(shuō)《三體》系列中，虛擬現(xiàn)實(shí)游戲“三體”為讀者展現(xiàn)了一個(gè)充滿(mǎn)智能生命和宇宙文明的廣袤宇宙。而在王晉康的小說(shuō)《人工智能時(shí)代的公民》中，作者設(shè)想了一個(gè)未來(lái)社會(huì)，人工智能已經(jīng)成為社會(huì)的一部分，引發(fā)了對(duì)于人工智能與人類(lèi)關(guān)系、權(quán)益道德和相關(guān)風(fēng)險(xiǎn)的討論和思考。
真實(shí)案例，利弊相依
4月20日中午，好友通過(guò)微信視頻聯(lián)系郭先生，聲稱(chēng)需要430萬(wàn)保證金并請(qǐng)求借用郭先生公司賬戶(hù)進(jìn)行轉(zhuǎn)賬。未核實(shí)款項(xiàng)到賬，郭先生不加懷疑地轉(zhuǎn)了430萬(wàn)給好友。后來(lái)才發(fā)現(xiàn)被智能AI換臉和擬聲技術(shù)詐騙。
10分鐘被騙430萬(wàn)，人工智能深度內(nèi)容合成模糊了真實(shí)與虛假的邊界。然而，在內(nèi)容產(chǎn)業(yè)上，AI換臉有它的優(yōu)勢(shì)和價(jià)值，比如在《三千鴉殺》《了不起的兒科醫(yī)生》《長(zhǎng)安十二時(shí)辰》等影視作品中，都因?yàn)樵輪T問(wèn)題，部分角色用到了AI換臉技術(shù)，極大地降低了拍攝成本。
首先，從國(guó)家層面來(lái)說(shuō)，其算法和數(shù)據(jù)驅(qū)動(dòng)性質(zhì)可能導(dǎo)致暴力沖突和意識(shí)形態(tài)滲透的風(fēng)險(xiǎn)。虛假內(nèi)容的生成可能誤導(dǎo)公眾輿論，而惡意使用該技術(shù)可能加劇國(guó)際關(guān)系的緊張和誤判。此外，濫用生成式人工智能可能對(duì)國(guó)家安全造成直接威脅，包括攻擊基礎(chǔ)設(shè)施和進(jìn)行網(wǎng)絡(luò)犯罪。
其次，從社會(huì)層面來(lái)說(shuō)，數(shù)據(jù)壟斷和道德操縱的風(fēng)險(xiǎn)最大，可能導(dǎo)致創(chuàng)新受阻、市場(chǎng)失衡和社會(huì)分裂。在私權(quán)利方面，增加犯罪可能性和侵犯用戶(hù)隱私也是潛在的風(fēng)險(xiǎn)。舉例來(lái)說(shuō)，虛假信息生成和個(gè)人數(shù)據(jù)泄露可能導(dǎo)致誤導(dǎo)公眾、身份盜用和信任破裂。人工智能技術(shù)的進(jìn)步可能引發(fā)一場(chǎng)前所未見(jiàn)的錯(cuò)誤信息海嘯，因?yàn)檫@類(lèi)工具非常擅長(zhǎng)對(duì)任何事情做出令人信服的敘述，其標(biāo)準(zhǔn)的語(yǔ)法和完美的邏輯足夠迷惑大多事外群體。例如，ChatGPT編造了一個(gè)真實(shí)教授的性騷擾丑聞，然后以一篇假的《華盛頓郵報(bào)》文章的形式為其說(shuō)法提供證據(jù)，并為其創(chuàng)建了引用。
但不可置否的是，人工智能技術(shù)的進(jìn)步產(chǎn)生了革命性意義，其具有跨界、橫向、打通的能力。這種能力使得人工智能技術(shù)在醫(yī)療、金融、制造等領(lǐng)域的應(yīng)用得到了前所未有的提升。
抽絲剝繭：剖析潛在動(dòng)因
正如上文所述，目前生成式人工智能損害隱蔽、破壞性大，只有先思考風(fēng)險(xiǎn)背后的動(dòng)因才能更好的提出相關(guān)治理性意見(jiàn)。
（一）現(xiàn)行法律制度不足
法律制度不成熟是導(dǎo)致人工智能風(fēng)險(xiǎn)的一個(gè)重要原因。在行政責(zé)任方面，政府雖然能對(duì)生成式人工智能進(jìn)行監(jiān)管，但僅仰賴(lài)行政監(jiān)管無(wú)法充分規(guī)制。生成式人工智能的算法運(yùn)作機(jī)制難以解釋?zhuān)黾恿苏O(jiān)管的成本。此外，數(shù)據(jù)流動(dòng)涉及多個(gè)主體，現(xiàn)有機(jī)制無(wú)法聯(lián)動(dòng)不同部門(mén)展開(kāi)數(shù)據(jù)監(jiān)管協(xié)作，也無(wú)法在數(shù)據(jù)跨境中與其他國(guó)家機(jī)構(gòu)進(jìn)行協(xié)作，缺乏協(xié)同治理的可能性。在民事責(zé)任方面，相關(guān)實(shí)踐和理論研究都還不充分?，F(xiàn)有的數(shù)據(jù)治理范式主要側(cè)重于采用著作權(quán)和反不正當(dāng)競(jìng)爭(zhēng)等途徑保護(hù)數(shù)據(jù)權(quán)益，但無(wú)法規(guī)制生成內(nèi)容。同時(shí)，生成式人工智能的侵權(quán)行為隱蔽且后果嚴(yán)重，采用人格權(quán)利保護(hù)路徑也無(wú)法消除已產(chǎn)生的影響。此外，生成式人工智能涉及知識(shí)產(chǎn)權(quán)、反壟斷和生成內(nèi)容歸屬等新問(wèn)題，還涉及底層數(shù)據(jù)和算法問(wèn)題，且涉及公平公正等價(jià)值判斷問(wèn)題。算法黑箱下的舉證困難也是現(xiàn)有民法體系難以規(guī)制生成式人工智能的原因。在刑事法律方面，雖然存在一些具體條款能夠規(guī)制，但存在著缺陷。例如，現(xiàn)有的虛假信息罪僅局限于特定情況，無(wú)法適用于生成式人工智能的內(nèi)容生成方式。同時(shí)，煽動(dòng)顛覆國(guó)家政權(quán)罪的構(gòu)成要件與生成式人工智能的互動(dòng)形式不完全吻合。
（二）準(zhǔn)入門(mén)檻低且統(tǒng)一治理原則缺失
由于其低準(zhǔn)入門(mén)檻，許多人都可以輕松獲取和使用相關(guān)工具和算法，而無(wú)需深入了解其潛在風(fēng)險(xiǎn)。比如，在日常生活中，不少網(wǎng)友體驗(yàn)過(guò)娛樂(lè)性的AI換臉。早在2019年，一款名為“ZAO”的AI換臉軟件就曾風(fēng)靡網(wǎng)絡(luò)，只需上傳一張照片就能讓普通人成為影視劇的男女主角，出演經(jīng)典電影片段、甚至跟偶像飆戲，受到眾多網(wǎng)友的體驗(yàn)追捧。
另一方面，由于人工智能領(lǐng)域缺乏統(tǒng)一治理原則，相關(guān)法律、道德和倫理問(wèn)題得不到一致解決，增加了風(fēng)險(xiǎn)的復(fù)雜性。舉例來(lái)說(shuō)，數(shù)據(jù)隱私和安全問(wèn)題是人工智能應(yīng)用中的重要考慮因素。如果缺乏統(tǒng)一的治理原則，個(gè)人數(shù)據(jù)可能被濫用、泄露或未經(jīng)授權(quán)的訪問(wèn)，給用戶(hù)帶來(lái)?yè)p害。此外，面部識(shí)別技術(shù)在安全監(jiān)控、身份驗(yàn)證等領(lǐng)域有廣泛應(yīng)用，但缺乏統(tǒng)一的原則和限制，可能導(dǎo)致濫用和侵犯隱私的行為。
（三）公眾對(duì)新技術(shù)的新鮮感與知識(shí)空白
公眾常常對(duì)人工智能技術(shù)的新穎性產(chǎn)生興奮和好奇，而更關(guān)注其帶來(lái)的創(chuàng)新和便利。然而，這種新鮮感往往使人們忽視了其中潛在的風(fēng)險(xiǎn)和負(fù)面影響。例如，人工智能換臉技術(shù)能制作逼真的虛擬視頻，但也帶來(lái)了身份偽造、隱私侵犯等潛在風(fēng)險(xiǎn)。公眾往往更傾向于關(guān)注其在娛樂(lè)、社交網(wǎng)絡(luò)等方面的趣味性，而對(duì)其中的倫理和社會(huì)問(wèn)題關(guān)注不夠。
此外，公眾對(duì)人工智能技術(shù)的知識(shí)相對(duì)匱乏也是導(dǎo)致風(fēng)險(xiǎn)的因素之一。雖然人工智能技術(shù)受到廣泛關(guān)注，但社會(huì)群體對(duì)于其具體的工作原理、算法和數(shù)據(jù)處理過(guò)程等方面的了解仍有限，難以準(zhǔn)確評(píng)估其潛在風(fēng)險(xiǎn)和局限性。
賦技于治：相關(guān)保障措施
盡管人工智能的潛力存在很大的不確定性，但它可以降低勞動(dòng)成本和提高生產(chǎn)率，甚至生成與人類(lèi)創(chuàng)造成果無(wú)法區(qū)分的內(nèi)容，并能打破人機(jī)溝通障礙，反映出具有潛在巨大宏觀經(jīng)濟(jì)影響的重大進(jìn)步，如何利用人工智能將社會(huì)推向新的繁榮是值得每個(gè)人思考的問(wèn)題。
從國(guó)際角度來(lái)說(shuō)，國(guó)外科學(xué)家呼吁暫停對(duì)更強(qiáng)大的AI系統(tǒng)的開(kāi)發(fā)，中國(guó)出臺(tái)生成式人工智能服務(wù)管理新規(guī)，都是在人工智能獲得關(guān)鍵突破的關(guān)鍵時(shí)點(diǎn)，針對(duì)人工智能可能的風(fēng)險(xiǎn)隱患，采取理智的防范措施。人工智能的監(jiān)管需要國(guó)際社會(huì)經(jīng)過(guò)評(píng)估，劃出統(tǒng)一的、清晰的安全底線(xiàn)，供各國(guó)共同遵守。
從本國(guó)的視角來(lái)看，各部門(mén)應(yīng)信息共享，加強(qiáng)監(jiān)管。去年12月，國(guó)家網(wǎng)信辦、工信部、公安部聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，對(duì)人臉生成、人臉替換等都有明確約束。國(guó)家相關(guān)部門(mén)應(yīng)繼續(xù)聯(lián)合對(duì)各種出現(xiàn)的新情況進(jìn)行規(guī)制。同時(shí)，相關(guān)部門(mén)應(yīng)去思考如何構(gòu)建一個(gè)既能占領(lǐng)全球技術(shù)高地、又能避免壟斷的國(guó)家級(jí)算力基礎(chǔ)設(shè)施；如何構(gòu)建一個(gè)資源可共享、商業(yè)可持續(xù)、監(jiān)管可包容、金融機(jī)構(gòu)和科技公司可受益的金融算力生態(tài)圈。
提高準(zhǔn)入門(mén)檻可以通過(guò)完善平臺(tái)審核機(jī)制和加強(qiáng)機(jī)制認(rèn)證這兩個(gè)角度考慮。平臺(tái)審核包括對(duì)開(kāi)發(fā)者和供應(yīng)商的背景調(diào)查，對(duì)算法和數(shù)據(jù)集的評(píng)估，以及對(duì)潛在風(fēng)險(xiǎn)和漏洞的審查。而建立人工智能技術(shù)的資質(zhì)認(rèn)證和許可制度可以確保只有具備必要資質(zhì)和能力的實(shí)體才能開(kāi)展相關(guān)業(yè)務(wù)。
明確懲治的相關(guān)群體是減少相關(guān)違法事件的重要一環(huán)。首先應(yīng)責(zé)令發(fā)布者更改刪除相關(guān)不當(dāng)內(nèi)容；其次應(yīng)責(zé)令MCN機(jī)構(gòu)承擔(dān)作為內(nèi)容創(chuàng)作和管理的中介平臺(tái)的責(zé)任，引導(dǎo)其加強(qiáng)對(duì)創(chuàng)作者和內(nèi)容的審核與監(jiān)督；再次平臺(tái)方也需要承擔(dān)部分責(zé)任，因?yàn)樽鳛樘峁┤斯ぶ悄芗夹g(shù)服務(wù)的平臺(tái)，他們有義務(wù)嚴(yán)格管理平臺(tái)內(nèi)容，加強(qiáng)違法內(nèi)容的監(jiān)測(cè)和處理，以保護(hù)用戶(hù)權(quán)益和社會(huì)公共利益；同時(shí)數(shù)據(jù)提供者和數(shù)據(jù)供應(yīng)商也應(yīng)敲響警鐘，確保提供的數(shù)據(jù)合法可靠，避免違法數(shù)據(jù)和技術(shù)被濫用，以維護(hù)其安全和合規(guī)性。
如何通過(guò)全平臺(tái)矩陣的方式提升公眾的數(shù)字素養(yǎng)、自我保護(hù)意識(shí)和法制意識(shí)對(duì)于降低人工智能風(fēng)險(xiǎn)至關(guān)重要。這需要相關(guān)宣傳部門(mén)在日常生活中加強(qiáng)對(duì)于數(shù)字知識(shí)和安全意識(shí)的宣傳，同時(shí)引導(dǎo)公眾群體掌握自己的權(quán)益和維權(quán)途徑，提升維權(quán)能力，遇到問(wèn)題及時(shí)向相關(guān)執(zhí)法機(jī)構(gòu)報(bào)案。
深度合成的驚艷表現(xiàn)昭示了生成式人工智能帶來(lái)的技術(shù)革新，市場(chǎng)為之沸騰的同時(shí)，人工智能的相關(guān)風(fēng)險(xiǎn)逐漸顯現(xiàn)，人類(lèi)可以享受人工智能帶來(lái)的繁榮未來(lái)，但不能沉醉于“AI之夏”，毫無(wú)準(zhǔn)備地陷入秋天。思考如何引導(dǎo)變革性技術(shù)遠(yuǎn)離極端、大規(guī)模且各種新型的風(fēng)險(xiǎn)，轉(zhuǎn)向造福生活是我們的必由之路。
?
