文 | 《中國信息安全》雜志編委會主任、教授 孫學(xué)玉

人工智能正以加速迭代的方式迅猛發(fā)展。它突破網(wǎng)絡(luò)空間的技術(shù)局限，廣泛滲透到政治、經(jīng)濟(jì)、社會、文化等多個(gè)領(lǐng)域，成為引領(lǐng)新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動力，成為支撐國家和地區(qū)優(yōu)先發(fā)展的關(guān)鍵要素，也成為大國科技博弈的戰(zhàn)略制高點(diǎn)。人工智能不僅推動人類社會邁向新的文明階段，同時(shí)也帶來諸多風(fēng)險(xiǎn)挑戰(zhàn)。這些風(fēng)險(xiǎn)背后反映的是人類價(jià)值觀選擇、智慧應(yīng)用和多元協(xié)作。為確保人工智能“向善而生”，我們必須重視研究其潛在風(fēng)險(xiǎn)，科學(xué)評估人工智能風(fēng)險(xiǎn)的具體表現(xiàn)，并采取有針對性的防范與治理措施。

 一、科學(xué)認(rèn)識人工智能本質(zhì)

科學(xué)認(rèn)識人工智能是有效防范治理風(fēng)險(xiǎn)的基礎(chǔ)。作為工業(yè)革命以來最具劃時(shí)代意義的變革技術(shù)，人工智能不僅延展了人類的體力與技能，更重要的是擴(kuò)展了人的心智邊界，并悄然滲透至工作與生活的各個(gè)領(lǐng)域，改變著傳統(tǒng)社會的基本結(jié)構(gòu)和運(yùn)行方式。目前，人們對其認(rèn)知仍處于較淺層面，部分結(jié)論尚屬邏輯推理而非嚴(yán)謹(jǐn)事實(shí)，但其帶來的影響力與沖擊力已清晰可感。

人工智能屬于科學(xué)技術(shù)范疇。研究人工智能功能作用、創(chuàng)新體系等是首責(zé)，但若僅局限于此，忽視其哲學(xué)意義、“類人”表征、社會倫理規(guī)范等，則難免有失全面。從技術(shù)實(shí)現(xiàn)層面看，人工智能是基于數(shù)學(xué)模型建立起來的模擬人類的統(tǒng)計(jì)智能，是讓計(jì)算機(jī)模擬人類行為并具備自主學(xué)習(xí)、推理、決策及創(chuàng)造力的技術(shù)科學(xué)。它通過算法與模型處理數(shù)據(jù)，進(jìn)而完成理解語言、識別圖像、解決問題等原本依賴人類智慧的任務(wù)，可視為一種數(shù)據(jù)模式的擬合工具和賦能技術(shù)，是人類用以理解世界、創(chuàng)造未來的新型工具。其底層邏輯涉及諸多關(guān)鍵領(lǐng)域和技術(shù)，包括搜索、計(jì)算機(jī)視聽覺、自然語言處理、多智能體系統(tǒng)和可信人工智能等。其核心是從數(shù)據(jù)中學(xué)習(xí)規(guī)律，借助復(fù)雜的數(shù)學(xué)函數(shù)模擬人類思維過程，實(shí)現(xiàn)判斷和預(yù)測。從這個(gè)意義上說，人工智能的本質(zhì)是賦予機(jī)器具有人類甚至超越人類的技能和智慧。

人工智能具有對人類的替代性。如今，越來越多的軟件工程師借助人工智能編寫代碼，逐漸從基礎(chǔ)編碼工作中解放出來，這使得傳統(tǒng)角色面臨深刻轉(zhuǎn)型。職位晉升路徑不再完全依賴底層技術(shù)實(shí)操，個(gè)人身份標(biāo)識漸趨淡化，取而代之的是面向“客戶”需求的實(shí)際問題解決能力。未來，國民財(cái)富總量取決于人工智能發(fā)展規(guī)模和人工智能效率水平。當(dāng)具備類人能力的智能體數(shù)量遠(yuǎn)超人類時(shí)，勞動力成本大幅降低，產(chǎn)品價(jià)格降至極低水平，人類“賦閑”成為普遍生活狀態(tài)，“勞動獲益”的傳統(tǒng)分配觀念和契約關(guān)系必然受到?jīng)_擊，推動社會加速向“按需獲益”的豐裕階段演進(jìn)。同時(shí)，人工智能也將深刻重塑社會組織結(jié)構(gòu)。過去，工業(yè)革命將分散的勞動主體集中起來，創(chuàng)造出規(guī)模化經(jīng)濟(jì)與社會收益?，F(xiàn)在，人工智能則推動勞動力“再分化”，催生遠(yuǎn)程辦公、即時(shí)協(xié)同、虛實(shí)融合等新型工作模式。在這一“去中心化”的趨勢下，傳統(tǒng)集中式機(jī)構(gòu)——如學(xué)校、醫(yī)院、監(jiān)獄、軍隊(duì)及商場實(shí)體等，是否仍有必要維持現(xiàn)有形態(tài)，均需重新審視并做出適應(yīng)性變革。

人工智能可以擴(kuò)展人類能力。人工智能創(chuàng)設(shè)的初衷是為了解決特定問題、高效執(zhí)行任務(wù)，而非復(fù)制人類智能。它是否可能具備甚至超越人類思想意識與價(jià)值觀，目前的觀點(diǎn)尚存分歧。一種觀點(diǎn)認(rèn)為，人工智能難以成為具備通用智能的生命體，無論其如何發(fā)展與迭代，人類始終是主導(dǎo)者。例如，人工智能可以輔助醫(yī)生分析影像，但如何判定結(jié)果、開展診治，需要醫(yī)生根據(jù)經(jīng)驗(yàn)做出判斷和決策。從這層意義上看，人工智能作為工具具有“雙刃劍”屬性：既可能成為助力人類的伙伴，也可能因使用不當(dāng)帶來風(fēng)險(xiǎn)；其發(fā)展可能帶來向善的結(jié)果，也可能被誤用而作惡；既可能推動社會進(jìn)入更美好的時(shí)代，也可能因失控引發(fā)問題。若將人工智能的自主性過度放大甚至神化，對其過度依賴或盲目崇拜，可能反映出人類認(rèn)知的局限或隱藏其他意圖。也有觀點(diǎn)認(rèn)為，超級人工智能或?qū)⒁?/span>“新物種”形態(tài)出現(xiàn)，形成獨(dú)特的語言體系和社會“關(guān)系網(wǎng)”，與人類形成競爭關(guān)系，甚至最終反噬人類。這一設(shè)想是純粹幻想還是基于科學(xué)推理的預(yù)見，尚需時(shí)間檢驗(yàn)。

從哲學(xué)角度看，人工智能可被視為人類本質(zhì)力量的對象化體現(xiàn)。不同于其他材料制作的工具，人工智能作為一種能夠模擬人類智能的技術(shù)存在，體現(xiàn)出一定程度的“活體”屬性，與人類形成深度的協(xié)作共生關(guān)系。因此，對人工智能的探討不能僅停留在技術(shù)層面，而應(yīng)進(jìn)行哲學(xué)意義上的生命反思，將其納入社會要素的綜合考量，并強(qiáng)化倫理道德的約束與引導(dǎo)。若把人工智能視為受市場機(jī)制調(diào)節(jié)的社會主體，則可能產(chǎn)生外部性問題，出現(xiàn)失靈現(xiàn)象。部分追求利益最大化的技術(shù)主體，將利用人工智能的隱匿性與獨(dú)占性壟斷相關(guān)收益，加劇社會發(fā)展的不均衡。因此，面對人工智能帶來的各類風(fēng)險(xiǎn)，政府有必要積極履行公共職能，預(yù)先設(shè)定規(guī)范邊界，有效防范風(fēng)險(xiǎn)失控，引導(dǎo)人工智能朝著符合人類整體利益的方向發(fā)展。

二、深入研究人工智能風(fēng)險(xiǎn)

被譽(yù)為“人工智能教父”的杰弗里·辛頓多次警示，“人類沒什么特殊、我們并不安全”；《人類簡史》作者尤瓦爾·赫拉利提醒人們，“人工智能不單是人類使用的工具，還是其可以自主掌控的‘殺人刀’”。這些觀點(diǎn)反映出對人工智能潛在風(fēng)險(xiǎn)的深切憂慮，值得高度關(guān)注。人工智能風(fēng)險(xiǎn)不僅是技術(shù)失控的產(chǎn)物，也源于其與人類價(jià)值觀之間的對齊偏差，對人類構(gòu)成真實(shí)、嚴(yán)峻且多層次的威脅。因此，對人工智能風(fēng)險(xiǎn)的研究不能僅停留在技術(shù)層面，而應(yīng)從技術(shù)安全、社會影響、倫理規(guī)范和法律監(jiān)管等多個(gè)維度分析。在此基礎(chǔ)上，還需提高人工智能風(fēng)險(xiǎn)檢測能力，創(chuàng)新風(fēng)險(xiǎn)防御技術(shù)，構(gòu)建有效的治理框架，防止技術(shù)被濫用或惡意使用，確保人工智能始終服務(wù)于人類社會的整體利益。

國家安全風(fēng)險(xiǎn)問題。人工智能技術(shù)的發(fā)展將對國家主權(quán)、軍事安全等傳統(tǒng)安全領(lǐng)域構(gòu)成嚴(yán)峻挑戰(zhàn)，其軍事化的應(yīng)用及相關(guān)競爭正深刻改變著國家間的博弈方式與戰(zhàn)爭形態(tài)，使各國面臨無形戰(zhàn)場上的多重壓力。一是引發(fā)全球新的競爭。西方主要國家紛紛將發(fā)展人工智能提升至國家戰(zhàn)略層面，推動大模型跨國落地應(yīng)用，試圖主導(dǎo)人工智能演進(jìn)路徑與規(guī)則體系；同時(shí)，加強(qiáng)對數(shù)據(jù)跨境流動管控，高筑數(shù)據(jù)壁壘，限制他國人工智能產(chǎn)品與服務(wù)的市場準(zhǔn)入。美國尤其加強(qiáng)對中國的技術(shù)封鎖，試圖切斷關(guān)鍵技術(shù)和產(chǎn)品供應(yīng)鏈，對我國人工智能產(chǎn)業(yè)發(fā)展形成現(xiàn)實(shí)挑戰(zhàn)。二是加劇軍備競賽。社會發(fā)展規(guī)律表明，技術(shù)革新一旦與軍事目的結(jié)合，將進(jìn)一步激化軍事競爭。人工智能不僅關(guān)乎商業(yè)競爭、文化比拼，更直接牽動軍備競賽。武器化趨勢為軍事技術(shù)研發(fā)、開展軍事戰(zhàn)略分析和情報(bào)搜集提供了新方法與新路徑，推動戰(zhàn)爭形態(tài)加速向混合戰(zhàn)方向演進(jìn)。三是導(dǎo)致發(fā)展失衡。國際勞工組織于2024年發(fā)布的《注意人工智能鴻溝：塑造關(guān)于未來工作的全球視野》報(bào)告指出，隨著全球經(jīng)濟(jì)加速向人工智能驅(qū)動轉(zhuǎn)型，欠發(fā)達(dá)國家面臨著被更遠(yuǎn)落下的局面，加劇與發(fā)達(dá)國家間經(jīng)濟(jì)和社會發(fā)展鴻溝。人工智能將重塑社會權(quán)力結(jié)構(gòu)，掌握核心技術(shù)的國家或企業(yè)可能擁有無限增長的權(quán)力，加劇國際力量對比的位差和不平等。在就業(yè)層面，普通勞動者面臨失業(yè)風(fēng)險(xiǎn)，而資本與技術(shù)所有者的獲利能力進(jìn)一步增強(qiáng)，可能放大“富者愈富、窮者愈窮”的馬太效應(yīng)。

社會倫理隱患問題。人工智能技術(shù)可能形成獨(dú)立于人類思維系統(tǒng)，甚至被用于發(fā)起更復(fù)雜的網(wǎng)絡(luò)攻擊、開發(fā)應(yīng)用高危自主性武器，對社會穩(wěn)定構(gòu)成威脅。一是認(rèn)知操控。人工智能通過算法根據(jù)用戶偏好推送內(nèi)容，導(dǎo)致個(gè)體長期處于信息同質(zhì)化環(huán)境中，深陷“信息繭房”。近年來，受算法推薦機(jī)制影響，社交媒體上虛假信息的傳播率顯著上升。此外，利用人工智能生成的虛假圖像、視頻和音頻，用于編造新聞及政治言論，操縱輿論，不僅影響公眾判斷，也加劇了社會信任危機(jī)。二是責(zé)任追償。人工智能派生出物理與現(xiàn)實(shí)域交互風(fēng)險(xiǎn)，將涉及責(zé)任主體與追償問題。例如，自動駕駛事故或醫(yī)療系統(tǒng)誤診，會使得責(zé)任主體的認(rèn)定變得復(fù)雜。現(xiàn)有的法律體系在界定人工智能相關(guān)責(zé)任時(shí)存在模糊地帶，未來需構(gòu)建更加清晰的司法問責(zé)和裁定框架，促使開發(fā)者更負(fù)責(zé)任地推進(jìn)技術(shù)迭代。三是人才擠兌。人工智能的智力與算力發(fā)展可能超越個(gè)體乃至整體人類的能力，不僅替代部分流程化、重復(fù)性工作，其替代范圍還可能進(jìn)一步擴(kuò)大。國際貨幣基金組織預(yù)測，全球約40%的崗位將受到人工智能的影響，尤其是生產(chǎn)線工人、客服、數(shù)據(jù)錄入員等。實(shí)際上，職位受沖擊被替代的遠(yuǎn)不止這些藍(lán)領(lǐng)階層，相反，受沖擊最大的可能是那些曾經(jīng)身份光鮮的白領(lǐng)階層。與此同時(shí)，一些國家出現(xiàn)高失業(yè)率與高經(jīng)濟(jì)增長并存的“經(jīng)濟(jì)悖論”現(xiàn)象，反映出人工智能在提升生產(chǎn)效率的同時(shí)，也可能加劇結(jié)構(gòu)性失業(yè)與財(cái)富分配不公以及經(jīng)濟(jì)發(fā)展失衡等問題。在此背景下，政府如何推動勞動力轉(zhuǎn)型、設(shè)計(jì)基本收入分配制度、重構(gòu)社會福利模式，將成為各國亟待應(yīng)對的公共治理課題。

技術(shù)安全漏洞問題。人工智能技術(shù)涉及算法、數(shù)據(jù)、系統(tǒng)和可解釋性等多個(gè)層面，其內(nèi)在脆弱性不容忽視。算法與模型普遍面臨對抗樣本攻擊、模型過擬合及算法偏見等問題，即便對輸入數(shù)據(jù)進(jìn)行細(xì)微改動，也會導(dǎo)致不一樣的輸出。過度復(fù)雜的數(shù)據(jù)擬合使大模型在真實(shí)場景中難有理想表現(xiàn)，從而出現(xiàn)不可解釋性結(jié)果。一是系統(tǒng)安全威脅。人工智能的互聯(lián)性增加了網(wǎng)絡(luò)空間安全漏洞的暴露面，攻擊者可以利用人工智能技術(shù)生成惡意軟件，實(shí)施自動化網(wǎng)絡(luò)攻擊。大模型訓(xùn)練依賴海量數(shù)據(jù)，促使各類機(jī)構(gòu)進(jìn)行大規(guī)模數(shù)據(jù)收集使用，導(dǎo)致數(shù)據(jù)邊界模糊，加劇隱私泄露風(fēng)險(xiǎn)。當(dāng)前，人臉識別、指紋驗(yàn)證等生物識別技術(shù)在公共服務(wù)、社區(qū)管理等領(lǐng)域廣泛應(yīng)用，若監(jiān)管不足，可能導(dǎo)致監(jiān)督技術(shù)被濫用，侵犯個(gè)人隱私。如何在促進(jìn)數(shù)據(jù)驅(qū)動創(chuàng)新與保護(hù)個(gè)人隱私之間取得平衡，明確數(shù)據(jù)所有權(quán)歸屬等，法律應(yīng)當(dāng)作出清晰明確的規(guī)定。二是算法偏見。訓(xùn)練數(shù)據(jù)來源復(fù)雜，可能隱含人類歷史上存在的種族、性別、地域等歧視性信息。這些偏見會被人工智能系統(tǒng)放大，進(jìn)而影響就業(yè)、信貸、司法等關(guān)鍵領(lǐng)域的公平?jīng)Q策。確保算法公平性不僅依賴高質(zhì)量、無偏見的數(shù)據(jù)，也需從技術(shù)設(shè)計(jì)和政策規(guī)范層面系統(tǒng)應(yīng)對，這已成為一項(xiàng)重要的社會治理課題。三是超級對齊。若能力強(qiáng)大的人工智能系統(tǒng)未能與人類價(jià)值觀和目標(biāo)有效對齊，可能產(chǎn)生難以預(yù)料的后果。例如，為緩解交通壓力而設(shè)定的指令，可能被曲解為禁止車輛通行；應(yīng)對氣候變化的指令，也可能被錯(cuò)誤執(zhí)行為過度限制人類正?；顒?。

三、有效治理人工智能風(fēng)險(xiǎn)

人工智能帶來的風(fēng)險(xiǎn)已逐步顯現(xiàn)，對其討論并加以治理并非為了制造恐慌，而是為了引導(dǎo)技術(shù)朝著安全、可控、可持續(xù)的方向發(fā)展。治理必須與風(fēng)險(xiǎn)同步推進(jìn)，做到技術(shù)應(yīng)用拓展到哪里，監(jiān)管框架就覆蓋到哪里。

將安全戰(zhàn)略前置。對人工智能關(guān)鍵領(lǐng)域進(jìn)行前置性、預(yù)防性戰(zhàn)略設(shè)計(jì)，構(gòu)建自主可控的內(nèi)生式網(wǎng)絡(luò)安全體系。通過明確安全基線，在產(chǎn)品上市前落實(shí)強(qiáng)制性安全標(biāo)準(zhǔn)，杜絕“帶病上線”，使事后補(bǔ)救僅作為輔助手段。戰(zhàn)略設(shè)計(jì)應(yīng)具備前瞻性和系統(tǒng)性，明確行為邊界，避免陷入“碎片化應(yīng)對”的被動局面，實(shí)現(xiàn)從“事后修補(bǔ)”向“全程防控”的轉(zhuǎn)變。

加強(qiáng)技術(shù)創(chuàng)新提升。針對人工智能應(yīng)用的廣泛性與復(fù)雜性，監(jiān)管機(jī)構(gòu)需持續(xù)發(fā)展可解釋、強(qiáng)魯棒、能對齊的監(jiān)管技術(shù)，從機(jī)制上識別并抑制算法偏見、防范失控風(fēng)險(xiǎn)。要善用技術(shù)手段應(yīng)對技術(shù)挑戰(zhàn)，例如，通過審計(jì)算法評估其公平性并監(jiān)測市場風(fēng)險(xiǎn)，提升監(jiān)管效率和精準(zhǔn)度。

發(fā)展與治理并行。人工智能技術(shù)的迭代速度遠(yuǎn)超立法與治理體系的響應(yīng)速度，傳統(tǒng)監(jiān)管模式已難以適應(yīng)其發(fā)展特點(diǎn)。因此，監(jiān)管部門有必要采取敏捷治理方式，在監(jiān)管框架中兼顧原則性與彈性，既避免過早施加過度限制阻礙創(chuàng)新，也防止放任自流釀成系統(tǒng)性風(fēng)險(xiǎn)?？稍诳煽丨h(huán)境中開展測試與創(chuàng)新，通過風(fēng)險(xiǎn)動態(tài)評估逐步完善規(guī)則，讓法律法規(guī)、標(biāo)準(zhǔn)規(guī)范與技術(shù)發(fā)展同步推進(jìn)。歐盟《人工智能法案》與我國《生成式人工智能服務(wù)管理暫行辦法》等實(shí)踐，都是此類治理理念的積極體現(xiàn)。此外，可鼓勵(lì)社會力量參與監(jiān)督，例如，在開源監(jiān)督平臺建立人工智能舉報(bào)系統(tǒng)，引導(dǎo)公眾反饋算法偏見等問題，提升監(jiān)督回應(yīng)速度和精準(zhǔn)度。

倫理規(guī)范與道德遵從。人工智能在造福人類的同時(shí)也伴生倫理風(fēng)險(xiǎn)，必須在研究開發(fā)過程中遵循相應(yīng)價(jià)值理念和行為規(guī)范。愛因斯坦曾言，“科學(xué)是一種強(qiáng)有力的工具，如何使用它取決于人類自己”。人類創(chuàng)造人工智能的根本目的是使其服務(wù)于人，而非被其反制。必須確保人工智能始終處于人類控制之下，并在行業(yè)和社會層面形成倫理共識，將其作為法律制定和技術(shù)標(biāo)準(zhǔn)設(shè)計(jì)的價(jià)值基礎(chǔ)?？稍谄髽I(yè)內(nèi)部設(shè)立“人工智能倫理委員會”，將倫理設(shè)計(jì)融入開發(fā)流程，從源頭防范倫理失范。

教育普及跟進(jìn)。加強(qiáng)人工智能教育培訓(xùn)，提升全民人工智能素養(yǎng)。國民教育體系，應(yīng)從中小學(xué)起開設(shè)人工智能課程，注重培養(yǎng)青少年的興趣、應(yīng)用能力及倫理意識，引導(dǎo)其從體驗(yàn)、認(rèn)知走向理解與創(chuàng)新，而非單純記憶知識；鼓勵(lì)學(xué)生提出問題、參與設(shè)計(jì)，強(qiáng)化批判性思維和解決實(shí)際問題的能力。在社會層面，應(yīng)廣泛開展人工智能安全與倫理教育，通過科普宣傳、社區(qū)培訓(xùn)、開放反饋渠道等方式，提升公眾對算法偏見、數(shù)據(jù)隱私等風(fēng)險(xiǎn)的認(rèn)知與辨別能力，形成社會協(xié)同監(jiān)督機(jī)制。針對領(lǐng)導(dǎo)干部，應(yīng)增強(qiáng)其人工智能風(fēng)險(xiǎn)意識和治理能力，使其在資源分配、政策制定中把握好發(fā)展與安全的平衡，當(dāng)好人工智能應(yīng)用推廣的“引導(dǎo)者”、產(chǎn)業(yè)轉(zhuǎn)型的“促進(jìn)者”、數(shù)字鴻溝的“彌合者”和公眾權(quán)益的“維護(hù)者”。

四、妥善處理好幾對關(guān)系

有效治理人工智能風(fēng)險(xiǎn)，需統(tǒng)籌把握人工智能與人類、人工智能發(fā)展與安全、技術(shù)創(chuàng)新與政府監(jiān)管、多元競爭與共同合作的關(guān)系，構(gòu)建動態(tài)平衡、兼容并蓄的治理機(jī)制。

人工智能與人類的關(guān)系。人工智能的出現(xiàn)，讓人類首次面臨非生物形態(tài)的“類主體”挑戰(zhàn)，其無形無影、來去無蹤的特性，易引發(fā)人類的認(rèn)知迷茫甚至生存焦慮。人工智能源于人類智慧，其發(fā)展必須始終以服務(wù)人類為根本宗旨。同時(shí)，人工智能不僅是一種工具，更逐漸成為人類的“協(xié)作伙伴”，人機(jī)協(xié)同將推動社會在法律倫理框架、治理結(jié)構(gòu)及社會分工等方面進(jìn)行系統(tǒng)性重構(gòu)。

人工智能發(fā)展與安全的關(guān)系。人工智能發(fā)展必須設(shè)定紅線與底線。政府需在鼓勵(lì)技術(shù)創(chuàng)新、產(chǎn)業(yè)孵化與應(yīng)用場景落地的同時(shí)，為人工智能創(chuàng)造包容審慎的發(fā)展環(huán)境，充分釋放其賦能生產(chǎn)力的潛力。此外，還需將國家、社會與公民安全的要求深度嵌入技術(shù)研發(fā)、模型訓(xùn)練、場景應(yīng)用的全生命周期，確保其在倫理與安全閾值內(nèi)有序推進(jìn)。例如，利用人工智能生成虛假信息、煽動民族仇恨、宣揚(yáng)恐怖主義甚至生成危害國家安全和社會穩(wěn)定的內(nèi)容，均屬于觸碰安全紅線的行為，必須嚴(yán)格禁止。從另一角度看，人工智能作為時(shí)代標(biāo)識性技術(shù)，任何國家和地區(qū)都不能因其存在潛在風(fēng)險(xiǎn)而拒絕或放棄發(fā)展。故步自封只會導(dǎo)致技術(shù)與治理脫節(jié)，反而可能引發(fā)更大的系統(tǒng)性風(fēng)險(xiǎn)。因此，安全不是發(fā)展的對立，而是動態(tài)的平衡和制度的保障。

技術(shù)創(chuàng)新與政府監(jiān)管的關(guān)系。人工智能的發(fā)展是根本，監(jiān)管旨在為其提供更健康、可持續(xù)的發(fā)展環(huán)境。合理的監(jiān)管與創(chuàng)新相輔相成，有效的監(jiān)管能夠?yàn)閯?chuàng)新提供安全環(huán)境，而創(chuàng)新則為監(jiān)管提供新的思路與方法，二者的良性互動共同促進(jìn)人工智能技術(shù)的廣泛應(yīng)用和快速發(fā)展。須認(rèn)識到，法治建設(shè)通常滯后于技術(shù)發(fā)展，而立法行為本身又具有導(dǎo)向性，因而必須審慎而為。歷史經(jīng)驗(yàn)證明，限制或控制一種創(chuàng)新技術(shù)往往是徒勞的，若在技術(shù)發(fā)展初期忽視潛在風(fēng)險(xiǎn)，待問題顯現(xiàn)時(shí)可能已難以有效管控。因此，政府對人工智能的監(jiān)管應(yīng)構(gòu)建具有原則性、包容性和彈性的治理框架，堅(jiān)持敏捷治理和分類施策，實(shí)現(xiàn)法律法規(guī)、標(biāo)準(zhǔn)規(guī)范與技術(shù)創(chuàng)新同步推進(jìn)。監(jiān)管既要避免過早或過度干預(yù)抑制創(chuàng)新活力，也要防止對風(fēng)險(xiǎn)視而不見、累積系統(tǒng)性隱患。對人工智能發(fā)展過程中出現(xiàn)的苗頭性、傾向性應(yīng)用及社會影響，應(yīng)及時(shí)開展多維度討論與評估，發(fā)揮“監(jiān)管沙盒”等試驗(yàn)性機(jī)制的作用，積極引導(dǎo)技術(shù)走向合規(guī)、向善的發(fā)展路徑。

多元競爭與共同合作的關(guān)系。科技的飛速發(fā)展與全球化的深入推進(jìn)，使科技領(lǐng)域的競爭格局日趨多元復(fù)雜。人工智能風(fēng)險(xiǎn)具有跨國界、無疆域的特點(diǎn)，一旦發(fā)生重大安全事故，其影響必將波及全人類。因此，防范與治理人工智能風(fēng)險(xiǎn)必須依靠國際協(xié)同與多元共治，形成政府、企業(yè)、研究機(jī)構(gòu)、社會組織及公眾共同參與的治理網(wǎng)絡(luò)，而非零和博弈或單邊行動。應(yīng)推動形成全球性的最低標(biāo)準(zhǔn)共識，避免出現(xiàn)監(jiān)管“洼地”和惡性競爭。正如全球核治理有核武器不擴(kuò)散條約，人工智能治理也需要構(gòu)建類似的國際公約體系，約束其發(fā)展，始終服務(wù)于人類福祉，防范被誤用、濫用甚至惡用。國際社會應(yīng)以開放包容的態(tài)度，加強(qiáng)溝通協(xié)作，不斷調(diào)整創(chuàng)新協(xié)作合作機(jī)制，共同應(yīng)對風(fēng)險(xiǎn)挑戰(zhàn)，在競爭中謀求合作，在合作中管控競爭，最終實(shí)現(xiàn)共同繁榮與可持續(xù)的全球治理格局。

（本文刊登于《中國信息安全》雜志2026年第2期）

作者簡介：

孫學(xué)玉，全國政協(xié)委員，國家民族事務(wù)委員會原副部長級專職委員，國家“十四五”規(guī)劃重大工程項(xiàng)目《中華民族交往交流交融史》編纂委員會副主任兼辦公室主任，《中國信息安全》雜志編委會主任，教授、博士生導(dǎo)師。曾任中央人才工作協(xié)調(diào)小組辦公室主任、中央組織部干部教育局局長，兼任教育部“長江學(xué)者”獎勵(lì)計(jì)劃評審委員會委員、國務(wù)院學(xué)位委員會公共管理專業(yè)碩士學(xué)位教育指導(dǎo)委員副主任委員等。