鄭 戈

國務(wù)院近日印發(fā)《關(guān)于深入實(shí)施“人工智能+”行動的意見》（以下簡稱《意見》），標(biāo)志著我國人工智能治理邁入系統(tǒng)推進(jìn)的新階段。《意見》明確提出強(qiáng)化八項基礎(chǔ)支撐能力，其中“強(qiáng)化政策法規(guī)保障”與“提升安全能力水平”兩項部署，既延續(xù)了“有序創(chuàng)新”的治理邏輯，又針對新興風(fēng)險作出前瞻性安排，為全球數(shù)字治理貢獻(xiàn)了中國方案。

我國人工智能立法始終堅持發(fā)展與安全的動態(tài)平衡。不同于歐盟以“風(fēng)險規(guī)避”為導(dǎo)向的嚴(yán)格監(jiān)管，也區(qū)別于美國對內(nèi)寬松、對外技術(shù)封鎖的策略，《意見》強(qiáng)調(diào)完善法律法規(guī)和倫理準(zhǔn)則，推進(jìn)人工智能健康發(fā)展相關(guān)立法工作，旨在守住安全底線的同時為技術(shù)創(chuàng)新預(yù)留合理空間。

這一理念在地方實(shí)踐中已有印證。例如，《深圳經(jīng)濟(jì)特區(qū)人工智能產(chǎn)業(yè)促進(jìn)條例》首創(chuàng)“先行先試”機(jī)制，對符合國際先進(jìn)產(chǎn)品標(biāo)準(zhǔn)或規(guī)范的低風(fēng)險人工智能產(chǎn)品，允許開展測試與試點(diǎn)；上海出臺《上海市進(jìn)一步擴(kuò)大人工智能應(yīng)用的若干措施》，安排專項資金，通過發(fā)放“模型券”“算力券”鼓勵企業(yè)使用人工智能技術(shù)和算力資源，并設(shè)定合理的申請條件以確保政策效果，引導(dǎo)企業(yè)兼顧創(chuàng)新與責(zé)任。兩地通過分級監(jiān)管、倫理審查和沙盒機(jī)制等創(chuàng)新，推動企業(yè)將合規(guī)內(nèi)化為發(fā)展自覺，為國家層面法律和政策的制定積累了寶貴經(jīng)驗。

在安全治理方面，《意見》提出構(gòu)建“動態(tài)敏捷、多元協(xié)同”的治理體系，強(qiáng)化對算法歧視、模型黑箱、輸出幻覺等風(fēng)險的防控。目前，北京石景山區(qū)等地已將算法備案作為企業(yè)享受政策扶持的前提。這些探索表明，制度約束與技術(shù)治理正逐步融合，促進(jìn)治理實(shí)效不斷提升。

《意見》強(qiáng)調(diào)完善法律法規(guī)與倫理準(zhǔn)則等，其關(guān)鍵在于將倫理原則轉(zhuǎn)化為可操作的技術(shù)標(biāo)準(zhǔn)。我國采取“標(biāo)準(zhǔn)先行”策略，如國家人工智能標(biāo)準(zhǔn)化總體組及全國信標(biāo)委人工智能分委會發(fā)布《人工智能倫理治理標(biāo)準(zhǔn)化指南》，提出公平性、可解釋性等評估框架等。這種“倫理技術(shù)化”模式，使“科技向善”從道德倡導(dǎo)轉(zhuǎn)變?yōu)榭蓽y量、可驗證的工程實(shí)踐，增強(qiáng)了治理的精準(zhǔn)性與執(zhí)行力。

在安全評估與備案制度優(yōu)化方面，《意見》積極回應(yīng)了當(dāng)前監(jiān)管實(shí)踐中面臨的實(shí)際挑戰(zhàn)。目前，生成式人工智能備案需提交大量材料，初創(chuàng)企業(yè)單次合規(guī)成本可能高達(dá)數(shù)十萬元甚至數(shù)百萬元，這種制度性成本會在一定程度上抑制企業(yè)創(chuàng)新的積極性。對此，《意見》提出“分類分級”治理思路，即依據(jù)應(yīng)用風(fēng)險等級實(shí)施差異化監(jiān)管：高風(fēng)險領(lǐng)域嚴(yán)格審查，中低風(fēng)險領(lǐng)域則簡化流程、降低門檻。這一治理思路既能提升監(jiān)管工作的精準(zhǔn)度與效率，也能切實(shí)為企業(yè)減輕合規(guī)負(fù)擔(dān)，更好平衡安全監(jiān)管與創(chuàng)新發(fā)展的關(guān)系。

全球治理經(jīng)驗也表明，有效的人工智能治理體系需超越監(jiān)管抑制創(chuàng)新的二元對立。日本設(shè)立內(nèi)閣直管的“AI戰(zhàn)略本部”，統(tǒng)籌技術(shù)發(fā)展與倫理規(guī)制；巴西引入“監(jiān)管沙盒”機(jī)制，允許企業(yè)在監(jiān)督下測試自動駕駛等高風(fēng)險技術(shù)?！兑庖姟烦珜?dǎo)多元協(xié)同治理，正推動形成政府、企業(yè)、科研機(jī)構(gòu)和社會公眾共同參與的治理網(wǎng)絡(luò)。例如，深港跨境數(shù)據(jù)驗證平臺就是由深圳前海管理局、香港科技園與微眾銀行等聯(lián)合建設(shè)，運(yùn)用新型數(shù)據(jù)驗證技術(shù)和安全機(jī)制，大幅簡化了企業(yè)在跨境業(yè)務(wù)中的信用核查流程，體現(xiàn)了多方協(xié)作的治理效能。

隨著人工智能向能源、生物、醫(yī)療等高風(fēng)險領(lǐng)域加速滲透，治理體系需持續(xù)升級?！兑庖姟芬蠼⒔∪斯ぶ悄芗夹g(shù)監(jiān)測、風(fēng)險預(yù)警和應(yīng)急響應(yīng)體系。實(shí)踐中，應(yīng)整合司法、網(wǎng)信、工信等部門的數(shù)據(jù)與執(zhí)法資源，通過數(shù)據(jù)共享與智能分析提升風(fēng)險識別與協(xié)同處置能力，形成跨領(lǐng)域、跨區(qū)域的聯(lián)防聯(lián)控機(jī)制。

人工智能治理的本質(zhì)，是技術(shù)進(jìn)步與文明價值的協(xié)同演進(jìn)。具有中國特色的“有序創(chuàng)新”范式，通過分級分類監(jiān)管平衡發(fā)展與安全，以技術(shù)標(biāo)準(zhǔn)筑牢倫理底線，這種制度彈性與標(biāo)準(zhǔn)融合的路徑，可以說為全球人工智能治理提供了可借鑒的新范式。

（作者系上海交通大學(xué)凱原法學(xué)院教授，上海交通大學(xué)涉及人的科技研究倫理委員會委員）