近年來(lái)，生成式人工智能、深度合成等新技術(shù)快速發(fā)展，為人們的生產(chǎn)生活帶來(lái)極大便利，但同時(shí)也伴生出虛假信息傳播、惡意內(nèi)容生成等諸多新問題。為促進(jìn)人工智能健康發(fā)展，規(guī)范人工智能生成合成內(nèi)容標(biāo)識(shí)，國(guó)家互聯(lián)網(wǎng)信息辦公室等四部門制定了《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》（以下簡(jiǎn)稱《辦法》），并于2025年9月1日起施行。

這部新規(guī)的施行，對(duì)于當(dāng)前虛假消息傳播、惡意內(nèi)容生成等AI領(lǐng)域亂象的治理，有哪些現(xiàn)實(shí)意義和價(jià)值？未來(lái)應(yīng)如何壓實(shí)平臺(tái)主體責(zé)任，確保《辦法》的相關(guān)要求能夠得到有效落實(shí)？在推動(dòng)新規(guī)實(shí)施過程中，又可以通過哪些措施不斷提升用戶合規(guī)意識(shí)？日前，法治網(wǎng)研究院邀請(qǐng)南開大學(xué)法學(xué)院副院長(zhǎng)陳兵、中國(guó)政法大學(xué)數(shù)據(jù)法治研究院教授王立梅、中國(guó)人民大學(xué)人工智能治理研究院研究員黃尹旭、《法治日?qǐng)?bào)》律師專家?guī)斐蓡T張?jiān)蒲?，圍繞相關(guān)話題展開一場(chǎng)深度對(duì)談。

01

法治網(wǎng)研究院：9月1日，人工智能領(lǐng)域這部備受矚目的《辦法》已正式施行，您如何看待這一新規(guī)的作用和價(jià)值？

陳兵：近年來(lái)，人工智能生成合成內(nèi)容逼真程度不斷提高，虛假消息傳播、惡意內(nèi)容生成等風(fēng)險(xiǎn)日益凸顯，嚴(yán)重削弱了民眾對(duì)網(wǎng)絡(luò)傳播內(nèi)容的信任根基。

我認(rèn)為，《辦法》的出臺(tái)能夠有效遏制AI內(nèi)容亂象。從保障信息安全角度看，《標(biāo)識(shí)辦法》通過明確要求服務(wù)提供者對(duì)生成合成內(nèi)容添加顯式和隱式標(biāo)識(shí)，使內(nèi)容具備可追溯性，從源頭遏制虛假信息的傳播。

從技術(shù)進(jìn)步以及產(chǎn)業(yè)發(fā)展的角度看，它促進(jìn)了人工智能技術(shù)的規(guī)范化發(fā)展，提升了技術(shù)的透明度，有助于規(guī)范相關(guān)服務(wù)提供者、內(nèi)容傳播服務(wù)提供者以及用戶在AI內(nèi)容生成、傳播過程中的各類行為。

從統(tǒng)籌發(fā)展與安全的角度看，在防范技術(shù)濫用風(fēng)險(xiǎn)的同時(shí)，為產(chǎn)業(yè)創(chuàng)新預(yù)留空間，有助于推動(dòng)人工智能健康有序發(fā)展。最終，《辦法》能夠促進(jìn)人工智能技術(shù)的透明度與可信度的提升，確保人工智能實(shí)現(xiàn)堅(jiān)持高質(zhì)量發(fā)展與高水平安全良性互動(dòng)。

黃尹旭：《辦法》構(gòu)建了客觀判斷標(biāo)準(zhǔn)，為平臺(tái)治理提供了具象化參照，明確了生成合成內(nèi)容的界定、標(biāo)識(shí)方式及未標(biāo)識(shí)后果；同時(shí)，其也明確了責(zé)任承擔(dān)，劃分了用戶主動(dòng)標(biāo)識(shí)義務(wù)與平臺(tái)審核監(jiān)督義務(wù)，構(gòu)建了清晰的責(zé)任鏈條；此外，它還提升了規(guī)則公開性與可預(yù)期性，遏制了平臺(tái)權(quán)力濫用風(fēng)險(xiǎn)，明確規(guī)范了平臺(tái)行權(quán)邊界。

可以說，《辦法》體現(xiàn)了人工智能治理從以往的被動(dòng)響應(yīng)，邁向了主動(dòng)建構(gòu)的新階段，既著眼于防范技術(shù)風(fēng)險(xiǎn)，更可經(jīng)由“標(biāo)識(shí)”這一新型法律工具，推進(jìn)變革數(shù)字時(shí)代的法律關(guān)系、責(zé)任倫理與創(chuàng)新生態(tài)，是對(duì)技術(shù)向善理念的制度化詮釋。

02

法治網(wǎng)研究院：我們注意到，針對(duì)《辦法》相關(guān)要求，騰訊、抖音、B站、快手、DeepSeek等眾多平臺(tái)均在第一時(shí)間予以響應(yīng)，紛紛出臺(tái)了各自的細(xì)化規(guī)則。對(duì)于未來(lái)如何進(jìn)一步壓實(shí)平臺(tái)主體責(zé)任，您有哪些建議？

王立梅：我認(rèn)為，需要以平衡理念推動(dòng)平臺(tái)主體責(zé)任落實(shí)。一方面，平臺(tái)應(yīng)加強(qiáng)技術(shù)能力，開發(fā)AI生成內(nèi)容識(shí)別技術(shù)，完善標(biāo)識(shí)技術(shù)，同時(shí)確保標(biāo)識(shí)可識(shí)別和可溯源。對(duì)未按要求標(biāo)識(shí)的內(nèi)容提前篩查，對(duì)已發(fā)布的違規(guī)內(nèi)容及時(shí)下架，落實(shí)事前管控和事后整改雙重責(zé)任。

另一方面，也應(yīng)明確“平臺(tái)權(quán)力”的邊界，要求對(duì)AI內(nèi)容的識(shí)別邏輯和處置措施與信息內(nèi)容治理目的相符、手段適當(dāng)，防止AI內(nèi)容識(shí)別異化為流量操控的工具。

陳兵：一些平臺(tái)針對(duì)上述《辦法》出臺(tái)了細(xì)化規(guī)則，還紛紛推出AI內(nèi)容標(biāo)識(shí)功能，幫助平臺(tái)用戶更快捷方便的對(duì)AI合成內(nèi)容進(jìn)行甄別。但是，隨著AI技術(shù)的發(fā)展，平臺(tái)想要落實(shí)主體責(zé)任的挑戰(zhàn)依然嚴(yán)峻。

首先，平臺(tái)應(yīng)當(dāng)持續(xù)加強(qiáng)技術(shù)能力建設(shè)，不斷提升對(duì)生成合成內(nèi)容標(biāo)識(shí)的檢測(cè)、識(shí)別和管理技術(shù)能力。

其次，建立投訴舉報(bào)與反饋機(jī)制，鼓勵(lì)用戶對(duì)涉嫌未按規(guī)定標(biāo)識(shí)的生成合成內(nèi)容進(jìn)行投訴舉報(bào)，對(duì)于有問題的內(nèi)容及時(shí)進(jìn)行處理。

再次，可以加強(qiáng)平臺(tái)間的聯(lián)動(dòng)，推動(dòng)平臺(tái)間技術(shù)與經(jīng)驗(yàn)共享，形成治理合力，避免“各自為戰(zhàn)”導(dǎo)致的監(jiān)管漏洞。

最后，平臺(tái)還需推動(dòng)用戶教育與透明化，定期發(fā)布平臺(tái)治理報(bào)告，公開違規(guī)案例處置結(jié)果，接受社會(huì)監(jiān)督。

張?jiān)蒲啵?/strong>《辦法》實(shí)施后，平臺(tái)的責(zé)任更明確了，但要真正壓實(shí)，確實(shí)還需要進(jìn)一步細(xì)化。第一，不同平臺(tái)定位不同，比如社交、視頻、模型提供方，不能一刀切，而要分級(jí)分類，明確各自的責(zé)任。

第二，平臺(tái)要提高可操作性，不能只滿足于“貼標(biāo)簽”，而是要形成事前提示、事中攔截、事后追溯的完整機(jī)制。

第三，要有跨平臺(tái)協(xié)同，虛假信息常?？缙脚_(tái)傳播，單靠一家難以徹底管住。未來(lái)可以通過行業(yè)聯(lián)盟或第三方數(shù)據(jù)庫(kù)，推動(dòng)標(biāo)識(shí)規(guī)則互認(rèn)和信息共享。

總體上，我更傾向于把平臺(tái)理解為“風(fēng)險(xiǎn)把關(guān)人”，只有在技術(shù)、合規(guī)和協(xié)同三個(gè)方面同時(shí)發(fā)力，主體責(zé)任才能真正落地。

03

法治網(wǎng)研究院：《辦法》提出，用戶使用網(wǎng)絡(luò)信息內(nèi)容傳播服務(wù)發(fā)布生成合成內(nèi)容的，應(yīng)當(dāng)主動(dòng)聲明并使用服務(wù)提供者提供的標(biāo)識(shí)功能進(jìn)行標(biāo)識(shí)。這在具體實(shí)施過程中，需要用戶也積極參與進(jìn)來(lái)。您認(rèn)為，可以通過哪些措施不斷提升用戶合規(guī)意識(shí)和意愿？

黃尹旭：可以強(qiáng)化認(rèn)知教育以傳遞標(biāo)識(shí)價(jià)值，在用戶首次使用相關(guān)工具或平臺(tái)時(shí)，設(shè)置短圖文、15秒短視頻進(jìn)行前置化規(guī)則引導(dǎo)。

可以明確不同類型 AIGC（如文本、圖像、視頻）的標(biāo)識(shí)標(biāo)準(zhǔn)與方式，幫助用戶清晰知曉義務(wù)。例如，規(guī)定文本類AIGC需在開頭顯著位置以特定字體、字號(hào)標(biāo)明“AI生成”。

可以設(shè)立合規(guī)指引機(jī)制，編寫通俗易懂的合規(guī)指南，經(jīng)由線上線下多渠道向用戶普及，降低用戶理解法規(guī)的成本。

同時(shí)，對(duì)主動(dòng)合規(guī)標(biāo)識(shí)的用戶，平臺(tái)可采取流量扶持、專項(xiàng)推薦等激勵(lì)措施。

王立梅：未來(lái)需要打好“便利+約束+激勵(lì)”的組合拳，來(lái)提升用戶合規(guī)意識(shí)和意愿。一是以便利化功能降低合規(guī)門檻。平臺(tái)應(yīng)在內(nèi)容上傳渠道中將標(biāo)識(shí)功能前置化、默認(rèn)化，自動(dòng)核驗(yàn)隱性標(biāo)識(shí)并提供適當(dāng)?shù)娘@性標(biāo)識(shí)，使合規(guī)成為一鍵式操作。

二是建立懲戒機(jī)制明確違規(guī)代價(jià)。通過風(fēng)險(xiǎn)提示、案例釋明等方式，讓用戶知悉未盡標(biāo)識(shí)義務(wù)、使用不正當(dāng)標(biāo)識(shí)手段的平臺(tái)處罰措施與責(zé)任承擔(dān)風(fēng)險(xiǎn)。

三是完善正向激勵(lì)機(jī)制以加強(qiáng)合規(guī)動(dòng)力。鼓勵(lì)平臺(tái)通過可信用戶認(rèn)證等方式激勵(lì)用戶合規(guī)標(biāo)識(shí)，通過積分、聲譽(yù)、流量等收益促進(jìn)合規(guī)。

張?jiān)蒲啵?/strong>提升用戶的合規(guī)意識(shí)和意愿，核心是降低成本、提高收益。第一，要讓用戶標(biāo)識(shí)更方便。比如平臺(tái)提供一鍵標(biāo)注、自動(dòng)識(shí)別的功能，讓用戶幾乎不需要額外操作。

第二，要讓用戶清楚后果。平臺(tái)可以通過彈窗提示、合規(guī)指引，告訴用戶如果不標(biāo)注，可能會(huì)面臨的處罰或限流。

第三，可以正向激勵(lì)。比如對(duì)主動(dòng)合規(guī)的用戶，平臺(tái)在推薦、流量上給予一定支持，讓大家感覺標(biāo)注不吃虧。

第四，還要加大宣傳，讓更多用戶意識(shí)到標(biāo)識(shí)不是形式，而是對(duì)網(wǎng)絡(luò)環(huán)境的一種保護(hù)。

我認(rèn)為，只有這樣結(jié)合便利性、約束力和激勵(lì)措施，用戶的合規(guī)意識(shí)和意愿才會(huì)真正提高。

專家簡(jiǎn)介

陳兵

南開大學(xué)法學(xué)院副院長(zhǎng)、教授、博士生導(dǎo)師，中國(guó)新一代人工智能發(fā)展戰(zhàn)略研究院特約研究員

王立梅

中國(guó)政法大學(xué)數(shù)據(jù)法治研究院教授，中國(guó)法學(xué)會(huì)網(wǎng)絡(luò)與信息法學(xué)研究會(huì)副會(huì)長(zhǎng)

黃尹旭

中國(guó)人民大學(xué)法學(xué)院副教授，中國(guó)人民大學(xué)人工智能治理研究院研究員

張?jiān)蒲?/strong>

《法治日?qǐng)?bào)》律師專家?guī)斐蓡T，北京金誠(chéng)同達(dá)律師事務(wù)所高級(jí)合伙人、管理合伙人

選題策劃｜法治網(wǎng)研究院

文｜沈仲亮

監(jiān)制｜余瀛波