今后所有由 AI 生成的文字、圖片、音頻、視頻乃至虛擬場(chǎng)景，都必須 “標(biāo)注 AI 生成標(biāo)識(shí)”。

該辦法從公布到施行，歷經(jīng)半年，旨在給當(dāng)前真假難辨的 AI 內(nèi)容來(lái)一次大整頓，重建大眾對(duì)網(wǎng)絡(luò)信息的信任。

此前，歐盟《AI 法》、美國(guó)《深度偽造來(lái)源保護(hù)法案》、英國(guó)《AI 監(jiān)管草案》都要求水印。中國(guó)今天起把“建議”變“強(qiáng)制”，一步對(duì)齊全球最高標(biāo)準(zhǔn)。

“明牌”加“暗碼”雙保險(xiǎn)

“明牌” 即 “顯式標(biāo)識(shí)”，讓所有用戶一眼就能看到的顯式標(biāo)識(shí)：文字要在開(kāi)頭或結(jié)尾注明 “人工智能生成”；音頻要在前后插入語(yǔ)音提示；圖片和視頻則要在顯眼位置打上水印。

所謂 “暗碼”，則是隱藏在文件深處的隱式標(biāo)識(shí)：在文件的元數(shù)據(jù)中寫入生成者的名稱、內(nèi)容編號(hào)和數(shù)字水印隱式標(biāo)識(shí)，方便追責(zé)和溯源。

明牌＋暗碼，雙保險(xiǎn)點(diǎn)亮 AI 生成身份。

生成端、傳播端、用戶端：三方責(zé)任明確劃分

明確了標(biāo)識(shí)方式，接下來(lái)就要分清責(zé)任。

首先是 “生成端”，也就是大模型公司、剪輯工具開(kāi)發(fā)商等，必須在輸出內(nèi)容時(shí)自動(dòng)完成上述標(biāo)識(shí)。

其次是 “傳播端”，也就是社交平臺(tái)、視頻網(wǎng)站等，必須在內(nèi)容上線前核驗(yàn)標(biāo)識(shí)，凡缺標(biāo)的一律彈出風(fēng)險(xiǎn)提示。

最后是 “用戶端”，也就是我們每個(gè)人，別手癢去摳標(biāo) —— 惡意刪除、篡改、偽造等動(dòng)作一不小心就違法了。

監(jiān)管方設(shè)計(jì)三層技術(shù)過(guò)濾機(jī)制

那么，平臺(tái)如何確保這些標(biāo)識(shí)真實(shí)可靠呢？監(jiān)管方已經(jīng)設(shè)計(jì)了三層技術(shù)過(guò)濾機(jī)制。

第一層，平臺(tái)會(huì)自動(dòng)讀取文件元數(shù)據(jù)，一旦發(fā)現(xiàn)隱式標(biāo)識(shí)，便直接亮明身份。

第二層，若元數(shù)據(jù)空白，平臺(tái)則通過(guò)算法檢測(cè)內(nèi)容特征，自動(dòng)標(biāo)注 “疑似 AI 生成”。

第三層，如果用戶主動(dòng)聲明內(nèi)容并非 AI 生成，平臺(tái)則需進(jìn)行二次確認(rèn)后再?zèng)Q定是否打標(biāo)。

如此一來(lái)，AI 生成內(nèi)容想蒙混過(guò)關(guān)，難度翻倍。

不過(guò)，再精準(zhǔn)的算法也難免會(huì)有誤判。對(duì)此，法學(xué)專家提前打了預(yù)防針：原創(chuàng)作品被錯(cuò)殺的情況在所難免。因此，監(jiān)管辦法明確規(guī)定，平臺(tái)必須提供申訴渠道，用戶一旦發(fā)現(xiàn)自己被誤標(biāo)，可在 48 小時(shí)內(nèi)申請(qǐng)人工復(fù)核，誰(shuí)誤判誰(shuí)負(fù)責(zé)。

相關(guān)企業(yè)與開(kāi)發(fā)者：合規(guī)準(zhǔn)備與接入要求

提醒一下相關(guān)企業(yè)與開(kāi)發(fā)者。

生成類企業(yè)務(wù)必在 9 月 1 日前完成輸出模塊的升級(jí)，實(shí)現(xiàn)顯式與隱式標(biāo)識(shí)的雙標(biāo)功能。

平臺(tái)類企業(yè)則需盡快上線元數(shù)據(jù)掃描、前端提示、申訴后臺(tái)三套系統(tǒng)。

開(kāi)發(fā)者們更別心存僥幸，最好提前接入浙江大學(xué) GCmark 等合規(guī)檢測(cè)平臺(tái)，以免被抽查時(shí)措手不及。

違規(guī)行為的處罰規(guī)定

《標(biāo)識(shí)辦法》強(qiáng)調(diào)，任何組織和個(gè)人不得惡意刪除、篡改、偽造、隱匿本辦法規(guī)定的生成合成內(nèi)容標(biāo)識(shí)，不得為他人實(shí)施上述惡意行為提供工具或者服務(wù)。

無(wú)論是 AI 內(nèi)容的生成方還是傳播方，違規(guī)者將面臨一系列處罰措施，包括不限于：

①被網(wǎng)信部門責(zé)令整改；
②視情節(jié)情況，處以警告、罰款（罰款金額可達(dá)百萬(wàn)元級(jí)別）、暫停相關(guān)服務(wù)、下架、禁言、限流、封號(hào)等懲罰措施；
③如果引發(fā)社會(huì)危害（如虛假新聞、謠言傳播），或追究更嚴(yán)重的行政或法律責(zé)任。

總之，從 9 月 1 日起，人工智能不再是 “匿名網(wǎng)友”。以后任何 AI 生成的內(nèi)容若想公開(kāi)發(fā)布，都必須先亮出自己的 “身份證”。