國家網(wǎng)信辦、工信部、公安部、國家廣電總局聯(lián)合發(fā)布的《人工智能生成合成內(nèi)容標(biāo)識辦法》將于2025年9月1日起正式施行，該辦法要求用戶發(fā)布AI生成合成內(nèi)容時主動聲明并進(jìn)行標(biāo)識，網(wǎng)絡(luò)信息內(nèi)容傳播服務(wù)提供者應(yīng)當(dāng)采取措施，規(guī)范生成合成內(nèi)容傳播活動。

用戶發(fā)布的內(nèi)容被平臺判定為AI生成，用戶因此被禁言，合理嗎？日前，北京互聯(lián)網(wǎng)法院審結(jié)了這樣一起網(wǎng)絡(luò)服務(wù)合同糾紛案。

【案情回顧】

原告為涉案平臺用戶，被告為涉案平臺運營者。原告在平臺上發(fā)布了“如果你對學(xué)車感興趣的話并且以后打算開車的話，可以在你最清閑的一個假期完成它……”，該內(nèi)容被涉案平臺判定為“包含AI生成內(nèi)容但未標(biāo)識”的違規(guī)情況，涉案平臺作出將該內(nèi)容隱藏并將用戶禁言一天的處理。后原告進(jìn)行申訴未成功。

原告主張，其并未使用AI創(chuàng)作，被告的行為違約，請求法院判令被告撤銷隱藏涉案內(nèi)容和禁言賬號一天的違規(guī)處理，并在后臺系統(tǒng)中刪除違規(guī)處理記錄。

被告稱，涉案平臺規(guī)范中明確規(guī)定，“創(chuàng)作者在發(fā)布包含人工智能生成內(nèi)容時，應(yīng)主動使用‘人工智能生成內(nèi)容’的標(biāo)簽進(jìn)行聲明，未主動聲明的內(nèi)容，平臺將采取適當(dāng)措施進(jìn)行流量限制并添加相關(guān)標(biāo)識。”原告發(fā)布的內(nèi)容經(jīng)機(jī)器識別為“包含人工智能生成”，經(jīng)過人工復(fù)核，認(rèn)定該內(nèi)容缺乏明顯的人類情感特征。被告作為網(wǎng)絡(luò)服務(wù)提供方，有權(quán)自行選擇合理、必要的方式和技術(shù)，請求法院依法駁回原告的訴訟請求。

【法院審理】

法院經(jīng)審理認(rèn)為，該案中，被告發(fā)布了社區(qū)公告載明“創(chuàng)作者在發(fā)布包含AIGC生成的內(nèi)容時，應(yīng)主動使用標(biāo)識，幫助讀者進(jìn)行區(qū)分。對發(fā)布時未主動聲明的內(nèi)容，平臺將采取適當(dāng)措施進(jìn)行流通限制并添加相關(guān)標(biāo)識”“未經(jīng)標(biāo)簽聲明，使用人工智能生成的內(nèi)容構(gòu)成違規(guī)”。被告有權(quán)依據(jù)合同約定對涉案內(nèi)容是否屬于AI生成合成內(nèi)容進(jìn)行審查和處理。

同時，被告既是算法工具掌控方又是結(jié)果判斷方，應(yīng)就該事實進(jìn)行合理舉證或解釋說明。雖然被告在該案中提供了算法的備案信息，但未對涉案內(nèi)容屬于AI生成合成的判斷依據(jù)和結(jié)果作出合理解釋，應(yīng)對其沒有事實依據(jù)的情況下對涉案賬戶的處理行為承擔(dān)違約責(zé)任。

【審判結(jié)果】

最后，法院判決被告展開對于涉案內(nèi)容的隱藏，刪除在后臺的違規(guī)處理記錄。駁回原告的其他訴訟請求。目前，該案判決已生效。

【以案說法】

網(wǎng)絡(luò)內(nèi)容服務(wù)平臺有權(quán)利用算法工具對用戶發(fā)布的內(nèi)容是否使用AI生成合成進(jìn)行審查和處理。若網(wǎng)絡(luò)內(nèi)容服務(wù)平臺判定用戶發(fā)布的內(nèi)容為AI生成合成，用戶需要提供證明該內(nèi)容系人類創(chuàng)作的初步證據(jù)，法院可結(jié)合創(chuàng)作形式、內(nèi)容、載體等因素綜合調(diào)整用戶的舉證責(zé)任，并認(rèn)定證據(jù)的證明效力。

網(wǎng)絡(luò)用戶提供初步證據(jù)后，網(wǎng)絡(luò)內(nèi)容服務(wù)平臺應(yīng)舉證證明其使用算法工具進(jìn)行判定的正確性或進(jìn)行必要限度的解釋說明，網(wǎng)絡(luò)內(nèi)容服務(wù)平臺不得僅以涉及商業(yè)秘密為由規(guī)避該義務(wù)。