累計(jì)清理相關(guān)違規(guī)視頻6000余條、處置違規(guī)賬號(hào)10余個(gè)……近日，部分重點(diǎn)網(wǎng)絡(luò)視聽(tīng)平臺(tái)公布了“AI魔改”視頻專項(xiàng)治理第三周的處置結(jié)果。
此次“AI魔改”視頻專項(xiàng)治理自2026年1月1日起，在全國(guó)范圍內(nèi)開(kāi)展，為期一個(gè)月。國(guó)家廣播電視總局部署的此次專項(xiàng)治理，要求網(wǎng)絡(luò)視聽(tīng)平臺(tái)落實(shí)主體責(zé)任，強(qiáng)化內(nèi)容審核把關(guān)，堅(jiān)決清理違規(guī)內(nèi)容，處置亂象突出的賬號(hào)，扭轉(zhuǎn)“AI魔改”視頻蔓延的不良態(tài)勢(shì)，為青少年健康成長(zhǎng)營(yíng)造良好網(wǎng)絡(luò)空間。
重新審視AI技術(shù)應(yīng)用
弱柳扶風(fēng)的林黛玉“倒拔垂楊柳”、義薄云天的關(guān)羽因假皮鞋向劉備維權(quán)、唐僧與女兒國(guó)國(guó)王討論保險(xiǎn)理賠……當(dāng)前，對(duì)經(jīng)典文藝作品進(jìn)行解構(gòu)重創(chuàng)的內(nèi)容在各大短視頻平臺(tái)上日漸增多。運(yùn)用AI技術(shù)，創(chuàng)作者們讓文學(xué)名著中的典型人物言行逆天悖理，上演出一幕幕荒誕劇情。
這種“AI魔改”視頻引發(fā)獵奇圍觀，對(duì)文化經(jīng)典的本意與嚴(yán)肅性構(gòu)成了沖擊。此次為期一個(gè)月的“AI魔改”視頻專項(xiàng)治理，重點(diǎn)清理基于四大名著、歷史題材、革命題材、英模人物等電視劇作品進(jìn)行“AI魔改”的視頻，無(wú)論是顛覆基本認(rèn)知、消解主流價(jià)值的內(nèi)容，還是獵奇低俗、違背公序良俗的作品，都在整治范圍內(nèi)。
近年來(lái)，國(guó)家廣播電視總局對(duì)“AI魔改”視頻的治理持續(xù)深化。“此次專項(xiàng)治理階段性效果顯著，對(duì)違規(guī)內(nèi)容形成了即時(shí)震懾。”中國(guó)社會(huì)科學(xué)院大學(xué)新聞傳播學(xué)院副院長(zhǎng)黃楚新在接受《中國(guó)新聞出版廣電報(bào)》記者采訪時(shí)表示，“AI魔改”的亂象得到初步遏制，尤其是針對(duì)核心領(lǐng)域的清理，守住了主流價(jià)值底線，避免了認(rèn)知誤導(dǎo)。讓平臺(tái)和創(chuàng)作者清晰感知到監(jiān)管紅線，推動(dòng)了行業(yè)內(nèi)對(duì)AI技術(shù)應(yīng)用的重新審視。
“從行業(yè)發(fā)展角度看，這次專項(xiàng)治理來(lái)得及時(shí)、靶向精準(zhǔn)。”北京盛世順景文化傳媒有限公司董事長(zhǎng)張春景認(rèn)為，這種精準(zhǔn)治理，可以為文化產(chǎn)業(yè)的健康發(fā)展“保駕護(hù)航”，避免劣幣驅(qū)逐良幣，讓真正用心做內(nèi)容、用技術(shù)賦能文化傳承的企業(yè)和創(chuàng)作者，能有更清朗的發(fā)展空間。
黃楚新認(rèn)為，此次治理是一次重要的規(guī)范與正向促進(jìn)。一是明確了AI“二創(chuàng)”的法律和道德邊界，劃定創(chuàng)作的禁區(qū)，讓創(chuàng)作有章可循；二是倒逼行業(yè)轉(zhuǎn)向內(nèi)容為王，在技術(shù)應(yīng)用中兼顧創(chuàng)新與底線；三是引導(dǎo)平臺(tái)建立更完善的審核機(jī)制，鼓勵(lì)“賦能化”發(fā)展；四是為行業(yè)標(biāo)準(zhǔn)的制定奠定實(shí)踐基礎(chǔ)，專項(xiàng)治理中積累的經(jīng)驗(yàn)，能為后續(xù)行業(yè)規(guī)范出臺(tái)提供參考，推動(dòng)數(shù)字內(nèi)容創(chuàng)作行業(yè)的健康可持續(xù)發(fā)展。
厘清“合理二創(chuàng)”區(qū)別
“對(duì)四大名著、革命題材、英模人物的魔改內(nèi)容，不僅傷害了經(jīng)典作品的嚴(yán)肅性，更會(huì)對(duì)價(jià)值觀尚未成型的青少年造成誤導(dǎo)。”張春景說(shuō)。
若以“調(diào)侃”“創(chuàng)新”之名肆意篡改經(jīng)典形象及其所代表的精神內(nèi)核，不僅會(huì)扭曲網(wǎng)絡(luò)空間的價(jià)值導(dǎo)向，沖擊文化認(rèn)同，更會(huì)對(duì)未成年人造成不可忽視的負(fù)面影響。北京聚龍盛豐影視傳媒有限公司總經(jīng)理易思蓉認(rèn)為，深入開(kāi)展“AI魔改”視頻專項(xiàng)治理，既是推動(dòng)網(wǎng)絡(luò)文化健康發(fā)展的必然要求，也是守護(hù)未成年人精神家園的應(yīng)有之義。
技術(shù)創(chuàng)新不能突破價(jià)值紅線，文化創(chuàng)作必須堅(jiān)守主流導(dǎo)向。張春景呼吁，“二創(chuàng)”不是“亂創(chuàng)”，創(chuàng)作者要心懷對(duì)經(jīng)典、對(duì)歷史、對(duì)英模的敬畏之心，始終把“弘揚(yáng)正能量、傳承真文化”作為創(chuàng)作的出發(fā)點(diǎn)。
黃楚新認(rèn)為，創(chuàng)作方應(yīng)守住創(chuàng)作底線、厘清創(chuàng)作邊界，樹(shù)立正確的創(chuàng)作觀，堅(jiān)守主流價(jià)值，不能錯(cuò)誤以“流量為王”。同時(shí)，要厘清“二創(chuàng)”的法律與道德邊界，尊重原著作權(quán)、遵守公序良俗。另外，創(chuàng)作方還應(yīng)建立內(nèi)部的多層審核機(jī)制，邀請(qǐng)專業(yè)人士參與審核，避免出現(xiàn)歷史錯(cuò)誤與導(dǎo)向偏差，多關(guān)注社會(huì)價(jià)值，提升文化素養(yǎng)和社會(huì)責(zé)任。
張春景則表示，要厘清“合理二創(chuàng)”與“AI魔改”的本質(zhì)區(qū)別，在尊重原作版權(quán)、精神內(nèi)核的基礎(chǔ)上進(jìn)行正向延伸。未來(lái)，盛世順景將進(jìn)一步規(guī)范AI技術(shù)在內(nèi)容創(chuàng)作中的應(yīng)用，強(qiáng)化技術(shù)研發(fā)與倫理把關(guān)的深度融合，筑牢合規(guī)創(chuàng)新防線。
平臺(tái)作為AI內(nèi)容傳播的關(guān)鍵樞紐，要重點(diǎn)建立全流程、精細(xì)化、技術(shù)化的管理審核體系，從源頭阻斷、過(guò)程管控、事后懲戒三個(gè)層面發(fā)力。黃楚新建議，其應(yīng)完善前置審核機(jī)制，從算法初審到人工復(fù)審實(shí)現(xiàn)雙重把關(guān)；強(qiáng)化技術(shù)賦能審核，彌補(bǔ)人工審核的效率短板；完善創(chuàng)作者管理機(jī)制，實(shí)行分級(jí)處罰；建立違規(guī)內(nèi)容的溯源機(jī)制，避免違規(guī)內(nèi)容反復(fù)上架；主動(dòng)承擔(dān)社會(huì)責(zé)任，開(kāi)設(shè)創(chuàng)作規(guī)范專欄，或者搭建用戶共治體系，推動(dòng)形成平臺(tái)、用戶共治的新格局。
提升“AI治理”效能
近日，北京影視動(dòng)畫(huà)協(xié)會(huì)標(biāo)準(zhǔn)委員會(huì)發(fā)布《人工智能影像生成與應(yīng)用技術(shù)要求》團(tuán)體標(biāo)準(zhǔn)（標(biāo)準(zhǔn)編號(hào)T/ BFAA0001-2025）。其規(guī)定，人工智能影像生成與應(yīng)用總體管理原則應(yīng)遵循同意、補(bǔ)償、透明、安全、合法數(shù)據(jù)五項(xiàng)基本原則。
“此標(biāo)準(zhǔn)作為中國(guó)第一個(gè)AI影像制作與規(guī)范的團(tuán)體標(biāo)準(zhǔn)，為行業(yè)提供了清晰的技術(shù)與應(yīng)用邊界。規(guī)定了技術(shù)安全、數(shù)據(jù)合規(guī)、內(nèi)容倫理等關(guān)鍵環(huán)節(jié)的管理與合規(guī)技術(shù)要求。”北京影視動(dòng)畫(huà)協(xié)會(huì)會(huì)長(zhǎng)孫立軍介紹道。
黃楚新認(rèn)為，標(biāo)準(zhǔn)中的五項(xiàng)基本原則填補(bǔ)了AI生成領(lǐng)域標(biāo)準(zhǔn)化的實(shí)操空白，為企業(yè)劃定了全周期性的合規(guī)框架，大幅提升治理的系統(tǒng)性和可落地性。
國(guó)務(wù)院2025年8月21日發(fā)布的《關(guān)于深入實(shí)施“人工智能+”行動(dòng)的意見(jiàn)》指出，共建人工智能全球治理體系，支持聯(lián)合國(guó)在人工智能全球治理中發(fā)揮主渠道作用。
“ISO/IEC42001《人工智能管理體系要求》、歐盟《人工智能法案》等標(biāo)準(zhǔn)和法規(guī)促進(jìn)了行業(yè)在責(zé)任鏈明確、第三方評(píng)估與認(rèn)證、數(shù)據(jù)治理和組織化治理等方面的不斷完善。”聯(lián)合國(guó)國(guó)際電信聯(lián)盟AI原生網(wǎng)絡(luò)（ITU AINN）組副主席孟偉分析道，中國(guó)可借鑒其差異化監(jiān)管、標(biāo)識(shí)與溯源、隱私與安全要求，促進(jìn)跨境合規(guī)互認(rèn)。同時(shí)，在本土法律與行業(yè)特點(diǎn)下靈活落地，平衡創(chuàng)新與風(fēng)險(xiǎn)防控，兼顧創(chuàng)新活力與公眾權(quán)益保護(hù)。
孫立軍認(rèn)為，此標(biāo)準(zhǔn)的發(fā)布不僅為監(jiān)管部門(mén)與企業(yè)提供了統(tǒng)一的技術(shù)參考框架，促進(jìn)創(chuàng)新在有序邊界內(nèi)發(fā)展，還有助于構(gòu)建多方協(xié)同治理格局，增強(qiáng)我國(guó)在AI影像與數(shù)字文化融合領(lǐng)域的國(guó)際話語(yǔ)權(quán)與規(guī)則影響力。
“在專項(xiàng)治理中，行業(yè)協(xié)會(huì)與聯(lián)合體可發(fā)揮橋梁紐帶作用，精準(zhǔn)傳達(dá)監(jiān)管政策并轉(zhuǎn)化為行業(yè)實(shí)操規(guī)范，同時(shí)反饋新變化與新問(wèn)題。”黃楚新認(rèn)為，其可通過(guò)制定AI內(nèi)容創(chuàng)作自律準(zhǔn)則，建立行業(yè)信用評(píng)價(jià)體系實(shí)現(xiàn)自我約束；還能開(kāi)展專業(yè)培訓(xùn)與案例警示教育，銜接監(jiān)管部門(mén)和行業(yè)主體，推動(dòng)多方協(xié)同共治。
“我作為ITU AINN組副主席，期待在未來(lái)的標(biāo)準(zhǔn)工作中，能聽(tīng)到更多來(lái)自中國(guó)大視聽(tīng)行業(yè)的聲音。”孟偉希望中國(guó)能通過(guò)與聯(lián)合國(guó)機(jī)構(gòu)合作，促進(jìn)國(guó)際標(biāo)準(zhǔn)參與與互認(rèn)。