累計清理相關違規(guī)視頻6000余條、處置違規(guī)賬號10余個……近日，部分重點網(wǎng)絡視聽平臺公布了“AI魔改”視頻專項治理第三周的處置結果。
此次“AI魔改”視頻專項治理自2026年1月1日起，在全國范圍內(nèi)開展，為期一個月。國家廣播電視總局部署的此次專項治理，要求網(wǎng)絡視聽平臺落實主體責任，強化內(nèi)容審核把關，堅決清理違規(guī)內(nèi)容，處置亂象突出的賬號，扭轉“AI魔改”視頻蔓延的不良態(tài)勢，為青少年健康成長營造良好網(wǎng)絡空間。
重新審視AI技術應用
弱柳扶風的林黛玉“倒拔垂楊柳”、義薄云天的關羽因假皮鞋向劉備維權、唐僧與女兒國國王討論保險理賠……當前，對經(jīng)典文藝作品進行解構重創(chuàng)的內(nèi)容在各大短視頻平臺上日漸增多。運用AI技術，創(chuàng)作者們讓文學名著中的典型人物言行逆天悖理，上演出一幕幕荒誕劇情。
這種“AI魔改”視頻引發(fā)獵奇圍觀，對文化經(jīng)典的本意與嚴肅性構成了沖擊。此次為期一個月的“AI魔改”視頻專項治理，重點清理基于四大名著、歷史題材、革命題材、英模人物等電視劇作品進行“AI魔改”的視頻，無論是顛覆基本認知、消解主流價值的內(nèi)容，還是獵奇低俗、違背公序良俗的作品，都在整治范圍內(nèi)。
近年來，國家廣播電視總局對“AI魔改”視頻的治理持續(xù)深化。“此次專項治理階段性效果顯著，對違規(guī)內(nèi)容形成了即時震懾。”中國社會科學院大學新聞傳播學院副院長黃楚新在接受《中國新聞出版廣電報》記者采訪時表示，“AI魔改”的亂象得到初步遏制，尤其是針對核心領域的清理，守住了主流價值底線，避免了認知誤導。讓平臺和創(chuàng)作者清晰感知到監(jiān)管紅線，推動了行業(yè)內(nèi)對AI技術應用的重新審視。
“從行業(yè)發(fā)展角度看，這次專項治理來得及時、靶向精準。”北京盛世順景文化傳媒有限公司董事長張春景認為，這種精準治理，可以為文化產(chǎn)業(yè)的健康發(fā)展“保駕護航”，避免劣幣驅逐良幣，讓真正用心做內(nèi)容、用技術賦能文化傳承的企業(yè)和創(chuàng)作者，能有更清朗的發(fā)展空間。
黃楚新認為，此次治理是一次重要的規(guī)范與正向促進。一是明確了AI“二創(chuàng)”的法律和道德邊界，劃定創(chuàng)作的禁區(qū)，讓創(chuàng)作有章可循；二是倒逼行業(yè)轉向內(nèi)容為王，在技術應用中兼顧創(chuàng)新與底線；三是引導平臺建立更完善的審核機制，鼓勵“賦能化”發(fā)展；四是為行業(yè)標準的制定奠定實踐基礎，專項治理中積累的經(jīng)驗，能為后續(xù)行業(yè)規(guī)范出臺提供參考，推動數(shù)字內(nèi)容創(chuàng)作行業(yè)的健康可持續(xù)發(fā)展。
厘清“合理二創(chuàng)”區(qū)別
“對四大名著、革命題材、英模人物的魔改內(nèi)容，不僅傷害了經(jīng)典作品的嚴肅性，更會對價值觀尚未成型的青少年造成誤導。”張春景說。
若以“調(diào)侃”“創(chuàng)新”之名肆意篡改經(jīng)典形象及其所代表的精神內(nèi)核，不僅會扭曲網(wǎng)絡空間的價值導向，沖擊文化認同，更會對未成年人造成不可忽視的負面影響。北京聚龍盛豐影視傳媒有限公司總經(jīng)理易思蓉認為，深入開展“AI魔改”視頻專項治理，既是推動網(wǎng)絡文化健康發(fā)展的必然要求，也是守護未成年人精神家園的應有之義。
技術創(chuàng)新不能突破價值紅線，文化創(chuàng)作必須堅守主流導向。張春景呼吁，“二創(chuàng)”不是“亂創(chuàng)”，創(chuàng)作者要心懷對經(jīng)典、對歷史、對英模的敬畏之心，始終把“弘揚正能量、傳承真文化”作為創(chuàng)作的出發(fā)點。
黃楚新認為，創(chuàng)作方應守住創(chuàng)作底線、厘清創(chuàng)作邊界，樹立正確的創(chuàng)作觀，堅守主流價值，不能錯誤以“流量為王”。同時，要厘清“二創(chuàng)”的法律與道德邊界，尊重原著作權、遵守公序良俗。另外，創(chuàng)作方還應建立內(nèi)部的多層審核機制，邀請專業(yè)人士參與審核，避免出現(xiàn)歷史錯誤與導向偏差，多關注社會價值，提升文化素養(yǎng)和社會責任。
張春景則表示，要厘清“合理二創(chuàng)”與“AI魔改”的本質(zhì)區(qū)別，在尊重原作版權、精神內(nèi)核的基礎上進行正向延伸。未來，盛世順景將進一步規(guī)范AI技術在內(nèi)容創(chuàng)作中的應用，強化技術研發(fā)與倫理把關的深度融合，筑牢合規(guī)創(chuàng)新防線。
平臺作為AI內(nèi)容傳播的關鍵樞紐，要重點建立全流程、精細化、技術化的管理審核體系，從源頭阻斷、過程管控、事后懲戒三個層面發(fā)力。黃楚新建議，其應完善前置審核機制，從算法初審到人工復審實現(xiàn)雙重把關；強化技術賦能審核，彌補人工審核的效率短板；完善創(chuàng)作者管理機制，實行分級處罰；建立違規(guī)內(nèi)容的溯源機制，避免違規(guī)內(nèi)容反復上架；主動承擔社會責任，開設創(chuàng)作規(guī)范專欄，或者搭建用戶共治體系，推動形成平臺、用戶共治的新格局。
提升“AI治理”效能
近日，北京影視動畫協(xié)會標準委員會發(fā)布《人工智能影像生成與應用技術要求》團體標準（標準編號T/ BFAA0001-2025）。其規(guī)定，人工智能影像生成與應用總體管理原則應遵循同意、補償、透明、安全、合法數(shù)據(jù)五項基本原則。
“此標準作為中國第一個AI影像制作與規(guī)范的團體標準，為行業(yè)提供了清晰的技術與應用邊界。規(guī)定了技術安全、數(shù)據(jù)合規(guī)、內(nèi)容倫理等關鍵環(huán)節(jié)的管理與合規(guī)技術要求。”北京影視動畫協(xié)會會長孫立軍介紹道。
黃楚新認為，標準中的五項基本原則填補了AI生成領域標準化的實操空白，為企業(yè)劃定了全周期性的合規(guī)框架，大幅提升治理的系統(tǒng)性和可落地性。
國務院2025年8月21日發(fā)布的《關于深入實施“人工智能+”行動的意見》指出，共建人工智能全球治理體系，支持聯(lián)合國在人工智能全球治理中發(fā)揮主渠道作用。
“ISO/IEC42001《人工智能管理體系要求》、歐盟《人工智能法案》等標準和法規(guī)促進了行業(yè)在責任鏈明確、第三方評估與認證、數(shù)據(jù)治理和組織化治理等方面的不斷完善。”聯(lián)合國國際電信聯(lián)盟AI原生網(wǎng)絡（ITU AINN）組副主席孟偉分析道，中國可借鑒其差異化監(jiān)管、標識與溯源、隱私與安全要求，促進跨境合規(guī)互認。同時，在本土法律與行業(yè)特點下靈活落地，平衡創(chuàng)新與風險防控，兼顧創(chuàng)新活力與公眾權益保護。
孫立軍認為，此標準的發(fā)布不僅為監(jiān)管部門與企業(yè)提供了統(tǒng)一的技術參考框架，促進創(chuàng)新在有序邊界內(nèi)發(fā)展，還有助于構建多方協(xié)同治理格局，增強我國在AI影像與數(shù)字文化融合領域的國際話語權與規(guī)則影響力。
“在專項治理中，行業(yè)協(xié)會與聯(lián)合體可發(fā)揮橋梁紐帶作用，精準傳達監(jiān)管政策并轉化為行業(yè)實操規(guī)范，同時反饋新變化與新問題。”黃楚新認為，其可通過制定AI內(nèi)容創(chuàng)作自律準則，建立行業(yè)信用評價體系實現(xiàn)自我約束；還能開展專業(yè)培訓與案例警示教育，銜接監(jiān)管部門和行業(yè)主體，推動多方協(xié)同共治。
“我作為ITU AINN組副主席，期待在未來的標準工作中，能聽到更多來自中國大視聽行業(yè)的聲音。”孟偉希望中國能通過與聯(lián)合國機構合作，促進國際標準參與與互認。