人工智能技術(shù)的快速發(fā)展為文字、圖片、音頻、視頻等內(nèi)容的生產(chǎn)提供了便利，但也產(chǎn)生了技術(shù)濫用、虛假信息加劇等問題。9月1日起，四部委聯(lián)合發(fā)布的《人工智能生成合成內(nèi)容標(biāo)識辦法》（以下簡稱《標(biāo)識辦法》）正式施行，人工智能生成合成內(nèi)容打上了“電子水印”，重點(diǎn)解決上述問題。那么，“電子水印”具體要怎么加？提供網(wǎng)絡(luò)信息內(nèi)容傳播服務(wù)的媒體機(jī)構(gòu)采取了哪些相關(guān)措施規(guī)范傳播活動？就此，《中國新聞出版廣電報(bào)》記者采訪了封面?zhèn)髅娇偩庉嬛茜鳌?/span>
厘清責(zé)任義務(wù)規(guī)范開展標(biāo)識活動
《標(biāo)識辦法》從監(jiān)管層面提出管理要求，明確生成合成內(nèi)容制作傳播各主體的責(zé)任義務(wù)，而同步推出的《網(wǎng)絡(luò)安全技術(shù) 人工智能生成合成內(nèi)容標(biāo)識方法》則以強(qiáng)制性國家標(biāo)準(zhǔn)形式制定實(shí)施，主要提出了強(qiáng)制執(zhí)行部分的標(biāo)識具體實(shí)施方式和操作方法，以更好地指導(dǎo)相關(guān)主體規(guī)范開展標(biāo)識活動。
作為傳媒行業(yè)AI技術(shù)應(yīng)用的先鋒，封面?zhèn)髅疆?dāng)前在內(nèi)容制作環(huán)節(jié)有較多的AI技術(shù)應(yīng)用。“我們主要將AI技術(shù)應(yīng)用于智能采編的摘要生成、評論生成等工具。”周琪介紹說，封面?zhèn)髅竭€將AI技術(shù)應(yīng)用于有全面AIGC內(nèi)容創(chuàng)作的小封智作工具平臺，以及客服問答小封機(jī)器人等產(chǎn)品。根據(jù)《標(biāo)識辦法》的要求以及標(biāo)準(zhǔn)解讀會、標(biāo)識辦法推進(jìn)會會議要求，封面?zhèn)髅绞崂砹爽F(xiàn)有大模型對外產(chǎn)品，包含封面新聞—對話小封機(jī)器人、小封智作、風(fēng)格化智能體產(chǎn)品的標(biāo)識方案，并完成了對這些對話類產(chǎn)品的顯式標(biāo)識。
在《標(biāo)識辦法》中，人工智能生成合成內(nèi)容標(biāo)識主要包括顯式標(biāo)識和隱式標(biāo)識兩種形式。顯式標(biāo)識是指在生成合成內(nèi)容或者交互場景界面中添加的，以文字、聲音、圖形等方式呈現(xiàn)并可以被用戶明顯感知到的標(biāo)識；隱式標(biāo)識是指采取技術(shù)措施在生成合成內(nèi)容文件數(shù)據(jù)中添加的，不易被用戶明顯感知到的標(biāo)識。
“當(dāng)前封面?zhèn)髅街饕褂梦淖稚傻姆绞絹磔o助內(nèi)容生產(chǎn)，極少涉及圖片和視頻的生產(chǎn)，使用顯式標(biāo)識的辦法已經(jīng)足夠。”周琪表示，隨著多模態(tài)技術(shù)更多的應(yīng)用，未來封面?zhèn)髅綄谏傻膱D片和視頻中增加隱水印和數(shù)字指紋的技術(shù)，形成雙標(biāo)識體系。
明確要求與目標(biāo)規(guī)范標(biāo)識管控流程
《標(biāo)識辦法》提出，按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》相關(guān)要求開展人工智能生成合成內(nèi)容標(biāo)識活動的，應(yīng)當(dāng)符合《標(biāo)識辦法》相關(guān)要求。
“面臨《標(biāo)識辦法》的施行，封面?zhèn)髅絻?yōu)化了內(nèi)部管理流程，加大了合規(guī)管理力度。”周琪表示，封面?zhèn)髅讲粌H在生成內(nèi)容中嵌入顯式標(biāo)識，而且對所有AI生成內(nèi)容都進(jìn)行人工二次審核，并實(shí)施“技術(shù)+人工”雙審核機(jī)制，結(jié)合智媒審核云與人工復(fù)核，確保標(biāo)識準(zhǔn)確性與合規(guī)性，同時(shí)標(biāo)明來源以確保內(nèi)容可追溯。
鑒于封面?zhèn)髅皆诩夹g(shù)開發(fā)中也使用了AI代碼生成技術(shù)，因此在其管理上針對研發(fā)流程還補(bǔ)充了有關(guān)《AI輔助開發(fā)補(bǔ)充規(guī)范》的內(nèi)容，要求所有AI生成代碼必須添加注釋標(biāo)識，明確生成來源與版本信息。“我們建立了AI生成代碼的專項(xiàng)審查流程，確保不會引入未知的安全漏洞。”周琪介紹，封面?zhèn)髅揭笤贏I生成代碼的應(yīng)用中，可以利用AI輔助生成基礎(chǔ)代碼框架，而具體代碼還是開發(fā)人員自己編寫，以達(dá)到確保安全的前提下提升研發(fā)效率。
制定管理制度規(guī)范管理體系
《標(biāo)識辦法》明確，互聯(lián)網(wǎng)應(yīng)用程序分發(fā)平臺在應(yīng)用程序上架或者上線審核時(shí)，應(yīng)當(dāng)要求互聯(lián)網(wǎng)應(yīng)用程序服務(wù)提供者說明是否提供人工智能生成合成服務(wù)，并核驗(yàn)其生成合成內(nèi)容標(biāo)識相關(guān)材料。
“封面?zhèn)髅街贫藘?nèi)部管理制度，通過智媒審核云用內(nèi)容選件的方式監(jiān)測標(biāo)識合規(guī)性，對未添加標(biāo)識的內(nèi)容自動攔截修正。”周琪介紹，針對內(nèi)容標(biāo)識的監(jiān)督檢查與未來機(jī)制完善，封面?zhèn)髅綐?gòu)建了技術(shù)驅(qū)動與制度保障的管理體系。同時(shí)，還建立了考核機(jī)制與用戶舉報(bào)渠道，強(qiáng)化內(nèi)部問責(zé)與外部監(jiān)督。
周琪表示，未來，封面?zhèn)髅綄⑦M(jìn)一步提升“靈知”主流媒體算法能力，增強(qiáng)對生成內(nèi)容、虛假內(nèi)容的自動化審核及識別偽造標(biāo)識的能力，降低人為容錯(cuò)率。同時(shí)，將通過培訓(xùn)提升員工規(guī)范執(zhí)行能力，推動標(biāo)識管理更加高效、嚴(yán)明。
作為內(nèi)容生產(chǎn)與傳播的核心樞紐，媒體機(jī)構(gòu)正面臨技術(shù)合規(guī)與生態(tài)重構(gòu)的雙重挑戰(zhàn)?！稑?biāo)識辦法》的施行將推動媒體機(jī)構(gòu)AI應(yīng)用從生成到傳播各環(huán)節(jié)全流程安全管理，在源頭阻斷不良內(nèi)容傳播，打造可信人工智能行業(yè)應(yīng)用，助力構(gòu)建清朗網(wǎng)絡(luò)空間。