近期，從演員到企業(yè)家再到兩院院士，不少名人“被直播”：不法商家利用AI技術(shù)仿冒公眾人物形象，在直播、短視頻等環(huán)節(jié)發(fā)布信息，誤導(dǎo)網(wǎng)民。一位被仿冒人士所說(shuō)，視頻里的錯(cuò)誤信息也會(huì)讓“學(xué)界長(zhǎng)期以來(lái)的科普努力付諸東流”，甚至“過(guò)去那些錯(cuò)誤認(rèn)知出現(xiàn)了反流或加重，這點(diǎn)比對(duì)我個(gè)人影響還要壞”。
換言之，AI仿冒名人視頻或者說(shuō)AI造假更持久、更深層次的危害在于，以假亂真。當(dāng)眼見(jiàn)不為真、耳聽(tīng)不為實(shí)，社會(huì)信任機(jī)制被一點(diǎn)點(diǎn)瓦解，人與人之間的溝通成本也將不斷上升，影響不可謂不大。
捉拿“AI李鬼”也好，更廣泛意義上的治理AI造假也罷，不能只靠被仿冒人士、消費(fèi)者單打獨(dú)斗，而需社會(huì)共治；面對(duì)AI技術(shù)變化快、不法商家“換馬甲”成本低等特點(diǎn)，也很難指望有什么“一吃就見(jiàn)效”的“根治靈藥”。治理AI造假、捉拿“AI李鬼”，是場(chǎng)持久戰(zhàn)。
技術(shù)層面，生成和鑒偽的對(duì)抗性非常強(qiáng)，平臺(tái)需持續(xù)長(zhǎng)期投入，加強(qiáng)對(duì)AI生成內(nèi)容的審核，精準(zhǔn)識(shí)別規(guī)避標(biāo)識(shí)要求的“繞路者”，優(yōu)化舉報(bào)激勵(lì)機(jī)制，強(qiáng)化維權(quán)支持，更好落實(shí)主體責(zé)任。治理層面，今年10月，北京查處首例濫用AI技術(shù)發(fā)布虛假?gòu)V告案，對(duì)“AI李鬼”新業(yè)態(tài)亂象亮劍，跨部門協(xié)調(diào)機(jī)制與系統(tǒng)性治理不斷完善，如何提高違法成本有待探索。而對(duì)于公眾而言，以假亂真時(shí)代到來(lái)，如何應(yīng)對(duì)AI風(fēng)險(xiǎn)隱患成為必答題，辨別意識(shí)和能力也已成為必備素養(yǎng)。