當(dāng)機(jī)器人展示中國功夫登上春晚的舞臺(tái)，人們?cè)隗@嘆之余不禁感慨：“人工智能+”時(shí)代，真的來了。
3月5日，李強(qiáng)總理作政府工作報(bào)告。報(bào)告指出，“持續(xù)推進(jìn)制造業(yè)數(shù)字化轉(zhuǎn)型和‘人工智能+’行動(dòng)，行業(yè)應(yīng)用加快落地，新型智能終端不斷涌現(xiàn)”。
《中華人民共和國國民經(jīng)濟(jì)和社會(huì)發(fā)展第十五個(gè)五年規(guī)劃綱要（草案）》進(jìn)一步明確：“全面實(shí)施‘人工智能+’行動(dòng)，加強(qiáng)人工智能同科技創(chuàng)新、產(chǎn)業(yè)發(fā)展、文化建設(shè)、民生保障、社會(huì)治理相結(jié)合，搶占人工智能產(chǎn)業(yè)應(yīng)用制高點(diǎn)，全方位賦能千行百業(yè)。促進(jìn)實(shí)體經(jīng)濟(jì)和數(shù)字經(jīng)濟(jì)深度融合。創(chuàng)造美好數(shù)智生活。提高政府治理數(shù)智化水平。”
今年全國兩會(huì)，人工智能（AI）成為諸多代表委員關(guān)注的火熱話題。從深度偽造、算法作惡到AI“魔改”、惡意濫用，人工智能衍生的各種侵權(quán)行為令人眼花繚亂。如何把人工智能納入法治的軌道，使其健康發(fā)展？檢察履職又該如何融入人工智能治理大局？本報(bào)邀請(qǐng)六位全國人大代表、全國政協(xié)委員，共議人工智能的法律規(guī)制。
周源委員：
AI漫劇“洗稿式”侵權(quán)問題突出
第十四屆全國政協(xié)委員、社會(huì)和法制委員會(huì)委員、知乎創(chuàng)始人兼CEO周源在接受記者采訪時(shí)表示，在人工智能技術(shù)加速突破的背景下，AI漫劇產(chǎn)業(yè)進(jìn)入規(guī)?；鲩L階段。2026年，我國漫劇市場規(guī)模有望突破240億元。然而，相關(guān)問題也日益突出。
周源委員表示，當(dāng)前，AI漫劇行業(yè)在高速擴(kuò)張中已顯現(xiàn)出若干結(jié)構(gòu)性問題，比如，生產(chǎn)速度遠(yuǎn)超維權(quán)能力，傳統(tǒng)確權(quán)與舉證機(jī)制明顯滯后，等等。特別是，AI漫劇原創(chuàng)內(nèi)容被“洗稿式”侵權(quán)問題尤為突出。與此同時(shí)，頭部平臺(tái)也存在濫用優(yōu)勢(shì)與變相壟斷的情況。
周源委員認(rèn)為，在新生產(chǎn)模式下，原創(chuàng)作者以及版權(quán)平臺(tái)難以應(yīng)對(duì)高頻、批量化侵權(quán)行為，治理重點(diǎn)應(yīng)轉(zhuǎn)向“強(qiáng)化維權(quán)效率與懲戒力度”，“探索建立AI生成內(nèi)容侵權(quán)快速處置綠色通道，制定AI漫劇侵權(quán)判定指引，明確‘洗稿’‘情節(jié)重組’等行為的認(rèn)定標(biāo)準(zhǔn)，提升執(zhí)法、司法可操作性。同時(shí)，建議檢察機(jī)關(guān)關(guān)注AI漫劇侵權(quán)問題，積極開展知識(shí)產(chǎn)權(quán)檢察綜合履職，不斷加強(qiáng)知識(shí)產(chǎn)權(quán)綜合司法保護(hù)。”
鐘錚代表：
遏制惡意濫用AI加強(qiáng)AI數(shù)字人直播監(jiān)管
全國人大代表、美的集團(tuán)股份有限公司副總裁兼首席財(cái)務(wù)官鐘錚注意到惡意濫用AI和新業(yè)態(tài)監(jiān)管空白兩個(gè)方面的問題。
“隨著AI、GEO技術(shù)快速發(fā)展，其在網(wǎng)絡(luò)營銷領(lǐng)域的惡意濫用已形成完整黑產(chǎn)鏈條，成為擾亂市場秩序、損害企業(yè)與消費(fèi)者權(quán)益的突出問題。部分市場主體利用AI生成虛假測(cè)評(píng)、GEO技術(shù)定向投喂誤導(dǎo)性內(nèi)容，實(shí)施商業(yè)詆毀、數(shù)據(jù)污染等不正當(dāng)競爭行為，企業(yè)在營銷關(guān)鍵節(jié)點(diǎn)常遭遇惡意差評(píng)、輿論帶節(jié)奏等困擾，維權(quán)成本高、難度大。”鐘錚代表建議，在反不正當(dāng)競爭法中明確AI、GEO技術(shù)的使用邊界，區(qū)分合規(guī)商業(yè)應(yīng)用與惡意營銷行為，跨部門聯(lián)合開展專項(xiàng)整治，從源頭遏制技術(shù)型惡意競爭亂象。
當(dāng)前，AI數(shù)字人直播的實(shí)時(shí)性、互動(dòng)性特征使其成為營銷新賽道，但行業(yè)存在標(biāo)識(shí)不規(guī)范、監(jiān)管依據(jù)不足、權(quán)益糾紛頻發(fā)等問題。“部分企業(yè)弱化‘AI生成’標(biāo)識(shí)甚至刻意隱瞞，仿冒名人數(shù)字人直播等行為屢有發(fā)生，而人工智能專項(xiàng)立法尚未出臺(tái)，導(dǎo)致維權(quán)困難，行業(yè)發(fā)展亂象叢生。應(yīng)加快完善法律法規(guī)體系，將AI數(shù)字人直播納入專門監(jiān)管范疇，明確數(shù)字人直播涉及的肖像權(quán)、著作權(quán)等知識(shí)產(chǎn)權(quán)授權(quán)邊界，細(xì)化侵權(quán)認(rèn)定與賠償標(biāo)準(zhǔn)，讓監(jiān)管跟上技術(shù)發(fā)展步伐。”鐘錚代表建議，檢察機(jī)關(guān)要依法開展法律監(jiān)督，推動(dòng)相關(guān)問題得到源頭治理。
胡海娟代表：
AI被濫用“魔改”侵蝕價(jià)值觀
只需輸入故事大綱、人物等指令，在大模型中加以訓(xùn)練，一篇靠主人公逆襲、反派崩潰跪地求饒等夸張劇情吸引眼球的“爽文”就生成了。
全國人大代表、內(nèi)蒙古自治區(qū)呼倫貝爾市海拉爾第二中學(xué)教師胡海娟注意到，有的孩子會(huì)在網(wǎng)上看AI生成的各類“爽文”。同時(shí)，她也注意到，不只限于這類文字類的低劣內(nèi)容，AI近年來還被濫用于視頻“魔改”傳統(tǒng)文化經(jīng)典，造成認(rèn)知差異，比如將《西游記》等名著進(jìn)行戲謔化解讀。
在胡海娟代表看來，AI技術(shù)被濫用為批量生產(chǎn)低俗、暴力、獵奇內(nèi)容的工具，就很容易侵蝕人們的價(jià)值觀。“價(jià)值觀一旦跑偏，就不容易拉回來了。尤其是對(duì)青少年來說，當(dāng)他們首先接觸的是‘魔改’版的名著，甚至誤以為原著就是如此時(shí)，他們對(duì)傳統(tǒng)文化的敬畏感和認(rèn)同感將無從建立。”
對(duì)此，胡海娟代表建議，在法律層面明確規(guī)定，利用AI技術(shù)對(duì)具有重要?dú)v史、文化價(jià)值的經(jīng)典作品進(jìn)行改編時(shí)，不得以解構(gòu)、丑化、褻瀆等方式進(jìn)行傳播。對(duì)于這種“魔改”行為，她建議通過多部門協(xié)同的方式進(jìn)行監(jiān)管，用大數(shù)據(jù)等手段發(fā)現(xiàn)線索，采取法律手段嚴(yán)厲打擊。
彭鳳蓮代表：
治理關(guān)鍵是把法治與監(jiān)管嵌入技術(shù)全鏈條
全國人大代表，民進(jìn)中央委員、安徽省委會(huì)副主委，安慶師范大學(xué)校長彭鳳蓮在接受記者采訪時(shí)表示，應(yīng)對(duì)“失控的AI”，關(guān)鍵是把法治與監(jiān)管嵌入技術(shù)全鏈條，以源頭治理、系統(tǒng)治理、依法治理守住安全底線。
彭鳳蓮代表認(rèn)為，當(dāng)前AI治理面臨三大突出問題：一是法律責(zé)任認(rèn)定難，算法黑箱、主體多元導(dǎo)致研發(fā)者、平臺(tái)、使用者責(zé)任邊界模糊；二是技術(shù)對(duì)抗不對(duì)稱，造假工具迭代快、鑒別成本高；三是監(jiān)管協(xié)同不足，部門間數(shù)據(jù)與線索共享不順暢，難以形成閉環(huán)打擊。
“治理涉AI犯罪要堅(jiān)持發(fā)展與安全并重、激勵(lì)創(chuàng)新與防范風(fēng)險(xiǎn)統(tǒng)一。”彭鳳蓮代表建議，一要加快完善法治供給。推動(dòng)人工智能監(jiān)管法規(guī)盡快出臺(tái)、完善，明確高風(fēng)險(xiǎn)應(yīng)用清單、強(qiáng)制標(biāo)識(shí)、數(shù)據(jù)合規(guī)與法律責(zé)任，為打擊利用AI實(shí)施的詐騙、誹謗、侵權(quán)、洗錢等犯罪提供明確依據(jù)。二要壓實(shí)平臺(tái)主體責(zé)任，強(qiáng)化內(nèi)容審核、風(fēng)險(xiǎn)監(jiān)測(cè)與違法處置，對(duì)明知用于犯罪仍提供工具、數(shù)據(jù)、算力的依法追責(zé)。三要強(qiáng)化技術(shù)溯源與監(jiān)管，推廣AI生成內(nèi)容水印與溯源機(jī)制，建立跨部門檢測(cè)預(yù)警平臺(tái)，提升偵查、檢察、審判機(jī)關(guān)的電子證據(jù)固定與技術(shù)鑒別能力。
彭鳳蓮代表特別提出，檢察機(jī)關(guān)應(yīng)主動(dòng)融入AI治理大局，加強(qiáng)涉AI網(wǎng)絡(luò)犯罪、知識(shí)產(chǎn)權(quán)、個(gè)人信息、公益訴訟等案件辦理，探索設(shè)立專業(yè)化辦案團(tuán)隊(duì)，引入技術(shù)調(diào)查官輔助辦案，以法治力量引導(dǎo)AI向善。她呼吁，全社會(huì)應(yīng)共同構(gòu)建政府監(jiān)管、企業(yè)主責(zé)、司法保障、社會(huì)監(jiān)督的共治格局，讓技術(shù)創(chuàng)新始終在法治軌道上行穩(wěn)致遠(yuǎn)。
陳愛雪代表：
深挖濫用AI技術(shù)侵權(quán)背后的黑灰產(chǎn)業(yè)鏈
全國人大代表、內(nèi)蒙古民族大學(xué)經(jīng)濟(jì)學(xué)院院長陳愛雪注意到了一些利用AI技術(shù)編造虛假信息、傳播網(wǎng)絡(luò)謠言的問題。
“這些現(xiàn)象令人深感憂慮。AI技術(shù)的濫用不僅會(huì)侵害個(gè)人名譽(yù)權(quán)、企業(yè)商譽(yù)，還可能干擾正常的經(jīng)濟(jì)秩序，甚至對(duì)公共安全和社會(huì)穩(wěn)定構(gòu)成威脅。”陳愛雪代表說。
對(duì)此，陳愛雪代表建議在現(xiàn)有法律的基礎(chǔ)上，進(jìn)一步研究制定更具針對(duì)性的實(shí)施細(xì)則。要明確AI生成內(nèi)容的標(biāo)識(shí)義務(wù)、傳播者的核實(shí)責(zé)任，以及平臺(tái)對(duì)AI生成內(nèi)容的審核管理責(zé)任。她指出，對(duì)于利用AI故意編造、傳播虛假信息，特別是涉及險(xiǎn)情、疫情、災(zāi)情、警情等敏感內(nèi)容的，應(yīng)依法從嚴(yán)懲處，構(gòu)成犯罪的依法追究其刑事責(zé)任。“希望檢察機(jī)關(guān)發(fā)揮職能作用，重點(diǎn)打擊以流量變現(xiàn)、非法牟利為目的，規(guī)?；?、產(chǎn)業(yè)化制造和傳播AI謠言的機(jī)構(gòu)和個(gè)人，深挖背后的黑灰產(chǎn)業(yè)鏈。”陳愛雪代表說。
宗強(qiáng)代表：
明確AI輔助犯罪的司法認(rèn)定標(biāo)準(zhǔn)
今年全國兩會(huì)上，全國人大代表、中國電信撫州分公司“宗強(qiáng)班”班長宗強(qiáng)帶來了一份關(guān)于強(qiáng)化人工智能時(shí)代網(wǎng)絡(luò)安全保障的建議。
宗強(qiáng)代表在調(diào)研中發(fā)現(xiàn)，AI算法歧視、AI“魔改”、模型投毒等新型風(fēng)險(xiǎn)不斷出現(xiàn)。比如，目前已出現(xiàn)利用AI自動(dòng)生成惡意代碼、跨平臺(tái)AI勒索軟件等新型攻擊，實(shí)時(shí)語音深度偽造技術(shù)使詐騙成功率接近100%。
為破解當(dāng)前網(wǎng)絡(luò)安全治理難題，構(gòu)建與人工智能時(shí)代相適應(yīng)的安全保障體系，宗強(qiáng)代表建議，積極開展立法調(diào)研，進(jìn)一步完善法律法規(guī)，明確算法研發(fā)、模型訓(xùn)練、數(shù)據(jù)使用、應(yīng)用部署等全生命周期的安全責(zé)任與倫理底線；細(xì)化網(wǎng)絡(luò)安全法配套實(shí)施細(xì)則，圍繞人工智能風(fēng)險(xiǎn)監(jiān)測(cè)評(píng)估、安全認(rèn)證、應(yīng)急處置等制定配套辦法。
在打擊網(wǎng)絡(luò)違法犯罪方面，宗強(qiáng)代表建議由公安機(jī)關(guān)、法院、檢察機(jī)關(guān)、工信部門、網(wǎng)信部門密切配合，開展人工智能反詐凈網(wǎng)護(hù)安專項(xiàng)行動(dòng)，嚴(yán)厲打擊人工智能賦能的新型網(wǎng)絡(luò)違法犯罪。檢察機(jī)關(guān)要深挖細(xì)查，堅(jiān)持“全鏈條打擊、一體化治理”，重點(diǎn)打擊為網(wǎng)絡(luò)犯罪提供技術(shù)支持、資金結(jié)算、廣告推廣、數(shù)據(jù)買賣的黑灰產(chǎn)。此外，還要進(jìn)一步完善司法銜接機(jī)制，由“兩高”出臺(tái)司法解釋，明確AI輔助犯罪的司法認(rèn)定標(biāo)準(zhǔn)，統(tǒng)一裁判尺度，提升案件辦理質(zhì)效。