隨著新一代人工智能（AI）技術(shù)快速演進(jìn)，涉 AI類案件也同步快速增長。近日，北京互聯(lián)網(wǎng)法院召開專題新聞通報(bào)會，對該院審理的涉及 AI案件進(jìn)行梳理、總結(jié)。“我院將充分發(fā)揮專業(yè)審判優(yōu)勢，積極回應(yīng) AI產(chǎn)業(yè)司法需求，以高質(zhì)量裁判樹規(guī)則、以高水平治理促發(fā)展、以高效能服務(wù)護(hù)創(chuàng)新。”北京互聯(lián)網(wǎng)法院副院長趙長新表示。
糾紛類型復(fù)雜多樣
據(jù)趙長新介紹，北京互聯(lián)網(wǎng)法院集中管轄北京市轄區(qū)內(nèi)應(yīng)當(dāng)由基層人民法院審理的11類特定類型的涉互聯(lián)網(wǎng)一審民事、行政案件。成立7年來，該院共受理各類案件25.3萬余件，審結(jié)24.5萬余件。其中，涉 AI案件增長較快，糾紛類型也日益復(fù)雜化和多元化，主要涉及著作權(quán)權(quán)屬、知識產(chǎn)權(quán)侵權(quán)及網(wǎng)絡(luò)服務(wù)合同糾紛等案由。
隨著 AI技術(shù)賦能千行百業(yè)，涉 AI案件覆蓋產(chǎn)業(yè)領(lǐng)域持續(xù)擴(kuò)展，不再局限于互聯(lián)網(wǎng)行業(yè)，而是向文娛、金融、廣告營銷等傳統(tǒng)產(chǎn)業(yè)領(lǐng)域廣泛滲透，新興與傳統(tǒng)場景復(fù)合、技術(shù)交叉、利益交織。
趙長新表示，隨著應(yīng)用 AI技術(shù)的產(chǎn)品和服務(wù)快速出新，AI幻覺、算法黑箱等問題的不確定性可能使模型開發(fā)者、服務(wù)提供者和用戶等市場主體面臨新型、復(fù)合性法律風(fēng)險(xiǎn)，市場主體創(chuàng)新風(fēng)險(xiǎn)迭代升級。司法需有效識別技術(shù)運(yùn)作邏輯與市場行為本質(zhì)，在裁判中確立與技術(shù)發(fā)展相適應(yīng)的責(zé)任框架，為市場主體明確創(chuàng)新行為的法律預(yù)期，激勵(lì)市場主體守正創(chuàng)新。
在全國首例“AI文生圖案”中，北京互聯(lián)網(wǎng)法院探索認(rèn)定人利用 AI生成圖片，仍然是人運(yùn)用工具進(jìn)行創(chuàng)作的過程，AI僅是創(chuàng)作工具，并非創(chuàng)作主體，原告根據(jù)需要對涉案 AI模型進(jìn)行相關(guān)設(shè)置，并最終選定的涉案圖片，能夠體現(xiàn)出原告的智力投入和個(gè)性化表達(dá)，涉案圖片構(gòu)成作品，應(yīng)當(dāng)予以保護(hù)。
“涉 AI案件司法裁判不僅是對個(gè)案技術(shù)與法律層面的裁判，更承載著對科技倫理、創(chuàng)新激勵(lì)與權(quán)益保護(hù)進(jìn)行平衡的價(jià)值引導(dǎo)功能，深刻影響著技術(shù)發(fā)展方向與社會倫理規(guī)范的形成。”趙長新表示。
案件審理面臨挑戰(zhàn)
“AI技術(shù)加速發(fā)展，新領(lǐng)域、新業(yè)態(tài)、新模式不斷涌現(xiàn)，各種新型矛盾糾紛也相伴而生。該院涉 AI案件審理主要面臨多方面挑戰(zhàn)。”趙長新表示。
涉 AI類案件往往涉及對 AI的生成過程、算法模型以及數(shù)據(jù)來源等進(jìn)行司法審查，技術(shù)門檻高，事實(shí)查明難度大，對司法專業(yè)性要求高。例如在“AI標(biāo)識案”中，平臺運(yùn)用算法工具將用戶發(fā)布內(nèi)容判定為未標(biāo)識的 AI生成內(nèi)容從而引發(fā)糾紛。該案中，平臺既是算法工具掌控方又是結(jié)果判斷方，法院判斷平臺審查及處理結(jié)果是否有合理依據(jù)時(shí)需要探明其算法決策邏輯，平臺需圍繞案件爭議事實(shí)以可理解的方式舉證或說明算法運(yùn)行機(jī)制、對可能出現(xiàn)的誤判是否采取了合理的救濟(jì)措施。
AI領(lǐng)域規(guī)范性法律文件制定存在一定的滯后性，難以完全適應(yīng)技術(shù)快速發(fā)展的新形勢，相關(guān)案件的司法裁判常常無法規(guī)可依、無先例可循。例如，在著作權(quán)領(lǐng)域，涉及 AI文生圖、文生視頻、虛擬數(shù)字人等新型權(quán)益客體是否構(gòu)成著作權(quán)法意義的作品，其著作權(quán)應(yīng)歸屬于 AI服務(wù)提供者還是使用者；大模型訓(xùn)練對作品的利用在著作權(quán)法中如何定性等問題。在人格權(quán)領(lǐng)域，涉及自然人的人格權(quán)保護(hù)范圍是否及于 AI合成的虛擬形象、虛擬聲音；以人臉信息作為模型應(yīng)用深度合成技術(shù)是否侵犯個(gè)人信息等問題。這些具體爭議需要法官充分發(fā)揮司法智慧，綜合法律原則、政策導(dǎo)向、價(jià)值衡量等進(jìn)行合理裁判。
AI產(chǎn)業(yè)鏈條復(fù)雜、上下游相互依存，案件往往涉及訓(xùn)練者、開發(fā)者、服務(wù)提供者、使用者等不同角色，各方主體分工合作形成復(fù)雜關(guān)聯(lián)，影響法律責(zé)任的認(rèn)定。例如在該院審結(jié)的全國首例“AI聲音權(quán)案”中，原告主張侵犯其聲音權(quán)益的被告涵蓋錄音制品制作者、文本轉(zhuǎn)語音產(chǎn)品開發(fā)者、服務(wù)提供者以及云服務(wù)平臺等 AI數(shù)據(jù)訓(xùn)練、模型研發(fā)和技術(shù)服務(wù)鏈條下的眾多環(huán)節(jié)中的多個(gè)主體，如何理順相應(yīng)的產(chǎn)業(yè)鏈條，在眾多主體中確定責(zé)任由誰承擔(dān)，既關(guān)涉?zhèn)€案公平正義的實(shí)現(xiàn)，又深刻影響著相關(guān)產(chǎn)業(yè)能否健康有序發(fā)展。
妥善化解涉AI糾紛
結(jié)合案件審理中發(fā)現(xiàn)的類案問題，北京互聯(lián)網(wǎng)法院對預(yù)防化解涉 AI案件糾紛提出以下四點(diǎn)建議。
首先是提升法律意識與數(shù)字素養(yǎng)，明確自身行為邊界，依法維護(hù)自身合法權(quán)益。網(wǎng)絡(luò)用戶在使用 AI產(chǎn)品或服務(wù)過程中應(yīng)主動(dòng)關(guān)注、學(xué)習(xí) AI領(lǐng)域法律法規(guī)與典型案例，知曉服務(wù)協(xié)議與隱私政策內(nèi)容，了解個(gè)人信息處理、著作權(quán)歸屬等權(quán)利義務(wù)內(nèi)容，注意自身行為界限。利用 AI進(jìn)行創(chuàng)作時(shí)及時(shí)留存、記錄創(chuàng)作過程，如發(fā)生個(gè)人信息被泄露、肖像及聲音未經(jīng)許可被AI處理、AI生成內(nèi)容未經(jīng)許可被他人使用等情形，應(yīng)立即保存好相關(guān)證據(jù)，包括但不限于網(wǎng)頁網(wǎng)址、截圖、錄屏、錄音、相關(guān)聊天記錄等，為后續(xù)維權(quán)提供證據(jù)支持。
其次是嚴(yán)格遵守技術(shù)倫理規(guī)范，確保數(shù)據(jù)和基礎(chǔ)模型來源合法。AI技術(shù)開發(fā)者應(yīng)當(dāng)在算法設(shè)計(jì)、訓(xùn)練數(shù)據(jù)選擇、模型生成和優(yōu)化、提供服務(wù)等過程中，采取有效措施防止歧視產(chǎn)生，提升 AI的透明度，提高生成內(nèi)容的準(zhǔn)確性和可靠性。明確并公開其服務(wù)的適用人群、場合、用途，指導(dǎo)使用者科學(xué)理性認(rèn)識和依法使用生成式 AI技術(shù)。依法開展訓(xùn)練數(shù)據(jù)處理活動(dòng)，使用具有合法來源的數(shù)據(jù)和基礎(chǔ)模型。采取有效措施提高訓(xùn)練數(shù)據(jù)質(zhì)量，增強(qiáng)訓(xùn)練數(shù)據(jù)的真實(shí)性、準(zhǔn)確性、客觀性、多樣性。
再次是積極完善管理機(jī)制，強(qiáng)化AI服務(wù)提供者主體責(zé)任。AI服務(wù)提供者應(yīng)當(dāng)依法承擔(dān)網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者責(zé)任，履行網(wǎng)絡(luò)信息安全義務(wù)，對于違法內(nèi)容，及時(shí)采取停止生成、停止傳輸、消除等處置措施，采取模型優(yōu)化訓(xùn)練等措施進(jìn)行整改，并向有關(guān)部門報(bào)告。落實(shí)生成內(nèi)容標(biāo)識義務(wù)，對用戶發(fā)布的內(nèi)容是否為 AI生成合成進(jìn)行審查和處理。發(fā)現(xiàn)平臺內(nèi)違法內(nèi)容或利用 AI從事違法活動(dòng)的，應(yīng)當(dāng)及時(shí)采取處置措施，保存有關(guān)記錄，并向有關(guān)部門報(bào)告。
最后是加強(qiáng) AI監(jiān)管協(xié)同合作，形成監(jiān)管合力。司法機(jī)關(guān)及時(shí)將案件審理中的問題反饋網(wǎng)信、工信、公安、市場監(jiān)管、知識產(chǎn)權(quán)等相關(guān)部門。推動(dòng)有關(guān)部門完善與創(chuàng)新發(fā)展相適應(yīng)的科學(xué)監(jiān)管方式，制定相應(yīng)的分類分級監(jiān)管規(guī)則或者指引，明確開發(fā)者、服務(wù)提供者、使用者等各類主體的權(quán)利、義務(wù)與責(zé)任邊界。