作者簡(jiǎn)介：林維（1971.9—），法學(xué)博士，二級(jí)教授，博士生導(dǎo)師，中國(guó)社會(huì)科學(xué)院法學(xué)研究所研究員，國(guó)務(wù)院特殊津貼獲得者，并被評(píng)為第八屆全國(guó)十大杰出青年法學(xué)家。現(xiàn)任西南政法大學(xué)黨委副書(shū)記、校長(zhǎng)，《中國(guó)社會(huì)科學(xué)院大學(xué)學(xué)報(bào)》主編，兼任中國(guó)社會(huì)科學(xué)院大學(xué)互聯(lián)網(wǎng)法治研究中心主任、數(shù)字中國(guó)研究院院長(zhǎng)。曾在聯(lián)合國(guó)前南斯拉夫國(guó)際刑事法庭學(xué)習(xí)，掛職最高人民法院刑一庭副庭長(zhǎng)。
隨著自動(dòng)駕駛汽車(chē)、ChatGPT、人形機(jī)器人等人工智能應(yīng)用的爆發(fā)，人工智能對(duì)于現(xiàn)行法律的挑戰(zhàn)逐漸受到重視。早在2017年，國(guó)務(wù)院就印發(fā)了《新一代人工智能發(fā)展規(guī)劃》，指出：“人工智能是影響面廣的顛覆性技術(shù)，可能帶來(lái)改變就業(yè)結(jié)構(gòu)、沖擊法律與社會(huì)倫理、侵犯?jìng)€(gè)人隱私、挑戰(zhàn)國(guó)際關(guān)系準(zhǔn)則等問(wèn)題。”
近年來(lái)，人工智能在賦予人類(lèi)新的文明契機(jī)的同時(shí)，也對(duì)現(xiàn)有的法律關(guān)系提出了一些破窗式挑戰(zhàn)，如何通過(guò)立法來(lái)規(guī)制人工智能的運(yùn)用研發(fā)已經(jīng)成為一項(xiàng)迫在眉睫的課題。
深度偽造與刑事治理。深度偽造依托于深度學(xué)習(xí)和大數(shù)據(jù)技術(shù)，能夠修改和自動(dòng)生成圖像、文字、視頻等信息內(nèi)容，極易為不法人員實(shí)施網(wǎng)絡(luò)違法犯罪活動(dòng)提供可乘之機(jī)。深度偽造可能涉及的違法行為諸如侵害國(guó)家安全、社會(huì)秩序、他人合法權(quán)益等，都和我們刑法當(dāng)中大量的罪名相呼應(yīng)，也進(jìn)一步帶來(lái)了刑事治理風(fēng)險(xiǎn)的擴(kuò)張。例如，在以“點(diǎn)擊、瀏覽、轉(zhuǎn)發(fā)的次數(shù)”為入罪標(biāo)準(zhǔn)的犯罪認(rèn)定中，現(xiàn)有司法解釋并未將算法系統(tǒng)的自動(dòng)化點(diǎn)擊和轉(zhuǎn)發(fā)次數(shù)排除在外。同時(shí)，在深度偽造的過(guò)程當(dāng)中，很多技術(shù)難題又是過(guò)去傳統(tǒng)的法律規(guī)范所不能加以覆蓋的，例如，由于算法黑箱的存在，依托大規(guī)模算法的深度偽造在定罪量刑要件的認(rèn)定上存在解釋上的困難。如何順應(yīng)這樣一種技術(shù)的變化來(lái)修改過(guò)去傳統(tǒng)的法律規(guī)則，是我們眼前必須要去解決的問(wèn)題。尤其對(duì)現(xiàn)有的規(guī)范，在新技術(shù)背景下進(jìn)行解釋進(jìn)而賦予這些規(guī)范嶄新的生命力，更是我們必須要面對(duì)的問(wèn)題。
自動(dòng)駕駛和侵權(quán)責(zé)任。當(dāng)前自動(dòng)駕駛汽車(chē)大規(guī)模商業(yè)化落地進(jìn)程正在緊鑼密鼓地進(jìn)行中，今年6月份，工信部、公安部以及交通運(yùn)輸部等部門(mén)聯(lián)合宣布國(guó)家首批智能網(wǎng)聯(lián)汽車(chē)準(zhǔn)入和上路通行試點(diǎn)企業(yè)名單，標(biāo)志著自動(dòng)駕駛汽車(chē)的大規(guī)模上路、上市又更進(jìn)了一步。對(duì)于傳統(tǒng)汽車(chē)來(lái)講，車(chē)輛由人類(lèi)的駕駛員控制，發(fā)生事故自然也需要由人來(lái)承擔(dān)。自動(dòng)駕駛?cè)〈斯ゑ{駛以后，車(chē)輛在沒(méi)有人介入的情況下可以自主駕駛，這個(gè)過(guò)程中如何追究事故的責(zé)任成為難題。最近有觀點(diǎn)認(rèn)為應(yīng)當(dāng)追究在整個(gè)流程包括程序開(kāi)發(fā)的刑事責(zé)任。不過(guò)，如何平衡技術(shù)創(chuàng)新和社會(huì)秩序穩(wěn)定，是管理者在每個(gè)新技術(shù)的發(fā)展之初都不得不面臨的問(wèn)題，所以這樣的問(wèn)題在過(guò)去也可以找到參照的現(xiàn)象。盡管我們現(xiàn)在討論的是人工智能、無(wú)人駕駛，但是過(guò)去在飛機(jī)里也存在類(lèi)似的無(wú)人駕駛，當(dāng)飛機(jī)墜毀的時(shí)候我們是否需要探討追究飛機(jī)駕駛程序開(kāi)發(fā)者的刑事責(zé)任？為什么我們現(xiàn)在一提到人工智能下的無(wú)人駕駛，我們甚至要特別延展地長(zhǎng)鏈條地追究因果鏈條，并進(jìn)而追究刑事責(zé)任，這是我們必須要思考的問(wèn)題。我們是否對(duì)人工智能這樣的技術(shù)產(chǎn)生了一個(gè)深度的恐懼，而不得不做出一些過(guò)于戒備的預(yù)防？這也是我們需要討論的問(wèn)題。類(lèi)似性質(zhì)的問(wèn)題在人工智能其他領(lǐng)域的應(yīng)用場(chǎng)景中也一定會(huì)遇見(jiàn)。
生成式人工智能與知識(shí)產(chǎn)權(quán)的問(wèn)題。近年來(lái)，生成式人工智能獲得極大的關(guān)注和發(fā)展，給知識(shí)產(chǎn)權(quán)的保護(hù)帶來(lái)一系列的復(fù)雜問(wèn)題。從輸入端來(lái)看，訓(xùn)練數(shù)據(jù)來(lái)源的合法合規(guī)問(wèn)題十分突出，生成式人工智能需要進(jìn)行海量的閱讀和攝取，這些是否會(huì)觸及到海量數(shù)據(jù)的攝取過(guò)程當(dāng)中，包括爬蟲(chóng)技術(shù)本身是否涉及到著作權(quán)的問(wèn)題。爬蟲(chóng)技術(shù)無(wú)法識(shí)別抓取內(nèi)容的著作權(quán)問(wèn)題，也無(wú)法在抓取時(shí)逐一獲得著作權(quán)授權(quán)，這一問(wèn)題現(xiàn)在已經(jīng)成為生成式人工智能合規(guī)發(fā)展過(guò)程當(dāng)中一個(gè)特別大的制約性難題，是否構(gòu)成著作權(quán)合理的使用值得研究。我們過(guò)去傳統(tǒng)的著作權(quán)研究沒(méi)有遇到過(guò)這么海量而龐大的“合理使用的問(wèn)題”。從輸出端來(lái)看，終端用戶(hù)、模型提供者的生成內(nèi)容是否具有可版權(quán)性，人工智能服務(wù)的提供者生成的內(nèi)容是否侵權(quán)，都是我們實(shí)踐當(dāng)中所面臨的問(wèn)題。今年廣州互聯(lián)網(wǎng)法院作出判決的全球AIGC侵權(quán)第一案，北京互聯(lián)網(wǎng)法院審理的國(guó)內(nèi)首例“AI文生圖”著作權(quán)的侵權(quán)案以及前不久全國(guó)首例AI生成聲音人格權(quán)侵權(quán)案，這些案件都在生成式人工智能領(lǐng)域、知識(shí)產(chǎn)權(quán)以及我們傳統(tǒng)意義上的人身權(quán)等問(wèn)題產(chǎn)生了緊密的關(guān)聯(lián)，值得我們進(jìn)一步深思。
人工智能的司法應(yīng)用。人工智能在司法領(lǐng)域獲得廣泛的應(yīng)用，最高人民法院《關(guān)于規(guī)范和加強(qiáng)人工智能司法應(yīng)用的意見(jiàn)》專(zhuān)門(mén)就人工智能司法的應(yīng)用作出了部署，對(duì)于傳統(tǒng)的司法活動(dòng)來(lái)講，它是法律和道德的統(tǒng)一，我們經(jīng)常講要兼顧法理情，除了正確地適用司法規(guī)則以外，我們還要去要求法官具有同理心、正義感、同情心，需要對(duì)所面臨的法律現(xiàn)象具有正義的直覺(jué)判斷。而這些通常由人來(lái)彰顯的司法屬性是無(wú)法為機(jī)器所完全替代的。因此，我們要更加關(guān)注人工智能在司法中的應(yīng)用問(wèn)題。
生物的識(shí)別與數(shù)據(jù)安全。在我們?nèi)粘Ｉ钪?，人臉識(shí)別、指紋識(shí)別、虹膜掃描、語(yǔ)音識(shí)別等，已經(jīng)無(wú)處不在，這些是我們身份驗(yàn)證和訪(fǎng)問(wèn)控制的強(qiáng)大工具，但是由此帶來(lái)的對(duì)數(shù)據(jù)安全的挑戰(zhàn)也不容忽視。對(duì)個(gè)人而言，收集和儲(chǔ)存生物識(shí)別數(shù)據(jù)可能引發(fā)大規(guī)模的隱私風(fēng)險(xiǎn)，這種具有高度敏感性的個(gè)人信息一旦遭到泄露或者濫用，尤其是大規(guī)模地泄露或者濫用，必然會(huì)侵害主體的隱私權(quán)益，甚至可能會(huì)導(dǎo)致更大的數(shù)據(jù)安全乃至國(guó)家安全的問(wèn)題。尤其是對(duì)國(guó)家而言，數(shù)據(jù)是重要的戰(zhàn)略資源，數(shù)據(jù)安全又是國(guó)家安全的重要內(nèi)容。因此，生物識(shí)別技術(shù)的大規(guī)模應(yīng)用，我們對(duì)此要特別謹(jǐn)慎、特別警惕。
人工智能立法的現(xiàn)狀。當(dāng)前我國(guó)人工智能立法呈現(xiàn)兩個(gè)特點(diǎn)：一是地方式。目前為止在國(guó)家層面，至今還沒(méi)有一部關(guān)于人工智能的專(zhuān)門(mén)立法。有關(guān)人工智能的立法具有明顯的地方式特征，強(qiáng)調(diào)地方政府可以根據(jù)自身的特點(diǎn)，結(jié)合自身發(fā)展的需求，先行先試，探索具有地方特色的人工智能治理規(guī)則，以此來(lái)積累更多的人工智能全國(guó)性立法經(jīng)驗(yàn)。比方說(shuō)在自動(dòng)駕駛領(lǐng)域，在推進(jìn)人工智能產(chǎn)業(yè)發(fā)展方面，上海、深圳、廣州、重慶等都就自動(dòng)駕駛道路測(cè)試、示范應(yīng)用、交通法規(guī)等各種相繼頒布了很多的地方條例，但是缺乏國(guó)家層面的法規(guī)。二是場(chǎng)景式。當(dāng)前我們還沒(méi)有一部關(guān)于人工智能的綜合性立法，相關(guān)立法仍然以地方規(guī)章制度以及國(guó)務(wù)院的行政規(guī)章為主，同時(shí)也主要是以具體的應(yīng)用場(chǎng)景為抓手，關(guān)注不同應(yīng)用場(chǎng)景下的人工智能引發(fā)的法律挑戰(zhàn)，比如說(shuō)針對(duì)生成式人工智能出臺(tái)了《生成式人工智能服務(wù)管理暫行辦法》，針對(duì)自動(dòng)駕駛汽車(chē)則出臺(tái)了《智能網(wǎng)聯(lián)汽車(chē)道路測(cè)試與示范應(yīng)用管理規(guī)范（試行）》等；針對(duì)深度合成出臺(tái)了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，針對(duì)人臉識(shí)別最高院發(fā)布了《關(guān)于審理使用人臉識(shí)別技術(shù)處理個(gè)人信息相關(guān)民事案件適用法律若干問(wèn)題的規(guī)定》等，但是總體上缺乏一些綜合性、一般性的規(guī)定。
人工智能立法正當(dāng)其時(shí)。隨著人工智能應(yīng)用爆發(fā)式地增長(zhǎng)，我們的立法現(xiàn)在已經(jīng)明顯滯后，地方式立法、場(chǎng)景式立法已經(jīng)遠(yuǎn)遠(yuǎn)無(wú)法滿(mǎn)足人工智能產(chǎn)業(yè)發(fā)展的需求。
我們必須要抓住人工智能立法的寶貴契機(jī)。推動(dòng)人工智能統(tǒng)一立法的實(shí)現(xiàn)，避免頭痛醫(yī)頭、腳痛醫(yī)腳。當(dāng)前各國(guó)都特別重視人工智能的立法，今年5月，歐盟理事會(huì)正式批準(zhǔn)全球第一部《人工智能法案》，引領(lǐng)人工智能立法新浪潮。我國(guó)人工智能的統(tǒng)一立法趨勢(shì)也逐漸明顯，有關(guān)部門(mén)將人工智能法列入了立法的規(guī)劃，中國(guó)社科院等單位聯(lián)合起草的《中華人民共和國(guó)人工智能示范法（學(xué)者建議稿）》，為制定一部統(tǒng)一的人工智能法提供了很好的政策條件和寶貴經(jīng)驗(yàn)。
對(duì)于人工智能法的立法而言，我們需要注意的是不僅要在人工智能的規(guī)制、管制、立法和人工智能技術(shù)的創(chuàng)新當(dāng)中維持好一種平衡，還需要留足動(dòng)態(tài)的接口。一部人工智能法很難解決人工智能所提出的所有法律問(wèn)題，一方面，我們需要對(duì)智能要素立法預(yù)留接口，2020年8月，美國(guó)安全和新興技術(shù)研究中心發(fā)布報(bào)告《人工智能三要素及對(duì)國(guó)家安全戰(zhàn)略的意義》指出：“可以用一句話(huà)來(lái)概括現(xiàn)代人工智能的復(fù)雜性，即：機(jī)器學(xué)習(xí)系統(tǒng)使用計(jì)算能力來(lái)執(zhí)行從數(shù)據(jù)中學(xué)習(xí)的算法。”這一定義表明，實(shí)現(xiàn)人工智能的關(guān)鍵在于算法、算力和數(shù)據(jù)三要素，人工智能立法需要與智能要素立法相互配合。另一方面，我們也需要為智能應(yīng)用的立法預(yù)留接口，因?yàn)槿斯ぶ悄鼙旧砭褪且粋€(gè)包羅萬(wàn)象的概念，它所應(yīng)用的場(chǎng)景包括醫(yī)療、教育、金融、物流、交通等各種場(chǎng)景，各種人工智能所應(yīng)用的場(chǎng)景當(dāng)中引發(fā)的法律問(wèn)題并不一致，例如自動(dòng)駕駛汽車(chē)關(guān)注事故責(zé)任問(wèn)題，人臉識(shí)別關(guān)注數(shù)據(jù)合規(guī)和個(gè)人信息保護(hù)問(wèn)題，生成式人工智能則面臨著作權(quán)保護(hù)問(wèn)題等等。人工智能立法必須要考慮這些場(chǎng)景的特殊性。
未來(lái)，人工智能法的立法還需要根據(jù)人工智能快速迭代的發(fā)展來(lái)進(jìn)行不斷調(diào)整。人工智能作為當(dāng)前最受矚目的新興科技，我們必須要重視由此引發(fā)的法律挑戰(zhàn)，通過(guò)立法為人工智能的發(fā)展保駕護(hù)航，讓人工智能更好地造福人類(lèi)社會(huì)，服務(wù)國(guó)家發(fā)展。
