近日，新加坡信息通信媒體發(fā)展局（IMDA）正在就《生成式人工智能模型人工智能管理框架》草案征求公眾意見，同時該機構(gòu)邀請國際社會在公眾咨詢期內(nèi)提交反饋意見。
該框架草案由IMDA與其子公司人工智能驗證基金會合作制定，共概述了解決生成式人工智能問題的9個不同維度及相應(yīng)的建議。這9個維度分別是問責(zé)制、數(shù)據(jù)、可信的開發(fā)和部署、事件報告、測試和保證、安全性、內(nèi)容來源、安全和協(xié)調(diào)研發(fā)以及用于公共利益的人工智能。
在數(shù)據(jù)方面，該框架草案中提到：“數(shù)據(jù)是模型開發(fā)的核心要素。它對模型輸出的質(zhì)量有重大的影響。因此，提供給模型的數(shù)據(jù)很重要，并且需要確保數(shù)據(jù)的質(zhì)量，例如通過使用可信的數(shù)據(jù)源。在使用數(shù)據(jù)進行模型訓(xùn)練可能會引起爭議的情況下，例如使用個人數(shù)據(jù)和版權(quán)材料，那么提供業(yè)務(wù)清晰度、確保公平對待并以務(wù)實的方式進行處理也同樣很重要。”
新加坡知識產(chǎn)權(quán)專業(yè)人士喬治·黃表示：“圖像生成系統(tǒng)DALL.E進入市場已經(jīng)超過3年，聊天機器人ChatGPT上市也有一年多的時間，IMDA在此時就《生成式人工智能模型人工智能管理框架》征求國際反饋是十分及時的。它引起了利益相關(guān)者的討論，不僅包括人工智能技術(shù)的生產(chǎn)者，還有其用戶。由于幾乎每個人都可能是大型語言模型的用戶，而不僅僅是行業(yè)和企業(yè)才能參與。”
然而，該專業(yè)人士也表達了對該框架草案的擔(dān)憂。據(jù)介紹，版權(quán)涉及所有權(quán)、利用和回報問題。同時，該框架草案涉及人工智能的發(fā)展。該專業(yè)人士指出：“在討論如何管理人工智能時，我們需要決定它所涉及的層面和影響，我們需要問問我們是在監(jiān)管人工智能的發(fā)展還是人工智能本身。”然后，該專業(yè)人士概括介紹了人工智能的版權(quán)問題：
人工智能開發(fā)人員在訓(xùn)練人工智能時使用受版權(quán)保護的材料時是否發(fā)生侵權(quán)行為；
有效性——機器創(chuàng)作的作品是否可以獲得版權(quán)；所有權(quán)——如果人工智能擁有作品的所有權(quán)，那么誰將擁有人工智能創(chuàng)作的作品并行使其權(quán)利？是人工智能的所有者還是向人工智能發(fā)出指令的人，特別是在人工智能所創(chuàng)作的作品并非所給出指令可預(yù)見的結(jié)果的情況下？“該模型框架并沒有直接解決這些版權(quán)問題。負責(zé)任的使用是否需要事先獲得所有用于培訓(xùn)的版權(quán)材料的許可？”該專業(yè)人士解釋道，該框架草案只是企業(yè)自愿采用的指導(dǎo)方針，缺乏任何執(zhí)行機制。相比之下，歐盟的《人工智能法案》則采取了監(jiān)管的方法，強調(diào)問責(zé)制、透明度和合乎道德的人工智能使用。不過，這些原則并沒有直接解決人權(quán)問題或潛在的人工智能濫用問題。
該專業(yè)人士表示，目前他們正在解決人工智能的發(fā)展問題，或者更確切地說，將人工智能作為一種產(chǎn)品，并強調(diào)人工智能是人類使用的軟件，因此是中性的。與新加坡的國家人工智能戰(zhàn)略保持一致，該框架草案是對《人工智能模型管理框架》2019年和2020年版本的更新，這兩個版本都涵蓋了傳統(tǒng)人工智能。