專家解讀｜鼓勵(lì)新興技術(shù)健康發(fā)展 探索人工智能治理法治路徑

      《生成式人工智能服務(wù)管理暫行辦法》（下文簡稱《辦法》）頒布，標(biāo)志著我國邁出了加快人工智能立法的重要一步。新規(guī)出臺順應(yīng)新興技術(shù)發(fā)展趨勢，彰顯了注重發(fā)展、兼顧安全的立法宗旨。《辦法》引領(lǐng)國際人工智能的治理實(shí)踐，對人工智能三要素—數(shù)據(jù)、算法、算力作出統(tǒng)籌性的制度設(shè)計(jì)，對邁向通用人工智能立法做出了有益探索。

   鼓勵(lì)新興技術(shù)健康發(fā)展，引領(lǐng)國際人工智能治理實(shí)踐

  《辦法》開篇即明確“為了促進(jìn)生成式人工智能健康發(fā)展和規(guī)范應(yīng)用”制定，是我國人工智能治理與時(shí)俱進(jìn)的重要舉措。2017年國務(wù)院發(fā)布的《新一代人工智能發(fā)展規(guī)劃》明確提出“到2025年，初步建立人工智能法律法規(guī)、倫理規(guī)范和政策體系”。2022年底以來，大模型的發(fā)展催生了人工智能技術(shù)的迭代，生成式人工智能成為人工智能產(chǎn)業(yè)全新的發(fā)展方向。生成式人工智能不僅能夠帶動數(shù)字內(nèi)容創(chuàng)作、元宇宙、虛擬人等新興領(lǐng)域加速發(fā)展，更是依托“模型即服務(wù)”的產(chǎn)業(yè)形態(tài)融合滲透傳統(tǒng)產(chǎn)業(yè)實(shí)現(xiàn)生產(chǎn)力躍升。

  《辦法》的適用范圍考慮到生成式人工智能的技術(shù)特點(diǎn)與分層業(yè)態(tài)，充分體現(xiàn)了鼓勵(lì)人工智能產(chǎn)業(yè)發(fā)展的精神。生成式人工智能既可以為垂直領(lǐng)域企業(yè)提供服務(wù)，也可以通過智慧問答、圖文生成等方式直接為公眾提供服務(wù)。正是基于這些新特點(diǎn)，《辦法》第二條明確適用范圍重點(diǎn)為“向中華人民共和國境內(nèi)公眾提供生成文本、圖片、音頻、視頻等內(nèi)容的服務(wù)”，同時(shí)明確“行業(yè)組織、企業(yè)、教育和科研機(jī)構(gòu)、公共文化機(jī)構(gòu)、有關(guān)專業(yè)機(jī)構(gòu)等研發(fā)、應(yīng)用生成式人工智能技術(shù)，未向境內(nèi)公眾提供生成式人工智能服務(wù)的，不適用本辦法的規(guī)定”。與此同時(shí)，《辦法》在第五條鼓勵(lì)生成式人工智能技術(shù)在各行業(yè)、各領(lǐng)域的創(chuàng)新應(yīng)用，探索優(yōu)化應(yīng)用場景，構(gòu)建應(yīng)用生態(tài)體系。

  《辦法》引領(lǐng)國際人工智能的治理實(shí)踐。生成式人工智能引起世界各國立法和監(jiān)管的關(guān)注，但目前尚無成熟的治理實(shí)踐。歐盟的《人工智能法案》針對生成式人工智能做出新一輪修改與調(diào)整。我國的《辦法》作為小切口立法“急用先行”，體現(xiàn)了專門性、前瞻性和開放性，與我國既有的人工智能監(jiān)管工具相結(jié)合，引領(lǐng)生成式人工智能治理實(shí)踐，率先作出了有益的制度探索。

  統(tǒng)籌生成式人工智能多重要素，充分體現(xiàn)系統(tǒng)治理理念

  《辦法》融合了數(shù)據(jù)、算法、算力等諸多生成式人工智能要素，并明確對生成式人工智能服務(wù)實(shí)行包容審慎和分類分級監(jiān)管。在數(shù)據(jù)方面，《辦法》提出“推動公共數(shù)據(jù)分類分級有序開放，擴(kuò)展高質(zhì)量的公共訓(xùn)練數(shù)據(jù)資源”，“推進(jìn)生成式人工智能基礎(chǔ)設(shè)施和公共訓(xùn)練數(shù)據(jù)資源平臺建設(shè)”，支持行業(yè)組織、企業(yè)、教育和科研機(jī)構(gòu)、公共文化機(jī)構(gòu)、有關(guān)專業(yè)機(jī)構(gòu)等在生成式人工智能數(shù)據(jù)資源建設(shè)等方面開展協(xié)作。《辦法》第七條對訓(xùn)練數(shù)據(jù)處理活動提出了具體要求。同時(shí)，第八條明確了數(shù)據(jù)標(biāo)注規(guī)范，對在生成式人工智能技術(shù)研發(fā)過程中進(jìn)行數(shù)據(jù)標(biāo)注的，規(guī)定制定符合本辦法要求的清晰、具體、可操作的標(biāo)注規(guī)則，開展數(shù)據(jù)標(biāo)注質(zhì)量評估，對標(biāo)注人員進(jìn)行必要培訓(xùn)等。

  在算法和算力等方面，《辦法》第四條明確了算法設(shè)計(jì)過程中應(yīng)當(dāng)遵守的規(guī)定，并在第六條提出鼓勵(lì)生成式人工智能算法、框架、芯片及配套軟件平臺等基礎(chǔ)技術(shù)的自主創(chuàng)新，平等互利開展國際交流與合作，參與生成式人工智能相關(guān)國際規(guī)則制定。《辦法》第十七條明確提供具有輿論屬性或者社會動員能力的生成式人工智能服務(wù)的，應(yīng)當(dāng)按照國家有關(guān)規(guī)定開展安全評估并履行算法備案、變更、注銷備案手續(xù)。同時(shí)，《辦法》還提出促進(jìn)算力資源協(xié)同共享、提升算力資源利用效能，明確鼓勵(lì)采用安全可信的芯片、軟件、工具、算力和數(shù)據(jù)資源，充分回應(yīng)技術(shù)產(chǎn)業(yè)發(fā)展需要。

  兼顧制度創(chuàng)新與監(jiān)管體系性，邁出通用人工智能治理探索腳步

  《辦法》兼顧創(chuàng)新制度設(shè)計(jì)與保持監(jiān)管體系性。《辦法》第二章“技術(shù)發(fā)展與治理”作出了一系列創(chuàng)新的制度設(shè)計(jì)，圍繞生成式人工智能產(chǎn)業(yè)形態(tài)設(shè)計(jì)了覆蓋其生命周期的新型監(jiān)管措施。如第四條要求服務(wù)提供者在算法設(shè)計(jì)、訓(xùn)練數(shù)據(jù)選擇、模型生成和優(yōu)化、提供服務(wù)等過程中采取有效措施防止產(chǎn)生各種歧視，并基于服務(wù)類型特點(diǎn)，提升生成式人工智能的透明度，提高生成內(nèi)容的準(zhǔn)確性和可靠性。與此同時(shí)，《辦法》第七條要求服務(wù)提供者依法開展預(yù)訓(xùn)練、優(yōu)化訓(xùn)練等訓(xùn)練數(shù)據(jù)處理活動，應(yīng)使用具有合法來源的數(shù)據(jù)和基礎(chǔ)模型，并且要遵守知識產(chǎn)權(quán)保護(hù)、個(gè)人信息保護(hù)等相關(guān)監(jiān)管要求。第十四條規(guī)定發(fā)現(xiàn)違法內(nèi)容的，應(yīng)當(dāng)采取模型優(yōu)化訓(xùn)練等措施進(jìn)行整改。上述一系列適應(yīng)技術(shù)發(fā)展的監(jiān)管措施，將有助于促進(jìn)生成式人工智能規(guī)范應(yīng)用。

  與此同時(shí)，《辦法》第三章明確服務(wù)規(guī)范。如在第十一條要求提供者對使用者的輸入信息和使用記錄依法履行保護(hù)義務(wù)，不得收集非必要個(gè)人信息，不得非法留存能夠識別使用者身份的輸入信息和使用記錄，不得非法向他人提供使用者的輸入信息和使用記錄，還應(yīng)當(dāng)依法及時(shí)受理和處理個(gè)人關(guān)于查閱、復(fù)制、更正、補(bǔ)充、刪除其個(gè)人信息等的請求，有效回應(yīng)了社會各界對生成式人工智能產(chǎn)業(yè)特點(diǎn)是否能夠符合個(gè)人信息保護(hù)要求的擔(dān)憂。第十二條要求提供者按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》的要求對圖片、視頻等生成內(nèi)容進(jìn)行標(biāo)識，延續(xù)了對于生成內(nèi)容的標(biāo)識要求。由此可見，《辦法》不僅與我國以往的信息內(nèi)容監(jiān)管制度相銜接，還充分考量了與個(gè)人信息保護(hù)、數(shù)據(jù)安全等制度的協(xié)調(diào)性。

  生成式人工智能的發(fā)展標(biāo)志著人工智能正在從專用智能邁向通用智能，進(jìn)入了全新的發(fā)展階段。中共中央政治局4月28日召開會議強(qiáng)調(diào)，“要重視通用人工智能發(fā)展，營造創(chuàng)新生態(tài)，重視防范風(fēng)險(xiǎn)”?！掇k法》的各項(xiàng)具體制度開啟了通用人工智能立法的新進(jìn)程。面對技術(shù)發(fā)展帶來的機(jī)遇與挑戰(zhàn)，《辦法》既創(chuàng)新制度設(shè)計(jì)又保持監(jiān)管一貫的體系性，既重視安全更多方推進(jìn)技術(shù)產(chǎn)業(yè)發(fā)展，不僅引領(lǐng)國際人工智能治理實(shí)踐，更為我國未來通用人工智能的立法與治理做出了有益探索。

  作者：張凌寒 中國政法大學(xué)教授、博士生導(dǎo)師

      本文轉(zhuǎn)載自：安徽省網(wǎng)信辦，原文鏈接：http://www.ahwx.gov.cn/wlyj/202308/t20230829_7048041.html