專家解讀｜堅持創(chuàng)新引領 促進生成式人工智能健康發(fā)展

 為促進生成式人工智能健康發(fā)展和規(guī)范應用，國家互聯(lián)網(wǎng)信息辦公室等部門公布《生成式人工智能服務管理暫行辦法》（以下簡稱《辦法》），充分表明支持生成式人工智能健康發(fā)展的態(tài)度，針對生成式人工智能發(fā)展的數(shù)據(jù)安全、個人隱私、虛假信息、知識產(chǎn)權等關鍵問題作出制度安排，是貫徹落實黨中央對新技術新應用領域決策部署的重要舉措，是全球首部針對生成式人工智能的專門立法，在促進產(chǎn)業(yè)發(fā)展和規(guī)制風險方面，形成了中國式立法探索。

  一、《辦法》充分表明了支持生成式人工智能發(fā)展的立法導向

  習近平總書記強調(diào)，人工智能是新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動力量，加快發(fā)展新一代人工智能是事關我國能否抓住新一輪科技革命和產(chǎn)業(yè)變革機遇的戰(zhàn)略問題。我國高度重視人工智能的健康發(fā)展，在生成式人工智能飛速發(fā)展的背景下，中共中央政治局會議強調(diào)“要重視通用人工智能發(fā)展，營造創(chuàng)新生態(tài)，重視防范風險”?！掇k法》貫徹落實黨中央有關人工智能發(fā)展的重要指示，充分表明了我國支持生成式人工智能發(fā)展的態(tài)度。一是《辦法》確立了促進生成式人工智能健康發(fā)展和規(guī)范應用的立法目的。《辦法》在總則中首先將“促進健康發(fā)展”作為立法目的之一，同時明確了“國家堅持發(fā)展和安全并重、促進創(chuàng)新和依法治理相結合的原則，采取有效措施鼓勵生成式人工智能創(chuàng)新發(fā)展，對生成式人工智能服務實行包容審慎和分類分級監(jiān)管?！?strong>二是《辦法》明確了以《科學技術進步法》為上位法依據(jù)?！犊茖W技術進步法》是促進高水平科技自立自強的法治保障，《辦法》以其為上位法，展示了我國健全生成式人工智能創(chuàng)新保障措施，促進生成式人工智能技術發(fā)展應用的導向。三是《辦法》提出了鼓勵生成式人工智能技術發(fā)展的具體舉措?！掇k法》專門就“技術發(fā)展與治理”作出專章規(guī)定，特別是第五條、第六條提出了鼓勵生成式人工智能技術發(fā)展的措施，明確國家鼓勵生成式人工智能技術在各行業(yè)、各領域的創(chuàng)新應用；支持行業(yè)組織、企業(yè)、教育和科研機構、公共文化機構、有關專業(yè)機構等在生成式人工智能技術創(chuàng)新、數(shù)據(jù)資源建設、轉(zhuǎn)化應用、風險防范等方面開展協(xié)作；鼓勵生成式人工智能基礎技術的自主創(chuàng)新，平等互利開展國際交流合作；推動生成式人工智能基礎設施和公共訓練數(shù)據(jù)資源平臺建設等?？傮w來看，《辦法》作為我國在生成式人工智能領域的專門立法，充分考慮了創(chuàng)新發(fā)展的客觀需要，就生成式人工智能健康發(fā)展的關鍵問題規(guī)定了促進措施、明確了發(fā)展方向。

  二、《辦法》積極回應生成式人工智能可能帶來的風險

  國際社會積極關注生成式人工智能可能產(chǎn)生數(shù)據(jù)安全、版權糾紛、算法治理等問題，表達了對由此帶來的數(shù)據(jù)安全、國家安全風險的擔憂。歐盟迅速在其備受關注的《人工智能法案》中區(qū)分了“基礎模型”和生成式人工智能應用，并考慮將生成式人工智能應用納入“高風險”管理，提出相應合規(guī)義務。英國注重引導生成式人工智能發(fā)展，特別強調(diào)了數(shù)據(jù)保護、透明度、風險評估、算法治理等八個方面的監(jiān)管重點。世界主要國家和地區(qū)的立法及監(jiān)管實踐，對我國促進和規(guī)范生成式人工智能提供了相應經(jīng)驗和參考。

  我國堅持發(fā)展與安全并重，在強調(diào)促進生成式人工智能發(fā)展的同時，也注重防范生成式人工智能可能帶來的風險?！掇k法》對生成式人工智能可能產(chǎn)生的風險進行了規(guī)制。生成式人工智能對人工智能領域國家競爭力產(chǎn)生深遠影響，但同時也對安全帶來挑戰(zhàn)?！掇k法》精準應對其帶來的相關風險，明確義務和責任，對各界普遍關注的問題進行了回應，既符合現(xiàn)實需求，也符合國際趨勢。第一，內(nèi)容安全風險。生成式人工智能在訓練過程中，如使用有偏見的數(shù)據(jù)進行訓練，最終可能生成具有偏見或歧視的內(nèi)容；同時，主導者的意志、觀念對于生成式人工智能輸出的內(nèi)容具有較大影響，主導者如按照主觀意愿與偏見對生成式人工智能進行訓練，生成式人工智能將會延續(xù)偏見，最終造成潛在的社會隱患和危害。應對上述問題，《辦法》提出了采取有效措施防止產(chǎn)生民族、信仰、國別、地域、性別、年齡、職業(yè)、健康等歧視以及其他法律、行政法規(guī)禁止的內(nèi)容的要求。第二，侵害個人信息權益風險?！掇k法》明確了訓練數(shù)據(jù)涉及個人信息的，應當取得個人同意或者符合法律、行政法規(guī)規(guī)定的其他情形，并要求生成式人工智能服務提供者及時受理和處理個人關于查閱、復制、更正、補充、刪除其個人信息等的請求。第三，數(shù)據(jù)安全風險。用戶在生成式人工智能中輸入的數(shù)據(jù)可能會被用作進一步迭代的訓練數(shù)據(jù)，并出現(xiàn)在后續(xù)生成式人工智能生成的內(nèi)容中。由此，一旦用戶輸入的信息中包含個人信息、商業(yè)秘密等數(shù)據(jù)，將面臨無形之中被泄露的風險。對此，《辦法》規(guī)定，生成式人工智能服務提供者對生成式人工智能服務使用者的輸入信息和使用記錄應當依法履行保護義務。

  三、《辦法》進一步強化了生成式人工智能發(fā)展治理的法律制度

  《辦法》針對數(shù)據(jù)、內(nèi)容安全、知識產(chǎn)權等生成式人工智能發(fā)展的關鍵問題，作出了明確的制度安排。一是在數(shù)據(jù)領域，《辦法》鼓勵公共數(shù)據(jù)的有序開放，推動公共數(shù)據(jù)分類分級有序開放，拓展高質(zhì)量的公共訓練數(shù)據(jù)資源；明確訓練數(shù)據(jù)的處理規(guī)則，要求數(shù)據(jù)和基礎模型的來源合法，并采取有效措施提高訓練數(shù)據(jù)質(zhì)量；銜接個人信息保護規(guī)則，規(guī)定個人信息的收集、留存、向他人提供等均應依法進行。二是在內(nèi)容領域，《辦法》鼓勵生成積極健康、向上向善的優(yōu)質(zhì)內(nèi)容，要求不得生成法律、行政法規(guī)禁止的內(nèi)容，并要求對圖片、視頻等生成內(nèi)容進行標識。三是在知識產(chǎn)權領域，《辦法》明確了尊重知識產(chǎn)權的原則性要求，明確訓練數(shù)據(jù)處理活動不得侵害他人依法享有的知識產(chǎn)權?！掇k法》銜接了《網(wǎng)絡安全法》《數(shù)據(jù)安全法》《個人信息保護法》《科學技術進步法》有關網(wǎng)絡安全、數(shù)據(jù)安全、個人信息保護等的要求，科學處理了與現(xiàn)有立法之間的關系，為生成式人工智能發(fā)展治理構建了全面系統(tǒng)的制度安排。

  綜上，《辦法》是全球首部專門規(guī)范生成式人工智能服務的立法，是我國在新興領域立法的最新成果，體現(xiàn)了我國對新技術新應用發(fā)展規(guī)制策略的持續(xù)推進。我國高度重視新興領域立法工作，應對新技術新應用快速發(fā)展趨勢，圍繞算法、深度合成等突出領域及時開展立法工作，出臺相應管理規(guī)定，促進和規(guī)范行業(yè)發(fā)展。對算法歧視、“大數(shù)據(jù)殺熟”、誘導沉迷、深度偽造等國內(nèi)外關注的問題，及時作出立法回應?！掇k法》立足于我國新興領域立法經(jīng)驗和基礎，以促進生成式人工智能健康發(fā)展為目標，積極構建符合我國實際的治理制度，有助于促進人工智能產(chǎn)業(yè)健康發(fā)展。

  作者：肖榮美 中國信息通信研究院政策與經(jīng)濟研究所副所長

      本文轉(zhuǎn)載自：安徽省網(wǎng)信辦，原文鏈接：http://www.ahwx.gov.cn/wlyj/202308/t20230829_7048039.html