作者為中國(guó)政法大學(xué)刑事司法學(xué)院教授

習(xí)近平總書記指出：“人工智能是新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動(dòng)力量，將對(duì)全球經(jīng)濟(jì)社會(huì)發(fā)展和人類文明進(jìn)步產(chǎn)生深遠(yuǎn)影響。”生成式人工智能是指基于算法、模型、規(guī)則生成文本、圖片、聲音、視頻、代碼等內(nèi)容的技術(shù)。在海量數(shù)據(jù)與強(qiáng)大算力支撐下，聽得懂、說得出、能互動(dòng)的生成式人工智能快速迭代升級(jí)，呈現(xiàn)出良好互動(dòng)性、高度通用性、智能生成性等特征，并正與各行各業(yè)形成更加剛性、高頻、泛在、深度的聯(lián)結(jié)，也導(dǎo)致其潛在風(fēng)險(xiǎn)更多更真實(shí)。黨的二十屆三中全會(huì)《決定》科學(xué)把握人工智能發(fā)展規(guī)律和特點(diǎn)，提出“建立人工智能安全監(jiān)管制度”“完善生成式人工智能發(fā)展和管理機(jī)制”，體現(xiàn)了更好統(tǒng)籌發(fā)展和安全的客觀需要，為推動(dòng)人工智能領(lǐng)域的技術(shù)進(jìn)步、產(chǎn)業(yè)發(fā)展與安全保障指明前進(jìn)方向。

生成式人工智能在技術(shù)運(yùn)行上可分為三個(gè)階段，即前置性學(xué)習(xí)訓(xùn)練及人工標(biāo)注輔助算法升級(jí)的準(zhǔn)備階段，輸入數(shù)據(jù)進(jìn)行算法處理得出生成物的運(yùn)算階段，生成物進(jìn)入社會(huì)加以運(yùn)用的生成階段。我們要深入分析生成式人工智能的運(yùn)行機(jī)理，把握各階段安全風(fēng)險(xiǎn)形成與發(fā)展的特征，運(yùn)用法治手段加強(qiáng)系統(tǒng)性治理，確保生成式人工智能所蘊(yùn)含的巨大力量始終在法治軌道上發(fā)揮作用。

在生成式人工智能的準(zhǔn)備階段，數(shù)據(jù)安全風(fēng)險(xiǎn)易發(fā)多發(fā)、較為突出。生成式人工智能通過數(shù)據(jù)訓(xùn)練、數(shù)據(jù)處理分析來提煉信息、預(yù)測(cè)趨勢(shì)。這就必須對(duì)數(shù)據(jù)進(jìn)行適當(dāng)分類，確立不同類型數(shù)據(jù)的利用模式和保護(hù)方式，以妥善應(yīng)對(duì)相關(guān)數(shù)據(jù)安全風(fēng)險(xiǎn)，避免數(shù)據(jù)違規(guī)利用或者不當(dāng)泄露，產(chǎn)生侵權(quán)方面的糾紛。比如，在政務(wù)處理流程中形成的政務(wù)數(shù)據(jù)是數(shù)字政府的核心要素。生成式人工智能為了得出相對(duì)準(zhǔn)確的結(jié)論，不可避免地要收集分析政務(wù)數(shù)據(jù)。應(yīng)當(dāng)明確生成式人工智能獲取和利用政務(wù)數(shù)據(jù)的法律規(guī)則，既滿足利用政務(wù)數(shù)據(jù)服務(wù)社會(huì)的需求，有力支持人工智能政務(wù)服務(wù)大模型開發(fā)、訓(xùn)練和應(yīng)用，提高公共服務(wù)和社會(huì)治理智能化水平；又規(guī)范其加工方式，避免利用政務(wù)數(shù)據(jù)得出的成果侵害個(gè)人權(quán)益、破壞社會(huì)公共秩序。對(duì)于個(gè)人數(shù)據(jù)而言，生成式人工智能通過組合分析挖掘其潛在價(jià)值，其對(duì)個(gè)人數(shù)據(jù)的收集利用及其成果可能對(duì)公民權(quán)利造成侵害。實(shí)踐中，生成式人工智能傾向于過度收集個(gè)人數(shù)據(jù)以提升結(jié)論準(zhǔn)確性，比如，通過分析醫(yī)療健康數(shù)據(jù)來挖掘個(gè)人行蹤、預(yù)測(cè)個(gè)人生活軌跡。為此，必須堅(jiān)持依法收集，按照技術(shù)所需的最小范圍收集個(gè)人數(shù)據(jù)，設(shè)置合理的數(shù)據(jù)處理深度，避免過度挖掘潛在信息。綜上，應(yīng)將分類分級(jí)的數(shù)據(jù)安全監(jiān)管要求嵌入生成式人工智能的準(zhǔn)備階段，避免數(shù)據(jù)安全風(fēng)險(xiǎn)演化為具體的法益損害后果。

在生成式人工智能的運(yùn)算階段，內(nèi)生于人工智能大模型的算法偏見風(fēng)險(xiǎn)值得警惕。生成式人工智能對(duì)于數(shù)據(jù)的分析和處理主要通過算法模型。不同于傳統(tǒng)算法模型，生成式人工智能在進(jìn)行機(jī)器學(xué)習(xí)的同時(shí)，還會(huì)以大量的人工標(biāo)注來校正機(jī)器學(xué)習(xí)的結(jié)論，推動(dòng)人工智能進(jìn)化。但“機(jī)器學(xué)習(xí)+人工標(biāo)注”作為算法技術(shù)內(nèi)核，也會(huì)使人類的意志與偏好所產(chǎn)生的影響比單純的機(jī)器學(xué)習(xí)更大。個(gè)人偏好的影響疊加在算法模型本身的偏見之上，將導(dǎo)致算法偏見的負(fù)面效應(yīng)倍增，算法偏見的產(chǎn)生更加難以追溯和預(yù)防。防范化解算法偏見風(fēng)險(xiǎn)，應(yīng)根據(jù)算法偏見的產(chǎn)生原理與產(chǎn)生場(chǎng)域進(jìn)行針對(duì)性治理。要將法律規(guī)范的要求深度嵌入生成式人工智能的算法模型之中，推動(dòng)技術(shù)向善，消除算法偏見，確保合理利用生成式人工智能算法并分配算力資源。基于技管結(jié)合理念，加強(qiáng)對(duì)算法的全周期安全監(jiān)管，將法律規(guī)范的要求落實(shí)到生成式人工智能運(yùn)行的全流程之中。在設(shè)置算法之初就要遵循相關(guān)法律規(guī)則與技術(shù)標(biāo)準(zhǔn)，落實(shí)“機(jī)器學(xué)習(xí)+人工標(biāo)注”的規(guī)范要求，審查存在風(fēng)險(xiǎn)的算法模塊，更好發(fā)現(xiàn)生成式人工智能算法模型中的技術(shù)風(fēng)險(xiǎn)；當(dāng)發(fā)現(xiàn)先天性算法偏見時(shí)，依據(jù)法律要求從生成式人工智能的算法內(nèi)部進(jìn)行糾正，確保修改后的算法能正常運(yùn)行；事后出現(xiàn)問題時(shí)，對(duì)人工智能算法進(jìn)行溯源治理，實(shí)現(xiàn)精準(zhǔn)歸責(zé)并加以糾正，推動(dòng)完善生成式人工智能的算法監(jiān)管標(biāo)準(zhǔn)，填補(bǔ)事前預(yù)防審查的不足，以技術(shù)手段與法律手段并行做到發(fā)展與管理并重。

在生成式人工智能的生成階段，存在著與生成物相關(guān)的知識(shí)產(chǎn)權(quán)風(fēng)險(xiǎn)、生成物濫用風(fēng)險(xiǎn)等多種風(fēng)險(xiǎn)。由于生成式人工智能的智能化程度很高，可以實(shí)現(xiàn)內(nèi)容自動(dòng)化編纂、智能化潤(rùn)色加工、多模態(tài)轉(zhuǎn)換以及創(chuàng)造性生成，直接改變了內(nèi)容的生產(chǎn)方式與供給模式，相較于以往的人工智能系統(tǒng)產(chǎn)生了顛覆性變化，由此引發(fā)了生成式人工智能的生成物知識(shí)產(chǎn)權(quán)歸屬、知識(shí)產(chǎn)權(quán)保護(hù)等問題。有的人認(rèn)為生成式人工智能生成物是數(shù)據(jù)算法的結(jié)論，其本質(zhì)上是計(jì)算與模仿，而非智力勞動(dòng)，無(wú)法成為知識(shí)產(chǎn)權(quán)的客體。反對(duì)者則認(rèn)為生成式人工智能模擬人腦神經(jīng)網(wǎng)絡(luò)的構(gòu)造來獲取與輸出數(shù)據(jù)，通過卷積神經(jīng)網(wǎng)絡(luò)控制自身的設(shè)計(jì)與制造，其具有獨(dú)創(chuàng)性與創(chuàng)新性的生成物應(yīng)當(dāng)受知識(shí)產(chǎn)權(quán)法保護(hù)。同時(shí)，生成式人工智能還增加了知識(shí)產(chǎn)權(quán)糾紛風(fēng)險(xiǎn)和保護(hù)難度，一些生成物可能含有侵犯他人知識(shí)產(chǎn)權(quán)的內(nèi)容，或者經(jīng)過加工等手段被包裝成個(gè)人擁有完全知識(shí)產(chǎn)權(quán)的原創(chuàng)作品，引發(fā)相關(guān)知識(shí)產(chǎn)權(quán)爭(zhēng)議。為及時(shí)化解相關(guān)問題，應(yīng)對(duì)生成式人工智能的技術(shù)模式、技術(shù)原理按照知識(shí)產(chǎn)權(quán)法的標(biāo)準(zhǔn)開展實(shí)質(zhì)分析，如果技術(shù)上需要人類意志介入，使生成物能夠產(chǎn)生獨(dú)創(chuàng)性與創(chuàng)新性，應(yīng)賦予知識(shí)產(chǎn)權(quán)并明確其歸屬，強(qiáng)化生成式人工智能領(lǐng)域知識(shí)產(chǎn)權(quán)的系統(tǒng)性保護(hù)；同時(shí)要合理確定對(duì)生成物知識(shí)產(chǎn)權(quán)保護(hù)的范圍，避免保護(hù)范圍無(wú)限擴(kuò)張，妨礙生成式人工智能的推廣運(yùn)用和技術(shù)發(fā)展。還要加強(qiáng)對(duì)生成物濫用風(fēng)險(xiǎn)的治理。比如，要求作品清楚標(biāo)識(shí)生成式人工智能在作者創(chuàng)作中發(fā)揮作用的情況，加強(qiáng)對(duì)可能涉及違法犯罪的深度偽造、AI換臉等生成物的精準(zhǔn)化、常態(tài)化監(jiān)管，等等。

生成式人工智能在社會(huì)應(yīng)用中產(chǎn)生的擴(kuò)散影響還有很多，除了上述風(fēng)險(xiǎn)還有很多其他類型的風(fēng)險(xiǎn)，比如加劇信息不對(duì)稱、擴(kuò)大數(shù)字鴻溝、損害數(shù)字弱勢(shì)群體的利益等。要根據(jù)實(shí)際情況作出應(yīng)對(duì)，盡量降低新技術(shù)給社會(huì)發(fā)展帶來的不良沖擊。