張 欣：探索人工智能體的模塊化治理框架

作者為對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué)法學(xué)院教授

科技興則民族興，科技強(qiáng)則國(guó)家強(qiáng)。黨的十八大以來(lái)，我國(guó)高度重視人工智能發(fā)展，積極推動(dòng)互聯(lián)網(wǎng)、大數(shù)據(jù)、人工智能和實(shí)體經(jīng)濟(jì)深度融合，培育壯大智能產(chǎn)業(yè)，加快發(fā)展新質(zhì)生產(chǎn)力，為高質(zhì)量發(fā)展提供新動(dòng)能。習(xí)近平總書(shū)記指出：“要堅(jiān)持促進(jìn)發(fā)展和依法管理相統(tǒng)一，既大力培育人工智能、物聯(lián)網(wǎng)、下一代通信網(wǎng)絡(luò)等新技術(shù)新應(yīng)用，又積極利用法律法規(guī)和標(biāo)準(zhǔn)規(guī)范引導(dǎo)新技術(shù)應(yīng)用。”習(xí)近平總書(shū)記的重要論述為我國(guó)人工智能發(fā)展提供了根本遵循和行動(dòng)指南。大力發(fā)展人工智能，提高人工智能安全治理水平，要把黨的二十屆三中全會(huì)《決定》提出的“建立人工智能安全監(jiān)管制度”重要部署不折不扣貫徹落實(shí)好，準(zhǔn)確把握人工智能發(fā)展動(dòng)向，重點(diǎn)關(guān)注人工智能前沿技術(shù)及其帶來(lái)的風(fēng)險(xiǎn)挑戰(zhàn)，加強(qiáng)前瞻性思考，不斷探索人工智能治理的創(chuàng)新方案。

當(dāng)前，生成式人工智能開(kāi)創(chuàng)了人機(jī)交互新范式，憑借其強(qiáng)大的交互、理解和生成能力，為發(fā)展以大型自然語(yǔ)言模型為核心組件，集記憶、規(guī)劃和工具使用于一體，具備感知和行動(dòng)能力的人工智能體開(kāi)辟了廣闊前景。人工智能體已成為通用人工智能最重要的前沿研究方向和科技企業(yè)競(jìng)相布局的新賽道。它以大型自然語(yǔ)言模型為“智慧引擎”，具有自主性、適應(yīng)性和交互性特征，可顯著提高生產(chǎn)效率，增強(qiáng)用戶(hù)體驗(yàn)，提供超越人類(lèi)能力的決策支持，已能夠應(yīng)用于軟件開(kāi)發(fā)、科學(xué)研究等多種真實(shí)場(chǎng)景。盡管大規(guī)模商業(yè)化落地仍在初步探索和孵化階段，但人工智能體所代表的虛實(shí)融合、人機(jī)深度互動(dòng)等趨勢(shì)對(duì)經(jīng)濟(jì)社會(huì)發(fā)展具有重要引領(lǐng)意義。然而，由于技術(shù)局限，人工智能體也可能引發(fā)復(fù)雜的、動(dòng)態(tài)的、不可預(yù)見(jiàn)的風(fēng)險(xiǎn)與隱憂(yōu)。

從設(shè)計(jì)邏輯看，人工智能體需要通過(guò)控制端獲得認(rèn)知能力，通過(guò)感知端從周?chē)h(huán)境獲取和利用信息，最終在行動(dòng)端成為基于物理實(shí)體進(jìn)行感知和行動(dòng)的智能系統(tǒng)。

在控制端，大型自然語(yǔ)言模型作為人工智能體的“大腦”，通過(guò)學(xué)習(xí)海量數(shù)據(jù)形成知識(shí)，構(gòu)成人工智能體控制系統(tǒng)中的記憶模塊，但其在生成內(nèi)容的可靠性和準(zhǔn)確性方面存在風(fēng)險(xiǎn)。比如，模型生成的內(nèi)容可能不遵循信息源或者與現(xiàn)實(shí)世界的真實(shí)情況不符，產(chǎn)生所謂“機(jī)器幻覺(jué)”；由于訓(xùn)練數(shù)據(jù)中的人類(lèi)偏見(jiàn)，影響人工智能體的公平?jīng)Q策；等等。

在感知端，為充分理解具體情境下的顯性信息和隱性信息，準(zhǔn)確感知人類(lèi)意圖，人工智能體將感知范圍從純文本拓展到包括文本、視覺(jué)和聽(tīng)覺(jué)模式在內(nèi)的多模態(tài)領(lǐng)域。這雖然提升了決策能力，卻在融合和分析不同渠道和類(lèi)型的多源數(shù)據(jù)時(shí)可能引發(fā)一系列隱私泄露和數(shù)據(jù)安全風(fēng)險(xiǎn)。比如，不當(dāng)使用和分享人臉信息、指紋、聲紋等高度個(gè)性化、具有永久性的生物特征數(shù)據(jù)，導(dǎo)致長(zhǎng)期甚至永久性的隱私風(fēng)險(xiǎn)。為更好地處理復(fù)雜任務(wù)，部署多個(gè)人工智能體進(jìn)行規(guī)劃、合作甚至競(jìng)爭(zhēng)，以完成和提高任務(wù)績(jī)效的多智能體系統(tǒng)將成為主流和常態(tài)。多個(gè)人工智能體的系統(tǒng)交互就可能引發(fā)不可預(yù)見(jiàn)的系統(tǒng)性安全風(fēng)險(xiǎn)。即使每個(gè)算法在單獨(dú)操作時(shí)看似安全和合理，但組合和交互之后仍可能產(chǎn)生完全不同且難以預(yù)測(cè)的風(fēng)險(xiǎn)，并迅速演化升級(jí)。比如，在股票市場(chǎng)中，如果人工智能被廣泛應(yīng)用，多個(gè)算法自動(dòng)識(shí)別股票價(jià)格微小變化，同時(shí)大量執(zhí)行高頻交易進(jìn)行套利，就可能引發(fā)股票市場(chǎng)閃崩的系統(tǒng)性安全事件。

在行動(dòng)端，部署于真實(shí)物理環(huán)境的人工智能體將可能以更為立體、擬人的形象呈現(xiàn)。與虛擬空間不同，現(xiàn)實(shí)空間依賴(lài)交互式學(xué)習(xí)方法，人工智能體需要豐富的、全方位的信息感知來(lái)觀(guān)察、學(xué)習(xí)和行動(dòng)，通過(guò)基于反饋的學(xué)習(xí)優(yōu)化能力，這可能對(duì)個(gè)人隱私構(gòu)成全面性、侵入性和隱蔽性的風(fēng)險(xiǎn)。比如，解讀用戶(hù)的肢體語(yǔ)言并感知更加復(fù)雜的用戶(hù)活動(dòng)，未經(jīng)用戶(hù)授權(quán)持續(xù)隱秘地收集數(shù)據(jù)，一旦系統(tǒng)存在安全漏洞，可能引發(fā)巨大的數(shù)據(jù)安全風(fēng)險(xiǎn)。此外，隨著人工智能體自主性不斷提升，不僅可能干預(yù)和影響人類(lèi)的認(rèn)知和情緒，也挑戰(zhàn)著人類(lèi)作為獨(dú)立決策者和獨(dú)立行動(dòng)者的能力與地位。比如，一些聊天機(jī)器人在與用戶(hù)的交互過(guò)程中就出現(xiàn)了影響用戶(hù)情感的輸出，有時(shí)是負(fù)面并且具有操縱性的。

面對(duì)人工智能體帶來(lái)的風(fēng)險(xiǎn)和挑戰(zhàn)，要讓人工智能體的行為符合人類(lèi)的意圖和價(jià)值觀(guān)，需要探索創(chuàng)新性的治理方案，保證人工智能安全監(jiān)管制度切實(shí)管用。人工智能體的發(fā)展正處于“從零到一”的關(guān)鍵期。治理方案應(yīng)具備以不變應(yīng)萬(wàn)變的能力，確保該技術(shù)的發(fā)展與應(yīng)用始終處于可控的軌道上。人工智能體的開(kāi)發(fā)、訓(xùn)練、部署、運(yùn)行和服務(wù)等環(huán)節(jié)經(jīng)過(guò)高度專(zhuān)業(yè)化的分工，形成了復(fù)雜的分層結(jié)構(gòu)。每一層均有不同的參與者、利益相關(guān)方和潛在風(fēng)險(xiǎn)因素，使人工智能體具有“模塊”化的產(chǎn)業(yè)鏈特質(zhì)。因此，可以構(gòu)建一種能夠覆蓋整個(gè)產(chǎn)業(yè)鏈和各個(gè)端層的模塊化治理框架，從數(shù)據(jù)模塊、算法模塊、模型架構(gòu)等關(guān)鍵節(jié)點(diǎn)出發(fā)，設(shè)計(jì)相應(yīng)的治理模塊。例如在部署環(huán)節(jié)，就可根據(jù)應(yīng)用場(chǎng)景和部署模式的特性，靈活選擇、協(xié)同組合不同的治理模塊，構(gòu)建與之相匹配的治理方案。模塊化治理框架提供了一種具有可操作性的分解方法，通過(guò)將治理目標(biāo)拆解為相對(duì)獨(dú)立但關(guān)聯(lián)耦合的治理模塊，漸序推動(dòng)治理體系形成，不僅提高了治理的靈活性和針對(duì)性，還能夠適應(yīng)技術(shù)的快速迭代。在構(gòu)建基于數(shù)據(jù)、算法、模型和場(chǎng)景等維度的治理模塊時(shí)，應(yīng)以技術(shù)賦能監(jiān)管，打造與人工智能體模塊化治理框架相適配的、智慧化的治理工具，從而彌合風(fēng)險(xiǎn)動(dòng)態(tài)性與監(jiān)管靜態(tài)性之間的張力，實(shí)現(xiàn)對(duì)特定高風(fēng)險(xiǎn)場(chǎng)景的精準(zhǔn)化治理。

要構(gòu)建面向人工智能體的交互式治理生態(tài)。人工智能體具有深度交互性、高度互聯(lián)性以及動(dòng)態(tài)適應(yīng)性。相應(yīng)地，治理方式應(yīng)當(dāng)超越傳統(tǒng)的以個(gè)體為中心的治理，推動(dòng)形成廣泛互聯(lián)、多方參與、多層次協(xié)作的治理生態(tài)。其中，技術(shù)開(kāi)發(fā)人員、運(yùn)營(yíng)維護(hù)人員等技術(shù)社群對(duì)于人工智能體的治理將起到至關(guān)重要的“吹哨人”作用。應(yīng)更好發(fā)揮技術(shù)社群的監(jiān)督優(yōu)勢(shì)，在人工智能企業(yè)內(nèi)部構(gòu)建有效的約束機(jī)制。還應(yīng)積極提高廣大用戶(hù)的數(shù)字素養(yǎng)，增強(qiáng)其依法、安全、負(fù)責(zé)任使用人工智能體的意識(shí)，實(shí)現(xiàn)與人工智能體的良性交互，推動(dòng)形成向上向善的運(yùn)行狀態(tài)。