筑牢人工智能安全防火墻

今年春節(jié)期間，深度求索人工智能基礎(chǔ)技術(shù)研究有限公司(DeepSeek)開(kāi)發(fā)的生成式人工智能(AI)服務(wù)，吸睛引粉，熱議不斷。不過(guò)，也有報(bào)道指出，針對(duì)DeepSeek線上服務(wù)的攻擊烈度突然升級(jí)，其攻擊指令暴增，由此產(chǎn)生的服務(wù)中斷、數(shù)據(jù)泄露等網(wǎng)絡(luò)安全風(fēng)險(xiǎn)不可忽視。如何通過(guò)必要的法律保障提供更安全的人工智能產(chǎn)業(yè)環(huán)境，值得探討。

在人工智能產(chǎn)業(yè)發(fā)展過(guò)程中，個(gè)人信息安全、虛假網(wǎng)絡(luò)信息內(nèi)容生成、算法歧視等問(wèn)題時(shí)有發(fā)生。針對(duì)此，有關(guān)部門出臺(tái)《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》等法律法規(guī)，完善優(yōu)化人工智能應(yīng)用的合法性問(wèn)題。2023年7月份公布的《生成式人工智能服務(wù)管理暫行辦法》明確提出，支持行業(yè)組織、企業(yè)、教育和科研機(jī)構(gòu)、公共文化機(jī)構(gòu)、有關(guān)專業(yè)機(jī)構(gòu)等在生成式人工智能技術(shù)創(chuàng)新、數(shù)據(jù)資源建設(shè)、轉(zhuǎn)化應(yīng)用、風(fēng)險(xiǎn)防范等方面開(kāi)展協(xié)作；推動(dòng)公共數(shù)據(jù)分類分級(jí)有序開(kāi)放，擴(kuò)展高質(zhì)量的公共訓(xùn)練數(shù)據(jù)資源。這些具體舉措，對(duì)于化解潛在技術(shù)安全風(fēng)險(xiǎn)具有重要意義。接下來(lái)，還應(yīng)多角度施策，筑牢人工智能安全防火墻。

一方面，持續(xù)細(xì)化人工智能產(chǎn)品研發(fā)者、服務(wù)提供者以及用戶的法律義務(wù)及其責(zé)任承擔(dān)方式。從長(zhǎng)遠(yuǎn)來(lái)看，難以控制的技術(shù)安全風(fēng)險(xiǎn)是限制科技創(chuàng)新的阻礙。原因在于，為了確保信息服務(wù)質(zhì)量和功能穩(wěn)定性，事前控制技術(shù)風(fēng)險(xiǎn)的經(jīng)濟(jì)效益遠(yuǎn)高于事后行政干預(yù)和矯正科技創(chuàng)新方向。而生成式人工智能服務(wù)和產(chǎn)品呈現(xiàn)出超市場(chǎng)預(yù)期的智能化水平，不僅是ChatGPT面世之初展現(xiàn)的高質(zhì)量文本編輯功能，還表現(xiàn)為代碼編寫(xiě)、視頻制作等領(lǐng)域的高效生成。這種高度智能化特征使得網(wǎng)絡(luò)信息內(nèi)容治理實(shí)踐面臨挑戰(zhàn)，一旦被應(yīng)用于網(wǎng)絡(luò)黑灰產(chǎn)領(lǐng)域，會(huì)對(duì)公民的人身安全和財(cái)產(chǎn)安全造成極大威脅。因此，應(yīng)更加規(guī)范研發(fā)者和服務(wù)提供者的科技創(chuàng)新行為，借由事前安全風(fēng)險(xiǎn)評(píng)估、強(qiáng)制性算法備案等治理措施的法治化，引導(dǎo)產(chǎn)業(yè)的良性發(fā)展。

另一方面，借由保障型條款促成科技創(chuàng)新資源的高效分配，為經(jīng)營(yíng)主體營(yíng)造公平公正的市場(chǎng)競(jìng)爭(zhēng)環(huán)境。從技術(shù)創(chuàng)新環(huán)節(jié)來(lái)看，人工智能科技創(chuàng)新離不開(kāi)算法、數(shù)據(jù)和算力三個(gè)要素，相應(yīng)的法治保障體系也應(yīng)當(dāng)圍繞其展開(kāi)。因此，要基于基礎(chǔ)科技創(chuàng)新、促進(jìn)科技成果轉(zhuǎn)化、人才培養(yǎng)等角度提升算法模型的自主創(chuàng)新能力；拓展訓(xùn)練數(shù)據(jù)獲取方式的多元化，充分保障中小企業(yè)獲取訓(xùn)練數(shù)據(jù)的平等發(fā)展權(quán)。建構(gòu)算力資源供給機(jī)制，囊括算力網(wǎng)絡(luò)建設(shè)、資源調(diào)度規(guī)劃、服務(wù)交易等具體內(nèi)容。