通用人工智能正在開創(chuàng)下一個(gè)黃金十年，我國人工智能（AI）產(chǎn)業(yè)生機(jī)盎然，百余個(gè)大模型競(jìng)相出世，但由此引發(fā)的安全問題也越來越多。8月9日，在第十一屆互聯(lián)網(wǎng)安全大會(huì)上，數(shù)字安全與人工智能技術(shù)融合發(fā)展成為關(guān)鍵議題。

數(shù)據(jù)安全是AI產(chǎn)業(yè)發(fā)展的前提

(資料圖)

如中國工程院院士鄔江興所言，人工智能是引領(lǐng)新一輪產(chǎn)業(yè)變革的核心技術(shù)引擎，為各領(lǐng)域提供了信息化、數(shù)字化、智能化的解決方案，正在引發(fā)經(jīng)濟(jì)結(jié)構(gòu)重大變革、促進(jìn)社會(huì)生產(chǎn)力的整體躍升。

中國互聯(lián)網(wǎng)協(xié)會(huì)理事長(zhǎng)尚冰指出，生成式人工智能正在引發(fā)新一輪智能化浪潮。生成式人工智能在為互聯(lián)網(wǎng)行業(yè)注入強(qiáng)勁發(fā)展動(dòng)力的同時(shí)，也帶來了數(shù)據(jù)泄露、虛假信息、算法歧視等網(wǎng)絡(luò)和信息安全新挑戰(zhàn)。

面對(duì)生成式人工智能發(fā)展亟待解決的問題，中央網(wǎng)信辦網(wǎng)絡(luò)安全協(xié)調(diào)局副局長(zhǎng)羅鋒盈表示，要提升新技術(shù)新應(yīng)用安全風(fēng)險(xiǎn)防范能力。此外，要善于把數(shù)據(jù)資源轉(zhuǎn)化為數(shù)據(jù)優(yōu)勢(shì)，并構(gòu)建網(wǎng)絡(luò)安全、教育、技術(shù)和產(chǎn)業(yè)融合發(fā)展的良性生態(tài)。

“推動(dòng)人工智能產(chǎn)業(yè)快速發(fā)展，必須要把保障數(shù)據(jù)安全放在突出位置?！睂?duì)此，第十三屆全國政協(xié)經(jīng)濟(jì)委員會(huì)副主任蘇波提出三點(diǎn)建議。

加快人工智能數(shù)據(jù)資源的建設(shè)。要在發(fā)展中解決安全問題，建立適合我國國情的數(shù)據(jù)流通共享機(jī)制，培育并規(guī)范數(shù)據(jù)交易市場(chǎng)，鼓勵(lì)不同主體安全地進(jìn)行數(shù)據(jù)交換。構(gòu)建支撐我國人工智能產(chǎn)業(yè)發(fā)展的優(yōu)質(zhì)數(shù)據(jù)資源，加強(qiáng)對(duì)人工智能應(yīng)用場(chǎng)景下數(shù)據(jù)安全防護(hù)技術(shù)的研究，促進(jìn)人工智能技術(shù)在數(shù)據(jù)安全治理與網(wǎng)絡(luò)攻防對(duì)抗等領(lǐng)域中的應(yīng)用。

創(chuàng)新人工智能技術(shù)手段，用技術(shù)進(jìn)步解決安全風(fēng)險(xiǎn)難題，加強(qiáng)人工智能數(shù)據(jù)安全保護(hù)基礎(chǔ)理論研究和技術(shù)研發(fā)。發(fā)展負(fù)責(zé)任、可信任、能受控的通用人工智能。鼓勵(lì)企業(yè)建設(shè)完善人工智能開源學(xué)習(xí)框架，增強(qiáng)框架內(nèi)置學(xué)習(xí)數(shù)據(jù)和基礎(chǔ)設(shè)施，并通過我國巨大的市場(chǎng)優(yōu)勢(shì)，加快培育人工智能開源平臺(tái)生態(tài)圈和產(chǎn)業(yè)鏈。

完善人工智能數(shù)據(jù)安全監(jiān)管體系，用規(guī)范監(jiān)管保障安全發(fā)展，加快完善人工智能健康發(fā)展的監(jiān)管規(guī)則和法律法規(guī)，明確人工智能數(shù)據(jù)安全法律原則，確立不同參與主體在人工智能生命周期各階段所享有的數(shù)據(jù)權(quán)利與所承擔(dān)的安全責(zé)任。制定人工智能產(chǎn)品應(yīng)用服務(wù)的數(shù)據(jù)安全服務(wù)產(chǎn)品體系，通過檢測(cè)驗(yàn)證提升人工智能產(chǎn)品安全性和成熟度，降低人工智能數(shù)據(jù)安全風(fēng)險(xiǎn)。

利用AI技術(shù)防范數(shù)字安全風(fēng)險(xiǎn)

當(dāng)前網(wǎng)絡(luò)威脅不斷升級(jí)，“小毛賊”“小黑客”已經(jīng)成為歷史，有組織的網(wǎng)絡(luò)犯罪、高級(jí)持續(xù)性威脅已經(jīng)成為當(dāng)今網(wǎng)絡(luò)安全最大的隱患。傳統(tǒng)的安全防護(hù)在戰(zhàn)略上缺乏統(tǒng)籌規(guī)劃，難以形成協(xié)同配合，已經(jīng)不足以應(yīng)對(duì)持續(xù)變化的安全問題。用數(shù)字化思維重塑安全，建設(shè)體系化、實(shí)戰(zhàn)化、智能化的數(shù)字安全能力勢(shì)在必行。

怎么建設(shè)這種數(shù)字安全能力？“數(shù)字安全需要探索新的模式，以適應(yīng)復(fù)雜的數(shù)字化場(chǎng)景。”中國工程院院士鄔賀銓建議，要摒棄硬件式、碎片化、弱協(xié)同的傳統(tǒng)安全防護(hù)手段，向云化、服務(wù)化升級(jí)。

數(shù)字安全企業(yè)是建設(shè)數(shù)字安全能力的重要一環(huán)。人工智能時(shí)代下，數(shù)字安全企業(yè)需要建立體系化的安全運(yùn)營服務(wù)框架和面向各行各業(yè)輸出數(shù)字安全能力，幫助其他企業(yè)構(gòu)建安全防御體系，保護(hù)數(shù)據(jù)安全與商業(yè)秘密。而人工智能恰恰可以協(xié)助數(shù)字安全企業(yè)防范數(shù)字風(fēng)險(xiǎn)。正如尚冰所言：“人工智能等技術(shù)既是數(shù)字安全防御的重點(diǎn)，也是保障數(shù)字安全的有力手段。要推動(dòng)大數(shù)據(jù)、人工智能等技術(shù)的融合，提升網(wǎng)絡(luò)安全保障能力?！?/p>

360集團(tuán)創(chuàng)始人周鴻祎透露，目前360集團(tuán)有全球最大的網(wǎng)絡(luò)安全攻擊樣本庫和攻擊整個(gè)過程全記錄的知識(shí)庫，記錄了數(shù)以億計(jì)的網(wǎng)絡(luò)攻擊知識(shí)。他們現(xiàn)在也在做試驗(yàn)，把這些知識(shí)加入到專門的垂直大模型里面去，爭(zhēng)取在下次遇到攻擊的時(shí)候，由大模型判斷這是否是一次真實(shí)的攻擊。“目前，大模型判斷的準(zhǔn)確率已達(dá)97%。相比之下，人類判斷一次網(wǎng)絡(luò)攻擊的準(zhǔn)確率超過80%就不錯(cuò)了?！彼硎?，當(dāng)大模型判斷準(zhǔn)確率達(dá)99%時(shí)就可投入使用。

關(guān)鍵詞：