近年來(lái)，隨著人工智能產(chǎn)業(yè)的高速發(fā)展，如何利用大模型技術(shù)來(lái)有效提升網(wǎng)絡(luò)安全保障水平已成為網(wǎng)絡(luò)安全領(lǐng)域的熱點(diǎn)研究方向。針對(duì)當(dāng)前網(wǎng)絡(luò)安全行業(yè)存在的安全能力不足、運(yùn)營(yíng)效率低下、產(chǎn)品協(xié)同困難、安全專(zhuān)家缺乏等諸多問(wèn)題，國(guó)內(nèi)眾多網(wǎng)絡(luò)安全從業(yè)組織正積極探索大語(yǔ)言模型等人工智能技術(shù)在安全領(lǐng)域的應(yīng)用，并相繼推出各具特色的安全大模型相關(guān)產(chǎn)品，以提升整體網(wǎng)絡(luò)安全保障能力。
為進(jìn)一步規(guī)范安全大模型的設(shè)計(jì)、開(kāi)發(fā)與應(yīng)用，中國(guó)信息通信研究院(簡(jiǎn)稱(chēng)“中國(guó)信通院”)依托人工智能產(chǎn)業(yè)聯(lián)盟(AIIA)安全治理委員會(huì)，聯(lián)合多方研制了《安全大模型能力要求及評(píng)估方法》系列規(guī)范，共包含5部分。其中，《安全大模型能力要求與評(píng)估防范 第1部分：總體框架》和《安全大模型能力要求與評(píng)估防范 第2部分：基礎(chǔ)網(wǎng)絡(luò)安全》已于近日正式發(fā)布。
《安全大模型能力要求與評(píng)估方法 第1部分：總體框架》
文件規(guī)定了安全大模型所覆蓋能力的總體框架和評(píng)估方法。安全大模型的架構(gòu)分為基礎(chǔ)設(shè)施層、通用安全能力和安全原子能力三層。安全大模型的研發(fā)旨在解決各類(lèi)復(fù)雜的安全應(yīng)用場(chǎng)景需求，通用安全能力和安全原子能力以不同的組合方式可以滿(mǎn)足不同安全應(yīng)用場(chǎng)景的需求。文件適用于網(wǎng)絡(luò)安全大模型的研究開(kāi)發(fā)、建設(shè)部署的相關(guān)組織，也適用于安全大模型使用方或第三方評(píng)測(cè)機(jī)構(gòu)開(kāi)展能力測(cè)試與產(chǎn)品選型。
安全大模型總體框架圖
1. 安全大模型包含如下三層：
(1)基礎(chǔ)設(shè)施層：基礎(chǔ)設(shè)施層包含了支撐大模型運(yùn)行的算力、模型和數(shù)據(jù)。
(2)通用安全能力：包括了安全問(wèn)答、安全語(yǔ)言翻譯、安全數(shù)據(jù)處理、安全任務(wù)編排、安全工具調(diào)用、安全告警研判、安全報(bào)告生成、大模型內(nèi)生安全等通用能力。
(3)安全原子能力：包括了安全大模型可具備的基礎(chǔ)網(wǎng)絡(luò)安全能力、數(shù)據(jù)安全能力、內(nèi)容安全能力和業(yè)務(wù)安全能力。
2. 安全應(yīng)用場(chǎng)景場(chǎng)景包括：
安全運(yùn)營(yíng)、態(tài)勢(shì)分析、安全管理、事件研判、安全技術(shù)防護(hù)、風(fēng)險(xiǎn)評(píng)估、攻防等場(chǎng)景。
《安全大模型能力要求與評(píng)估方法 第2部分：基礎(chǔ)網(wǎng)絡(luò)安全》
文件規(guī)定了安全大模型基礎(chǔ)網(wǎng)絡(luò)安全領(lǐng)域應(yīng)具備的能力以及相應(yīng)的評(píng)估流程與方法，適用于安全大模型基礎(chǔ)網(wǎng)絡(luò)安全能力部分的研究開(kāi)發(fā)、建設(shè)部署的相關(guān)組織，也適用于網(wǎng)絡(luò)安全大模型使用方或第三方評(píng)測(cè)機(jī)構(gòu)開(kāi)展能力測(cè)試與產(chǎn)品選型。
文件主要對(duì)安全大模型基礎(chǔ)網(wǎng)絡(luò)安全應(yīng)具備的原子能力提出了具體要求，包括安全大模型可具備的惡意流量檢測(cè)、入侵檢測(cè)、訪(fǎng)問(wèn)控制、漏洞檢測(cè)、惡意代碼檢測(cè)、滲透測(cè)試、攻擊面檢測(cè)溯源、WEB攻擊檢測(cè)、惡意郵件檢測(cè)、代碼審計(jì)、威脅情報(bào)分析、威脅狩獵等能力，同時(shí)對(duì)安全大模型應(yīng)具備的通用安全能力進(jìn)行了詳細(xì)描述。
中國(guó)信通院將繼續(xù)開(kāi)展安全大模型系列規(guī)范的研制工作，圍繞數(shù)據(jù)安全、內(nèi)容安全、業(yè)務(wù)安全等方向編制相關(guān)標(biāo)準(zhǔn)，提升人工智能大模型等新技術(shù)產(chǎn)品變革與行業(yè)應(yīng)用能力提升，歡迎業(yè)界同仁共同參與。
