隨著人工智能技術(shù)的迅猛發(fā)展，大模型在各個(gè)領(lǐng)域的應(yīng)用日益廣泛。為全力筑牢人工智能安全防線，進(jìn)一步提高大模型技術(shù)的安全風(fēng)險(xiǎn)防范能力，今年2月，中國(guó)信息通信研究院（以下簡(jiǎn)稱中國(guó)信通院）聯(lián)合360集團(tuán)，發(fā)起大模型安全基準(zhǔn)測(cè)試SafetyAI Bench制定工作。
大模型安全基準(zhǔn)測(cè)試秉持“公平公正、產(chǎn)業(yè)應(yīng)用、選型參考”原則，采用科學(xué)嚴(yán)謹(jǐn)?shù)臏y(cè)試方法，評(píng)估大模型在內(nèi)容安全、數(shù)據(jù)安全和科技倫理等方面的表現(xiàn)。該體系將覆蓋合法合規(guī)、隱私保護(hù)、文明健康、人工智能自主意識(shí)等27個(gè)維度的中文評(píng)測(cè)數(shù)據(jù)集，為行業(yè)提供全面、細(xì)致的安全性能測(cè)試指標(biāo)。
作為信息通信行業(yè)的重要研究機(jī)構(gòu)，中國(guó)信通院在人工智能和大數(shù)據(jù)領(lǐng)域具有深厚的研究底蘊(yùn)和豐富的行業(yè)經(jīng)驗(yàn)，是可以打通新技術(shù)研究、標(biāo)準(zhǔn)研制、試驗(yàn)驗(yàn)證、檢測(cè)認(rèn)證到產(chǎn)業(yè)推進(jìn)“全鏈條、全環(huán)節(jié)”的產(chǎn)業(yè)創(chuàng)新平臺(tái)。中國(guó)信通院專業(yè)的研究團(tuán)隊(duì)、廣泛的行業(yè)合作網(wǎng)絡(luò)及深厚的行業(yè)影響力，為大模型安全基準(zhǔn)測(cè)試的順利推進(jìn)提供了有力保障。
作為國(guó)內(nèi)較早布局人工智能大模型的企業(yè)，360集團(tuán)自行研發(fā)的認(rèn)知型通用大模型――“360智腦”，在中文通用大模型基準(zhǔn)評(píng)測(cè)等多個(gè)第三方評(píng)測(cè)中，均位于國(guó)產(chǎn)大模型能力第一梯隊(duì)。憑借在數(shù)字安全和人工智能領(lǐng)域的深厚積累，360集團(tuán)將為本次標(biāo)準(zhǔn)測(cè)試工作提供技術(shù)支持、實(shí)踐經(jīng)驗(yàn)和創(chuàng)新思路，共同推動(dòng)大模型安全基準(zhǔn)測(cè)試體系的建立和完善。
