一段名人演講視頻，卻可能是通過技術(shù)手段偽造而成；在錐筒上貼一張算法生成的圖案，能讓自動駕駛汽車無法識別，徑直撞上去……首屆人工智能安全大賽上，圍繞這些人工智能安全關(guān)鍵技術(shù)問題，400多支代表隊提交了3000余份技術(shù)攻防方案，展開激烈角逐。昨天，大賽頒獎儀式在京舉行，來自清華大學(xué)、北京理工大學(xué)等單位的9支代表隊最終獲獎。
人工智能是北京重點發(fā)展的高精尖產(chǎn)業(yè)之一。目前，北京擁有人工智能企業(yè)超過1600家，上市公司43家，均居全國首位。而在人工智能發(fā)展過程中，技術(shù)局限、惡意應(yīng)用等情況使得相關(guān)安全問題日益突出?；顒又鬓k方表示，人工智能在很多領(lǐng)域都作為通用基礎(chǔ)設(shè)施存在，其“黑箱”特點使得安全風(fēng)險更隱蔽、潛在損失更大。當(dāng)前，人工智能安全的戰(zhàn)略意義正在逐步凸顯。
首屆人工智能安全大賽是第一個全國性人工智能安全賽事，也是中關(guān)村論壇國際前沿科技創(chuàng)新大賽專題賽之一。一段視頻究竟是否被合成偽造？自動駕駛系統(tǒng)在何種情況下會出現(xiàn)誤判？怎樣仿冒他人身份解鎖人臉識別系統(tǒng)？本屆大賽分設(shè)深度偽造、自動駕駛、人臉識別三個人工智能安全賽道，400多支來自高校、科研機構(gòu)、科技企業(yè)的代表隊，圍繞賽題提交了3000余份技術(shù)攻防方案。通過識別準確率、攻擊成功率等數(shù)據(jù)的比拼，最終，來自清華大學(xué)、北京理工大學(xué)等高校及科技企業(yè)的9支代表隊分獲各賽道一、二、三等獎。
“首屆人工智能安全大賽在北京舉辦，是人工智能科技和產(chǎn)業(yè)在北京聚集發(fā)展的自然之勢?！笔薪?jīng)信局副局長潘鋒表示，人工智能安全問題與人工智能相伴相生，相信本次大賽的成果將有效反哺人工智能安全領(lǐng)域的技術(shù)創(chuàng)新、場景挖掘和人才培養(yǎng)。
