作為人工智能領域的新實踐，近年來，利用深度學習、虛擬現(xiàn)實等生成合成類算法制作圖像、音頻、視頻、虛擬場景等信息的深度合成技術，已在多個領域大量應用，伴隨著不斷涌現(xiàn)的使用需求，深度合成內容數(shù)量和關注度呈現(xiàn)快速增長態(tài)勢。但另一方面，惡意使用該技術生成的音視頻，也顯現(xiàn)出了巨大的破壞力，給個人、企業(yè)造成了聲譽損害和財產損失，也對社會、國家安全造成威脅。
近日，清華大學人工智能研究院、北京瑞萊智慧科技有限公司、清華大學智媒研究中心、國家工業(yè)信息安全發(fā)展研究中心、北京市大數(shù)據中心聯(lián)合發(fā)布《深度合成十大趨勢報告（2022）》（以下簡稱“《報告》”），從技術研究、領域應用、發(fā)展趨勢等多個方面，全面深入地介紹和研判深度合成技術及應用帶來的機遇與挑戰(zhàn)，并就其發(fā)展與治理給出切實可行的建議和措施。
多個領域落地應用，深度合成內容迎爆發(fā)式增長
深度合成的圖像、視頻、音頻、文本等內容，例如熱門影視劇片段、話題明星的換臉視頻等等，具有極強的娛樂性與傳播性，伴隨著技術的發(fā)展成熟，越來越多的創(chuàng)作者在互聯(lián)網上發(fā)布和分享深度合成內容，數(shù)量逐年高速增長。
數(shù)據說明：在10家國內外平臺中（愛奇藝、騰訊視頻、優(yōu)酷、嗶哩嗶哩、抖音、快手、微博、YouTube、Twitter、TikTok），以“Deepfakes”等10個中英文關鍵詞進行檢索，并通過URL去重后，統(tǒng)計出數(shù)據結果。
以視頻為例，《報告》顯示，在國內外主流音視頻網站、社交媒體平臺上，2021年新發(fā)布的深度合成視頻的數(shù)量較2017年已增長10倍以上。此外，深度合成內容關注度也呈指數(shù)級增長，通過對互動數(shù)據進行統(tǒng)計，2021年新發(fā)布的深度合成視頻的點贊數(shù)已超過3億。
數(shù)據說明：在10家國內外平臺中（愛奇藝、騰訊視頻、優(yōu)酷、嗶哩嗶哩、抖音、快手、微博、YouTube、Twitter、TikTok），以“Deepfakes”等10個中英文關鍵詞進行檢索，并通過URL去重后，將具有視頻分類標簽的數(shù)據進行統(tǒng)計得到的分析結果
正因為如此，深度合成在影視制作、廣告營銷、社交娛樂等領域發(fā)展出多元化的商業(yè)應用，例如AI合成主播、虛擬偶像、修復歷史老照片、影視劇本地化配音、“數(shù)字復活”已過世演員等。
一些面向公眾開發(fā)的合成類產品也陸續(xù)推出，《報告》顯示，視頻、語音和文本形式的服務最為普遍，例如支持風格定制的特效視頻制作軟件等風靡網絡；語音方向衍生出了語音導航、有聲讀物、自動新聞播報等應用；文本合成則在新聞報道、詩文創(chuàng)作、聊天問答等方面發(fā)揮著重要作用。
風險加劇，技術檢測成重要應對舉措
深度合成激發(fā)了新內容創(chuàng)造力的同時，也帶來了新的威脅。隨著技術逐步“平民化”，不法分子可輕易偽造音頻、視頻，實施誣陷、誹謗、詐騙、勒索等違法行為，甚至捏造國家政要言論擾亂社會與政治秩序。
2021年10月，安徽合肥警方曾查獲一起非法利用深度合成技術偽造手機用戶人臉動態(tài)視頻破解身份核驗，為黑灰產業(yè)提供注冊虛擬手機卡等技術支撐的案件。近年來，類似事件開始更多的進入公眾視野。
深度合成內容模糊了真實和虛假的邊界，將對社會信任、媒體信任、政治信任產生巨大的影響。負面風險不斷加劇，如何有效甄別深度合成內容就成為了關鍵，但隨著合成質量的不斷提升，傳統(tǒng)基于生物特征的鑒別方式越來越難以發(fā)揮作用。
數(shù)據說明：在arXiv中，論文摘要范圍內以“GAN”等16個關鍵詞進行檢索，統(tǒng)計圖像、視頻、音頻、文本合成領域的論文發(fā)表數(shù)量
《報告》顯示，目前學術界和產業(yè)界均已對反深偽檢測投入了大量研究，Meta（原Facebook）、谷歌、微軟等機構均推出了深度合成視頻認證的方法或產品。
構建多維度治理機制，引導深度合成技術良性發(fā)展
深度合成技術的良性發(fā)展，離不開多維度治理機制的探索。
《報告》顯示，除了發(fā)展深度偽造內容檢測技術以外，近幾年來，針對深度合成技術惡意使用所帶來的挑戰(zhàn)，世界各國紛紛出臺相關法律法規(guī)，探索深度合成的治理路徑。國際方面，美國從聯(lián)邦和州層面進行專門立法，歐盟將深度合成納入《通用數(shù)據保護條例（GDPR）》等現(xiàn)有法律框架規(guī)制。此外，德國、新加坡、英國、韓國等國家，均有適用于深度合成技術相關犯罪案件審理的法律法規(guī)。
我國也在積極探尋有效的治理機制。2019年11月起先后出臺的《網絡音視頻信息服務管理規(guī)定》、《網絡信息內容生態(tài)治理規(guī)定》、《中華人民共和國民法典》、《互聯(lián)網信息服務算法推薦管理規(guī)定》，均對生成合成類內容等提出了不同程度的監(jiān)管要求。今年1月，國家網信辦公布了《互聯(lián)網信息服務深度合成管理規(guī)定（征求意見稿）》，對深度合成內容的用途、標記、使用范圍以及濫用處罰作出了具體規(guī)定。
《報告》也建議，各方應當與時俱進落實好新的規(guī)范要求，并在此前提下不斷追求技術突破，不斷開拓深度合成技術應用場景，創(chuàng)立示范標桿，形成對人工智能行業(yè)整體的帶動效應，從而促進新技術的持續(xù)健康發(fā)展。
