日前，新華社研究院中國企業(yè)發(fā)展研究中心發(fā)布的《人工智能大模型體驗報告2.0》（以下簡稱報告）顯示，訊飛星火、百度文心一言、商湯商量和智譜AI-ChatGLM均表現(xiàn)搶眼，AI大模型的發(fā)展為人類工作和生活的提質增效均帶來了正向積極的影響。
今年以來，國內(nèi)科技企業(yè)紛紛布局人工智能大模型。據(jù)不完全統(tǒng)計，在新一輪生成式AI熱潮中，國內(nèi)已經(jīng)出現(xiàn)了上百個大模型。天眼查數(shù)據(jù)顯示，截至2023年上半年，與“大模型”直接相關的融資事件超20起。
為進一步直觀感受我國當前主流科技企業(yè)所推出的大模型產(chǎn)品的現(xiàn)狀、優(yōu)勢和特點，新華社研究院中國企業(yè)發(fā)展研究中心于今年7月啟動了本次報告研究。與2023年6月首次發(fā)布的《人工智能大模型體驗報告》相比，本次測評在題目設計、對標Benchmark（人類）、打分權重、專家測評團隊四大維度進行了全面升級。
其中，在題目設計方面，測評題目由300道擴展至500道，并進一步完善了題目分類；在對標Benchmark方面，本次測評將接受過高等教育的人類作為對照，來考評大模型真實能力；在打分標準上，本次測評根據(jù)對產(chǎn)業(yè)、生活的實際價值，對基礎能力、智商能力、情商能力和工具提效四大測評維度進行了權重設計；在測評團隊方面，本次測評特邀北京大學文化與傳播研究所及其他產(chǎn)界、學界專家全程參與。
本次研究設置了用戶體驗項目，抓取了7月31日―8月4日數(shù)據(jù)，通過人機互動提問等形式，對國內(nèi)主流大模型進行使用體驗評測，旨在為科技企業(yè)調(diào)整努力方向提供參考。
報告顯示，與2023年6月相比，當前中國大模型產(chǎn)品進步顯著。但與接受過高等教育的人類相比，大模型在智商、情商等方面還存在一定程度差距。具體來看，訊飛星火在工作提效方面優(yōu)勢明顯，百度文心一言基礎能力仍處領軍水準，商湯商量則在情商方面表現(xiàn)優(yōu)秀，智譜AI-ChatGLM整體表現(xiàn)優(yōu)秀。
針對各維度能力測評，該報告還給出了相應的案例展示和分析。
在基礎能力方面，人類與AI之間的差距并不顯著。課題組分別從語言能力（35%）、AI向善（10%）、跨模態(tài)（20%）和多輪對話（35%）四大指標進行測評。測評顯示，科技企業(yè)大模型中，百度文心一言表現(xiàn)最為搶眼，商湯商量、智譜AI-ChatGLM、360智腦表現(xiàn)優(yōu)良。
在智商評估方面，人類在智商方面仍然具有明顯優(yōu)勢。課題組分別從常識知識（20%）、邏輯能力（50%）和專業(yè)知識（30%）方面對科技企業(yè)大模型進行考量。結果顯示，訊飛星火、智譜AI-ChatGLM表現(xiàn)突出，百度文心一言、昆侖萬維天工表現(xiàn)優(yōu)良。
在情商方面，AI與人類之間的差距最為明顯。人類在情緒理解和處理方面通常具有更強的優(yōu)勢，和更靈活的處理能力。通過對處理日常事項（35%）、一語雙關（30%）、人際關系（35%）問題進行分析發(fā)現(xiàn)，科技企業(yè)大模型中，商湯商量表現(xiàn)亮眼，百度文心一言、瀾舟科技Mchat、智譜AI-ChatGLM及360智腦均表現(xiàn)優(yōu)良。
在工作效率提升方面，課題組重點在工具提效（50%）和生成創(chuàng)新（50%）方面進行考量。結果顯示，訊飛星火表現(xiàn)最為搶眼，百度文心一言、商湯商量、智譜AI-ChatGLM表現(xiàn)優(yōu)良。不過，盡管AI具有高速度和高效率的優(yōu)勢，但在某些復雜和具有創(chuàng)新性的任務中，人類的智慧和想象力仍然具有無法替代的作用。
報告認為，雖然在不同領域中，AI和人類表現(xiàn)出不同的優(yōu)劣勢，但在整體上，AI大模型的發(fā)展為人類工作和生活的提質增效帶來了重要的積極影響，大模型正在加速走進生活、走進產(chǎn)業(yè)。在本次體驗測評基礎上，研究團隊將繼續(xù)深耕，加強在大模型安全可解釋性、工作提效能力、實際落地情況、產(chǎn)業(yè)優(yōu)秀案例等維度上的探索與研究。
