智東西（公眾號(hào)：zhidxcom）
作者 | 李水青
編輯 | 云鵬
智東西10月27日報(bào)道，今日，在2023中國計(jì)算機(jī)大會(huì)（CNCC）上，智譜AI CEO張鵬宣布，智譜AI推出第三代基座大模型ChatGLM3及相關(guān)系列產(chǎn)品。
這是智譜AI繼推出千億基座的對話模型ChatGLM和ChatGLM2之后的又一次重大突破。評測顯示，在44個(gè)中英文公開數(shù)據(jù)集測試中，ChatGLM3在國內(nèi)同尺寸模型中排名首位。
基于ChatGLM3，智譜AI全新上線了“智譜清言”，國內(nèi)首推代碼交互能力，支持圖像處理、數(shù)學(xué)計(jì)算、數(shù)據(jù)分析等多個(gè)場景，張鵬在現(xiàn)場對這些能力進(jìn)行了實(shí)時(shí)演示。
張鵬透露，最新版本的ChatGLM-turbo在最新AgentBench上已略超出GPT-3.5。在算力方面，ChatGLM3已支持昇騰、海光DCU等10余種國產(chǎn)硬件生態(tài)；考慮更多邊緣側(cè)需求，ChatGLM3提供1.5B、3B等更豐富的模型尺寸，支持在筆記本電腦、手機(jī)、汽車上部署。
在開源生態(tài)方面，智譜AI將對話ChatGLM3-6B、長文本ChatGLM3-6B-32k、多模態(tài)CogVLM-17B、智能體AgentLM開源。
此外，面向企業(yè)級市場，智譜AI開放平臺(tái)推出私有模型方案、專屬模型方案、開放模型方案多種選擇，據(jù)稱ChatGLM-turbo的API價(jià)格下降50%。
一、ChatGLM3評測排名首位，新功能瞄向GPT-4V
ChatGLM3發(fā)布，是智譜AI今年來第三次對ChatGLM基座模型進(jìn)行了深度優(yōu)化。智譜AI采用了多階段增強(qiáng)預(yù)訓(xùn)練方法、更豐富的訓(xùn)練數(shù)據(jù)和更優(yōu)的訓(xùn)練方案，使ChatGLM3-6B具備更強(qiáng)大的性能。
1. 更強(qiáng)大性能，44項(xiàng)測試國內(nèi)排名第一
測評顯示，ChatGLM3在44個(gè)中英文公開數(shù)據(jù)集測試中國內(nèi)同尺寸模型排名首位，其中，MMLU提升36%、CEval提升33%、GSM8K提升179% 、BBH提升126%。
2. 瞄向GPT-4V，四大技術(shù)升級
瞄向GPT-4V，ChatGLM3 本次實(shí)現(xiàn)了若干全新功能的迭代升級，包括：
（1）多模態(tài)理解能力的CogVLM，看圖識(shí)語義，在10余個(gè)國際標(biāo)準(zhǔn)圖文評測數(shù)據(jù)集上取得SOTA。
（2）代碼增強(qiáng)模塊Code Interpreter，根據(jù)用戶需求生成代碼并執(zhí)行，自動(dòng)完成數(shù)據(jù)分析、文件處理等復(fù)雜任務(wù)。
（3）網(wǎng)絡(luò)搜索增強(qiáng)WebGLM，接入搜索增強(qiáng)，能自動(dòng)根據(jù)問題在互聯(lián)網(wǎng)上查找相關(guān)資料并在回答時(shí)提供參考相關(guān)文獻(xiàn)或文章鏈接。
（4）ChatGLM3的語義能力與邏輯能力大大增強(qiáng)。
3、更高效推理，速度提升2~3倍
ChatGLM3實(shí)現(xiàn)了更高效的推理，ChatGLM3通過高效動(dòng)態(tài)推理和顯存優(yōu)化技術(shù)的應(yīng)用，相較于目前最佳開源實(shí)現(xiàn)vLLM速度提升2~3倍。
4、 全新Agent智能體能力，比二代提高100倍
針對近期討論更火熱的AI Agent能力，ChatGLM3采用全新Agent智能體算法，充分激活大模型智能體能力，在智能規(guī)劃和執(zhí)行方面，相比ChatGLM二代提高1000%。
智譜AI還開啟國產(chǎn)大模型原生支持工具調(diào)用、代碼執(zhí)行、游戲、數(shù)據(jù)庫操作、知識(shí)圖譜搜索與推理、操作系統(tǒng)等復(fù)雜場景。
二、與GPT-3.5平齊，全面適配國產(chǎn)硬件生態(tài)
張鵬透露，最新版本的ChatGLM-turbo在最新AgentBench上和GPT-3.5平齊，甚至略有超出。
智譜AI很早就高度關(guān)注到算力問題，布局全面適配國產(chǎn)硬件生態(tài)，以保證算力安全。
據(jù)悉，自2022年初，GLM系列模型已支持在昇騰、神威超算、海光DCU架構(gòu)上進(jìn)行大規(guī)模預(yù)訓(xùn)練和推理。當(dāng)前其已支持10余種國產(chǎn)硬件生態(tài)，包括昇騰、神威超算、海光DCU、海飛科、沐曦曦云、算能科技、天數(shù)智芯、寒武紀(jì)、摩爾線程、百度昆侖芯、靈汐科技、長城超云等。
考慮更多邊緣側(cè)需求，ChatGLM3提供1.5B、3B等更豐富的模型尺寸。支持國產(chǎn)芯片的Edge版模型ChatGLM3-1.5B，可在筆記本電腦、手機(jī)、汽車上部署。支持移動(dòng)平臺(tái)上CPU芯片推理，速度可達(dá)20 Tokens/s；精度方面，1.5B和3B模型在公開Benchmark上與ChatGLM-60接近。
在開源生態(tài)方面，智譜AI將對話ChatGLM3-6B、長文本ChatGLM3-6B-32k、多模態(tài)CogVLM-17B、智能體AgentLM開源。據(jù)悉，ChatGLM-6B在全球已有超1000萬下載量，累計(jì)四周居于Hugging Face趨勢榜第一，GitHub超5萬Stars。
三、全新“智譜清言”上線，國內(nèi)首推代碼交互能力
在全新升級的ChatGLM3賦能下，生成式AI助手智譜清言已成為國內(nèi)首個(gè)具備代碼交互能力的大模型產(chǎn)品（Code Interpreter）。
體驗(yàn)地址：https://chatglm.cn/main/code
“代碼”功能目前已支持圖像處理、數(shù)學(xué)計(jì)算、數(shù)據(jù)分析等使用場景。以下分別為各個(gè)能力的演示情況截圖：
處理數(shù)據(jù)生成圖表：
代碼繪制圖形：
上傳SQL代碼分析：
隨著WebGLM大模型能力的加入，智譜清言也具有了搜索增強(qiáng)能力，可以幫助用戶整理出相關(guān)問題的網(wǎng)上文獻(xiàn)或文章鏈接，并直接給出答案。
此前已發(fā)布的CogVLM 模型則提高了智譜清言的中文圖文理解能力，取得了接近GPT-4V的圖片理解能力，它可以回答各種類型的視覺問題，并且可以完成復(fù)雜的目標(biāo)檢測，并打上標(biāo)簽，完成自動(dòng)數(shù)據(jù)標(biāo)注。
四、推出智譜AI開放平臺(tái)，API價(jià)格下降50%
面向企業(yè)級市場，智譜AI構(gòu)建了智譜AI開放平臺(tái)，包括私有模型方案、專屬模型方案、開放模型方案。
隨著本次發(fā)布，智譜AI的API產(chǎn)品矩陣發(fā)生變化：從提供ChatGLM-Pro、ChatGLM、ChatGLM-Lite多款產(chǎn)品，向提供一個(gè)整體ChatGLM-turbo演化，價(jià)格下降50%。
智譜AI開放平臺(tái)不僅能夠幫助提供API，也提供模型的定制化私有化以及自有數(shù)據(jù)的使用。平臺(tái)還提供一些標(biāo)準(zhǔn)化的組件，比如外掛知識(shí)庫、向量化能力等。
利用這些能力，用戶能夠快速的去構(gòu)建自己的一些基本應(yīng)用。
結(jié)語：全面對標(biāo)OpenAI，智譜AI大模型再升級
2020年是大模型元年，GPT-3的出世標(biāo)志著大模型進(jìn)入“可用階段”，也是生成式AI落地的第一階段。這一階段，產(chǎn)業(yè)關(guān)注的是怎么去構(gòu)建一個(gè)精度足夠高、穩(wěn)定性足夠好、更大規(guī)模的大模型。
智譜AI從2020年開始基于GLM預(yù)訓(xùn)練模型的框架做研發(fā)，到2021年發(fā)布第一個(gè)開源百億大模型GLM-10B，到后續(xù)的一系列模型的誕生，不斷迭代。對標(biāo)OpenAI全模型產(chǎn)品線，是智譜AI在創(chuàng)立之初就一個(gè)寫在愿景里的一個(gè)目標(biāo)。
可以看到，對標(biāo)OpenAI推出的ChatGPT、DALL.E、Codex、WebGPT和GPT-4V，智譜AI推出了ChatGLM對話、CogView文生圖、CodeGeeX代碼、WebGLM搜索增強(qiáng)和ChatGLM3圖文理解等產(chǎn)品，體現(xiàn)了國產(chǎn)大模型的實(shí)力積淀。
