智東西（公眾號(hào)：zhidxcom）
作者?|?香草
編輯?| 漠影
智東西3月18日?qǐng)?bào)道，今天，國(guó)內(nèi)大模型明星創(chuàng)企月之暗面（Moonshot AI）宣布智能助手Kimi上下文窗口提升至10倍，即日起支持200萬字超長(zhǎng)無損上下文。
▲Kimi升級(jí)至200萬字上下文
200萬字是什么概念呢？為了更直觀地向我們展示，月之暗面工程副總裁許欣然在今日舉辦的溝通會(huì)上，接連掏出一摞摞厚重的打印紙，包括《甄嬛傳》劇本、英偉達(dá)年度財(cái)報(bào)、《倚天屠龍記》、《中醫(yī)內(nèi)科學(xué)》等。這其中，最長(zhǎng)的也不過百萬字左右。
▲許欣然展示百萬字書籍的打印厚度
Kimi智能助手于去年10月面世，當(dāng)時(shí)支持20萬漢字無損上下文輸入，創(chuàng)造了消費(fèi)級(jí)AI產(chǎn)品所支持的上下文輸入長(zhǎng)度紀(jì)錄。而如今，在短短5個(gè)月時(shí)間里，其上下文長(zhǎng)度就提升了一個(gè)數(shù)量級(jí)。
與此次升級(jí)同步，月之暗面團(tuán)隊(duì)還發(fā)布了一則“低調(diào)”的更名通知：Kimi Chat、Moonshot大模型分別改名為Kimi智能助手、Kimi大模型，以后只要記住Kimi就夠了。
▲Kimi更名通知
即日起，Kimi的200萬字升級(jí)開啟內(nèi)測(cè)，用戶可登陸網(wǎng)頁版首頁申請(qǐng)?bào)w驗(yàn)。
體驗(yàn)地址：kimi.ai
一、10分鐘速成開飛機(jī)、打德?lián)洌?/strong>挖出長(zhǎng)篇小說深層次細(xì)節(jié)
許欣然談道，相比20萬字長(zhǎng)度，更長(zhǎng)的文本輸入首先能帶來的變化就是解鎖更多超長(zhǎng)任務(wù)、復(fù)雜任務(wù)。過去只能整理50份簡(jiǎn)歷，現(xiàn)在可以線性增長(zhǎng)至500份。
月之暗面團(tuán)隊(duì)提出“10分鐘速成定律”，指的是Kimi快速學(xué)習(xí)一個(gè)新領(lǐng)域的能力。人類要10000小時(shí)才能成為專家的領(lǐng)域，AI只需要10分鐘，就能接近任何一個(gè)新領(lǐng)域的初級(jí)專家水平。
例如，上傳幾十萬字的德州撲克的教程文檔，再提出一個(gè)比賽開局，Kimi就可以分析比賽場(chǎng)上的局面，并提供出牌策略的指導(dǎo)。
▲Kimi速成打德?lián)?/p>
輸入近百萬字中醫(yī)診療手冊(cè)，同時(shí)描述病人的病癥和提出分析步驟，Kimi立刻化身中醫(yī)，給出了病因判斷、治療方法、藥材配比等。
▲Kimi速成中醫(yī)
丟給Kimi一本260M的開飛機(jī)手冊(cè)，再向它提出多個(gè)飛機(jī)駕駛方面的疑問，它都能一一解答。
▲Kimi速成開飛機(jī)
除了中英文，Kimi還能直接閱讀代碼庫文件，然后用中文寫出詳細(xì)清晰的代碼庫設(shè)計(jì)文檔，即便是毫無注釋的陳年老代碼也能快速梳理出結(jié)構(gòu)。
▲Kimi讀代碼
值得一提的是，雖然對(duì)于長(zhǎng)文本大模型，大家都比較期待其“大海撈針”壓力測(cè)試的表現(xiàn)，但許欣然指出，一個(gè)指標(biāo)一旦開始被觀測(cè)，研發(fā)團(tuán)隊(duì)自然就會(huì)專門針對(duì)測(cè)評(píng)基準(zhǔn)進(jìn)行優(yōu)化。這樣一來，指標(biāo)就失去了參考價(jià)值，變成了無盡的“刷榜”游戲。
另一方面，“大海撈針”測(cè)試本身其實(shí)就相當(dāng)于Ctrl+F檢索，對(duì)模型能力本身的要求并不高。比起定向檢索，用戶更需要的應(yīng)該是對(duì)復(fù)雜文本的理解能力，看大模型能從長(zhǎng)文本中學(xué)到什么。
在這方面，升級(jí)后的Kimi也進(jìn)化了不少。
以經(jīng)典電視劇《甄嬛傳》為例，只要輸入劇本，Kimi就能在不同時(shí)間段、各個(gè)場(chǎng)景的故事情節(jié)中，深入挖掘甄嬛、果郡王的情感線以及和他們孩子的真相，堪比一個(gè)看了好幾十遍電視劇的“甄”學(xué)家。
▲Kimi讀《甄嬛傳》劇本
二、用戶量月增100%，復(fù)雜需求倒逼硅基生命“自卷”
當(dāng)然，除了基礎(chǔ)的文本閱讀、記憶、理解等場(chǎng)景外，升級(jí)至200萬字的Kimi必然會(huì)開辟新的應(yīng)用和場(chǎng)景。這需要極大的想象力。
許欣然談道，就好比內(nèi)存容量的迭代，基礎(chǔ)要素的每次提升都會(huì)帶來突破想象力的新應(yīng)用。
在月之暗面團(tuán)隊(duì)看來，無損的長(zhǎng)文本能力也是一種基礎(chǔ)要素，隨著長(zhǎng)度的提升，大模型的能力從簡(jiǎn)單問答、常識(shí)背誦等基礎(chǔ)任務(wù)逐漸升級(jí)至角色扮演、長(zhǎng)文檢索、領(lǐng)域知識(shí)理解等。未來，必然有無限可能性還在等待著Kimi去探索。
▲無損長(zhǎng)文本能力增長(zhǎng)帶來的任務(wù)復(fù)雜度提升
而這條AGI探索之路，也離不開用戶的共創(chuàng)。月之暗面聯(lián)合創(chuàng)始人周昕宇談道，出于用戶共創(chuàng)的考慮，Kimi的定位比起“聊天機(jī)器人”更像一個(gè)“智能助手”，因?yàn)槠胀▽?duì)話對(duì)大模型自身迭代的幫助有限。
Kimi自發(fā)布以來，有許多應(yīng)用場(chǎng)景都是用戶自己開拓的。如通過一定的提示詞，讓Kimi變身專業(yè)翻譯工具、跑團(tuán)主持人等。
▲Kimi變身專業(yè)翻譯工具
還有用戶直接將Kimi的讀論文能力封裝成了工具，并開發(fā)了專門的論文網(wǎng)站。用戶只需點(diǎn)擊網(wǎng)頁上的Kimi按鍵，就能得到論文的基本信息，包括解決了什么問題、相關(guān)研究、如何解決等。
▲Kimi讀論文工具
許欣然稱，根據(jù)網(wǎng)站分析工具SimilarWeb數(shù)據(jù)，Kimi用戶量在春節(jié)后飛速增長(zhǎng)。此外據(jù)非官方統(tǒng)計(jì)數(shù)據(jù)，其用戶量每個(gè)月增長(zhǎng)率超100%。
▲SimilarWeb數(shù)據(jù)顯示Kimi用戶量在春節(jié)后飛速增長(zhǎng)
正是因?yàn)橛脩魧?duì)Kimi發(fā)出的指令越來越復(fù)雜，因此團(tuán)隊(duì)也一直致力于提升Kimi能遵循的指令的復(fù)雜度、信息檢索能力。同時(shí)由于用戶的使用場(chǎng)景從工作逐漸擴(kuò)展到生活的方方面面，團(tuán)隊(duì)在網(wǎng)頁端之外補(bǔ)齊了微信小程序、iOS端以及安卓端等。
許欣然透露，Kimi充分發(fā)揮其作為“硅基生命”的優(yōu)勢(shì)，夜間也沒在歇著，持續(xù)不斷地自我進(jìn)化中。
三、相同硬件條件下響應(yīng)速度提3倍，年內(nèi)將發(fā)多模態(tài)大模型
在溝通會(huì)上，許欣然和周昕宇向智東西等少數(shù)媒體透露了目前在做的需求池以及未來的發(fā)布計(jì)劃。
如用戶呼聲很高的提示詞教程，目前已經(jīng)在準(zhǔn)備當(dāng)中，預(yù)計(jì)一個(gè)月左右發(fā)布。此外團(tuán)隊(duì)也一直在進(jìn)行多模態(tài)能力的研發(fā)，今年內(nèi)將會(huì)推出多模態(tài)大模型。音頻處理能力、海外版同樣在需求池內(nèi)。
目前，Kimi智能助手仍完全免費(fèi)。但隨著用戶群體的擴(kuò)大和使用量的增長(zhǎng)，難免會(huì)出現(xiàn)算力不足的情況。許欣然透露，今年上半年預(yù)計(jì)開啟商業(yè)化模式。
與此同時(shí)，月之暗面的Infra（基礎(chǔ)設(shè)施）團(tuán)隊(duì)也在持續(xù)提升能效比，據(jù)稱比起剛發(fā)布時(shí)，Kimi在完全相同的硬件條件下響應(yīng)速度提升了3倍。
由于沒有采用常規(guī)的漸進(jìn)式提升路線，月之暗面團(tuán)隊(duì)遇到的技術(shù)難度也是指數(shù)級(jí)增加的。為了達(dá)到更好的長(zhǎng)窗口無損壓縮性能，月之暗面的研發(fā)和技術(shù)團(tuán)隊(duì)從模型預(yù)訓(xùn)練到對(duì)齊、推理環(huán)節(jié)均進(jìn)行了原生的重新設(shè)計(jì)和開發(fā)，不走“滑動(dòng)窗口”、“降采樣”等技術(shù)捷徑，攻克了很多底層技術(shù)難點(diǎn)，才取得了新的突破。
結(jié)語：長(zhǎng)文本為AI帶來更多可能性
隨著Kimi智能助手上下文窗口提升至200萬字，我們見證了AI領(lǐng)域的又一次飛躍。在數(shù)字指數(shù)級(jí)增長(zhǎng)的背后，體現(xiàn)了大模型對(duì)復(fù)雜任務(wù)處理能力的顯著提升。
無論是速成開飛機(jī)、打德?lián)洌€是深入分析長(zhǎng)篇小說的深層次細(xì)節(jié)，Kimi都能夠迅速適應(yīng)并提供專業(yè)級(jí)的指導(dǎo)和分析。這得益于月之暗面團(tuán)隊(duì)對(duì)長(zhǎng)文本大模型的深入研究和不懈追求，也離不開用戶對(duì)其需求產(chǎn)生的驅(qū)動(dòng)。
