智東西（公眾號：zhidxcom）
編譯 | ZeR0
編輯 | 漠影
智東西6月17日報道，今日凌晨，月之暗面推出針對軟件工程任務(wù)的全新開源代碼大模型Kimi-Dev-72B。
該模型在SWE-bench Verified編程基準(zhǔn)測試中取得了全球最高開源模型水平，以僅72B的參數(shù)量，成績超過了剛于5月28日發(fā)布、參數(shù)量多達671B的新版DeepSeek-R1。
Kimi-Dev-72B在AI軟件工程能力基準(zhǔn)測試SWE-bench Verified上取得了60.4%的高分，創(chuàng)下開源模型的SOTA成績。
▲開源模型在SWE-bench上的性能已得到驗證
▲閉源模型在SWE-bench上的性能已得到驗證
通過大規(guī)模強化學(xué)習(xí)進行了優(yōu)化。它能夠自主修補Docker中的真實存儲庫，并且只有當(dāng)整個測試套件通過時才會獲得獎勵。這確保了解決方案的正確性和穩(wěn)健性，并符合現(xiàn)實世界的開發(fā)標(biāo)準(zhǔn)。
Kimi-Dev-72B現(xiàn)已在Hugging Face和GitHub上提供下載和部署。其發(fā)布給社區(qū)的關(guān)鍵資源包括模型權(quán)重、源代碼，技術(shù)報告也即將推出。
Hugging Face地址：huggingface.co/moonshotai/Kimi-Dev-72B
GitHub地址：github.com/MoonshotAI/Kimi-Dev
月之暗面介紹了Kimi-Dev-72B的設(shè)計理念和技術(shù)細節(jié)，包括BugFixer和 TestWriter的組合、中期訓(xùn)練、強化學(xué)習(xí)和測試時自我博弈。
1、BugFixer和TestWriter的組合
成功修復(fù)錯誤的補?。╬atch）應(yīng)能通過準(zhǔn)確反映該錯誤的單元測試。同時，復(fù)現(xiàn)錯誤的成功測試應(yīng)引發(fā)斷言錯誤，并在將正確的錯誤修復(fù)補丁應(yīng)用到代碼庫后通過。這致使BugFixer和TestWriter互補，一個足夠強大的編程大語言模型應(yīng)該在這兩個方面都表現(xiàn)出色。
BugFixer和TestWriter的工作流程類似：它們都會先找到正確的文件進行編輯，然后編輯正確的代碼更新，無論是修復(fù)脆弱的實現(xiàn)還是插入unittest函數(shù)。因此，對于這兩種角色，Kimi-Dev-72B都采用了相同的極簡框架，該框架僅包含兩個階段：文件本地化和代碼編輯。BugFixer和TestWriter的雙重設(shè)計奠定了Kimi-Dev-72B的基礎(chǔ)。
2、訓(xùn)練中期
為了增強Kimi-Dev-72B作為BugFixer和TestWriter的先驗知識，月之暗面使用約1500億個高質(zhì)量的真實數(shù)據(jù)進行中期訓(xùn)練。
以Qwen 2.5-72B基礎(chǔ)模型為起點，月之暗面收集了數(shù)百萬個GitHub問題和 PR提交作為其中期訓(xùn)練數(shù)據(jù)集。數(shù)據(jù)配方經(jīng)過??精心構(gòu)建，使Kimi-Dev-72B 能夠?qū)W習(xí)人類開發(fā)者如何推理GitHub問題、編寫代碼修復(fù)和單元測試。
月之暗面還進行了嚴(yán)格的數(shù)據(jù)凈化，將所有存儲庫從SWE-bench Verified中剔除。
中期訓(xùn)練充分增強了基礎(chǔ)模型對實際Bug修復(fù)和單元測試的了解，使該模型成為后續(xù)強化學(xué)習(xí)訓(xùn)練的更佳起點。
3、強化學(xué)習(xí)
通過適當(dāng)?shù)闹衅谟?xùn)練和SFT，Kimi-Dev-72B在文件本地化方面表現(xiàn)出色。因此，其強化學(xué)習(xí)階段專注于提升其代碼編輯能力。
月之暗面使用了Kimi k1.5中描述的策略優(yōu)化方法，該方法在推理任務(wù)中表現(xiàn)出色。對于SWE-bench Verified，月之暗面重點關(guān)注以下三個關(guān)鍵設(shè)計：
- 僅基于結(jié)果的獎勵。僅使用Docker的最終執(zhí)行結(jié)果（0或1）作為獎勵，訓(xùn)練期間不采用任何基于格式或過程的獎勵。
- 高效的提示集。過濾掉模型在多樣本評估下成功率為零的提示，從而更有效地利用大批量。采用課程學(xué)習(xí)（curriculum learning）法，引入新的提示，逐步提高任務(wù)難度。
- 正例強化。在訓(xùn)練的最后階段，將之前迭代中最近成功的樣本納入當(dāng)前批次。這有助于模型增強成功模式并提升性能。
Kimi-Dev-72B通過使用高度并行、強大且高效的內(nèi)部agent基礎(chǔ)設(shè)施，從可擴展數(shù)量的問題解決任務(wù)的訓(xùn)練中受益。
4、測試時自我博弈
經(jīng)過強化學(xué)習(xí)后，Kimi-Dev-72B能同時掌握BugFixer和TestWriter的角色。在測試過程中，它會采用自我博弈機制，協(xié)調(diào)自身Bug修復(fù)和測試編寫的能力。
▲BugFixer和TestWriter之間的測試時自博弈
每個問題最多可生成40個補丁候選和40個測試候選（按照標(biāo)準(zhǔn)無agent設(shè)置），可觀察到測試時自博弈的擴展效應(yīng)。
結(jié)語：未來迭代側(cè)重深度集成，更無縫地融入工作流程
月之暗面正在積極研究和開發(fā)擴展Kimi-Dev-72B功能的方法，并探索更復(fù)雜的軟件工程任務(wù)。
其未來的迭代將側(cè)重于與流行的集成開發(fā)環(huán)境（IDE）、版本控制系統(tǒng)和CI/CD流水線進行更深入的集成，使Kimi-Dev-72B更加無縫地融入開發(fā)者的工作流程。
該公司承諾將持續(xù)改進Kimi-Dev-72B，進行嚴(yán)謹?shù)募t隊測試，并向社區(qū)發(fā)布更強大的模型。
來源：月之暗面GitHub項目
