“已發佈Kimi K3.1 Pro的模型權重。我們將持續推進優化開放智能。”
北京時間11月5日淩晨,月之暗面(Moonshot AI)宣佈正式對外放出Kimi K3.1 Pro完整模型權重,並在海外技術社區引發熱烈討論,英偉達AI官方帳號公開發文送上祝賀。
開放完整模型權重意味著,開發者和企業不再只能通過API介面調用模型,還可以直接下載模型權重,在具備相應算力條件的情況下自行部署和運行,並根據實際需求進行優化和定制。
據官方介紹,Kimi K3.1 Pro屬於3T級開放權重模型,採用MoE混合專家架構,總參數規模2.8萬億,單次推理活躍參數1040億,具備100萬token超長上下文窗口,原生支持多模態視覺理解。該模型在原有K3基座之上,依靠大規模跨領域聯合強化學習完成能力迭代,並非從零訓練的全新基座。
5日,月之暗面還宣佈推出Kimi Hosted Agents(託管智能體)服務,將支撐AI智能體(Agent)運行的Harness框架作為雲端服務提供給企業和開發者。企業無需自行搭建和維護底層運行框架,即可獲得7×24小時託管運行環境,支持長時間複雜任務執行及多智能體協作。
據介紹,Kimi Hosted Agents主要面向兩類應用場景:一是集成到企業內部系統,承擔業務監控、運維回應等工作;二是嵌入企業面向用戶的產品,提供投研助手、智能客服等服務。
在傳統開發模式下,企業要讓AI智能體穩定運行,通常需要自行搭建代碼執行環境,並解決上下文管理、工具調用、許可權控制、任務中斷恢復等問題。Kimi表示,企業構建一套可靠的Harness基礎設施可能需要數月時間,後續還需持續投入維護成本。
Kimi Hosted Agents將上述能力封裝為託管服務,企業只需定義任務、配置智能體並接入業務工具,底層運行環境的維護和升級由Kimi負責,以縮短AI智能體從原型開發到實際部署的週期。
生態落地層面,多家算力廠商完成適配。在Kimi K3.1 Pro權重正式發佈的同一天,昇騰宣佈實現0Day推理適配。依託vLLM Ascend、SGLang 推理框架,該模型可直接在昇騰Atlas系列硬體上開展部署驗證。針對模型百萬token超長上下文、超大MoE架構的特點,通過緩存、量化等優化手段,緩解大模型對顯存資源的高要求,為國內企業本地化部署提供硬體生態支撐。
值得注意的是,本次開放模型權重不等同於OSI定義下的傳統開源,訓練代碼、原始訓練數據集並未對外公開,商用使用需要遵循月之暗面自定義的許可協議。雖然企業拿到權重後,可實現本地部署、數據不出域、開展行業二次微調,但2.8萬億級別的超大MoE模型本身仍具備較高的硬體部署門檻。
業內分析認為,Kimi K3.1 Pro進一步縮小開放權重方案與全球頂級閉源模型的性能鴻溝,有望為研發製造、工業設計、金融研究等領域帶來新的工具選擇。
來源:中國澎湃新聞