Ring-flash-2.0

Ring-flash-2.0 是一個高效能的思考模型，基於 Ling-flash-2.0-base 深度優化。它是一個專家混合（MoE）模型，總共擁有 100B 參數，但每次推理僅啟動 6.1B。該模型利用自主開發的 'icepop' 演算法來解決 MoE LLMs 強化學習（RL）中訓練不穩定的挑戰，使其能夠在延長的 RL 訓練周期中持續提升其複雜推理能力。Ring-flash-2.0 在數學競賽、程式碼生成和邏輯推理等具有挑戰性的基準上顯示出顯著的突破。其表現超越了 40B 參數以下的 SOTA 密集模型，並與較大型的開源重量 MoE 模型和封閉源高效能思考模型 API 相媲美。更令人驚訝的是，雖然 Ring-flash-2.0 主要設計為複雜推理，但它在創意寫作方面也顯現出強大的能力。得益於其高效架構，它實現了高速推理，顯著降低了高併發場景下思考模型的推理成本。