Ring-flash-2.0

Ring-flash-2.0 es un modelo de razonamiento de alto rendimiento, profundamente optimizado a partir de Ling-flash-2.0-base. Se trata de un modelo de Mezcla de Expertos (MoE, por sus siglas en inglés) que cuenta con un total de 100B de parámetros, de los cuales solo se activan 6.1B por inferencia. El modelo aprovecha el algoritmo "icepop", desarrollado de forma independiente, para abordar los problemas de inestabilidad en el entrenamiento durante el aprendizaje por refuerzo (RL) para MoE LLMs, lo que permite una mejora continua de sus complejas capacidades de razonamiento a lo largo de ciclos prolongados de entrenamiento por RL. Ring-flash-2.0 demuestra avances significativos en diversos puntos de referencia de alta dificultad, como competiciones matemáticas, generación de código y razonamiento lógico. Su rendimiento supera al de los modelos densos SOTA de menos de 40B de parámetros y compite con modelos abiertos de MoE de mayor tamaño, así como con API de modelos de razonamiento de alto rendimiento de código cerrado. Sorprendentemente, y aunque Ring-flash-2.0 está diseñado principalmente para el razonamiento complejo, también muestra una gran capacidad para la escritura creativa. Gracias a su eficiente arquitectura, logra una inferencia de alta velocidad que reduce significativamente los costes de inferencia para los modelos de razonamiento en entornos de alta concurrencia.