Índice de contenidos
Pan Yang, cofundador de SiliconFlow, pronunció un discurso titulado “AI Infra: For Whom and Why?” en la “Real-Time AI Infra Session” de Convo AI & RTE 2025. Hay 8 ideas clave en el campo de la infraestructura de IA.
TL;DR
8 ideas clave del discurso de Pan Yang sobre infraestructura de IA:
La inferencia es lo primero — El cambio hacia la computación de inferencia está impulsado por el crecimiento exponencial de los clientes de IA y las necesidades de computación.
Oportunidades del código abierto — Los modelos de código abierto se están poniendo al día con una brecha de 3 a 5 meses, con un potencial de avance en las áreas de Multimodal.
La llamada de MaaS — Plataformas integrales que proporcionan acceso API único a múltiples modelos.
Tres grandes desafíos de MaaS — Problemas de disponibilidad, variaciones de rendimiento y la ilusión de reducción de costos.
Hacer lo difícil pero correcto — El compromiso de SiliconFlow de ofrecer una AI Infra más rápida, mejor y más rentable.
Cuatro escenarios de IA para 2025 — Generación de contenido, IA agéntica (Año del Agente), codificación y aplicaciones de Multimodal.
La IA es trabajo, no herramienta — El cambio de paradigma de Jensen Huang que enfatiza la creación para agentes en lugar de para humanos.
AI Infra — Sin burbuja— La realidad del mercado muestra una enorme demanda insatisfecha, lo que demuestra que no hay burbuja, sino escasez de oferta.
La inferencia es lo primero
SiliconFlow predijo en 2023 que “en el futuro, la gran mayoría de la potencia de cómputo se utilizará para la inferencia, en lugar de para el entrenamiento”. Esta tendencia se está convirtiendo en realidad en 2025, impulsada principalmente por dos factores: el crecimiento exponencial en el número y uso de clientes de IA, y el crecimiento exponencial en la cantidad de computación necesaria para completar una sola tarea.
Las oportunidades de los modelos de código abierto
Los modelos de código abierto se están poniendo al día rápidamente con los modelos de código cerrado a una brecha dinámica de 3 a 5 meses. Actualmente, el ecosistema de código abierto para LLMs está cerca del estado del arte (SOTA), mientras que para modelos de Multimodal como Image, Audio y Video, todavía existen oportunidades significativas para lograr avances.
La llamada de Model as a Service (MaaS)
Este año hemos sido testigos de actualizaciones frecuentes de modelos, especificaciones diversas, arquitecturas variadas y múltiples modalidades; ninguna empresa puede implementar y mantener de forma independiente todos los modelos. Por lo tanto, una plataforma MaaS integral capaz de integrar varios modelos se ha convertido en un punto de entrada indispensable para los desarrolladores. Esta es precisamente la dirección en la que SiliconFlow continúa enfocándose, permitiendo a los usuarios experimentar rápidamente varios modelos con solo una API.
Las plataformas MaaS se enfrentan actualmente a tres desafíos principales
Desafíos de disponibilidad y confiabilidad: han ocurrido problemas como recursos insuficientes y errores 429/503.
El rendimiento y la calidad varían significativamente: el mismo modelo de código abierto proporcionado por diferentes proveedores de servicios presenta diferencias significativas en el rendimiento real, lo que refleja los diferentes niveles de cuantificación y optimización del modelo, que afectan directamente a las capacidades finales del modelo.
La ilusión de la reducción de costos: aunque el costo de un solo modelo puede disminuir diez veces al año, los usuarios siempre buscan los modelos de estado del arte (SOTA) más recientes y potentes, mientras que los precios de invocación de estos modelos de primer nivel se mantienen relativamente estables. Mientras tanto, la cantidad de tokens consumidos para completar una tarea aumenta exponencialmente, lo que resulta en que no haya una disminución significativa en los costos reales de la aplicación.
Hacer lo difícil pero correcto
SiliconFlow siempre ha estado profundamente arraigado en el campo de AI Infra, comprendiendo a fondo los desafíos involucrados y comprometiéndose continuamente a promover la implementación de soluciones para brindar a los usuarios servicios de AI Infra más rápidos, de mejor rendimiento y de menor costo.
Cuatro escenarios de IA altamente consensuados para 2025
Generación de contenido: generar un artículo, brindar servicio al cliente mediante un Chatbot o crear una base de conocimientos, todo gira en torno al lenguaje.
IA agéntica: este año ha sido llamado el año del Agente. Aunque existen diversos entendimientos del concepto de Agente, se han producido algunos cambios. Por ejemplo, Manus ha realizado un gran esfuerzo para promover cómo definir a un Agente.
Codificación: lo primero que hicieron los principales modelos lanzados este año fue alinearse con las capacidades de Agente y codificación. La industria coincide generalmente en que el Agente y la codificación son los campos que consumen más tokens.
Multimodal: especialmente en el entorno de Internet de China, el consumo del modelo de Multimodal es mucho mayor que el de otras formas.
“La IA es trabajo, no herramienta”
Jensen Huang propuso que “la IA es trabajo, no herramienta”, lo que es esencialmente un cambio de paradigma. La IA operará proactivamente herramientas para completar tareas, en lugar de responder pasivamente a instrucciones. Esto desencadenará un cambio de paradigma: construir para agentes, en lugar de para humanos. Los humanos delegarán cada vez más tareas en los agentes, operando de manera menos directa en las interfaces de software.
AI Infra — Sin burbuja
Toda la industria de infraestructura de IA está libre de burbujas y, de hecho, se encuentra en un estado de oferta “lejos de ser suficiente”. Las principales empresas de tecnología del mundo planean comprar infraestructura por valor de cientos de miles de millones de dólares que aún no ha sido entregada. Los cuellos de botella actuales en la industria son la incapacidad de producir chips y la falta de energía. La demanda supera con creces la capacidad de oferta, lo que demuestra la autenticidad del mercado y su enorme potencial.
