Skip to content
La carrera por desarrollar modelos de IA más eficientes acaba de dar un salto importante. DeepSeek, una startup china especializada en inteligencia artificial, ha lanzado DeepSeek MoE, un modelo de lenguaje con arquitectura Mixture of Experts (Mezcla de Expertos) que promete rendimientos similares a GPT-4 pero con un consumo de recursos significativamente menor.
¿Qué hace especial a DeepSeek MoE?
Según el anuncio oficial de la compañía, este modelo utiliza una arquitectura innovadora donde solo se activan 21 mil millones de parámetros de sus 236 mil millones totales durante el procesamiento. Esta técnica permite mantener una alta capacidad de procesamiento mientras se reducen los costos computacionales, algo crítico para implementaciones a gran escala.
Comparación con otros modelos
DeepSeek afirma que su modelo supera a LLaMA 2 70B en varios benchmarks y se acerca al rendimiento de GPT-4 en ciertas tareas, todo esto mientras consume menos recursos. En pruebas internas, el modelo mostró especialmente buen desempeño en tareas de razonamiento matemático y generación de código.
La startup también destacó que su enfoque MoE permite una mayor escalabilidad y especialización, ya que diferentes “expertos” dentro del modelo pueden activarse según el tipo de tarea requerida. Esta arquitectura podría convertirse en el estándar para los próximos grandes modelos de lenguaje.
El futuro de los modelos eficientes
Con este lanzamiento, DeepSeek se posiciona como un competidor serio en el mercado de modelos de lenguaje avanzados. La eficiencia en el uso de parámetros se está convirtiendo en el nuevo campo de batalla para las empresas de IA, especialmente ante los crecientes costos de entrenamiento e inferencia de estos sistemas.
Aunque aún no está claro cuándo estará disponible para el público general, este desarrollo marca un paso importante hacia modelos más accesibles y sostenibles. Según expertos consultados por CentralDeIA, podríamos ver pronto más empresas adoptando arquitecturas MoE para sus modelos de próxima generación.