Mixtral 8x7B en resumen
Mixtral 8x7B usaba 12.9B de sus 46.7B de parámetros por token, igualó o superó a GPT-3.5 en la mayoría de las pruebas estándar y se publicó con Apache 2.0 y contexto de 32K.
Qué cambió con Mixtral 8x7B
Mistral AI lanzó Mixtral 8x7B el 11 de diciembre de 2023. Era un modelo de mezcla de expertos dispersa: en cada capa un enrutador envía cada token a dos de ocho grupos de expertos, así que solo usa 12.9B de sus 46.7B de parámetros por token. Manejaba un contexto de 32K tokens e inglés, francés, italiano, alemán y español.
Mistral dijo que Mixtral superó a Llama 2 70B en la mayoría de las pruebas con una inferencia unas seis veces más rápida, y que igualó o superó a GPT-3.5 en la mayoría de las evaluaciones estándar. Una versión ajustada para instrucciones obtuvo 8.3 en MT-Bench. Los pesos se publicaron con Apache 2.0.
Mixtral 8x7B en cifras
Los valores provienen de la fuente enlazada en la fecha indicada. No son mediciones de IA Compa.
- Ventana de contextoal · Fuente de Ventana de contexto: mistral.ai (se abre en una pestaña nueva)
- 32K tokens
Cómo se compara
Otros modelos de la misma categoría que hemos cubierto, con el valor más reciente registrado de cada uno. (Modelos)
Dónde comparar Mixtral 8x7B
Clasificaciones independientes y recursos oficiales para comparar este modelo por tu cuenta. Las posiciones cambian con frecuencia; cada sitio muestra sus datos actuales.
Clasificaciones generales
Por qué Mixtral 8x7B importa para los negocios
Para los negocios, Mixtral fue el primer modelo abierto capaz de reemplazar a GPT-3.5 en muchos flujos, con buen español y otros idiomas europeos, y con un costo de ejecución menor de lo que su tamaño sugería. También convirtió la mezcla de expertos en el diseño estándar para modelos eficientes.
Fuentes de esta noticia
- Mixtral of experts (se abre en una pestaña nueva)Oficial
Mistral AI · mistral.ai
- Mixtral-8x7B-v0.1 model card (se abre en una pestaña nueva)Oficial
Mistral AI on Hugging Face · huggingface.co
- Mixtral 8x7B model page (se abre en una pestaña nueva)Evaluación
Artificial Analysis · artificialanalysis.ai
Última verificación: . IA Compa resume anuncios públicos para lectores de negocios. No tenemos relación con las empresas mencionadas. Confirma siempre los detalles, precios y disponibilidad con la fuente oficial.
- #llm
- #mistral
- #open-weights
- #mixture-of-experts
- #apache-2-0
