Modelos MiniMax compatibles
Puede importar modelos de lenguaje grandes de cubos de Hugging Face y OCI Object Storage a OCI Generative AI, crear puntos finales para esos modelos y utilizarlos en el servicio Generative AI.
MiniMax M3
El modelo MiniMax-M3-MXFP8 es la variante cuantificada MXFP8 de MiniMax M3, un modelo multimodal nativo con un contexto de un millón de tokens. El modelo tiene alrededor de 428 mil millones de parámetros totales con alrededor de 23 mil millones de parámetros activados y utiliza MiniMax Sparse Attention (MSA) para un procesamiento eficiente de contexto largo. Este modelo está optimizado para tareas de codificación, flujos de trabajo agénticos de largo horizonte y productividad colaborativa.
| ID de modelo facial de abrazo | Capacidad del modelo | Unidades de cluster de IA dedicadas recomendadas |
|---|---|---|
| MiniMaxAI/MiniMax M3-MXFP8 | TEXTO_A_TEXTO |
|
MiniMax M2
Los modelos de texto a texto MiniMax M2 están optimizados para codificación, razonamiento complejo y flujos de trabajo ágiles, como tareas de uso de herramientas, búsqueda y productividad. MiniMax-M2 es un modelo de mezcla de expertos (MoE) diseñado para una codificación eficiente y un rendimiento agéntico, y más tarde los modelos MiniMax-M2 amplían este enfoque a tareas de ingeniería de software y trabajo profesional más avanzadas. Para obtener más información, consulte MiniMax en la documentación de Hugging Face.
| ID de modelo facial de abrazo | Capacidad del modelo | Unidades de cluster de IA dedicadas recomendadas |
|---|---|---|
| MiniMaxAI/MiniMax-M2.7 | TEXTO_A_TEXTO |
|
| MiniMaxAI/MiniMax-M2.5 | TEXTO_A_TEXTO |
|
| MiniMaxAI/MiniMax-M2 | TEXTO_A_TEXTO |
|
-
Si bien puede importar cualquier modelo de chat, incrustación (y ajuste) validado a través de Open Model Engine (con tiempo de ejecución vLLM o SGLang), solo los modelos que aparecen explícitamente en esta página han sido evaluados para esta familia de modelos por Oracle en tiempos de ejecución de modelos de código abierto y probados en configuraciones de GPU compatibles con Oracle. Independientemente de lo anterior, Oracle no se hace responsable de ningún problema relacionado con el rendimiento, disponibilidad, funcionamiento o seguridad de los Modelos Compatibles. Los modelos no listados pueden tener problemas de compatibilidad y le recomendamos que pruebe cualquier modelo no listado antes de su uso en producción. Obtén más información sobre la arquitectura de modelo importada de IA generativa de OCI.
- Para los modelos importados, puede utilizar la longitud de contexto nativo especificada por el proveedor del modelo. Sin embargo, la longitud máxima efectiva del contexto está limitada por la configuración de hardware subyacente que seleccione para alojar clusters de IA dedicados en OCI Generative AI. Para aprovechar al máximo la longitud del contexto nativo de un modelo, puede que necesite aprovisionar más recursos de hardware.
- Utilice los modelos ajustados solo si coinciden con la versión del transformador del modelo base compatible y tienen un recuento de parámetros dentro del ±10% del original.
- Para obtener información sobre el hardware disponible y los pasos para desplegar los modelos importados, consulte Gestión de modelos importados.
- Si una unidad recomendada no está disponible en una región, seleccione la alternativa más cercana disponible. Por ejemplo, si
H100_X2no está disponible peroA100_80G_X2sí lo está, seleccioneA100_80G_X2. Si las unidades H100 y A100 están disponibles, para un mejor rendimiento, seleccione H100.