Modelli MiniMax compatibili
Puoi importare modelli di linguaggio di grandi dimensioni dai bucket di storage degli oggetti Hugging Face e OCI nell'AI generativa OCI, creare endpoint per tali modelli e utilizzarli nel servizio AI generativa.
MiniMax M3
Il modello MiniMax-M3-MXFP8 è la variante quantizzata MXFP8 di MiniMax M3, un modello multimodale nativo con un contesto token di un milione. Il modello ha circa 428 miliardi di parametri totali con circa 23 miliardi di parametri attivati e utilizza MiniMax Sparse Attention (MSA) per un'efficiente elaborazione a lungo termine. Questo modello è ottimizzato per la codifica, flussi di lavoro lenti a lungo termine e attività di produttività collaborative.
| ID modello viso abbraccio | Capacità modello | Forme unità cluster AI dedicate consigliate |
|---|---|---|
| MiniMaxAI/MiniMax-M3-MXFP8 | TESTO_A_TESTO |
|
MiniMax M2
I modelli da testo a testo MiniMax M2 sono ottimizzati per la codifica, il ragionamento complesso e flussi di lavoro lenti come l'uso degli strumenti, la ricerca e le attività di produttività. MiniMax-M2 è un modello Mixture-of-Experts (MoE) progettato per una codifica efficiente e prestazioni identiche, e in seguito i modelli MiniMax-M2 estendono questa attenzione a attività di ingegneria del software più avanzate e di lavoro professionale. Per ulteriori dettagli, vedere MiniMax nella documentazione di Hugging Face.
| ID modello viso abbraccio | Capacità modello | Forme unità cluster AI dedicate consigliate |
|---|---|---|
| MiniMaxAI/MiniMax-M2.7 | TESTO_A_TESTO |
|
| MiniMaxAI/MiniMax-M2.5 | TESTO_A_TESTO |
|
| MiniMaxAI/MiniMax-M2 | TESTO_A_TESTO |
|
- Per i modelli importati, è possibile utilizzare la lunghezza del contesto nativo specificata dal provider del modello. Tuttavia, la lunghezza massima effettiva del contesto è limitata dall'impostazione hardware di base selezionata per l'hosting di cluster AI dedicati in OCI Generative AI. Per sfruttare appieno la lunghezza del contesto nativo di un modello, potrebbe essere necessario eseguire il provisioning di più risorse hardware.
- Utilizzare i modelli ottimizzati solo se corrispondono alla versione del trasformatore del modello di base compatibile e hanno un conteggio dei parametri entro ±10% dell'originale.
- Per informazioni sull'hardware disponibile e sulla procedura per distribuire i modelli importati, vedere Gestione dei modelli importati.