Kompatible MiniMax-Modelle
Sie können große Sprachmodelle aus Hugging Face- und OCI Object Storage-Buckets in OCI Generative AI importieren, Endpunkte für diese Modelle erstellen und sie im Generative AI-Service verwenden.
MiniMax M3
Das Modell MiniMax-M3-MXFP8 ist die quantisierte MXFP8-Variante von MiniMax M3, einem nativen multimodalen Modell mit einem Tokenkontext von einer Million. Das Modell verfügt über rund 428 Milliarden Gesamtparameter mit rund 23 Milliarden aktivierten Parametern und nutzt MiniMax Sparse Attention (MSA) für eine effiziente Weiterverarbeitung. Dieses Modell ist für Codierung, agentenbezogene Workflows mit langem Horizont und kollaborative Produktivitätsaufgaben optimiert.
| Hugging Face-Modell-ID | Modellfähigkeit | Empfohlene dedizierte KI-Clustereinheitenausprägungen |
|---|---|---|
| MiniMaxAI/MiniMax-M3-MXFP8 | TEXT_ZU_TEXT |
|
MiniMax M2
Die Text-zu-Text-Modelle von MiniMax M2 sind für Codierung, komplexe Argumentation und agentenbezogene Workflows wie Werkzeugnutzung, Suche und Produktivitätsaufgaben optimiert. MiniMax-M2 ist ein Mixture-of-Experts (MoE)-Modell, das für effiziente Codierung und Agentenleistung entwickelt wurde, und spätere MiniMax-M2-Modelle erweitern diesen Fokus auf fortschrittlichere Software-Engineering- und Professional-Work-Aufgaben. Weitere Informationen finden Sie unter MiniMax in der Hugging Face-Dokumentation.
| Hugging Face-Modell-ID | Modellfähigkeit | Empfohlene dedizierte KI-Clustereinheitenausprägungen |
|---|---|---|
| MiniMaxAI/MiniMax-M2.7 | TEXT_ZU_TEXT |
|
| MiniMaxAI/MiniMax-M2.5 | TEXT_ZU_TEXT |
|
| MiniMaxAI/MiniMax-M2 | TEXT_ZU_TEXT |
|
-
Während Sie alle Chats, Einbettungs- und Feinoptimierungsmodelle importieren können, die über die Open Model Engine (mit vLLM- oder SGLang-Laufzeit) validiert wurden, wurden nur explizit aufgeführte Modelle auf dieser Seite von Oracle anhand von Open-Source-Modelllaufzeiten für diese Modellfamilie bewertet und auf von Oracle unterstützten GPU-Konfigurationen getestet. Ungeachtet des Vorstehenden ist Oracle nicht für Probleme im Zusammenhang mit der Leistung, Verfügbarkeit, dem Betrieb oder der Sicherheit kompatibler Modelle verantwortlich. Nicht aufgelistete Modelle können Kompatibilitätsprobleme aufweisen. Wir empfehlen, alle nicht aufgelisteten Modelle vor der Verwendung in der Produktion zu testen. Erfahren Sie mehr über die importierte Modellarchitektur von OCI Generative AI.
- Bei importierten Modellen können Sie die vom Modellprovider angegebene native Kontextlänge verwenden. Die effektive maximale Kontextlänge wird jedoch durch das zugrunde liegende Hardwaresetup begrenzt, das Sie für das Hosting dedizierter KI-Cluster in OCI Generative AI auswählen. Um die native Kontextlänge eines Modells voll auszuschöpfen, müssen Sie möglicherweise mehr Hardwareressourcen bereitstellen.
- Verwenden Sie die fein abgestimmten Modelle nur, wenn sie mit der Transformatorversion des kompatiblen Basismodells übereinstimmen und eine Parameteranzahl innerhalb von ±10% des Originals aufweisen.
- Verfügbare Hardware und Schritte zum Deployment der importierten Modelle finden Sie unter Importierte Modelle verwalten.
- Wenn in einer Region keine empfohlene Ausprägung verfügbar ist, wählen Sie die nächstgelegene verfügbare Alternative aus. Beispiel: Wenn
H100_X2nicht verfügbar ist,A100_80G_X2jedoch ist, wählen SieA100_80G_X2aus. Wenn sowohl H100- als auch A100-Ausprägungen verfügbar sind, wählen Sie H100 aus, um die Performance zu verbessern.