互換性のあるMiniMaxモデル
大規模言語モデルをHugging FaceおよびOCI Object StorageバケットからOCI生成AIにインポートし、それらのモデルのエンドポイントを作成して生成AIサービスで使用できます。
MiniMax M3
MiniMax-M3-MXFP8モデルは、MiniMax M3のMXFP8定量化バリアントであり、100万のトークン・コンテキストを持つネイティブ・マルチモーダル・モデルです。このモデルには、約230億個のアクティブ化されたパラメータを持つ約4280億個の合計パラメータがあり、MiniMaxスパースアテンション(MSA)を使用して効率的な長文処理を実現しています。このモデルは、コーディング、長期にわたるエージェント・ワークフロー、およびコラボレーション生産性タスク用に最適化されています。
| Hugging FaceモデルID | モデル機能 | 推奨される専用AIクラスタ・ユニット・シェイプ |
|---|---|---|
| MiniMaxAI/MiniMax-M3-MXFP8 | テキスト間_テキスト |
|
MiniMax M2
MiniMax M2テキスト・ツー・テキスト・モデルは、コーディング、複雑な推論、およびツールの使用、検索、生産性タスクなどのエージェント・ワークフロー用に最適化されています。MiniMax-M2は、効率的なコーディングとエージェントのパフォーマンスのために設計されたMixture-of-Experts(MoE)モデルであり、後にMiniMax-M2モデルは、この焦点をより高度なソフトウェアエンジニアリングとプロフェッショナルワークタスクに拡張します。詳細については、Hugging FaceドキュメントのMiniMaxを参照してください。
| Hugging FaceモデルID | モデル機能 | 推奨される専用AIクラスタ・ユニット・シェイプ |
|---|---|---|
| MiniMaxAI/MiniMax-M2.7 | テキスト間_テキスト |
|
| MiniMaxAI/MiniMax-M2.5 | テキスト間_テキスト |
|
| MiniMaxAI/MiniMax-M2 | テキスト間_テキスト |
|
-
Open Model Engine(vLLMまたはSGLangランタイムを使用)を介して検証された任意のチャット、埋込み(およびファインチューニング)モデルをインポートできますが、このページの明示的にリストされたモデルのみは、オープンソース・モデル・ランタイムに対してOracleによってこのモデル・ファミリについて評価され、OracleでサポートされているGPU構成でテストされています。上記にかかわらず、Oracleは、互換性のあるモデルのパフォーマンス、可用性、操作またはセキュリティに関連する問題に対して責任を負いません。非リスト・モデルには互換性に問題がある可能性があり、本番で使用する前に、リストされていないモデルをテストすることをお薦めします。OCI Generative AI Imported Model Architectureについて学習します。
- インポートされたモデルの場合は、モデル・プロバイダによって指定されたネイティブ・コンテキスト長を使用できます。ただし、効果的な最大コンテキスト長は、OCI生成AIでホスティング専用AIクラスタに選択する基礎となるハードウェア設定によって制限されます。モデルのネイティブ・コンテキスト長を最大限に活用するには、より多くのハードウェア・リソースをプロビジョニングする必要がある場合があります。
- ファインチューニング・モデルは、互換性のあるベース・モデルのトランスフォーマ・バージョンと一致し、パラメータ数が元のモデルの±10%以内である場合にのみ使用します。
- インポートされたモデルのデプロイ方法に関する使用可能なハードウェアおよびステップは、インポートされたモデルの管理を参照してください。
- 推奨シェイプがリージョンで使用できない場合は、最も近い使用可能な代替を選択します。たとえば、
H100_X2は使用できませんが、A100_80G_X2の場合は、A100_80G_X2を選択します。H100シェイプとA100シェイプの両方が使用可能な場合は、パフォーマンスを向上させるためにH100を選択します。