サポートされているMicrosoftモデル
Hugging FaceおよびOCIオブジェクト・ストレージ・バケットからOCI生成AIに大規模言語モデルをインポートし、それらのモデルのエンドポイントを作成して生成AIサービスで使用できます。
Microsoft Phi-3モデルは、その効率性とコンパクトさで知られており、スケーラブルで柔軟なパフォーマンスのために設計されています。Hugging FaceのPhi-3ドキュメントを参照してください。
Phi 3
| Hugging FaceモデルID | モデル機能 | 推奨される専用AIクラスタ・ユニット・サイズ |
|---|---|---|
| microsoft/Phi-3-mini-4k-instruct | TEXT_TO_TEXT | A100_80G_X1 |
| microsoft/Phi-3-mini-128k-instruct | TEXT_TO_TEXT | A100_80G_X1 |
| microsoft/Phi-3-small-8k-instruct | TEXT_TO_TEXT | A100_80G_X1 |
| microsoft/Phi-3-medium-4k-instruct | TEXT_TO_TEXT | A100_80G_X1 |
| microsoft/Phi-3-vision-128k-instruct | IMAGE_TEXT_TO_TEXT | H100_X1 |
ノート
- モデルのファインチューニング・バージョンをインポートするには、元のモデルと同じトランスフォーマ・バージョンを使用し、元のモデルの±10%以内のパラメータ数を持つファインチューニング・モデルのみがサポートされます。
- 推奨ユニット・シェイプのインスタンス・タイプがリージョンで使用できない場合は、上位層インスタンスを選択します(たとえば、A100-80GシェイプではなくH100シェイプを選択します)。
- 前提条件およびモデルのインポート方法については、「インポートされたモデルの管理(新規)」を参照してください。