Modèles Microsoft pris en charge
Vous pouvez importer de grands modèles de langage à partir de seaux de stockage d'objets Hugging Face et OCI dans le service d'intelligence artificielle générative pour OCI, créer des points d'extrémité pour ces modèles et les utiliser dans le service d'intelligence artificielle générative.
Les modèles Microsoft Phi-3, connus pour leur efficacité et leur compacité, sont conçus pour des performances évolutives et flexibles. Voir la documentation Phi-3 sur Hugging Face.
Phi 3
| ID modèle de visage Hugging | Capacité du modèle | Taille d'unité de grappe dédiée à l'IA recommandée |
|---|---|---|
| microsoft/Phi-3-mini-4k-instruct | TEXT_TO_TEXT | A100_80G_X1 |
| microsoft/Phi-3-mini-128k-instruct | TEXT_TO_TEXT | A100_80G_X1 |
| microsoft/Phi-3-small-8k-instruct | TEXT_TO_TEXT | A100_80G_X1 |
| microsoft/Phi-3-medium-4k-instruct | TEXT_TO_TEXT | A100_80G_X1 |
| microsoft/Phi-3-vision-128k-instruct | IMAGE_TEXT_TO_TEXT | H100_X1 |
Note
- Pour importer une version affinée d'un modèle, seuls les modèles affinés qui utilisent la même version de transformateur que le modèle d'origine et dont le nombre de paramètres se situe à ±10 % de l'original sont pris en charge.
- Si le type d'instance pour la forme d'unité recommandée n'est pas disponible dans votre région, sélectionnez une instance de niveau supérieur (par exemple, sélectionnez une forme H100 au lieu d'une forme A100-80G).
- Pour les préalables et la façon d'importer des modèles, voir Gestion des modèles importés (nouveaux).