Modèles OpenAI pris en charge
Vous pouvez importer des modèles de langage volumineux à partir de buckets Hugging Face et OCI Object Storage dans OCI Generative AI, créer des adresses pour ces modèles et les utiliser dans le service d'IA générative.
Ces modèles disposent d'une architecture de transformateur avancée de poids ouvert avec l'architecture Mixture-of-Experts (MoE), optimisée pour un raisonnement de langage efficace et de haute qualité et une grande gestion du contexte. Pour plus d'informations, reportez-vous à GptOss dans la documentation Hugging Face.
GptOss
| Hugging Face Model - ID | Capacité du modèle | Forme d'unité de cluster d'IA dédiée recommandée |
|---|---|---|
| openai/gpt-oss-20b | TEXT_TO_TEXT | H100_X1 |
| openai/gpt-oss-120b | TEXT_TO_TEXT | H100_X2 |
Remarque
- Pour importer une version affinée d'un modèle, seuls les modèles affinés qui utilisent la même version des transformateurs que le modèle d'origine et dont le nombre de paramètres est inférieur à ±10 % de celui de l'original sont pris en charge.
- Si le type d'instance de la forme d'unité recommandée n'est pas disponible dans votre région, sélectionnez une instance de niveau supérieur (par exemple, sélectionnez une forme H100 au lieu d'une forme A100-80G).
- Pour connaître les prérequis et savoir comment importer des modèles, reportez-vous à Gestion des modèles importés (nouveau).