Modèles Google compatibles

Vous pouvez importer de grands modèles de langage à partir de seaux de stockage d'objets Hugging Face et OCI dans le service d'intelligence artificielle générative pour OCI, créer des points d'extrémité pour ces modèles et les utiliser dans le service d'intelligence artificielle générative.

Pour plus de détails sur les modèles, voir les liens suivants :

MedGemma

Google MedGemma 27B Text IT est un modèle de langage de 27 milliards de mètres basé sur l'architecture Gemma 3. Formé à la littérature médicale et aux dossiers cliniques, le modèle est réglé par instruction (IT), ce qui lui permet de mieux suivre les demandes des utilisateurs et d'aider à effectuer des tâches axées sur les soins de santé telles que la réponse aux questions médicales, le soutien clinique et la synthèse.

Modèle MedGemma compatible
ID modèle de visage Hugging Capacité du modèle Forme d'unité de grappe dédiée à l'IA recommandée
google/medgemma-27b-text-it TEXT_TO_TEXT
  • A100_80GB_X2;
  • H100_X2 —
  • H200_X1 —
  • B200_X1;

Gemma

Modèles Gemma compatibles
ID modèle de visage Hugging Capacité du modèle Forme d'unité de grappe dédiée à l'IA recommandée
google/gemma-4-31B-it IMAGE_TEXT_TO_TEXT
  • A100_40G_X4;
  • A100_80G_X2
  • B200_X1;
  • H100_X2 —
  • H200_X1 —
google/gemma-3-4b-it IMAGE_TEXT_TO_TEXT A100_80G_X1
google/gemma-3-270m-it TEXT_TO_TEXT A100_80G_X1
google/gemma-3-27b-it IMAGE_TEXT_TO_TEXT A100_80G_X2
google/gemma-3-12b-it IMAGE_TEXT_TO_TEXT
  • A100_40G_X4;
  • A100_80G_X1
  • H100_X2 —
  • H200_X1 —
google/gemma-3-1b-it TEXT_TO_TEXT A100_80G_X1
google/gemma-2-9b-it TEXT_TO_TEXT A100_80G_X1
google/gemma-2-27b-it TEXT_TO_TEXT A100_80G_X2;
google/gemma-2-2b-it TEXTE_TO_TEXT A100_80G_X1
Important

  • Pour les modèles importés, vous pouvez utiliser la longueur du contexte natif spécifiée par le fournisseur de modèle. Toutefois, la longueur de contexte maximale en vigueur est limitée par la configuration matérielle sous-jacente que vous sélectionnez pour les grappes d'IA dédiées à l'hébergement dans l'IA générative OCI. Pour tirer pleinement parti de la longueur du contexte natif d'un modèle, vous devrez peut-être provisionner davantage de ressources matérielles.
  • Utilisez les modèles affinés uniquement s'ils correspondent à la version du transformateur du modèle de base compatible et ont un nombre de paramètres inférieur à ± 10 % de l'original.
  • Pour le matériel disponible et les étapes de déploiement des modèles importés, voir Gestion des modèles importés.