Documentation sur Oracle Cloud Infrastructure

Ajout d'un modèle à un point d'extrémité privé

Voyez comment associer un point d'extrémité de modèle à un modèle préentraîné, personnalisé ou importé à un point d'extrémité privé dans l'intelligence artificielle générative pour OCI.

Vous pouvez associer un ou plusieurs points d'extrémité de modèle à un point d'extrémité privé. Un point d'extrémité privé fournit le chemin du réseau privé, tandis que chaque point d'extrémité de modèle fournit l'accès à un modèle sur une grappe d'IA dédiée à l'hébergement. Chaque point d'extrémité de modèle est compté par rapport à la capacité du point d'extrémité restant de sa grappe d'hébergement.

  • Créer un point d'extrémité

    1. Dans la page de liste Points d'extrémité privés, sélectionnez le point d'extrémité privé avec lequel vous voulez travailler. Si vous avez besoin d'aide pour trouver la page de liste des points d'extrémité privés, voir Liste des points d'extrémité privés.
    2. Sélectionnez Points d'extrémité, puis Créer un point d'extrémité.

    Informations sur le point d'extrémité

    1. Sélectionnez un compartiment dans lequel créer le point d'extrémité. Le compartiment par défaut est le même que la page de liste, mais vous pouvez sélectionner tout compartiment que vous êtes autorisé à utiliser.
      Conseil

      Il est recommandé de créer le point d'extrémité dans le même compartiment que le modèle.
    2. (Facultatif) Entrez un nom pour le point d'extrémité. Commencez le nom par une lettre ou un trait de soulignement, suivi de lettres, de chiffres, de tirets ou de traits de soulignement. Il peut comporter entre 1 et 255 caractères. Si vous n'entrez pas de nom, le système génère un nom que vous pourrez modifier plus tard.
      Le nom généré a le format generativeaiendpoint<timestamp>. Exemple : generativeaiendpoint20250531235319
    3. (Facultatif) Entrez la description du modèle.

    Configuration d'hébergement

    1. Sélectionnez le compartiment qui héberge le modèle auquel vous voulez ajouter un point d'extrémité.
    2. Sélectionnez le modèle auquel vous voulez ajouter un point d'extrémité. Ce modèle peut être un modèle personnalisé, un modèle importé ou un modèle de base préentraîné prêt à l'emploi disponible dans la région dans laquelle vous travaillez.
    3. Si le modèle que vous avez sélectionné comporte plusieurs versions, sélectionnez-en une.
      Pour les modèles de base préentraînés prêts à l'emploi, ce champ est alimenté lorsque vous sélectionnez le modèle.
    4. Sélectionnez une grappe dédiée à l'IA pour l'hébergement en effectuant l'une des actions suivantes :
      • Sélectionnez une grappe dédiée à l'IA dans la liste. Si vous avez créé une grappe il y a quelques minutes, attendez que celle-ci devienne active. Assurez-vous que la grappe a été créée pour le modèle préentraîné ou importé sélectionné, ou pour le modèle de base utilisé pour créer le modèle personnalisé sélectionné.
      • Sélectionnez Créer une nouvelle grappe dédiée à l'IA et effectuez les étapes suivantes :
        1. (Facultatif) Entrez un nom et une description.
        2. Pour Modèle de base, sélectionnez le modèle préentraîné que vous hébergez, le modèle de base utilisé pour créer le modèle personnalisé sélectionné ou le modèle importé sélectionné.
        3. Si vous avez sélectionné un modèle importé, sélectionnez une taille d'unité recommandée. Voir Formes d'unité matérielle pour les modèles importés.
        4. Utilisez au moins une réplique de modèle pour la grappe d'hébergement. Les répliques de la grappe servent ses points d'extrémité de modèle actifs. Ajoutez des répliques pour augmenter le débit d'inférence pour les points d'extrémité; la création de points d'extrémité supplémentaires à elle seule n'augmente pas le débit.
        5. Vérifiez les informations de facturation et d'engagement pour la grappe dédiée à l'IA pour l'hébergement et, si vous y êtes invité, cochez la case pour accepter l'engagement. Les grappes d'hébergement pour les modèles importés ne nécessitent pas l'engagement minimal de 744 heures qui s'applique aux modèles préentraînés et personnalisés d'IA générative pour OCI.
        6. (Facultatif) Sélectionnez Ajouter un marqueur et affectez des marqueurs à cette grappe dédiée à l'IA. Voir Marqueurs de ressource.
        7. Sélectionnez Créer et attendez que la grappe devienne active.
        8. Dans la liste Grappe dédiée à l'IA, sélectionnez la grappe que vous avez créée.

    Ressources de réseau

    Le point d'extrémité privé est présélectionné.

    Garde-corps (pour modèles préentraînés et personnalisés)

    Les garde-corps ne sont pas disponibles pour les modèles importés.

    1. Indiquez s'il faut activer le garde-corps suivant.
      • Modération du contenu
        • Désactivé : N'appliquez pas de modération de contenu et ne produisez pas de contenu explicite.
        • Bloquer : Aide à identifier et à appliquer la modération de contenu.
        • Informer : Ne pas appliquer la modération de contenu, mais viser à informer l'utilisateur si le modèle détecte le contenu nécessitant une modération.
    2. (Facultatif) Sélectionnez Ajouter un marqueur et affectez des marqueurs à ce point d'extrémité. Voir Marqueurs de ressource.
    3. Sélectionnez Créer.
      Vous accédez à la page de détails du point d'extrémité, dans laquelle vous pouvez consulter l'état du point d'extrémité. Le nouveau point d'extrémité de modèle est pris en compte dans la capacité restante du point d'extrémité de la grappe d'hébergement.

  • Utilisez la commande endpoint create et les paramètres requis pour créer un point d'extrémité :

    oci generative-ai endpoint create 
--model-id <model-OCID>
--compartment-id <compartment-OCID> 
--dedicated-ai-cluster-id <hosting-dedicated-AI-cluster-OCID> 
[OPTIONS]

    Pour la liste complète des paramètres et des valeurs pour les commandes de l'interface de ligne de commande, voir Informations de référence sur les commandes de l'interface de ligne de commande.

    Note

    Pour les modèles préentraînés, au lieu d'un OCID, vous pouvez utiliser le nom du modèle exactement comme indiqué dans le terrain de jeu de la console. Vous pouvez également trouver ce nom de modèle OCI dans la page de détails du modèle sous Modèles fondamentaux préentraînés offerts dans l'intelligence artificielle générative.

  • Exécutez l'opération CreateEndpoint pour créer un point d'extrémité.

    Note

    Pour les modèles préentraînés, au lieu d'un OCID, vous pouvez utiliser le nom du modèle exactement comme indiqué dans le terrain de jeu de la console. Vous pouvez également trouver ce nom de modèle OCI dans la page de détails du modèle sous Modèles fondamentaux préentraînés offerts dans l'intelligence artificielle générative.