Documentation Oracle Cloud Infrastructure

Création d'une adresse dans Generative AI

Créez une adresse pour un modèle personnalisé ou préentraîné sur un cluster d'IA dédié d'hébergement dans OCI Generative AI.

  1. Dans la barre de navigation de la console, sélectionnez une région avec Generative AI, par exemple, Midwest des Etats-Unis (Chicago) ou Sud du Royaume-Uni (Londres). Reportez-vous à Quels modèles sont proposés dans votre région.
  2. Ouvrez le menu de navigation et cliquez sur Analytics et IA. Sous Services d'IA, cliquez sur Intelligence artificielle générative.
  3. Sélectionnez le compartiment contenant le modèle personnalisé auquel ajouter une adresse.
  4. Effectuez l'une des actions suivantes :
    • Pour créer une adresse pour un modèle personnalisé avec le nom et la version du modèle préremplis, procédez comme suit :
      1. Cliquez sur Modèles personnalisés.
      2. Cliquez sur le nom du modèle personnalisé pour lequel ajouter une adresse.
      3. Vérifiez que le modèle de base du modèle personnalisé correspond à un cluster dans les étapes suivantes. Par exemple, cohere.command-r-plus.
      4. Sous Ressources, cliquez sur Adresses.
      5. Cliquez sur Créer une adresse.
    • Pour créer une adresse pour un modèle prédéfini ou personnalisé prêt à l'emploi, procédez comme suit :
      1. Cliquez sur Adresses.
      2. Cliquez sur Créer une adresse
  5. (Facultatif) Entrez le nom de l'adresse. Commencez le nom par une lettre ou un trait de soulignement, suivi de lettres, de chiffres, de traits d'union ou de traits de soulignement. Il peut comporter entre 1 et 255 caractères. Si vous n'entrez pas de nom, le système génère un nom que vous pourrez modifier ultérieurement.

    Le nom généré a le format generativeaiendpoint<horodatage>.

    generativeaiendpoint20240531235319

  6. (Facultatif) Pour modérer les réponses générées par le modèle, activez l'option Modération du contenu. Cette option est désactivée par défaut. En savoir plus sur la modération de contenu. Vous pouvez ajouter cette fonctionnalité ultérieurement lorsque vous modifiez l'adresse.
  7. Si cette option n'est pas sélectionnée, choisissez le nom et la version du modèle pour lesquels vous voulez ajouter une adresse.
    Conseil

    • Si le modèle se trouve dans un autre compartiment que le compartiment en cours, cliquez sur Modifier le compartiment et choisissez le compartiment qui héberge le modèle. Nous vous recommandons de créer l'adresse dans le même compartiment que le modèle.
    • Si le modèle personnalisé que vous recherchez n'est pas répertorié, cliquez sur Annuler. Ensuite, sous IA générative, cliquez sur Modèles personnalisés et assurez-vous que le modèle personnalisé est à l'état actif.
  8. Choisissez un cluster d'IA dédié d'hébergement en effectuant l'une des actions suivantes :
    • Si vous disposez déjà d'un cluster, choisissez un cluster d'IA dédié dans la liste déroulante. Si vous venez de créer un cluster, attendez qu'il devienne actif. Assurez-vous que le modèle de base associé à ce cluster correspond au modèle de base du modèle personnalisé.
    • Pour créer un cluster, dans la liste déroulante Cluster d'IA dédié, cliquez sur Créer un cluster d'IA dédié et procédez comme suit :
      1. (Facultatif) Entrez un nom et une description.
      2. Choisissez un modèle de base qui correspond au modèle de base du modèle à héberger.
      3. Ajoutez 1 réplique de modèle à l'adresse. Lorsque vous créez un cluster, vous avez besoin d'au moins une unité pour une adresse. Pour un cluster existant, vous pouvez utiliser la même unité pour héberger de nouvelles adresses. Chaque instance héberge toutes les adresses actives. Passer de 1 à 2 instances double le nombre de RPM pris en charge pour toutes les adresses actives hébergées sur le cluster.
      4. Lisez les heures de l'unité d'engagement pour le cluster AI dédié hébergeant et cochez la case pour accepter l'engagement.
      5. Cliquez sur Créer et attendez que le cluster devienne actif.
      6. Dans la liste déroulante Cluster d'IA dédié, cliquez sur le cluster d'IA dédié que vous avez créé.
  9. (Facultatif) Cliquez sur Afficher les options avancées et affectez des balises à l'adresse.
  10. Cliquez sur Créer une adresse.
    Vous êtes redirigé vers la page de détails de l'adresse, qui vous permet de suivre son état.
  11. Une fois l'adresse active, cliquez sur Visualiser dans le terrain de jeu et commencez à utiliser le modèle à partir de cette adresse.