Gestion des adresses
Afin d'utiliser le modèle personnalisé OCI Generative AI à des fins d'inférence, vous devez d'abord créer une adresse pour ce modèle. Vous pouvez également créer des points de terminaison pour les modèles préentraînés disponibles dans le terrain de jeu.
Une adresse est un point spécifié sur un cluster d'IA dédié où un modèle peut accepter des demandes utilisateur et renvoyer des réponses telles que le texte généré par le modèle. Vous créez une adresse sur un cluster d'IA dédié d'hébergement.
Pour accéder à un modèle via une adresse privée, vous devez d'abord créer une adresse privée, puis revenir à cette page afin de créer une adresse pour le modèle sur un cluster d'IA dédié.
- Une fois que vous avez créé une adresse active pour un modèle personnalisé, le modèle est répertorié dans la liste des modèles du playground de test.
- Chaque modèle personnalisé peut avoir plusieurs adresses.
- Chaque cluster d'IA dédié hosting peut héberger de nombreuses adresses. Consultez le nombre d'adresses restantes sur la page de détails du cluster d'IA dédié. Si vous n'avez plus besoin de l'adresse d'un modèle personnalisé, vous pouvez supprimer cette adresse et utiliser son cluster d'IA dédié associé pour héberger une nouvelle adresse.
Vous pouvez effectuer les tâches suivantes afin de créer et de gérer des adresses pour les modèles personnalisés :