Gestion des points d'extrémité
Pour utiliser un modèle personnalisé d'IA générative OCI pour l'inférence, vous devez d'abord créer un point d'extrémité pour ce modèle. Vous pouvez également créer des points d'extrémité pour les modèles préentraînés disponibles dans l'aire de jeu.
Un point d'extrémité est un point spécifié dans une grappe dédiée à l'IA où un modèle peut accepter des demandes d'utilisateur et renvoyer des réponses telles que le texte généré par le modèle. Vous créez un point d'extrémité dans une grappe dédiée à l'IA de hébergement.
Pour accéder à un modèle au moyen d'un point d'extrémité privé, vous devez d'abord créer un point d'extrémité privé, puis revenir à cette page pour créer un point d'extrémité pour le modèle sur une grappe dédiée à l'IA.
- Après avoir créé un point d'extrémité actif pour un modèle personnalisé, celui-ci est répertorié dans la liste des modèles du terrain de jeu.
- Chaque modèle personnalisé peut avoir plusieurs points d'extrémité.
- Chaque grappe d'intelligence artificielle dédiée d'hébergement peut héberger de nombreux points d'extrémité. Voir le nombre de points d'extrémité restants dans la page de détails de la grappe d'IA dédiée. Si vous n'avez plus besoin du point d'extrémité d'un modèle personnalisé, vous pouvez le supprimer et utiliser la grappe dédiée à l'IA qui lui est associée pour héberger un nouveau point d'extrémité.
Vous pouvez effectuer les tâches suivantes pour créer et gérer des points d'extrémité pour des modèles personnalisés :
- Création d'un point d'extrémité
- Affichage des points d'extrémité
- Affichage d'un modèle avec un point d'extrémité dans le terrain de jeu
- Obtention des détails d'un point d'extrémité
- Mise à jour d'un point d'extrémité
- Déplacement d'un point d'extrémité
- Obtention des mesures d'un point d'extrémité
- Suppression d'un point d'extrémité