Obtention des détails d'une grappe dédiée à l'IA
Obtenez les détails d'une grappe dédiée à l'IA dans le service d'intelligence artificielle générative pour OCI.
Détails de la grappe d'hébergement
Pour une grappe d'IA dédiée à l'hébergement, consultez ces champs afin de comprendre ses capacités de calcul et de point d'extrémité :
- Taille d'unité
- Forme d'unité d'intelligence artificielle dédiée sélectionnée pour le modèle hébergé dans la grappe. La forme d'unité identifie les ressources de calcul utilisées par le modèle.
- Nombre d'unités
- Unités d'intelligence artificielle dédiées provisionnées pour les répliques de modèle de la grappe. L'ajout de répliques de modèle augmente le débit d'inférence de la grappe et nécessite des unités supplémentaires.
- Capacité de point d'extrémité restante
- Nombre de points d'extrémité de modèle supplémentaires que la grappe peut prendre en charge sous sa limite de point d'extrémité courante. Par défaut, une grappe d'hébergement prend en charge jusqu'à 50 points d'extrémité de modèle. Par exemple, si une grappe comporte un point d'extrémité, la capacité restante du point d'extrémité est de 49. Cette valeur compte les ressources de point d'extrémité de modèle, et non les répliques de modèle ou les demandes d'inférence.
La création de points d'extrémité de modèle supplémentaires n'augmente pas le débit d'inférence de la grappe. Voir Capacité du point d'extrémité.
Dans la page de liste Grappes d'IA dédiées, sélectionnez la grappe d'IA dédiée avec laquelle vous voulez travailler. Si vous avez besoin d'aide pour trouver la page de liste des grappes dédiées à l'IA, voir Liste des grappes dédiées à l'IA. Dans la page de détails de la grappe dédiée à l'IA, accédez aux différentes ressources associées à la grappe dédiée à l'IA en sélectionnant leurs liens ou leurs onglets.
Utilisez la commande dedicated-ai-cluster get et les paramètres requis pour obtenir les détails d'une grappe dédiée :
oci generative-ai dedicated-ai-cluster get --dedicated-ai-cluster-id <dedicated-ai-cluster-OCID> [OPTIONS]Pour la liste complète des paramètres et des valeurs pour les commandes de l'interface de ligne de commande, voir Informations de référence sur les commandes de l'interface de ligne de commande.
Exécutez l'opération GetDedicatedAiCluster pour obtenir les détails d'une grappe dédiée.