Calcul IA

23 Calcul IA

Ce chapitre traite de l'utilisation de ressources informatiques spécialisées pour l'alimentation des agents AI dans Oracle AI Data Platform Workbench.

Un cluster de calcul AI vous permet d'héberger des agents dans les espaces de travail AI Data Platform Workbench. Les calculs d'IA peuvent être associés aux agents pour exécuter l'expérience de terrain de jeu et héberger les agents déployés pour les charges de travail de production.

Où trouver l'IA Compute

Vous gérez le calcul d'IA à partir de la page Calcul, accessible à partir du panneau de navigation de gauche dans AI Data Platform Workbench. Cliquez sur l'onglet Calcul AI pour afficher les clusters de calcul AI disponibles dans votre espace de travail.

La page Calcul s'ouvre avec l'onglet Calcul IA sélectionné.

L'onglet Calcul AI est la page de destination principale des ressources de calcul AI dans l'espace de travail actuellement sélectionné. Il fournit des informations sur les actions de table, le filtrage, le tri et le statut.

Colonne ou contrôle	Description
Filtrer	Recherchez dans la table une ressource par nom ou par texte visible.
Ajouter (+)	Commencez à créer un nouveau calcul d'IA.
Suppression	Enlever les calculs AI sélectionnés.
Nom de calcul AI	Nom de la ressource de calcul. Cliquez sur le nom de calcul AI pour ouvrir la page de détails de la ressource.
Province/Département	Etat du cycle de vie en cours, tel que Création, Actif ou Mise à jour.
Nombre de répliques	Nombre de répliques de calcul associées au calcul AI.
Nombre d'agents	Nombre d'agents hébergés dans le calcul AI. Le nombre est affiché sous la forme d'un lien lorsque des agents sont présents.
Configuration	Récapitulatif de la forme de calcul des répliques dans AI Compute, par exemple 1 OCPU, 16 Go ou 2 OCPU, 32 Go.
Mis à jour par / Mis à jour le / Créé le	Audit des informations relatives aux dernières mises à jour et heures de création.
Menu Action (...)	Ouvrez les actions propres à la ressource pour la ligne sélectionnée.

Remarques :

Une coche verte indique une ressource active. Un spinner indique une opération en cours telle que la création ou la mise à jour. Attendez qu'une ressource soit active avant de compter sur elle pour le travail de production.

Cliquez sur le nom d'un calcul d'IA dans l'onglet Calcul d'IA pour afficher des informations détaillées sur ce calcul d'IA. La vue de calcul AI comporte quatre onglets : Agents, Détails, Utilisation du calcul et Droits d'accès.

Onglet Agents

L'onglet Agents répertorie les agents hébergés dans la ressource AI Compute. Si un agent n'est pas déployé, le calcul d'IA héberge l'expérience de terrain de jeu nécessaire au développement et aux tests itératifs. Si l'agent est déployé, l'IA calculée héberge l'adresse de déploiement de l'agent pour les charges globales de production.

Elément de l'onglet Agents	Description
Filtrer par nom d'agent	Recherchez la liste des agents associés.
Nom d'agent	Nom de l'agent associé à la ressource de calcul.
Mode de rédaction	Comment l'agent a été créé. Valeurs Visual ou Code.
Déploiement	Etat de déploiement. Les agents hébergés dans le calcul d'IA peuvent soit ne pas être déployés (le terrain de jeu est hébergé dans le calcul d'IA), soit être déployés (lorsque le calcul héberge l'adresse de déploiement de l'agent)
URI/Etat URI	Informations d'URI d'adresse lorsqu'un agent est déployé et possède un URI.
Calcul IA	Calcul associé à l'adresse de production de l'agent.
Créé le / Mis à jour le / Mis à jour par	Création et mise à jour des métadonnées pour l'agent.

Onglet Détails

L'onglet Détails récapitule la forme et le stockage configurés pour chaque réplique du calcul AI.

Elément de l'onglet Détails	Description
Forme du pilote	Forme de GPU sélectionnée pour le calcul AI. AMD est la forme de pilote pour tous les calculs AI.
OCPU	Nombre d'OCPU sélectionnées pour le calcul AI.
Mémoire (Go)	Mémoire de calcul AI en Go.
Volume de blocs	Taille de volume de blocs du calcul AI en Go.

Onglet Utilisation du calcul

Utilisez l'onglet Utilisation du calcul pour vérifier l'utilisation de l'UC, de la mémoire et du réseau au fil du temps. Cela est utile lorsque vous décidez de faire évoluer les répliques, les OCPU ou la mémoire vers le haut ou le bas. Aucun temps d'inactivité n'est observé lors d'une opération de redimensionnement/d'intégration d'IA.

Remarques :

Chaque série temporelle correspond à une réplique différente. Par exemple, si vous créez un calcul AI avec deux répliques, deux séries temporelles seront affichées comme le montre la capture d'écran ci-dessus.

Elément de l'onglet Utilisation du calcul	Description
Filtres appliqués	Choisissez les dates/heures de début et de fin de la vue d'utilisation.
Afficher	Choisissez la mesure. Les options disponibles sont les suivantes : Utilisation de l'UC Fenêtre Utilisation de la mémoire Octets reçus par le réseau Octets transmis par le réseau
Période	Choisissez entre une période personnalisée ou les 7 derniers jours.
ID de la réplique	Filtrer les mesures sur un ID de réplique spécifique ou afficher toutes les répliques de calcul.
d'agrégation	Choisissez l'intervalle d'agrégation du graphique. Les options sont Auto, 1min, 5min, 15min, 30min et 60min.

Onglet Autorisations

L'onglet Droit d'accès fournit une table de tous les principaux disposant des droits d'accès à ce calcul AI. Utilisez cet onglet pour ajouter des principaux, modifier le niveau d'autorisation ou modifier les autorisations.

Elément de l'onglet Autorisations	Description
Nom du principal	Nom du principal ou du rôle.
Type de principal	Type de principal. USER ou ROLE.
Droit	Niveau d'autorisation.
Sera hérité	Si les droits d'accès accordés pour un objet parent accordent des droits d'accès aux objets contenus.

Créer un cluster AI

Vous pouvez créer des clusters de calcul d'IA pour exécuter des agents d'IA dans votre plate-forme de données d'IA.

Sur la page d'accueil, accédez à votre espace de travail.
Cliquez sur Créer, puis sur Calcul AI.
Fournissez un nom et une description pour votre cluster de calcul AI.
Définissez le nombre de répliques de calcul. Les répliques font évoluer le pool de calcul. Chaque réplique héberge une copie de tous les agents hébergés dans le calcul AI.

Remarques :
Le nombre maximal de répliques est de 10. Contactez le représentant Oracle si vous devez augmenter la limite de répliques.
Définissez le nombre d'OCPU dans chaque réplique. Vous pouvez choisir 1, 2, 4, 8, 16, 32 ou 64 OCPU.

Définissez la mémoire (en Go) par réplique. La plage de mémoire autorisée varie en fonction du nombre d'OCPU :

OCPU	mémoire,
1 OCPU,	16 ou 32 Go
2 OCPU	16, 32 ou 64 Go
4 OCPU	32, 64 ou 128 Go
8 OCPU	32, 64, 128 ou 256 Go
16 OCPU	64, 128, 256, ou 512 Go
32 OCPU	128, 256 ou 512 Go
64 OCPU	256, 512 ou 1024 Go

Vérifiez les unités AIDP correspondantes qu'une telle configuration de calcul AI coûte par heure.
Cliquez sur Créer. La nouvelle ressource apparaît dans la liste à l'état Création. L'état devient Actif une fois le provisionnement terminé.

Modification d'un cluster AI

Vous pouvez modifier les paramètres de configuration d'un calcul AI via l'opération de modification.

La modification de l'OCPU ou de la mémoire pour votre cluster de calcul AI peut prendre plusieurs minutes. Vous pouvez également interrompre les requêtes à longue durée d'exécution dans votre agent.

Sur la page d'accueil, accédez à votre espace de travail.
Cliquez sur Calcul, puis sur l'onglet Calcul IA.
En regard du cluster de calcul AI à modifier, cliquez sur Actions, puis sur Modifier. Vous pouvez également cliquer sur le nom du calcul d'IA, puis sur Modifier en haut à droite.
Modifiez le nom, la description, le nombre de répliques de calcul, le nombre d'OCPU par réplique et la mémoire par réplique. Les modifications apportées au calcul d'IA sont effectuées sans temps d'arrêt.
Cliquez sur Mettre à jour. L'état de calcul de l'IA est Mise à jour pendant que la mise à jour est en cours.

Suppression d'un cluster AI

Vous pouvez supprimer les clusters de calcul d'IA qui ne sont pas utilisés ou qui ne sont plus nécessaires.

Accédez à votre espace de travail, cliquez sur Compute, puis sur l'onglet Calcul AI.
En regard du cluster d'IA à supprimer, cliquez sur Actions, puis sur Supprimer.
Cliquez sur Supprimer.