Calcul IA

Ce chapitre traite de l'utilisation de ressources informatiques spécialisées pour l'alimentation des agents d'IA dans Oracle AI Data Platform.

Un cluster de calcul d'IA vous permet d'héberger des agents dans des espaces de travail AI Data Platform. Les calculs d'IA peuvent être associés aux agents pour exécuter l'expérience de terrain de jeu et héberger les agents déployés pour les charges de travail de production.

Où trouver l'IA Compute

Vous gérez le calcul d'IA à partir de la page Calcul, accessible à partir du panneau de navigation de gauche de votre plate-forme de données d'IA. Cliquez sur l'onglet Calcul AI pour afficher les clusters de calcul AI disponibles dans votre espace de travail.

La page Calcul s'ouvre avec l'onglet Calcul IA sélectionné.

L'onglet Calcul AI est la page de destination principale des ressources de calcul AI dans l'espace de travail actuellement sélectionné. Il fournit des informations sur les actions de table, le filtrage, le tri et le statut.

Colonne ou contrôle	Description
Filtrer	Recherchez dans la table une ressource par nom ou par texte visible.
Ajouter (+)	Commencez à créer un nouveau calcul d'IA.
Suppression	Enlever les calculs AI sélectionnés.
Nom de calcul AI	Nom de la ressource de calcul. Cliquez sur le nom de calcul AI pour ouvrir la page de détails de la ressource.
Province/Département	Etat du cycle de vie en cours, tel que Création, Actif ou Mise à jour.
Nombre de réplicas	Nombre de répliques de calcul associées au calcul AI. Si vous sélectionnez une stratégie de redimensionnement automatique pour le calcul, les nombres minimal et maximal de répliques sont répertoriés.
Nombre d'agents	Nombre d'agents hébergés dans le calcul AI. Le nombre est affiché sous la forme d'un lien lorsque des agents sont présents. Cela inclut l'hébergement de terrain de jeu et les adresses d'agent déployé.
Configuration	Récapitulatif de la forme de calcul des répliques dans AI Compute, par exemple 1 OCPU, 16 Go ou 2 OCPU, 32 Go.
Mis à jour par / Mis à jour le / Créé le	Audit des informations relatives aux dernières mises à jour et heures de création.
Menu Action (...)	Ouvrez les actions propres à la ressource pour la ligne sélectionnée.

Remarques :

Une coche verte indique une ressource active. Un spinner indique une opération en cours telle que la création ou la mise à jour. Attendez qu'une ressource soit active avant de compter sur elle pour le travail de production.

Cliquez sur le nom d'un calcul d'IA dans l'onglet Calcul d'IA pour afficher des informations détaillées sur ce calcul d'IA. La vue de calcul AI comporte quatre onglets : Détails, Agents déployés, Mesures et Droits d'accès.

Onglet Détails

L'onglet Détails récapitule la forme et le stockage configurés pour chaque réplique du calcul AI. AMD est utilisé pour tous les calculs d'IA.

Elément de l'onglet Détails	Description
Forme du pilote	Forme de GPU sélectionnée pour le calcul AI. AMD est la forme de pilote pour tous les calculs AI.
OCPU	Nombre d'OCPU sélectionnées pour le calcul AI.
Mémoire (Go)	Mémoire de calcul AI en Go.
Volume de blocs	Taille de volume de blocs du calcul AI en Go.

Onglet Agents déployés

L'onglet Agents déployés répertorie les agents hébergés dans la ressource AI Compute. Si un agent n'est pas déployé, le calcul d'IA héberge l'expérience de terrain de jeu nécessaire au développement et aux tests itératifs. Si l'agent est déployé, l'IA calculée héberge l'adresse de déploiement de l'agent pour les charges globales de production.

Page de calcul AI ouverte avec l'onglet Agents sélectionné.

Elément de l'onglet Agents déployés	Description
Filtrer par nom d'agent	Recherchez la liste des agents associés.
Nom d'agent	Nom de l'agent associé à la ressource de calcul.
Mode de rédaction	Comment l'agent a été créé. Valeurs Visual ou Code.
Déploiement	Etat de déploiement. Les agents hébergés dans le calcul AI peuvent être dans un état Playground de test ou dans un état Deployed.
Créé le / Mis à jour le / Mis à jour par	Création et mise à jour des métadonnées pour l'agent.

Onglet Mesures

Utilisez l'onglet Mesures pour vérifier l'utilisation de la CPU, de la mémoire et du réseau au fil du temps. Cela est utile lorsque vous décidez de faire évoluer les répliques, les OCPU ou la mémoire vers le haut ou le bas. Aucun temps d'inactivité n'est observé lors d'une opération de redimensionnement/d'intégration d'IA.

Page Calcul IA ouverte avec l'onglet Utilisation du calcul sélectionné.

Remarques :

Chaque série temporelle correspond à une réplique différente. Par exemple, si vous créez un calcul AI avec deux répliques, deux séries temporelles seront affichées comme le montre la capture d'écran ci-dessus.

Elément de l'onglet Utilisation du calcul	Description
Filtres appliqués	Choisissez les dates/heures de début et de fin de la vue d'utilisation.
Afficher	Choisissez la mesure. Les options disponibles sont les suivantes : Utilisation de l'UC Fenêtre Utilisation de la mémoire Octets reçus par le réseau Octets transmis par le réseau
Période	Choisissez entre une période personnalisée ou les 7 derniers jours.
ID de la réplique	Filtrer les mesures sur un ID de réplique spécifique ou afficher toutes les répliques de calcul.
d'agrégation	Choisissez l'intervalle d'agrégation du graphique. Les options sont Auto, 1min, 5min, 15min, 30min et 60min.

Onglet Autorisations

L'onglet Droit d'accès fournit une table de tous les principaux disposant des droits d'accès à ce calcul AI. Utilisez cet onglet pour ajouter des principaux, modifier le niveau d'autorisation ou modifier les autorisations.

Elément de l'onglet Autorisations	Description
Nom du principal	Nom du principal ou du rôle.
Type de principal	Type de principal. USER ou ROLE.
Droit	Niveau d'autorisation.
Sera hérité	Si les droits d'accès accordés pour un objet parent accordent des droits d'accès aux objets contenus.

Création d'un calcul AI

Vous pouvez créer des clusters de calcul d'IA pour exécuter des agents d'IA dans votre Oracle AI Data Platform.

Sur la page d'accueil, accédez à votre espace de travail.
Cliquez sur Créer, puis sur Calcul AI.
Indiquez un nom et une description pour le calcul AI.
Définissez le nombre d'OCPU dans chaque réplique. Vous pouvez choisir 1, 2, 4, 8, 16, 32 ou 64 OCPU.

Définissez la mémoire (en Go) par réplique. La plage de mémoire autorisée varie en fonction du nombre d'OCPU :

OCPU	mémoire,
1 OCPU,	16 ou 32 Go
2 OCPU	16, 32 ou 64 Go
4 OCPU	32, 64 ou 128 Go
8 OCPU	32, 64, 128 ou 256 Go
16 OCPU	64, 128, 256, ou 512 Go
32 OCPU	128, 256 ou 512 Go
64 OCPU	256, 512 ou 1024 Go

Pour activer le redimensionnement automatique horizontal, activez Redimensionnement automatique, puis configurez les champs suivants :
- Nombre minimal de répliques : définissez le nombre minimal de répliques affectées au cluster de calcul AI.
- Nombre maximal de répliques : définissez le nombre maximal de répliques affectées au cluster de calcul AI. Les événements de redimensionnement se produisent jusqu'à ce que le nombre de répliques atteigne le nombre maximal de répliques.
- Conditions de redimensionnement : définissez les seuils pour les demandes d'API par seconde (nombre de demandes par seconde pour tous les agents hébergés sur le calcul AI) et l'utilisation moyenne de l'UC dans les répliques (utilisation moyenne de l'UC dans toutes les répliques ; la valeur par défaut est de 80 %).
  Les conditions de redimensionnement utilisent une logique qui lance une action pour ajouter ou enlever une réplique du calcul AI. Lorsque la valeur est True, la condition de redimensionnement lance une action de redimensionnement et une réplique de calcul supplémentaire est ajoutée. Une action d'augmentation est déclenchée lorsque les demandes d'API par seconde dépassent une valeur de seuil ou lorsque l'utilisation moyenne de l'UC dans toutes les répliques dépasse une valeur de seuil.
- Période de ralentissement : définissez la période après une action de redimensionnement automatique au cours de laquelle le redimensionnement automatique n'effectue aucune autre action. Cela permet d'éviter des actions de redimensionnement excessives sur une courte période. La valeur minimale est de 5 minutes.
Si vous avez laissé le redimensionnement automatique désactivé, définissez le nombre de répliques de calcul. Les répliques font évoluer le pool de calcul. Chaque réplique héberge une copie de tous les agents hébergés dans le calcul AI.

Remarques :
Le nombre maximal de répliques est de 10. Contactez le représentant Oracle si vous devez augmenter la limite de répliques.
Vérifiez les unités AIDP correspondantes que la configuration de calcul AI coûte par heure.
Cliquez sur Créer. La nouvelle ressource apparaît dans la liste à l'état Création. L'état devient Actif une fois le provisionnement terminé.

Création d'un calcul AI pour un agent

Vous pouvez créer un cluster de calcul AI directement à partir de l'interface d'agent et l'attacher immédiatement.

Pour plus d'informations, reportez-vous à Calcul AI.

Sur la page d'accueil, accédez à votre agent.
Cliquez sur Compute, puis sur Créer un calcul d'IA.
Indiquez un nom et une description pour le calcul AI.
Sélectionnez le nombre d'OCPU et la taille de mémoire pour votre calcul AI.
Cliquez sur Créer.

Attachement d'un calcul AI existant à un agent

Vous pouvez attacher un cluster de calcul AI que vous avez précédemment créé à un agent sur lequel vous disposez au moins des droits d'accès USE.

Sur la page d'accueil, accédez à votre agent.
Cliquez sur Compute, puis sur Attacher à AI Compute.
Cliquez sur le calcul d'IA que vous voulez utiliser dans la liste.
L'agent affiche AIcompute : (ClusterName) en cours d'exécution lorsqu'il a été attaché. Cette opération peut prendre plusieurs minutes.

Modification d'un calcul AI

Vous pouvez modifier les paramètres de configuration d'un cluster de calcul AI via l'opération de modification.

La modification de l'OCPU ou de la mémoire pour votre calcul AI peut prendre plusieurs minutes. Vous pouvez également interrompre les requêtes à longue durée d'exécution dans votre agent.

Sur la page d'accueil, accédez à votre espace de travail.
Cliquez sur Calcul, puis sur l'onglet Calcul IA.
En regard du calcul d'IA à modifier, cliquez sur Actions, puis sur Modifier. Vous pouvez également cliquer sur le nom du calcul d'IA, puis sur Modifier en haut à droite.
Modifiez le nom, la description, le nombre de répliques de calcul, le nombre d'OCPU par réplique et la mémoire par réplique. Les modifications apportées au calcul d'IA sont effectuées sans temps d'arrêt.
Cliquez sur Mettre à jour. L'état de calcul de l'IA est Mise à jour pendant que la mise à jour est en cours.

Détachement d'un agent d'AI Compute

Vous pouvez détacher un agent d'un calcul d'IA. Le détachement du calcul AI enlève le code d'agent exécuté sur le calcul attaché et empêche les tests.

Remarques :

Le détachement d'un agent du calcul AI ne supprime pas l'agent. Vous pouvez reprendre la création et le test de l'agent en l'attachant au même calcul d'IA ou à un calcul d'IA différent.

Sur la page d'accueil, accédez à votre agent.
Cliquez sur Compute, puis sur Détacher de AI Compute.

Suppression d'un calcul AI

Vous pouvez supprimer les clusters de calcul d'IA qui ne sont pas utilisés ou qui ne sont plus nécessaires.

Accédez à votre espace de travail, cliquez sur Compute, puis sur l'onglet Calcul AI.
En regard du calcul d'IA à supprimer, cliquez sur Actions, puis sur Supprimer.
Cliquez sur Supprimer.