Exécution d'applications sur des noeuds basés sur GPU

Découvrez comment exécuter des applications sur des noeuds de processus actif basés sur GPU dans des clusters créés à l'aide de Kubernetes Engine (OKE).

Pour exécuter des applications sur des noeuds de processus actif basés sur un GPU, vous sélectionnez une forme de GPU et une image de GPU compatible soit pour les noeuds gérés dans un pool de noeuds gérés, soit pour les noeuds autogérés.

La forme détermine le nombre d'UC et la quantité de mémoire alloués à chaque noeud. Parmi les formes que vous pouvez sélectionner figurent les formes GPU (Graphics Processing Unit), avec les GPU eux-mêmes sur les cartes graphiques NVIDIA. Initialement destinés à la manipulation d'images et de graphiques, les GPU sont très efficaces pour traiter de grands blocs de données en parallèle. Cette fonctionnalité fait des GPU une bonne option lors du déploiement d'applications gourmandes en données. Pour plus d'informations sur les formes GPU à sélectionner pour les noeuds de processus actif, reportez-vous à Formes GPU prises en charge par Kubernetes Engine (OKE).

La fonctionnalité de calcul parallèle massive des GPU NVIDIA est accessible à l'aide des bibliothèques CUDA (Compute Unified Device Architecture). Différents GPU (par exemple, NVIDIA® Tesla VoltaTM, NVIDIA® Tesla PascalTM) nécessitent des versions spécifiques des bibliothèques CUDA. Lorsque vous sélectionnez une forme de GPU pour un pool de noeuds gérés ou un noeud autogéré, vous devez également sélectionner une image de GPU Oracle Linux compatible dont les bibliothèques CUDA sont préinstallées. Les noms des images compatibles incluent 'GPU'.

Vous pouvez sélectionner une forme de GPU et une image compatible pour les noeuds de processus actif d'un cluster de l'une des manières suivantes :

• Noeuds gérés : utilisez Kubernetes Engine pour créer un pool de noeuds gérés et sélectionnez une forme de GPU (et une image compatible) pour le pool de noeuds. Tous les noeuds de processus actif du pool de noeuds gérés ont la forme GPU. Pour plus d'informations, reportez-vous à Création d'un pool de noeuds gérés.
• Noeuds autogérés : utilisez le service Compute pour créer une instance de calcul (ou un pool d'instances) afin d'héberger un noeud autogéré, sélectionnez une forme de GPU (et une image compatible) pour l'instance et indiquez le cluster Kubernetes auquel ajouter l'instance. Vous pouvez uniquement ajouter des noeuds autogérés à des clusters améliorés. Pour plus d'informations, reportez-vous à Utilisation des noeuds autogérés.

Lorsque vous déployez une application sur un cluster que vous avez créé avec Kubernetes Engine, vous devez indiquer dans la spécification de pod le nombre de ressources GPU requises. Pour déployer l'application, le planificateur de kube détermine quel noeud dispose des ressources nécessaires. Lorsqu'un pod d'application doit être exécuté sur un noeud avec une forme de GPU, les éléments suivants sont montés dans le pod :

• le nombre demandé de périphériques GPU
• la bibliothèque CUDA du noeud

L'application est effectivement isolée des différents types de GPU. Par conséquent, les bibliothèques CUDA pour différents GPU n'ont pas besoin d'être incluses dans le conteneur d'application, ce qui garantit que le conteneur reste portable.

Tenez compte des éléments suivants :

• Vous pouvez indiquer des formes GPU pour les pools de noeuds gérés dans les clusters exécutant Kubernetes version 1.19.7 ou ultérieure. N'indiquez pas de forme GPU pour les pools de noeuds gérés dans les clusters exécutant des versions antérieures de Kubernetes.
• Vous pouvez utiliser la console, l'API ou l'interface de ligne de commande pour indiquer une image de GPU à utiliser sur une forme de GPU. Vous pouvez également utiliser l'API ou l'interface de ligne de commande pour indiquer une image non GPU à utiliser sur une forme de GPU.
• Après avoir créé un pool de noeuds gérés avec une forme GPU, vous ne pouvez pas modifier le pool de noeuds pour qu'il ait une forme non GPU. De même, vous ne pouvez pas modifier un pool de noeuds gérés avec une forme non GPU pour avoir une forme GPU.
• Les formes GPU ne sont pas nécessairement disponibles dans tous les domaines de disponibilité.
• Vous pouvez spécifier des formes GPU pour les pools de noeuds gérés dans des clusters natifs VCN (c'est-à-dire des clusters dont les adresses d'API Kubernetes sont hébergées dans un sous-réseau de votre VCN). Ne spécifiez pas de forme GPU pour les pools de noeuds gérés dans un cluster si l'adresse d'API Kubernetes du cluster n'est pas intégrée à votre VCN. Reportez-vous à Migration vers des clusters natifs VCN.
• Vous pouvez exécuter des applications sur des noeuds de processus actif GPU dans des pools de noeuds gérés, mais pas dans des pools de noeuds virtuels.

apiVersion: v1
kind: Pod
metadata:
  name: test-with-gpu-workload
spec:
  restartPolicy: OnFailure
  containers:
    - name: cuda-vector-add
      image: k8s.gcr.io/cuda-vector-add:v0.1
      resources:
        limits:
          nvidia.com/gpu: 1

apiVersion: v1
kind: Pod
metadata:
  name: test-with-non-gpu-workload
spec:
  restartPolicy: OnFailure
  containers:
    - name: test-with-non-gpu-workload
      image: "oraclelinux:8"