Configuration de bâti d'extension GPU

Private Cloud Appliance avec expansion GPU offre une plateforme évolutive pour créer des applications intensives en intelligence artificielle et en graphisme dans un environnement en nuage privé.

Il est conçu pour alimenter la prochaine génération de charges de travail de centre de données, notamment :

• Inférence de l'IA générative : inférence en temps réel pour les pipelines d'IA générative multimodèles (texte, image, audio, vidéo)

• Formation sur le LLM et réglage fin : performance accélérée pour le réglage fin des LLM moyens et la formation des petits LLM avec le moteur de transformateur de NVIDIA et la prise en charge de FP8

• Applications graphiques et VDI intensives : 3D graphiques et flux de travail de rendu avec les fonctionnalités RTX et Ray Tracing de NVIDIA

• Jumeaux numériques utilisant NVIDIA Omniverse : développer et exploiter des flux de travail complexes de numérisation industrielle 3D

• Diffusion multimédia : augmentation de la densité d'encodage/décodage et prise en charge de AV1 pour la diffusion vidéo en continu 4K

• Calcul de haute performance : charges de travail d'analyse de données scientifiques et de simulation avec prise en charge de FP32

Les extensions GPU nécessitent la version 3.0.2-b1325160 (mars 2025) ou une version plus récente du logiciel du boîtier. Un bâti d'extension de GPU X10-2c contient de 1 à 6 noeuds de serveur de calcul X10-2c GPU L40S. Pour s'intégrer à l'infrastructure réseau physique du bâti de base, deux commutateurs feuille Cisco Nexus 9336C-FX2 et un commutateur de gestion Cisco Nexus 9348GC-FXP sont installés. Ce bâti n'inclut pas le matériel de stockage.