Modèles Z.ai compatibles
Vous pouvez importer de grands modèles de langage à partir de seaux de stockage d'objets Hugging Face et OCI dans le service d'intelligence artificielle générative pour OCI, créer des points d'extrémité pour ces modèles et les utiliser dans le service d'intelligence artificielle générative.
Z.ai GLM
Le modèle Z.ai GLM-5.2-FP8 est optimisé pour le codage à long terme, les flux de travail agéntiques et le traitement de contexte volumineux efficace. Ce modèle texte-texte prend en charge un contexte de jeton 1M et est conçu pour les tâches de raisonnement et de codage à long contexte.
| ID modèle de visage Hugging | Capacité du modèle | Formes recommandées d'unité de grappe dédiée à l'IA |
|---|---|---|
| zai-org/GLM-5.2-FP8 | TEXTE_TO_TEXT |
|
Important
- Pour les modèles importés, vous pouvez utiliser la longueur de contexte natif spécifiée par le fournisseur de modèle. Toutefois, la longueur de contexte maximale en vigueur est limitée par la configuration matérielle sous-jacente que vous sélectionnez pour les grappes d'IA dédiées à l'hébergement dans l'IA générative OCI. Pour tirer pleinement parti de la longueur du contexte natif d'un modèle, vous devrez peut-être provisionner plus de ressources matérielles.
- Utilisez les modèles affinés uniquement s'ils correspondent à la version du transformateur du modèle de base compatible et ont un nombre de paramètres inférieur à ± 10 % de l'original.
- Pour le matériel disponible et les étapes de déploiement des modèles importés, voir Gestion des modèles importés.