Variables d'environnement de déploiement de modèle
Lorsque vous créez une ressource de déploiement de modèle, vous pouvez fournir des variables d'environnement personnalisées dans le cadre de la configuration par défaut. Ces variables d'environnement peuvent être utilisées dans le conteneur lors de l'exécution.
Contrainte de format
- La clé doit comporter moins de 32 caractères.
- La clé doit contenir uniquement des lettres, des chiffres et un trait de soulignement (_).
- La clé doit commencer par une lettre.
- La clé doit comporter au moins 2 caractères.
- La clé ne doit pas se terminer par un trait de soulignement. Par exemple, TEST_.
- La clé, si elle est ajoutée, ne peut pas être vide. La valeur peut être vide.
- La valeur peut être n'importe quel caractère.
- La clé ne peut pas être une variable d'environnement fournie par le service.
- Si des ports sont transmis en tant que variable d'environnement, limitez-les entre 1024 et 65535 et excluez également les ports 24224, 8446, 8447.
Contrainte de taille
Les valeurs individuelles n'ont pas de limites de taille spécifiques. Les variables d'environnement globales, y compris les paires clé/valeur, sont limitées à 2048 octets. Si la taille est supérieure à 2048 octets, indiquez les variables d'environnement à l'aide de l'artefact de modèle ou utilisez OCI Object Storage pour extraire les données.
Variables d'environnement fournies par le service
Le service dispose de variables d'environnement réservées dans le conteneur lors de l'exécution pour la journalisation ou une autre utilisation fonctionnelle. Ces variables d'environnement ne peuvent pas être remplacées.
Nom | Conteneur personnalisé | Conteneur par défaut |
---|---|---|
MODEL_DEPLOYMENT_OCID |
OCID de ressource de déploiement de modèle. | OCID de ressource de déploiement de modèle. |
MODEL_SERVING_PYTHON_VERSION |
Rien. | Version Python de runtime.yaml utilisée pour le service de modèle. |
TENANCY_OCID |
OCID de location. | OCID de location. |
CONTAINER_CUSTOM_IMAGE |
Chemin d'image de conteneur (avec balise ou condensé) fourni via l'objet de configuration d'environnement d'API. | Rien. |
Variables d'environnement d'application
Ces variables d'environnement contrôlent de manière fonctionnelle la façon dont le déploiement de modèle est créé et peuvent être remplacées ou configurées par les clients en transmettant la configuration par défaut.
Nom | Conteneur personnalisé | Conteneur géré |
---|---|---|
WEB_CONCURRENCY |
En fonction de la mémoire disponible et de la taille de l'artefact de modèle, une méthode heuristique calcule le nombre de processus actifs à exécuter dans le conteneur personnalisé. Les clients peuvent également remplacer la variable ou transmettre une variable de simultanéité personnalisée si nécessaire. | En fonction de la mémoire disponible et de la taille de l'artefact de modèle, une méthode heuristique calcule le nombre de processus actifs à exécuter dans le conteneur personnalisé. Les clients peuvent également remplacer la variable ou transmettre une variable de simultanéité personnalisée si nécessaire. |
CONTAINER_TYPE |
Type de conteneur à savoir TRITON. Seul TRITON est pris en charge. | Rien. |