Variables d'environnement de déploiement de modèle

Lorsque vous créez une ressource de déploiement de modèle, vous pouvez fournir des variables d'environnement personnalisées dans le cadre de la configuration par défaut. Ces variables d'environnement peuvent être utilisées dans le conteneur lors de l'exécution.

Contrainte de format

  • La clé doit comporter moins de 32 caractères.
  • La clé doit contenir uniquement des lettres, des chiffres et un trait de soulignement (_).
  • La clé doit commencer par une lettre.
  • La clé doit comporter au moins 2 caractères.
  • La clé ne doit pas se terminer par un trait de soulignement. Par exemple, TEST_.
  • La clé, si elle est ajoutée, ne peut pas être vide. La valeur peut être vide.
  • La valeur peut être n'importe quel caractère.
  • La clé ne peut pas être une variable d'environnement fournie par le service.
  • Si des ports sont transmis en tant que variable d'environnement, limitez-les entre 1024 et 65535 et excluez également les ports 24224, 8446, 8447.

Contrainte de taille

Les valeurs individuelles n'ont pas de limites de taille spécifiques. Les variables d'environnement globales, y compris les paires clé/valeur, sont limitées à 2048 octets. Si la taille est supérieure à 2048 octets, indiquez les variables d'environnement à l'aide de l'artefact de modèle ou utilisez OCI Object Storage pour extraire les données.

Variables d'environnement fournies par le service

Le service dispose de variables d'environnement réservées dans le conteneur lors de l'exécution pour la journalisation ou une autre utilisation fonctionnelle. Ces variables d'environnement ne peuvent pas être remplacées.

Nom Conteneur personnalisé Conteneur par défaut
MODEL_DEPLOYMENT_OCID OCID de ressource de déploiement de modèle. OCID de ressource de déploiement de modèle.
MODEL_SERVING_PYTHON_VERSION Rien. Version Python de runtime.yaml utilisée pour le service de modèle.
TENANCY_OCID OCID de location. OCID de location.
CONTAINER_CUSTOM_IMAGE Chemin d'image de conteneur (avec balise ou condensé) fourni via l'objet de configuration d'environnement d'API. Rien.

Variables d'environnement d'application

Ces variables d'environnement contrôlent de manière fonctionnelle la façon dont le déploiement de modèle est créé et peuvent être remplacées ou configurées par les clients en transmettant la configuration par défaut.

Nom Conteneur personnalisé Conteneur géré
WEB_CONCURRENCY En fonction de la mémoire disponible et de la taille de l'artefact de modèle, une méthode heuristique calcule le nombre de processus actifs à exécuter dans le conteneur personnalisé. Les clients peuvent également remplacer la variable ou transmettre une variable de simultanéité personnalisée si nécessaire. En fonction de la mémoire disponible et de la taille de l'artefact de modèle, une méthode heuristique calcule le nombre de processus actifs à exécuter dans le conteneur personnalisé. Les clients peuvent également remplacer la variable ou transmettre une variable de simultanéité personnalisée si nécessaire.
CONTAINER_TYPE Type de conteneur à savoir TRITON. Seul TRITON est pris en charge. Rien.