Documentation sur Oracle Cloud Infrastructure

Variables d'environnement pour le déploiement de modèle

Lorsque vous créez une ressource de déploiement de modèle, vous pouvez fournir des variables d'environnement personnalisées dans le cadre de la configuration par défaut. Ces variables d'environnement peuvent être utilisées dans le conteneur lors de l'exécution.

Contrainte de format

  • La clé doit comporter moins de 32 caractères.
  • La clé doit contenir uniquement des lettres, des chiffres et des traits de soulignement (_).
  • La clé doit commencer par une lettre.
  • La clé ne peut pas contenir plus de 2 caractères.
  • La clé ne doit pas se terminer par un trait de soulignement. Par exemple, TEST_.
  • La clé, si elle est ajoutée, ne peut pas être vide. La valeur peut être vide.
  • La valeur peut être n'importe quel caractère.
  • La clé ne peut pas être une variable d'environnement fournie par le service.
  • Si les ports sont transmis en tant que variable d'environnement, limitez-les entre 1024 et 65535 et excluez également les ports 24224, 8446 et 8447.

Contrainte de taille

Les valeurs individuelles n'ont pas de limites de taille spécifiques. Les variables d'environnement globales, y compris les paires clé-valeur, sont limitées à 2048 octets. Si la taille est supérieure à 2048 octets, spécifiez les variables d'environnement à l'aide de l'artefact de modèle ou utilisez le service de stockage d'objets pour OCI pour extraire les données.

Variables d'environnement fournies par le service

Le service a réservé des variables d'environnement dans le conteneur lors de l'exécution pour la journalisation ou toute autre utilisation fonctionnelle. Ces variables d'environnement ne peuvent pas être remplacées.

Nom Conteneur personnalisé Conteneur par défaut
MODEL_DEPLOYMENT_OCID OCID de la ressource de déploiement de modèle. OCID de la ressource de déploiement de modèle.
MODEL_SERVING_PYTHON_VERSION Aucun. Version Python de runtime.yaml utilisée pour le service de modèles.
TENANCY_OCID OCID de la location. OCID de la location.
CONTAINER_CUSTOM_IMAGE Chemin de l'image de conteneur (avec marqueur ou condensé) fourni au moyen de l'objet de configuration de l'environnement d'API. Aucun.

Variables d'environnement d'application

Ces variables d'environnement contrôlent fonctionnellement la façon dont le déploiement de modèle est créé et peuvent être remplacées ou configurées par les clients en transmettant la configuration par défaut.

Nom Conteneur personnalisé Conteneur géré
WEB_CONCURRENCY En fonction de la mémoire disponible et de la taille de l'artefact de modèle, une méthode heuristique calcule le nombre de programmes à exécuter dans le conteneur personnalisé. Les clients peuvent également remplacer la variable ou transmettre une variable d'accès simultané personnalisée, au besoin. En fonction de la mémoire disponible et de la taille de l'artefact de modèle, une méthode heuristique calcule le nombre de programmes à exécuter dans le conteneur personnalisé. Les clients peuvent également remplacer la variable ou transmettre une variable d'accès simultané personnalisée, au besoin.
CONTAINER_TYPE Type de conteneur : TRITON. Seul TRITON est pris en charge. Aucun.