Variabili di ambiente di distribuzione modello
Quando si crea una risorsa di distribuzione del modello, è possibile fornire variabili di ambiente personalizzate come parte della configurazione predefinita. Queste variabili di ambiente sono disponibili per l'uso all'interno del contenitore in runtime.
Vincolo formato
- La chiave deve contenere meno di 32 caratteri.
- La chiave deve contenere solo lettere, cifre e caratteri di sottolineatura (_).
- La chiave deve iniziare con una lettera.
- La chiave deve contenere almeno 2 caratteri.
- La chiave non deve terminare con un carattere di sottolineatura. Ad esempio TEST_.
- La chiave, se aggiunta, non può essere vuota. Il valore può essere vuoto.
- Il valore può essere qualsiasi carattere.
- La chiave non può essere una variabile di ambiente fornita dal servizio.
- Se le porte vengono passate come variabile di ambiente, limitarle tra 1024 e 65535 ed escludere anche le porte 24224, 8446, 8447.
Vincolo di dimensione
I singoli valori non hanno limiti di dimensione specifici. Le variabili di ambiente complessive, incluse le coppie di valori chiave, sono limitate a 2048 byte. Se la dimensione supera i 2048 byte, specificare le variabili di ambiente utilizzando l'artifact modello o utilizzare OCI Object Storage per estrarre i dati.
Variabili d'ambiente fornite dal servizio
Il servizio dispone di variabili di ambiente riservate all'interno del contenitore in fase di runtime per il log o altri usi funzionali. Impossibile eseguire l'override di queste variabili di ambiente.
| Nome | Contenitore personalizzato | Contenitore predefinito |
|---|---|---|
MODEL_DEPLOYMENT_OCID |
OCID risorsa di distribuzione modello. | OCID risorsa di distribuzione modello. |
MODEL_SERVING_PYTHON_VERSION |
Nessuno. | Versione Python da runtime.yaml utilizzata per servire i modelli. |
TENANCY_OCID |
OCID tenancy. | OCID tenancy. |
CONTAINER_CUSTOM_IMAGE |
Percorso dell'immagine del contenitore (con tag o digest) fornito tramite l'oggetto di configurazione dell'ambiente API. | Nessuno. |
Variabili di ambiente dell'applicazione
Queste variabili di ambiente controllano in modo funzionale la modalità di creazione della distribuzione del modello e possono essere sostituite o configurate dai clienti passando la configurazione predefinita.
| Nome | Contenitore personalizzato | Container gestito |
|---|---|---|
WEB_CONCURRENCY |
In base alla memoria disponibile e alle dimensioni dell'artifact modello, un metodo euristico calcola il numero di lavoratori necessari per l'esecuzione all'interno del contenitore personalizzato. I clienti possono inoltre sostituire la variabile o passare una variabile di concorrenza personalizzata in base alle esigenze. | In base alla memoria disponibile e alle dimensioni dell'artifact modello, un metodo euristico calcola il numero di lavoratori necessari per l'esecuzione all'interno del contenitore personalizzato. I clienti possono inoltre sostituire la variabile o passare una variabile di concorrenza personalizzata in base alle esigenze. |
CONTAINER_TYPE |
Tipo di contenitore: TRITON. È supportato solo TRITON. | Nessuno. |