Documentazione dell'infrastruttura Oracle Cloud

Sandbox in OCI Generative AI

Utilizza una sandbox per eseguire comandi di codice e shell in un'area di lavoro Linux gestita e temporanea con i propri file, processi e ambiente di rete.

Una sandbox offre all'applicazione o all'agente AI un ambiente di esecuzione che può creare su richiesta e gestire in base all'ID. Carica gli input, esegui i comandi, ispeziona i risultati e scarica i file di output. Oracle gestisce l'infrastruttura di base.

Utilizza sandbox per task quali il test del codice generato, la trasformazione dei dati, la produzione di report ed l'esecuzione di anteprime temporanee delle applicazioni. Impostare le risorse, l'accesso alla rete e la durata necessaria per ogni attività.

Come funzionano le sandbox

  1. Creare un progetto di intelligenza artificiale generativa con sandbox abilitate o abilitare sandbox in un progetto esistente.
  2. Selezionare la configurazione di rete in uscita del progetto e, facoltativamente, configurare i pool caldi.
  3. Creare una sandbox tramite l'interfaccia CLI o l'SDK OCI. Selezionare il runtime, la forma di computazione e la durata di scadenza.
  4. Attendere che la sandbox raggiunga RUNNING, quindi caricare i file ed eseguire i comandi.
  5. Scaricare i risultati o salvare uno snapshot del file system prima di arrestare la sandbox o di consentirne la scadenza.

È possibile riutilizzare l'ID di una sandbox in esecuzione in più chiamate per lavorare nella stessa area di lavoro. Ogni sandbox ha la sua vita. Il servizio termina l'esecuzione alla scadenza della sandbox. Utilizzare uno snapshot per creare una nuova sandbox dai file salvati; gli snapshot non conservano i processi o la memoria in esecuzione.

Progetti e piscine calde

Un progetto contiene la configurazione condivisa per le relative sandbox. Le sandbox nello stesso progetto utilizzano la configurazione di rete del progetto e l'accesso OCI concesso ai principal sandbox da tale progetto. Utilizzare progetti separati o autorizzazioni definite per requisiti di accesso diversi.

Un pool caldo prepara la capacità inattiva per le nuove richieste sandbox. Le piscine calde sono opzionali. Hanno una propria configurazione all'interno di un progetto.

Funzionalità agente correlato

Un'applicazione ospitata può coordinare un flusso di lavoro, creare sandbox per singoli task, raccogliere i relativi output e arrestare le sandbox. Mantieni lo stato del flusso di lavoro e i risultati finali nello storage permanente quando devono superare un runtime.

Funzionalità Utilizza per
Applicazioni ospitate Eseguire un'applicazione, un agente, un'API o un servizio strumenti distribuito.
Sandbox Controlla direttamente un'area di lavoro di esecuzione temporanea tramite operazioni di comando, file, snapshot e ciclo di vita.
API container Gestisce le risorse di esecuzione utilizzate dagli strumenti nelle interazioni API delle risposte OCI.

Utilizzo delle sandbox