Documentazione dell'infrastruttura Oracle Cloud

Creazione di una implementazione

Creare una distribuzione nel servizio OCI Generative AI per distribuire un contenitore agente in grado di servire le richieste client per un'applicazione.

Quando si crea una distribuzione, si seleziona un'immagine contenitore e una tag immagine. È inoltre possibile attivare la distribuzione durante la creazione per renderla la versione in esecuzione dell'applicazione.

Questo task descrive come creare una distribuzione utilizzando la console di Oracle Cloud.

Uso e scala delle risorse

L'uso della distribuzione dipende dalle risorse che eseguono la distribuzione attiva. Ogni replica in esecuzione utilizza le risorse di computazione e qualsiasi servizio OCI gestito abilitato per l'applicazione potrebbe creare un altro uso.

Le impostazioni dell'applicazione controllano la scalabilità delle distribuzioni. Queste impostazioni includono il numero minimo di repliche, il numero massimo di repliche e le metriche di ridimensionamento automatico. Vedere Ridimensionamento.

Una distribuzione viene eseguita come una o più repliche. Ogni replica in esecuzione utilizza l'allocazione di computazione definita dal servizio per l'applicazione. Quando il ridimensionamento automatico aggiunge repliche, l'uso di Compute aumenta in base al numero di repliche in esecuzione.

Ad esempio, se una distribuzione attiva viene ridimensionata da una replica a tre repliche, utilizza tre repliche di computazione per il tempo di esecuzione di tali repliche.

Suggerimento

Per stimare l'uso di Compute, utilizzare la formula seguente:

average running replicas x runtime hours x Compute allocation per replica

Il numero medio di repliche in esecuzione dipende dal numero minimo di repliche dell'applicazione, dal numero massimo di repliche, dal volume di traffico e dalle impostazioni di ridimensionamento automatico.

Per limitare lo scale-out, impostare un numero massimo di repliche più piccolo. Per disabilitare il ridimensionamento automatico, impostare il numero minimo di repliche e il numero massimo di repliche sullo stesso valore.

Lo storage gestito, la cache, il database, il log, la rete e altri servizi OCI abilitati potrebbero generare un utilizzo separato. Stimare l'uso di tali risorse separatamente dal dashboard Compute di distribuzione.

Una stima mensile non è un impegno. L'uso effettivo dipende dal numero di repliche eseguite e dalla durata dell'esecuzione.

Passi

  1. Nella pagina elenco Applicazioni, selezionare l'applicazione per la quale si desidera creare una distribuzione. Per assistenza nella ricerca della pagina elenco, vedere Elenco delle applicazioni.
  2. Nella pagina dei dettagli dell'applicazione, selezionare la scheda Distribuzioni.
  3. Selezionare Crea distribuzione.
  4. Selezionare le seguenti informazioni sull'immagine del contenitore.
    • compartimento repository
    • repository
    • tag versione
  5. (Facoltativo) Per rendere questa distribuzione la versione in esecuzione per l'applicazione, abilitare Distribuisci e attiva.

    Può essere attiva una sola distribuzione alla volta. Quando si attiva una distribuzione, la distribuzione attiva precedente diventa inattiva.

  6. Selezionare Crea distribuzione.
    Nota

    Prima di utilizzare la distribuzione, attendere che lo stato sia Attivo e che il contenitore sia attivo e pronto a soddisfare le richieste.

Suggerimento

Dopo aver creato una distribuzione, è possibile visualizzarne i dettagli ed eseguire altri task, ad esempio l'attivazione, la copia del relativo OCID o l'eliminazione. Per accedere a questi task, utilizzare il menu Azioni (tre punti) nella console. Per ulteriori informazioni, vedere Elenca distribuzioni.