Computazione AI

In questo capitolo viene descritto l'uso di risorse di computazione specializzate per alimentare gli agenti AI in Oracle AI Data Platform.

Un cluster di calcolo AI ti consente di ospitare gli agenti nelle aree di lavoro di AI Data Platform. I calcoli AI possono essere collegati agli agenti per eseguire l'esperienza di gioco e ospitare gli agenti distribuiti per i carichi di lavoro di produzione.

Dove trovare la computazione AI

Puoi gestire la computazione AI dalla pagina Compute, accessibile dal riquadro di navigazione a sinistra nella piattaforma dati AI. Fare clic sulla scheda Computazione AI per visualizzare i cluster di computazione AI disponibili nell'area di lavoro.

La scheda Computazione AI è la pagina di arrivo principale per le risorse di calcolo AI nell'area di lavoro attualmente selezionata. Fornisce azioni tabella, filtri, ordinamento e informazioni sullo stato.

Colonna o controllo	Scopo
Filter	Cercare una risorsa nella tabella in base al nome o al testo visibile.
Somma (+)	Avvia la creazione di una nuova computazione AI.
Elimina	Rimuovi calcoli AI selezionati.
Nome calcolo AI	Nome della risorsa di computazione. Fare clic sul nome di calcolo AI per aprire la pagina dei dettagli della risorsa.
Condizione	Stato corrente del ciclo di vita, ad esempio Creazione, Attivo o Aggiornamento.
Numero di replice	Numero di repliche di computazione associate alla computazione AI. Se si seleziona un criterio di scala automatica per la computazione, vengono elencati il numero minimo e massimo di repliche.
Numero di operatori	Numero di agenti ospitati nella computazione AI. Il conteggio viene visualizzato come collegamento quando sono presenti agenti. Ciò include l'hosting del parco giochi e gli endpoint degli agenti distribuiti.
Configurazione	Riepilogo della forma di computazione delle repliche nella computazione AI, ad esempio 1 OCPU, 16 GB o 2 OCPU, 32 GB.
Aggiornato da / Aggiornato il / Creato il	Informazioni di audit per l'aggiornamento e la creazione più recenti.
Menu Azione (...)	Aprire azioni specifiche della risorsa per la riga selezionata.

Nota

Un segno di spunta verde indica una risorsa attiva. Un spinner indica un'operazione in corso, ad esempio Creazione o Aggiornamento. Attendere che una risorsa sia attiva prima di fare affidamento su di essa per il lavoro di produzione.

Fare clic sul nome di una computazione AI nella scheda Computazione AI consente di visualizzare informazioni dettagliate su tale computazione AI. La vista Calcolo AI dispone di quattro schede: Dettagli, Agenti distribuiti, Metriche e Autorizzazioni.

Scheda Dettagli

La scheda Dettagli riepiloga la forma e lo storage configurati per ogni replica della computazione AI. AMD viene utilizzato per tutte le elaborazioni AI.

Elemento scheda Dettagli	Descrizione
Forma driver	Forma GPU selezionata per la computazione AI. AMD è la forma del driver per tutta la computazione AI.
OCPU	Numero selezionato di OCPU per la computazione AI.
Memoria (GB)	Memoria di calcolo AI in GB.
Volume a blocchi	La dimensione del volume a blocchi della computazione AI in GB.

Scheda Agenti distribuiti

La scheda Agenti distribuiti elenca gli agenti ospitati nella risorsa di computazione AI. Se un agente non viene distribuito, la computazione AI ospita l'esperienza di gioco necessaria per lo sviluppo e il test iterativi. Se l'agente viene distribuito, l'intelligenza artificiale calcolata ospita l'endpoint di distribuzione dell'agente per i carichi di lavoro di produzione.

Elemento scheda Agenti distribuiti	Descrizione
Filtra per nome agente	Cercare la lista di agenti associata.
Nome agente	Nome dell'agente associato alla risorsa di computazione.
Modalità di redazione	Modalità di creazione dell'agente. Valori di Visual o Code.
Distribuzione	Stato di distribuzione. Gli agenti ospitati nella computazione AI possono trovarsi in uno stato Playground o Distribuito.
Data creazione/aggiornamento in data/aggiornamento di	Creazione e aggiornamento dei metadati per l'agente.

Scheda Metriche

Utilizzare la scheda Metriche per esaminare la CPU, la memoria e l'utilizzo della rete nel tempo. Ciò è utile quando si decide se ridimensionare repliche, OCPU o memoria verso l'alto o verso il basso. Non sono previsti tempi di inattività durante un'operazione di computazione AI di scale out/in.

Nota

Ogni serie temporale corrisponde a una replica diversa. Ad esempio, se crei una computazione AI con due repliche, due serie temporali verranno visualizzate proprio come mostra lo screenshot precedente.

Elemento scheda Utilizzo calcolo	Descrizione
Filtri applicati	Scegliere la data/ora di inizio e di fine per la vista utilizzo.
Visualizza	Scegliere la metrica. Le opzioni sono le seguenti: Utilizzo CPU Utilizzo della memoria Byte ricevuti dalla rete Byte trasmessi dalla rete
Periodo di tempo	Scegliere tra un periodo di tempo personalizzato o gli ultimi 7 giorni.
ID replica	Filtrare le metriche in base a un ID replica specifico o mostrare tutte le repliche di computazione.
aggregazione	Scegliere l'intervallo di aggregazione per il grafico. Le opzioni sono Auto, 1min, 5 min, 15min, 30min e 60min.

Scheda Autorizzazioni

La scheda Autorizzazione fornisce una tabella di tutte le entità che dispongono dell'autorizzazione per questa computazione AI. Utilizzare questa scheda per aggiungere principal, modificare il livello di autorizzazione o altrimenti modificare le autorizzazioni.

Elemento scheda Autorizzazioni	Descrizione
Nome principal	Nome del principal o del ruolo.
Tipo di principal	Tipo di principal. UTENTE o RUOLO.
Autorizzazione	Livello di autorizzazione.
Sarà ereditato	Se le autorizzazioni concesse per un oggetto padre concedono autorizzazioni agli oggetti contenuti.

Creare una computazione AI

Puoi creare cluster di calcolo AI per eseguire agenti AI nella tua Oracle AI Data Platform.

1. Nella home page, andare all'area di lavoro.
2. Fare clic su Crea, quindi su Computazione AI.
3. Fornire un nome e un'indicazione per la computazione AI.
   
   
   
   
4. Impostare il numero di OCPU in ogni replica. Puoi scegliere 1, 2, 4, 8, 16, 32 o 64 OCPU.
5. Impostare la memoria (in GB) per replica. L'intervallo di memoria consentito varia in base al numero di OCPU:

   OCPU	Memoria
   1 OCPU	16 o 32 GB
   2 OCPU	16, 32 o 64 GB
   4 OCPU	32, 64 o 128 GB
   8 OCPU	32. 64, 128 o 256 GB
   16 OCPU	64, 128, 256, oppure 512 GB
   32 OCPU	128, 256 o 512 GB
   64 OCPU	256, 512 o 1024 GB

6. Per abilitare il ridimensionamento automatico orizzontale, attivare Scalabilità automatica, quindi configurare i seguenti campi:
   • Repliche minime: impostare il numero minimo di repliche assegnate al cluster di calcolo AI.
   • Numero massimo di repliche: impostare il numero massimo di repliche assegnate al cluster di calcolo AI. Gli eventi di scale out si verificano finché il numero di repliche non raggiunge il conteggio massimo di repliche.
   • Condizioni di scala: impostare le soglie per le richieste API al secondo (il numero di richieste al secondo in tutti gli agenti ospitati nella computazione AI) e l'utilizzo medio della CPU nelle repliche (l'utilizzo medio della CPU in tutte le repliche; il valore predefinito è 80%).

     Le condizioni di scala utilizzano una logica che avvia un'azione per aggiungere o rimuovere una replica dalla computazione AI. Se impostato su True, la condizione di ridimensionamento avvia un'azione di scale out e viene aggiunta un'altra replica di computazione. Un'azione di scale out viene attivata quando le richieste API al secondo superano un valore di soglia o quando l'utilizzo medio della CPU in tutte le repliche supera un valore di soglia.

   • Periodo di recupero: impostare il periodo di tempo dopo un'azione di ridimensionamento automatico durante il quale il ridimensionamento automatico non richiede ulteriori azioni. Ciò impedisce azioni di ridimensionamento eccessive in un breve lasso di tempo. L'intervallo minimo è di 5 minuti.
7. Se la scala automatica è stata disabilitata, impostare il numero di repliche di computazione. Le repliche ridimensionano il pool di computazione. Ogni replica ospita una copia di tutti gli agenti ospitati nella computazione AI.

   Nota

   Il numero massimo di repliche è 10. Se è necessario aumentare il limite di replica, contattare il rappresentante Oracle.
8. Rivedere le unità AIDP corrispondenti che la configurazione di calcolo AI costa all'ora.
9. Fare clic su Crea. La nuova risorsa viene visualizzata nell'elenco in stato Creazione. Lo stato diventa Attivo dopo il completamento del provisioning.

Creare una computazione AI per un agente

Puoi creare un nuovo cluster di computazione AI direttamente dall'interfaccia agente e collegarlo immediatamente.

Per ulteriori informazioni, consulta AI Compute.

1. Nella home page, andare all'agente.
2. Fare clic su Computa, quindi su Crea una nuova computazione AI.
3. Fornire nome e descrizione per la computazione AI.
4. Selezionare il numero di OCPU e la dimensione della memoria per la computazione AI.
5. Fare clic su Crea.

Collega una computazione AI esistente a un agente

È possibile collegare un cluster di computazione AI creato in precedenza a un agente per il quale si dispone almeno delle autorizzazioni USE.

1. Nella home page, andare all'agente.
2. Fare clic su Computa, quindi su Collega a AI Compute.
3. Fare clic sulla computazione AI che si desidera utilizzare dalla lista.
   L'agente mostra AIcompute: (ClusterName) in esecuzione quando è stato collegato correttamente. Questa operazione può richiedere fino a diversi minuti.

Modificare una computazione AI

È possibile modificare le impostazioni di configurazione di un cluster di computazione AI mediante l'operazione di modifica.

Il completamento della modifica della OCPU o della memoria per la computazione AI può richiedere diversi minuti. È inoltre possibile interrompere le query con tempi di esecuzione lunghi nell'agente.

1. Nella home page, andare all'area di lavoro.
2. Fai clic su Computazione, quindi fai clic sulla scheda Computazione AI.
3. Accanto alla computazione AI che si desidera modificare, fare clic su Azioni, quindi fare clic su Modifica. Puoi anche fare clic sul nome della computazione AI, quindi fare clic su Modifica in alto a destra.
   
   

   

   
   
   

   

   
   
4. Modificare il nome, la descrizione, il numero di repliche di computazione, il conteggio di OCPU per replica e la memoria per replica. Le modifiche alla computazione AI vengono completate senza tempi di inattività.
5. Fare clic su Aggiorna. Lo stato di computazione AI viene visualizzato come Aggiornamento mentre è in corso l'aggiornamento.

Scollega un agente dalla computazione AI

Puoi scollegare un agente da una computazione AI. Lo scollegamento della computazione AI rimuove il codice agente in esecuzione nella computazione collegata e impedisce il test.

Nota

Lo scollegamento di un agente dalla computazione AI non elimina l'agente. Puoi riprendere la creazione e il test dell'agente collegandolo alla stessa o a un'altra computazione AI.

1. Nella home page, andare all'agente.
2. Fare clic su Computa, quindi su Scollega da AI Compute.
   
   

   

   
   

Eliminare una computazione AI

Puoi eliminare i cluster di computazione AI inutilizzati o non più necessari.

1. Passare all'area di lavoro e fare clic su Computazione, quindi fare clic sulla scheda Computazione AI.
2. Accanto alla computazione AI che si desidera eliminare, fare clic su Azioni e fare clic su Elimina.
3. Fare clic su Elimina.
   
   

   

   
   

Arresta computazione AI

Puoi arrestare un cluster di computazione AI per arrestare tutti gli agenti in esecuzione nella computazione AI. La computazione viene liberata e la misurazione si interrompe.

Abbiamo consigliato di arrestare una computazione AI ogni volta che gli agenti ospitati nella computazione non sono in uso.

1. Nella home page, andare all'area di lavoro.
2. Fai clic su Computazione, quindi fai clic sulla scheda Computazione AI.
3. Accanto alla computazione AI che si desidera interrompere, fare clic su Azioni e fare clic su Arresta.
   
   

   

   
   

Avvia una computazione AI

È possibile avviare un cluster di computazione AI arrestato in precedenza.

1. Nella home page, andare all'area di lavoro.
2. Fai clic su Computazione, quindi fai clic sulla scheda Computazione AI.
3. Avanti alla computazione AI che si desidera avviare, fare clic su Azioni e fare clic su Avvia.
   
   

   

   
   

Riavviare una computazione AI

Puoi riavviare un cluster di computazione AI attivo per rilevare modifiche o aggiornamenti recenti.

Nota

Gli agenti ospitati nella computazione attiva verranno interrotti al riavvio.

1. Nella home page, andare all'area di lavoro.
2. Fai clic su Computazione, quindi fai clic sulla scheda Computazione AI.
3. Avanti alla computazione AI che si desidera avviare, fare clic su Azioni e fare clic su Riavvia.