Documentazione dell'infrastruttura Oracle Cloud

Uso delle GPU

Per utilizzare le GPU in Data Science, la tenancy deve disporre di un limite per tale forma e la forma deve essere disponibile nell'area in cui si desidera utilizzarla.

Se non sei un cliente aziendale, devi creare un aumento del limite del servizio per utilizzare la GPU perché per impostazione predefinita, la tua tenancy ha un limite zero.
Nota

Il limite del servizio non è uguale alla capacità della forma. Il limite GPU di Data Science è il numero massimo di GPU che la tenancy può utilizzare se la forma è disponibile. Se tutte le forme nell'area sono in uso, potresti ricevere un errore di capacità esaurita anche se disponi del limite di Data Science.

Richiesta di una GPU

  1. Verificare se si dispone di un limite per la forma che si desidera utilizzare in Data Science.
  2. Aprire la console.
  3. (Facoltativo) Modificare l'area se non è impostata sull'area in questione.
  4. Selezionare Governance e amministrazione.
  5. In Gestione tenancy, selezionare Limiti, quote e uso.
  6. Per il servizio, selezionare Data Science.
  7. Per Ambito, selezionare l'area in questione,
  8. Per Risorsa, selezionare la forma GPU che si desidera utilizzare.
  9. Per il compartimento, selezionare il compartimento radice.
  10. Assicurarsi che il conteggio disponibile abbia un limite sufficiente.
  11. Per aumentare il limite, selezionare Richiedi un aumento del limite del servizio.

    Assicurarsi che la categoria di servizio nella richiesta di limite del servizio sia impostata su Data Science.

    Per ulteriori informazioni sulla richiesta di un aumento del limite del servizio, consulta l'esercitazione Aumenta i limiti del servizio di Data Science.

Uso della capacità GPU riservata

Compute offre una funzione di assegnazione capacità che consente ai tenant di riservare forme GPU. Se hai riservato la capacità GPU con Compute, puoi trasferire le GPU da utilizzare in Data Science. Crea un ticket della richiesta di supporto e specifica la forma, il conteggio, l'area, la tenancy e l'ID prenotazione dell'assegnazione GPU da trasferire in Data Science.
Importante

Al momento, le assegnazioni di capacità A10 non possono essere accettate e le assegnazioni di capacità A100 possono essere accettate solo in determinate aree.
Quando Data Science ha completato l'assegnazione, la tenancy viene fatturata per la forma, indipendentemente dal fatto che sia in uso o meno.
Nota

Dopo il trasferimento della GPU riservata a Data Science, Data Science inizia la fatturazione per la forma GPU, indipendentemente dal fatto che venga utilizzata o meno la GPU.

Suggerimenti per l'uso della GPU con azioni rapide AI

Se in Data Science è stato aumentato il limite del servizio per utilizzare una forma GPU specifica per la distribuzione dei modelli o l'ottimizzazione nelle azioni rapide AI, non creare una sessione notebook con tale forma per accedere alle azioni rapide AI. In questo caso, la GPU per la sessione notebook viene conteggiata per il limite del servizio, pertanto la forma non può essere utilizzata per la distribuzione o l'ottimizzazione dei modelli. Selezionare una forma diversa (CPU o GPU) per creare un blocco note per accedere alle azioni rapide AI.

Risoluzione dei problemi

Se riscontri problemi con l'uso delle GPU, consulta la sezione relativa alla risoluzione dei problemi delle GPU per assistenza.