Creazione di un cluster AI dedicato nell'AI generativa per l'ottimizzazione dei modelli personalizzati

Crea una risorsa cluster AI dedicata nell'AI generativa OCI da utilizzare per i modelli personalizzati di ottimizzazione.

Importante

Alcuni modelli di base pre-addestrati di base di AI generativa OCI supportati per la modalità di servizio dedicata sono ora non più validi e verranno ritirati non prima di 6 mesi dopo il rilascio del 1o modello di sostituzione. È possibile ospitare un modello di base o ottimizzare un modello di base e ospitare il modello ottimizzato in un cluster AI dedicato (modalità di servizio dedicata) fino a quando il modello di base non viene ritirato. Per le date di ritiro della modalità di servizio dedicata, vedere Ritiro dei modelli.
  1. Nella barra di navigazione della console selezionare un'area con intelligenza artificiale generativa, ad esempio Midwest degli Stati Uniti (Chicago) o Sud del Regno Unito (Londra). Vedere quali modelli vengono offerti nella propria area.
  2. Aprire il menu di navigazione e selezionare Analytics & AI. In Servizi AI, selezionare AI generativa.
  3. Selezionare un compartimento in cui si dispone dell'autorizzazione per utilizzare.
  4. Fare clic su Cluster AI dedicati.
  5. Fare clic su Crea cluster AI dedicato.
  6. Selezionare un compartimento in cui creare il cluster AI dedicato. Il compartimento predefinito è quello selezionato nel passo 3, ma è possibile selezionare qualsiasi compartimento in cui si dispone dell'autorizzazione per lavorare.
  7. (Facoltativo) Immettere un nome e una descrizione per il cluster. Se non si immette un nome, il sistema ne genera uno che sarà possibile modificare in un secondo momento.

    Il nome generato ha il formato generativeaidedicatedaicluster<timestamp>.

    Ad esempio: generativeaidedicatedaicluster20240601202357

  8. Per Tipo di cluster, selezionare Fine tuning.
  9. Per Modello base, selezionare il modello base di base per il modello personalizzato che si desidera sottoporre a tuning su questo cluster.
    Importante

    Il numero di unità in un cluster di fine tuning è preimpostato e dipende dal modello di base di base di base selezionato per l'ottimizzazione. I cluster di ottimizzazione hanno bisogno di più risorse rispetto ai cluster di hosting perché utilizzano più GPU. È possibile ottimizzare diversi modelli sullo stesso cluster, a condizione che i modelli personalizzati si addestrino sullo stesso modello di base di base di base.
  10. Leggere le ore unità di impegno per il cluster fine tuning e selezionare la casella di controllo per accettare l'impegno.
  11. (Facoltativo) Fare clic su Mostra opzioni avanzate e assegnare tag a questo cluster AI dedicato.
  12. Fare clic su Crea.
    Nota

    La creazione dei cluster di fine tuning richiede tempo. Dopo che un cluster di fine tuning è attivo, è possibile utilizzarlo per perfezionare i modelli personalizzati. È possibile selezionare un cluster per l'ottimizzazione quando si crea un modello personalizzato.
Dopo aver creato il cluster AI dedicato, è possibile ottenere i dettagli del cluster.