Creazione di un cluster AI dedicato per l'ottimizzazione dei modelli personalizzati

Crea una risorsa cluster AI dedicata nell'AI generativa OCI da utilizzare per i modelli personalizzati di ottimizzazione.

Importante

Alcuni modelli di base pre-addestrati di base di AI generativa OCI supportati per la modalità di servizio dedicata sono ora non più validi e verranno ritirati non prima di 6 mesi dopo il rilascio del 1o modello di sostituzione. È possibile ospitare un modello di base o ottimizzare un modello di base e ospitare il modello ottimizzato in un cluster AI dedicato (modalità di servizio dedicata) fino a quando il modello di base non viene ritirato. Per le date di ritiro della modalità di servizio dedicata, vedere Ritiro dei modelli.
    1. Nella pagina elenco Cluster AI dedicati, selezionare Crea cluster AI dedicato. Per assistenza nella ricerca della pagina elenco, vedere Elenca cluster AI dedicati.
    2. Selezionare un compartimento in cui creare il cluster AI dedicato. Il compartimento predefinito è uguale alla pagina di elenco, ma è possibile selezionare qualsiasi compartimento nel quale si è autorizzati a lavorare.
    3. (Facoltativo) Immettere un nome e una descrizione per il cluster. Se non si immette un nome, il sistema ne genera uno che sarà possibile modificare in un secondo momento.

      Il nome generato ha il formato generativeaidedicatedaicluster<timestamp>. Ad esempio: generativeaidedicatedaicluster20250922181431

    4. Per Tipo di cluster, selezionare Fine tuning.
    5. Per Modello base, selezionare il modello base di base per il modello personalizzato che si desidera sottoporre a tuning su questo cluster.
      Importante

      Il numero di unità in un cluster di fine tuning è preimpostato e dipende dal modello di base di base di base di base selezionato per l'ottimizzazione. I cluster di ottimizzazione hanno bisogno di più risorse rispetto ai cluster di hosting perché utilizzano più GPU. È possibile ottimizzare diversi modelli sullo stesso cluster, a condizione che i modelli personalizzati si addestrino sullo stesso modello di base di base di base.
    6. Leggere le ore unità di impegno per il cluster fine tuning e selezionare la casella di controllo per accettare l'impegno.
    7. (Facoltativo) Selezionare Aggiungi tag e assegnare tag a questo cluster.
    8. Selezionare Crea.
    Nota

    La creazione dei cluster di fine tuning richiede tempo. Dopo che un cluster di fine tuning è attivo, è possibile utilizzarlo per perfezionare i modelli personalizzati. È possibile selezionare un cluster per l'ottimizzazione quando si crea un modello personalizzato.
  • Usare il comando dedicated-AI-cluster create e i parametri richiesti per creare un cluster AI dedicato:

    oci generative-ai dedicated-ai-cluster create 
    --compartment-id <compartment-OCID>
    --type FINE_TUNING
    --unit-count [integer]
    --unit-shape [text]
    [OPTIONS]

    Per un elenco completo dei parametri e dei valori per i comandi CLI, consultare il manuale CLI Command Reference.

  • Eseguire l'operazione CreateDedicatedAiCluster per creare un cluster dedicato.