Cambio di modelli in cluster AI dedicati

Quando si crea un cluster AI dedicato, si seleziona una forma di unità. Non è possibile modificare la forma dopo la creazione. Per riutilizzare il cluster, il nuovo modello deve supportare la stessa forma di unità nell'area del cluster.

Confrontare i nomi delle forme di unità complete, ad esempio Cohere_H100_X2 e Cohere_H100_X4, anziché solo il tipo di hardware, ad esempio H100. Le forme possono differire per modello e area.

• Per i modelli pre-addestrati di OCI Generative AI, trova i nomi completi delle forme delle unità specifiche del provider in Forme delle unità hardware di base per i modelli OCI.
• Per i modelli importati, trovare una forma di unità supportata nella pagina del nuovo modello in Modelli compatibili, quindi verificare che la relativa forma hardware sia disponibile nell'area del cluster in Forme unità hardware per modelli importati. I nomi forma unità modello importato non dispongono di prefissi provider. Ad esempio, H100_X2 e H100_X4 sono forme diverse.

• Se il nuovo modello supporta la forma di unità esistente, eliminare gli endpoint del modello corrente e creare un endpoint per il nuovo modello sullo stesso cluster AI dedicato. Il cluster rimane allocato all'utente.
• Se il nuovo modello richiede una forma di unità diversa, creare un nuovo cluster AI dedicato di hosting con tale forma e creare un endpoint per il nuovo modello. Non è necessario eliminare il cluster originale per crearne uno nuovo a condizione che nell'area siano disponibili limiti di servizio sufficienti per il cluster aggiuntivo.

Prima di aggiungere un nuovo cluster, assicurarsi di disporre di limiti di servizio sufficienti nell'area. Per i nomi dei limiti, ad esempio dedicated-unit-h100-count, e i conteggi delle unità AI necessari, vedere Forme delle unità hardware, limiti del servizio e conteggi delle unità AI.

Per impostazione predefinita, un cluster può avere fino a 50 endpoint per lo stesso modello hosted. Questi endpoint condividono le repliche del modello del cluster, che servono il modello corrente. Per passare il cluster a un altro modello, eliminare ogni endpoint per il modello corrente prima di creare un endpoint per il modello di sostituzione. Le richieste agli endpoint eliminati si interrompono; dopo che il nuovo endpoint diventa attivo, aggiornare le applicazioni per utilizzarlo.

Si supponga di ospitare il comando Cohere A su un cluster AI dedicato con la forma Cohere_H100_X2 nell'area orientale degli Stati Uniti (Ashburn). La tabella Forme di base per il Nord America mostra queste opzioni per cambiare modello nella stessa area.

Si supponga di ospitare Qwen/Qwen3.6-35B-A3B in un cluster AI dedicato con la forma H100_X2. In questi esempi, l'area di destinazione dispone di H100_X1, H100_X2 e H100_X4. La pagina Modelli Alibaba compatibili elenca H100_X1 come forma di unità minima H100 per Qwen/Qwen3.8-27B e H100_X4 per Qwen/Qwen3-Next-80B-A3B-Instruct. Il modello Qwen/Qwen3.8-27B supporta anche H100_X2 in questi esempi.

La creazione di un nuovo cluster AI dedicato è separata dalla decisione di eliminare quello originale. Le condizioni di fatturazione dipendono dal tipo di modello:

• I cluster di hosting per i modelli pre-addestrati e personalizzati di OCI Generative AI hanno un impegno minimo di 744 ore unità. L'eliminazione di un cluster prima del raggiungimento del minimo non rimuove l'addebito minimo.
• I cluster di hosting per i modelli importati non richiedono l'impegno di 744 ore di unità. Invece, hanno una durata minima fatturabile di un'ora. Vedere Forme unità hardware per i modelli importati.

Prima di decidere se eliminare o quando eliminare il cluster originale, esaminarne l'uso, qualsiasi fatturazione minima applicabile e se è ancora necessario per altri endpoint o un modello compatibile. La conservazione di un cluster allocato continua ad aumentare l'uso. Inoltre, considerare le condizioni di fatturazione del nuovo cluster. Vedere Calcolo del costo e la pagina Determinazione prezzi.