Forme delle unità hardware per area

Nella tabella seguente sono elencate le forme hardware per le aree del Nord America.

Nella tabella seguente sono elencate le forme hardware per le aree del Sud America.

Nella tabella seguente sono elencate le forme hardware per le aree geografiche europee.

Nella tabella seguente sono elencate le forme hardware per le aree del Medio Oriente.

Nella tabella seguente sono elencate le forme hardware per le aree Asia/Pacifico.

Nella tabella seguente sono elencati il limite del servizio, le unità hardware necessarie e il conteggio delle unità AI per ogni forma dell'unità hardware. Il conteggio di unità AI è determinato dalla forma hardware e dal numero dopo X. Un prefisso provider o modello-famiglia non modifica il conteggio delle unità AI. Ad esempio, cercare H100_X2 in questa tabella per H100_X2 o Cohere_H100_X2.

Il conteggio unità AI è il moltiplicatore di prezzo per una replica di una forma di unità hardware. Per stimare il prezzo orario di una replica, moltiplicare il prezzo Unità AI all'ora applicabile nella pagina Determinazione prezzi per il conteggio di unità AI nella tabella. Se il cluster dispone di più repliche, moltiplicare anche il risultato per il numero di repliche.

Utilizza Oracle Cloud Cost Estimator per stimare il costo della configurazione del cluster AI dedicata. Se la tenancy non ha limiti sufficienti per la forma hardware e il conteggio di unità selezionati, creare una richiesta di aumento del limite.

Per un modello importato, selezionare una forma di unità hardware compatibile disponibile nell'area di destinazione. I nomi forma unità modello importato non includono un prefisso provider perché si seleziona il modello importato separatamente quando si crea il cluster AI dedicato di hosting. Ad esempio, H100_X2 richiede due unità hardware H100. Vedere Forme delle unità hardware, limiti del servizio e conteggi delle unità AI per il limite del servizio e il conteggio delle unità AI.

Utilizzare le tabelle di riepilogo delle aree in questa pagina per identificare le forme hardware disponibili in ogni area. Per le forme di unità cluster AI dedicate consigliate per ogni modello importato, vedere Modelli compatibili. La forma consigliata può essere utilizzata come baseline, ma è possibile utilizzare più risorse hardware quando il modello le supporta e la forma è disponibile nell'area.

Dopo aver identificato una forma di unità compatibile per il modello e l'area di destinazione, creare un cluster AI dedicato per l'hosting dei modelli e selezionare la forma dell'unità. Quando il cluster diventa attivo, creare un endpoint per il modello nel cluster.

Per calcolare il prezzo orario di un cluster modello importato, moltiplicare il prezzo Unità AI all'ora per Oracle Cloud Infrastructure Generative AI - Importazione modello nella pagina Determinazione prezzi per il conteggio di unità AI per la forma selezionata. Se il cluster dispone di più repliche, moltiplicare anche il risultato per il numero di repliche.

Per il flusso di lavoro del modello importato, vedere Gestione dei modelli importati.

Le tabelle regionali riportate di seguito mostrano i nomi completi delle forme di unità specifiche del provider per i modelli offerti da OCI Generative AI per l'hosting dedicato. Per trovare il conteggio delle unità AI, rimuovere il prefisso del provider o della famiglia di modelli e trovare la forma rimanente dell'unità hardware in Forme delle unità hardware, limiti del servizio e conteggi delle unità AI. Ad esempio, utilizzare la riga H100_X2 per trovare il conteggio delle unità AI per Cohere_H100_X2.

Nella tabella seguente sono elencati i nomi di forma dell'unità hardware baseline per i modelli in Nord America. È possibile specificare più repliche di una forma baseline quando si crea un cluster AI dedicato o in un secondo momento quando si aggiorna il cluster.

Nella tabella seguente sono elencati i nomi di forma dell'unità hardware baseline per i modelli in Sud America. È possibile specificare più repliche di una forma baseline quando si crea un cluster AI dedicato o in un secondo momento quando si aggiorna il cluster.

Nella tabella seguente sono elencati i nomi delle forme delle unità hardware di riferimento per i modelli in Europa. È possibile specificare più repliche di una forma baseline quando si crea un cluster AI dedicato o in un secondo momento quando si aggiorna il cluster.

Nella tabella seguente sono elencati i nomi delle forme delle unità hardware baseline per i modelli in Medio Oriente. È possibile specificare più repliche di una forma baseline quando si crea un cluster AI dedicato o in un secondo momento quando si aggiorna il cluster.

Nella tabella seguente sono elencati i nomi delle forme delle unità hardware di riferimento per i modelli nell'area Asia Pacifico. È possibile specificare più repliche di una forma baseline quando si crea un cluster AI dedicato o in un secondo momento quando si aggiorna il cluster.