Documentazione di Oracle Cloud Infrastructure

Limiti del servizio per l'AI generativa

Scopri i limiti delle risorse del cluster AI dedicato nell'AI generativa OCI.

Per impostazione predefinita, il numero di cluster AI dedicati ottenuti per ogni tenancy è 0. Per il nome delle risorse per le quali si richiede un aumento, vedere la tabella e l'esempio riportati di seguito.

Modello di base correlato alla risorsa cluster AI dedicata Risorsa Nome limite Conteggio predefinito per tenancy
  • Nome modello: Meta Llama 4 Scout
  • Nome modello OCI: meta.llama-4-scout-17b-16e-instruct
Conteggio delle unità cluster AI dedicate per l'hosting dei modelli meta.llama-4-scout-17b-16e-instruct dedicated-unit-llama2-70-count 0
  • Nome modello: Meta Llama 4 Scout
  • Nome modello OCI: meta.llama-4-scout-17b-16e-instruct
Conteggio delle unità cluster AI dedicate per l'hosting dei modelli meta.llama-4-scout-17b-16e-instruct dedicated-unit-llama2-70-count 0
  • Nome modello: Cohere Command A
  • Nome modello OCI: cohere.command-a-03-2025
Conteggio delle unità cluster AI dedicate per l'hosting dei modelli cohere.command-a-03-2025 dedicated-unit-large-cohere-count 0
  • Nome modello: Cohere Rerank 3.5
  • Nome modello OCI: cohere.rerank.3-5
Conteggio delle unità cluster AI dedicate per l'hosting dei modelli cohere.rerank.3-5 dedicated-unit-rerank-cohere-count 0
  • Nome modello: Meta Llama 3.3 (70B)
  • Nome modello OCI: meta.llama-3.3-70b-instruct
Conteggio delle unità cluster AI dedicate per l'hosting dei modelli meta.llama-3.3-70b-instruct dedicated-unit-llama2-70-count 0
  • Nome modello: Command R 08-2024
  • Nome modello OCI: cohere.command-r-08-2024
 Conteggio delle unità cluster AI dedicate per l'hosting o il ottimizzazione dei modelli cohere.command-r-08-2024 dedicated-unit-small-cohere-count 0
  • Nome modello: Command R+ 08-2024
  • Nome modello OCI: cohere.command-r-plus-08-2024
 Conteggio delle unità cluster AI dedicate per l'hosting dei modelli cohere.command-r-plus-08-2024 dedicated-unit-large-cohere-count 0
  • Nome modello: Meta Llama 3.2 11B Vision
  • Nome modello OCI: meta.llama-3.2-11b-vision-instruct
 Conteggio delle unità cluster AI dedicate per l'hosting dei modelli meta.llama-3.2-11b-vision-instruct dedicated-unit-llama2-70-count 0
  • Nome modello: Meta Llama 3.2 90B Vision
  • Nome modello OCI: meta.llama-3.2-90b-vision-instruct
 Conteggio delle unità cluster AI dedicate per l'hosting dei modelli meta.llama-3.2-90b-vision-instruct dedicated-unit-llama2-70-count 0
  • Nome modello: Meta Llama 3.1 (405B)
  • Nome modello OCI: meta.llama-3.1-405b-instruct
Conteggio delle unità cluster AI dedicate per l'hosting dei modelli meta.llama-3.1-405b-instruct dedicated-unit-llama2-70-count 0
  • Nome modello: Meta Llama 3.1 (70B)
  • Nome modello OCI: meta.llama-3.1-70b-instruct
 Conteggio delle unità cluster AI dedicate per l'hosting o il ottimizzazione dei modelli meta.llama-3.1-70b-instruct dedicated-unit-llama2-70-count 0
  • Nome modello: Cohere Command R+
  • Nome modello OCI: cohere.command-r-plus (non più valido)
 Conteggio delle unità cluster AI dedicate per l'hosting dei modelli cohere.command-r-plus dedicated-unit-large-cohere-count 0
  • Nome modello: Cohere Command R
  • Nome modello OCI: cohere.command-r-16k (non più valido)
 Conteggio delle unità cluster AI dedicate per l'hosting o il ottimizzazione dei modelli cohere.command-r-16k dedicated-unit-small-cohere-count 0
  • Nome modello: Cohere English Embed V3
  • Nome modello OCI: cohere.embed-english-image-v3.0
 Conteggio delle unità cluster AI dedicate per l'hosting dei modelli cohere.embed-english-v3.0 dedicated-unit-embed-cohere-count 0
  • Nome modello: Cohere Multilingual Embed V3
  • Nome modello OCI: cohere.embed-image-multilingual-v3.0
 Conteggio delle unità cluster AI dedicate per l'hosting dei modelli cohere.embed-multilingual-image-v3.0 dedicated-unit-embed-cohere-count 0
  • Nome modello: Cohere English Light Embed V3
  • Nome modello OCI: cohere.embed-english-light-image-v3.0
 Conteggio delle unità cluster AI dedicate per l'hosting dei modelli cohere.embed-english-light-image-v3.0 dedicated-unit-embed-cohere-count 0
  • Nome modello: Cohere Multilingual Light Embed V3
  • Nome modello OCI: cohere.embed-multilingual-light-image-v3.0
 Conteggio delle unità cluster AI dedicate per l'hosting dei modelli cohere.embed-multilingual-light-image-v3.0 dedicated-unit-embed-cohere-count 0
  • Nome modello: Cohere English Embed V3
  • Nome modello OCI: cohere.embed-english-v3.0
 Conteggio delle unità cluster AI dedicate per l'hosting dei modelli cohere.embed-english-image-v3.0 dedicated-unit-embed-cohere-count 0
  • Nome modello: Cohere Multilingual Embed V3
  • Nome modello OCI: cohere.embed-multilingual-v3.0
 Conteggio delle unità cluster AI dedicate per l'hosting dei modelli cohere.embed-multilingual-v3.0 dedicated-unit-embed-cohere-count 0
  • Nome modello: Cohere English Light Embed V3
  • Nome modello OCI: cohere.embed-english-light-v3.0
 Conteggio delle unità cluster AI dedicate per l'hosting dei modelli cohere.embed-english-light-v3.0 dedicated-unit-embed-cohere-count 0
  • Nome modello: Cohere Multilingual Light Embed V3
  • Nome modello OCI: cohere.embed-multilingual-light-v3.0
 Conteggio delle unità cluster AI dedicate per l'hosting dei modelli cohere.embed-multilingual-light-v3.0 dedicated-unit-embed-cohere-count 0
  • Nome modello: Meta Llama 3
  • Nome modello OCI: meta.llama-3-70b-instruct (non più valido)
 Conteggio delle unità cluster AI dedicate per l'hosting o il ottimizzazione dei modelli meta.llama-3-70b-instruct dedicated-unit-llama2-70-count 0
  • Nome modello: Cohere Command Light (6B)
  • Nome modello OCI: cohere.command-light (non più valido)
 Conteggio delle unità cluster AI dedicate per l'hosting o il ottimizzazione dei modelli cohere.command-light dedicated-unit-small-cohere-count 0
  • Nome modello: Cohere Command XL (52B)
  • Nome modello OCI: cohere.command (non più valido)
 Conteggio delle unità cluster AI dedicate per l'hosting o il ottimizzazione dei modelli cohere.command dedicated-unit-large-cohere-count 0
Importante

È necessario richiedere un aumento del limite per utilizzare le seguenti risorse:

Famiglia Meta Llama

  • Per ospitare un modello Meta Llama 4 Maverick, è necessario richiedere dedicated-unit-llama2-70-count per aumentare di 4.

  • Per ospitare un modello Meta Llama 4 Scout, è necessario richiedere dedicated-unit-llama2-70-count per aumentare di 2.

  • Per ospitare un modello Meta Llama 3.3 (70B), è necessario richiedere a dedicated-unit-llama2-70-count un aumento di 2.

  • Per ottimizzare un modello Meta Llama 3.3 (70B), è necessario richiedere a dedicated-unit-llama2-70-count di aumentare di 4.

  • Per ospitare un modello Meta Llama 3.2 11B Vision , è necessario richiedere a dedicated-unit-llama2-70-count un aumento di 1.

  • Per ospitare un modello Meta Llama 3.2 90B Vision , è necessario richiedere a dedicated-unit-llama2-70-count un aumento di 2.

  • Per ospitare un modello Meta Llama 3.1 (70B), è necessario richiedere a dedicated-unit-llama2-70-count un aumento di 2.

  • Per ottimizzare un modello Meta Llama 3.1 (70B), è necessario richiedere a dedicated-unit-llama2-70-count di aumentare di 4.

  • Per ospitare un modello Meta Llama 3.1 (405B), è necessario richiedere a dedicated-unit-llama2-70-count un aumento di 4.

Famiglia Comando Cohere

  • Per ospitare un modello Cohere Command A, è necessario richiedere dedicated-unit-large-cohere-count per aumentare di 1.

  • Per ospitare un modello Cohere Command R (deprecato), è necessario richiedere dedicated-unit-small-cohere-count per aumentare di 1.

  • Per perfezionare un modello Cohere Command R (deprecato), è necessario richiedere dedicated-unit-small-cohere-count per aumentarne di 8.

  • Per ospitare un modello Cohere Command R 08-2024, è necessario richiedere a dedicated-unit-small-cohere-count un aumento di 1.

  • Per ottimizzare un modello Cohere Command R 08-2024, è necessario richiedere a dedicated-unit-small-cohere-count un aumento di 8.

  • Per ospitare un modello Cohere Command R+ (deprecato), è necessario richiedere dedicated-unit-large-cohere-count per aumentare di 2.

  • Per ospitare un modello Cohere Command R+ 08-2024, è necessario richiedere a dedicated-unit-large-cohere-count un aumento di 2.

Per un elenco completo dei modelli e dei relativi limiti di cluster AI dedicati corrispondenti, vedere Abbinamento dei modelli di base AI cluster.

Per richiedere cluster AI dedicati per la tua tenancy, leggi informazioni sulla richiesta di un aumento del limite del servizio.