Formas de Unidade de Hardware por Região

A tabela a seguir lista as formas de hardware para as regiões da América do Norte.

A tabela a seguir lista formas de hardware para as regiões da América do Sul.

A tabela a seguir lista as formas de hardware para as regiões da Europa.

A tabela a seguir lista formas de hardware para as regiões do Oriente Médio.

A tabela a seguir lista as formas de hardware para as regiões da Ásia-Pacífico.

A tabela a seguir lista o limite de serviço, as unidades de hardware necessárias e a contagem de unidades de IA para cada forma de unidade de hardware. A contagem de unidades de IA é determinada pela forma do hardware e pelo número após X. Um provedor ou prefixo de família de modelos não altera a contagem de unidades de IA. Por exemplo, procure H100_X2 nesta tabela para H100_X2 ou Cohere_H100_X2.

A Contagem de Unidades de IA é o multiplicador de preços de uma réplica de uma forma de unidade de hardware. Para estimar o preço por hora de uma réplica, multiplique o preço aplicável de Unidade de IA por hora na Página de Preços pela contagem de unidades de IA na tabela. Se o cluster tiver mais de uma réplica, também multiplique o resultado pelo número de réplicas.

Use o Oracle Cloud Cost Estimator para estimar o custo da sua configuração de cluster de IA dedicada. Se a tenancy não tiver limites suficientes para a forma de hardware selecionada e a contagem de unidades, Criando uma Solicitação de Aumento de Limite.

Para um modelo importado, selecione uma forma de unidade de hardware compatível que esteja disponível na região de destino. Os nomes de forma de unidade de modelo importado não incluem um prefixo de provedor porque você seleciona o modelo importado separadamente ao criar o cluster de IA dedicado de hospedagem. Por exemplo, H100_X2 requer duas unidades de hardware H100. Consulte Formas de Unidade de Hardware, Limites de Serviço e Contagens de Unidades de IA para obter o limite de serviço e a contagem de unidades de IA.

Use as tabelas de resumo de região nesta página para identificar as formas de hardware disponíveis em cada região. Para obter as formas de unidade de cluster de IA dedicadas recomendadas para cada modelo importado, consulte Modelos Compatíveis. A forma recomendada pode ser usada como linha de base, mas você pode usar mais recursos de hardware quando o modelo oferecer suporte a eles e a forma estiver disponível na região.

Para calcular o preço por hora de um cluster de modelo importado, multiplique o preço da Unidade de IA por hora para o Oracle Cloud Infrastructure Generative AI - Importação de Modelo na Página de Preços pela contagem de unidades de IA da forma selecionada. Se o cluster tiver mais de uma réplica, também multiplique o resultado pelo número de réplicas.

Para o workflow do modelo importado, consulte Gerenciando Modelos Importados.

As tabelas regionais a seguir mostram os nomes completos de forma de unidade específica do provedor para modelos oferecidos pelo OCI Generative AI para hospedagem dedicada. Para localizar a contagem de unidades do AI, remova o prefixo do provedor ou da família de modelos e localize a forma de unidade de hardware restante em Formas de Unidades de Hardware, Limites de Serviço e Contagens de Unidades do AI. Por exemplo, use a linha H100_X2 para localizar a contagem de unidades de IA para Cohere_H100_X2.

A tabela a seguir lista nomes de forma de unidade de hardware de linha de base para modelos na América do Norte. Você pode especificar mais réplicas de uma forma de linha de base ao criar um cluster de IA dedicado ou posteriormente ao atualizar o cluster.

A tabela a seguir lista os nomes de forma da unidade de hardware de linha de base para modelos na América do Sul. Você pode especificar mais réplicas de uma forma de linha de base ao criar um cluster de IA dedicado ou posteriormente ao atualizar o cluster.

A tabela a seguir lista os nomes de forma da unidade de hardware de linha de base para modelos na Europa. Você pode especificar mais réplicas de uma forma de linha de base ao criar um cluster de IA dedicado ou posteriormente ao atualizar o cluster.

A tabela a seguir lista os nomes de forma da unidade de hardware da linha de base para modelos no Oriente Médio. Você pode especificar mais réplicas de uma forma de linha de base ao criar um cluster de IA dedicado ou posteriormente ao atualizar o cluster.

A tabela a seguir lista os nomes de forma da unidade de hardware de linha de base para modelos na Ásia-Pacífico. Você pode especificar mais réplicas de uma forma de linha de base ao criar um cluster de IA dedicado ou posteriormente ao atualizar o cluster.