Modelos compatíveis do Google

Você pode importar grandes modelos de linguagem de buckets do Hugging Face e do OCI Object Storage para o OCI Generative AI, criar pontos finais para esses modelos e usá-los no serviço Generative AI.

Para obter detalhes sobre modelos, consulte os seguintes links:

Gema

Google MedGemma 27B Text IT é um modelo de linguagem de 27 bilhões de parâmetros baseado na arquitetura Gemma 3. Treinado em literatura médica e registros clínicos, o modelo é ajustado por instruções (TI), permitindo acompanhar melhor as solicitações dos usuários e ajudar a executar tarefas focadas em saúde, como resposta a perguntas médicas, suporte clínico e resumo.

Modelo MedGemma Compatível
Abraçando o ID do modelo facial Capacidade do Modelo Forma Recomendada da Unidade de Cluster de IA Dedicada
google/medgemma-27b-text-it TEXT_TO_TEXT
  • A100_80GB_X2
  • H100_X2
  • H200_X1
  • B200_X1

Gemma

Modelos Gemma Compatíveis
Abraçando o ID do modelo facial Capacidade do Modelo Forma Recomendada da Unidade de Cluster de IA Dedicada
google/gemma-4-31B-it IMAGE_TEXT_TO_TEXT
  • A100_40G_X4
  • A100_80G_X2
  • B200_X1
  • H100_X2
  • H200_X1
google/gemma-3-4b-it IMAGE_TEXT_TO_TEXT A100_80G_X1
google/gemma-3-270m-it TEXT_TO_TEXT A100_80G_X1
google/gemma-3-27b-it IMAGE_TEXT_TO_TEXT A100_80G_X2
google/gemma-3-12b-it IMAGEM_TEXTO_PARA_TEXTO
  • A100_40G_X4
  • A100_80G_X1
  • H100_X2
  • H200_X1
google/gemma-3-1b-it TEXT_TO_TEXT A100_80G_X1
google/gemma-2-9b-it TEXT_TO_TEXT A100_80G_X1
google/gemma-2-27b-it TEXT_TO_TEXT A100_80G_X2
google/gemma-2-2b-it TEXTO_PARA_TEXTO A100_80G_X1
Importante

  • Para modelos importados, você pode usar o tamanho do contexto nativo especificado pelo provedor do modelo. No entanto, o tamanho máximo de contexto efetivo é limitado pela configuração de hardware subjacente que você seleciona para hospedar clusters de IA dedicados na OCI Generative AI. Para aproveitar ao máximo o tamanho do contexto nativo de um modelo, talvez seja necessário provisionar mais recursos de hardware.
  • Use os modelos ajustados somente se eles corresponderem à versão do transformador do modelo base compatível e tiverem uma contagem de parâmetros dentro de ± 10% do original.
  • Para obter o hardware disponível e as etapas sobre como implantar os modelos importados, consulte Gerenciando Modelos Importados.