Modelos OpenAI Suportados
Você pode importar grandes modelos de linguagem de buckets do Hugging Face e do OCI Object Storage para o OCI Generative AI, criar pontos finais para esses modelos e usá-los no serviço Generative AI.
Esses modelos têm uma arquitetura avançada de transformador de peso aberto com arquitetura Mixture-of-Experts (MoE), otimizada para raciocínio de linguagem eficiente e de alta qualidade e grande tratamento de contexto. Para obter mais informações, consulte GptOss na documentação do Hugging Face.
GptOss
| Abraçando o ID do modelo facial | Capacidade do Modelo | Forma Recomendada da Unidade de Cluster de IA Dedicada |
|---|---|---|
| openai/gpt-oss-20b | TEXT_TO_TEXT | H100_X1 |
| openai/gpt-oss-120b | TEXT_TO_TEXT | H100_X2 |
Observação
- Para importar uma versão ajustada de um modelo, apenas modelos ajustados que usam a mesma versão de transformadores que o modelo original e têm uma contagem de parâmetros dentro de ±10% do original são suportados.
- Se o tipo de instância da forma de unidade recomendada não estiver disponível na sua região, selecione uma instância de camada superior (por exemplo, selecione uma forma H100 em vez de uma forma A100-80G).
- Para obter pré-requisitos e como importar modelos, consulte Gerenciando Modelos Importados (Novo).