Modelos Microsoft suportados
Você pode importar grandes modelos de linguagem de buckets do Hugging Face e do OCI Object Storage para o OCI Generative AI, criar pontos finais para esses modelos e usá-los no serviço Generative AI.
Os modelos Microsoft Phi-3, conhecidos por sua eficiência e compacidade, são projetados para desempenho escalável e flexível. Consulte a documentação do Phi-3 sobre o Hugging Face.
Phi 3
| Abraçando o ID do modelo facial | Capacidade do Modelo | Tamanho da Unidade do Cluster de IA Dedicado Recomendado |
|---|---|---|
| microsoft/Phi-3-mini-4k-instruct | TEXT_TO_TEXT | A100_80G_X1 |
| microsoft/Phi-3-mini-128k-instruct | TEXT_TO_TEXT | A100_80G_X1 |
| microsoft/Phi-3-small-8k-instruct | TEXT_TO_TEXT | A100_80G_X1 |
| microsoft/Phi-3-medium-4k-instruct | TEXT_TO_TEXT | A100_80G_X1 |
| microsoft/Phi-3-vision-128k-instruct | IMAGE_TEXT_TO_TEXT | H100_X1 |
Observação
- Para importar uma versão ajustada de um modelo, apenas modelos ajustados que usam a mesma versão de transformadores que o modelo original e têm uma contagem de parâmetros dentro de ±10% do original são suportados.
- Se o tipo de instância da forma de unidade recomendada não estiver disponível na sua região, selecione uma instância de camada superior (por exemplo, selecione uma forma H100 em vez de uma forma A100-80G).
- Para obter pré-requisitos e como importar modelos, consulte Gerenciando Modelos Importados (Novo).