Modelos MiniMax compatíveis
Você pode importar grandes modelos de linguagem de Hugging Face e buckets do OCI Object Storage para a OCI Generative AI, criar pontos finais para esses modelos e usá-los no serviço Generative AI.
MiniMax M3
O modelo MiniMax-M3-MXFP8 é a variante quantizada MXFP8 de MiniMax M3, um modelo multimodal nativo com um milhão de contexto de token. O modelo tem cerca de 428 bilhões de parâmetros totais com cerca de 23 bilhões de parâmetros ativados e usa a Atenção Esparsa MiniMax (MSA) para processamento eficiente de longo contexto. Esse modelo é otimizado para codificação, fluxos de trabalho agênticos de longa duração e tarefas de produtividade colaborativas.
| Abraçando o ID do modelo facial | Capacidade do Modelo | Formas Recomendadas de Unidade de Cluster de IA Dedicada |
|---|---|---|
| MiniMaxAI/MiniMax-M3-MXFP8 | TEXTO_PARA_TEXTO |
|
MiniMax M2
Os modelos de texto para texto MiniMax M2 são otimizados para codificação, raciocínio complexo e fluxos de trabalho agênticos, como tarefas de uso de ferramentas, pesquisa e produtividade. MiniMax-M2 é um modelo Mixture-of-Experts (MoE) projetado para codificação eficiente e desempenho agêntico, e mais tarde modelos MiniMax-M2 estender esse foco para mais avançada engenharia de software e tarefas de trabalho profissional. Para mais detalhes, consulte MiniMax na documentação Hugging Face.
| Abraçando o ID do modelo facial | Capacidade do Modelo | Formas Recomendadas de Unidade de Cluster de IA Dedicada |
|---|---|---|
| MiniMaxAI/MiniMax-M2.7 | TEXTO_PARA_TEXTO |
|
| MiniMaxAI/MiniMax-M2.5 | TEXTO_PARA_TEXTO |
|
| MiniMaxAI/MiniMax-M2 | TEXTO_PARA_TEXTO |
|
-
Embora você possa importar qualquer modelo de chat, incorporação (e ajuste fino) validado por meio do Open Model Engine (com runtime vLLM ou SGLang), apenas os modelos listados explicitamente nesta página foram avaliados para essa família de modelos pela Oracle em relação aos tempos de execução do modelo de código-fonte aberto e testados nas configurações de GPU suportadas pela Oracle. Não obstante o precedente, a Oracle não é responsável por nenhum problema relacionado ao desempenho, disponibilidade, operação ou segurança dos Modelos Compatíveis. Modelos não listados podem ter problemas de compatibilidade e recomendamos que você teste qualquer modelo não listado antes do uso da produção. Saiba mais sobre a OCI Generative AI Imported Model Architecture.
- Para modelos importados, você pode usar o tamanho do contexto nativo especificado pelo provedor do modelo. No entanto, o tamanho máximo de contexto efetivo é limitado pela configuração de hardware subjacente que você seleciona para hospedar clusters de IA dedicados na OCI Generative AI. Para aproveitar ao máximo o tamanho do contexto nativo de um modelo, talvez seja necessário provisionar mais recursos de hardware.
- Use os modelos ajustados somente se eles corresponderem à versão do transformador do modelo base compatível e tiverem uma contagem de parâmetros dentro de ± 10% do original.
- Para obter o hardware disponível e as etapas sobre como implantar os modelos importados, consulte Gerenciando Modelos Importados.
- Se uma forma recomendada não estiver disponível em uma região, selecione a alternativa mais próxima disponível. Por exemplo, se
H100_X2não estiver disponível, masA100_80G_X2estiver, selecioneA100_80G_X2. Se ambas as formas H100 e A100 estiverem disponíveis, para melhor desempenho, selecione H100.