Modelos compatíveis Xiaomi MiMo
Você pode importar grandes modelos de linguagem de Hugging Face e buckets do OCI Object Storage para a OCI Generative AI, criar pontos finais para esses modelos e usá-los no serviço Generative AI.
Xiaomi MiMo
MiMo-V2.5-Pro é um modelo de linguagem open source Mixture-of-Experts (MoE) com 1,02 trilhão de parâmetros totais e 42 bilhões de parâmetros ativos. Projetado para engenharia de software complexa, fluxos de trabalho agênticos e tarefas de longo horizonte, o modelo suporta um comprimento de contexto de até um milhão de tokens e usa atenção híbrida e previsão de vários tokens para melhorar a eficiência da inferência.
| Abraçando o ID do modelo facial | Capacidade do Modelo | Forma Mínima da Unidade de Cluster de IA Dedicada |
|---|---|---|
| XiaomiMiMo/MiMo-V2.5-Pro | TEXTO_PARA_TEXTO |
|
Importante
- Para modelos importados, você pode usar o tamanho do contexto nativo especificado pelo provedor do modelo. No entanto, o tamanho máximo de contexto efetivo é limitado pela configuração de hardware subjacente que você seleciona para hospedar clusters de IA dedicados na OCI Generative AI. Para aproveitar ao máximo o tamanho do contexto nativo de um modelo, talvez seja necessário provisionar mais recursos de hardware.
- Use os modelos ajustados somente se eles corresponderem à versão do transformador do modelo base compatível e tiverem uma contagem de parâmetros dentro de ± 10% do original.
- Para obter o hardware disponível e as etapas sobre como implantar os modelos importados, consulte Gerenciando Modelos Importados.