Modelos compatíveis Moonshot AI Kimi
Você pode importar grandes modelos de linguagem de Hugging Face e buckets do OCI Object Storage para a OCI Generative AI, criar pontos finais para esses modelos e usá-los no serviço Generative AI.
Kimi
Os modelos Kimi K2.6 e Kimi K2.7 Code são otimizados para codificação de longa duração, fluxos de trabalho agênticos e tarefas complexas de engenharia de software. O Kimi K2.6 foi projetado para codificação, design orientado por codificação, execução autônoma e orquestração de tarefas, enquanto o Kimi K2.7 Code é um modelo focado em codificação criado no Kimi K2.6 para workflows de engenharia de software de longa duração.
| Abraçando o ID do modelo facial | Capacidade do Modelo | Forma Mínima da Unidade de Cluster de IA Dedicada |
|---|---|---|
| moonshotai/Kimi-K3 | IMAGEM_TEXTO_PARA_TEXTO |
|
| moonshotai/Kimi-K2.6 | TEXTO_PARA_TEXTO |
|
| moonshotai/Kimi-K2.7 Código | TEXTO_PARA_TEXTO |
|
Observação
Para Kimi K3, a forma da unidade
Para Kimi K3, a forma da unidade
H100_X32 está disponível nas regiões Centro-Oeste dos EUA (Chicago) e Centro do Japão (Osaka) e a forma da unidade B200_X16 está disponível na região Central dos Emirados Árabes Unidos (Abu Dhabi). O serviço de vários nós também está disponível nas regiões Central dos Emirados Árabes Unidos (Abu Dhabi) e Central do Japão (Osaka).Importante
- Para modelos importados, você pode usar o tamanho do contexto nativo especificado pelo provedor do modelo. No entanto, o tamanho máximo de contexto efetivo é limitado pela configuração de hardware subjacente que você seleciona para hospedar clusters de IA dedicados na OCI Generative AI. Para aproveitar ao máximo o tamanho do contexto nativo de um modelo, talvez seja necessário provisionar mais recursos de hardware.
- Use os modelos ajustados somente se eles corresponderem à versão do transformador do modelo base compatível e tiverem uma contagem de parâmetros dentro de ± 10% do original.
- Para obter o hardware disponível e as etapas sobre como implantar os modelos importados, consulte Gerenciando Modelos Importados.