Modelli compatibili Moonshot AI Kimi
Puoi importare modelli di linguaggio di grandi dimensioni dai bucket di storage degli oggetti Hugging Face e OCI nell'AI generativa OCI, creare endpoint per tali modelli e utilizzarli nel servizio AI generativa.
Kimi 2
I modelli Kimi K2.6 e Kimi K2.7 Code sono ottimizzati per la codifica a lungo raggio, flussi di lavoro lenti e complesse attività di progettazione del software. Kimi K2.6 è progettato per la codifica, la progettazione basata sulla codifica, l'esecuzione autonoma e l'orchestrazione delle attività, mentre Kimi K2.7 Code è un modello incentrato sulla codifica basato su Kimi K2.6 per flussi di lavoro di progettazione del software a orizzonte lungo.
| ID modello viso abbraccio | Capacità modello | Forme unità cluster AI dedicate consigliate |
|---|---|---|
| moonshotai/Kimi-K2.6 | TESTO_A_TESTO |
|
| Moonshotai/Kimi-K2.7-Codice | TESTO_A_TESTO |
|
Importante
- Per i modelli importati, è possibile utilizzare la lunghezza del contesto nativo specificata dal provider del modello. Tuttavia, la lunghezza massima effettiva del contesto è limitata dall'impostazione hardware di base selezionata per l'hosting di cluster AI dedicati in OCI Generative AI. Per sfruttare appieno la lunghezza del contesto nativo di un modello, potrebbe essere necessario eseguire il provisioning di più risorse hardware.
- Utilizzare i modelli ottimizzati solo se corrispondono alla versione del trasformatore del modello di base compatibile e hanno un conteggio dei parametri entro ±10% dell'originale.
- Per informazioni sull'hardware disponibile e sulla procedura per distribuire i modelli importati, vedere Gestione dei modelli importati.