Modelli OpenAI supportati
Puoi importare modelli di linguaggio di grandi dimensioni dai bucket di storage degli oggetti Hugging Face e OCI nell'AI generativa OCI, creare endpoint per tali modelli e utilizzarli nel servizio AI generativa.
Questi modelli hanno un'architettura di trasformatori open-weight avanzata con architettura Mixture-of-Experts (MoE), ottimizzata per un ragionamento linguistico efficiente e di alta qualità e una gestione del contesto di grandi dimensioni. Per ulteriori informazioni, vedere GptOss nella documentazione di Hugging Face.
GptOss
| ID modello viso abbraccio | Capacità modello | Forma unità cluster AI dedicata consigliata |
|---|---|---|
| openai/gpt-oss-20b | TEXT_TO_TEXT | H100_X1 |
| openai/gpt-oss-120b | TEXT_TO_TEXT | H100_X2 |
Nota
- Per importare una versione ottimizzata di un modello, sono supportati solo i modelli ottimizzati che utilizzano la stessa versione dei trasformatori del modello originale e hanno un conteggio dei parametri entro ±10% dell'originale.
- Se il tipo di istanza per la forma di unità consigliata non è disponibile nell'area, selezionare un'istanza di livello superiore (ad esempio, selezionare una forma H100 anziché una forma A100-80G).
- Per i prerequisiti e le modalità di importazione dei modelli, vedere Gestione dei modelli importati (Nuovo).