Modelli Microsoft supportati
Puoi importare modelli di linguaggio di grandi dimensioni dai bucket di storage degli oggetti Hugging Face e OCI nell'AI generativa OCI, creare endpoint per tali modelli e utilizzarli nel servizio AI generativa.
I modelli Microsoft Phi-3, noti per la loro efficienza e compattezza, sono progettati per prestazioni scalabili e flessibili. Consulta la documentazione di Phi-3 su Hugging Face.
Phi 3
| ID modello viso abbraccio | Capacità modello | Dimensione unità cluster AI dedicata consigliata |
|---|---|---|
| microsoft/Phi-3-mini-4k-istruzioni | TEXT_TO_TEXT | A100_80G_X1 |
| microsoft/Phi-3-mini-128k-istruzioni | TEXT_TO_TEXT | A100_80G_X1 |
| microsoft/Phi-3-small-8k-istruzioni | TEXT_TO_TEXT | A100_80G_X1 |
| microsoft/Phi-3-medium-4k-istruzioni | TEXT_TO_TEXT | A100_80G_X1 |
| microsoft/Phi-3-vision-128k-istruzioni | IMAGE_TEXT_TO_TEXT | H100_X1 |
Nota
- Per importare una versione ottimizzata di un modello, sono supportati solo i modelli ottimizzati che utilizzano la stessa versione dei trasformatori del modello originale e hanno un conteggio dei parametri entro ±10% dell'originale.
- Se il tipo di istanza per la forma di unità consigliata non è disponibile nell'area, selezionare un'istanza di livello superiore (ad esempio, selezionare una forma H100 anziché una forma A100-80G).
- Per i prerequisiti e le modalità di importazione dei modelli, vedere Gestione dei modelli importati (Nuovo).