Modelli OpenAI compatibili
Puoi importare modelli compatibili dai bucket di storage degli oggetti Hugging Face e OCI nell'AI generativa OCI, creare endpoint per tali modelli e utilizzarli nel servizio AI generativa.
OpenAI Whisper
Il modello OpenAI Whisper Large V3 Turbo è ottimizzato per il riconoscimento vocale automatico e i carichi di lavoro di trascrizione audio. Questo modello audio-testo è una versione ottimizzata di un modello Whisper Large V3 potato, con meno livelli di decoder per una trascrizione più rapida con un compromesso di qualità minore. Il modello supporta la trascrizione multilingue, l'identificazione della lingua e la traduzione vocale dalle lingue supportate al testo inglese ed è adatto per casi d'uso di elaborazione audio sensibili alla latenza e con throughput elevato. Per ulteriori dettagli, vedere OpenAI Whisper Large V3 Turbo nella documentazione Hugging Face.
| ID modello viso abbraccio | Capacità modello | Forme unità cluster AI dedicate consigliate |
|---|---|---|
| openai/whisper-large-v3-turbo | DA AUDIO A TESTO |
|
- Per i modelli importati, è possibile utilizzare la lunghezza del contesto nativo specificata dal provider del modello. Tuttavia, la lunghezza massima effettiva del contesto è limitata dall'impostazione hardware di base selezionata per l'hosting dei cluster AI dedicati in OCI Generative AI. Per sfruttare appieno la lunghezza del contesto nativo di un modello, potrebbe essere necessario eseguire il provisioning di più risorse hardware.
- Utilizzare i modelli ottimizzati solo se corrispondono alla versione del trasformatore del modello di base compatibile e hanno un conteggio dei parametri entro ±10% dell'originale.
- Per informazioni sull'hardware disponibile e sulla procedura per distribuire i modelli importati, vedere Gestione dei modelli importati.