Modèles OpenAI compatibles
Vous pouvez importer des modèles compatibles à partir de seaux de stockage d'objets Hugging Face et OCI dans le service d'intelligence artificielle générative pour OCI, créer des points d'extrémité pour ces modèles et les utiliser dans le service d'intelligence artificielle générative.
OpenAI Whisper
Le modèle OpenAI Whisper Large V3 Turbo est optimisé pour la reconnaissance vocale automatique et les charges de travail de transcription audio. Ce modèle audio-texte est une version affinée d'un modèle Whisper Large V3 élagué, avec moins de couches de décodeur pour une transcription plus rapide avec un compromis de qualité mineur. Le modèle prend en charge la transcription multilingue, l'identification de la langue et la traduction vocale des langues prises en charge en texte anglais et convient aux cas d'utilisation de traitement audio sensibles à la latence et à haut débit. Pour plus de détails, consultez OpenAI Whisper Large V3 Turbo dans la documentation Hugging Face.
| ID modèle de visage Hugging | Capacité du modèle | Formes recommandées d'unité de grappe dédiée à l'IA |
|---|---|---|
| openai/whisper-large-v3-turbo | AUDIO_TO_TEXTE |
|
- Pour les modèles importés, vous pouvez utiliser la longueur du contexte natif spécifiée par le fournisseur de modèle. Toutefois, la longueur de contexte maximale en vigueur est limitée par la configuration matérielle sous-jacente que vous sélectionnez pour les grappes d'IA dédiées à l'hébergement dans l'IA générative OCI. Pour tirer pleinement parti de la longueur du contexte natif d'un modèle, vous devrez peut-être provisionner davantage de ressources matérielles.
- Utilisez les modèles affinés uniquement s'ils correspondent à la version du transformateur du modèle de base compatible et ont un nombre de paramètres inférieur à ± 10 % de l'original.
- Pour le matériel disponible et les étapes de déploiement des modèles importés, voir Gestion des modèles importés.