Meta Llama 3.2 90B Vision
Le modèle meta.llama-3.2-90b-vision-instruct
offre des fonctions de compréhension de texte et d'image et est disponible pour l'inférence à la demande et l'hébergement dédié.
Disponible dans ces régions
- Brésil - Est (Sao Paulo)
- Royaume-Uni - Sud (Londres)
- Japon - Centre (Osaka)
- Arabie saoudite - Centre (Riyad) (grappe dédiée à l'IA uniquement)
- États-Unis - Midwest (Chicago)
Accéder à ce modèle
Principales fonctions
- Principales fonctions
-
- Prise en charge multimodale : Entrez du texte et des images et obtenez une sortie de texte.
- Taille du modèle : Le modèle comporte 90 milliards de paramètres.
- Longueur de contexte : 128 000 jetons (invite maximale + longueur de réponse : 128 000 jetons pour chaque exécution)
- Soutien multilingue : Anglais, français, allemand, hindi, italien, portugais, espagnol et thaï
- À propos de la nouvelle fonction de vision grâce à la prise en charge multimodale
-
Soumettez une image, posez des questions sur l'image et obtenez des sorties de texte telles que :
- Légendes d'image avancées
- Description détaillée d'une image.
- Réponses aux questions sur une image.
- Informations sur les graphiques et les graphiques dans une image.
- Plus de détails
-
- Comprend les fonctionnalités textuelles du modèle Llama 3.1 70B précédent.
- Dans le terrain de jeu, pour ajouter l'image et le texte suivants, vous devez effacer le clavardage, ce qui entraîne la perte du contexte de la conversation précédente en effaçant le clavardage.
- Pour l'inférence sur demande, la longueur de la réponse est plafonnée à 4 000 jetons pour chaque exécution.
- Pour le mode dédié, la longueur de la réponse n'est pas plafonnée et la longueur du contexte est de 128 000 jetons.
- L'anglais est la seule langue prise en charge pour l'option image plus texte.
- Option multilingue prise en charge pour l'option Texte seulement.
- Dans la console, entrez une image
.png
ou.jpg
de 5 Mo ou moins. - Pour l'API, entrez une image encodée
base64
à chaque exécution. Une image 512 x 512 est convertie en environ 1 610 jetons.
Mode sur demande
Ce modèle est disponible sur demande dans les régions non listées (grappe dédiée à l'IA uniquement). Consultez le tableau suivant pour connaître le nom du produit sur demande de ce modèle dans la page de tarification.
Nom de modèle | Nom du modèle OCI | Nom du produit de la page de tarification |
---|---|---|
Meta Llama 3.2 90B Vision | meta.llama-3.2-90b-vision-instruct |
Large Meta |
-
Vous payez à l'utilisation pour chaque appel d'inférence lorsque vous utilisez les modèles dans le terrain de jeu ou lorsque vous appelez les modèles au moyen de l'API.
- Faible barrière pour commencer à utiliser l'IA générative.
- Idéal pour l'expérimentation, la preuve de concept et l'évaluation de modèle.
- Disponible pour les modèles préentraînés dans les régions non listées (grappe dédiée à l'IA uniquement).
Ajustement de limite de limitation dynamique pour le mode sur demande
OCI Generative AI ajuste dynamiquement la limite de limitation de demande pour chaque location active en fonction de la demande du modèle et de la capacité du système afin d'optimiser l'affectation des ressources et d'assurer un accès équitable.
Cet ajustement dépend des facteurs suivants :
- Débit maximal courant pris en charge par le modèle cible.
- Toute capacité système inutilisée au moment de l'ajustement.
- L'historique d'utilisation du débit de chaque location et les limites de remplacement spécifiées sont définies pour cette location.
Remarque : En raison de la limitation dynamique, les limites de débit ne sont pas documentées et peuvent changer pour répondre à la demande à l'échelle du système.
En raison de l'ajustement dynamique de la limite de limitation, nous recommandons de mettre en œuvre une stratégie de back-off, qui implique de retarder les demandes après un rejet. Sans cela, des demandes rapides répétées peuvent entraîner d'autres rejets au fil du temps, une latence accrue et un blocage temporaire potentiel du client par le service d'IA générative. En utilisant une stratégie d'attente, telle qu'une stratégie d'attente exponentielle, vous pouvez répartir les demandes plus uniformément, réduire la charge et améliorer le succès des tentatives, en suivant les meilleures pratiques du secteur et en améliorant la stabilité et la performance globales de votre intégration au service.
Grappe d'IA dédiée pour le modèle
Dans la liste de régions précédente, les régions qui ne sont pas marquées avec (grappe dédiée à l'IA uniquement) ont des options de grappe dédiée à l'IA à la demande et . Pour l'option sur demande, vous n'avez pas besoin de grappes et vous pouvez accéder au modèle dans le terrain de jeu de la console ou au moyen de l'API. En savoir plus sur le mode dédié.
Pour atteindre un modèle au moyen d'une grappe dédiée à l'IA dans n'importe quelle région répertoriée, vous devez créer un point d'extrémité pour ce modèle sur une grappe dédiée à l'IA. Pour connaître la taille d'unité de grappe correspondant à ce modèle, voir le tableau suivant.
Modèle de base | Cluster de réglage fin | Grappe d'hébergement | Informations sur la page de tarification | Demander une augmentation de limite de grappe |
---|---|---|---|---|
|
Non disponible pour le réglage fin |
|
|
|
Si vous n'avez pas suffisamment de limites de grappe dans votre location pour héberger le modèle Meta Llama 3.2 90B Vision sur une grappe dédiée à l'IA, demandez que la limite dedicated-unit-llama2-70-count
augmente de 2.
Règles de point d'extrémité pour les grappes
- Une grappe dédiée à l'IA peut contenir jusqu'à 50 points d'extrémité.
- Utilisez ces points d'extrémité pour créer des alias qui pointent tous vers le même modèle de base ou vers la même version d'un modèle personnalisé, mais pas vers les deux types.
- Plusieurs points d'extrémité pour le même modèle permettent de les affecter facilement à différents utilisateurs ou objectifs.
Taille d'unité de la grappe d'hébergement | Règles de point d'extrémité |
---|---|
Large Generic V2 |
|
-
Pour augmenter le volume d'appels pris en charge par une grappe d'hébergement, augmentez le nombre d'instances en modifiant la grappe dédiée à l'IA. Voir Mise à jour d'une grappe d'intelligence artificielle dédiée.
-
Pour plus de 50 points d'extrémité par grappe, demandez une augmentation de la limite,
endpoint-per-dedicated-unit-count
. Voir Demande d'une augmentation de limite de service et Limites de service pour l'IA générative.
Tests de performance des grappes
Consultez les points de référence de performance de grappe Meta Llama 3.2 90B Vision pour différents cas d'utilisation.
Dates de lancement et de mise hors service
Modèle | Date de version | Date de mise hors service sur demande | Date de mise hors service en mode dédié |
---|---|---|---|
meta.llama-3.2-90b-vision-instruct
|
2,024-11-14 | Au moins un mois après le lancement du 1er modèle de remplacement. | Au moins 6 mois après la publication du 1er modèle de remplacement. |
Pour obtenir la liste de toutes les lignes de temps du modèle et les détails de mise hors service, voir Mise hors service des modèles.
Paramètres du modèle
Pour modifier les réponses du modèle, vous pouvez modifier les valeurs des paramètres suivants dans le terrain de jeu ou l'API.
- Nombre maximal de jetons de sortie
-
Nombre maximal de marqueurs que le modèle doit générer pour chaque réponse. Estimer quatre caractères par jeton. Comme vous demandez un modèle de clavardage, la réponse dépend de l'invite et chaque réponse n'utilise pas nécessairement le nombre maximal de jetons alloués.
- Température
-
Niveau de caractère aléatoire utilisé pour générer le texte de sortie.
Conseil
Commencez avec la température réglée à 0 ou moins d'un, puis augmentez la température au fur et à mesure que vous régénérez les invites pour une sortie plus créative. Les températures élevées peuvent introduire des hallucinations et des informations factuellement incorrectes. - p premiers
-
Méthode d'échantillonnage qui contrôle la probabilité cumulative des jetons supérieurs à prendre en compte pour le jeton suivant. Affectez à
p
un nombre décimal compris entre 0 et 1 pour la probabilité. Par exemple, entrez 0,75 pour les 75 % principaux à prendre en compte. Réglezp
à 1 pour prendre en compte tous les jetons. - k premiers
-
Méthode d'échantillonnage dans laquelle le modèle choisit le jeton suivant de manière aléatoire à partir des jetons
top k
les plus probables. Une valeur élevée pourk
génère une sortie plus aléatoire, ce qui rend le texte de sortie plus naturel. La valeur par défaut pour k est 0 pour les modèlesCohere Command
et -1 pour les modèlesMeta Llama
, ce qui signifie que le modèle doit prendre en compte tous les jetons et ne pas utiliser cette méthode. - Pénalité de fréquence
-
Pénalité affectée à un jeton lorsque ce jeton apparaît fréquemment. Les pénalités élevées encouragent moins de jetons répétés et produisent un résultat plus aléatoire.
Pour les modèles de la famille Meta Llama, cette pénalité peut être positive ou négative. Les nombres positifs encouragent le modèle à utiliser de nouveaux jetons et les nombres négatifs encouragent le modèle à répéter les jetons. Réglez à 0 pour désactiver.
- Pénalité de présence
-
Pénalité affectée à chaque jeton lorsqu'il apparaît dans la sortie pour favoriser la génération de sorties contenant des jetons qui n'ont pas été utilisés.
- Prédéfinir
-
Paramètre qui fait le meilleur effort pour échantillonner les jetons de manière déterministe. Lorsqu'une valeur est affectée à ce paramètre, le grand modèle de langage vise à renvoyer le même résultat pour les demandes répétées lorsque vous affectez les mêmes valeurs de départ et les mêmes paramètres pour les demandes.
Les valeurs autorisées sont des nombres entiers et l'affectation d'une valeur de départ grande ou petite n'a aucune incidence sur le résultat. L'affectation d'un nombre au paramètre de départ est similaire au marquage de la demande par un nombre. Le grand modèle de langage vise à générer le même ensemble de jetons pour le même entier dans des demandes consécutives. Cette fonction est particulièrement utile pour le débogage et les tests. Le paramètre de départ n'a pas de valeur maximale pour l'API. Dans la console, sa valeur maximale est 9999. Le fait de laisser la valeur de départ vide dans la console ou nulle dans l'API désactive cette fonction.
Avertissement
Il est possible que le paramètre de départ ne produise pas le même résultat à long terme, car les mises à jour du modèle dans le service d'intelligence artificielle générative pour OCI risquent d'invalider la valeur de départ.