Passez en revue les tests d'évaluation des performances du modèle cohere.rerank.3-5 (Cohere Rerank 3.5) hébergé sur une unité RERANK_COHERE d'un cluster d'IA dédié dans OCI Generative AI.
Un modèle de rerank prend une requête et une liste de textes en entrée et classe les textes en fonction de leur score de pertinence pour la requête, c'est-à-dire la façon dont chaque texte correspond à la requête.
- Rerank 3.5 - Scénarios de référence
-
- La requête est 100 jetons pour tous les scénarios.
- Tous les scénarios n'ont qu'un seul document annexe de 10 000 jetons de long.
- Chaque scénario divise ce document de 10 000 jetons en fonction d'un paramètre
max_tokens_per_doc. Il peut prendre les valeurs 64, 128, 256, 512, 1024, 2048 et 4096.
- La taille maximale du bloc est de 4096 jetons, qui est le nombre maximal de jetons qu'un modèle Rerank 3.5 peut traiter en une seule passe.
- Etant donné que le document est long de 10 000 jetons et que la longueur du contexte du modèle est de 4096 jetons, dans tous les scénarios, le document est divisé en blocs.
- Chaque bloc comprend :
- Ajout de jetons : pour vous assurer que l'entrée correspond au format attendu du modèle.
- Requête : 100 jetons.
- Section de document : par exemple, pour un jeton
max_tokens_per_doc de type 4096, chaque bloc inclut l'une des sections de document suivantes :
- Section 1 du document : Document de 0 à 3 992 jetons.
- Section 2 du document : Document de 3 993 à 7 985 jetons.
- Section 3 du document : Document de 7 986 à 9 999 jetons. Cette section est plus petite que les deux autres sections, car le document ne contient que 10 000 jetons.
- Chaque scénario de référence est défini par R(max_tokens_per_doc, 100).
- Consultez les détails du modèle et les sections suivantes :
- Régions disponibles pour ce modèle.
- Clusters d'IA dédiés pour héberger ce modèle.
- Consultez les mesures.