Cohere Rerank 4

Comparé à Cohere Rerank 3.5, Rerank 4 ajoute une fenêtre contextuelle plus large, une meilleure qualité de reclassement, une prise en charge de l'auto-apprentissage et deux variantes optimisées pour différentes exigences de charge de travail

Fenêtre contextuelle augmentée

Le Rerank 4 prend en charge une fenêtre de contexte de 32 000 jetons. La fenêtre de contexte plus large améliore la gestion des documents longs et des entrées de candidats plus importantes, ce qui est utile pour les contenus d'entreprise denses tels que les rapports, les contrats, les manuels et la documentation technique.

Amélioration de la qualité de reclassement

Rerank 4 améliore le classement des résultats pour les charges de travail d'extraction d'entreprise. Il fournit un classement plus pertinent pour les contenus commerciaux, financiers, techniques et autres contenus propres à un domaine, ce qui peut améliorer les workflows de génération augmentée par extraction en aval en surfant sur un contexte plus pertinent.

Prise en charge de l'autoapprentissage

Rerank 4 introduit la prise en charge de l'auto-apprentissage, qui aide à adapter le comportement de reclassement aux données, à la terminologie et aux préférences de pertinence propres au domaine sans nécessiter de données d'entraînement annotées.

Variantes Pro et Fast

Rerank 4 est disponible en deux variantes :

• Pro est optimisé pour des tâches de reclassement plus précises et d'extraction plus complexes.
• Fast est optimisé pour les charges de travail à faible latence et à haut débit.

Prise en charge des données multilingues et semi-structurées

Rerank 4 prend en charge le reclassement du contenu en anglais et non en anglais dans plus de 100 langues. Il prend également en charge le contenu semi-structuré, notamment JSON, les tables et le contenu de type code.

Cohere Rerank 4 comprend les variantes de modèle suivantes :

Certaines variantes de Cohere Rerank 4 sont disponibles à la demande dans les régions prises en charge. Le mode à la demande ne nécessite pas de cluster d'IA dédié.

Reportez-vous à Modèles par région pour vérifier quelles variantes de modèle sont disponibles à la demande et dans quelles régions.

La tarification est basée sur 1 000 unités de recherche. Reportez-vous à la page Tarifs.

Découvrez le mode à la demande.

Certaines variantes de Cohere Rerank 4 sont disponibles via des clusters d'IA dédiés dans les régions prises en charge. Ces modèles ne sont pas disponibles pour le réglage fin.

Pour le mode dédié, créez une adresse sur un cluster d'IA dédié d'hébergement.

Pour connaître la tarification, reportez-vous à Outil d'estimation des coûts et à la page Tarification.

Pour utiliser un modèle Cohere Rerank 4, appelez l'API RerankText à partir d'une région prise en charge.

Adresse

https://inference.generativeai.{region}.oci.oraclecloud.com

Opération d'API

POST /20231130/actions/rerankText

Dans RerankTextDetails, pour servingMode, définissez l'attribut servingType en fonction de la façon dont vous voulez accéder au modèle :

• Utilisez ON_DEMAND pour un modèle à la demande dans une région prise en charge.
• Utilisez DEDICATED pour un modèle hébergé sur une adresse de cluster d'IA dédiée.

Pour plus d'informations sur la disponibilité et la configuration, reportez-vous aux sections Mode à la demande et Cluster d'IA dédié pour le modèle précédentes.

Pour les dates de sortie et de sortie et les options de modèle de remplacement, reportez-vous aux pages suivantes en fonction du mode (à la demande ou dédié) :