Cohere Rerank 4

Rispetto a Cohere Rerank 3.5, Rerank 4 aggiunge una finestra di contesto più ampia, una qualità di reranking migliorata, il supporto ad autoapprendimento e due varianti ottimizzate per i diversi requisiti del carico di lavoro

Finestra contestuale aumentata

Rerank 4 supporta una finestra di contesto da 32.000 token. La finestra di contesto più ampia migliora la gestione di documenti lunghi e input dei candidati più grandi, il che è utile per contenuti aziendali completi come report, contratti, manuali e documentazione tecnica.

Migliore qualità di reranking

Rerank 4 migliora l'ordinazione dei risultati per i carichi di lavoro di recupero aziendali. Fornisce una classificazione di rilevanza più solida per i contenuti aziendali, finanziari, tecnici e di altro tipo specifici del dominio, che possono migliorare i flussi di lavoro di retrieval-augmented generation a valle emergendo un contesto più pertinente.

Supporto per l'autoapprendimento

Rerank 4 introduce il supporto di autoapprendimento, che aiuta ad adattare il comportamento di ri-classificazione a dati, terminologia e preferenze di pertinenza specifici del dominio senza richiedere dati di formazione annotati.

Varianti Pro e Fast

Rerank 4 è disponibile in due varianti:

• Pro è ottimizzato per la ridefinizione della precisione più elevata e per task di recupero più complessi.
• Fast è ottimizzato per carichi di lavoro a latenza inferiore e con throughput più elevato.

Supporto dati multilingue e semi-strutturato

Rerank 4 supporta il reranking per contenuti in inglese e non in inglese in più di 100 lingue. Supporta anche contenuti semi-strutturati, tra cui JSON, tabelle e contenuti simili al codice.

Cohere Rerank 4 include le seguenti varianti di modello:

Alcune varianti di Cohere Rerank 4 sono disponibili on-demand nelle aree supportate. La modalità on-demand non richiede un cluster AI dedicato.

Vedere Modelli per area per verificare quali varianti di modello sono disponibili su richiesta e in quali aree.

La determinazione dei prezzi si basa su 1.000 unità di ricerca. Vedere la pagina Determinazione prezzi.

Informazioni sulla modalità On-Demand.

Per i modelli in modalità on-demand, non sono necessari cluster. Accedervi tramite il parco giochi e l'API della console. Per i modelli disponibili in modalità dedicata, utilizzare gli endpoint creati su cluster AI dedicati. Ulteriori informazioni sulla modalità dedicata.

Questi modelli non sono disponibili per l'ottimizzazione. Per le forme delle unità hardware, le aree disponibili, i limiti del servizio, i conteggi delle unità AI e la stima dei costi per un cluster AI dedicato che ospita questi modelli, vedere Forme delle unità hardware per area.

Per utilizzare un modello Cohere Rerank 4, chiamare l'API RerankText da un'area supportata.

Endpoint

https://inference.generativeai.{region}.oci.oraclecloud.com

Operazione API

POST /20231130/actions/rerankText

In RerankTextDetails, per servingMode, impostare l'attributo servingType in base a come si desidera accedere al modello:

• Utilizzare ON_DEMAND per un modello su richiesta in un'area supportata.
• Utilizzare DEDICATED per un modello ospitato su un endpoint cluster AI dedicato.

Per informazioni sulla disponibilità su richiesta, vedere la sezione Modalità su richiesta precedente. Per informazioni sulle forme di unità hardware dedicate e sulla disponibilità dell'area, vedere Hardware Unit Shapes by Region.

Per le date di rilascio e ritiro e le opzioni del modello di sostituzione, vedere le seguenti pagine in base alla modalità (on-demand o dedicata):