Cohere Rerank 4

Comparado com o Cohere Rerank 3.5, o Rerank 4 adiciona uma janela de contexto maior, melhor qualidade de reclassificação, suporte de autoaprendizagem e duas variantes otimizadas para diferentes requisitos de carga de trabalho

Maior janela de contexto

O Rerank 4 suporta uma janela de contexto de 32.000 toques. A janela de contexto maior melhora o manuseio de documentos longos e entradas de candidatos maiores, o que é útil para conteúdo corporativo denso, como relatórios, contratos, manuais e documentação técnica.

Melhor qualidade de reclassificação

O Rerank 4 melhora a ordenação de resultados para cargas de trabalho de recuperação empresarial. Ele fornece uma classificação de relevância mais forte para negócios, finanças, conteúdo técnico e outros domínios específicos, o que pode melhorar os fluxos de trabalho de geração aumentados pela recuperação downstream, apresentando um contexto mais relevante.

Suporte de autoaprendizado

O Rerank 4 apresenta o suporte de autoaprendizado, que ajuda a adaptar o comportamento de reclassificação a dados específicos do domínio, terminologia e preferências de relevância sem exigir dados de treinamento anotados.

Variantes Pro e Fast

O Rerank 4 está disponível em duas variantes:

• O Pro é otimizado para reclassificação de precisão mais alta e tarefas de recuperação mais complexas.
• O Fast é otimizado para cargas de trabalho de baixa latência e alto rendimento.

Suporte a dados multilíngues e semiestruturados

O Rerank 4 suporta a reclassificação de conteúdos em inglês e não-inglês em mais de 100 idiomas. Ele também suporta conteúdo semiestruturado, incluindo JSON, tabelas e conteúdo semelhante a código.

Cohere Rerank 4 inclui as seguintes variantes de modelo:

Algumas variantes do Cohere Rerank 4 estão disponíveis sob demanda nas regiões suportadas. O modo sob demanda não requer um cluster de IA dedicado.

Consulte Modelos por Região para verificar quais variantes de modelo estão disponíveis sob demanda e em quais regiões.

O preço é baseado em 1.000 unidades de pesquisa. Consulte a Página de Preços.

Saiba mais sobre o Modo sob Demanda.

Para modelos no modo sob demanda, nenhum cluster é necessário. Acesse-os por meio do playground da Console e da API. Para modelos disponíveis no modo dedicado, use pontos finais criados em clusters de IA dedicados. Saiba mais sobre o Modo Dedicado.

Esses modelos não estão disponíveis para ajuste fino. Para saber as formas de unidade de hardware, as regiões disponíveis, os limites de serviço, as contagens de unidades de IA e a estimativa de custo de um cluster de IA dedicado que hospeda esses modelos, consulte Formas de Unidade de Hardware por Região.

Para usar um modelo Cohere Rerank 4, chame a API RerankText de uma região suportada.

Ponto Final

https://inference.generativeai.{region}.oci.oraclecloud.com

Operação de API

POST /20231130/actions/rerankText

Em RerankTextDetails, para servingMode, defina o atributo servingType com base em como você deseja acessar o modelo:

• Use ON_DEMAND para um modelo sob demanda em uma região suportada.
• Use DEDICATED para um modelo hospedado em um ponto final de cluster de IA dedicado.

Para obter disponibilidade sob demanda, consulte a seção anterior Modo sob Demanda. Para obter formas de unidades de hardware dedicadas e disponibilidade de região, consulte Formas de Unidade de Hardware por Região.

Para datas de lançamento e baixa e opções de modelo de substituição, consulte as seguintes páginas com base no modo (sob demanda ou dedicado):