Cohere Rerank 4

Cohere Rerank 3.5と比較して、Rerank 4は、より大きなコンテキスト・ウィンドウ、再ランク付けの品質向上、セルフラーニング・サポート、および異なるワークロード要件に最適化された2つのバリアントを追加します。

コンテキスト・ウィンドウの増加

Rerank 4では、32,000トークンのコンテキスト・ウィンドウがサポートされています。コンテキスト・ウィンドウが大きいほど、長い文書の処理が改善され、候補者入力が大きくなります。これは、レポート、契約、マニュアル、技術文書などの密度の高いエンタープライズ・コンテンツに役立ちます。

再ランキング品質の向上

Rerank 4では、エンタープライズ取得ワークロードの結果の順序付けが改善されています。ビジネス、財務、技術、その他のドメイン固有のコンテンツに対してより強力な関連性ランキングを提供します。これにより、より関連性の高いコンテキストを表示することで、下流の検索拡張生成ワークフローを改善できます。

セルフラーニングのサポート

Rerank 4では、自己学習サポートが導入され、注釈付きトレーニング・データを必要とせずに、再ランク付けの動作をドメイン固有のデータ、用語および関連性プリファレンスに適応させるのに役立ちます。

ProおよびFastバリアント

Rerank 4は、次の2つのバリアントで使用できます。

• Proは、より精度の高い再ランク付けおよびより複雑な取得タスク用に最適化されています。
• 高速は、低レイテンシで高スループットのワークロード用に最適化されています。

多言語および半構造化データのサポート

Rerank 4は、100以上の言語にわたる英語および英語以外のコンテンツの再ランク付けをサポートしています。また、JSON、表、コードのようなコンテンツなど、半構造化コンテンツもサポートしています。

Cohere Rerank 4には、次のモデル・バリアントが含まれています。

一部のCohere Rerank 4バリアントは、サポートされているリージョンでオンデマンドで使用できます。オンデマンド・モードでは、専用のAIクラスタは必要ありません。

オンデマンドで使用可能なモデル・バリアントおよびリージョンを確認するには、リージョン別モデルを参照してください。

価格は1,000件の検索ユニットに基づいています。価格ページを参照してください。

オンデマンド・モードについて学習します。

一部のCohere Rerank 4バリアントは、サポートされているリージョンの専用AIクラスタを介して使用できます。これらのモデルはファインチューニングに使用できません。

専用モードの場合は、ホスティング専用AIクラスタにエンドポイントを作成します。

価格については、原価試算ツールおよび価格ページを参照してください。

Cohere Rerank 4モデルを使用するには、サポートされているリージョンからRerankText APIをコールします。

エンドポイント

https://inference.generativeai.{region}.oci.oraclecloud.com

API操作

POST /20231130/actions/rerankText

RerankTextDetailsのservingModeで、モデルへのアクセス方法に基づいてservingType属性を設定します。

• サポートされているリージョンのオンデマンド・モデルには、ON_DEMANDを使用します。
• 専用AIクラスタ・エンドポイントでホストされているモデルには、DEDICATEDを使用します。

可用性および設定の詳細は、前述のオンデマンド・モードおよびモデルの専用AIクラスタの項を参照してください。

リリース日およびリタイア日および置換モデル・オプションについては、モード(オンデマンドまたは専用)に基づいて次のページを参照してください。