Cohere Rerank 4

Cohere Rerank 3.5と比較して、Rerank 4は、より大きなコンテキスト・ウィンドウ、再ランク付けの品質向上、セルフラーニング・サポート、および異なるワークロード要件に最適化された2つのバリアントを追加します。

コンテキスト・ウィンドウの増加

Rerank 4では、32,000トークンのコンテキスト・ウィンドウがサポートされています。コンテキスト・ウィンドウが大きいほど、長い文書の処理が改善され、候補者入力が大きくなります。これは、レポート、契約、マニュアル、技術文書などの密度の高いエンタープライズ・コンテンツに役立ちます。

再ランキング品質の向上

Rerank 4では、エンタープライズ取得ワークロードの結果の順序付けが改善されています。ビジネス、財務、技術、その他のドメイン固有のコンテンツに対してより強力な関連性ランキングを提供します。これにより、より関連性の高いコンテキストを表示することで、下流の検索拡張生成ワークフローを改善できます。

セルフラーニングのサポート

Rerank 4では、自己学習サポートが導入され、注釈付きトレーニング・データを必要とせずに、再ランク付けの動作をドメイン固有のデータ、用語および関連性プリファレンスに適応させるのに役立ちます。

ProおよびFastバリアント

Rerank 4は、次の2つのバリアントで使用できます。

• Proは、より精度の高い再ランク付けおよびより複雑な取得タスク用に最適化されています。
• 高速は、低レイテンシで高スループットのワークロード用に最適化されています。

多言語および半構造化データのサポート

Rerank 4は、100以上の言語にわたる英語および英語以外のコンテンツの再ランク付けをサポートしています。また、JSON、表、コードのようなコンテンツなど、半構造化コンテンツもサポートしています。

Cohere Rerank 4には、次のモデル・バリアントが含まれています。

一部のCohere Rerank 4バリアントは、サポートされているリージョンでオンデマンドで使用できます。オンデマンド・モードでは、専用のAIクラスタは必要ありません。

オンデマンドで使用可能なモデル・バリアントおよびリージョンを確認するには、リージョン別モデルを参照してください。

価格は1,000件の検索ユニットに基づいています。価格ページを参照してください。

オンデマンド・モードについて学習します。

オンデマンド・モードのモデルの場合、クラスタは必要ありません。コンソール・プレイグラウンドおよびAPIからアクセスします。専用モードで使用可能なモデルの場合は、専用AIクラスタで作成されたエンドポイントを使用します。専用モードについて学習します。

これらのモデルはファインチューニングに使用できません。これらのモデルをホストする専用AIクラスタのハードウェア・ユニット・シェイプ、使用可能なリージョン、サービス制限、AIユニット数およびコスト見積りについては、リージョン別のハードウェア・ユニット・シェイプを参照してください。

Cohere Rerank 4モデルを使用するには、サポートされているリージョンからRerankText APIをコールします。

エンドポイント

https://inference.generativeai.{region}.oci.oraclecloud.com

API操作

POST /20231130/actions/rerankText

RerankTextDetailsのservingModeで、モデルへのアクセス方法に基づいてservingType属性を設定します。

• サポートされているリージョンのオンデマンド・モデルには、ON_DEMANDを使用します。
• 専用AIクラスタ・エンドポイントでホストされているモデルには、DEDICATEDを使用します。

オンデマンド可用性については、前述の「オンデマンド・モード」の項を参照してください。専用のハードウェア・ユニット・シェイプおよびリージョンの可用性については、リージョン別のハードウェア・ユニット・シェイプを参照してください。

リリース日およびリタイア日および置換モデル・オプションについては、モード(オンデマンドまたは専用)に基づいて次のページを参照してください。