サポートされるサードパーティ・プロバイダの操作およびエンドポイント

様々なベクトル生成、集計、テキスト生成および再ランク付け操作でサポートされているサードパーティのRESTプロバイダおよびRESTエンドポイントのリストを示します。

パブリックまたはリモートのRESTエンドポイント・プロバイダ

サポートされているパブリックにホストされたサードパーティRESTエンドポイント・プロバイダは次のとおりです:

  • Cohere

  • Google AI

  • Hugging Face

  • Oracle Cloud Infrastructure (OCI)生成AI

  • OpenAI

  • Vertex AI

ローカルRESTエンドポイント・プロバイダ

Ollamaは、Linux、WindowsおよびmacOSシステムでローカルおよびプライベートのサードパーティRESTエンドポイント・プロバイダとして使用できます。

Ollamaは、オープンLLM (Llama 3、Phi 3、Mistral、Gemma 2など)および埋込みモデル(mxbai-embed-large、nomic-embed-text、all-minilmなど)を実行できる、無料でオープンソースのコマンドライン・インタフェース・ツールです。OllamaにはSQLおよびPL/SQLコマンドを使用してアクセスできます。

https://ollama.com/downloadからOllamaアプリケーションをダウンロードして実行できます。Ollamaは、バックグラウンドで実行されるサービスとしてインストールすることも、手動インストールによるスタンドアロン・バイナリとしてインストールすることもできます。インストール固有のステップの詳細は、Ollamaドキュメントのクイック・スタートを参照してください。

REST操作

サポートされているサードパーティのREST操作およびAPIと、対応するRESTプロバイダを次に示します:

操作 プロバイダ API

埋込みの生成:

テキスト文書とイメージを1つ以上のベクトル埋込みに変換する

  • テキスト入力の場合:

    サポートされているすべてのパブリックおよびローカルのプロバイダ

  • イメージ入力の場合:

    Vertex AI

サマリーの生成:

テキスト・ドキュメントから簡潔で包括的な要約を抽出する

サポートされているすべてのパブリックおよびローカルのプロバイダ

テキストの生成:

LLMと会話してテキスト・プロンプトおよびイメージの説明の応答を取得する

  • テキスト入力の場合:

    サポートされているすべてのパブリックおよびローカルのプロバイダ

  • イメージ入力の場合:

    Google AI、Hugging Face、OpenAI、Ollama、Vertex AI

結果の再ランク付け:

検索結果を再評価および順序変更して、より関連性の高い出力を取得する

CohereとVertex AI

RESTエンドポイント

すべてのサードパーティRESTプロバイダでサポートされているRESTエンドポイントは次のとおりです:

API プロバイダ エンドポイント

UTL_TO_EMBEDDING

および

UTL_TO_EMBEDDINGS

Cohere

https://api.cohere.ai/v1/embed

生成AI

https://inference.generativeai.us-chicago-1.oci.oraclecloud.com/20231130/actions/embedText

Google AI

https://generativelanguage.googleapis.com/v1beta/models/

Hugging Face

https://api-inference.huggingface.co/pipeline/feature-extraction/

Ollama

http://localhost:11434/api/embeddings

OpenAI

https://api.openai.com/v1/embeddings

Vertex AI

https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT/locations/LOCATION/publishers/google/models/

UTL_TO_SUMMARY

Cohere

https://api.cohere.ai/v1/chat

https://api.cohere.ai/v1/summarize

生成AI

https://inference.generativeai.us-chicago-1.oci.oraclecloud.com/20231130/actions/chat

Google AI

https://generativelanguage.googleapis.com/v1beta/models/

Hugging Face

https://api-inference.huggingface.co/models/

Ollama

http://localhost:11434/api/generate

OpenAI

https://api.openai.com/v1/chat/completions

https://api.openai.com/v1/completions

Vertex AI

https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT/locations/LOCATION/publishers/google/models/

UTL_TO_GENERATE_TEXT

Cohere

https://api.cohere.ai/v1/chat

https://api.cohere.ai/v1/generate

生成AI

https://inference.generativeai.us-chicago-1.oci.oraclecloud.com/20231130/actions/chat

Google AI

https://generativelanguage.googleapis.com/v1beta/models/

Hugging Face

https://api-inference.huggingface.co/models/

Ollama

http://localhost:11434/api/generate

OpenAI

https://api.openai.com/v1/chat/completions

https://api.openai.com/v1/completions

Vertex AI

https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT/locations/LOCATION/publishers/google/models/

RERANK

Cohere

https://api.cohere.com/v1/rerank

Vertex AI

https://discoveryengine.googleapis.com/v1/projects/PROJECT/locations/global/rankingConfigs/default_ranking_config:rank

生成AIでサポートされているモデル

各REST APIに対応する生成AIでの使用がサポートされているサードパーティ・モデルを次に示します:

API モデル

UTL_TO_EMBEDDING

および

UTL_TO_EMBEDDINGS

cohere.embed-english-v3.0

cohere.embed-multilingual-v3.0

cohere.embed-english-light-v3.0

cohere.embed-multilingual-light-v3.0

UTL_TO_SUMMARY

cohere.command-r-16k

cohere.command-r-plus

meta.llama-3.1-70b-instruct

meta.llama-3.1-405b-instruct

UTL_TO_GENERATE_TEXT

cohere.command-r-16k

cohere.command-r-plus

meta.llama-3.1-70b-instruct

meta.llama-3.1-405b-instruct

親トピック: LLMを利用したAPIおよび検索拡張生成の操作