9 LLMを利用したAPIおよび検索拡張生成の操作

ベクトル・ユーティリティのPL/SQL APIを使用すると、LLMを利用したインタフェースを使用して、テキスト・プロンプトおよびイメージを大規模言語モデル(LLM)のプロンプトに指定できます。また、より正確で有益な応答の生成に役立つ検索拡張生成(RAG)の実装を通じて、LLMとやり取りすることもできます。

• LLMを利用するAPIを使用したサマリーおよびテキストの生成
  テキスト入力およびイメージを要約または説明する方法を確認するには、これらのエンドツーエンドの例を実行します。
• 検索拡張生成を使用したLLMの補完
  RAGを使用すると、LLMの使用時に直面する不正確さとハルシネーションを軽減できます。Oracle AI Vector Searchでは、DBMS_VECTOR_CHAIN PL/SQLパッケージまたは一般的なフレームワーク(LangChainなど)を使用して、Oracle Database内でRAGを有効にします。
• サポートされるサードパーティ・プロバイダの操作およびエンドポイント
  様々なベクトル生成、要約、テキスト生成および再ランキング操作でサポートされるサードパーティのRESTプロバイダおよびRESTエンドポイントのリストを示します。