生成AIアクションによるテキストの生成、埋込みまたは再ランク付け

機能

OCI Generative AIは、チャット、テキスト埋込みの生成、テキストの再ランク付けなど、さまざまなユースケース向けにカスタマイズ可能な大規模言語モデル(LLM)を提供するフル・マネージドAIサービスです。 Oracle Integrationは、生成AIアクションとの統合でのOCI生成AIの使用をサポートしています。

OCI生成AIを使用すると、次のアクションを実行できます:

チャット: テキストを生成するようにOCI生成AIチャット・モデルにプロンプトを表示できます。質問をしたり、テキストの回答を得ることができます。このアクションの場合、OCI生成AIは質問またはリクエストにテキスト・レスポンスを返します。また、チャットの一部としてイメージを含めることもでき、レスポンスの提供に使用されます。 OCI Generative AIのチャット・モデルにより、アイデアのブレーンストーミング、質問への回答の取得、説明やコンテンツの記述、概念の説明、イメージ分析の実行などを行うことができます。
EmbedText: OCI生成AIを使用して、指定したテキストの埋込みを作成できます。テキストには、フレーズ、文または1つ以上の段落を指定できます。埋込みは、テキストの数値表現です。埋込みは、キーワードやテキスト分類などではなく、テキストの意味に基づいて検索する場合、テキスト間の類似性を検索する場合に役立ちます。このアクションでは、OCI生成AIが埋込み結果を返します。
再ランク: 入力文書およびプロンプトに基づいてテキスト応答を再ランク付けできます。再ランクでは、プロンプトに最も関連しているドキュメントを示す索引と関連スコアが各ドキュメントに割り当てられます。

「生成AI」を参照してください。

前提条件

Oracle Cloudコンソールで満たす必要のある前提条件の詳細は、前提条件を参照してください。

統合からのOracle Cloud Infrastructure生成AIの起動

次のいずれかの方法で、「生成AI」アクションを統合に追加します:
- キャンバスの横にある「アクション」をクリックし、「OCI生成AI」アクションを適切なロケーションにドラッグします。
- OCI生成AIアクションを追加するロケーションのをクリックし、「OCI生成AI」を選択します。
名前とオプションの説明を入力し、「続行」をクリックします。

次の情報を選択し、「続行」をクリックします。

要素	説明
カテゴリの選択	使用する次のカテゴリのいずれかを選択します。オンデマンド: このオプションを使用すると、事前トレーニング済の基本モデル(オンデマンド・モデル)を使用して、独自のモデルを作成することなく、OCI生成AIを使用してアクションを実行できます。事前トレーニング済モデルにより、データ・サイエンスの経験がなくてもAIを使用できます。専用: このオプションを使用すると、カスタム・モデルのファインチューニングやエンドポイントのホスティングにコンピュート・リソースを使用できます。 AIクラスタはモデル専用で、他の顧客と共有されません。このオプションを使用する場合は、独自のエンドポイントをプロビジョニングできます。
アクション	「オンデマンド」カテゴリを選択した場合は、次のいずれかのアクションを選択します。チャット EmbedText 「専用」カテゴリを選択した場合は、次のいずれかのアクションを選択します。チャット再ランク付け EmbedText

要素

説明

カテゴリの選択

使用する次のカテゴリのいずれかを選択します。

オンデマンド: このオプションを使用すると、事前トレーニング済の基本モデル(オンデマンド・モデル)を使用して、独自のモデルを作成することなく、OCI生成AIを使用してアクションを実行できます。事前トレーニング済モデルにより、データ・サイエンスの経験がなくてもAIを使用できます。
専用: このオプションを使用すると、カスタム・モデルのファインチューニングやエンドポイントのホスティングにコンピュート・リソースを使用できます。 AIクラスタはモデル専用で、他の顧客と共有されません。このオプションを使用する場合は、独自のエンドポイントをプロビジョニングできます。

アクション

「オンデマンド」カテゴリを選択した場合は、次のいずれかのアクションを選択します。

チャット
EmbedText

「専用」カテゴリを選択した場合は、次のいずれかのアクションを選択します。

チャット
再ランク付け
EmbedText

次の情報を選択し、「続行」をクリックします。

要素	説明
リージョン	使用するリージョンを選択します。ノート: OCIがプロビジョニングされているリージョンを選択してください。
コンパートメント	Oracle IntegrationがインストールされているOracle Cloud Infrastructureコンパートメントを選択します。
モデル	このフィールドは、ステップ3で「オンデマンド」カテゴリおよび「チャット」処理を選択した場合にのみ使用できます。生成AIアクションのモデルを選択します。「GENERIC(llama)」を選択すると、すべてのMeta Llamaモデルが「モデルID」フィールドに選択対象としてリストされます。 COHEREを選択すると、すべてのCohereモデルが選択対象として「モデルID」フィールドにリストされます。
モデルID	このフィールドは、ステップ3で「オンデマンド」カテゴリおよび「チャット」またはEmbedTextアクションを選択した場合にのみ使用できます。使用するモデルIDを選択します。
エンドポイント	このフィールドは、ステップ3で「再ランク付け」処理を選択した場合にのみ使用できます。使用するエンドポイントを選択します。
エンドポイントID	このフィールドは、ステップ3で「専用」カテゴリおよび「チャット」またはEmbedTextアクションを選択した場合にのみ使用できます。使用するエンドポイントIDを選択します。

「サマリー」ページで「終了」をクリックします。
マッパーを開き、必要に応じてソース要素とターゲット要素間のマッピングを定義します。
「チャット」アクションの場合は、次のステップを実行します。
1. 「ターゲット」セクションで最上位のリクエスト・ノードを展開します。
2. 「ターゲット」セクションの最上位リクエスト・ノード内で、「リクエスト・ラッパー」を展開し、「チャット・リクエスト」を展開し、「メッセージ」を展開して、「コンテンツ」を展開します。
3. 「コンテンツ」内で、「テキスト」を右クリックし、「ターゲット・ノードの作成」を選択します。
4. 式ビルダーで「設計ビュー」をクリックします。
5. 式ビルダーでテキスト・ターゲット要素に対するリクエストを指定することで、OCI生成AIチャット・モデルにテキストを生成するように要求できます。式ビルダーで、質問する質問を入力するか、必要な情報('Tell me about ELE'など)を指定します。
6. また、チャットの一部としてイメージを含めることもできます。ベース64形式で送信する必要があります。イメージURLは、ターゲットの「URL」要素(「イメージURL」内)で指定する必要があります。
  ノート:
  オプションで、ステップ4の実行時に最初に選択した次の値をマッパーで上書きできます。
  - コンパートメントID: これを使用して、デプロイするモデルに対して選択されたデフォルトのコンパートメントをオーバーライドするコンパートメントIDを指定します。
  - APIフォーマット(モデル): モデル・サービングに使用されるデフォルトのAPIフォーマットをオーバーライドする場合に使用します。
  - モデルID: これを使用して、最初に選択したモデル識別子を上書きします。
  servingType、Citation Quality、Preamble Override、Top p/Temperatureなどのチューニング・パラメータなど、選択したモデルに基づいて、必要に応じてマッパー内の他のフィールドを構成することもできます。 CohereChatRequestリファレンスを参照してください。
EmbedTextアクションの場合は、次のステップを実行します。
1. 「ターゲット」セクションで最上位のリクエスト・ノードを展開します。
2. 「ターゲット」セクションの最上位リクエスト・ノード内で、「リクエスト・ラッパー」を展開し、「本文」を展開します。
3. 「本文」で、「入力」を右クリックし、「ターゲット・ノードの作成」を選択します。
4. 式ビルダーで「設計ビュー」をクリックします。
5. 「入力」ターゲット要素の場合、式ビルダーで、OCI生成AIで埋込みを生成する必要があるテキストを指定します。
6. 「入力タイプ」を右クリックし、「ターゲット・ノードの作成」を選択します。
7. オプションで、「入力タイプ」ターゲット要素を使用して入力タイプを指定できます。
  オプションで、「コンパートメントID」、「モデルID」、「エコー」など、マッパーで必要に応じて他のフィールドを構成することもできます。
「再ランク付け」アクションの場合は、次のステップを実行します。
1. 「ターゲット」セクションで最上位のリクエスト・ノードを展開します。
2. 「ターゲット」セクションの最上位リクエスト・ノード内で、「リクエスト・ラッパー」を展開し、「本文」を展開します。
3. 「本文」で、各「ドキュメント」要素を右クリックし、「ターゲット・ノードの作成」を選択します。
4. 式ビルダーで「設計ビュー」をクリックします。
5. 「ドキュメント」ターゲット要素ごとに、式ビルダーで、再ランク付けするドキュメントを指定します。これは、指定したクエリーに基づいて再ランク付けするドキュメント文字列のリストです。
6. 「入力」を右クリックし、「ターゲット・ノードの作成」を選択します。
7. 「入力」ターゲット要素の式ビルダーで、入力テキスト(ドキュメント内の検索の入力問合せ)を指定します。
  オプションで、「コンパートメントID」、「エンドポイントID」、「エコー」など、マッパーで必要に応じて他のフィールドを構成することもできます。
マッパーを終了します。
生成AIアクションが構成されました。
選択したアクションに基づいて統合をアクティブ化して実行すると、次のようになります。
- チャット: 質問に対するテキスト・レスポンスを提供します。
- EmbedText: 指定したテキストの埋込みを提供します。
- 再ランク: 指定した入力問合せに基づいて、各ドキュメントに索引および関連性スコアを提供します。