11 ONNX形式での事前トレーニング済モデルのインポート

Oracle AI Database 26aiには、データベース内で埋込みモデルを直接実行するためのONNX Runtimeエンジンが含まれています。この項では、既存の事前トレーニング済埋込みモデルをOracle AI Databaseにインポートするプロセスについて説明します。これには、モデルがまだ変換されていない場合のONNX形式への変換も含まれます。

Open Neural Network Exchange (ONNX)は、機械学習モデルのオープン・スタンダードな形式です。次のユースケースについて考えます。
  • 類似検索でのテキストやイメージなどの複雑なメディア入力の使用
  • テキスト分類の実行
  • 再ランク付けの実行

前述のすべてのタスクを実行するには、メディア入力のベクトル埋込みが必要です。ONNXパイプライン・モデルでは、テキスト・モデルまたはイメージ・モデル(あるいはその両方)がONNX形式でない場合はONNX形式に変換し、ONNX形式モデルをOracle AI Databaseにインポートして、データベース内のデータから埋込みを生成できます。データベースにインポートされたONNX形式モデルは、検索や分類などのタスクに使用できます。

事前トレーニング済モデルは、メディア・データ(テキスト、イメージなど)ですでにトレーニングされ、将来使用するためにストレージ形式に保存されたモデルです。Hugging Faceは、通常PyTorchで作成される事前トレーニング済モデルをホストする最も一般的なプラットフォームです。

この表は、機械学習モデルと、それぞれの簡単な説明、モデル・サイズおよびPARダウンロード・リンクを示しています。

モデル名 説明 次元 サイズ(MB) 最終更新日 ダウンロード
all_MiniLM_L12_v2 これは、セマンティック類似性検索およびクラスタリングのユースケースに適したSentenceTransformersモデルです。 384 116.92 7/15/2024 リンク
multilingual_e5_base これは、100言語に対応した多言語文トランスフォーマ・モデルです。テキスト埋込み、翻訳および多言語理解をサポートします。多言語タスク用に768次元の埋込みを備えた12層を特徴とします。 768 1040 2/17/2024 リンク
multilingual_e5_small これは、100言語に対応した多言語文トランスフォーマ・モデルです。テキスト埋込み、翻訳または多言語理解をサポートします。効率性のために最適化され、複数の言語を処理しながらも、より小さいサイズを保つことで、推論の速度を高め、計算要件を削減できます。 384 76.8 9/9/2024 リンク
clip_vit_base_patch32_txt これは、CLIPイメージ・エンコーダと互換性のある埋込みを生成するテキスト・エンコーダです。テキスト説明とイメージ間でのtext-to-image検索および類似性照合が可能になります。 512 243.57 1/29/2021 リンク
clip_vit_base_patch32_img これは、CLIPテキスト・エンコーダと互換性のある埋込みを生成するイメージ・エンコーダです。イメージとテキスト説明間でのimage-to-text検索および類似性照合が可能になります。 512 335.38 1/29/2021 リンク
Pythonパッケージoml.utilsには、ONNXPipeline、ONNXPipelineConfigおよびMiningFunctionの3つのクラスが含まれています。このパッケージでは、ONNXパイプラインの生成およびエクスポートを処理し、必要な前処理および後処理ステップも含まれています。
  • ONNXPipeline: 事前トレーニング済モデルをインポートできます(独自の事前トレーニング済モデルまたはHugging Faceのサポートされているいずれかのモデル)
  • ONNXPipelineConfig: 事前トレーニング済モデルの属性を構成できます(独自の事前トレーニング済モデルまたはHugging Faceのサポートされているいずれかのモデル)。
  • MiningFunction: 次のマイニング・オプションのいずれかを選択できます:
    • EMBEDDING: テキストおよびイメージの埋込みに対応します
    • CLASSIFICATION: テキスト分類に対応します
    • REGRESSION: 再ランク付けに対応します

警告:

EmbeddingModelおよびEmbeddingModelConfigは非推奨です。かわりに、ONNXPipelineおよびONNXPipelineConfigをそれぞれ使用してください。非推奨クラスの詳細は、「事前トレーニング済モデルをONNXモデルに変換するPythonクラス(非推奨)」を参照してください。非推奨のクラスを使用した場合は、警告メッセージが表示されて、そのクラスが将来削除されることが示され、新しいクラスに切り替えるようにユーザーに通知されます。

ONNXパイプライン・モデルは、テキスト埋込み、イメージ埋込み、マルチモーダル埋込み、テキスト分類および再ランク付けに使用できます。