Implement Oracle Cloud Infrastructure Generative AI based on Cohere Large Language Model
Oracle Cloud Infrastructure Generative AI(OCIジェネレーティブAI)は、テキスト生成のための幅広いユースケースをカバーする、最先端のカスタマイズ可能な大規模言語モデル(LLM)のセットを提供するフルマネージド・サービスです。プレイグラウンド(コンソールのインタフェース)を使用すると、1行のコードを記述せずにホストされた事前トレーニング済およびカスタム・モデルを検索したり、専用AIクラスタ上の独自のデータに基づいて独自のファインチューニング済カスタム・モデルを作成およびホストできます。
- 生成: テキストを生成したり、テキストから情報を抽出するための指示を与えます。
- 要約: 指示された形式、長さ、およびトーンでテキストを要約します。
- 埋込み: アプリケーションでセマンティック検索、テキスト分類またはテキスト・クラスタリングに使用するために、テキストをベクトル埋込みに変換します。
アーキテクチャ
OCI Generative AIプレイグラウンドを使用すると、結果に満足するまで、事前トレーニング済モデルの試行、プロンプトの実行、パラメータの調整、プロンプトの更新およびモデルの再実行できます。その後、コンソールからアプリケーションにコードをコピーできます。
また、事前トレーニング済モデルのコピーを作成し、独自のトレーニング・データセットを追加して、OCI生成AIサービスでモデルをファインチューニングすることもできます。OCI Generative AIは、ファインチューニング用に特別にサイズ設定された強力な専用AIクラスタを使用します。これらのクラスタはテナンシにのみ属します。モデルをファインチューニングした後、カスタム・モデルのエンドポイントを作成し、ホスティング用に設計された専用AIクラスタで、そのモデルをホストします。
OCIでLLMを構築するメリット
ジェネレーティブAIサービス: Oracleは、次世代のエンタープライズ・アプリケーションを構築するための高度な言語理解を備えた大手エンタープライズAIプラットフォームであるCohereと共同でネイティブのジェネレーティブAIサービスを提供します。OCI Generative AIは、APIを介して利用できるフルマネージド・サービスであり、これらの汎用性の高い言語モデルを、執筆支援、要約、チャットなどの幅広いユースケースにシームレスに統合します。
専用AIクラスタ: 専用AIクラスタは、カスタム・モデルを微調整したり、カスタム・モデルのエンドポイントをホストするために使用できるコンピュート・リソースです。クラスタは自分のモデル専用であり、他のテナンシのユーザーと共有されません。カスタム・モデルのOCI生成AIでは、独自のデータを使用してモデルを絞り込むことができます。
カスタム・モデル: OCI生成AIでは、独自のデータを使用してモデルを絞り込むことができます。
ノート:
Oracle Database 23aiでは、新しいAIベクトル類似性検索機能を使用できます。- データ・ストレージ用のOCIオブジェクト・ストレージ。
- モデル構築用のOracle Cloud Infrastructure Data Scienceワークスペース。
- コンピュート用のGPUを備えたOCIジェネレーティブAI。
- UI用のOracle APEX Application Developmentツール。
次の図は、このリファレンス・アーキテクチャを示しています。
oci-generative-ai-llm-arch-oracle.zip
このアーキテクチャには次のコンポーネントがあります。
- リージョン
Oracle Cloud Infrastructureリージョンとは、可用性ドメインと呼ばれる1つ以上のデータ・センターを含む、ローカル化された地理的領域です。リージョンは他のリージョンから独立しており、長距離の場合は(複数の国または大陸にわたって)それらを分離できます。
- 仮想クラウド・ネットワーク(VCN)およびサブネット
VCNは、Oracle Cloud Infrastructureリージョンで設定する、ソフトウェアで定義されたカスタマイズ可能なネットワークです。従来のデータ・センター・ネットワークと同様に、VCNによってネットワーク環境を制御できます。VCNには重複しない複数のCIDRブロックを含めることができ、VCNの作成後にそれらを変更できます。VCNをサブネットにセグメント化して、そのスコープをリージョンまたは可用性ドメインに設定できます。各サブネットは、VCN内の他のサブネットと重複しない連続した範囲のアドレスで構成されます。サブネットのサイズは、作成後に変更できます。サブネットはパブリックにもプライベートにもできます。
- オブジェクト・ストレージ
オブジェクト・ストレージでは、データベースのバックアップ、分析データ、イメージやビデオなどのリッチ・コンテンツなど、あらゆるコンテンツ・タイプの構造化データおよび非構造化データにすばやくアクセスできます。インターネットから直接またはクラウド・プラットフォーム内から、安全かつセキュアにデータを格納し、取得できます。パフォーマンスやサービスの信頼性を低下させることなく、ストレージを拡張できます。迅速、即時、頻繁にアクセスする必要のあるホット・ストレージには、標準ストレージを使用します。長時間保持し、ほとんどまたはめったにアクセスしないコールド・ストレージには、アーカイブ・ストレージを使用します。
- データ・サイエンス
Oracle Cloud Infrastructure Data Scienceは、データ・サイエンス・チームがOracle Cloud Infrastructure (OCI)で機械学習(ML)モデルを作成、トレーニングおよび管理するために使用できる、完全に管理されたサーバーレス・プラットフォームです。Oracle Autonomous Data Warehouse、Oracle Cloud Infrastructure Object Storageなどの他のOCIサービスと簡単に統合できます。企業の信頼できるデータを迅速に機能させることで、ビジネスの柔軟性を高める高品質の機械学習モデルを構築および評価できます。また、MLモデルの導入が容易なデータ主導のビジネス目標をサポートできます。
- Oracle Database 23ai (AIベクトル検索)
Oracle Database 23aiは、新しいマイクロサービス、グラフ、ドキュメント、リレーショナル・アプリケーションを構築しようとしている開発者向けに、最も完全でシンプルなコンバージド・データベースを提供します。
Oracleは、AIベクトルを使用したセマンティック検索機能をOracle Database 23aiに追加しました。AIベクトル検索と呼ばれる機能のコレクションには、新しいベクトル・データ型、ベクトル索引およびベクトル検索SQL演算子が含まれており、Oracle Databaseはドキュメント、イメージおよびその他の非構造化データのセマンティック・コンテンツをベクトルとして格納し、これらを使用して高速類似性問合せを実行できます。詳細は、「詳細の確認」セクションの「ブログ」リンクを参照してください。