生成AIでのデータ処理

推論リクエストは、インポートされたモデルをホストする専用AIクラスタで実行されます。Hugging Faceからモデルをインポートすると、デプロイメント用のモデル・アーティファクトが取得されます。推論リクエストをHugging Faceに送信しません。「インポートの互換性のあるモデル」を参照してください。

このサービスでは、モデルの推論の一部としてプロンプトおよび応答は保持されません。モデル・プロバイダは、独自のモデル・トレーニングやモデル改善、その他の独立した目的では使用しません。

OCI機能を使用して、アプリケーションのレスポンス、会話、ファイルまたはメモリーを保存できます。このコンテンツの管理方法については、「格納されたレスポンス、会話、ファイルおよびメモリー」を参照してください。

インポート・ワークフローには、重み、構成、トークン化ファイルなどのモデル・ファイルが必要です。モデルのトレーニングに使用されるデータセットは必要ありません。

サービスの外部で微調整した互換性のあるモデルをインポートできます。OCI Generative AIでは、インポートされたモデルは微調整されません。「ファインチューニング・モデルのインポート」を参照してください。

インポートされたモデル・リソースを削除できます。このリソースは、個々の推論リクエストとは別に管理します。「インポートされたモデルの削除」を参照してください。

プロンプトは専用AIクラスタのモデルによって処理され、推論のために外部プロバイダに送信されません。クラスタは自分のモデル専用であり、他の顧客と共有しません。Dedicated AI Clustersを参照してください。

このサービスでは、モデルの推論の一部としてプロンプトおよび応答は保持されません。モデル・プロバイダは、独自のモデル・トレーニングやモデル改善、その他の独立した目的では使用しません。

OCI機能を使用して、アプリケーションのレスポンス、会話、ファイルまたはメモリーを保存できます。このコンテンツの管理方法については、「格納されたレスポンス、会話、ファイルおよびメモリー」を参照してください。

現在、サービスでファインチューニングに使用できるモデルは、標準のMeta Llama 3.3 (70B)モデル(meta.llama-3.3-70b-instruct)のみです。ファインチューニングは、サポートされている商用(OC1)リージョンで使用できます。動的FP8バリアントは、ファインチューニングに使用できません。

このサービスは、トレーニング・ジョブが完了すると、ファインチューニング・クラスタからトレーニング・データを削除します。ソース・データセットは、管理するObject Storageバケットに残ります。また、結果のカスタム・モデルを個別のリソースとして管理します。

このサービスは、ファインチューニング・トレーニング・データやファインチューニング・カスタム・モデルをサードパーティのモデル・プロバイダと共有しません。トレーニング・データはカスタム・モデルの構築にのみ使用され、一般的なOCI生成AIモデルの改善には使用されません。生成AIでのベース・モデルのファインチューニングを参照してください。

トレーニング・データのファインチューニングは、保存時と転送時に暗号化されます。暗号化および鍵管理の詳細は、Encryptionを参照してください。

「リージョン別モデル」で、リクエストに対応するモデルとOCIリージョンを見つけます。ルーティング・プロファイルを使用する場合は、そのターゲットOCIリージョンを確認します。「外部コール」ノートでは、Google GeminiやxAI Grokなどのモデルが識別され、そのリクエストは処理のために外部プロバイダに送信されます。

ルーティング・プロファイルで選択したモデルのオンデマンド・データ処理ルールが適用されます。プロファイルは、選択したターゲットOCIリージョンのいずれかにリクエストをルーティングします。外部プロバイダをコールするモデルの場合は、そのモデルの外部コール・ノートと、リクエストを処理するターゲットOCIリージョンを確認してください。

たとえば、オーストラリア東部(シドニー)から、Japan Central(大阪)を唯一のターゲットOCIリージョンとしてルーティング・プロファイルを作成し、次のいずれかのモデルを選択できます。

• Google Gemini 2.5 Pro: Google GeminiおよびxAI Grokデータ処理ルールが適用されます。リクエストは、OCI大阪を経由してGoogleアジア太平洋のロケーションに移動します。Googleの機械学習処理は、世界中のGoogleの場所で発生する可能性がありますので、オーストラリアのGoogleの宛先やオーストラリア内での処理を保証するものではありません。「APリージョンのGoogle Gemini 2.5 Proへの外部コール」を参照してください。
• OpenAI gpt-oss-120b:このモデルは、大阪でオンデマンドで使用可能です。OCI Generative AIは、モデルをホストし、推論のためにOpenAIにリクエストを送信することなく、大阪でリクエストを処理します。Cohere、Meta LlamaおよびOpenAI gpt-ossデータ処理ルールが適用されます。

サポートされているモデルおよびターゲットOCIリージョンについては、リージョン別のモデルを参照してください。複数のターゲットOCIリージョンを選択した場合は、各リージョンの「外部コール」ノートを確認します。ルーティング手順については、ローカル・モデル処理のないリージョンを参照してください。

OCIテナンシのコンパートメントにエンタープライズAIエージェント・プロジェクトを作成し、アプリケーションに必要な機能を選択します。レスポンスや会話の保存、ファイルのアップロード、または長期メモリーの有効化を行う機能を使用する場合、アプリケーションのコンテンツを保持することを選択します。OCIは、このコンテンツをプロジェクトの一部として保存し、アプリケーションで取得または再利用できるようにします。

レスポンスおよび会話の保持期間を構成します。Files APIを使用して、アップロードおよび管理するファイルを選択します。長期メモリーを有効にすると、サービスによって会話の情報が保存され、プロジェクト内の将来の対話で使用されます。Creating a Project、Data Retention、Agent Memory、および Files APIを参照してください。

OCIプロジェクト機能を使用して、アプリケーションのコンテンツを保存することを選択できます。GoogleおよびxAIとのOracleのデータ保持ゼロ契約は、モデルを呼び出すときにプロバイダが処理するコンテンツを管理します。OCIに保存するために選択したコンテンツは、プロジェクト・データとして管理され、該当するOCIストレージおよび保存設定に従います。

トレーニング・データは、保存中および転送中に暗号化されます。このサービスは、トレーニング・ジョブが完了するとすぐに、ファインチューニング・クラスタからトレーニング・データを削除します。

モデルをファインチューニングするためのトレーニング・データは、デフォルトで、Oracle管理のAES-256暗号化によって、およびオプションでOCI Vaultサービスを介して顧客管理の秘密キーによって、常に二重暗号化されます。データはいつでも削除できます。

Oracleは、移動中のデータをTLS 1.2で暗号化します。