モデル・デプロイメント
AIクイック・アクションを使用してモデルをデプロイするには、次のステップに従います。
モデル・デプロイメントの作成
モデル・デプロイメントは、モデル・エクスプローラで「デプロイ準備完了」タグを使用して、または微調整されたモデルを使用して、基盤モデルから作成できます。AIクイック・アクションでモデル・デプロイメントを作成する場合、OCIデータ・サイエンス・サービスの管理対象リソースであるOCIデータ・サイエンス・モデル・デプロイメントを作成します。OCIでは、モデルをHTTPエンドポイントとしてデプロイできます。
データ・サイエンス・モデル・デプロイメントを使用するには、必要なポリシーが必要です。モデル・デプロイメントのコンピュート・シェイプを選択できます。ロギングを設定して、モデル・デプロイメントを監視できます。ロギングはオプションですが、モデル・デプロイメントでのエラーのトラブルシューティングに役立つことを強くお薦めします。ロギングを有効にするには、必要なポリシーが必要です。ログの詳細は、モデル・デプロイメント・ログを参照してください。拡張オプションでは、デプロイするインスタンスの数とロード・バランサの帯域幅を選択できます。
モデルのデプロイの詳細およびヒントは、GitHubのモデルのデプロイメントを参照してください。
プライベート・エンドポイントを使用してモデル・デプロイメントにアクセスするには、ネットワーク・タイプがカスタム・ネットワーキングに設定されたノートブック・セッションを作成します。カスタム・エグレスは、プライベート・エンドポイント・リソースと同じVCNおよびサブネットに存在する必要があります。
モデルのデプロイ・ページで、次の3つのオプションを使用してモデルをデプロイできます:
- 単一モデルのデプロイ: 1つのモデルをコンピュート・シェイプにデプロイします。
- マルチ・モデルのデプロイ: 1つのコンピュート・インスタンスに複数のモデルをデプロイします。
- モデル・スタックのデプロイ: ベース・モデルと複数のファインチューニング・バリアントを1つのコンピュート・シェイプのスタックとしてデプロイします。
この項では、各デプロイメント・オプションについて説明します。
AIクイック処理CLIコマンドのパラメータおよび値の完全なリストは、AIクイック処理CLIを参照してください。
このタスクはAPIを使用して実行できません。
AIクイック処理でのモデル・デプロイメントの起動
CLIまたはPython SDKからAIクイック・アクションでモデル・デプロイメントを起動できます。
詳細は、GitHubのモデル・デプロイメントのヒントに関する項を参照してください。
モデル・アーティファクト
モデル・アーティファクトの検索場所。
モデルがモデル・デプロイメント・インスタンスにダウンロードされると、/opt/ds/model/deployed_model/<object_storage_folder_name_and_path> フォルダにダウンロードされます。
Autonomous Database Select AIでのモデル・デプロイメントの使用
AIクイック・アクションで作成されたモデル・デプロイメントを、Oracle Autonomous Database Select AIによる自然言語クエリに使用可能にできます。
前提条件
- モデル・デプロイメントが完了し、モデル・デプロイメントOCIDが完了しました。
- Select AIが有効なAutonomous Databaseインスタンス。Autonomous DatabaseでのSelect AIを参照してください。
- 資格証明およびプロファイルを作成するには、Oracle Cloud Infrastructure (OCI)権限が必要です。
- Autonomous Databaseで、モデル・デプロイメントにアクセスするための資格証明を作成します。
BEGIN DBMS_CLOUD.create_credential( credential_name => '<CREDENTIAL_NAME>', user_ocid => '<USER_OCID>', tenancy_ocid => '<TENANCY_OCID>', private_key => '<PRIVATE_KEY>', fingerprint => '<FINGERPRINT>' ); END; /各プレースホルダを特定の値に置き換えます。
<CREDENTIAL_NAME>: 資格証明の名前<USER_OCID>: OCIユーザーOCID<TENANCY_OCID>: OCIテナンシOCID<PRIVATE_KEY>: PEM形式のAPI秘密キー<FINGERPRINT>: API公開キーのフィンガープリント
詳細は、資格証明の管理を参照してください。
- Select AIプロファイルを作成して、自律型データベースをデプロイ済モデルに接続します。
BEGIN DBMS_CLOUD_AI.CREATE_PROFILE( profile_name => '<PROFILE_NAME>', attributes => ' { "credential_name": "<CREDENTIAL_NAME>", "model": "<MODEL_NAME>", "provider": "openai", "provider_endpoint": "<MODEL_DEPLOYMENT_OCID>", "conversation": "", "object_list": [ {"owner": "ADMIN", "name": "customers"} ] }' ); END; /プレースホルダを次のように置き換えます。<PROFILE_NAME>: プロファイルの名前。<CREDENTIAL_NAME>: ステップ1の資格証明の名前。<MODEL_NAME>: デプロイされたモデルの名前(たとえば、odsc_2025llm)。<MODEL_DEPLOYMENT_OCID>: モデル・デプロイOCID。"object_list"を更新して、公開するスキーマおよび表を反映します。