3 プライベートAIサービス・コンテナの構成
コンテナのインストールにはいくつか異なる構成があり、次のチュートリアルで、コンテナ・イメージに含まれるスクリプトを使用して説明します。
構成チュートリアルは、最も単純なものから最も複雑なものの順に並んでいます。最も単純な構成は、より複雑な構成を試す前の開始点としてお薦めします。セキュリティ上の理由から、本番デプロイメントにはTLS 1.3をAPIキーとともに使用することをお薦めします。
構成チュートリアルでは、次の表に記載されているbashスクリプトを使用します。これらは、バージョン25.1.2.0.0時点ではコンテナ・イメージに含まれています。これらのスクリプトにより、セキュア・モードと非セキュア・モードのいずれのコンテナ実行においても、構成プロセスは簡略化されます。
| スクリプト名 | 目的 |
|---|---|
| quickStart.sh |
このスクリプトは、コンテナの設定を自動化し、他の依存スクリプトをコールします。異なるディレクトリに必要となるパスを使用するように変更することが可能です。 |
| secretsSetup.sh |
このスクリプトは、コンテナの起動に必要なシークレットおよび証明書を設定し、ユーザー指定フォルダに格納します。フォルダがまだ存在しない場合は、スクリプトによって作成されます。 スクリプトの実行時にユーザー入力を回避するために、サブジェクト識別名(DN)を文字列として、パスワードをファイルとして渡すことができます。 |
| configSetup.sh |
モデル、シークレットおよび構成ファイルが格納されているディレクトリを指定すると、スクリプトによって別のユーザー指定フォルダにコピーされます。ディレクトリがまだ存在しない場合は、作成されます。所有者は、コンテナによるロギングを許可するために、指定されたコンテナUIDのホストUIDに変更されます。ログ・ファイル用のフォルダも作成されます。 |
| containerSetup.sh |
コピーされたファイルが格納されているディレクトリ( |
| util.sh |
これは、他のスクリプトによってコールされる共通関数を含むヘルパー・スクリプトです。 |
スクリプトを使用するには、まずイメージからコピーする必要があります。次のコマンドは、スクリプトを現行ディレクトリにコピーします。各コマンドの<image version>は、使用しているイメージのバージョンに(latestではなく、25.1.2.0.0などの明示的なバージョン番号として)置き換える必要があります。
IMAGEID=`podman create container-registry.oracle.com/database/private-ai:<image version>`
podman cp $IMAGEID:/privateai/scripts/privateai-setup-<image version>.zip .
スクリプトは、コンテナ管理者がプライベートAIサービス・コンテナを短時間かつ簡単に設定できるように設計されています。開始する前に、次のソフトウェアがインストールされ、「プライベートAIサービス・コンテナのインストール」のインストール・ステップに従っていることを確認します:
- Oracle Linux 8.6以降、9または10
- TLS 1.3サポート付きOpenSSL
- Podman 4.9.4以降
- podmanにロードされたプライベートAIイメージ
ノート:
インストール・スクリプトを正しく実行するには、sudo権限が必要です。HTTPを使用する付属のチュートリアルでは、クライアントとコンテナの両方が同じホスト・マシンで実行されるため、localhostを使用します。必要に応じて、コンテナが実行されているIPアドレスまたはホスト名を使用することも可能です。HTTPクライアントがコンテナとは異なるマシンで実行されている場合は、コンテナのIPアドレスまたはホスト名を指定する必要があります。
コンテナに関する情報の取得に使用できるAPIが多数あります。たとえば、コンテナが稼働中であることの確認、現在デプロイされているモデルのリストの取得し、アプリケーションによって公開されているメトリックに関する情報の取得が可能です。詳細は、「プライベートAIサービス・コンテナAPIリファレンス」を参照してください。
- HTTPとデフォルト・モデルを使用したインストール
これは最も単純な構成です。APIキーおよびSSLは使用されません。デフォルトの埋込みモデルがHTTPポート8080で使用されます。 - HTTPとモデルおよび拡張オプションを使用したインストール
このチュートリアルは、'HTTPと構成ファイル'チュートリアルの上位版で、コンテナに同梱されていないベクトル埋込みモデルを定義できます。より高度な構成の場合は、必要に応じてHTTPポート、コンテナ・バージョンまたはコンテナ名を指定することも可能です。 - 自己署名SSL証明書を使用したインストール
この構成は、HTTPと構成ファイルを使用する構成の上位版で、SSLを自己署名デジタル証明書とともに使用します。 - HTTP/SSLとモデルおよび拡張オプションを使用したインストール
この構成では、SSL構成と、追加の埋込みモデルおよび構成ファイルを組み合せています。より高度な構成の場合は、必要に応じてHTTPポート、コンテナ・バージョンまたはコンテナ名を指定することも可能です。 - HTTPまたはHTTP/SSLでのOpenAI Python SDKクライアントの使用
OpenAI Pythonクライアントは、HTTPまたはHTTP/SSLを使用する場合、コンテナと連携して動作します。HTTP/SSLを使用する場合は、正しいHTTPエンドポイントを有効なAPIキーとともに指定するだけです。