HTTP/SSLとモデルおよび拡張オプションを使用したインストール

この構成では、SSL構成と、追加の埋込みモデルおよび構成ファイルを組み合せています。より高度な構成の場合は、必要に応じてHTTPポート、コンテナ・バージョンまたはコンテナ名を指定することも可能です。

この例では、目的のONNXパイプライン・モデルは/home/opc/modelsにあり、構成ファイルは/home/opc/config/config.jsonです。

構成ファイルに指定されているモデルを使用してコンテナを構成し、起動します。configSetupスクリプトの実行時に指定されるファイルの場所に注意してください。
ノート:

コンテナがすでに実行されていて、同じ構成で新しいコンテナを起動しようとすると、古いコンテナは自動的に停止され、新しいコンテナに置き換えられます。

実行中のコンテナとは異なる構成で新しいコンテナを起動しようとすると、コンテナの起動は失敗する可能性が高く、既存のコンテナを停止する必要があります。
```
mkdir /home/opc/privateai
mkdir /home/opc/secrets
mkdir /home/opc/models
export PRIVATE_DIR=/home/opc/privateai
export SECRETS_DIR=/home/opc/secrets
./secretsSetup.sh -s $SECRETS_DIR
./configSetup.sh -d $PRIVATE_DIR -s $SECRETS_DIR -m /home/opc/models -c /home/opc/config/config.json 
./containerSetup.sh -d $PRIVATE_DIR
```
containerSetupスクリプトの実行時に、次のように最後の行を置き換えることで、必要に応じてポート、バージョンおよびコンテナ名を指定できます。
```
podman stop privateai
./containerSetup.sh -d $PRIVATE_DIR -p 9443 -v 25.1.2.0.0 -n everything4
podman ps
```
curl SSLコマンドが簡単になるようにAPI_KEYの値を定義します:
```
export PORT=9443
export API_KEY=$(cat $SECRETS_DIR/api-key)
```

デジタル証明書をパラメータとして指定します。

ローカル・クライアント・マシンとリモート・クライアント・マシンの両方に対して、同じSSL curlコマンドが動作します。

curl -i --cacert $SECRETS_DIR/cert.pem https://$HOST:$PORT/health

curl --header "Authorization: Bearer $API_KEY" --cacert $SECRETS_DIR/cert.pem  https://$HOST:$PORT/v1/models

curl -X POST --header "Authorization: Bearer $API_KEY" -H "Content-Type: application/json" -d '{"model": "tinybert", "input":["This is a phrase to vectorize"]}' --cacert $SECRETS_DIR/cert.pem https://$HOST:$PORT/v1/embeddings

curl --header "Authorization: Bearer $API_KEY" --cacert $SECRETS_DIR/cert.pem https://$HOST:$PORT/metrics/embeddings_call_latency

親トピック: プライベートAIサービス・コンテナの構成