17 Select AIモデルのプライベート・エンドポイント・アクセス

仮想クラウド・ネットワーク(VCN)内のプライベート・エンドポイントの背後にOllamaまたはLlama.cppをデプロイすることで、生成AIモデルへのセキュアなプライベート・アクセスを有効にできます。このアーキテクチャは、AI処理を完全にプライベートにする必要がある組織向けに設計されています。この設定により、プライベート・サブネット、セキュリティ・リストおよび制御されたルーティングを使用して、Autonomous AI Database ServerlessとAIモデル・サーバーの両方がパブリック・インターネットから分離されます。

この設定では、セキュアなSSHアクセスのためにパブリック・サブネットのジャンプ・サーバーを使用し、データベースおよびAIモデルは、インターネット・ゲートウェイ、サービス・ゲートウェイおよびNAT Gatewayを介して接続されたプライベート・サブネットで実行されます。

VCNを作成し、サブネットとゲートウェイを構成し、内部トラフィックのみを許可するセキュリティ・ルールを設定します。詳細は、OllamaおよびLlama.cppを使用したAIモデルのプライベート・エンドポイントの設定を参照してください。このドキュメントでは、OllamaとLlama.cppのインストール、Nginxをリバース・プロキシとして使用したプライベートAPIエンドポイントの構成、およびAutonomous AI Databaseからの接続の検証について説明します。この構成により、すべてのAI処理がネットワーク境界内でプライベートに実行されるようになるため、Select AIは、機密データをセキュアかつ完全に分離しながら、モデル機能を統合できます。