Select AIモデルのプライベート・エンドポイント・アクセス

Virtual Cloud Network (VCN)内のプライベート・エンドポイントの背後にOllamaまたはLlama.cppをデプロイすることで、生成AIモデルへのセキュアなプライベート・アクセスを有効にできます。このアーキテクチャは、AI処理を完全にプライベートに保つ必要がある組織向けに設計されています。この設定により、プライベート・サブネット、セキュリティ・リストおよび制御されたルーティングを使用して、Autonomous AI Database ServerlessとAIモデル・サーバーの両方がパブリック・インターネットから分離されます。

セットアップでは、セキュアなSSHアクセスのためにパブリック・サブネット内のジャンプ・サーバーを使用し、データベースおよびAIモデルは、インターネット・ゲートウェイ、サービス・ゲートウェイおよびNAT Gatewayを介して接続されたプライベート・サブネットで実行されます。

VCNを作成し、サブネットとゲートウェイを構成し、内部トラフィックのみを許可するセキュリティ・ルールを設定します。詳細は、「OllamaおよびLlama.cppを使用したAIモデルのプライベート・エンドポイントの設定」を参照してください。このドキュメントでは、OllamaとLlama.cppのインストール、Nginxをリバース・プロキシとして使用したプライベートAPIエンドポイントの構成、およびAutonomous AI Databaseからの接続の検証について説明します。この構成により、すべてのAI処理がネットワーク境界内でプライベートに実行されることが保証されるため、Select AIは、機密データをセキュアかつ完全に分離しながらモデル機能を統合できます。