AI-Features auswählen

Select AI unterstützt die folgenden Features.

Privater Endpunktzugriff für ausgewählte KI-Modelle

Sie können einen sicheren, privaten Zugriff auf generative KI-Modelle aktivieren, indem Sie Ollama oder Llama.cpp hinter einem privaten Endpunkt in Ihrem virtuellen Cloud-Netzwerk (VCN) bereitstellen. Diese Architektur richtet sich an Unternehmen, die KI-Verarbeitung vollständig privat halten müssen. Das Setup isoliert sowohl die Serverless-Datenbank der autonomen KI als auch Ihre KI-Modellserver mit privaten Subnetzen, Sicherheitslisten und kontrolliertem Routing vom öffentlichen Internet.

Das Setup verwendet einen Sprungserver in einem öffentlichen Subnetz für sicheren SSH-Zugriff, während die Datenbank- und AI-Modelle in privaten Subnetzen ausgeführt werden, die über Internetgateway, Servicegateway und NAT-Gateway verbunden sind.

Sie erstellen ein VCN, konfigurieren Subnetze und Gateways und richten Sicherheitsregeln ein, die nur internen Traffic zulassen. Weitere Informationen finden Sie unter Privaten Endpunkt für KI-Modelle mit Ollama und Llama.cpp einrichten. Das Dokument führt Sie durch die Installation von Ollama und Llama.cpp, die Konfiguration eines privaten API-Endpunkts mit Nginx als Reverse Proxy und die Validierung der Konnektivität aus der autonomen KI-Datenbank. Diese Konfiguration stellt sicher, dass die gesamte KI-Verarbeitung privat innerhalb Ihrer Netzwerkgrenze erfolgt. Dadurch kann Select AI Modellfunktionen integrieren und gleichzeitig sensible Daten sicher und vollständig isoliert halten.