Gehostete Anwendungen und Deployments
OCI Generative AI-Anwendungen definieren eine verwaltete Laufzeit für generative KI-Workloads. In einer Anwendung legen Sie Skalierungs-, Speicher-, Netzwerk- und Authentifizierungseinstellungen fest, die von gehosteten Deployments verwendet werden, die mit der Anwendung verknüpft sind.
Anwendungen definieren eine verwaltete Laufzeit für Workloads mit generativer KI. Legen Sie Skalierung, Speicher, Netzwerk und Authentifizierung fest, um festzulegen, wie die Anwendung ausgeführt wird und wie Clients darauf zugreifen.
Nachdem Sie eine Anwendung erstellt haben, erstellen Sie ein oder mehrere Deployments, indem Sie ein Containerimage auswählen. Das aktive Deployment verarbeitet Anforderungen für den Anwendungsendpunkt.
Wenn Sie eine Anwendung bereitstellen, stellt der Service einen Endpunkt bereit, den Clients (oder andere Agents) aufrufen können.