Deployment erstellen
Erstellen Sie ein Deployment im OCI Generative AI-Service, um einen Agent-Container bereitzustellen, der Clientanforderungen für eine Anwendung erfüllen kann.
Wenn Sie ein Deployment erstellen, wählen Sie ein Containerimage und ein Imagetag aus. Sie können das Deployment auch während der Erstellung aktivieren, um es zur aktiven Version der Anwendung zu machen.
In dieser Aufgabe wird beschrieben, wie Sie ein Deployment mit der Oracle Cloud-Konsole erstellen.
Ressourcennutzung und Skalierung
Die Deployment-Nutzung hängt von den Ressourcen ab, die das aktive Deployment ausführen. Jedes ausgeführte Replikat verwendet Compute-Ressourcen, und alle verwalteten OCI-Services, die für die Anwendung aktiviert sind, können eine andere Nutzung erstellen.
Anwendungseinstellungen steuern, wie Deployments skaliert werden. Diese Einstellungen umfassen die Mindestanzahl an Replikaten, die maximale Anzahl an Replikaten und Autoscaling-Metriken. Siehe Skalierung.
Ein Deployment wird als ein oder mehrere Replikate ausgeführt. Jedes ausgeführte Replikat verwendet die servicedefinierte Compute-Zuweisung für die Anwendung. Wenn bei der automatischen Skalierung Replikate hinzugefügt werden, steigt die Compute-Nutzung basierend auf der Anzahl der ausgeführten Replikate.
Beispiel: Wenn ein aktives Deployment von einem Replikat auf drei Replikate skaliert, verwendet es drei Compute-Replikate für die Zeit, in der diese Replikate ausgeführt werden.
Um die Compute-Auslastung zu schätzen, verwenden Sie die folgende Formel:
average running replicas x runtime hours x Compute allocation per replica
Die durchschnittliche Anzahl der ausgeführten Replikate hängt von den minimalen Replikaten der Anwendung, den maximalen Replikaten, dem Verkehrsaufkommen und den Einstellungen zur automatischen Skalierung ab.
Um die horizontale Skalierung zu begrenzen, legen Sie eine kleinere maximale Anzahl von Replikaten fest. Um die automatische Skalierung zu deaktivieren, setzen Sie die minimalen Replikate und maximalen Replikate auf denselben Wert.
Verwalteter Speicher, Cache, Datenbank, Logging, Networking und andere aktivierte OCI-Services können eine separate Nutzung generieren. Schätzen Sie die Nutzung für diese Ressourcen getrennt von Deployment Compute.
Eine monatliche Schätzung ist keine Verpflichtung. Die tatsächliche Nutzung hängt davon ab, wie viele Replikate ausgeführt werden und wie lange sie ausgeführt werden.
Schritte
Nachdem Sie ein Deployment erstellt haben, können Sie die zugehörigen Details anzeigen und andere Aufgaben ausführen, wie das Aktivieren, das Kopieren der zugehörigen OCID oder das Löschen. Verwenden Sie das Menü in der Konsole, um auf diese Aufgaben zuzugreifen. Weitere Informationen finden Sie unter Deployments auflisten.