Routingprofile verwalten
Routingprofile definieren, wie OCI Generative AI On-Demand-Modellanforderungen über vom Benutzer ausgewählte OCI-Regionen hinweg leitet.
Ein Routingprofil gibt ein unterstütztes On-Demand-Modell und mindestens eine OCI-Zielregion innerhalb derselben Realm an, in der dieses Modell verfügbar ist. Wenn Sie das Routingprofil in einer unterstützten Inferenzanforderung referenzieren, leitet generative KI die Anforderung nur zwischen den Zielregionen im Profil weiter.
Verwenden Sie Routingprofile, um über einen genehmigten regionalen Geltungsbereich auf ein ausgewähltes On-Demand-Modell zuzugreifen, ohne anwendungsseitiges regionsübergreifendes Routing zu erstellen. Die regionale Verfügbarkeit jedes Modells finden Sie unter Generative KI-Modelle nach Region.
Dieses Release unterstützt Routingprofile nur für On-Demand-Modelle.
Sie können die folgenden Aufgaben ausführen, um Routingprofile zu erstellen und verwalten: