Regionen ohne lokale Modellverarbeitung

Verwenden Sie Routingprofile, um über andere OCI-Regionen auf On-Demand-Modelle zuzugreifen.

Verwenden Sie generative KI aus der ausgewählten Region, auch wenn das gewünschte Modell über eine andere OCI-Region verfügbar ist. Erstellen Sie ein Routingprofil für das Modell, und wählen Sie eine oder mehrere OCI-Zielregionen aus, in denen es verfügbar ist. Wählen Sie dann dieses Profil im Playground aus, oder referenzieren Sie es in einer API-Anforderung. Generative KI leitet die Anforderung an eine der ausgewählten OCI-Zielregionen weiter.

Die Liste auf dieser Seite enthält auch UAE Central (Abu Dhabi) für On-Demand-Inferenz. Abu Dhabi bietet lokale Modellverarbeitung für dedizierte KI-Cluster.

Beispiel: In Singapur (ap-singapore-1) können Sie ein Routingprofil für openai.gpt-oss-120b mit Frankfurt (eu-frankfurt-1) als Zielregion erstellen. Wählen sie das profil im playground von singapur aus, um mit dem modell zu chatten, das von frankfurt aus bedient wird. Sie können weiterhin in Singapur arbeiten, ohne die Konsole nach Frankfurt zu wechseln.

Wichtig

Die Modellinferenz über Routingprofile ist nur im On-Demand-Modus verfügbar. Jedes Profil gibt ein unterstütztes Modell und mindestens eine Zielregion in derselben Realm an, in der dieses Modell verfügbar ist.

Routingprofile sind auch in Regionen mit lokaler Modellverarbeitung verfügbar. Beispiel: Wenn ein On-Demand-Modell in US Midwest (Chicago), aber nicht in US East (Ashburn) verfügbar ist, erstellen Sie ein Routingprofil in Ashburn, und wählen Sie Chicago als Zielregion aus. Wählen Sie dann das Profil im Playground von Ashburn aus, oder referenzieren Sie es in einer Anforderung an den Ashburn-API-Endpunkt. Generative KI leitet die Inferenzanforderung an Chicago weiter.

Die Chat-API, die OCI Chat Completions API und die OCI Responses API unterstützen Routingprofile für Modelle, die die ausgewählte API unterstützen. Informationen zur Verfügbarkeit des Responses-API-Modells und der Region finden Sie unter Modelle und Regionen für Enterprise AI Agents. Generative AI-API-Endpunkte in diesen Regionen unterstützen IPv6.

Eine Anleitung zum Erstellen eines Routingprofils und dessen Verwendung in OCI Chat Completions API- und OCI Responses API-Anforderungen finden Sie im Tutorial Modellanforderungen über OCI-Regionen hinweg weiterleiten.

Die Modellverfügbarkeit in Zielregionen finden Sie unter Modelle nach Region. In den folgenden Featuretabellen werden die Funktionen aufgeführt, die in den auf dieser Seite aufgeführten Regionen verfügbar sind, einschließlich UAE Central (Abu Dhabi).

Wo werden Anforderungen verarbeitet?

Ihr Routingprofil gibt das Modell und die OCI-Zielregionen für Ihre Anforderungen an. Bei einem von OCI Generative AI gehosteten Modell wird Inferenz in der ausgewählten OCI-Zielregion ausgeführt. Für ein extern gehostetes Modell, wie Google Gemini, ruft die OCI-Region den Modellprovider an. Die Routing- und Verarbeitungsstandorte des Providers folgen den Hinweisen zum externen Anruf für das Modell und die OCI-Zielregion, die der Anforderung dienen.

Beispiel: In Australia East (Sydney) (ap-sydney-1) können Sie ein Routingprofil mit Japan Central (Osaka) (ap-osaka-1) als einziger Ziel-OCI-Region erstellen und eines dieser Modelle auswählen:

  • Google Gemini 2.5 Pro: Anfragen gehen über OCI Osaka an einen Google-Standort im asiatisch-pazifischen Raum. Die maschinelle Lernverarbeitung von Google kann an jedem Google-Standort weltweit erfolgen. Die Verwendung von OCI Sydney garantiert kein australisches Google-Ziel oder keine Verarbeitung innerhalb Australiens. Siehe Externe Anrufe zu Google Gemini 2.5 Pro für AP-Regionen.
  • OpenAI gpt-oss-120b: Dieses Modell ist auf Anforderung in Osaka verfügbar. OCI Generative AI hostet das Modell und verarbeitet Ihre Anforderung in Osaka ohne einen externen Inferenzaufruf an OpenAI.

Wenn Sie mehrere OCI-Zielregionen auswählen, prüfen Sie alle externen Anrufhinweise für jede Region. Informationen zur Verarbeitung Ihrer Daten durch das ausgewählte Modell finden Sie unter On-Demand-Modelle über Routingprofile.

Auf ein Modell über eine andere OCI-Region zugreifen

Erstellen Sie das Routingprofil in der Region, in der Sie generative KI verwenden möchten. Das Profil wählt das Modell und seine Serving-Regionen aus. Wenn Sie das Profil im Playground auswählen, können Sie dieses Modell aus Ihrer aktuellen Region verwenden.

  1. Wählen Sie in der Konsole Ihre Region aus, z.B. Singapur (Singapur) (ap-singapore-1).
  2. Öffnen Sie Analysen und KI, wählen Sie Generative KI und dann Routingprofile aus.
  3. Wählen Sie Routingprofil erstellen aus. Geben Sie einen Namen wie singapore-frankfurt ein, und wählen Sie ein Compartment aus.
  4. Wählen Sie unter Konfiguration unter Modellauswahl das Modell aus, das Sie verwenden möchten, z.B. openai.gpt-oss-120b. Unter OCI-Zielregionen werden die Regionen aufgeführt, in denen dieses Modell verfügbar ist. Wählen Sie mindestens eine dieser Regionen, z.B. Frankfurt (eu-frankfurt-1), und wählen Sie Erstellen aus. Vollständige Anweisungen finden Sie unter Routingprofil erstellen.
  5. Öffnen Sie die Detailseite des Profils, und bestätigen Sie, dass sein Status Aktiv ist. Prüfen Sie die Modellauswahl und die OCI-Zielregionen, um das Modell und die bereitgestellten Regionen zu bestätigen.
  6. Öffnen Sie den Playground, wählen Sie Chat aus, und wählen Sie das Compartment des Profils aus. Wählen Sie im Menü Modell Ihr Routingprofil, z.B. singapore-frankfurt.
  7. Geben Sie einen Prompt ein, und wählen Sie Weiterleiten aus. Generative KI leitet die Anforderung an eine der ausgewählten OCI-Zielregionen des Profils weiter. Prüfen Sie im Playground unter Geoutetes Modell und Servingregion, um zu sehen, welches Modell und welche OCI-Region die Anforderung erfüllt hat. Informationen zu extern gehosteten Modellen finden Sie unter Wo werden Anforderungen verarbeitet? für das zusätzliche Routing an den Modellprovider.

Sie können dasselbe Profil in API-Anforderungen verwenden, die an den Endpunkt Ihrer Region gesendet werden. Setzen Sie für eine OCI Chat Completions API- oder OCI Responses API-Anforderung model auf die vollständige OCID des Profils. Wählen Sie ein Modell aus, das die API unterstützt, die Sie aufrufen möchten. Python-Beispiele und Setupanweisungen für beide APIs finden Sie unter Modellanforderungen über OCI-Regionen hinweg weiterleiten.

Kommerzielle Regionen (OC1) ohne lokale Modellverarbeitung

In der folgenden Tabelle werden die OC1-Regionen aufgeführt, die On-Demand-Inferenz an andere Regionen in generativer KI weiterleiten. Regionsnamen, IDs und Schlüssel folgen der OCI-Regionen-Tabelle.

Hinweis

UAE Central (Abu Dhabi) hostet auch Modelle für dedizierte KI-Cluster. Die On-Demand-Inferenz aus Abu Dhabi verwendet ein Routingprofil, um auf ein unterstütztes Modell in einer anderen Region zuzugreifen. Informationen zu lokal gehosteten Modellen und ihrer dedizierten Verfügbarkeit finden Sie unter Modelle nach Region: Naher Osten.
Regionsname Standort Regions-ID Regionsschlüssel
Australia East (Sydney) Sydney ap-sydney-1 SYD
Australia Southeast (Melbourne) München ap-melbourne-1 MEL
Brazil Southeast (Vinhedo) Vinhedo sa-vinhedo-1 VCP
Canada Southeast (Montreal) Montreal ca-montreal-1 YUL
Canada Southeast (Toronto) Toronto ca-toronto-1 YYZ
Chile Central (Santiago) Santiago sa-santiago-1 SCL
Chilenischer Westen (Valparaiso) Región de Valparaíso sa-valparaiso-1 VAP
Colombia Central (Bogota) Bogotá sa-bogota-1 BOG
France Central (Paris) Paris eu-paris-1 CDG
France South (Marseille) Marseille eu-marseille-1 MRS
India West (Mumbai) Mumbai ap-mumbai-1 BOM
Indonesischer Norden (Batam) Batam ap-batam-1 HSG
Israel Central (Jerusalem) Jerusalem il-jerusalem-1 MTZ
Italy Northwest (Mailand) Mailand eu-milan-1 LIN
Italien Nord (Turin) Turin eu-turin-1 NRQ
Japan East (Tokio) Präfektur Tokio ap-tokyo-1 NRT
Mexico Central (Queretaro) Querétaro mx-queretaro-1 QRO
Mexico Northeast (Monterrey) Monterrey mx-monterrey-1 MTY
Marokko West (Casablanca) Casablanca af-casablanca-1 LEJ
Netherlands Northwest (Amsterdam) Amsterdam eu-amsterdam-1 AMS
Saudi Arabia West (Dschidda) Dschidda me-jeddah-1 JED
Singapore ( Singapur) Singapur ap-singapore-1 SIN
Singapore West (Singapur) Singapur ap-singapore-2 XSP
South Africa Central (Johannesburg) Johannesburg af-johannesburg-1 JNB
South Korea Central (Seoul) Seoul ap-seoul-1 ICN
South Korea North (Chuncheon) Chuncheon ap-chuncheon-1 YNY
Spain Central (Madrid) Madrid eu-madrid-1 MAD
Spain Central (Madrid 3) Madrid eu-madrid-3 ORF
Sweden Central (Stockholm) Stockholm eu-stockholm-1 ARN
Switzerland North (Zürich) Zürich eu-zurich-1 ZRH
UAE Central (Abu Dhabi) Abu Dhabi me-abudhabi-1 AUH
UK West (Newport) Newport uk-cardiff-1 CWL
US West (San Jose) San José us-sanjose-1 SJC

Features für KI-Modelle für Unternehmen

Feature Verfügbarkeit
Regionales Routing mit Routingprofilen Verfügbar für unterstützte On-Demand-Modelle. Anrufe werden an Regionen weitergeleitet, in denen das ausgewählte Modell verfügbar ist.
Chat-API Verfügbar über ein Routingprofil für Modelle, die die Chat-API unterstützen.
Google Gemini-Inferenz Verfügbar über ein Weiterleitungsprofil für unterstützte Modell- und Regionskombinationen.
xAI Grok-Inferenz Verfügbar über ein Weiterleitungsprofil für unterstützte Modell- und Regionskombinationen.
Meta- und Cohere-Inferenz Über ein Routingprofil verfügbar. Einbettungsanforderungen werden nicht unterstützt.
OpenAI gpt-oss-120b-Inferenz Verfügbar über ein Weiterleitungsprofil für unterstützte Modell- und Regionskombinationen.
Modellabgang Verfügbar
Dedizierte KI-Cluster und Modellendpunkte Nicht verfügbar.
Modellimport und importierte Modellinferenz Nicht verfügbar.
Einbettungs-API Nicht verfügbar.
Private Endpunkte für Google Gemini- und xAI Grok-Modelle Verfügbar
Private Endpunkte für gehostete oder importierte Modelle Nicht verfügbar.

Features für Enterprise AI Agents

Feature Verfügbarkeit
Sandboxes Verfügbar
Gehostete Deployments Verfügbar
Projekte Verfügbar mit Kurzzeitgedächtnis. Langzeitgedächtnis wird nicht unterstützt.
Kurzzeitgedächtnis Verfügbar
Semantische Speicher und Vektorspeicher Nicht verfügbar.
Dateisuche Nicht verfügbar.
API für OCI-Chatabschlüsse Verfügbar über ein Routingprofil für Modelle, die Chatabschlüsse unterstützen.
OCI-Antwort-API Verfügbar über ein Routingprofil für Modelle, die die Responses API unterstützen. Tools und andere Enterprise AI Agents-Features hängen von der in dieser Tabelle aufgeführten Verfügbarkeit ab.
Agent-Gateway für das Hosting von MCP-Tools Nicht verfügbar.
Clientseitige MCP-Tools Nicht verfügbar.
Langzeitgedächtnis Nicht verfügbar.
Natürliche Sprache für SQL (NL2SQL) Nicht verfügbar.

Features für Enterprise AI Governance

Feature Verfügbarkeit
API-Schlüssel Verfügbar
Limits Nicht verfügbar.