Regionen ohne lokale Modellverarbeitung
Verwenden Sie Routingprofile, um über andere OCI-Regionen auf On-Demand-Modelle zuzugreifen.
Verwenden Sie generative KI aus der ausgewählten Region, auch wenn das gewünschte Modell über eine andere OCI-Region verfügbar ist. Erstellen Sie ein Routingprofil für das Modell, und wählen Sie eine oder mehrere OCI-Zielregionen aus, in denen es verfügbar ist. Wählen Sie dann dieses Profil im Playground aus, oder referenzieren Sie es in einer API-Anforderung. Generative KI leitet die Anforderung an eine der ausgewählten OCI-Zielregionen weiter.
Die Liste auf dieser Seite enthält auch UAE Central (Abu Dhabi) für On-Demand-Inferenz. Abu Dhabi bietet lokale Modellverarbeitung für dedizierte KI-Cluster.
Beispiel: In Singapur (ap-singapore-1) können Sie ein Routingprofil für openai.gpt-oss-120b mit Frankfurt (eu-frankfurt-1) als Zielregion erstellen. Wählen sie das profil im playground von singapur aus, um mit dem modell zu chatten, das von frankfurt aus bedient wird. Sie können weiterhin in Singapur arbeiten, ohne die Konsole nach Frankfurt zu wechseln.
Die Modellinferenz über Routingprofile ist nur im On-Demand-Modus verfügbar. Jedes Profil gibt ein unterstütztes Modell und mindestens eine Zielregion in derselben Realm an, in der dieses Modell verfügbar ist.
Routingprofile sind auch in Regionen mit lokaler Modellverarbeitung verfügbar. Beispiel: Wenn ein On-Demand-Modell in US Midwest (Chicago), aber nicht in US East (Ashburn) verfügbar ist, erstellen Sie ein Routingprofil in Ashburn, und wählen Sie Chicago als Zielregion aus. Wählen Sie dann das Profil im Playground von Ashburn aus, oder referenzieren Sie es in einer Anforderung an den Ashburn-API-Endpunkt. Generative KI leitet die Inferenzanforderung an Chicago weiter.
Die Chat-API, die OCI Chat Completions API und die OCI Responses API unterstützen Routingprofile für Modelle, die die ausgewählte API unterstützen. Informationen zur Verfügbarkeit des Responses-API-Modells und der Region finden Sie unter Modelle und Regionen für Enterprise AI Agents. Generative AI-API-Endpunkte in diesen Regionen unterstützen IPv6.
Eine Anleitung zum Erstellen eines Routingprofils und dessen Verwendung in OCI Chat Completions API- und OCI Responses API-Anforderungen finden Sie im Tutorial Modellanforderungen über OCI-Regionen hinweg weiterleiten.
Die Modellverfügbarkeit in Zielregionen finden Sie unter Modelle nach Region. In den folgenden Featuretabellen werden die Funktionen aufgeführt, die in den auf dieser Seite aufgeführten Regionen verfügbar sind, einschließlich UAE Central (Abu Dhabi).
Wo werden Anforderungen verarbeitet?
Ihr Routingprofil gibt das Modell und die OCI-Zielregionen für Ihre Anforderungen an. Bei einem von OCI Generative AI gehosteten Modell wird Inferenz in der ausgewählten OCI-Zielregion ausgeführt. Für ein extern gehostetes Modell, wie Google Gemini, ruft die OCI-Region den Modellprovider an. Die Routing- und Verarbeitungsstandorte des Providers folgen den Hinweisen zum externen Anruf für das Modell und die OCI-Zielregion, die der Anforderung dienen.
Beispiel: In Australia East (Sydney) (ap-sydney-1) können Sie ein Routingprofil mit Japan Central (Osaka) (ap-osaka-1) als einziger Ziel-OCI-Region erstellen und eines dieser Modelle auswählen:
- Google Gemini 2.5 Pro: Anfragen gehen über OCI Osaka an einen Google-Standort im asiatisch-pazifischen Raum. Die maschinelle Lernverarbeitung von Google kann an jedem Google-Standort weltweit erfolgen. Die Verwendung von OCI Sydney garantiert kein australisches Google-Ziel oder keine Verarbeitung innerhalb Australiens. Siehe Externe Anrufe zu Google Gemini 2.5 Pro für AP-Regionen.
- OpenAI gpt-oss-120b: Dieses Modell ist auf Anforderung in Osaka verfügbar. OCI Generative AI hostet das Modell und verarbeitet Ihre Anforderung in Osaka ohne einen externen Inferenzaufruf an OpenAI.
Wenn Sie mehrere OCI-Zielregionen auswählen, prüfen Sie alle externen Anrufhinweise für jede Region. Informationen zur Verarbeitung Ihrer Daten durch das ausgewählte Modell finden Sie unter On-Demand-Modelle über Routingprofile.
Auf ein Modell über eine andere OCI-Region zugreifen
Erstellen Sie das Routingprofil in der Region, in der Sie generative KI verwenden möchten. Das Profil wählt das Modell und seine Serving-Regionen aus. Wenn Sie das Profil im Playground auswählen, können Sie dieses Modell aus Ihrer aktuellen Region verwenden.
- Wählen Sie in der Konsole Ihre Region aus, z.B. Singapur (Singapur) (
ap-singapore-1). - Öffnen Sie Analysen und KI, wählen Sie Generative KI und dann Routingprofile aus.
- Wählen Sie Routingprofil erstellen aus. Geben Sie einen Namen wie
singapore-frankfurtein, und wählen Sie ein Compartment aus. - Wählen Sie unter Konfiguration unter Modellauswahl das Modell aus, das Sie verwenden möchten, z.B.
openai.gpt-oss-120b. Unter OCI-Zielregionen werden die Regionen aufgeführt, in denen dieses Modell verfügbar ist. Wählen Sie mindestens eine dieser Regionen, z.B. Frankfurt (eu-frankfurt-1), und wählen Sie Erstellen aus. Vollständige Anweisungen finden Sie unter Routingprofil erstellen. - Öffnen Sie die Detailseite des Profils, und bestätigen Sie, dass sein Status Aktiv ist. Prüfen Sie die Modellauswahl und die OCI-Zielregionen, um das Modell und die bereitgestellten Regionen zu bestätigen.
- Öffnen Sie den Playground, wählen Sie Chat aus, und wählen Sie das Compartment des Profils aus. Wählen Sie im Menü Modell Ihr Routingprofil, z.B.
singapore-frankfurt. - Geben Sie einen Prompt ein, und wählen Sie Weiterleiten aus. Generative KI leitet die Anforderung an eine der ausgewählten OCI-Zielregionen des Profils weiter. Prüfen Sie im Playground unter Geoutetes Modell und Servingregion, um zu sehen, welches Modell und welche OCI-Region die Anforderung erfüllt hat. Informationen zu extern gehosteten Modellen finden Sie unter Wo werden Anforderungen verarbeitet? für das zusätzliche Routing an den Modellprovider.
Sie können dasselbe Profil in API-Anforderungen verwenden, die an den Endpunkt Ihrer Region gesendet werden. Setzen Sie für eine OCI Chat Completions API- oder OCI Responses API-Anforderung model auf die vollständige OCID des Profils. Wählen Sie ein Modell aus, das die API unterstützt, die Sie aufrufen möchten. Python-Beispiele und Setupanweisungen für beide APIs finden Sie unter Modellanforderungen über OCI-Regionen hinweg weiterleiten.
Kommerzielle Regionen (OC1) ohne lokale Modellverarbeitung
In der folgenden Tabelle werden die OC1-Regionen aufgeführt, die On-Demand-Inferenz an andere Regionen in generativer KI weiterleiten. Regionsnamen, IDs und Schlüssel folgen der OCI-Regionen-Tabelle.
UAE Central (Abu Dhabi) hostet auch Modelle für dedizierte KI-Cluster. Die On-Demand-Inferenz aus Abu Dhabi verwendet ein Routingprofil, um auf ein unterstütztes Modell in einer anderen Region zuzugreifen. Informationen zu lokal gehosteten Modellen und ihrer dedizierten Verfügbarkeit finden Sie unter Modelle nach Region: Naher Osten.
| Regionsname | Standort | Regions-ID | Regionsschlüssel |
|---|---|---|---|
| Australia East (Sydney) | Sydney |
ap-sydney-1
|
SYD
|
| Australia Southeast (Melbourne) | München |
ap-melbourne-1
|
MEL
|
| Brazil Southeast (Vinhedo) | Vinhedo |
sa-vinhedo-1
|
VCP
|
| Canada Southeast (Montreal) | Montreal |
ca-montreal-1
|
YUL
|
| Canada Southeast (Toronto) | Toronto |
ca-toronto-1
|
YYZ
|
| Chile Central (Santiago) | Santiago |
sa-santiago-1
|
SCL
|
| Chilenischer Westen (Valparaiso) | Región de Valparaíso |
sa-valparaiso-1
|
VAP
|
| Colombia Central (Bogota) | Bogotá |
sa-bogota-1
|
BOG
|
| France Central (Paris) | Paris |
eu-paris-1
|
CDG
|
| France South (Marseille) | Marseille |
eu-marseille-1
|
MRS
|
| India West (Mumbai) | Mumbai |
ap-mumbai-1
|
BOM
|
| Indonesischer Norden (Batam) | Batam |
ap-batam-1
|
HSG
|
| Israel Central (Jerusalem) | Jerusalem |
il-jerusalem-1
|
MTZ
|
| Italy Northwest (Mailand) | Mailand |
eu-milan-1
|
LIN
|
| Italien Nord (Turin) | Turin |
eu-turin-1
|
NRQ
|
| Japan East (Tokio) | Präfektur Tokio |
ap-tokyo-1
|
NRT
|
| Mexico Central (Queretaro) | Querétaro |
mx-queretaro-1
|
QRO
|
| Mexico Northeast (Monterrey) | Monterrey |
mx-monterrey-1
|
MTY
|
| Marokko West (Casablanca) | Casablanca |
af-casablanca-1
|
LEJ
|
| Netherlands Northwest (Amsterdam) | Amsterdam |
eu-amsterdam-1
|
AMS
|
| Saudi Arabia West (Dschidda) | Dschidda |
me-jeddah-1
|
JED
|
| Singapore ( Singapur) | Singapur |
ap-singapore-1
|
SIN
|
| Singapore West (Singapur) | Singapur |
ap-singapore-2
|
XSP
|
| South Africa Central (Johannesburg) | Johannesburg |
af-johannesburg-1
|
JNB
|
| South Korea Central (Seoul) | Seoul |
ap-seoul-1
|
ICN
|
| South Korea North (Chuncheon) | Chuncheon |
ap-chuncheon-1
|
YNY
|
| Spain Central (Madrid) | Madrid |
eu-madrid-1
|
MAD
|
| Spain Central (Madrid 3) | Madrid |
eu-madrid-3
|
ORF
|
| Sweden Central (Stockholm) | Stockholm |
eu-stockholm-1
|
ARN
|
| Switzerland North (Zürich) | Zürich |
eu-zurich-1
|
ZRH
|
| UAE Central (Abu Dhabi) | Abu Dhabi |
me-abudhabi-1
|
AUH
|
| UK West (Newport) | Newport |
uk-cardiff-1
|
CWL
|
| US West (San Jose) | San José |
us-sanjose-1
|
SJC
|
Features für KI-Modelle für Unternehmen
| Feature | Verfügbarkeit |
|---|---|
| Regionales Routing mit Routingprofilen | Verfügbar für unterstützte On-Demand-Modelle. Anrufe werden an Regionen weitergeleitet, in denen das ausgewählte Modell verfügbar ist. |
| Chat-API | Verfügbar über ein Routingprofil für Modelle, die die Chat-API unterstützen. |
| Google Gemini-Inferenz | Verfügbar über ein Weiterleitungsprofil für unterstützte Modell- und Regionskombinationen. |
| xAI Grok-Inferenz | Verfügbar über ein Weiterleitungsprofil für unterstützte Modell- und Regionskombinationen. |
| Meta- und Cohere-Inferenz | Über ein Routingprofil verfügbar. Einbettungsanforderungen werden nicht unterstützt. |
| OpenAI gpt-oss-120b-Inferenz | Verfügbar über ein Weiterleitungsprofil für unterstützte Modell- und Regionskombinationen. |
| Modellabgang | Verfügbar |
| Dedizierte KI-Cluster und Modellendpunkte | Nicht verfügbar. |
| Modellimport und importierte Modellinferenz | Nicht verfügbar. |
| Einbettungs-API | Nicht verfügbar. |
| Private Endpunkte für Google Gemini- und xAI Grok-Modelle | Verfügbar |
| Private Endpunkte für gehostete oder importierte Modelle | Nicht verfügbar. |
Features für Enterprise AI Agents
| Feature | Verfügbarkeit |
|---|---|
| Sandboxes | Verfügbar |
| Gehostete Deployments | Verfügbar |
| Projekte | Verfügbar mit Kurzzeitgedächtnis. Langzeitgedächtnis wird nicht unterstützt. |
| Kurzzeitgedächtnis | Verfügbar |
| Semantische Speicher und Vektorspeicher | Nicht verfügbar. |
| Dateisuche | Nicht verfügbar. |
| API für OCI-Chatabschlüsse | Verfügbar über ein Routingprofil für Modelle, die Chatabschlüsse unterstützen. |
| OCI-Antwort-API | Verfügbar über ein Routingprofil für Modelle, die die Responses API unterstützen. Tools und andere Enterprise AI Agents-Features hängen von der in dieser Tabelle aufgeführten Verfügbarkeit ab. |
| Agent-Gateway für das Hosting von MCP-Tools | Nicht verfügbar. |
| Clientseitige MCP-Tools | Nicht verfügbar. |
| Langzeitgedächtnis | Nicht verfügbar. |
| Natürliche Sprache für SQL (NL2SQL) | Nicht verfügbar. |
Features für Enterprise AI Governance
| Feature | Verfügbarkeit |
|---|---|
| API-Schlüssel | Verfügbar |
| Limits | Nicht verfügbar. |