Verarbeitungsregionen für lokale Modelle für generative KI
Erfahren Sie, wo OCI Generative AI lokale Modellverarbeitung bereitstellt und wie Sie von Regionen aus ohne lokale Modellverarbeitung auf den Service zugreifen können.
Unter Generative KI-Modelle nach Region finden Sie die Modellverfügbarkeit in den Regionen, die Inferenzanforderungen verarbeiten. Informationen zu Regionen ohne lokale Modellverarbeitung finden Sie unter Kommerzielle Regionen (OC1) ohne lokale Modellverarbeitung. Informationen zu Regionen, die KI-Agents für Unternehmen unterstützen, finden Sie unter Modelle und Regionen für KI-Agents für Unternehmen.
Kommerzielle Regionen (OC1) mit lokaler Modellverarbeitung
In der folgenden Tabelle werden die OC1-Regionen mit lokaler Modellverarbeitung in generativer KI aufgeführt. Verfügbare Modelle und Bereitstellungsmodi variieren je nach Region. Um ein On-Demand-Modell zu verwenden, das lokal nicht verfügbar ist, erstellen Sie ein Routingprofil für dieses Modell, und wählen Sie Regionen aus, in denen es verfügbar ist. Verwenden Sie das Profil aus Ihrer aktuellen Region im Playground oder über eine unterstützte Inferenz-API.
| Regionsname | Standort | Regions-ID | Regionsschlüssel |
|---|---|---|---|
| Brazil East (Sao Paulo) | São Paulo |
sa-saopaulo-1
|
GRU
|
| Germany Central (Frankfurt) | Frankfurt am Main |
eu-frankfurt-1
|
FRA
|
| India South (Hyderabad) | Hyderabad |
ap-hyderabad-1
|
HYD
|
| Japan Central (Osaka) | Ōsaka |
ap-osaka-1
|
KIX
|
| Saudi Arabia Central (Riad) | Riad |
me-riyadh-1
|
RUH
|
| UAE Central (Abu Dhabi) | Abu Dhabi | me-abudhabi-1 |
AUH |
| UAE East (Dubai) | Dubai |
me-dubai-1
|
DXB
|
| UK South (London) | London |
uk-london-1
|
LHR
|
| US East (Ashburn) | Ashburn |
us-ashburn-1
|
IAD
|
| US Midwest (Chicago) | Chicago |
us-chicago-1
|
ORD
|
| US West (Phoenix) | Phoenix |
us-phoenix-1
|
PHX
|
Oracle hostet seine OCI-Services in Regionen und Availability-Domains. Eine Region ist ein bestimmter geografischer Bereich. Eine Availability-Domain umfasst mindestens ein Data Center innerhalb dieser Region.
Lernen Sie Regionen und Availability-Domains kennen.
Regionen für KI-Agents in Unternehmen
Eine Teilmenge der kommerziellen Regionen mit der oben aufgeführten lokalen Modellverarbeitung unterstützt die Modellinferenz über die OCI-Antworten-API und die OCI-Chat-Completions-API. Unterstützte Modell- und Regionskombinationen hängen von der API ab. Tools und Projektspeicherfunktionen verfügen ebenfalls über eine eigene regionale Verfügbarkeit.
Unterstützte Modelle, Regionen und Zugriffsanforderungen für Inferenz, Tools und Projektspeicher finden Sie unter Modelle und Regionen für KI-Agents in Unternehmen.
Verwenden Sie in Regionen ohne lokale Modellverarbeitung ein Routingprofil, um ein unterstütztes Modell über diese APIs aufzurufen. Informationen zu Verfügbarkeit und Einschränkungen von Features finden Sie unter Regionen ohne lokale Modellverarbeitung.
Kommerzielle Regionen (OC1) ohne lokale Modellverarbeitung
Informationen zu den Regionen OC1 ohne lokale Modellverarbeitung in generativer KI finden Sie unter Kommerzielle Regionen (OC1) ohne lokale Modellverarbeitung. Für On-Demand-Inferenz enthält diese Liste das UAE Central (Abu Dhabi). Abu Dhabi bietet auch lokale Modellverarbeitung für dedizierte KI-Cluster. Informationen zu allen kommerziellen OCI-Regionen finden Sie in der Tabelle mit OCI-Regionen. Einträge mit dem Realm-Schlüssel OC1 werden angezeigt.
Erstellen Sie in einer Region ohne lokale Modellverarbeitung ein Routingprofil für das On-Demand-Modell, das Sie verwenden möchten, und wählen Sie Zielregionen aus, in denen es verfügbar ist. Wählen Sie das Profil im Playground Ihrer Region aus, oder referenzieren Sie es in einer API-Anforderung, um die Anforderung an eine der ausgewählten OCI-Zielregionen weiterzuleiten. Bei extern gehosteten Modellen ruft diese OCI-Region den Modellprovider auf. Beispiele für die Weiterleitung und Verarbeitung finden Sie unter Wo werden Anforderungen verarbeitet?. Die Chat-API, die OCI Chat Completions-API und die OCI Responses-API werden unterstützt, wenn das ausgewählte Modell die API unterstützt. Regionale API-Endpunkte unterstützen IPv6.
Die unterstützten Features, Einschränkungen und Routinganweisungen finden Sie unter Regionen ohne lokale Modellverarbeitung.
US-Regierungsregion (OC2)
| Regionsname | Standort | Regions-ID | Regionsschlüssel |
|---|---|---|---|
| US Gov West (Phoenix) | Phoenix |
us-luke-1
|
LUF
|
Weitere Informationen zu Oracle US Government Cloud.
US-Verteidigungsregion (OC3)
| Regionsname | Standort | Regions-ID | Regionsschlüssel |
|---|---|---|---|
| US DoD West (Phoenix) | Phoenix |
us-gov-phoenix-1
|
TUS
|
Weitere Informationen zu Oracle US Defense Cloud.
Regierungsregion (OC4)
| Regionsname | Standort | Regions-ID | Regionsschlüssel |
|---|---|---|---|
| UK Gov South (London) | London |
uk-gov-london-1
|
LTN
|
Erfahren Sie mehr über Oracle UK Sovereign Cloud.
Sovereign Region (OC19)
| Regionsname | Standort | Regions-ID | Regionsschlüssel |
|---|---|---|---|
| EU Sovereign Central (Frankfurt) | Frankfurt am Main |
eu-frankfurt-2
|
STR
|
Weitere Informationen zur Oracle EU Sovereign Cloud.
Services, die den Generative AI-Service aufrufen
Einige OCI-Services rufen den Service für generative KI auf. In der folgenden Tabelle sind die aufrufenden und Zielregionen für diese Serviceintegrationen aufgeführt.
Es gibt OCI-Services, die (in den "Service Descriptions für Oracle PaaS und IaaS Universal Credits") Anrufe in den OCI Generative AI Service tätigen. Bei einem bestimmten Anruf beim OCI Generative AI-Service wird ein regionsübergreifender Anruf durchgeführt, wenn die anrufende Region und die Zielregion nicht identisch sind.
|
Fläche |
Aufrufende Regionen: OCI-Regionen, aus denen (regional) Aufrufe an den OCI Generative AI-Service erfolgen können |
Zielregion: OCI-Region, die OCI Generative AI Service anbietet |
|---|---|---|
| Brasilien |
GRU, VCP
|
GRU
|
| EU |
AMS, MRS, LIN, ARN, CDG, MAD, ZRH, FRA
|
FRA
|
| Indien |
BOM, HYD
|
HYD
|
| Japan |
KIX, NRT
|
KIX
|
| Saudi-Arabien |
RUH
|
RUH
|
| VAE |
DXB
|
DXB
|
| VAE | AUH |
AUH |
| Großbritannien |
CWL, LHR
|
LHR
|
| USA |
IAD |
IAD |
| USA |
SJC, ORD
|
ORD |
| USA | PHX |
PHX |