Verarbeitungsregionen für lokale Modelle für generative KI

Erfahren Sie, wo OCI Generative AI lokale Modellverarbeitung bereitstellt und wie Sie von Regionen aus ohne lokale Modellverarbeitung auf den Service zugreifen können.

Wichtig

Unter Generative KI-Modelle nach Region finden Sie die Modellverfügbarkeit in den Regionen, die Inferenzanforderungen verarbeiten. Informationen zu Regionen ohne lokale Modellverarbeitung finden Sie unter Kommerzielle Regionen (OC1) ohne lokale Modellverarbeitung. Informationen zu Regionen, die KI-Agents für Unternehmen unterstützen, finden Sie unter Modelle und Regionen für KI-Agents für Unternehmen.

Kommerzielle Regionen (OC1) mit lokaler Modellverarbeitung

In der folgenden Tabelle werden die OC1-Regionen mit lokaler Modellverarbeitung in generativer KI aufgeführt. Verfügbare Modelle und Bereitstellungsmodi variieren je nach Region. Um ein On-Demand-Modell zu verwenden, das lokal nicht verfügbar ist, erstellen Sie ein Routingprofil für dieses Modell, und wählen Sie Regionen aus, in denen es verfügbar ist. Verwenden Sie das Profil aus Ihrer aktuellen Region im Playground oder über eine unterstützte Inferenz-API.

Regionsname Standort Regions-ID Regionsschlüssel
Brazil East (Sao Paulo) São Paulo sa-saopaulo-1 GRU
Germany Central (Frankfurt) Frankfurt am Main eu-frankfurt-1 FRA
India South (Hyderabad) Hyderabad ap-hyderabad-1 HYD
Japan Central (Osaka) Ōsaka ap-osaka-1 KIX
Saudi Arabia Central (Riad) Riad me-riyadh-1 RUH
UAE Central (Abu Dhabi) Abu Dhabi me-abudhabi-1 AUH
UAE East (Dubai) Dubai me-dubai-1 DXB
UK South (London) London uk-london-1 LHR
US East (Ashburn) Ashburn us-ashburn-1 IAD
US Midwest (Chicago) Chicago us-chicago-1 ORD
US West (Phoenix) Phoenix us-phoenix-1 PHX

Oracle hostet seine OCI-Services in Regionen und Availability-Domains. Eine Region ist ein bestimmter geografischer Bereich. Eine Availability-Domain umfasst mindestens ein Data Center innerhalb dieser Region.

Lernen Sie Regionen und Availability-Domains kennen.

Regionen für KI-Agents in Unternehmen

Eine Teilmenge der kommerziellen Regionen mit der oben aufgeführten lokalen Modellverarbeitung unterstützt die Modellinferenz über die OCI-Antworten-API und die OCI-Chat-Completions-API. Unterstützte Modell- und Regionskombinationen hängen von der API ab. Tools und Projektspeicherfunktionen verfügen ebenfalls über eine eigene regionale Verfügbarkeit.

Unterstützte Modelle, Regionen und Zugriffsanforderungen für Inferenz, Tools und Projektspeicher finden Sie unter Modelle und Regionen für KI-Agents in Unternehmen.

Verwenden Sie in Regionen ohne lokale Modellverarbeitung ein Routingprofil, um ein unterstütztes Modell über diese APIs aufzurufen. Informationen zu Verfügbarkeit und Einschränkungen von Features finden Sie unter Regionen ohne lokale Modellverarbeitung.

Kommerzielle Regionen (OC1) ohne lokale Modellverarbeitung

Informationen zu den Regionen OC1 ohne lokale Modellverarbeitung in generativer KI finden Sie unter Kommerzielle Regionen (OC1) ohne lokale Modellverarbeitung. Für On-Demand-Inferenz enthält diese Liste das UAE Central (Abu Dhabi). Abu Dhabi bietet auch lokale Modellverarbeitung für dedizierte KI-Cluster. Informationen zu allen kommerziellen OCI-Regionen finden Sie in der Tabelle mit OCI-Regionen. Einträge mit dem Realm-Schlüssel OC1 werden angezeigt.

Erstellen Sie in einer Region ohne lokale Modellverarbeitung ein Routingprofil für das On-Demand-Modell, das Sie verwenden möchten, und wählen Sie Zielregionen aus, in denen es verfügbar ist. Wählen Sie das Profil im Playground Ihrer Region aus, oder referenzieren Sie es in einer API-Anforderung, um die Anforderung an eine der ausgewählten OCI-Zielregionen weiterzuleiten. Bei extern gehosteten Modellen ruft diese OCI-Region den Modellprovider auf. Beispiele für die Weiterleitung und Verarbeitung finden Sie unter Wo werden Anforderungen verarbeitet?. Die Chat-API, die OCI Chat Completions-API und die OCI Responses-API werden unterstützt, wenn das ausgewählte Modell die API unterstützt. Regionale API-Endpunkte unterstützen IPv6.

Die unterstützten Features, Einschränkungen und Routinganweisungen finden Sie unter Regionen ohne lokale Modellverarbeitung.

US-Regierungsregion (OC2)

Regionsname Standort Regions-ID Regionsschlüssel
US Gov West (Phoenix) Phoenix us-luke-1 LUF

Weitere Informationen zu Oracle US Government Cloud.

US-Verteidigungsregion (OC3)

Regionsname Standort Regions-ID Regionsschlüssel
US DoD West (Phoenix) Phoenix us-gov-phoenix-1 TUS

Weitere Informationen zu Oracle US Defense Cloud.

Regierungsregion (OC4)

Regionsname Standort Regions-ID Regionsschlüssel
UK Gov South (London) London uk-gov-london-1 LTN

Erfahren Sie mehr über Oracle UK Sovereign Cloud.

Sovereign Region (OC19)

Regionsname Standort Regions-ID Regionsschlüssel
EU Sovereign Central (Frankfurt) Frankfurt am Main eu-frankfurt-2 STR

Weitere Informationen zur Oracle EU Sovereign Cloud.

Services, die den Generative AI-Service aufrufen

Einige OCI-Services rufen den Service für generative KI auf. In der folgenden Tabelle sind die aufrufenden und Zielregionen für diese Serviceintegrationen aufgeführt.

Es gibt OCI-Services, die (in den "Service Descriptions für Oracle PaaS und IaaS Universal Credits") Anrufe in den OCI Generative AI Service tätigen. Bei einem bestimmten Anruf beim OCI Generative AI-Service wird ein regionsübergreifender Anruf durchgeführt, wenn die anrufende Region und die Zielregion nicht identisch sind.

Fläche

Aufrufende Regionen:

OCI-Regionen, aus denen (regional) Aufrufe an den OCI Generative AI-Service erfolgen können

Zielregion:

OCI-Region, die OCI Generative AI Service anbietet

Brasilien GRU, VCP GRU
EU AMS, MRS, LIN, ARN, CDG, MAD, ZRH, FRA FRA
Indien BOM, HYD HYD
Japan KIX, NRT KIX
Saudi-Arabien RUH RUH
VAE DXB DXB
VAE AUH AUH
Großbritannien CWL, LHR LHR
USA IAD IAD
USA SJC, ORD ORD
USA PHX PHX