Aree senza elaborazione modello locale

Utilizza i profili di instradamento per eseguire l'inferenza su richiesta sui modelli ospitati in altre aree OCI.

Utilizza l'intelligenza artificiale generativa dall'area selezionata anche quando il modello desiderato è ospitato in un'altra area. Nelle aree senza elaborazione di modelli locali, le richieste su richiesta vengono instradate ai modelli elaborati in altre aree. L'elenco include anche gli Emirati Arabi Uniti centrali (Abu Dhabi) per l'inferenza su richiesta. Abu Dhabi fornisce l'elaborazione dei modelli locali per cluster AI dedicati. Creare un profilo di instradamento per il modello e selezionare una o più aree in cui è disponibile. Quindi selezionare il profilo nel Playground o fare riferimento a esso in una richiesta API. L'intelligenza artificiale generativa instrada la richiesta a un'area selezionata per eseguire il modello.

Ad esempio, a Singapore (ap-singapore-1), è possibile creare un profilo di instradamento per openai.gpt-oss-120b con Francoforte (eu-frankfurt-1) come area di destinazione. Seleziona il profilo in Singapore's Playground per chattare con la modella servita da Frankfurt. Puoi continuare a lavorare a Singapore senza passare dalla console a Francoforte.

Importante

L'inferenza del modello tramite i profili di instradamento è disponibile solo in modalità su richiesta. Ogni profilo specifica un modello supportato e una o più aree di destinazione nello stesso realm in cui tale modello è disponibile.

I profili di instradamento sono disponibili anche nelle regioni con elaborazione del modello locale. Ad esempio, se un modello su richiesta è disponibile in Midwest degli Stati Uniti (Chicago) ma non in Est degli Stati Uniti (Ashburn), creare un profilo di instradamento in Ashburn e selezionare Chicago come area di destinazione. Quindi selezionare il profilo nel Playground di Ashburn o fare riferimento a esso in una richiesta all'endpoint API Ashburn. L'intelligenza artificiale generativa instrada la richiesta di inferenza a Chicago.

L'API chat, l'API chat completamenti OCI e l'API risposte OCI supportano i profili di instradamento per i modelli che supportano l'API selezionata. Per il modello API Risposte e la disponibilità dell'area, vedere Modelli e aree per gli agenti AI aziendali. Gli endpoint dell'API AI generativa in queste aree supportano IPv6.

Per informazioni dettagliate sulla creazione di un profilo di instradamento e sul relativo utilizzo nelle richieste API completamenti chat OCI e API risposte OCI, vedere l'esercitazione Richieste modello instradamento in tutte le aree OCI.

Per la disponibilità del modello nelle aree di destinazione, vedere Modelli per area. Le tabelle delle caratteristiche riportate di seguito elencano le funzionalità disponibili nelle aree elencate in questa pagina, inclusi gli Emirati Arabi Uniti centrali (Abu Dhabi).

Accedi a un modello in un'altra area

Creare il profilo di instradamento nell'area in cui si desidera utilizzare l'intelligenza artificiale generativa. Il profilo seleziona il modello e le relative aree di servizio. La selezione del profilo in Playground consente di utilizzare tale modello dall'area corrente.

  1. Nella console selezionare l'area, ad esempio Singapore (Singapore) (ap-singapore-1).
  2. Aprire Analytics e AI, selezionare AI generativa e quindi Profili di instradamento.
  3. Selezionare Crea profilo di instradamento. Immettere un nome, ad esempio singapore-frankfurt, e selezionare un compartimento.
  4. In Configurazione selezionare il modello da utilizzare in Selezione modello, ad esempio openai.gpt-oss-120b. Destinare le aree OCI elenca le aree in cui tale modello è disponibile. Selezionare una o più aree, ad esempio Francoforte (eu-frankfurt-1), quindi selezionare Crea. Per istruzioni complete, vedere Creazione di un profilo ciclo.
  5. Aprire la pagina dei dettagli del profilo e verificare che il relativo stato sia Attivo. Esamina la selezione dei modelli e le aree OCI di destinazione per confermare il modello e le aree di servizio.
  6. Anche se ancora nella propria area, aprire Playground, selezionare Chat e selezionare il compartimento del profilo. Nel menu Modello selezionare il profilo di instradamento, ad esempio singapore-frankfurt.
  7. Immettere un prompt e selezionare Sottometti. L'intelligenza artificiale generativa esegue il modello specificato nel profilo in una delle aree di destinazione selezionate. In Playground, esaminare Modello di instradamento e Area di servizio per vedere quale modello e regione hanno servito la richiesta.

È possibile utilizzare lo stesso profilo nelle richieste API inviate all'endpoint dell'area. Per una richiesta API completamenti chat OCI o API risposte OCI, impostare model sull'OCID completo del profilo. Selezionare un modello che supporti l'API che si prevede di chiamare. Per esempi di Python e istruzioni di impostazione per entrambe le API, vedere Route Model Requests Across OCI Region.

Regioni commerciali (OC1) senza elaborazione di modelli locali

Nella tabella seguente sono elencate le aree OC1 che instradano l'inferenza su richiesta ad altre aree dell'intelligenza artificiale generativa. I nomi delle aree, gli identificativi e le chiavi seguono la tabella delle aree OCI.

Nota

UAE Central (Abu Dhabi) ospita anche modelli per cluster AI dedicati. L'inferenza su richiesta da Abu Dhabi utilizza un profilo di instradamento per accedere a un modello supportato in un'altra area. Per i modelli in hosting locale e la relativa disponibilità dedicata, vedere Modelli per area: Medio Oriente.
Nome dell'area Posizione Identificativo dell'area Chiave area
Australia (Est) - Sydney Sydney ap-sydney-1 SYD
Australia sud-orientale (Melbourne) Milano ap-melbourne-1 MEL
Brasile (Sud-est) - Vinhedo Vinhedo sa-vinhedo-1 VCP
Canada sud-orientale (Montreal) Montreal ca-montreal-1 YUL
Canada sud-occidentale (Toronto) Toronto ca-toronto-1 YYZ
Cile (Centro) - Santiago Santiago sa-santiago-1 SCL
Cile occidentale (Valparaiso) regione di Valparaíso sa-valparaiso-1 VAP
Colombia centrale (Bogotà) Bogotà sa-bogota-1 BOG
Francia (centrale) - Parigi Parigi eu-paris-1 CDG
India (Ovest) - Mumbai Mumbai ap-mumbai-1 BOM
Indonesia settentrionale (Batam) provincia di Batam ap-batam-1 HSG
Italia (Nord-ovest) - Milano Milano eu-milan-1 LIN
Italia Nord (Torino) Torino eu-turin-1 NRQ
Giappone (Est) - Tokyo Tokyo ap-tokyo-1 NRT
Messico centrale (Queretaro) Querétaro mx-queretaro-1 QRO
Messico (Nord-est) - Monterrey Monterrey mx-monterrey-1 MTY
Marocco occidentale (Casablanca) Casablanca af-casablanca-1 LEJ
Paesi Bassi nord-occidentali (Amsterdam) Amsterdam eu-amsterdam-1 AMS
Singapore (Singapore) Singapore ap-singapore-1 SIN
Singapore Ovest (Singapore) Singapore ap-singapore-2 XSP
Sudafrica centrale - Johannesburg Johannesburg af-johannesburg-1 JNB
Corea del Sud (Centro) - Seul Seul ap-seoul-1 ICN
Corea del Sud (Nord) - Chuncheon Chuncheon ap-chuncheon-1 YNY
Spagna centrale (Madrid) Madrid eu-madrid-1 MAD
Spagna centrale (Madrid 3) Madrid eu-madrid-3 ORF
Svezia (Centro) - Stoccolma Stoccolma eu-stockholm-1 ARN
Svizzera settentrionale (Zurigo) Zurigo eu-zurich-1 ZRH
Emirati Arabi Uniti (Centro) - Abu Dhabi Abu Dhabi me-abudhabi-1 AUH
Regno Unito (Ovest) - Newport Newport uk-cardiff-1 CWL
Stati Uniti (Ovest) - San Jose San José us-sanjose-1 SJC

Funzioni per i modelli AI aziendali

Funzione Disponibilità
Instradamento regionale con profili di instradamento Disponibile per i modelli su richiesta supportati. Le chiamate vengono instradate alle aree in cui è disponibile il modello selezionato.
API chat Disponibile tramite un profilo di instradamento per i modelli che supportano l'API Chat.
Inferenza di Google Gemini Disponibile tramite un profilo di instradamento per le combinazioni di modello e area supportate.
Inferenza di xAI Grok Disponibile tramite un profilo di instradamento per le combinazioni di modello e area supportate.
Inferenza Meta e Cohere Disponibile tramite un profilo di instradamento. Le richieste di incorporamento non sono supportate.
inferenza di OpenAI gpt-oss-120b Disponibile tramite un profilo di instradamento per le combinazioni di modello e area supportate.
Modello di smobilizzo Disponibili.
Cluster AI dedicati e endpoint dei modelli Non disponibile.
Importazione modello e inferenza modello importata Non disponibile.
Integrazione API Non disponibile.
Endpoint privati per i modelli Google Gemini e xAI Grok Disponibili.
Endpoint privati per i modelli hosted o importati Non disponibile.

Funzioni per gli agenti AI aziendali

Funzione Disponibilità
Sandbox Disponibili.
Distribuzioni in hosting Disponibili.
Progetti Disponibile con memoria a breve termine. Memoria a lungo termine non supportata.
Memoria a breve termine Disponibili.
Memorie semantiche e archivi vettoriali Non disponibile.
Ricerca file Non disponibile.
API completamenti chat OCI Disponibile tramite un profilo di instradamento per i modelli che supportano il completamento chat.
API Risposte OCI Disponibile tramite un profilo di instradamento per i modelli che supportano l'API Risposte. Gli strumenti e le altre funzioni di Enterprise AI Agents sono soggetti alla disponibilità elencata in questa tabella.
Gateway dell'agente per l'hosting degli strumenti MCP Non disponibile.
Strumenti MCP lato client Non disponibile.
Memoria a lungo termine Non disponibile.
Dal linguaggio naturale a SQL (NL2SQL) Non disponibile.

Funzioni per Enterprise AI Governance

Funzione Disponibilità
Chiavi API Disponibili.
Limiti Non disponibile.