Gerenciando Perfis de Roteamento
Os perfis de roteamento definem como a OCI Generative AI roteia solicitações de modelo sob demanda entre regiões da OCI selecionadas pelo usuário.
Um perfil de roteamento especifica um modelo sob demanda suportado e uma ou mais regiões do OCI de destino no mesmo realm em que esse modelo está disponível. Quando você faz referência ao perfil de rota em uma solicitação de inferência suportada, o serviço Generative AI roteia a solicitação apenas entre as regiões de destino no perfil.
Use perfis de rota para acessar um modelo sob demanda selecionado em um escopo regional aprovado sem criar um roteamento entre regiões do lado do aplicativo. Para obter a disponibilidade regional de cada modelo, consulte Modelos de IA Generativa por Região.
Esta versão suporta perfis de rota somente para modelos sob demanda.
Você pode executar as seguintes tarefas para criar e gerenciar perfis de rota: