Gestión de perfiles de enrutamiento

Los perfiles de enrutamiento definen cómo OCI Generative AI enruta las solicitudes de modelo bajo demanda en las regiones de OCI seleccionadas por el usuario.

Un perfil de enrutamiento especifica un modelo a demanda soportado y una o más regiones de OCI de destino dentro del mismo dominio en el que ese modelo está disponible. Cuando hace referencia al perfil de enrutamiento en una solicitud de inferencia admitida, la IA generativa enruta la solicitud solo entre las regiones de destino del perfil.

Utilice los perfiles de enrutamiento para acceder a un modelo bajo demanda seleccionado en un ámbito regional aprobado sin crear un enrutamiento entre regiones del lado de la aplicación. Para conocer la disponibilidad regional de cada modelo, consulte Modelos de IA generativa por región.

Puede realizar las siguientes tareas para crear y gestionar perfiles de enrutamiento:

• Creación de un perfil de enrutamiento
• Listado de perfiles de enrutamiento
• Obtención de detalles de un perfil de enrutamiento
• Actualización de un perfil de enrutamiento
• Movimiento de un perfil de enrutamiento
• Supresión de un perfil de enrutamiento