Creación de un despliegue
Cree un despliegue en el servicio OCI Generative AI para desplegar un contenedor de agente que pueda servir solicitudes de cliente para una aplicación.
Al crear un despliegue, seleccione una imagen de contenedor y una etiqueta de imagen. También puede activar el despliegue durante la creación para convertirlo en la versión en ejecución de la aplicación.
En esta tarea se describe cómo crear un despliegue mediante la consola de Oracle Cloud.
Uso y escala de recursos
El uso del despliegue depende de los recursos que ejecuten el despliegue activo. Cada réplica en ejecución utiliza recursos informáticos, y cualquier servicio de OCI gestionado activado para la aplicación puede crear otro uso.
La configuración de la aplicación controla cómo se escalan los despliegues. Estos valores incluyen el número mínimo de réplicas, el número máximo de réplicas y las métricas de escala automática. Consulte Escala.
Un despliegue se ejecuta como una o más réplicas. Cada réplica en ejecución utiliza la asignación de Compute definida por el servicio para la aplicación. Cuando la escala automática agrega réplicas, el uso de Compute aumenta en función del número de réplicas en ejecución.
Por ejemplo, si un despliegue activo se escala de una réplica a tres réplicas, utiliza tres réplicas de Compute para el tiempo en que se ejecutan esas réplicas.
Para estimar el uso de Compute, utilice la siguiente fórmula:
average running replicas x runtime hours x Compute allocation per replicaEl número medio de réplicas en ejecución depende de la configuración mínima de réplicas de la aplicación, la máxima de réplicas, el volumen de tráfico y la escala automática.
Para limitar la ampliación, defina un recuento máximo de réplicas más pequeño. Para desactivar la escala automática, defina las réplicas mínimas y las réplicas máximas con el mismo valor.
El almacenamiento gestionado, la caché, la base de datos, el registro, las redes y otros servicios de OCI activados pueden generar un uso independiente. Estimar el uso de esos recursos independientemente de los recursos informáticos de despliegue.
Una estimación mensual no es un compromiso. El uso real depende de cuántas réplicas se ejecuten y cuánto tiempo se ejecuten.
Pasos
Después de crear un despliegue, puede ver sus detalles y realizar otras tareas, como activarlo, copiar su OCID o suprimirlo. Utilice el menú de la consola para acceder a estas tareas. Para obtener más información, consulte Listado de despliegues.