20 Memoria del agente

La memoria del agente es la parte de un sistema de agente de AI que permite al agente retener y reutilizar información en turnos, tareas o sesiones.

A diferencia de la ventana de contexto del modelo, que es temporal y se limita a la petición de datos actual, la memoria puede persistir en hechos, preferencias, decisiones previas, salidas de herramientas, planes intermedios u observaciones sobre el entorno.

Memoria de agente en Oracle AI Data Platform

AI Data Platform proporciona memoria a corto plazo que está limitada a la duración de una sesión. Puede configurar lo que se puede mantener en la memoria en el separador Contexto de su agente.

Configuración de memoria de un solo agente

La configuración de memoria de un único sistema de agente se puede encontrar en el separador Contexto del nodo de agente.


El lienzo del creador visual se muestra con un único nodo de agente, InvoiceAnalyst. Se selecciona el nodo y se resalta el separador Contexto.

Configuración de Memoria Descripción
Activar memoria de agente Esta configuración activa la memoria del agente. Cuando se desactiva, el agente es esencialmente un sistema sin estado. Cada turno se trata de forma independiente, y no se puede hacer ninguna pregunta de seguimiento. Recomendamos que la memoria esté activada.
Limitar historial de conversaciones Cuando esta selección está desactivada, las vueltas anteriores llenarán la memoria hasta que el modelo se quede sin contexto y se devuelva un error. Si se esperan sesiones cortas, se puede desactivar esta configuración. Sin embargo, en la mayoría de los casos de uso, Oracle recomienda limitar el historial de conversaciones.
Configuración de truncamiento Si opta por limitar el historial de conversaciones, puede decidir truncar el historial:
  • Mantener solo los últimos N mensajes (usuario + agente)
  • Establecer un presupuesto de token general (primero en entrar, primero en salir)
  • O ambos, cualquiera que sea el primero, disparan el truncamiento de la memoria del agente
Límites máximos de mensajes Si decide mantener los últimos N mensajes, puede establecer un valor de N.
Presupuesto de token También puede definir un presupuesto de token global. Los primeros tokens se eliminan para mantener los más recientes en memoria.

Configuración de memoria del sistema de varios agentes (patrón de supervisor)

La memoria de un sistema de varios agentes se configura en el separador Contexto del agente supervisor.


El lienzo del creador visual mostraba un agente múltiple. Se selecciona el nodo AccountsManager y se muestra el separador Memory.

La memoria de un sistema de varios agentes se aplica y no se puede desactivar, y las opciones de truncamiento de memoria que se muestran en el nodo de agente de supervisor solo se aplican a la memoria del agente de supervisor. Cada política de truncamiento de memoria del agente de ejecutor se puede configurar en el separador Contexto del nodo de ejecutor según la política de aislamiento de estado seleccionada para todo el sistema.

La configuración de memoria del sistema de varios agentes también permite seleccionar la política de uso compartido de memoria de los agentes ejecutores. Tres opciones son posibles: sin estado, privado y compartido. Tenga en cuenta que la política se aplica a todos los agentes de ejecutor.

Aislamiento de estado para agentes de ejecución Descripción
Sin estado Cada agente ejecutor solo ve la tarea asignada por el supervisor. No hay historial entre llamadas. El agente ejecutor no puede realizar ninguna solicitud de seguimiento al agente supervisor.

Si se selecciona sin estado, la memoria de cada agente de ejecutor se desactiva.

Privado Cada agente ejecutor solo ve sus propias interacciones pasadas. No puede ver otros agentes ejecutor ni la conversación de usuario original con el agente supervisor.

Si se selecciona privado, puede configurar la política de truncamiento de memoria por separado para cada agente de ejecutor en cada separador de memoria Contexto de nodo de agente.

Compartido Los agentes ejecutor pueden ver el historial completo de conversaciones entre agentes y usuarios. Todos los agentes trabajan desde un contexto compartido.

Si se selecciona Compartir, puede configurar la política de truncamiento de memoria por separado para cada agente de ejecutor en cada separador Contexto de nodo de agente.

Memoria almacenada en agentes

A medida que el agente se despliega y sirve a más usuarios, es importante supervisar la cantidad de capacidad de la base de datos utilizada para almacenar datos de sesión para el agente. Puede ver y modificar la configuración de memoria almacenada para el agente desde el separador Memoria Almacenada. Puede hacer clic en Editar para modificar los valores de retención de sesión y memoria a largo plazo.


La página Agent (Agente) se abre con el separador Stored Memory (Memoria almacenada) seleccionado y resaltado.

Valor Descripción
Estado de conexión Estado de conexión a Oracle Autonomous AI Lakehouse, donde se almacenan todos los datos de sesión.
Capacidad de ADB utilizada Capacidad total de la base de datos utilizada en todas las sesiones de este agente.
Sesiones Número total de sesión para este agente. Incluye sesiones de prueba (Playground) y de despliegue.
Recursos informáticos de IA Nombre del recurso informático AI que aloja el agente. Si se despliega el agente, este es el recurso informático de AI que aloja el despliegue. De lo contrario, este es el recurso informático de IA que aloja el patio de recreo.

Memoria a largo plazo

Los agentes se configuran para que los usuarios interactúen con el mismo agente a través de varias sesiones. El usuario puede compartir información importante, como las preferencias, y el agente también puede aprender de patrones comunes adoptados en varias sesiones, como las herramientas utilizadas. La capacidad de acceder a memorias extraídas a través de varias sesiones se habilita a través de la memoria a largo plazo.

Puede configurar la memoria a largo plazo desde el separador Memoria almacenada en el agente.

Retención de datos de sesión

Los datos de sesión de Oracle AI Data Platform hacen referencia a todos los mensajes intercambiados entre un agente y un usuario durante una sesión.

Note:

Oracle recomienda crear copias de almacenamiento en frío de los datos de sesión almacenados en la base de datos de Oracle Autonomous AI Lakehouse para conservar registros completos de todos los mensajes intercambiados entre usuarios y agentes para respaldar auditorías, descubrimiento legal y litigios.

Las sesiones pueden durar potencialmente horas, días o incluso semanas, lo que lleva a un gran número de mensajes intercambiados y retenidos por los datos de sesión. Todos los datos de sesión de AI Data Platform se almacenan en la instancia de Autonomous AI Lakehouse aprovisionada para su instancia con el fin de activar las funciones de IA. Para obtener más información, consulte AI Feature Management.

Por defecto, AI Data Platform no limita la cantidad de datos de sesión almacenados para cada sesión en el Autonomous AI Lakehouse aprovisionado. Como resultado, los datos de sesión pueden crecer rápidamente en escenarios en los que los agentes están en uso regular para muchos usuarios en varias sesiones. Para gestionar esto, Oracle recomienda configurar límites para la cantidad de datos de sesión retenidos.

La primera vez que crea un agente, puede configurar sus valores de retención de sesión. Consulte Creación de un agente. Si el agente ya está creado y desea volver a configurar su configuración de retención de sesión, puede hacerlo desde el separador Memoria de sesión.

Valor Descripción
Retención de sesión Active Aplicar política de retención para configurar cómo y cuándo se eliminan los datos de sesión cuando se alcanzan los límites especificados.
Límite de retención Seleccione el método para gestionar los límites de datos de sesión:
  • El período de retención define un período de tiempo en días para el que se retienen los datos de sesión. Cuando los datos de sesión alcanzan la edad de caducidad, se suprimen de Autonomous AI Lakehouse.
  • El límite de tamaño de sesión define un límite en MB para la cantidad de datos de sesión retenidos. Cuando se alcanza este límite, los datos más antiguos se suprimen primero.
  • El límite de recuento de threads define un límite para el número de threads, es decir, combinaciones de mensajes de usuario y respuestas de agente, que se retienen en los datos de sesión. Cuando se alcanza el límite, los subprocesos más antiguos se suprimen primero.

Resumen automático

El resumen automático se puede activar independientemente de la retención de sesión. Los resúmenes automáticos se aplican a los datos conversacionales inyectados en la ventana Contexto del modelo. Esta opción resume los mensajes más antiguos que superarían el 80% de la longitud de contexto del modelo seleccionado.

Esta es una buena opción para activarla si desea mantener los datos de sesiones largas en la base de datos al tiempo que evita que estas sesiones largas superen la ventana de contexto del agente.

Note:

Los resúmenes los genera un LLM para retener un contexto importante antes de suprimir los mensajes de origen anteriores. Es posible que no se conserven algunas palabras exactas, pasos intermedios o detalles de menor prioridad.

Activación de la memoria a largo plazo para un agente

Puede activar la memoria a largo plazo para los agentes para que pueda interactuar con el mismo agente en varias sesiones.

  1. Vaya a su agente.
  2. Haga clic en el separador Memoria almacenada.
  3. Seleccione Activar memoria a largo plazo.
  4. Seleccione el modelo y la región que desea utilizar para soportar la memoria a largo plazo para el agente.
  5. Opcional: puede activar la memoria del agente para que se comparta entre sesiones. Si está desactivado, el agente se limita solo a las memorias extraídas en la misma sesión. Si esta opción está activada, el agente tiene acceso a las memorias extraídas en todas las sesiones iniciadas por el mismo usuario.

Ver configuración de retención de datos de sesión de agente

Puede ver la configuración actual de los valores de retención de datos de sesión para los agentes en el separador Memoria almacenada.

  1. Vaya a su agente.
  2. Haga clic en el separador Memoria almacenada.

Modificar configuración de retención de datos de sesión de agente

Puede activar, desactivar y modificar la configuración de retención de datos de sesión para los agentes.

  1. Vaya a su agente.
  2. Haga clic en el separador Memoria almacenada.
  3. Haga clic en Editar.
  4. Seleccione Aplicar política de retención para activarla o anular su selección para desactivarla.
  5. Configure el límite de retención:
    • Para el período de retención, proporcione el número de días que se conservan los datos de sesión antes de suprimirlos de Oracle Autonomous AI Lakehouse.
    • Para Límite de tamaño de sesión, proporcione el límite máximo de almacenamiento en MB para los datos de sesión retenidos. Cuando se alcanza este límite, se suprimen los mensajes de sesión más antiguos.
    • Para el límite de recuento de threads, proporcione un límite al número de threads (combinaciones de mensajes de usuario y respuestas de agente) retenidos. Cuando se alcanza este límite, se suprimen los threads de sesión más antiguos.
  6. Seleccione Resumen automático para conservar resúmenes de información importante de la sesión.
  7. Haga clic en Guardar cambios.