20 Mémoire d'agent

La mémoire de l'agent est la partie d'un système d'agent AI qui permet à l'agent de conserver et de réutiliser les informations sur les virages, les tâches ou les sessions.

Contrairement à la fenêtre de contexte du modèle, qui est temporaire et limitée à l'invite actuelle, la mémoire peut persister des faits, des préférences, des décisions antérieures, des sorties d'outil, des plans intermédiaires ou des observations sur l'environnement.

Mémoire d'agent dans Oracle AI Data Platform

AI Data Platform fournit une mémoire à court terme qui est limitée à la durée d'une session. Vous pouvez configurer ce qui peut être conservé en mémoire dans l'onglet Contexte de votre agent.

Configuration de mémoire à agent unique

La configuration de la mémoire d'un système à agent unique se trouve dans l'onglet Contexte du noeud d'agent.

Configuration de la mémoire	Description
Activer la mémoire de l'agent	Ce paramètre active la mémoire de l'agent. Lorsqu'il est désactivé, l'agent est essentiellement un système sans état. Chaque tour est traité indépendamment, et aucune question de suivi ne peut être posée. Nous vous recommandons d'activer la mémoire.
Limiter l'historique des conversations	Lorsque cette sélection est désactivée, les tours précédents remplissent la mémoire jusqu'à ce que le modèle soit à court de contexte et qu'une erreur soit renvoyée. Si des sessions courtes sont attendues, il est acceptable de désactiver ce paramètre. Toutefois, dans la plupart des cas d'utilisation, Oracle recommande de limiter l'historique des conversations.
Configuration de la troncature	Si vous choisissez de limiter l'historique des conversations, vous pouvez décider de tronquer l'historique en procédant comme suit : Conserver uniquement les N derniers messages (utilisateur + agent) Définir un budget global pour les jetons (premier entré, premier sorti) Ou les deux, selon la première occurrence, déclenche la troncation de la mémoire de l'agent
Limites maximales de messages	Si vous choisissez de conserver les N derniers messages, vous pouvez définir la valeur N.
Budget du jeton	Vous pouvez également définir un budget global de jetons. Les premiers jetons sont éliminés pour conserver les plus récents en mémoire.

Configuration de la mémoire système multi-agent (modèle de superviseur)

La mémoire d'un système multi-agent est configurée dans l'onglet Contexte de l'agent superviseur.

La mémoire d'un système multi-agent est appliquée et ne peut pas être désactivée. Les options de troncation de mémoire affichées dans le noeud d'agent superviseur sont uniquement appliquées à la mémoire de l'agent superviseur. Chaque stratégie de troncation de mémoire d'agent d'exécuteur peut être configurée dans l'onglet Contexte du noeud d'exécuteur en fonction de la stratégie d'isolement d'état sélectionnée pour l'ensemble du système.

La configuration de la mémoire système multi-agent vous permet également de sélectionner la stratégie de partage de mémoire des agents exécutifs. Trois options sont possibles : Sans conservation de statut, Privé et Partagé. La stratégie est appliquée à tous les agents exécutifs.

Isolation d'état pour les agents exécutifs	Description
Sans conservation de statut	Chaque agent exécuteur ne voit que la tâche affectée par le superviseur. Aucun historique n'est reporté entre les appels. Aucune demande de suivi ne peut être adressée à l'agent superviseur par l'agent exécuteur. Si l'option sans conservation de statut est sélectionnée, la mémoire de chaque agent exécuteur est désactivée.
Privé	Chaque agent exécuteur ne voit que ses propres interactions passées. Il ne peut pas voir d'autres agents exécutifs ni la conversation utilisateur d'origine avec l'agent superviseur. Si private est sélectionné, vous pouvez configurer la stratégie de troncation de mémoire séparément pour chaque agent exécuteur dans l'onglet Mémoire Contexte de chaque noeud d'agent.
Partagé	Les agents exécutifs peuvent consulter l'historique complet des conversations entre les agents et les utilisateurs. Tous les agents travaillent à partir d'un contexte partagé. Si l'option Partagé est sélectionnée, vous pouvez configurer la stratégie de troncation de mémoire séparément pour chaque agent exécuteur dans chaque onglet Contexte de noeud d'agent.

Mémoire stockée dans les agents

Au fur et à mesure que l'agent est déployé et qu'il sert davantage d'utilisateurs, il est important de surveiller la quantité de capacité de base de données utilisée pour stocker les données de session de l'agent. Vous pouvez voir et modifier les paramètres de mémoire stockée pour votre agent dans l'onglet Mémoire stockée. Vous pouvez cliquer sur Modifier pour modifier les paramètres de mémoire et de conservation de session à long terme.

Paramétrage	Description
Icônes d'état de la connexion	Statut de connexion à l'Oracle Autonomous AI Lakehouse où toutes les données de session sont stockées.
Capacité ADB utilisée	Capacité totale de base de données utilisée sur l'ensemble de la session de cet agent.
Sessions	Nombre total de séances pour cet agent. Inclut les sessions de test (Playground) et de déploiement.
Calcul IA	Nom du calcul AI hébergeant l'agent. Si l'agent est déployé, il s'agit du calcul AI qui héberge le déploiement. Sinon, il s'agit du calcul AI hébergeant le Playground de test.

Mémoire à long terme

Vous configurez vos agents afin que les utilisateurs interagissent avec le même agent via plusieurs sessions. L'utilisateur peut partager des informations importantes, telles que les préférences, et l'agent peut également tirer des enseignements des modèles communs adoptés dans plusieurs sessions, tels que les outils utilisés. La possibilité d'accéder aux mémoires extraites sur plusieurs sessions est activée via la mémoire à long terme.

Vous pouvez configurer la mémoire à long terme à partir de l'onglet Mémoire stockée de votre agent.

Conservation des données de session

Les données de session dans Oracle AI Data Platform font référence à tous les messages échangés entre un agent et un utilisateur au cours d'une session.

Remarques :

Oracle vous recommande fortement de créer des copies de stockage à froid des données de session stockées dans la base de données Oracle Autonomous AI Lakehouse afin de conserver des enregistrements complets de tous les messages échangés entre les utilisateurs et les agents pour prendre en charge les audits, la découverte juridique et les litiges.

Les sessions peuvent durer des heures, des jours, voire des semaines, ce qui entraîne un grand nombre de messages échangés et conservés par les données de session. Toutes les données de session AI Data Platform sont stockées dans l'Autonomous AI Lakehouse provisionné pour votre instance afin d'activer les fonctionnalités d'IA. Pour plus d'informations, voir Gestion des fonctionnalités d'IA.

Par défaut, la plate-forme de données d'IA ne limite pas la quantité de données de session stockées pour chaque session dans l'Autonomous AI Lakehouse provisionné. Par conséquent, les données de session peuvent croître rapidement dans des scénarios où les agents sont utilisés régulièrement pour de nombreux utilisateurs sur plusieurs sessions. Pour ce faire, Oracle recommande de configurer des limites pour la quantité de données de session conservées.

Lorsque vous créez un agent pour la première fois, vous pouvez configurer ses paramètres de conservation de session. Reportez-vous à Création d'un agent. Si l'agent est déjà créé et que vous souhaitez reconfigurer ses paramètres de conservation de session, vous pouvez le faire à partir de l'onglet Mémoire de session.

Paramétrage	Description
Conservation de session	Activez l'option Appliquer la stratégie de conservation pour configurer comment et quand les données de session sont enlevées lorsque les limites indiquées sont atteintes.
Limite de conservation	Sélectionnez la méthode de gestion des limites de données de session : La période de conservation définit une période (en jours) pendant laquelle les données de session sont conservées. Lorsque les données de session atteignent l'âge d'expiration, elles sont supprimées de votre Autonomous AI Lakehouse. La limite de taille de session définit une limite en Mo pour la quantité de données de session conservées. Lorsque cette limite est atteinte, les données les plus anciennes sont supprimées en premier. La limite du nombre de threads définit une limite pour le nombre de threads, c'est-à-dire les combinaisons de messages utilisateur et de réponses d'agent, qui sont conservés dans les données de session. Lorsque la limite est atteinte, les threads les plus anciens sont supprimés en premier.

Synthèse automatique

L'agrégation automatique peut être activée indépendamment de la conservation de session. Les synthèses automatiques sont appliquées aux données conversationnelles injectées dans la fenêtre Contexte du modèle. Cette option récapitule les anciens messages qui dépasseraient 80 % de la longueur du contexte du modèle sélectionné.

Cette option est utile si vous souhaitez rendre persistantes les données des sessions longues de la base de données, tout en empêchant ces sessions longues de dépasser la fenêtre de contexte de l'agent.

Remarques :

Les résumés sont générés par un LLM pour conserver un contexte important avant que les anciens messages source ne soient supprimés. Certains termes exacts, étapes intermédiaires ou détails de priorité inférieure peuvent ne pas être conservés.

Activer la mémoire à long terme pour un agent

Vous pouvez activer la mémoire à long terme pour les agents afin de pouvoir interagir avec le même agent sur plusieurs sessions.

1. Accédez à votre agent.
2. Cliquez sur l'onglet Mémoire stockée.
3. Sélectionnez Activer la mémoire à long terme.
4. Sélectionnez le modèle et la région à utiliser pour prendre en charge la mémoire à long terme pour l'agent.
5. Facultatif : vous pouvez activer le partage de la mémoire d'agent entre les sessions. Si cette option est désactivée, votre agent est limité aux seuls souvenirs extraits au cours de la même session. Si cette option est activée, l'agent a accès aux mémoires extraites sur toutes les sessions lancées par le même utilisateur.

Visualiser les paramètres de conservation des données de session d'agent

Vous pouvez visualiser la configuration actuelle des paramètres de conservation des données de session pour vos agents dans l'onglet Mémoire stockée.

1. Accédez à votre agent.
2. Cliquez sur l'onglet Mémoire stockée.

Modifier les paramètres de conservation des données de session d'agent

Vous pouvez activer, désactiver et modifier les paramètres de conservation des données de session pour vos agents.

1. Accédez à votre agent.
2. Cliquez sur l'onglet Mémoire stockée.
3. Cliquez sur Modifier.
4. Sélectionnez Appliquer la stratégie de conservation pour l'activer ou la désélectionner pour la désactiver.
5. Configurez la limite de conservation :
   • Pour la période de conservation, indiquez le nombre de jours pendant lesquels les données de session sont conservées avant leur suppression de votre Oracle Autonomous AI Lakehouse.
   • Pour la limite de taille de session, indiquez la limite de stockage maximale en Mo pour les données de session conservées. Lorsque cette limite est atteinte, les messages de session les plus anciens sont supprimés.
   • Pour Limite de nombre de threads, indiquez une limite au nombre de threads (combinaisons de messages utilisateur et de réponses d'agent) conservés. Lorsque cette limite est atteinte, les threads de session les plus anciens sont supprimés.
6. Sélectionnez Récapitulatif automatique pour conserver les récapitulatifs des informations importantes sur la session.
7. Cliquez sur Enregistrer les modifications.