20 Agent-Speicher

Der Agent-Speicher ist Teil eines AI-Agent-Systems, mit dem der Agent Informationen über Turns, Aufgaben oder Sessions hinweg beibehalten und wiederverwenden kann.

Im Gegensatz zum Kontextfenster des Modells, das temporär ist und auf den aktuellen Prompt beschränkt ist, kann der Speicher Fakten, Voreinstellungen, vorherige Entscheidungen, Werkzeugausgaben, Zwischenpläne oder Beobachtungen über die Umgebung beibehalten.

Agent-Speicher in Oracle AI Data Platform

AI Data Platform bietet Kurzzeitspeicher, der auf die Dauer einer Session beschränkt ist. Auf der Registerkarte Kontext Ihres Agent können Sie konfigurieren, was im Speicher gespeichert werden kann.

Speicherkonfiguration für einen einzelnen Agent

Die Speicherkonfiguration eines einzelnen Agent-Systems finden Sie auf der Registerkarte Kontext des Agent-Knotens.

Speicherkonfiguration	Beschreibung
Agent-Speicher aktivieren	Diese Einstellung aktiviert den Agent-Speicher. Bei Deaktivierung ist der Agent im Wesentlichen ein zustandsloses System. Jeder Zug wird unabhängig behandelt, und es können keine Nachfragen gestellt werden. Es wird empfohlen, den Speicher zu aktivieren.
Unterhaltungshistorie begrenzen	Wenn diese Auswahl deaktiviert ist, füllen frühere Umdrehungen den Speicher aus, bis das Modell keinen Kontext mehr hat und ein Fehler zurückgegeben wird. Wenn kurze Sitzungen erwartet werden, ist es in Ordnung, diese Einstellung zu deaktivieren. Für die meisten Anwendungsfälle empfiehlt Oracle jedoch, die Unterhaltungshistorie einzuschränken.
Abschneidungskonfiguration	Wenn Sie die Konversationshistorie einschränken möchten, können Sie die Historie folgendermaßen abschneiden: Nur die letzten N Nachrichten (Benutzer + Agent) werden beibehalten Einstellen eines Gesamttokenbudgets (First-In, First-Out) Oder beides, je nachdem, welcher Vorgang zuerst eintritt, löst das Leeren des Agent-Speichers aus
Maximale Anzahl Nachrichten	Wenn Sie die letzten N Nachrichten beibehalten möchten, können Sie den Wert N festlegen.
Tokenbudget	Alternativ können Sie ein Gesamtbudget für Token festlegen. Die ersten Token werden eliminiert, um die neuesten im Speicher zu halten.

Systemspeicherkonfiguration mit mehreren Agents (Supervisor-Muster)

Der Speicher eines Systems mit mehreren Agents wird auf der Registerkarte Kontext des Supervisor-Agents konfiguriert.

Der Speicher für ein Multi-Agent-System wird durchgesetzt und kann nicht deaktiviert werden. Die im Supervisor-Agent-Knoten angezeigten Speicherabschreibungsoptionen werden nur auf den Supervisor-Agent-Speicher angewendet. Jede Executor-Agent-Speicherabschreibungs-Policy kann auf der Registerkarte Kontext des Executor-Knotens basierend auf der für das gesamte System ausgewählten Statusisolations-Policy konfiguriert werden.

Mit der Speicherkonfiguration für Multi-Agent-Systeme können Sie auch die Speicherfreigabe-Policy der Executor-Agents auswählen. Drei Optionen sind möglich: Stateless, Private und Shared. Beachten Sie, dass die Policy auf alle Executor-Agents angewendet wird.

Zustandsisolierung für Executor-Agents	Beschreibung
Zustandslos	Jeder Executor-Agent sieht nur die Aufgabe, die vom Supervisor zugewiesen wurde. Zwischen den Anrufen wird keine Historie übertragen. Der Executor-Agent kann keine Nachfassanforderung an den Supervisor-Agent senden. Wenn "Zustandslos" ausgewählt ist, ist der Speicher jedes Executor-Agents deaktiviert.
Privat	Jeder Executor-Agent sieht nur seine eigenen vergangenen Interaktionen. Andere Executor-Agents oder die ursprüngliche Benutzerunterhaltung mit dem Supervisor-Agent können nicht angezeigt werden. Wenn "Privat" ausgewählt ist, können Sie die Speicherabschreibungs-Policy für jeden Executor-Agent in der Registerkarte Kontext für jeden Agent-Knoten separat konfigurieren.
Gemeinsam	Executor-Agents können die vollständige Unterhaltungshistorie über Agents und Benutzer hinweg anzeigen. Alle Agents arbeiten aus einem gemeinsamen Kontext. Wenn "Freigegeben" ausgewählt ist, können Sie die Speicherabschreibungs-Policy für jeden Executor-Agent in jeder Registerkarte Kontext des Agent-Knotens separat konfigurieren.

Gespeicherter Speicher in Agents

Wenn Ihr Agent bereitgestellt wird und mehr Benutzer bedient, ist es wichtig, die Menge der Datenbankkapazität zu überwachen, die zum Speichern von Sessiondaten für Ihren Agent verwendet wird. Auf der Registerkarte Gespeicherter Speicher können Sie die Einstellungen für den gespeicherten Speicher für Ihren Agent anzeigen und ändern. Sie können auf Bearbeiten klicken, um die Einstellungen für Langzeitspeicher und Sessionaufbewahrung zu ändern.

Einstellung	Beschreibung
Verbindungsstatus	Verbindungsstatus zu Oracle Autonomous AI Lakehouse, in dem alle Sessiondaten gespeichert sind.
Verwendete ADB-Kapazität	Gesamte Datenbankkapazität, die in der gesamten Session dieses Agent belegt wird.
Sessions	Gesamtanzahl der Sessions für diesen Agent. Umfasst sowohl Test-(Playground-) als auch Deployment-Sessions.
KI-Compute	Name des AI-Compute, das den Agent hostet. Wenn der Agent bereitgestellt wird, ist dies das AI-Compute, das das Deployment hostet. Andernfalls ist dies das AI-Compute, das den Playground hostet.

Langfristiger Speicher

Sie konfigurieren Ihre Agents so, dass Benutzer über mehrere Sessions mit demselben Agent interagieren. Der Benutzer kann wichtige Informationen wie Voreinstellungen teilen, und der Agent kann auch aus gemeinsamen Mustern lernen, die in mehreren Sitzungen verwendet werden, wie Tools. Die Möglichkeit, über mehrere Sitzungen hinweg auf extrahierte Speicher zuzugreifen, wird durch Langzeitspeicher ermöglicht.

Sie können langfristigen Speicher über die Registerkarte Gespeicherter Speicher in Ihrem Agent konfigurieren.

Aufbewahrung von Sessiondaten

Sessiondaten in Oracle AI Data Platform beziehen sich auf alle Nachrichten, die während einer Session zwischen einem Agent und einem Benutzer ausgetauscht werden.

Hinweis:

Oracle empfiehlt dringend, Cold Storage-Kopien der in der Oracle Autonomous AI Lakehouse-Datenbank gespeicherten Sessiondaten zu erstellen, um vollständige Aufzeichnungen aller zwischen Benutzern und Agents ausgetauschten Nachrichten beizubehalten, um Audits, rechtliche Erkennung und Rechtsstreitigkeiten zu unterstützen.

Sessions können möglicherweise Stunden, Tage oder sogar Wochen dauern, was zu einer großen Anzahl von Nachrichten führt, die von Sessiondaten ausgetauscht und aufbewahrt werden. Alle AI Data Platform-Sessiondaten werden in dem für Ihre Instanz bereitgestellten Autonomous AI Lakehouse gespeichert, um KI-Features zu aktivieren. Weitere Informationen finden Sie unter KI-Featureverwaltung.

Standardmäßig beschränkt AI Data Platform nicht die Anzahl der Sessiondaten, die für jede Session in dem bereitgestellten Autonomous AI Lakehouse gespeichert sind. Infolgedessen können Sessiondaten in Szenarien, in denen Agents für viele Benutzer über mehrere Sessions hinweg regelmäßig verwendet werden, schnell wachsen. Um dies zu verwalten, empfiehlt Oracle, Grenzwerte für die Menge der beibehaltenen Sessiondaten zu konfigurieren.

Wenn Sie zum ersten Mal einen Agent erstellen, können Sie dessen Sessionaufbewahrungseinstellungen konfigurieren. Siehe Agent erstellen. Wenn der Agent bereits erstellt wurde und Sie seine Sessionaufbewahrungseinstellungen neu konfigurieren möchten, können Sie dies auf der Registerkarte Sessionspeicher tun.

Einstellung	Beschreibung
Sessionaufbewahrung	Aktivieren Sie Aufbewahrungs-Policy anwenden, um zu konfigurieren, wie und wann Sessiondaten entfernt werden, wenn angegebene Limits erreicht werden.
Aufbewahrungslimit	Wählen Sie die Methode für die Verwaltung von Grenzwerten für Sitzungsdaten aus: Der Aufbewahrungszeitraum definiert einen Zeitraum in Tagen, für den Sessiondaten beibehalten werden. Wenn Sessiondaten das Ablaufalter erreichen, werden sie aus Ihrem Autonomous AI Lakehouse gelöscht. Der Grenzwert für die Sessiongröße definiert eine Memory Cap in MB für die Aufbewahrung der Sessiondaten. Wenn diese Memory Cap erreicht ist, werden zuerst die ältesten Daten gelöscht. Grenzwert für die Anzahl der Threads definiert eine Obergrenze für die Anzahl der Threads, d.h. Kombinationen aus Benutzernachrichten und Agent-Antworten, die in Sessiondaten beibehalten werden. Wenn die Obergrenze erreicht ist, werden zuerst die ältesten Threads gelöscht.

Automatische Zusammenfassung

Die automatische Zusammenfassung kann unabhängig von der Sessionaufbewahrung aktiviert werden. Automatische Zusammenfassungen werden auf Konversationsdaten angewendet, die im Kontextfenster des Modells eingefügt werden. Diese Option fasst ältere Nachrichten zusammen, die 80% der Kontextlänge des ausgewählten Modells überschreiten würden.

Dies ist eine gute Option, um zu aktivieren, wenn Sie die Daten aus langen Sessions in der Datenbank persistieren und gleichzeitig verhindern möchten, dass diese langen Sessions das Kontextfenster des Agent überholen.

Hinweis:

Zusammenfassungen werden von einem LLM generiert, um wichtigen Kontext beizubehalten, bevor ältere Quellnachrichten gelöscht werden. Einige genaue Formulierungen, Zwischenschritte oder Details mit niedrigerer Priorität werden möglicherweise nicht beibehalten.

Langfristigen Speicher für einen Agent aktivieren

Sie können den Langzeitspeicher für Agents aktivieren, damit Sie über mehrere Sessions hinweg mit demselben Agent interagieren können.

1. Navigieren Sie zu Ihrem Agent.
2. Klicken Sie auf die Registerkarte Gespeicherter Speicher.
3. Wählen Sie Langfristigen Speicher aktivieren aus.
4. Wählen Sie das Modell und die Region, die für die Unterstützung des Langzeitspeichers für den Agent verwendet werden sollen.
5. Optional: Sie können die gemeinsame Nutzung des Agent-Speichers zwischen Sessions aktivieren. Wenn diese Option deaktiviert ist, beschränkt sich Ihr Agent nur auf die Speicher, die in derselben Session extrahiert wurden. Wenn diese Option aktiviert ist, hat der Agent Zugriff auf Speicher, die über alle Sessions hinweg extrahiert wurden, die von demselben Benutzer initiiert wurden.

Einstellungen für die Aufbewahrung von Agent-Sessiondaten anzeigen

Sie können die aktuelle Konfiguration der Sessiondatenaufbewahrungseinstellungen für Ihre Agents auf der Registerkarte Gespeicherter Speicher anzeigen.

1. Navigieren Sie zu Ihrem Agent.
2. Klicken Sie auf die Registerkarte Gespeicherter Speicher.

Einstellungen für die Aufbewahrung von Agent-Sessiondaten ändern

Sie können Sessiondatenaufbewahrungseinstellungen für Ihre Agents aktivieren, deaktivieren und ändern.

1. Navigieren Sie zu Ihrem Agent.
2. Klicken Sie auf die Registerkarte Gespeicherter Speicher.
3. Klicken Sie auf Edit.
4. Wählen Sie Aufbewahrungs-Policy anwenden aus, um sie zu aktivieren oder zu deaktivieren.
5. Konfigurieren Sie das Aufbewahrungslimit:
   • Geben Sie im Aufbewahrungszeitraum an, wie viele Tage Sessiondaten aufbewahrt werden, bevor sie aus Ihrem Oracle Autonomous AI Lakehouse gelöscht werden.
   • Geben Sie unter Limit für Sessiongröße den maximalen Speichergrenzwert in MB für beibehaltene Sessiondaten an. Wenn dieses Limit erreicht ist, werden die ältesten Sessionnachrichten gelöscht.
   • Geben Sie unter Grenzwert für die Anzahl der Threads einen Grenzwert für die Anzahl der beibehaltenen Threads (Kombinationen von Benutzernachrichten und Agent-Antworten) an. Wenn dieses Limit erreicht ist, werden die ältesten Session-Threads gelöscht.
6. Wählen Sie Automatische Zusammenfassung aus, um Zusammenfassungen wichtiger Sessioninformationen beizubehalten.
7. Klicken Sie auf Änderungen speichern.