Projekte
OCI Generative AI-Projekte organisieren Unterhaltungen und Antworten unter einem gemeinsamen Set von Einstellungen. In einem Projekt definieren Sie, wie lange Daten aufbewahrt werden, ermöglichen es dem Langzeitgedächtnis, den Kontext über Unterhaltungen hinweg zu persistieren, und ermöglichen die Kurzzeitgedächtniskomprimierung, um die Verarbeitung der Unterhaltungshistorie zu optimieren.
Projekte sind voneinander isoliert, um Lebenszyklusmanagement und Compliancegrenzen zu unterstützen. Referenzieren Sie die Projekt-OCID in API- und SDK-Aufrufen, um Projekteinstellungen zur Laufzeit anzuwenden.
Informationen zu Projekten
Ein Projekt ist eine OCI-Ressource, die agentenspezifische Artefakte organisiert, die über den Generative AI-Service erstellt wurden, einschließlich Antworten, Unterhaltungen, Dateien und Containern. Projekte sind voneinander isoliert, sodass Artefakte in einem Projekt nicht von einem anderen Projekt aus zugänglich sind. Ein Projekt ist erforderlich, um die OCI OpenAI-kompatible API für agent-bezogene Aufgaben aufzurufen.
Eine Projekteinstellung kann Folgendes umfassen:
- Datenaufbewahrung für Antworten und Gespräche
- Langzeitgedächtniseinstellungen
- Einstellungen für die Komprimierung der Unterhaltungshistorie (Kurzzeitgedächtniskomprimierung)
- Wenn Sie ein Projekt löschen, werden alle zugehörigen Artefakte (Antworten, Unterhaltungen, Dateien und Container) gelöscht, die in diesem Projekt erstellt wurden.
- API-Aufrufe verwenden die Projekt-OCID.
Agent-Speicher
Agent Memory ermöglicht es Agents, Kontext über Interaktionen hinweg beizubehalten und zu verwenden. Es unterstützt sowohl das Kurzzeitgedächtnis in einer Unterhaltung als auch das Langzeitgedächtnis in allen Gesprächen und trägt so zur Verbesserung von Kontinuität, Relevanz und Effizienz bei.
Kurzzeitspeicher
Kurzzeitgedächtnis bezieht sich auf den Konversationskontext, der in einem laufenden Gespräch übertragen wird. Die API "Antworten" und "Unterhaltungen" vereinfachen die Verwaltung des Unterhaltungsstatus und ermöglichen Multiturn-Interaktionen.
Langfristiger Speicher
Das Langzeitgedächtnis bietet einen persistenten Kontext über Gespräche hinweg. Wenn diese Option aktiviert ist, extrahiert der Service wichtige Informationen aus Unterhaltungen und speichert sie, damit sie in zukünftigen Interaktionen innerhalb desselben Projekts abgerufen werden können.
Langfristiges Gedächtnis ist nützlich für Szenarien, die Kontinuität über Sitzungen hinweg erfordern, wie zum Beispiel:
- Sich an stabile Benutzereinstellungen erinnern
- Wiederkehrender Hintergrundkontext wird beibehalten
- Kontinuität zwischen Interaktionen aufrechterhalten
Kurzfristige Speicherkomprimierung
Wenn die Unterhaltungshistorie wächst, kann das Senden der vollständigen Historie die Tokenverwendung und -latenz erhöhen. Kurzzeitgedächtnisverdichtung fasst frühere Konversationsgeschichte zusammen und komprimiert sie in eine kleinere, strukturierte Darstellung. Dadurch werden Schlüsseldetails beibehalten und gleichzeitig die an das Modell gesendete Kontextmenge reduziert.
Dieser Ansatz:
- Bewahrt Schlüsselinformationen vor früheren Umdrehungen
- Reduziert die Tokenverwendung für lange Unterhaltungen
- Verbessert die Latenz, indem der Kontext leicht gehalten wird
Datenaufbewahrung
Die Datenaufbewahrung definiert, wie lange Projektartefakte aufbewahrt werden, bevor sie automatisch entfernt werden. In OCI Generative AI-Projekten legen Sie die Aufbewahrung für Antworten und Unterhaltungen separat fest.
- Antwortaufbewahrung: Steuert, wie lange generierte Antworten beibehalten werden.
- Aufbewahrung von Unterhaltungen: Steuert, wie lange Unterhaltungen nach der letzten Aktualisierung beibehalten werden.
Aufbewahrungseinstellungen helfen Ihnen, die Speicherdauer zu steuern und sich an die Anforderungen Ihres Unternehmens an die Datenverarbeitung anzupassen.
Limits
Siehe Anwendungslimits.
QuickStart-Berechtigungen
Verwalten
Sie können die folgenden Aufgaben ausführen, um Projekte zu erstellen, aufzulisten und zu verwenden und Speicher zu verwalten: