Projekte
OCI Generative AI-Projekte organisieren Unterhaltungen, Antworten, Dateien und Sandboxes unter gemeinsamen Einstellungen. Konfigurieren Sie die Datenaufbewahrung, den Speicher und das Netzwerk, das von Sandboxes im Projekt verwendet wird.
Projekte sind voneinander isoliert, um Lebenszyklusmanagement und Compliancegrenzen zu unterstützen. Referenzieren Sie die Projekt-OCID in API- und SDK-Aufrufen, um Projekteinstellungen zur Laufzeit anzuwenden.
Informationen zu Projekten
Ein Projekt ist eine OCI-Ressource, die agentenspezifische Artefakte organisiert, die über den Generative AI-Service erstellt wurden, einschließlich Antworten, Unterhaltungen, Dateien, Containern und Sandboxes. Projekte sind voneinander isoliert, sodass Artefakte in einem Projekt nicht von einem anderen Projekt aus zugänglich sind. Ein Projekt ist erforderlich, um die OCI OpenAI-kompatible API für agent-bezogene Aufgaben aufzurufen.
Eine Projekteinstellung kann Folgendes umfassen:
- Datenaufbewahrung für Antworten und Gespräche
- Langzeitgedächtniseinstellungen
- Einstellungen für die Komprimierung der Unterhaltungshistorie (Kurzzeitgedächtniskomprimierung)
- Einstellungen für Sandbox-Aktivierung und ausgehende Netzwerke
- Warme Pools, die Kapazität für neue Sandbox-Anforderungen vorbereiten
- Wenn Sie ein Projekt löschen, werden alle zugehörigen Artefakte (Antworten, Unterhaltungen, Dateien und Container) gelöscht, die in diesem Projekt erstellt wurden.
- API-Aufrufe verwenden die Projekt-OCID.
Sandboxes und warme Pools
Aktivieren Sie Sandboxes in einem Projekt, um Code- und Shellbefehle in temporären, isolierten Workspaces auszuführen. Sie können mehrere Sandboxes im Projekt erstellen und jede Sandbox mit ihrer ID adressieren. Siehe Sandboxes in OCI Generative AI.
Sandboxes in einem Projekt verwenden die ausgehende Netzwerkkonfiguration des Projekts und die OCI-Berechtigungen gemeinsam, die Sandboxes aus diesem Projekt erteilt wurden. Verwenden Sie separate Projekte oder Policys mit entsprechendem Geltungsbereich für Workloads, die unterschiedlichen Zugriff benötigen.
Warm Pools bereiten Leerlaufkapazität für neue Sandbox-Anforderungen vor. Sie können Pools beim Erstellen eines Projekts konfigurieren und sie auf der Registerkarte Warm Pools des Projekts anzeigen. Siehe Warm Pools for Sandboxes.
Die Aufbewahrungseinstellungen für Antworten und Konversationen gelten für diese Artefakte. Sandbox-Ablauf und Snapshot-Aufbewahrung werden separat konfiguriert. Siehe Sandbox-Laufzeiten und Ressourcenlimits.
Agent-Speicher
Agent Memory ermöglicht es Agents, Kontext über Interaktionen hinweg beizubehalten und zu verwenden. Es unterstützt sowohl das Kurzzeitgedächtnis in einer Unterhaltung als auch das Langzeitgedächtnis in allen Gesprächen und trägt so zur Verbesserung von Kontinuität, Relevanz und Effizienz bei.
Kurzzeitspeicher
Kurzzeitgedächtnis bezieht sich auf den Konversationskontext, der in einem laufenden Gespräch übertragen wird. Die API "Antworten" und "Unterhaltungen" vereinfachen die Verwaltung des Unterhaltungsstatus und ermöglichen Multiturn-Interaktionen.
Langfristiger Speicher
Das Langzeitgedächtnis bietet einen persistenten Kontext über Gespräche hinweg. Wenn diese Option aktiviert ist, extrahiert der Service wichtige Informationen aus Unterhaltungen und speichert sie, damit sie in zukünftigen Interaktionen innerhalb desselben Projekts abgerufen werden können.
Langfristiges Gedächtnis ist nützlich für Szenarien, die Kontinuität über Sitzungen hinweg erfordern, wie zum Beispiel:
- Sich an stabile Benutzereinstellungen erinnern
- Wiederkehrender Hintergrundkontext wird beibehalten
- Kontinuität zwischen Interaktionen aufrechterhalten
Kurzfristige Speicherkomprimierung
Wenn die Unterhaltungshistorie wächst, kann das Senden der vollständigen Historie die Tokenverwendung und -latenz erhöhen. Kurzzeitgedächtnisverdichtung fasst frühere Konversationsgeschichte zusammen und komprimiert sie in eine kleinere, strukturierte Darstellung. Dadurch werden Schlüsseldetails beibehalten und gleichzeitig die an das Modell gesendete Kontextmenge reduziert.
Dieser Ansatz:
- Bewahrt Schlüsselinformationen vor früheren Umdrehungen
- Reduziert die Tokenverwendung für lange Unterhaltungen
- Verbessert die Latenz, indem der Kontext leicht gehalten wird
Datenaufbewahrung
Die Datenaufbewahrung definiert, wie lange Projektartefakte aufbewahrt werden, bevor sie automatisch entfernt werden. In OCI Generative AI-Projekten legen Sie die Aufbewahrung für Antworten und Unterhaltungen separat fest.
- Antwortaufbewahrung: Steuert, wie lange generierte Antworten beibehalten werden.
- Aufbewahrung von Unterhaltungen: Steuert, wie lange Unterhaltungen nach der letzten Aktualisierung beibehalten werden.
Aufbewahrungseinstellungen helfen Ihnen, die Speicherdauer zu steuern und sich an die Anforderungen Ihres Unternehmens an die Datenverarbeitung anzupassen.
Limits
QuickStart-Berechtigungen
Verwalten
Sie können die folgenden Aufgaben ausführen, um Projekte zu erstellen, aufzulisten und zu verwenden und Speicher zu verwalten: