Projekte

OCI Generative AI-Projekte organisieren Unterhaltungen, Antworten, Dateien und Sandboxes unter gemeinsamen Einstellungen. Konfigurieren Sie die Datenaufbewahrung, den Speicher und das Netzwerk, das von Sandboxes im Projekt verwendet wird.

Projekte sind voneinander isoliert, um Lebenszyklusmanagement und Compliancegrenzen zu unterstützen. Referenzieren Sie die Projekt-OCID in API- und SDK-Aufrufen, um Projekteinstellungen zur Laufzeit anzuwenden.

Informationen zu Projekten

Ein Projekt ist eine OCI-Ressource, die agentenspezifische Artefakte organisiert, die über den Generative AI-Service erstellt wurden, einschließlich Antworten, Unterhaltungen, Dateien, Containern und Sandboxes. Projekte sind voneinander isoliert, sodass Artefakte in einem Projekt nicht von einem anderen Projekt aus zugänglich sind. Ein Projekt ist erforderlich, um die OCI OpenAI-kompatible API für agent-bezogene Aufgaben aufzurufen.

Eine Projekteinstellung kann Folgendes umfassen:

  • Datenaufbewahrung für Antworten und Gespräche
  • Langzeitgedächtniseinstellungen
  • Einstellungen für die Komprimierung der Unterhaltungshistorie (Kurzzeitgedächtniskomprimierung)
  • Einstellungen für Sandbox-Aktivierung und ausgehende Netzwerke
  • Warme Pools, die Kapazität für neue Sandbox-Anforderungen vorbereiten
  • Wenn Sie ein Projekt löschen, werden alle zugehörigen Artefakte (Antworten, Unterhaltungen, Dateien und Container) gelöscht, die in diesem Projekt erstellt wurden.
  • API-Aufrufe verwenden die Projekt-OCID.

Sandboxes und warme Pools

Aktivieren Sie Sandboxes in einem Projekt, um Code- und Shellbefehle in temporären, isolierten Workspaces auszuführen. Sie können mehrere Sandboxes im Projekt erstellen und jede Sandbox mit ihrer ID adressieren. Siehe Sandboxes in OCI Generative AI.

Sandboxes in einem Projekt verwenden die ausgehende Netzwerkkonfiguration des Projekts und die OCI-Berechtigungen gemeinsam, die Sandboxes aus diesem Projekt erteilt wurden. Verwenden Sie separate Projekte oder Policys mit entsprechendem Geltungsbereich für Workloads, die unterschiedlichen Zugriff benötigen.

Warm Pools bereiten Leerlaufkapazität für neue Sandbox-Anforderungen vor. Sie können Pools beim Erstellen eines Projekts konfigurieren und sie auf der Registerkarte Warm Pools des Projekts anzeigen. Siehe Warm Pools for Sandboxes.

Die Aufbewahrungseinstellungen für Antworten und Konversationen gelten für diese Artefakte. Sandbox-Ablauf und Snapshot-Aufbewahrung werden separat konfiguriert. Siehe Sandbox-Laufzeiten und Ressourcenlimits.

Agent-Speicher

Agent Memory ermöglicht es Agents, Kontext über Interaktionen hinweg beizubehalten und zu verwenden. Es unterstützt sowohl das Kurzzeitgedächtnis in einer Unterhaltung als auch das Langzeitgedächtnis in allen Gesprächen und trägt so zur Verbesserung von Kontinuität, Relevanz und Effizienz bei.

Kurzzeitspeicher

Kurzzeitgedächtnis bezieht sich auf den Konversationskontext, der in einem laufenden Gespräch übertragen wird. Die API "Antworten" und "Unterhaltungen" vereinfachen die Verwaltung des Unterhaltungsstatus und ermöglichen Multiturn-Interaktionen.

Langfristiger Speicher

Das Langzeitgedächtnis bietet einen persistenten Kontext über Gespräche hinweg. Wenn diese Option aktiviert ist, extrahiert der Service wichtige Informationen aus Unterhaltungen und speichert sie, damit sie in zukünftigen Interaktionen innerhalb desselben Projekts abgerufen werden können.

Langfristiges Gedächtnis ist nützlich für Szenarien, die Kontinuität über Sitzungen hinweg erfordern, wie zum Beispiel:

  • Sich an stabile Benutzereinstellungen erinnern
  • Wiederkehrender Hintergrundkontext wird beibehalten
  • Kontinuität zwischen Interaktionen aufrechterhalten

Kurzfristige Speicherkomprimierung

Wenn die Unterhaltungshistorie wächst, kann das Senden der vollständigen Historie die Tokenverwendung und -latenz erhöhen. Kurzzeitgedächtnisverdichtung fasst frühere Konversationsgeschichte zusammen und komprimiert sie in eine kleinere, strukturierte Darstellung. Dadurch werden Schlüsseldetails beibehalten und gleichzeitig die an das Modell gesendete Kontextmenge reduziert.

Dieser Ansatz:

  • Bewahrt Schlüsselinformationen vor früheren Umdrehungen
  • Reduziert die Tokenverwendung für lange Unterhaltungen
  • Verbessert die Latenz, indem der Kontext leicht gehalten wird

Datenaufbewahrung

Die Datenaufbewahrung definiert, wie lange Projektartefakte aufbewahrt werden, bevor sie automatisch entfernt werden. In OCI Generative AI-Projekten legen Sie die Aufbewahrung für Antworten und Unterhaltungen separat fest.

  • Antwortaufbewahrung: Steuert, wie lange generierte Antworten beibehalten werden.
  • Aufbewahrung von Unterhaltungen: Steuert, wie lange Unterhaltungen nach der letzten Aktualisierung beibehalten werden.

Aufbewahrungseinstellungen helfen Ihnen, die Speicherdauer zu steuern und sich an die Anforderungen Ihres Unternehmens an die Datenverarbeitung anzupassen.

QuickStart-Berechtigungen

  1. Fügen Sie die minimale IAM-Policy hinzu, die zum Abrufen einer Projekt-OCID erforderlich ist.
    allow group <your-group-name> to use generative-ai-project 
    in compartment <your-compartment>
  2. (Optional) Fügen Sie anstelle der vorherigen Berechtigung die folgende Policy hinzu, wenn Sie Projekte erstellen und löschen müssen:
    allow group <your-group-name> to manage generative-ai-project 
    in compartment <your-compartment>

    Weitere Informationen finden Sie unter IAM-Policys für OCI Generative AI.