Oracle Cloud Infrastructure-Dokumentation

Text in generativer KI generieren

Hosten Sie ein Modell zur Generierung großer Sprachen in OCI Generative AI in einem dedizierten KI-Cluster, um Text zu generieren oder Informationen aus Text zu extrahieren. Wir empfehlen, stattdessen die chat-modelle zu verwenden.

Wichtig

  • Auf Anforderung nicht verfügbar: Alle vortrainierten OCI Generative AI-Grundmodelle, die für den On-Demand-Serving-Modus unterstützt werden und die Textgenerierungs- und Zusammenfassungs-APIs (einschließlich Playground) verwenden, werden jetzt eingestellt. Wir empfehlen, stattdessen die chat-modelle zu verwenden.
  • Kann auf Clustern gehostet werden: Wenn Sie eine Zusammenfassung oder ein Generierungsmodell wie cohere.command in einem dedizierten KI-Cluster (dedizierter Bereitstellungsmodus) hosten, können Sie dieses Modell weiter verwenden, bis es abgelaufen ist. Diese Modelle, wenn sie in einem dedizierten KI-Cluster gehostet werden, sind nur in US Midwest (Chicago) verfügbar. Das Datum, an dem die APIs nicht mehr verfügbar sind, finden Sie unter Veraltete APIs in generativer KI.
    1. Wählen Sie in der Navigationsleiste der Konsole die Region US Midwest (Chicago) aus.
    2. Öffnen Sie das Navigationsmenü , und wählen Sie Analysen und KI aus. Wählen Sie unter KI-Services die Option Generative KI aus.
    3. Wählen Sie ein Compartment aus, für das Sie die erforderliche Berechtigung haben. Wenn der Playground nicht angezeigt wird, bitten Sie einen Administrator, Ihnen Zugriff auf generative KI-Ressourcen zu erteilen, und kehren Sie dann zu den folgenden Schritten zurück.
    4. Wählen Sie Playground aus.
    5. Wählen Sie Generation aus.
    6. Wählen Sie ein Modell für die Texterstellung aus, indem Sie eine der folgenden Aktionen ausführen:
      • Wählen Sie Modelldetails anzeigen, ein Modell aus, und wählen Sie Modell auswählen aus.
    7. Geben Sie entweder einen Prompt ein, oder wählen Sie ein Beispiel aus der Liste Beispiel aus, das Sie als Basis-Prompt verwenden oder aus dem Sie lernen möchten.
    8. (Optional) Legen Sie neue Werte für die Parameter fest. Parameterdetails finden Sie in den Parameterdefinitionen unter Pretrained Foundational Models in Generative AI.
      Hinweis

      Wenn Sie für die gehosteten cohere.command-Modelle die Option Wahrscheinlichkeiten anzeigen auswählen, können Sie nach der Generierung einer Antwort durch das Modell mit der Maus auf die generierten Wörter zeigen, um die Token und deren Wahrscheinlichkeit anzuzeigen.
    9. Wählen Sie Generieren aus.
    10. (Optional) Um die Ausgabe zu ändern, aktualisieren Sie die Prompts und Parameter, und wählen Sie Generieren aus. Wiederholen Sie diesen Schritt, bis Sie mit der Ausgabe zufrieden sind.
      Hinweis

      Um den Kontext früherer Prompts für Folgefragen beizubehalten, wählen Sie Ausgabe kopieren aus, und fügen Sie die Ausgabe in den nächsten Prompt ein.
    11. Um die generierte Ausgabe zu kopieren, wählen Sie Ausgabe kopieren aus.

      Die Ausgabe wird in die Zwischenablage des Computers kopiert.

    12. (Optional) Um den Code zu kopieren, der die Ausgabe generiert hat, wählen Sie Code anzeigen, wählen Sie eine Programmiersprache aus, wählen Sie Code kopiert aus, fügen Sie den Code in eine Datei ein, und speichern Sie die Datei. Stellen Sie sicher, dass in der Datei das Format des eingefügten Codes beibehält.
      Tipp

      Wenn Sie den Code in einer Anwendung verwenden, stellen Sie sicher, dass Sie Ihren Code authentifizieren.
    13. (Optional) Um einen neuen Prompt zu starten, wählen Sie im Bereich Eingabe die Option Löschen aus.
      Hinweis

      Wenn Sie Löschen auswählen, werden die Modellparameter auf ihre Standardwerte zurückgesetzt.

  • Um Text zu generieren, verwenden Sie den Vorgang generate-text-result.

    Geben Sie den folgenden Befehl ein, um eine Liste mit Optionen zum Generieren von Text anzuzeigen.

    oci generative-ai-inference generate-text-result -h

    Eine vollständige Liste der Parameter und Werte für die OCI Generative AI-CLI-Befehle finden Sie unter Generative AI Inference CLI und Generative AI Management CLI.

  • Führen Sie den Vorgang GenerateText aus, um Text zu generieren.

    Informationen zur Verwendung der API und zu Signieranforderungen finden Sie unter REST-API-Dokumentation und Sicherheitszugangsdaten. Informationen zu SDKs finden Sie unter SDKs und die CLI.