Genera testo in AI generativa

Ospita un modello di generazione del linguaggio di grandi dimensioni di generazione del testo nell'AI generativa OCI in un cluster AI dedicato per generare testo o estrarre informazioni dal testo. Si consiglia di utilizzare i modelli di chat.

Importante

  • Non disponibile on-demand: tutti i modelli pre-addestrati di base dell'AI generativa OCI supportati per la modalità di servizio su richiesta che utilizzano le API di generazione testo e riepilogo (incluso il parco giochi) sono ora ritirati. Si consiglia di utilizzare i modelli di chat.
  • Possono essere ospitati nei cluster: se si ospita un modello di generazione di riepilogo o un modello di generazione come cohere.command in un cluster AI dedicato (modalità di servizio dedicata), è possibile continuare a utilizzare tale modello fino a quando non viene ritirato. Questi modelli, se ospitati su un cluster AI dedicato, sono disponibili solo nel Midwest degli Stati Uniti (Chicago). Vedere Ritiro dei modelli per le date e le definizioni di smobilizzo.
    1. Nella barra di navigazione della console selezionare l'area US Midwest (Chicago).
    2. Aprire il menu di navigazione e selezionare Analytics & AI. In Servizi AI, selezionare AI generativa.
    3. Selezionare un compartimento in cui si è autorizzati a lavorare. Se l'area di gioco non è disponibile, chiedere a un amministratore di dare l'accesso alle risorse dell'intelligenza artificiale generativa, quindi tornare AI passi riportati di seguito.
    4. Fare clic su Suolo di gioco.
    5. Fare clic su Generazione.
    6. Selezionare un modello per la generazione del testo eseguendo una delle seguenti azioni:
      • Fare clic su Visualizza dettagli modello, selezionare un modello, quindi fare clic su Scegli modello.
    7. Immettere un prompt o selezionare un esempio dall'elenco Esempio da utilizzare come prompt base o da cui imparare.
    8. (Facoltativo) Impostare nuovi valori per i parametri. Per i dettagli dei parametri, vedere le definizioni dei parametri selezionare il modello in uso, elencato in Modelli di base pre-addestrati nell'intelligenza artificiale generativa.
      Nota

      Per i modelli ospitati in cohere.command, se si seleziona Mostra probabilità, dopo che il modello ha generato una risposta, è possibile passare il mouse sulle parole generate per visualizzare i token e la relativa probabilità.
    9. Fare clic su Generate.
    10. (Facoltativo) Per modificare l'output, aggiornare i prompt e i parametri e fare clic su Genera. Ripetere questa operazione finché non si è soddisfatti dell'output.
      Nota

      Per mantenere il contesto dei prompt precedenti per le domande di follow-up, fare clic su Copia output e includere l'output nel prompt successivo.
    11. Per copiare l'output generato, fare clic su Copia output.

      L'output viene copiato negli Appunti del computer.

    12. (Facoltativo) Per copiare il codice che ha generato l'output, fare clic su Visualizza codice, selezionare un linguaggio di programmazione, fare clic su Copia codice, incollare il codice in un file e salvare il file. Assicurarsi che il file mantenga il formato del codice incollato.
      Suggerimento

      Se si utilizza il codice in un'applicazione, assicurarsi di autenticarsi del codice.
    13. (Facoltativo) Per avviare un nuovo prompt, fare clic su Cancella nell'area Input.
      Nota

      Quando si fa clic su Cancella, i parametri del modello vengono reimpostati sui relativi valori predefiniti.
  • Per generare testo, utilizzare l'operazione generate-text-result.

    Immettere il comando seguente per un elenco di opzioni per generare il testo.

    oci generative-ai-inference generate-text-result -h

    Per un elenco completo di parametri e valori per i comandi CLI di OCI Generative AI, vedere Generative AI Inference CLI e Generative AI Management CLI.

  • Eseguire l'operazione GenerateText per generare il testo.

    Per informazioni sull'uso dell'API e delle richieste di firma, consulta la documentazione dell'API REST e le credenziali di sicurezza. Per informazioni sugli SDK, vedere SDK e l'interfaccia CLI.