Genera testo in AI generativa

Ospita un modello di generazione del linguaggio di grandi dimensioni di generazione del testo nell'AI generativa OCI in un cluster AI dedicato per generare testo o estrarre informazioni dal testo. Si consiglia di utilizzare i modelli di chat.

Importante

  • Non disponibile on-demand: tutti i modelli pre-addestrati di base dell'AI generativa OCI supportati per la modalità di servizio su richiesta che utilizzano le API di generazione testo e riepilogo (incluso il parco giochi) sono ora ritirati. Si consiglia di utilizzare i modelli di chat.
  • Possono essere ospitati nei cluster: se si ospita un modello di generazione di riepilogo o un modello di generazione come cohere.command in un cluster AI dedicato (modalità di servizio dedicata), è possibile continuare a utilizzare tale modello fino a quando non viene ritirato. Questi modelli, se ospitati su un cluster AI dedicato, sono disponibili solo nel Midwest degli Stati Uniti (Chicago). Vedere API non più valide nell'intelligenza artificiale generativa per la data in cui le API non sono più disponibili.
    1. Nella barra di navigazione della console selezionare l'area US Midwest (Chicago).
    2. Aprire il menu di navigazione e selezionare Analytics e AI. In Servizi AI selezionare AI generativa.
    3. Selezionare un compartimento nel quale si è autorizzati a lavorare. Se il campo di gioco non è visibile, chiedere a un amministratore di dare accesso alle risorse di intelligenza artificiale generativa, quindi tornare AI passi riportati di seguito.
    4. Selezionare Area di riproduzione.
    5. Selezionare Generazione.
    6. Selezionare un modello per la generazione del testo eseguendo una delle seguenti azioni:
      • Selezionare Visualizza dettagli modello, selezionare un modello e quindi Scegli modello.
    7. Immettere un prompt o selezionare un esempio dall'elenco Esempio da utilizzare come prompt base o da cui imparare.
    8. (Facoltativo) Impostare nuovi valori per i parametri. Per i dettagli dei parametri, vedere le definizioni dei parametri selezionare il modello in uso, elencato in Modelli di base pre-addestrati nell'intelligenza artificiale generativa.
      Nota

      Per i modelli ospitati in cohere.command, se si seleziona Mostra probabilità, dopo che il modello ha generato una risposta, è possibile passare il mouse sulle parole generate per visualizzare i token e la relativa probabilità.
    9. Selezionare Genera.
    10. (Facoltativo) Per modificare l'output, aggiornare i prompt e i parametri e selezionare Genera. Ripetere questa operazione finché non si è soddisfatti dell'output.
      Nota

      Per gestire il contesto dei prompt precedenti per le domande di follow-up, selezionare Copia output e includere l'output nel prompt successivo.
    11. Per copiare l'output generato, selezionare Copia output.

      L'output viene copiato negli Appunti del computer.

    12. (Facoltativo) Per copiare il codice che ha generato l'output, selezionare Visualizza codice, selezionare un linguaggio di programmazione, selezionare Copia codice, incollare il codice in un file e salvare il file. Assicurarsi che il file mantenga il formato del codice incollato.
      Suggerimento

      Se si utilizza il codice in un'applicazione, assicurarsi di autenticarsi del codice.
    13. (Facoltativo) Per avviare un nuovo prompt, selezionare Cancella nell'area Input.
      Nota

      Quando si seleziona Cancella, i parametri del modello vengono ripristinati ai valori predefiniti.
  • Per generare testo, utilizzare l'operazione generate-text-result.

    Immettere il comando seguente per un elenco di opzioni per generare il testo.

    oci generative-ai-inference generate-text-result -h

    Per un elenco completo di parametri e valori per i comandi CLI di OCI Generative AI, vedere Generative AI Inference CLI e Generative AI Management CLI.

  • Eseguire l'operazione GenerateText per generare il testo.

    Per informazioni sull'uso dell'API e delle richieste di firma, consulta la documentazione dell'API REST e le credenziali di sicurezza. Per informazioni sugli SDK, vedere SDK e l'interfaccia CLI.