Documentação do Oracle Cloud Infrastructure

Gerar Texto no Serviço Generative AI

Hospede um grande modelo de geração de linguagem de geração de texto na OCI Generative AI em um cluster de IA dedicado para gerar texto ou extrair informações do texto. Recomendamos que você use os modelos de chat.

Importante

  • Não Disponível sob demanda: todos os modelos básicos pré-treinados do OCI Generative AI suportados para o modo de serviço sob demanda que usam as APIs de geração de texto e resumo (incluindo o playground) agora são descontinuados. Recomendamos que você use os modelos de chat.
  • Pode ser hospedado em clusters: Se você hospedar um modelo de resumo ou geração, como cohere.command, em um cluster de IA dedicado (modo de serviço dedicado), poderá continuar a usar esse modelo até que ele seja retirado. Esses modelos, quando hospedados em um cluster de IA dedicado, só estão disponíveis no US Midwest (Chicago). Consulte APIs Obsoletas no Serviço Generative AI para obter a data em que as APIs não estão mais disponíveis.
    1. Na barra de navegação da Console, selecione a região US Midwest (Chicago).
    2. Abra o menu de navegação e selecione Análise e IA. Em Serviços de IA, selecione IA Generativa.
    3. Selecione um compartimento para o qual você tenha permissão para trabalhar. Se você não acessar o playground, peça ao administrador para fornecer acesso aos recursos do serviço Generative AI e retorne às etapas a seguir.
    4. Selecione Playground.
    5. Selecione Geração.
    6. Selecione um modelo para geração de texto executando uma das seguintes ações:
      • Selecione Exibir detalhes do modelo, selecione um modelo e, em seguida, Escolher modelo.
    7. Informe um prompt ou selecione um exemplo na lista Exemplo para usar como um prompt base ou para aprender.
    8. (Opcional) Defina novos valores para os parâmetros. Para obter detalhes do parâmetro, consulte as definições de parâmetro, selecione o modelo que você está usando, listado em Modelos Básicos Pré-treinados Oferecidos no Serviço Generative AI.
      Observação

      Para os modelos hospedados no cohere.command, se você selecionar Mostrar probabilidades, depois que o modelo gera uma resposta, poderá passar o mouse sobre as palavras geradas para ver os tokens e sua probabilidade.
    9. Selecione Gerar.
    10. (Opcional) Para alterar a saída, atualize os prompts e os parâmetros e selecione Gerar. Repita essa etapa até estar satisfeito com a saída.
      Observação

      Para manter o contexto de prompts anteriores para perguntas de acompanhamento, selecione Copiar saída e inclua a saída no próximo prompt.
    11. Para copiar a saída gerada, selecione Copiar saída.

      A saída é copiada para a área de transferência do computador.

    12. (Opcional) Para copiar o código que gerou a saída, selecione Exibir código, selecione uma linguagem de programação, selecione Copiar código, cole o código em um arquivo e salvar o arquivo. Verifique se o arquivo mantém o formato do código colado.
      Dica

      Se você estiver usando o código em um aplicativo, verifique se você autenticou seu código.
    13. (Opcional) Para iniciar um novo prompt, selecione Limpar na área Entrada.
      Observação

      Quando você seleciona Limpar, os parâmetros do modelo serão redefinidos para seus valores padrão.

  • Para gerar texto, use a operação generate-text-result.

    Insira o comando a seguir para obter uma lista de opções para gerar texto.

    oci generative-ai-inference generate-text-result -h

    Para obter uma lista completa de parâmetros e valores para os comandos da CLI do OCI Generative AI, consulte CLI de Inferência de IA Generativa e CLI de Gerenciamento de IA Generativa.

  • Execute a operação GenerateText para gerar texto.

    Para obter informações sobre o uso da API e as solicitações de assinatura, consulte Documentação da API REST e Credenciais da Segurança. Para obter informações sobre SDKs, consulte SDKs e a CLI.