Documentação do Oracle Cloud Infrastructure

Gerar Texto no Serviço Generative AI

Hospede um modelo de geração de linguagem grande de geração de texto na OCI Generative AI em um cluster de IA dedicado para gerar texto ou extrair informações de texto. Recomendamos que você use os modelos de chat.

Importante

  • Não Disponível sob demanda: todos os modelos básicos pré-treinados do OCI Generative AI suportados para o modo de serviço sob demanda que usam as APIs de geração de texto e resumo (incluindo o playground) agora são descontinuados. Recomendamos que você use os modelos de chat.
  • Pode ser hospedado em clusters: Se você hospedar um modelo de resumo ou geração, como cohere.command, em um cluster de IA dedicado (modo de serviço dedicado), poderá continuar a usar esse modelo até que ele seja retirado. Esses modelos, quando hospedados em um cluster de IA dedicado, só estão disponíveis no US Midwest (Chicago). Consulte Desativando os Modelos para obter datas e definições de baixa.
    1. Na barra de navegação da Console, selecione a região US Midwest (Chicago).
    2. Abra o menu de navegação e selecione Análise e IA. Em Serviços de IA, selecione IA Generativa.
    3. Selecione um compartimento no qual você tenha permissão para trabalhar. Se você não acessar o playground, peça ao administrador para fornecer acesso aos recursos do serviço Generative AI e retorne às etapas a seguir.
    4. Clique em Playground.
    5. Clique em Geração.
    6. Selecione um modelo para a geração de texto executando uma das seguintes ações:
      • Clique em Exibir detalhes do modelo, selecione um modelo e clique em Selecionar modelo.
    7. Informe um prompt ou selecione um exemplo na lista Exemplo para usar como um prompt base ou para aprender.
    8. (Opcional) Defina novos valores para os parâmetros. Para obter detalhes do parâmetro, consulte as definições de parâmetro, selecione o modelo que você está usando, listado em Modelos Básicos Pré-treinados no Serviço Generative AI.
      Observação

      Para os modelos hospedados cohere.command, se você selecionar Mostrar probabilidades, após o modelo gerar uma resposta, poderá passar o mouse sobre as palavras geradas para ver os tokens e suas probabilidades.
    9. Clique em Gerar.
    10. (Opcional) Para alterar a saída, atualize os prompts e os parâmetros e clique em Gerar. Repita essa etapa até estar satisfeito com a saída.
      Observação

      Para manter o contexto de prompts anteriores para perguntas de acompanhamento, clique em Copiar saída e inclua a saída no próximo prompt.
    11. Para copiar a saída gerada, clique em Copiar saída.

      A saída é copiada para a área de transferência do computador.

    12. (Opcional) Para copiar o código que gerou a saída, clique em Exibir código, selecione uma linguagem de programação, clique em Copiar código, cole o código em um arquivo e salve o arquivo. Certifique-se de que o arquivo mantenha o formato do código colado.
      Dica

      Se você estiver usando o código em um aplicativo, certifique-se de autenticar seu código.
    13. (Opcional) Para iniciar um novo prompt, clique em Limpar na área Entrada.
      Observação

      Quando você clica em Remover, os parâmetros do modelo são redefinidos para seus valores padrão.

  • Para gerar texto, use a operação generate-text-result.

    Digite o comando a seguir para obter uma lista de opções para gerar texto.

    oci generative-ai-inference generate-text-result -h

    Para obter uma lista completa de parâmetros e valores para os comandos da CLI do OCI Generative AI, consulte CLI de Inferência de IA Generativa e CLI de Gerenciamento de IA Generativa.

  • Execute a operação GenerateText para gerar texto.

    Para obter informações sobre como usar a API e assinar solicitações, consulte a documentação da API REST e Credenciais de Segurança. Para obter informações sobre SDKs, consulte SDKs e a CLI.