Chat no OCI Generative AI

Use os modelos de chat de linguagem grande fornecidos na IA Gerativa do OCI para fazer perguntas e obter respostas de conversação por meio de um chatbot de IA.

• Console
• CLI
• API

• 1. Na barra de navegação da Console, selecione uma região com o serviço Generative AI, por exemplo, Centro-oeste dos EUA (Chicago). Se você não souber qual região selecionar, consulte a região de cada modelo pré-treinado.
  2. Abra o menu de navegação e clique em Funções Analíticas e IA. Em Serviços de IA, clique em Generative AI.
  3. Selecione um compartimento no qual você tenha permissão para trabalhar. Se você não acessar o playground, peça ao administrador para fornecer acesso aos recursos do serviço Generative AI e retorne às etapas a seguir.
  4. Clique em Playground.
  5. Clique em Chat.
  6. Selecione um modelo para a experiência de chat executando uma das seguintes ações:
     • Na lista Modelo, escolha um modelo como meta.llama-3-70b-instruct, cohere.command-r-plus, cohere.command-r-16k ou um modelo personalizado. Os modelos personalizados são exibidos como nome do modelo (nome do ponto final).
     • Clique em View model details, selecione um modelo e clique em Choose model.
  7. Inicie uma conversa digitando um prompt ou selecionando um exemplo na lista Exemplo para usar como um prompt base ou para aprender.
  8. (Opcional) Defina novos valores para os parâmetros. Para obter detalhes do parâmetro, consulte Parâmetros do Modelo de Chat.
  9. Clique em Enviar.
  10. Informe um novo prompt ou para continuar sua conversa de chat, informe um prompt de acompanhamento e clique em Enviar.
  11. (Opcional) Para alterar as respostas, clique em Limpar bate-papo, atualize os prompts e os parâmetros e clique em Enviar. Repita essa etapa até estar satisfeito com a saída.
  12. (Opcional) Para copiar o código que gerou a saída, clique em Exibir código, selecione uma linguagem de programação, clique em Copiar código, cole o código em um arquivo e salve o arquivo. Certifique-se de que o arquivo mantenha o formato do código colado.
      Dica
      
      Se você estiver usando o código em um aplicativo, certifique-se de autenticar seu código.
  13. (Opcional) Para iniciar uma nova conversa, clique em Limpar bate-papo.
      Observação
      
      Quando você clica em Limpar bate-papo ou seleciona outro recurso, como Geração, e revisita o playground Bate-papo, a conversa de bate-papo é limpa e os parâmetros do modelo são redefinidos para seus valores padrão. Consulte Coerir parâmetros de bate-papo.

• Para conversar por chat, use a operação chat-result na CLI de Inferência de IA Gerativa.

  Informe o comando a seguir para obter uma lista de opções a serem usadas com a operação chat-result.

  oci generative-ai-inference chat-result -h

  Para obter uma lista completa de parâmetros e valores dos comandos da CLI do OCIGenerative AI, consulte Generative AI Inference CLI e Generative AI Management CLI.

• Execute a operação Chat documentada na API de Inferência de IA Gerativa.

  Para obter informações sobre como usar a API e assinar solicitações, consulte a documentação da API REST e Credenciais de Segurança. Para obter informações sobre SDKs, consulte SDKs e a CLI.