Usando os Grandes Modelos de Linguagem (LLMs) no Serviço Generative AI
O playground é uma interface na Console do Oracle Cloud para explorar os modelos pré-treinados e personalizados hospedados na OCI Generative AI sem escrever uma única linha de código. Use o playground para testar seus casos e refinar prompts e parâmetros. Quando estiver satisfeito com os resultados, integre o código gerado aos seus aplicativos.
Além do playground, você pode conversar por chat, gerar texto e resumir usando as operações da API de Inferência de IA Generativa e os comandos da CLI de Inferência de IA Generativa.
Você pode executar as seguintes tarefas com os grandes modelos de linguagem (LLMs) da OCI Generative AI:
- Chat: Faça perguntas e obtenha respostas de conversação por meio de um chatbot de IA.
- Gerar texto: Execute prompts para gerar ou classificar texto ou extrair informações de texto. (Os modelos sob demanda para esse ponto final são desativados - Use a opção de bate-papo.)
- Resumir: Use como um gerador de resumo executivo para documentos que são longos demais para ler e resumir qualquer tipo de texto em parágrafos ou marcadores de formato livre e, opcionalmente, especifique o tom. (Os modelos sob demanda para esse ponto final são desativados. Use a opção de bate-papo.)
Importante
- Não Disponível sob demanda: todos os modelos básicos pré-treinados do OCI Generative AI suportados para o modo de serviço sob demanda que usam as APIs de geração de texto e resumo (incluindo o playground) agora são descontinuados. Recomendamos que você use os modelos de chat.
- Pode ser hospedado em clusters: Se você hospedar um modelo de resumo ou geração, como
cohere.command, em um cluster de IA dedicado (modo de serviço dedicado), poderá continuar a usar esse modelo até que ele seja retirado. Esses modelos, quando hospedados em um cluster de IA dedicado, só estão disponíveis no US Midwest (Chicago). Consulte APIs Obsoletas no Serviço Generative AI para obter a data em que as APIs não estão mais disponíveis.