Documentación de Oracle Cloud Infrastructure

Uso de grandes modelos de idioma (LLM) en Generative AI

playground es una interfaz en la consola de Oracle Cloud para explorar los modelos personalizados y preentrenados alojados en OCI Generative AI sin escribir una sola línea de código. Utilice el playground para probar los casos de uso y acotar peticiones de datos y parámetros. Cuando esté satisfecho con los resultados, integre el código generado en sus aplicaciones.

Además del campo de juego, puede chatear, generar texto y resumir mediante las operaciones de la API de inferencia de IA generativa y los comandos de la CLI de inferencia de IA generativa.

Puede realizar las siguientes tareas con los modelos de lenguaje grandes (LLM) de OCI Generative AI:

  • Chatear: haz preguntas y obtén respuestas conversacionales a través de un chatbot de IA.
  • Generar texto: ejecute peticiones de datos para generar o clasificar texto o extraer información del texto. (Los modelos bajo demanda para este punto final se dan de baja: utilice la opción de chat en su lugar).
  • Resumir: se utiliza como generador de resumen ejecutivo para documentos que son demasiado largos para leer y resumir cualquier tipo de texto en párrafos de formato libre o viñetas y, opcionalmente, especifica el tono. (Se dan de baja los modelos bajo demanda para este punto final. En su lugar, utilice la opción de chat.)
Importante

  • No disponible bajo demanda: todos los modelos preentrenados fundamentales de OCI Generative AI soportados para el modo de servicio bajo demanda que utilizan las API de generación y resumen de texto (incluido el patio de recreo) ahora están retirados. Le recomendamos que utilice las modelos de chat en su lugar.
  • Se puede alojar en clusters: si aloja un modelo de generación o resumen, como cohere.command, en un cluster de IA dedicado (modo de servicio dedicado), puede seguir utilizando ese modelo hasta que se reciba. Estos modelos, cuando se alojan en un cluster de IA dedicado, solo están disponibles en el medio oeste de EE. UU. (Chicago). Consulte API en desuso en la IA generativa para ver la fecha en la que las API ya no están disponibles.