Documentación de Oracle Cloud Infrastructure

Generar texto en IA generativa

Aloja un modelo de generación de lenguaje grande de generación de texto en OCI Generative AI en un cluster de IA dedicado para generar texto o extraer información del texto. Le recomendamos que utilice los modelos de chat en su lugar.

Importante

  • No disponible bajo demanda: todos los modelos preentrenados fundamentales de OCI Generative AI soportados para el modo de servicio bajo demanda que utilizan las API de generación y resumen de texto (incluido el patio de recreo) ahora están retirados. Le recomendamos que utilice las modelos de chat en su lugar.
  • Se puede alojar en clusters: si aloja un modelo de generación o resumen, como cohere.command, en un cluster de IA dedicado (modo de servicio dedicado), puede seguir utilizando ese modelo hasta que se reciba. Estos modelos, cuando se alojan en un cluster de IA dedicado, solo están disponibles en el medio oeste de EE. UU. (Chicago). Consulte Baja de los modelos para conocer las fechas y definiciones de baja.
    1. En la barra de navegación de la consola, seleccione la región Medio Oeste de EE. UU. (Chicago).
    2. Abra el menú de navegación y seleccione Análisis e IA. En Servicios de IA, seleccione IA generativa.
    3. Seleccione un compartimento en el que tenga permiso para trabajar. Si no ve el patio de recreo, pida a un administrador que le otorgue acceso a los recursos de IA generativa y, a continuación, vuelva a los siguientes pasos.
    4. Haga clic en Playground.
    5. Haga clic en Generación.
    6. Seleccione un modelo para la generación de texto mediante una de las siguientes acciones:
      • Haga clic en Ver detalles del modelo, seleccione un modelo y, a continuación, haga clic en Seleccionar modelo.
    7. Introduzca una petición de datos o seleccione un ejemplo de la lista Ejemplo para utilizarlo como petición de datos base o para obtener más información.
    8. (Opcional) Defina nuevos valores para los parámetros. Para obtener más información sobre los parámetros, consulte las definiciones de parámetros para seleccionar el modelo que está utilizando, que se muestra en Pretrained Foundational Models in Generative AI.
      Nota

      Para los modelos alojados cohere.command, si selecciona Mostrar probabilidad, después de que el modelo genere una respuesta, puede pasar el mouse sobre las palabras generadas para ver los tokens y su probabilidad.
    9. Haga clic en Generar.
    10. (Opcional) Para cambiar la salida, actualice las peticiones de datos y los parámetros y haga clic en Generar. Repita este paso hasta que esté satisfecho con la salida.
      Nota

      Para mantener el contexto de peticiones de datos anteriores para preguntas de seguimiento, haga clic en Copiar salida e incluya la salida en la siguiente petición de datos.
    11. Para copiar la salida generada, haga clic en Copiar salida.

      La salida se copia en el portapapeles de la computadora.

    12. (Opcional) Para copiar el código que ha generado la salida, haga clic en Ver código, seleccione un lenguaje de programación, haga clic en Copiar código, pegue el código en un archivo y guarde el archivo. Asegúrese de que el archivo mantenga el formato del código pegado.
      Consejo

      Si utiliza el código en una aplicación, asegúrese de autenticar el código.
    13. (Opcional) Para iniciar una nueva petición de datos, haga clic en Borrar en el área Entrada.
      Nota

      Al hacer clic en Borrar, los parámetros del modelo se restablecen a sus valores por defecto.

  • Para generar texto, utilice la operación generate-text-result.

    Introduzca el siguiente comando para obtener una lista de opciones para generar texto.

    oci generative-ai-inference generate-text-result -h

    Para obtener una lista completa de parámetros y valores para los comandos de la CLI de AI OCIGenerative, consulte Generative AI Inference CLI y Generative AI Management CLI.

  • Ejecute la operación GenerateText para generar texto.

    Para obtener más información sobre el uso de la API y la firma de solicitudes, consulte la documentación de la API de REST y Credenciales de seguridad. Para obtener información sobre los SDK, consulte Los SDK y la CLI.