Documentación de Oracle Cloud Infrastructure

Seleccionar conversaciones de IA

Las conversaciones en Select AI hacen referencia al diálogo interactivo entre el usuario y el sistema, donde se almacena y se gestiona una secuencia de peticiones de datos de lenguaje natural proporcionadas por el usuario para admitir la memoria a largo plazo para las interacciones de LLM.

Select AI admite conversaciones basadas en sesiones a corto plazo, que se activan en el perfil de IA, así como conversaciones con nombre a largo plazo, que se activan mediante procedimientos o funciones específicos e ID de conversación.

Tipos de Conversaciones

Select AI admite conversaciones a corto plazo basadas en sesiones y conversaciones personalizables.

Conversaciones a corto plazo basadas en sesiones: la selección de IA incluye conversaciones a corto plazo basadas en sesiones para generar respuestas adaptadas al contexto para la petición de datos actual en función de interacciones anteriores.

Puede activarla definiendo el atributo conversation en true|false en su perfil AI. A diferencia de la función de varias conversaciones, las conversaciones basadas en sesiones almacenan mensajes solo durante la sesión. Las peticiones de datos se almacenan en una tabla temporal, se borran automáticamente cuando finaliza la sesión y no se pueden volver a utilizar ni cambiar entre conversaciones.

Conversaciones a largo plazo personalizables: la selección de IA soporta la creación y el uso de conversaciones personalizables, lo que le permite utilizar la selección de IA con diferentes temas sin mezclar contexto, lo que mejora la flexibilidad y la eficiencia. Puede crear, definir, suprimir y actualizar conversaciones mediante las funciones y los procedimientos de conversación DBMS_CLOUD_AI. Al activar conversaciones, Select AI recupera el historial de peticiones de datos y los envía al LLM para generar una respuesta para la petición de datos actual. Estas respuestas se almacenan en una tabla persistente para su uso futuro.

Nota

La selección de conversaciones de IA soporta las siguientes acciones: runsql, showsql, explainsql, narrate y chat.

Cómo utilizar conversaciones personalizables

Puede utilizar Select AI para conversaciones personalizables de las siguientes formas:

  • Defina el ID de conversación en la sesión mediante el procedimiento DBMS_CLOUD_AI.SET_CONVERSATION_ID y ejecute SELECT AI <ACTION> <PROMPT>.

  • Transfiera conversation_id en el argumento params de la función DBMS_CLOUD_AI.GENERATE.

Nota

Si utiliza varias conversaciones y el valor conversation: [true|false], el sistema ignora el valor conversation.

En el contexto de la generación de consultas SQL (NL2SQL), las conversaciones permiten una forma más intuitiva y accesible de trabajar con los datos, lo que facilita a los usuarios la extracción de estadísticas y la realización de tareas sin necesidad de un profundo conocimiento técnico de SQL. Las conversaciones también se pueden utilizar con las capacidades de chat y RAG de Select AI.

Por ejemplo, las conversaciones proporcionan una forma intuitiva de analizar datos:
  • Haga una pregunta como "¿Cuál es el número total de clientes?"
  • Realice un seguimiento con preguntas conscientes del contexto, como:
    • "Recuento de brotes de clientes por país"
    • "Qué grupo de edad es más común"
    • "Mantener a los 5 clientes principales y a su país por sus compras e incluir un rango en el resultado"

Para activar conversaciones, consulte Ejemplo: activación de conversaciones en Seleccionar IA para obtener un ejemplo completo.

Conversaciones Basadas en Sesión frente a Conversaciones Personalizables

La siguiente tabla compara la conversación basada en sesión y las conversaciones personalizables en Seleccionar IA:

Preguntas Conversaciones a corto plazo basadas en sesiones Conversaciones a largo plazo personalizables

¿Cuándo debo utilizar?

Lo mejor para los chats rápidos y temporales en los que desea que el modelo recuerde las preguntas y respuestas recientes durante una sola sesión. Es útil cuando no necesita guardar o reutilizar la conversación más adelante.

Diseñado para conversaciones más largas o continuas que pueden abarcar varias sesiones. Es útil cuando se desea realizar un seguimiento, revisar o gestionar el historial de conversaciones, o cuando diferentes partes de una aplicación necesitan acceder al mismo contexto de conversación a lo largo del tiempo.

¿Cómo puedo activarlo?

Defina {"conversation": true or false} en su perfil de AI.

Utilice el procedimiento DBMS_CLOUD_AI.SET_CONVERSATION_ID o la función DBMS_CLOUD_AI.GENERATE.

¿Cuántas conversaciones se permiten?

Uno.

Puede crear varias conversaciones.

Si especifica de forma explícita las Id. de conversación, puede alternar entre ellas para asociar campos a las conversaciones adecuadas según sea necesario.

¿Dónde se almacenan las peticiones de datos y durante cuánto tiempo?

Las peticiones de datos se almacenan en una tabla temporal y se borran cuando finaliza la sesión.

Las peticiones se almacenan en una tabla permanente.

Las peticiones de datos se mantienen en la base de datos durante el número de días especificado por el parámetro retention_days en el procedimiento DBMS_CLOUD_AI.CREATE_CONVERSATION. Después del período de retención, la conversación y sus campos se eliminan automáticamente. También puede suprimir manualmente las peticiones de datos mediante el procedimiento DBMS_CLOUD_AI.DELETE_CONVERSATION_PROMPT.

¿Cuántas peticiones de datos se almacenan y cuántas peticiones de datos se envían al LLM?

Se almacenan y envían al LLM un máximo de 10 peticiones de datos. No puede personalizar este límite.

Se almacenan todas las peticiones de datos.

De manera predeterminada, el sistema envía las 10 peticiones de datos más recientes al LLM. Puede personalizar esto mediante el parámetro conversation_length. Consulte CREATE_CONVERSATION Attributes.

¿Puedo eliminar peticiones de datos individuales?

No, no puede suprimir una petición de datos individual manualmente.

Puede suprimir peticiones de datos individuales específicas mediante el ID de petición de datos especificado en la vista USER_CLOUD_AI_CONVERSATION_PROMPTS y mediante el procedimiento DBMS_CLOUD_AI.DELETE_CONVERSATION_PROMPT.

¿Se utilizan los perfiles de IA para la recuperación de conversaciones?

Sí, Select AI recupera peticiones de datos y respuestas generadas previamente con el mismo perfil de AI.

No, Select AI realiza un seguimiento del perfil de AI utilizado al almacenar peticiones de datos y respuestas, pero no restringe su recuperación en función de ese perfil. Envía todos los historiales de conversaciones al LLM para guiar la generación de respuestas, independientemente del perfil utilizado para generarlas.

¿Dónde puedo comprobar el historial de peticiones de datos?

Las peticiones de datos se guardan en una tabla temporal en CLOUD USER, pero no se puede acceder a ellas para realizar consultas.

Puede consultar y revisar conversaciones y peticiones de datos a través de las vistas de conversación DBMS_CLOUD_AI. Consulte DBMS_CLOUD_AI Vistas para obtener más información.