Despliegue de un bot conversacional basado en IA
Esta arquitectura de referencia demuestra cómo desplegar rápidamente un chatbot basado en IA en su arrendamiento de Oracle Cloud Infrastructure (OCI) mediante Oracle Digital Assistant y OCI Generative AI. La infraestructura y los componentes proporcionados simplifican la personalización según las necesidades de su organización. Las funciones clave permiten:
- Autor: permite generar documentos como planes de ventas, descripciones generales del sector e investigación de clientes.
- Resumir: carga de transcripciones o documentos para recibir resúmenes concisos.
- Pregunta y respuesta: haga preguntas generales y obtenga respuestas rápidas basadas en el contenido web y los datos de formación del chatbot.
Utiliza esta arquitectura de referencia para implementar de forma rápida y sencilla un chatbot basado en IA con los servicios de Oracle Digital Assistant y Oracle AI.
Arquitectura
Este chatbot basado en IA aprovecha los grandes modelos de lenguaje (LLM) de Oracle Digital Assistant y OCI Generative AI. Oracle Visual Builder se utiliza para embeber el chatbot en una aplicación web. Los usuarios pueden interactuar con OCI Generative AI a través de preguntas en lenguaje natural y recibir respuestas del LLM mediante la interfaz de chatbot.
El siguiente diagrama ilustra esta arquitectura de referencia.
El flujo para usuarios y desarrolladores que utilizan esta arquitectura se asemeja a:
- Los desarrolladores y usuarios de bots conversacionales se autentican con OCI Identity and Access Management.
- Los usuarios acceden al chatbot mediante la aplicación de Oracle Visual Builder en la que está embebido. Los desarrolladores pueden configurar la aplicación desde la página inicial del servicio de Oracle Visual Builder.
- Los desarrolladores configuran el chatbot mediante la consola de servicio de Oracle Digital Assistant.
- Los desarrolladores acceden a los LLM de OCI Generative AI mediante API.
La arquitectura tiene los siguientes componentes:
- Región
Una región de Oracle Cloud Infrastructure es un área geográfica localizada que contiene uno o más centros de datos, que alojan dominios de disponibilidad. Las regiones son independientes de otras regiones y pueden haber grandes distancias que las separan (entre países o incluso continentes).
- Gestión de identidad y acceso
Oracle Cloud Infrastructure Identity and Access Management (IAM) proporciona control de acceso de usuario para Oracle Cloud Infrastructure (OCI) y Oracle Cloud Applications. La API de IAM y la interfaz de usuario le permiten gestionar los dominios de identidad y los recursos que contienen. Cada dominio de identidad de OCI IAM representa una solución de gestión de identidad y acceso independiente o un grupo de usuarios diferente.
- Oracle Visual Builder
Oracle Visual Builder es una experiencia de desarrollo intuitiva sobre una plataforma de desarrollo y alojamiento que le permite crear aplicaciones con alta capacidad de respuesta. Centrándose en la facilidad de uso y un enfoque de desarrollo visual, le proporciona una forma sencilla de crear aplicaciones alojadas en la plataforma en la nube segura y ampliable de Oracle.
- Digital Assistant
Oracle Digital Assistant es una plataforma que permite crear y desplegar asistentes digitales para sus usuarios. Con Oracle Digital Assistant, puedes crear interfaces (o bots conversacionales) basadas en IA para aplicaciones empresariales a través de interfaces de texto, chat y voz. Cada asistente digital cuenta con una recopilación de una o más aptitudes especializadas para ayudar a los usuarios a realizar una variedad de tareas en conversaciones en lenguaje natural. Por ejemplo, un asistente digital individual puede tener aptitudes que se centren en tipos específicos de tareas, como el seguimiento del inventario, el envío de fichas de horas y la creación de informes de gastos.
- IA generativa
Oracle Cloud Infrastructure Generative AI es un servicio OCI totalmente gestionado que proporciona un conjunto de modelos de lenguaje grandes (LLM) personalizables y de última generación que abarcan una amplia gama de casos de uso para la generación de texto, el resumen, la búsqueda semántica y mucho más. Utiliza el patio de recreo para probar los modelos preentrenados listos para usar, o crea y aloja tus propios modelos personalizados ajustados basados en tus propios datos en clusters de IA dedicados.
Consideraciones
Al desplegar este chatbot basado en IA, tenga en cuenta lo siguiente.
- Disponibilidad regional
Oracle aloja sus servicios de OCI en regiones y dominios de disponibilidad. Una región es un área geográfica localizada, mientras que un dominio de disponibilidad es uno o más centros de datos de esa región. Los servicios de IA no siempre están disponibles en todas las regiones. Para obtener más información, consulte Regiones con IA generativa en la sección Explorar más.
- Procesamiento de Documentos
La función de procesamiento de documentos utilizada en esta arquitectura está destinada a documentos más pequeños. Para obtener soluciones que analicen documentos más grandes, consulte el otro LiveLabs en la sección Explorar más.
Explorar más
Obtén más información sobre la implementación de un chatbot basado en IA.
Revise estos recursos adicionales:
- Despliega un chatbot de ODA con la tecnología de agentes de IA generativa (LiveLab)
- Despliegue de un chatbot con la tecnología de agentes de IA generativa mediante 23ai Vector DB (LiveLab)
- IA Generativa de OCI
- Visión general de los asistentes digitales y las aptitudes
- Regiones con IA generativa
- Marco bien diseñado para Oracle Cloud Infrastructure