Applications hébergées

Les paramètres d'ajustement définissent comment les déploiements hébergés associés à une application ajoutent ou suppriment des répliques pour gérer la charge. Vous définissez un nombre minimal et maximal de répliques et sélectionnez une mesure d'ajustement automatique, telle que les demandes concurrentes, les demandes par seconde (RPS), l'utilisation d'UC ou l'utilisation de la mémoire.

Pour les applications avec un stockage de fichiers persistant, réglez les nombres minimal et maximal de répliques à 1. Le stockage de fichiers persistant prend en charge une réplique dans cette version.

Le stockage géré fournit un stockage avec état pour les déploiements hébergés associés à une application. Le stockage de fichiers est monté sur un chemin de conteneur que vous spécifiez. Les détails de connexion à la base de données et au cache sont fournis au moyen de variables d'environnement.

Vous pouvez également définir d'autres variables d'exécution qui sont injectées dans le conteneur au moment de l'exécution.

Les paramètres d'authentification contrôlent la façon dont les demandes sont authentifiées avant d'être acheminées vers le déploiement hébergé. Les applications hébergées prennent en charge le jeton de porteur du domaine d'identité, la session de navigateur du domaine d'identité et l'authentification de signature de demande OCI IAM. Vous pouvez également sélectionner Aucune authentification pour le contenu public ou lorsque votre application gère l'authentification. Les déploiements hébergés associés héritent des paramètres de l'application.

L'authentification de session du navigateur de domaine d'identité utilise le flux de code d'autorisation OAuth 2.1 avec PKCE. Le service obtient des jetons d'accès pour le compte des utilisateurs du navigateur et établit des sessions qui utilisent des cookies. Avec l'option Aucune authentification, la plate-forme n'authentifie pas les demandes entrantes. Si l'accès nécessite une restriction, votre application doit appliquer les contrôles d'authentification et d'autorisation requis. Voir Authentification.

Pour voir le paramètre sélectionné après sa création, ouvrez l'onglet Configuration de l'application et cochez Type d'authentification sous Authentification.

Les paramètres de réseau contrôlent la façon dont les déploiements hébergés associés à une application acheminent le trafic sortant (sortant) et l'accès au déploiement actif au moyen d'un point d'extrémité public ou privé.

Par défaut, chaque application déployée est configurée avec un accès sortant à l'Internet public. Cela permet aux charges de travail d'agent d'atteindre les ressources externes telles que les serveurs MCP publics, les API de tierce partie, les points d'extrémité de modèle de base et d'autres outils hébergés sur Internet requis pour les flux de travail typiques de l'IA.

Une application peut également fonctionner en mode de réseau client. Pour cette option, vous spécifiez un sous-réseau cible dans un VCN de la location. La plate-forme établit ensuite une connexion réseau privée sécurisée entre la charge de travail de l'agent et le sous-réseau sélectionné à l'aide d'un mécanisme Point d'extrémité privé/Point d'extrémité de connexion inverse.

Une fois activée, tout le trafic sortant (sortant) de l'agent est acheminé au moyen du sous-réseau spécifié par le client. Résultat :

• L'agent peut accéder en toute sécurité aux ressources privées de votre réseau (par exemple, bases de données, instances de calcul, services internes).
• Le trafic reste dans les limites du réseau privé.
• Les contrôles de sécurité de réseau tels que les groupes de sécurité de réseau, les tables de routage et les pare-feu de votre VCN régissent la connectivité sortante.
• Le trafic sortant d'Internet public peut être restreint ou désactivé en fonction des exigences de sécurité de l'entreprise.

Ce modèle offre une souplesse permettant de prendre en charge à la fois les charges de travail d'IA tournées vers Internet et les déploiements entièrement privés et intégrés à l'entreprise, tout en maintenant des limites claires d'isolement du réseau entre la plate-forme et les environnements de client.

Par défaut, chaque application déployée est provisionnée avec un point d'extrémité public qui permet à vos clients d'appeler l'agent sur Internet, sous réserve des contrôles d'authentification et d'autorisation configurés.

Pour les cas d'utilisation nécessitant un accès réseau privé, vous pouvez créer un point d'extrémité privé dans la plate-forme GenAI. Le point d'extrémité privé permet l'appel au moyen d'une adresse IP privée et d'une résolution DNS interne. Les clients du réseau privé connecté (par exemple, VCN, sur place au moyen de FastConnect/VPN ou de réseaux appairés) peuvent ensuite appeler l'agent à l'aide du nom de domaine complet du point d'extrémité privé.

Cette configuration permet :

• Élimination de l'exposition publique à l'Internet
• Confinement du trafic dans les limites du réseau privé
• Alignement avec les exigences de conformité et de sécurité du réseau de l'entreprise

Après le déploiement d'un agent, les clients l'appellent au moyen du point d'extrémité provisionné. Le protocole de transport dépend de l'implémentation du serveur d'agents et du modèle d'interaction requis (sessions de demande/réponse, de diffusion en continu ou bidirectionnelles).

Les protocoles pris en charge sont les suivants :

Les agents d'IA ont besoin de services avec état pour prendre en charge la mémoire à court terme, les points de contrôle, la mise en mémoire cache et le stockage contextuel. Pour simplifier les opérations et réduire les frais généraux de gestion, la plate-forme fournit un stockage entièrement géré pour les applications hébergées.

Lors du déploiement d'un agent, vous pouvez sélectionner une ou plusieurs des options de stockage géré suivantes :

• Stockage de fichiers
• PostgreSQL
• Cache OCI
• Oracle Autonomous Database

Vous pouvez attacher une ressource de chaque type de stockage. Le service provisionne ou attache le stockage sélectionné et configure l'accès de l'application.

Le stockage de fichiers conserve les fichiers selon un chemin de montage désigné entre les redémarrages et les redéploiements du conteneur. Chaque attachement propre à l'application a un quota fixe de 50 Go. Les applications utilisant la même ressource de stockage reçoivent des systèmes de fichiers distincts et ne partagent pas de fichiers. Voir Stockage de fichiers persistant pour les applications hébergées.

Pour les limites, telles que le nombre d'applications ou d'artefacts autorisés par location, voir Limites d'application.

Vous pouvez effectuer les tâches suivantes pour créer et lister des applications :

• Création d'une application
• Liste des applications