Projets
Les projets OCI Generative AI organisent les conversations et les réponses sous un ensemble partagé de paramètres. Dans un projet, vous définissez la durée de conservation des données, activez la mémoire à long terme pour conserver le contexte entre les conversations et activez la compression de la mémoire à court terme pour optimiser le traitement de l'historique des conversations.
Les projets sont isolés les uns des autres pour prendre en charge la gestion du cycle de vie et les limites de conformité. Référencez l'OCID de projet dans les appels d'API et de kit SDK pour appliquer les paramètres de projet lors de l'exécution.
A propos des projets
Un projet est une ressource OCI qui organise les artefacts propres à l'agent créés via le service d'IA générative, y compris les réponses, les conversations, les fichiers et les conteneurs. Les projets sont isolés les uns des autres, de sorte que les artefacts d'un projet ne sont pas accessibles à partir d'un autre projet. Un projet est requis pour appeler l'API compatible OCI OpenAI pour les tâches liées aux agents.
Un paramètre de projet peut inclure :
- Conservation des données pour les réponses et les conversations
- Paramètres de mémoire à long terme
- Paramètres de compactage de l'historique des conversations (compaction de mémoire à court terme)
- La suppression d'un projet supprime tous les artefacts associés (réponses, conversations, fichiers et conteneurs) créés dans ce projet.
- Les appels d'API utilisent l'OCID de projet.
Mémoire d'agent
La mémoire d'agent permet aux agents de conserver et d'utiliser le contexte entre les interactions. Il prend en charge à la fois la mémoire à court terme au sein d'une conversation et la mémoire à long terme d'une conversation à l'autre, contribuant ainsi à améliorer la continuité, la pertinence et l'efficacité.
Mémoire à court terme
La mémoire à court terme fait référence au contexte de conversation reporté dans une conversation en cours. L'API de réponses et l'API de conversations simplifient la gestion de l'état des conversations, ce qui permet des interactions multi-tours.
Mémoire à long terme
La mémoire à long terme fournit un contexte persistant entre les conversations. Lorsque cette option est activée, le service extrait les informations clés des conversations et les stocke afin qu'elles puissent être rappelées dans des interactions futures au sein du même projet.
La mémoire à long terme est utile pour les scénarios qui nécessitent une continuité entre les sessions, par exemple :
- Se souvenir des préférences utilisateur stables
- Conservation du contexte d'arrière-plan récurrent
- Maintenir la continuité entre les interactions
Compaction de mémoire à court terme
Au fur et à mesure que l'historique des conversations augmente, l'envoi de l'historique complet peut augmenter l'utilisation et la latence des jetons. Le compactage de la mémoire à court terme résume et compresse l'historique des conversations antérieures en une représentation plus petite et structurée. Cela permet de préserver les détails clés tout en réduisant la quantité de contexte envoyé au modèle.
Cette approche :
- Préserve les informations clés des virages précédents
- Réduit l'utilisation des jetons pour les longues conversations
- Améliore la latence en gardant le contexte léger
Conservation des données
La conservation des données définit la durée pendant laquelle les artefacts de projet sont conservés avant leur suppression automatique. Dans les projets OCI Generative AI, vous définissez la rétention séparément pour les réponses et les conversations.
- Conservation de la réponse : contrôle la durée pendant laquelle les réponses générées sont conservées.
- Conservation de la conversation : contrôle la durée de conservation des conversations après la mise à jour la plus récente.
Les paramètres de conservation vous aident à contrôler la durée de stockage et à vous aligner sur les exigences de votre organisation en matière de traitement des données.
Limites
Reportez-vous à Limites d'application.
QuickStart Droits d'accès
Gérer
Vous pouvez effectuer les tâches suivantes pour créer, répertorier et utiliser des projets :