Utilisation des grands modèles de langage dans le service d'IA générative
Le plan de jeu est une interface de la console Oracle Cloud qui permet d'explorer les modèles préentraînés et personnalisés hébergés dans le service d'intelligence artificielle générative pour OCI sans écrire une seule ligne de code. Utilisez le plan de lecture pour tester vos cas d'utilisation et affiner les invites et les paramètres. Lorsque les résultats vous conviennent, intégrez le code généré dans vos applications.
En plus du domaine de jeu, vous pouvez clavarder, générer du texte et résumer à l'aide des opérations API d'inférence d'IA générative et des commandes interface de ligne de commande d'inférence d'IA générative.
Vous pouvez effectuer les tâches suivantes avec les grands modèles de langage du service d'intelligence artificielle générative pour OCI :
- Clavarder : Posez des questions et obtenez des réponses conversationnelles grâce à un agent conversationnel d'IA.
- Générer du texte : Exécutez des invites pour générer ou classer un texte ou en extraire des informations. (Les modèles sur demande pour ce point d'extrémité sont retirés - Utilisez plutôt l'option de clavardage.)
- Sommaire : Générez des sommaires de la direction pour les documents trop longs à lire et résumez tout type de texte sous forme de paragraphes à structure libre ou de bulletins et spécifiez éventuellement le ton. (Les modèles sur demande pour ce point d'extrémité sont retirés. Utilisez plutôt l'option de clavardage.)
- Non disponible sur demande : Tous les modèles préentraînés de base du service d'intelligence artificielle générative pour OCI pris en charge pour le mode de service sur demande qui utilisent les API de génération de texte et de récapitulation (y compris le terrain de jeu) sont maintenant mis hors service. Nous vous recommandons d'utiliser les modèles de chat à la place.
- Peut être hébergé sur des grappes : Si vous hébergez une récapitulation ou un modèle de génération tel que
cohere.commandsur une grappe dédiée à l'IA (mode de service dédié), vous pouvez continuer à utiliser ce modèle jusqu'à ce qu'il soit abandonné. Ces modèles, lorsqu'ils sont hébergés sur une grappe dédiée à l'IA, sont disponibles uniquement dans le Midwest des États-Unis (Chicago). Voir API obsolètes dans le service d'intelligence artificielle générative pour la date à laquelle les API ne sont plus disponibles.