Rapports sur la qualité des compétences

Les rapports sur la qualité des compétences vous permettent de faire rapidement le point sur les intentions et les énoncés dans toutes les versions de la compétence.

Vous pouvez utiliser les rapports suivants (accessibles en cliquant sur Illustration de l'icône Qualité. dans la barre de navigation de gauche) tout au long du processus de développement des compétences :
  • Rapport d'aperçu - Les mesures et les graphiques de ce rapport vous permettent d'évaluer rapidement la taille et la forme de vos données d'entraînement en décomposant chacune des intentions de la compétence en fonction du nombre d'énoncés qu'elles contiennent. Vous pouvez utiliser ce rapport au fur et à mesure que votre jeu de données augmente tout au long du processus de développement pour vous assurer que le nombre d'intentions, le nombre d'énoncés par intention et le nombre de mots pour chaque énoncé sont toujours conformes à nos directives.
  • Le rapport - Décrit les intentions par des anomalies, des énoncés qui pourraient être inappropriés pour leur intention parce qu'elles sont hors de portée ou mal étiquetées, ou sont potentiellement applicables mais difficiles à classer parce qu'elles sont inhabituelles.

Rapport Aperçu de la qualité des aptitudes

Les mesures et les graphiques du rapport sur la qualité des compétences vous permettent de faire rapidement le point sur vos données d'entraînement en décomposant le nombre d'énoncés qu'elles contiennent pour chacune des intentions de la compétence. Ce rapport vous aide à maintenir une répartition équilibrée des énoncés entre les intentions. Vous pouvez l'utiliser tout au long de votre processus de développement pour vous assurer que votre corpus est conforme à nos directives concernant le nombre d'intentions, le nombre d'énoncés par intention et le nombre de mots pour chaque énoncé. Ce rapport peut vous dire en un coup d'œil si :
  • Votre compétence a le minimum de deux intentions, mais n'a pas dépassé le nombre recommandé de 300 intentions.
  • Votre formation ne dépasse pas 25 000 énoncés.
  • Chaque intention comporte au moins deux énoncés (avec le minimum recommandé de 12 énoncés pour fournir un entraînement prévisible).
  • La longueur moyenne des énoncés est comprise entre trois et 30 mots.
Note

Ce rapport suit les intentions qui ont été activées.

Comment utiliser le rapport d'aperçu

Le rapport d'aperçu fournit des vues de vos données d'entraînement.
  • Vue de haut niveau des données d'entraînement au moyen de son graphique à barres et de ses mesures d'intentions par énoncé, qui incluent le nombre total d'intentions et d'énoncés pour toutes les versions de la compétence. À l'aide du graphique à barres et des mesures, vous pouvez découvrir ce que ces totaux signifient en termes d'équilibre ou de déséquilibre de votre ensemble d'entraînement. Par exemple, le graphique du rapport, ainsi que la disparité entre les totaux de la plus grande intention et de la plus petite intention, peuvent indiquer un jeu d'entraînement déséquilibré, dans lequel vous devez ajouter des données pour combler l'écart entre la plus grande et la plus petite intention.

    Mesure Description et utilisation
    Intentions Nombre total d'intentions pour toutes les versions de la compétence. Utilisez cette mesure pour savoir si cette compétence a dépassé le maximum recommandé de 300 intentions.
    Énoncés Nombre total d'énoncés pour toutes les intentions. Utilisez cette mesure pour connaître la taille réelle du jeu d'entraînement.
    Plus grande intention L'intention avec le plus d'énoncés. Comparez ce total à la mesure Nombre moyen d'énoncés par intention.
    Plus petite intention Intention avec le moins d'énoncés. Vous devrez peut-être ajouter des énoncés si ce total est bien inférieur à Nombre moyen d'énoncés par intention.
    Nombre moyen d'énoncés par intention Nombre d'énoncés en moyenne pour toutes les intentions. Utilisez cette mesure pour savoir si vous fournissez suffisamment de données à votre jeu d'entraînement.
    Longueur moyenne Longueur d'énoncé sur l'ensemble du jeu d'entraînement. Comparez cette mesure à la mesure Longueur d'énoncé moyenne pour une intention afin de déterminer si le nombre de mots de ses énoncés a une incidence négative sur le modèle, car il est trop élevé ou trop bas.
    Longueur minimale Énoncé le plus court du jeu d'entraînement. Utilisez cette mesure pour déterminer si l'un des énoncés du jeu d'entraînement comporte trop peu de mots (moins de trois), ce qui peut avoir une incidence négative sur la performance du modèle.
    Longueur maximale Énoncé le plus long du jeu d'entraînement. Utilisez cette mesure pour rechercher des énoncés longs (30 mots ou plus) qui peuvent avoir une incidence négative sur la performance du modèle.
    Intention de réponse Nombre d'intentions de réponse dans le jeu d'entraînement. Utilisez cette mesure pour comparer le nombre d'intentions de réponse à des intentions normales (ou transactionnelles).
    Note

    Les mesures de longueur minimale, de longueur maximale et de longueur moyenne et les avertissements connexes s'appliquent aux compétences en langue native et non aux compétences qui utilisent des services de traduction.
    Le rapport signale les zones problématiques avec des avertissements. Le survol d'un avertissement ouvre un message de diagnostic, qui place l'énoncé ou l'intention problématique dans le contexte de nos directives d'intention et d'énoncé et suggère des mesures correctives.
    Ceci est une image d'un message d'avertissement.

    Conseil :

    Les messages d'avertissement auxquels vous accédez à partir des mesures vous fournissent un lien vers la page Intent (Intention).
    Ces messages s'affichent également dans le volet Intents Issues (Problèmes liés aux intentions).

  • Répartition de la formation par intention. Le rapport inclut un tableau répertoriant les intentions par langue (pour les compétences multilingues), le nombre d'énoncés et la longueur moyenne, minimale et maximale des mots. Pour voir les trois derniers totaux dans le contexte du jeu d'entraînement global, comparez-les aux mesures Longueur moyenne, Longueur minimale et Longueur maximale.

    Comme pour les mesures de haut niveau, le rapport signale les intentions problématiques par des messages d'avertissement. Un avertissement Il s'agit d'une image de l'icône Avertissement. dans Problèmes indique que l'intention est insuffisante dans un aspect de la longueur de l'énoncé. Cliquez sur l'avertissement correspondant Ceci est une image de l'icône d'avertissement. dans les colonnes Average Utterance Length (Longueur moyenne d'énoncé), Max Utterance Length (Longueur maximale d'énoncé dans les mots) ou Min Utterance Length (Longueur minimale d'énoncé dans les mots) pour ouvrir un message de diagnostic. Vous pouvez appliquer l'action corrective suggérée par le message directement à l'intention en cliquant sur le lien dans la colonne Intent (Intention).
    Description d'intention-issues-table.png :
    Description de l'illustration intention-issues-table.png

Rapport sur les anomalies de qualité des compétences

Comme le rapport Overview (Aperçu), ce rapport décompose les intentions par énoncé. Toutefois, les énoncés comptabilisés dans ce rapport sont des anomalies, des énoncés qui pourraient être inappropriés pour leur intention parce qu'ils sont hors de portée ou mal étiquetés, ou qu'ils sont potentiellement applicables mais uniques. Les anomalies peuvent rendre floues les frontières entre les intentions, en particulier si vous avez étendu votre compétence pour couvrir de nouveaux domaines ou si vous avez partitionné une intention volumineuse en intentions plus petites.

Comment utiliser le rapport d'anomalies

Ce rapport classe non seulement les intentions par anomalies, mais il classe également les anomalies elles-mêmes en fonction de leur différence par rapport aux autres énoncés du jeu d'entraînement.
Description d'anomalies-intent-breakdown.png :
Description de l'illustration anomalies-intent-breakdown.png

Vous pouvez trier les anomalies de cette liste par gravité et par intention. Vous pouvez filtrer les anomalies par intention, par mots ou expressions dans les énoncés et, pour une compétence multilingue, par langue.

Pour savoir où (ou si) un énoncé appartient à votre jeu d'entraînement, cliquez sur Voir les énoncés similaires dans la liste pour le voir dans le rapport Énoncés similaires.
Description des anomalies -list.png :
Description de l'illustration anomalies-list.png

Comme le rapport Énoncés similaires utilisé dans le test d'énoncé, ce rapport classe les autres énoncés du jeu d'entraînement par rapport à l'énoncé sélectionné. Dans ce cas, cependant, l'énoncé n'est pas une phrase de test, mais un énoncé anormal qui se trouve déjà dans le jeu d'entraînement.
Description de similar-utterance-report-anomalies.png :
Description de l'illustration similar-utterance-report-anomalies.png

En fonction de la relation entre l'anomalie et les autres énoncés du rapport, vous constaterez peut-être que l'énoncé est tout simplement mal classé ou qu'il ne s'applique pas du tout à la compétence. D'autres anomalies, cependant, peuvent seulement être anormales aux autres énoncés en ce sens qu'elles sont des demandes implicites – elles posent les mêmes questions que les autres données d'entraînement, mais d'une manière différente. Par exemple, "Je ne peux pas me connecter à mon compte" peut être évalué comme une anomalie pour une intention de transfert d'agent dont les énoncés d'entraînement se regroupent autour de demandes plus simples telles que "J'ai besoin de parler à un agent humain". L'ajout d'énoncés similaires ajoutera de la profondeur au modèle.

En général, votre approche pour utiliser ce rapport est la suivante :
  1. Exécuter le rapport.
  2. Sélectionnez un énoncé, puis cliquez sur View Similar (Voir les énoncés similaires).
  3. Dans la boîte de dialogue View Similar, évaluez l'énoncé de l'intention.
    • Si l'énoncé appartient à l'intention, ajoutez des énoncés similaires.
    • Si l'énoncé est mal classé, affectez-le à une autre intention.
    • Si l'énoncé n'appartient pas au jeu d'entraînement, supprimez-le.
  4. Entraînez de nouveau la compétence.