Agents IA
Les politiques comme limites
Pourquoi vos règles sont appliquées par ce que l’agent IA est capable de faire plutôt que par des instructions qu’on lui demande de suivre, les six façons dont une règle devient une limite, et ce qui fait l’objet d’un contrôle plutôt que d’une suppression.
Sur cette page
Toute organisation a des règles sur ce qui peut être proposé à un client : structures tarifaires, plafonds d’approbation, frais, droits, ce qui n’est jamais fait. Dans de nombreux systèmes d’IA, ces règles sont rédigées sous forme d’instructions dans le texte que lit le modèle, ce qui signifie qu’elles ne s’appliquent que si le modèle les suit. Telonic intègre vos règles à ce que l’agent IA est capable de faire : si votre politique limite un bon repas à 75 AED, l’agent n’a aucun moyen d’en émettre un d’un montant supérieur, quelle que soit la formulation de la demande. C’est pourquoi il est raisonnable de laisser un agent IA agir en votre nom.
Une règle sous forme d’instruction, et une règle sous forme de limite
Une règle rédigée sous forme d’instruction est une chose qu’on demande au modèle de suivre. En général, il la suit. Mais un modèle génère sa réponse à partir de tout ce que contient la conversation, et une demande persuasive, inhabituelle ou habilement formulée peut l’amener à écrire quelque chose que l’instruction n’autorisait pas. Si l’action qu’il appelle ensuite accepte n’importe quelle valeur, rien ne l’arrête.
Une règle construite comme une limite fonctionne différemment. L’agent choisit parmi un ensemble défini d’actions, et chaque action n’accepte que les valeurs que votre politique autorise. Une valeur hors de cet ensemble ne fait pas partie des choix possibles. Le client peut changer la manière dont l’agent formule sa réponse, mais pas ce que l’agent est capable de faire.
| Une règle sous forme d’instruction | Une règle sous forme de limite | |
|---|---|---|
| Où se trouve la règle | Dans le texte que lit le modèle | Dans les actions et les valeurs que l’agent peut utiliser |
| Ce qui détermine le résultat | Le fait que le modèle suive ou non le texte | Le fait que l’action et la valeur figurent ou non dans l’ensemble autorisé |
| Ce que la reformulation d’une demande peut changer | Potentiellement le résultat | Uniquement la formulation de la réponse |
| Comment la vérifier | En testant de nombreuses formulations, sans pouvoir toutes les couvrir | En lisant l’ensemble autorisé, et en le testant |
| Ce que montre la trace | Ce que le modèle a écrit | L’action, la valeur et la règle qui l’a autorisée |
Six façons dont une règle devient une limite
Lors de la mise en œuvre, votre équipe et Telonic passent en revue vos règles une par une et décident de la manière dont chacune est intégrée au déploiement. La plupart des règles prennent une ou plusieurs des formes suivantes.
| Mécanisme | Ce que cela signifie | Exemple |
|---|---|---|
| 1. Actions autorisées | L’agent ne peut effectuer que les actions qui lui sont connectées. Une action qui n’est pas connectée ne peut pas être effectuée | L’agent peut reprogrammer une visite, mais ne dispose d’aucune action permettant d’annuler une réservation |
| 2. Valeurs autorisées | Chaque action n’accepte que les valeurs que vos règles autorisent | Réacheminement uniquement sur les vols que le tarif du passager autorise. Devis uniquement dans le cadre de vos règles de tarification |
| 3. Actions non exposées | Les décisions qui reviennent à vos équipes ne sont pas du tout connectées à l’agent | Il n’existe aucune action pour accepter ou refuser la prise en charge d’un sinistre, ni pour rembourser hors politique |
| 4. Étapes d’approbation | Les actions que vous qualifiez de sensibles sont préparées par l’agent et mises en attente jusqu’à ce qu’une personne les approuve | Un avoir à titre de geste commercial est préparé avec son motif et attend l’approbation d’un superviseur |
| 5. Valeurs issues de vos systèmes | Les conditions sont extraites de vos systèmes, si bien que l’agent ne peut pas fixer les siennes | Un plan de paiement est lu dans vos structures. Aucune action ne permet d’en écrire un nouveau |
| 6. Chiffres issus de l’enregistrement | Les montants et les dates d’une réponse sont insérés depuis l’enregistrement du système, et non ressaisis par le modèle | Le montant de l’échéance qu’entend un acquéreur est le montant qui figure dans votre système de paiement |
Le sixième comble une faille que les autres laissent ouverte. Même lorsqu’un chiffre a été correctement extrait, un modèle qui le ressaisit dans une phrase pourrait l’altérer. Dans une réponse de Telonic, le modèle de langage (le composant d’IA qui rédige la réponse) écrit la phrase, et le chiffre lui-même est inséré depuis l’enregistrement.
Détails techniques
Chaque connexion à vos systèmes expose un ensemble défini d’actions par l’intermédiaire d’une API (l’interface qu’un système utilise pour demander des informations ou des actions à un autre). Chaque action a sa propre autorisation, définie avec votre équipe informatique, et ses propres valeurs autorisées. Les accès en lecture et en écriture sont accordés séparément. Voir Autorisations.
Ces limites sont appliquées dans le logiciel de Telonic, en dehors du modèle de langage : le modèle peut proposer une action, mais celle-ci n’est exécutée que si l’action et ses valeurs figurent dans l’ensemble autorisé. Une action hors de cet ensemble n’est pas exécutée, et la conversation suit la règle d’escalade que vous avez définie pour ce cas. Chaque action, ses valeurs et la règle appliquée sont journalisées. Voir Piste d’audit et traces de décision.
Une limite s’applique exactement telle qu’elle est définie. La revue de vos limites lors de la mise en œuvre, et celle de chaque modification ultérieure, sont donc aussi importantes que les limites elles-mêmes. Voir Comment les modifications sont mises en production.
Ce qui fait l’objet d’un contrôle plutôt que d’une suppression
Certaines règles portent sur ce que dit l’agent plutôt que sur ce qu’il fait. L’exclusion des sujets qu’il n’aborde pas, comme le conseil juridique ou le conseil en investissement, est appliquée par un contrôle à chaque tour de la conversation. L’agent ne répond pas à une question portant sur un sujet hors périmètre et oriente le client vers une personne, y compris lorsque la question est reformulée.
Il s’agit d’un contrôle, et non d’une suppression au niveau de l’architecture, et nous le présentons comme tel. Le modèle de langage pourrait en principe produire du texte sur n’importe quel sujet : le périmètre des sujets est donc appliqué par un contrôle de chaque tour, et testé avant chaque nouvelle version, avec des variantes reformulées et indirectes des questions que vous avez placées hors périmètre. Voir Tests avant chaque nouvelle version.
Le ton et la formulation sont façonnés de la même manière : par la conception de chaque conversation, et par des contrôles a posteriori. Chaque conversation est notée au regard de votre référentiel qualité, et les conversations peuvent être contrôlées au regard des règles de conformité que fixe votre équipe, selon la configuration définie lors de la mise en œuvre. Voir Contrôle qualité de chaque conversation et Signalement des écarts de conformité.
| Ce que fait l’agent | Comment c’est appliqué |
|---|---|
| Effectue une action dans vos systèmes | Limite : seules les actions autorisées existent |
| Utilise une valeur, comme un montant ou une date, dans une action | Limite : seules les valeurs autorisées sont acceptées |
| Énonce un chiffre issu de vos systèmes | Limite : le chiffre est inséré depuis l’enregistrement |
| Prend une décision qui revient à votre équipe | Limite : l’action n’est pas exposée |
| Aborde un sujet | Contrôle à chaque tour, testé avant chaque nouvelle version |
| Choisit son ton et sa formulation | Conception de la conversation, évaluée sur chaque conversation |
D’où viennent vos règles
Bon nombre de vos règles se trouvent déjà dans vos systèmes. Les règles tarifaires figurent dans le système de réservation, les structures de paiement dans le système de gestion immobilière, et les règles de tarification dans le système de gestion des polices. Dans ce cas, l’agent les lit là où elles se trouvent, de sorte que la limite reste à jour lorsque votre système change.
Les règles qui figurent dans des documents de politique interne, comme le plafond d’un bon ou le seuil d’un geste commercial, sont définies dans votre déploiement lors de la mise en œuvre. Votre équipe peut les modifier par la suite au moyen des contrôles dont elle dispose dans la console (l’application web de Telonic qu’utilise votre équipe), et chaque modification est testée avant sa mise en production. Voir Les contrôles que détient votre équipe.
En pratique
La compagnie aérienne Rimal Air utilise un agent IA Telonic pour les passagers touchés par des retards et des annulations.
- Un vol à destination de Mascate est annulé tard dans la nuit. Tariq, qui voyage avec sa femme et sa fille, écrit à la compagnie.
- L’agent retrouve la réservation et lit les règles tarifaires dans le système de réservation. Il propose les deux vols du lendemain matin que le tarif autorise. Tariq en choisit un et il est réacheminé.
- Tariq demande davantage qu’un bon repas. L’agent émet trois bons au plafond prévu par la politique, le maximum qu’il puisse émettre.
- Il demande le remboursement en espèces de la totalité du billet. Les règles tarifaires ne le permettent pas, et l’agent ne dispose d’aucune action capable d’effectuer un tel remboursement. Il le lui dit clairement, et confie la demande à l’équipe de permanence avec une synthèse.
- L’équipe de permanence approuve un avoir à titre de geste commercial, une décision qui relève d’elle. La trace d’audit montre chaque action, la valeur et la règle qui l’a autorisée ou empêchée.
Ce que votre équipe contrôle
- Les actions que l’agent peut effectuer dans chaque système, et les valeurs que chacune accepte.
- Les actions qui attendent l’approbation d’une personne, et qui les approuve.
- Les sujets que l’agent n’aborde jamais.
- Ce qui se passe lorsqu’une demande sort des limites : qui la reçoit, et sur quel canal.