Utilisation responsable de l’IA

Lorsqu’un agent IA s’exprime au nom de votre entreprise, vos clients devraient pouvoir se fier à ce qu’il dit, savoir à quoi ils ont affaire et joindre une personne lorsqu’ils le souhaitent. Vos équipes risques et conformité devraient pouvoir comprendre pourquoi il a agi comme il l’a fait. Lorsque c’est possible, Telonic intègre ces engagements à la structure même de l’agent, par exemple dans le choix des actions qui lui sont connectées, et teste les autres avant chaque nouvelle version. Cette page présente chacun de ces engagements, son fonctionnement et ce que votre équipe contrôle.

L’agent indique qu’il est un agent IA

L’agent indique aux clients qu’il est un agent IA et leur propose de parler à une personne. Un client qui demande à parler à quelqu’un est confié à votre équipe selon les règles de passage de relais que vous avez fixées, avec la conversation telle qu’elle s’est déroulée jusque-là, pour qu’il n’ait pas à tout recommencer. Un client qui sait à quoi il a affaire, et qui a obtenu sa réponse, est bien mieux servi qu’un client qui se sent trompé par la suite.

Les réponses proviennent des sources que vous avez approuvées

Tout ce qui pourrait créer une obligation pour vous est tiré de vos systèmes et de vos documents approuvés, et non généré par le modèle de langage (le composant d’IA qui interprète la conversation et rédige la réponse). Les prix, les conditions des contrats, les droits, les dates et les engagements sont récupérés dans vos systèmes et vos documents approuvés au cours de la conversation, et les montants et les dates sont insérés directement depuis la fiche de votre système, au lieu d’être ressaisis par le modèle. Si l’information ne figure pas dans vos sources, l’agent le dit et propose de parler à une personne.

Le modèle de langage décide de la manière dont l’information récupérée est exprimée : la formulation, l’ordre et l’opportunité de poser d’abord une question de clarification. Les sujets que vous placez hors périmètre, comme les conseils juridiques ou en investissement, sont déclinés et orientés vers une personne, y compris lorsqu’une question est reformulée. Le périmètre est testé avant chaque nouvelle version. Voir Comment fonctionne un agent IA.

Les décisions qui reviennent à des personnes restent entre les mains de votre équipe

Dans tout déploiement, certaines décisions restent entre les mains de vos équipes. Dans l’assurance, l’agent n’évalue pas la responsabilité, ne fixe pas le montant de l’indemnisation et n’accepte ni ne refuse la prise en charge d’un sinistre. Les actions qui permettraient de prendre ces décisions ne sont pas du tout connectées à l’agent : il n’a donc aucun moyen de les prendre, quelle que soit la façon dont un client formule sa demande.

Lorsque l’agent peut agir, il le fait dans les limites des valeurs que vos règles autorisent. Les actions que vous désignez comme sensibles sont préparées par l’agent et mises en attente jusqu’à ce qu’une personne de votre équipe les approuve. Voir Limites de décision.

Des personnes supervisent le travail de l’agent

Votre équipe détermine à quel moment l’agent confie une conversation à une personne. L’escalade combine des règles définies pour chaque type de question et un seuil de confiance (une mesure du degré de certitude du modèle quant à une réponse), mesuré pour le modèle avant le déploiement, en dessous duquel une réponse aux conséquences importantes est transmise à une personne. La personne qui prend le relais reçoit une synthèse de la conversation, de sorte que le client n’a pas à se répéter. Voir La supervision humaine en pratique et Règles d’escalade.

Clients susceptibles d’être en situation de vulnérabilité

L’orientation des clients en situation de vulnérabilité est configurée lors de la mise en œuvre. L’agent reconnaît les signaux indiquant qu’un client peut être en situation de vulnérabilité ou de détresse, comme la mention d’un deuil, d’une maladie grave ou de difficultés financières, et l’oriente vers une personne avec l’intégralité de la conversation. Votre équipe décide quels signaux déclenchent le passage de relais et qui le reçoit.

Le même niveau d’exigence pour chaque client

La réponse apportée à un client ne devrait dépendre ni de l’heure, ni du canal, ni de la personne qui a décroché. L’agent répond à chaque client à partir des mêmes sources, selon les mêmes règles, en arabe, en anglais et dans toutes les autres langues dans lesquelles il travaille. L’éligibilité, les prix et les droits proviennent de vos systèmes et de vos règles, et non de l’appréciation que l’agent porte sur le client : les faits et les règles appliqués ne dépendent donc ni de la personne qui demande, ni du moment.

Tests avant mise en production

Avant le lancement, et avant que toute modification ne soit mise en production, l’agent est testé sur des conversations issues de votre secteur, et noté au regard de ce qu’est un résultat correct dans ce secteur. Les tests portent aussi bien sur les demandes qui devraient être déclinées ou confiées à une personne que sur celles que l’agent devrait traiter. Un nouveau modèle n’est adopté que s’il obtient sur ces tests des résultats au moins aussi bons que celui qu’il remplace. Voir Tests avant chaque nouvelle version.

Chaque action peut être expliquée

Chaque demande, consultation, décision et passage de relais est journalisé, avec les sources utilisées, la règle ou le déclencheur qui s’est appliqué, et le motif indiqué par l’agent. Lorsqu’un client, vos auditeurs ou une autorité de régulation demandent ce que l’agent a fait et pourquoi, vous pouvez le leur montrer. Voir Piste d’audit et traces de décision.

Les données de vos clients

Les données de vos clients ne sont utilisées que pour vous fournir le service. Les contrats conclus avec chaque fournisseur de modèles interdisent à celui-ci d’utiliser vos données pour entraîner ou améliorer ses modèles, et des dispositifs de non-conservation des données (zero data retention) sont utilisés partout où un fournisseur les propose.

Les données personnelles sont masquées avant que des données ne quittent votre déploiement pour une destination autre que vos propres systèmes et vos propres clients. L’ensemble des traitements s’effectue dans la région que vous choisissez, sauf si vous choisissez explicitement un fournisseur de modèles de langage situé en dehors de celle-ci. Voir Masquage des données personnelles.

Lorsqu’un client n’est pas d’accord avec un résultat

Un client peut demander à parler à une personne à tout moment de la conversation. Comme les décisions qui le concernent sont prises selon vos règles et par vos équipes, un client en désaccord avec un résultat le fait savoir par votre propre processus de réclamation et de réexamen, comme il le ferait aujourd’hui. Pour réexaminer le résultat, votre équipe dispose de l’intégralité de la conversation, des sources utilisées et du motif indiqué par l’agent.

Principes aux Émirats arabes unis et en Arabie saoudite

Des organismes publics des Émirats arabes unis et d’Arabie saoudite ont publié des principes pour une utilisation éthique de l’IA, qui portent sur des thèmes comme la transparence, la responsabilité, l’équité et la supervision humaine. Cette page décrit le fonctionnement du produit, afin que vos propres équipes puissent l’évaluer au regard de ces principes et de toute politique qui vous est propre.

En pratique

L’assureur Wadi Assurance déploie un agent IA sur sa ligne dédiée aux sinistres.

1. Une assurée, Huda, appelle au sujet du sinistre automobile de son défunt mari. L’agent se présente comme l’agent IA de Wadi Assurance et lui indique qu’elle peut demander à parler à une personne.
2. Elle demande où en est le sinistre. L’agent le lui indique à partir du système de gestion des sinistres, avec le nom de l’expert chargé du dossier.
3. Elle mentionne le décès de son mari. Le signal de vulnérabilité configuré par l’assureur se déclenche, et l’agent l’oriente vers un gestionnaire sinistres senior avec l’intégralité de la conversation.
4. Le gestionnaire senior prend le relais sans demander à Huda de répéter quoi que ce soit.
5. Quelques semaines plus tard, l’équipe conformité examine la conversation. Le journal montre la source de l’information sur l’état du sinistre, le signal qui a déclenché le passage de relais et l’heure à laquelle il a eu lieu.

Ce que votre équipe contrôle

• Les sources à partir desquelles l’agent répond, et les sujets qu’il décline.
• Les décisions qui restent entre les mains de votre équipe, et les actions qui nécessitent une approbation.
• Les règles d’escalade, et les signaux qui orientent un client vers une personne.
• Les destinataires de chaque passage de relais.

Voir aussi

• Limites de décisionGouvernance et contrôle
• La supervision humaine en pratiqueGouvernance et contrôle
• Piste d’audit et traces de décisionGouvernance et contrôle
• Comment fonctionne un agent IAAgents IA
• Règles d’escaladeGouvernance et contrôle