Intégrations
Meta (modèles Llama)
Comment les modèles de langage à poids ouverts Llama de Meta peuvent être utilisés dans votre déploiement, y compris dans vos propres locaux, et ce qu’ils sont autorisés à voir.
Sur cette page
Les modèles Llama de Meta font partie des modèles de langage que Telonic peut utiliser dans votre déploiement. Le modèle de langage (le composant d’IA qui interprète la conversation et rédige la réponse) comprend ce que demande le client et décide de la réponse, dans les limites de l’agent IA. Le modèle est choisi avec vous pour chaque déploiement et peut être changé par la suite. Les fournisseurs et les modèles disponibles dans votre région sont confirmés lors de la mise en œuvre et désignés dans votre contrat.
Rôle du modèle dans votre déploiement
| Tâche | Ce que cela signifie pour vous | Exemple |
|---|---|---|
| Comprendre la demande | Détermine ce que souhaite l’acquéreur ou le résident et relève les détails qui comptent | Le modèle comprend qu’un acquéreur qui parle du « prochain paiement » désigne sa prochaine échéance |
| Décider de la réponse, dans les limites fixées | Choisit ce qu’il dit et fait parmi les actions que votre équipe autorise | Explique le plan de paiement du logement, mais ne peut pas proposer un plan qui ne figure pas parmi les structures que vous autorisez |
| Formuler les informations issues de vos systèmes | Décide de la formulation et de l’ordre. Les chiffres, comme les montants et les dates, sont insérés directement depuis la fiche du système | Le montant et la date de l’échéance, repris exactement tels que les indique votre CRM (le système qui contient les fiches de vos clients) |
| Demander quand un point n’est pas clair | Pose une question en retour plutôt que de deviner | « S’agit-il de l’appartement de la tour A ou de la maison de ville ? » |
Mode de connexion
L’ensemble des traitements de votre déploiement s’effectue dans la région que vous choisissez, sauf si vous choisissez explicitement un fournisseur de modèles de langage situé en dehors de celle-ci. Dans ce cas, les données personnelles sont remplacées par des marqueurs de substitution avant que le moindre texte ne quitte votre déploiement, et les valeurs réelles sont rétablies dans la réponse, à l’intérieur de votre déploiement.
Le contrat de Telonic avec chaque fournisseur interdit d’utiliser vos données pour entraîner ou améliorer les modèles de ce fournisseur, et des dispositifs de non-conservation des données (zero data retention : le fournisseur ne conserve aucune copie de ce qu’il traite) sont appliqués chaque fois que le fournisseur les propose. Un nouveau modèle n’est adopté que s’il obtient des résultats au moins aussi bons sur le jeu de tests de votre secteur, et tout changement de modèle ou de fournisseur nécessite l’approbation de votre organisation avant sa mise en production. En cas de panne d’un fournisseur, le basculement ne s’effectue que vers un autre fournisseur approuvé situé dans la région que vous avez choisie, testé à l’avance et configuré lors de la mise en œuvre.
Exécution dans vos propres locaux
Meta publie ses modèles Llama sous forme de modèles à poids ouverts (des modèles dont les fichiers sont mis à disposition pour que d’autres puissent les exécuter sur leur propre infrastructure). Les fichiers des modèles étant publiés, ces modèles peuvent s’exécuter dans vos propres locaux, sur du matériel que vous contrôlez. Les déploiements sur site exécutent des modèles de langage à poids ouverts et des modèles vocaux auto-hébergés, et la capacité de calcul dont ils ont besoin est dimensionnée avec vous lors de la mise en œuvre.
Ce que le modèle peut voir
| Accès | Nécessaire pour | Par défaut |
|---|---|---|
| La conversation, les informations récupérées pour la réponse et les instructions de l’agent | Rédiger chaque réponse | Fourni pour chaque réponse |
| Les données personnelles, lorsque le modèle s’exécute en dehors de votre région | Non nécessaire | Remplacées par des marqueurs de substitution avant que le texte ne quitte votre déploiement |
| Un accès direct à vos systèmes | Non nécessaire | Non fourni. Les consultations et les actions passent par le logiciel de Telonic, dans les limites des autorisations que votre équipe a accordées |
| Vos données, pour entraîner les modèles du fournisseur | Non autorisé | Interdit par contrat |
Quel que soit le modèle que vous choisissez, l’agent ne peut effectuer que les actions que votre équipe lui a accordées. Voir Les politiques comme limites.
En pratique
Le promoteur Sahel Crest Properties, basé à Dubaï, applique une politique selon laquelle les conversations avec ses clients ne sont traitées que dans son propre centre de données.
- Telonic et l’équipe infrastructure du promoteur dimensionnent la capacité de calcul d’un déploiement sur site, et un modèle Llama est choisi pour s’exécuter sur le propre matériel du promoteur.
- Le modèle est testé sur les conversations du promoteur liées aux ventes et aux livraisons avant que l’agent ne prenne en charge de vrais clients.
- Lorsque Hind pose une question sur sa prochaine échéance, le modèle décide de la façon d’y répondre, et le montant et la date de l’échéance sont insérés directement depuis le CRM du promoteur.
- Un modèle Llama plus récent est ensuite testé sur les mêmes conversations et n’est mis en production qu’après l’approbation du changement par le promoteur.
Voir aussi
- Modèles de langageIntégrations
- Modèles et fournisseursAgents IA
- Hébergement et résidence des donnéesSécurité et protection des données
- Masquage des données personnellesSécurité et protection des données
- Tests avant chaque nouvelle versionGouvernance et contrôle
Les noms et logos de produits sont des marques de leurs propriétaires respectifs. Leur mention indique les systèmes auxquels Telonic se connecte et n’implique ni partenariat ni approbation.