Uso responsable de la IA

Cuando un agente de IA habla en nombre de su empresa, sus clientes deberían poder confiar en lo que dice, saber con qué están tratando y hablar con una persona cuando lo deseen. Sus equipos de riesgos y cumplimiento deberían poder ver por qué hizo lo que hizo. Siempre que puede, Telonic incorpora estos compromisos a la estructura del agente, por ejemplo en qué acciones se conectan a él, y prueba el resto antes de cada versión. Esta página expone cada compromiso, cómo funciona y lo que controla su equipo.

El agente dice lo que es

El agente informa a los clientes de que es un agente de IA y les ofrece hablar con una persona. Un cliente que pide hablar con alguien pasa a su equipo según las reglas de traspaso que usted defina, junto con la conversación mantenida hasta ese momento, para que no tenga que volver a empezar. Un cliente que sabe con qué está hablando, y ha obtenido su respuesta, está mucho mejor atendido que uno que más tarde se siente engañado.

Las respuestas proceden de sus fuentes aprobadas

Todo lo que pueda generar una obligación para usted se toma de sus sistemas y documentos aprobados, en lugar de que lo genere el modelo de lenguaje (el componente de IA que interpreta la conversación y redacta la respuesta). Los precios, las condiciones de las pólizas, los derechos, las fechas y los compromisos se obtienen de sus sistemas y documentos aprobados durante la conversación, y los importes y las fechas se insertan directamente desde el registro de su sistema, sin que el modelo los vuelva a escribir. Si la información no figura en sus fuentes, el agente lo dice y ofrece hablar con una persona.

El modelo de lenguaje decide cómo se expresa la información obtenida: la redacción, el orden y si conviene hacer primero una pregunta aclaratoria. Los temas que usted deja fuera del alcance, como el asesoramiento jurídico o de inversión, se rechazan y se derivan a una persona, también cuando una pregunta se reformula. El alcance se prueba antes de cada versión. Consulte Cómo funciona un agente.

Las decisiones que corresponden a personas siguen en manos de su equipo

Algunas decisiones siguen en manos de su personal en todos los despliegues. En seguros, el agente no evalúa la responsabilidad, no fija el importe de una indemnización ni aprueba o rechaza un siniestro. Las acciones que tomarían esas decisiones no se conectan en absoluto al agente, por lo que no tiene forma de tomarlas, formule el cliente la solicitud como la formule.

Cuando el agente puede actuar, lo hace dentro de los valores que permiten las reglas de usted. Las acciones que usted marca como sensibles las prepara el agente y quedan retenidas hasta que una persona de su equipo las aprueba. Consulte Límites de decisión.

Las personas supervisan el trabajo del agente

Su equipo define cuándo el agente traspasa una conversación a una persona. El escalamiento combina reglas definidas para cada tipo de pregunta con un umbral de confianza (una medida de lo seguro que está el modelo de una respuesta), medido para el modelo antes del despliegue, por debajo del cual una respuesta con consecuencias pasa a una persona. La persona que toma el relevo recibe un resumen de la conversación, para que el cliente no tenga que repetirse. Consulte Supervisión humana en la práctica y Reglas de escalamiento.

Clientes que pueden estar en situación vulnerable

La derivación de clientes en situación vulnerable se configura durante la implementación. El agente reconoce señales de que un cliente puede estar en situación vulnerable o angustiado, como una mención de un duelo, una enfermedad grave o dificultades económicas, y lo deriva a una persona junto con la conversación completa. Su equipo decide qué señales activan el traspaso y quién lo recibe.

Todos los clientes reciben respuestas con el mismo estándar

La respuesta que recibe un cliente no debería depender de la hora del día, del canal ni de quién atendiera en ese momento. El agente responde a todos los clientes a partir de las mismas fuentes, con las mismas reglas, en árabe, en inglés y en cualquier otro idioma en el que trabaje. La elegibilidad, los precios y los derechos proceden de sus sistemas y sus reglas, no del juicio del agente sobre el cliente, de modo que los hechos y las reglas que se aplican no dependen de quién pregunte ni de cuándo.

Pruebas antes de cada versión

Antes de cada versión, y antes de que cualquier cambio entre en producción, el agente se prueba con conversaciones extraídas de su sector, puntuadas según lo que significa un resultado correcto en ese sector. Las pruebas incluyen las solicitudes que deben rechazarse o traspasarse, además de las que el agente debe gestionar. Un modelo nuevo solo se adopta cuando obtiene en esas pruebas resultados al menos tan buenos como los del modelo al que sustituye. Consulte Pruebas antes de cada versión.

Cada acción puede explicarse

Cada solicitud, consulta, decisión y traspaso queda registrado, con las fuentes utilizadas, la regla o el desencadenante que se aplicó y el motivo declarado por el agente. Cuando un cliente, los auditores de usted o un regulador preguntan qué hizo el agente y por qué, usted puede mostrárselo. Consulte Registro de auditoría y registros de decisiones.

Los datos de sus clientes

Los datos de sus clientes se utilizan únicamente para prestar el servicio de usted. Los contratos con todos los proveedores de modelos prohíben que estos utilicen los datos de usted para entrenar o mejorar sus modelos, y se aplican acuerdos de conservación cero de los datos siempre que un proveedor los ofrece.

Los datos personales se enmascaran antes de que los datos salgan de su despliegue hacia un destino distinto de sus propios sistemas y sus propios clientes. Todo el procesamiento se realiza en la región que usted elija, salvo que elija expresamente un proveedor de modelo de lenguaje de fuera de ella. Consulte Enmascaramiento de datos personales.

Cuando un cliente no está de acuerdo con un resultado

Un cliente puede pedir hablar con una persona en cualquier momento de una conversación. Como las decisiones que le afectan las toman las reglas y el personal de su organización, un cliente que no está de acuerdo con un resultado lo plantea a través del proceso de reclamaciones y revisión propio de su organización, como haría hoy. Su equipo dispone de la conversación completa, las fuentes utilizadas y el motivo declarado por el agente para revisarlo.

Principios en los Emiratos Árabes Unidos y Arabia Saudí

Organismos gubernamentales de los Emiratos Árabes Unidos y de Arabia Saudí han publicado principios para el uso ético de la IA, que abarcan aspectos como la transparencia, la rendición de cuentas, la equidad y la supervisión humana. Esta página describe cómo funciona el producto, para que sus propios equipos puedan evaluarlo con respecto a esos principios y a cualquier política propia.

En la práctica

Wadi Assurance, una aseguradora, despliega un agente en su línea de siniestros.

1. Una asegurada, Huda, llama por el siniestro de automóvil de su difunto marido. El agente se presenta como el agente de IA de Wadi Assurance y le dice que puede pedir hablar con una persona.
2. Pregunta por el estado del siniestro. El agente se lo indica a partir del sistema de siniestros, junto con el nombre del perito que lo tramita.
3. Menciona la muerte de su marido. Se activa la señal de vulnerabilidad que configuró la aseguradora, y el agente la deriva a un tramitador sénior junto con la conversación completa.
4. El tramitador sénior toma el relevo sin pedir a Huda que repita nada.
5. Semanas después, el equipo de cumplimiento revisa la conversación. El registro de auditoría muestra la fuente del estado, la señal que activó el traspaso y la hora en que se produjo.

Lo que controla su equipo

• Las fuentes a partir de las cuales responde el agente y los temas que rechaza.
• Las decisiones que siguen en manos de su equipo y las acciones que requieren aprobación.
• Las reglas de escalamiento y las señales que derivan a un cliente a una persona.
• Quién recibe cada traspaso.

Relacionado

• Límites de decisiónGobernanza y control
• Supervisión humana en la prácticaGobernanza y control
• Registro de auditoría y registros de decisionesGobernanza y control
• Cómo funciona un agenteAgentes
• Reglas de escalamientoGobernanza y control