Agentes
Las políticas como límites
Por qué sus reglas se aplican mediante lo que el agente de IA es capaz de hacer y no mediante instrucciones que se le pide que siga, las seis formas en que una regla se convierte en un límite y qué se comprueba en lugar de eliminarse.
En esta página
Toda organización tiene reglas sobre lo que se puede ofrecer a un cliente: estructuras de precios, límites de aprobación, cargos, derechos, lo que nunca se hace. En muchos sistemas de IA, esas reglas se redactan como instrucciones en el texto que lee el modelo, lo que significa que dependen de que el modelo las siga. Telonic integra sus reglas en lo que el agente de IA es capaz de hacer: si su política limita un vale de comida a AED 75, el agente no tiene forma de emitir uno por un importe mayor, se formule como se formule la solicitud. Esto es lo que hace razonable permitir que un agente actúe en su nombre.
Una regla como instrucción y una regla como límite
Una regla redactada como instrucción es algo que se pide al modelo que siga. Normalmente lo hace. Pero un modelo genera su respuesta a partir de todo lo que hay en la conversación, y una solicitud persuasiva, inusual o hábilmente formulada puede llevarlo a escribir algo que la instrucción no permitía. Si la acción que invoca a continuación acepta cualquier valor, nada lo impide.
Una regla construida como límite funciona de otra manera. El agente elige entre un conjunto definido de acciones, y cada acción acepta solo los valores que permite la política de su organización. Un valor fuera del conjunto no está disponible para elegirlo. El cliente puede cambiar cómo formula el agente su respuesta, pero no lo que es capaz de hacer.
| Una regla como instrucción | Una regla como límite | |
|---|---|---|
| Dónde reside la regla | En el texto que lee el modelo | En las acciones y los valores que puede utilizar el agente |
| Qué decide el resultado | Si el modelo sigue el texto | Si la acción y el valor están en el conjunto permitido |
| Qué puede cambiar la reformulación de una solicitud | Potencialmente, el resultado | Solo la redacción de la respuesta |
| Cómo se comprueba | Probando muchas formulaciones, sin poder cubrirlas todas | Leyendo el conjunto permitido y probándolo |
| Qué muestra el registro | Lo que escribió el modelo | La acción, el valor y la regla que la permitió |
Seis formas en que una regla se convierte en un límite
Durante la implementación, su equipo y Telonic repasan una por una las reglas de su organización y deciden cómo se integra cada una en el despliegue. La mayoría de las reglas se convierten en uno o varios de los mecanismos siguientes.
| Mecanismo | Qué significa | Ejemplo |
|---|---|---|
| 1. Acciones permitidas | El agente solo puede realizar las acciones conectadas a él. Una acción que no está conectada no puede realizarse | El agente puede reprogramar una visita, pero no dispone de ninguna acción que cancele una reserva |
| 2. Valores permitidos | Cada acción acepta solo los valores que sus reglas permiten | Reprogramación solo en vuelos que permite la tarifa del pasajero. Cotizaciones solo dentro de sus reglas de tarificación |
| 3. Acciones no expuestas | Las decisiones que corresponden a las personas de su equipo no están conectadas en absoluto al agente | No existe ninguna acción para aprobar o rechazar un siniestro, ni para reembolsar fuera de la política |
| 4. Puntos de aprobación | Las acciones que usted marca como sensibles las prepara el agente y quedan retenidas hasta que una persona las aprueba | Un crédito de cortesía se prepara con el motivo y espera a un supervisor |
| 5. Valores de sus sistemas | Las condiciones se obtienen de sus sistemas, de modo que el agente no puede construir las suyas | Un plan de pagos se obtiene de sus estructuras. No existe ninguna acción que escriba uno nuevo |
| 6. Cifras del registro | Los importes y las fechas de una respuesta se insertan desde el registro del sistema, sin que el modelo los vuelva a escribir | El importe de la cuota que escucha un comprador es el importe que figura en su sistema de pagos |
El sexto cierra una brecha que los demás dejan abierta. Incluso cuando una cifra se ha obtenido correctamente, un modelo que la vuelve a escribir dentro de una frase podría alterarla. En una respuesta de Telonic, el modelo de lenguaje (el componente de IA que redacta la respuesta) escribe la frase, y la cifra en sí se inserta desde el registro.
El detalle técnico
Cada conexión con sus sistemas expone un conjunto definido de acciones a través de una API (la interfaz que utiliza un sistema para solicitar información o acciones a otro). Cada acción tiene su propio permiso, fijado con su equipo de TI, y sus propios valores permitidos. El acceso de lectura y el acceso de escritura se conceden por separado. Consulte Permisos.
Estos límites se aplican en el software de Telonic, fuera del modelo de lenguaje: el modelo puede proponer una acción, pero la acción solo se ejecuta si tanto ella como sus valores están en el conjunto permitido. Una acción fuera del conjunto no se ejecuta, y la conversación sigue la regla de escalamiento que usted haya fijado para ese caso. Cada acción, sus valores y la regla que se aplicó quedan registrados. Consulte Registro de auditoría y registros de decisiones.
Un límite se aplica exactamente tal como está fijado. Por eso, la revisión de sus límites durante la implementación, y la de cada cambio posterior, es tan importante como los propios límites. Consulte Cómo entran en producción los cambios.
Qué se comprueba en lugar de eliminarse
Algunas reglas se refieren a lo que dice el agente y no a lo que hace. Los temas de los que no habla, como el asesoramiento jurídico o de inversión, se hacen cumplir mediante una comprobación en cada turno de la conversación. Una pregunta sobre un tema fuera del alcance se rechaza y se dirige a una persona, también cuando se reformula.
Se trata de una comprobación, no de una eliminación en la arquitectura, y así la describimos. En principio, el modelo de lenguaje podría producir texto sobre cualquier tema, por lo que el alcance temático se hace cumplir comprobando cada turno y se prueba antes de cada versión, con versiones reformuladas e indirectas de las preguntas que usted ha dejado fuera del alcance. Consulte Pruebas antes de cada versión.
El tono y la redacción se moldean de la misma forma: mediante el diseño de cada conversación y mediante comprobaciones posteriores. Cada conversación se puntúa según el estándar de calidad de su organización, y las conversaciones pueden comprobarse con las reglas de cumplimiento que fije su equipo, según se configure durante la implementación. Consulte Revisión de calidad de cada conversación y Señalización de incumplimientos.
| Lo que hace el agente | Cómo se hace cumplir |
|---|---|
| Realiza una acción en sus sistemas | Límite: solo existen las acciones permitidas |
| Utiliza un valor, como un importe o una fecha, en una acción | Límite: solo se aceptan los valores permitidos |
| Indica una cifra de sus sistemas | Límite: la cifra se inserta desde el registro |
| Toma una decisión que corresponde a su equipo | Límite: la acción no está expuesta |
| Habla de un tema | Comprobación en cada turno, probada antes de cada versión |
| Elige su tono y su redacción | Diseño de la conversación, revisado en cada conversación |
De dónde proceden sus reglas
Muchas de sus reglas ya residen en sus sistemas. Las reglas tarifarias están en el sistema de reservas, las estructuras de pago en el sistema de gestión inmobiliaria y las reglas de tarificación en el sistema de administración de pólizas. Cuando es así, el agente las lee de allí, de modo que el límite se mantiene actualizado cuando cambia su sistema.
Las reglas que residen en documentos de políticas, como el límite de un vale o un umbral para gestos de cortesía, se fijan en su despliegue durante la implementación. Su equipo puede modificarlas después mediante los controles que conserva en la consola (la aplicación web de Telonic que utiliza su equipo), y cada cambio se prueba antes de entrar en producción. Consulte Los controles que conserva su equipo.
En la práctica
Rimal Air, una aerolínea, utiliza un agente de Telonic para los pasajeros afectados por retrasos y cancelaciones.
- Un vuelo a Mascate se cancela a última hora de la noche. Tariq, que viaja con su esposa y su hija, escribe a la aerolínea.
- El agente localiza la reserva y lee las reglas tarifarias en el sistema de reservas. Le ofrece los dos vuelos de la mañana siguiente que permite la tarifa. Tariq elige uno y se reprograma su reserva.
- Tariq pide algo más que un vale de comida. El agente emite tres vales por el límite de la política, el máximo que puede emitir.
- Pide el reembolso en efectivo de todo el billete. Las reglas tarifarias no lo permiten, y el agente no dispone de ninguna acción que pueda emitirlo. Se lo dice con claridad y traspasa la solicitud al equipo de guardia con un resumen.
- El equipo de guardia aprueba un crédito de cortesía, una decisión que le corresponde. El registro de auditoría muestra cada acción, el valor y la regla que la permitió o la impidió.
Lo que controla su equipo
- Las acciones que el agente puede realizar en cada sistema y los valores que acepta cada una.
- Qué acciones esperan la aprobación de una persona y quién las aprueba.
- Los temas de los que el agente nunca habla.
- Lo que ocurre cuando una solicitud queda fuera de los límites: quién la recibe y por qué canal.