Integraciones
Mistral AI
Cómo pueden usarse los modelos de lenguaje de Mistral AI, incluidos sus modelos de pesos abiertos, en su despliegue, dónde se ejecutan y qué se les permite ver.
En esta página
Los modelos de Mistral AI figuran entre los modelos de lenguaje que Telonic puede usar en su despliegue. El modelo de lenguaje (el componente de IA que interpreta la conversación y redacta la respuesta) entiende lo que pide el cliente y decide la respuesta, dentro de los límites del agente de IA. El modelo se elige para cada despliegue, junto con usted, y puede cambiarse más adelante. Qué proveedores y modelos están disponibles en su región se confirma durante la implementación y se indica en su contrato.
Lo que hace el modelo en su despliegue
| Tarea | Lo que significa para usted | Ejemplo |
|---|---|---|
| Entender la solicitud | Determina lo que quiere el asegurado y extrae los datos relevantes | Se entiende que una persona que llama y describe una tubería rota está notificando un nuevo siniestro de hogar |
| Decidir la respuesta, dentro de los límites | Elige qué decir y qué hacer entre las acciones que su equipo permite | Explica el deducible de la póliza, pero no se pronuncia sobre si el siniestro se pagará |
| Expresar los datos de sus sistemas | Decide la redacción y el orden. Las cifras, como importes y fechas, se insertan directamente desde el registro del sistema | El deducible se lee exactamente como figura en el registro de la póliza |
| Preguntar cuando algo no está claro | Hace una pregunta en lugar de suponer | «¿El agua salía de su propio apartamento o del de arriba?» |
Cómo se conecta
Todo el procesamiento de su despliegue se realiza en la región que usted elija, salvo que elija expresamente un proveedor de modelos de lenguaje fuera de ella. En ese caso, los datos personales se sustituyen por marcadores de posición antes de que cualquier texto salga de su despliegue, y los valores reales se restituyen en la respuesta dentro de su despliegue.
El contrato de Telonic con cada proveedor prohíbe usar sus datos para entrenar o mejorar sus modelos, y se aplican acuerdos de conservación cero de datos (el proveedor no guarda ninguna copia de lo que procesa) siempre que el proveedor los ofrezca. Un modelo nuevo solo se adopta cuando obtiene al menos los mismos resultados en el conjunto de pruebas de su sector, y cualquier cambio de modelo o de proveedor requiere la aprobación de su organización antes de publicarse. Si un proveedor sufre una interrupción, la conmutación por error solo cambia a otro proveedor aprobado en la región que usted eligió, probado de antemano y configurado durante la implementación.
Ejecución en sus propias instalaciones
Mistral AI ofrece algunos de sus modelos como modelos de pesos abiertos (modelos cuyos archivos se publican para que otros los ejecuten en su propia infraestructura). Como los archivos del modelo están publicados, estos modelos pueden ejecutarse en sus propias instalaciones, en hardware que usted controla. Los despliegues en las instalaciones del cliente ejecutan modelos de lenguaje de pesos abiertos y modelos de voz autoalojados, y la capacidad de cómputo que necesitan se dimensiona con usted durante la implementación.
Lo que puede ver el modelo
| Acceso | Necesario para | Por defecto |
|---|---|---|
| La conversación, los datos obtenidos para la respuesta y las instrucciones del agente | Redactar cada respuesta | Se proporciona para cada respuesta |
| Datos personales, cuando el modelo se ejecuta fuera de su región | No es necesario | Se sustituyen por marcadores de posición antes de que el texto salga de su despliegue |
| Acceso directo a sus sistemas | No es necesario | No se concede. Las consultas y acciones se realizan a través del software de Telonic, dentro de los permisos que su equipo ha concedido |
| Sus datos, para entrenar los modelos del proveedor | No está permitido | Prohibido por contrato |
Sea cual sea el modelo que elija, el agente solo puede realizar las acciones que su equipo ha autorizado. Consulte Las políticas como límites.
En la práctica
Una aseguradora saudí exige que todos los sistemas que gestionan conversaciones con los asegurados se ejecuten en su propio centro de datos.
- Telonic y el equipo de infraestructura de la aseguradora dimensionan la capacidad de cómputo para un despliegue en sus instalaciones.
- Se elige un modelo de pesos abiertos de Mistral, que se ejecuta en el hardware propio de la aseguradora junto con modelos de voz autoalojados.
- El modelo se prueba con las conversaciones de siniestros de la aseguradora antes de que el agente de IA empiece a atender a clientes reales.
- A Telonic solo se envían señales operativas de estado, sin datos de clientes, y la aseguradora puede desactivarlas.
Relacionado
- Modelos de lenguajeIntegraciones
- Modelos y proveedoresAgentes
- Alojamiento y residencia de los datosSeguridad y protección de datos
- Enmascaramiento de datos personalesSeguridad y protección de datos
- Pruebas antes de cada versiónGobernanza y control
Los nombres y logotipos de productos son marcas comerciales de sus respectivos titulares. Su mención indica sistemas con los que Telonic se conecta y no implica asociación ni respaldo.