Integraciones
Meta (modelos Llama)
Cómo pueden usarse los modelos de lenguaje de pesos abiertos Llama de Meta en su despliegue, incluso en sus propias instalaciones, y qué se les permite ver.
En esta página
Los modelos Llama de Meta figuran entre los modelos de lenguaje que Telonic puede usar en su despliegue. El modelo de lenguaje (el componente de IA que interpreta la conversación y redacta la respuesta) entiende lo que pide el cliente y decide la respuesta, dentro de los límites del agente de IA. El modelo se elige para cada despliegue, junto con usted, y puede cambiarse más adelante. Qué proveedores y modelos están disponibles en su región se confirma durante la implementación y se indica en su contrato.
Lo que hace el modelo en su despliegue
| Tarea | Lo que significa para usted | Ejemplo |
|---|---|---|
| Entender la solicitud | Determina lo que quiere el comprador o el residente y extrae los datos relevantes | Se entiende que un comprador que pregunta por «el próximo pago» se refiere a su próxima cuota |
| Decidir la respuesta, dentro de los límites | Elige qué decir y qué hacer entre las acciones que su equipo permite | Explica el plan de pagos de la unidad, pero no puede ofrecer un plan que no esté entre las estructuras que usted permite |
| Expresar los datos de sus sistemas | Decide la redacción y el orden. Las cifras, como importes y fechas, se insertan directamente desde el registro del sistema | El importe y la fecha de vencimiento de la cuota se leen exactamente como figuran en su CRM (el sistema que contiene los registros de sus clientes) |
| Preguntar cuando algo no está claro | Hace una pregunta en lugar de suponer | «¿Se refiere al apartamento de la Torre A o a la casa adosada?» |
Cómo se conecta
Todo el procesamiento de su despliegue se realiza en la región que usted elija, salvo que elija expresamente un proveedor de modelos de lenguaje fuera de ella. En ese caso, los datos personales se sustituyen por marcadores de posición antes de que cualquier texto salga de su despliegue, y los valores reales se restituyen en la respuesta dentro de su despliegue.
El contrato de Telonic con cada proveedor prohíbe usar sus datos para entrenar o mejorar sus modelos, y se aplican acuerdos de conservación cero de datos (el proveedor no guarda ninguna copia de lo que procesa) siempre que el proveedor los ofrezca. Un modelo nuevo solo se adopta cuando obtiene al menos los mismos resultados en el conjunto de pruebas de su sector, y cualquier cambio de modelo o de proveedor requiere la aprobación de su organización antes de publicarse. Si un proveedor sufre una interrupción, la conmutación por error solo cambia a otro proveedor aprobado en la región que usted eligió, probado de antemano y configurado durante la implementación.
Ejecución en sus propias instalaciones
Meta publica sus modelos Llama como modelos de pesos abiertos (modelos cuyos archivos se publican para que otros los ejecuten en su propia infraestructura). Como los archivos del modelo están publicados, estos modelos pueden ejecutarse en sus propias instalaciones, en hardware que usted controla. Los despliegues en las instalaciones del cliente ejecutan modelos de lenguaje de pesos abiertos y modelos de voz autoalojados, y la capacidad de cómputo que necesitan se dimensiona con usted durante la implementación.
Lo que puede ver el modelo
| Acceso | Necesario para | Por defecto |
|---|---|---|
| La conversación, los datos obtenidos para la respuesta y las instrucciones del agente | Redactar cada respuesta | Se proporciona para cada respuesta |
| Datos personales, cuando el modelo se ejecuta fuera de su región | No es necesario | Se sustituyen por marcadores de posición antes de que el texto salga de su despliegue |
| Acceso directo a sus sistemas | No es necesario | No se concede. Las consultas y acciones se realizan a través del software de Telonic, dentro de los permisos que su equipo ha concedido |
| Sus datos, para entrenar los modelos del proveedor | No está permitido | Prohibido por contrato |
Sea cual sea el modelo que elija, el agente solo puede realizar las acciones que su equipo ha autorizado. Consulte Las políticas como límites.
En la práctica
Sahel Crest Properties, una promotora de Dubái, tiene como política que las conversaciones con los clientes se procesen únicamente en su propio centro de datos.
- Telonic y el equipo de infraestructura de la promotora dimensionan la capacidad de cómputo para un despliegue en sus instalaciones, y se elige un modelo Llama que se ejecuta en el hardware propio de la promotora.
- El modelo se prueba con las conversaciones de ventas y de entrega de la promotora antes de que el agente de IA empiece a atender a clientes reales.
- Cuando Hind pregunta por su próxima cuota, el modelo decide cómo responder, y el importe y la fecha de vencimiento se insertan directamente desde el CRM de la promotora.
- Más adelante se prueba un modelo Llama más reciente con las mismas conversaciones, y solo entra en producción después de que la promotora apruebe el cambio.
Relacionado
- Modelos de lenguajeIntegraciones
- Modelos y proveedoresAgentes
- Alojamiento y residencia de los datosSeguridad y protección de datos
- Enmascaramiento de datos personalesSeguridad y protección de datos
- Pruebas antes de cada versiónGobernanza y control
Los nombres y logotipos de productos son marcas comerciales de sus respectivos titulares. Su mención indica sistemas con los que Telonic se conecta y no implica asociación ni respaldo.