Integraciones
TII (modelos Falcon)
Cómo pueden usarse los modelos de lenguaje de pesos abiertos Falcon del Technology Innovation Institute en su despliegue, incluso en sus propias instalaciones, y qué se les permite ver.
En esta página
El Technology Innovation Institute (TII), un centro de investigación de Abu Dabi, publica la familia de modelos de lenguaje Falcon, que figuran entre los modelos de lenguaje que Telonic puede usar en su despliegue. El modelo de lenguaje (el componente de IA que interpreta la conversación y redacta la respuesta) entiende lo que pide el cliente y decide la respuesta, dentro de los límites del agente de IA. El modelo se elige para cada despliegue, junto con usted, y puede cambiarse más adelante. Qué proveedores y modelos están disponibles en su región se confirma durante la implementación y se indica en su contrato.
Lo que hace el modelo en su despliegue
| Tarea | Lo que significa para usted | Ejemplo |
|---|---|---|
| Entender la solicitud | Determina lo que quiere el cliente y extrae los datos relevantes | Se entiende que un huésped que escribe en árabe y en inglés está pidiendo cambiar una fecha de llegada |
| Decidir la respuesta, dentro de los límites | Elige qué decir y qué hacer entre las acciones que su equipo permite | Ofrece solo los cambios de fecha que permite la tarifa del huésped |
| Expresar los datos de sus sistemas | Decide la redacción y el orden. Las cifras, como importes y fechas, se insertan directamente desde el registro del sistema | El nuevo total de la estancia se lee exactamente como figura en su sistema de reservas |
| Preguntar cuando algo no está claro | Hace una pregunta en lugar de suponer | «¿Se refiere a la reserva del viernes o a la del mes que viene?» |
Cómo se conecta
Todo el procesamiento de su despliegue se realiza en la región que usted elija, salvo que elija expresamente un proveedor de modelos de lenguaje fuera de ella. En ese caso, los datos personales se sustituyen por marcadores de posición antes de que cualquier texto salga de su despliegue, y los valores reales se restituyen en la respuesta dentro de su despliegue.
El contrato de Telonic con cada proveedor prohíbe usar sus datos para entrenar o mejorar sus modelos, y se aplican acuerdos de conservación cero de datos (el proveedor no guarda ninguna copia de lo que procesa) siempre que el proveedor los ofrezca. Un modelo nuevo solo se adopta cuando obtiene al menos los mismos resultados en el conjunto de pruebas de su sector, y cualquier cambio de modelo o de proveedor requiere la aprobación de su organización antes de publicarse. Si un proveedor sufre una interrupción, la conmutación por error solo cambia a otro proveedor aprobado en la región que usted eligió, probado de antemano y configurado durante la implementación.
Ejecución en sus propias instalaciones
TII publica sus modelos Falcon como modelos de pesos abiertos (modelos cuyos archivos se publican para que otros los ejecuten en su propia infraestructura). Como los archivos del modelo están publicados, estos modelos pueden ejecutarse en sus propias instalaciones, en hardware que usted controla. Los despliegues en las instalaciones del cliente ejecutan modelos de lenguaje de pesos abiertos y modelos de voz autoalojados, y la capacidad de cómputo que necesitan se dimensiona con usted durante la implementación.
Lo que puede ver el modelo
| Acceso | Necesario para | Por defecto |
|---|---|---|
| La conversación, los datos obtenidos para la respuesta y las instrucciones del agente | Redactar cada respuesta | Se proporciona para cada respuesta |
| Datos personales, cuando el modelo se ejecuta fuera de su región | No es necesario | Se sustituyen por marcadores de posición antes de que el texto salga de su despliegue |
| Acceso directo a sus sistemas | No es necesario | No se concede. Las consultas y acciones se realizan a través del software de Telonic, dentro de los permisos que su equipo ha concedido |
| Sus datos, para entrenar los modelos del proveedor | No está permitido | Prohibido por contrato |
Sea cual sea el modelo que elija, el agente solo puede realizar las acciones que su equipo ha autorizado. Consulte Las políticas como límites.
En la práctica
Qamar Stays, un grupo hotelero de los Emiratos Árabes Unidos, quiere que las conversaciones con sus huéspedes se procesen en sus propias instalaciones.
- Telonic y el equipo de infraestructura del grupo dimensionan la capacidad de cómputo para un despliegue en sus instalaciones.
- Se elige un modelo Falcon y se prueba con las conversaciones de reservas del grupo, junto con los demás modelos de pesos abiertos considerados.
- El grupo aprueba el modelo que obtiene mejores resultados con sus conversaciones, y este se ejecuta en el hardware propio del grupo.
- Cualquier cambio posterior de modelo se prueba con las mismas conversaciones y requiere la aprobación del grupo antes de publicarse.
Relacionado
- Modelos de lenguajeIntegraciones
- Modelos y proveedoresAgentes
- Alojamiento y residencia de los datosSeguridad y protección de datos
- Enmascaramiento de datos personalesSeguridad y protección de datos
- Pruebas antes de cada versiónGobernanza y control
Los nombres y logotipos de productos son marcas comerciales de sus respectivos titulares. Su mención indica sistemas con los que Telonic se conecta y no implica asociación ni respaldo.