集成
语言 模型
Telonic 使用的语言模型服务商、如何为您的部署选择模型,以及这一选择如何保持在您的区域之内。
语言模型是 AI 智能体中负责理解对话并撰写答复的部分。Telonic 使用来自多家成熟服务商的模型,并根据您的语言、您的用途和您所在的区域,为每个部署与您一起选择合适的模型。模型决定答复如何表达。
答复中的事实来自您的系统和经审批的文档,模型可以使用的操作则是您的团队已授予的那些操作。您的部署中的所有处理都在您选择的区域内进行,除非您明确选择该区域以外的语言模型服务商。
语言模型在您的部署中的作用
| 职能 | 对您意味着什么 | 示例 |
|---|---|---|
| 理解请求 | 判断客户想要什么,包括客户使用海湾阿拉伯语、埃及阿拉伯语和黎凡特阿拉伯语时,以及在阿拉伯语和英语之间切换时 | “أبغى أغير الحجز to Friday”被理解为更改抵达日期 |
| 撰写答复 | 以您的语气、用客户的语言,表达从您的系统中检索到的事实 | 以您设定的语气确认一项预订变更 |
| 选择下一步 | 在您的限制范围内,从您的团队已授予的操作中进行选择 | 当请求超出智能体的限制时,提出由工作人员接手 |
| 读取图片和文档 | 使用在您所选区域内运行的模型,读取客户发送的内容 | 一份拍照后附加到理赔中的警方报告 |
Telonic 使用的服务商
| 集成 | 连接涵盖的内容 |
|---|---|
| OpenAI | 语言模型 |
| Anthropic | 语言模型 |
| Google Gemini | 语言模型 |
| Mistral AI | 语言模型,包括开放权重模型 |
| Meta(Llama 模型) | 开放权重语言模型 |
| TII(Falcon 模型) | 开放权重语言模型 |
您所在区域可用哪些服务商和模型,会在实施期间确认,并在您的协议中写明。本地部署运行开放权重语言模型(权重公开发布、因此可以在您自己的基础设施上运行的模型),计算容量会在实施期间与您一起确定。
这一选择如何与您的区域保持一致
您的部署中的所有处理都在您选择的区域内进行,除非您明确选择该区域以外的语言模型服务商。语言模型是唯一可以选在您的区域以外的组件。语音识别和语音合成始终在您选择的区域内运行。
如果您选择区域以外的模型,任何文本在离开您的部署环境之前,其中的个人信息都会先经过脱敏处理(删除或遮蔽)。个人信息会被替换为占位符,真实值则在您的部署环境内恢复到答复中。脱敏范围包括以阿拉伯文和拉丁字母书写的姓名、电话号码、电子邮件地址、国民身份证件号码(包括阿联酋 Emirates ID 号码和沙特 Iqama 号码)、护照号码、支付卡号、银行账号和 IBAN(国际银行账号)、出生日期以及街道地址。参见个人信息脱敏。
服务商如何处理您的数据
Telonic 与每家服务商签订的合同,都禁止使用您的数据训练或改进其模型。凡服务商提供零数据保留安排(服务商不保留其所处理内容的任何副本),都会采用。您的部署所使用的每家服务商,都列在您的部署的次级处理者(代表 Telonic 处理个人数据的公司)名单中。参见次级处理者。
技术细节
模型通过模型路由层(将每个请求发送给为该职能选定的服务商的软件)调用,因此可以更换模型而无需重建智能体。更换模型时,您的行业模型、限制、记忆和集成都保持不变。只有当新模型在行业测试集上的表现至少与原模型一样好时,才会采用新模型;任何模型或服务商的变更,都需要在发布前获得您的审批。
如果某家服务商发生故障,故障切换只会切换到您所选区域内经审批的服务商,备用服务商也会事先经过测试。调用通过 TLS(传输层安全协议)1.2 或更高版本传输。
此类集成的常见权限
您系统中的每一项操作,都由 Telonic 的软件在您的团队授予的权限下执行。语言模型只接收智能体在对话每一轮中发送给它的内容,它本身与您的系统没有任何连接。参见权限。
实际应用
旅行社 Nakhla Travel 在阿联酋区域设置其部署。
- 在实施期间,Telonic 确认阿联酋区域可用哪些语言模型,并用该旅行社自己的行程对话对这些模型进行测试。
- 该旅行社选用的所有服务商都位于区域内,选定的模型也写入了其协议。
- 几个月后,该区域推出了一个更新的模型。Telonic 用同样的对话对其进行测试,其表现至少与原模型一样好。
- 运营总监审批了这项变更,变更随后上线。
您的团队掌控的内容
- 是否允许使用任何位于您所选区域以外的语言模型。
- 每一项模型或服务商变更在上线前的审批。
相关内容
产品名称和标识均为其各自所有者的商标。提及这些名称和标识,表示 Telonic 与相应系统连接,并不意味着存在合作或背书关系。