集成
TII(Falcon 模型)
技术创新研究院(Technology Innovation Institute)的开放权重 Falcon 语言模型可以如何用于您的部署(包括在您自己的本地环境中),以及允许它们看到哪些内容。
技术创新研究院(Technology Innovation Institute,TII)是阿布扎比的一家研究中心,发布 Falcon 系列语言模型。Falcon 系列模型是 Telonic 可以在您的部署中使用的语言模型之一。语言模型(理解对话并撰写回复的 AI 组件)在 AI 智能体的限制范围内,理解客户在问什么,并决定如何回复。每个部署所用的模型都与您共同选定,之后也可以更换。您所在区域可用哪些服务商和模型,会在实施期间确认,并在您的协议中列明。
模型在您的部署中的作用
| 任务 | 对您意味着什么 | 示例 |
|---|---|---|
| 理解请求 | 弄清客户想要什么,并提取关键细节 | 一位客人用阿拉伯语和英语发来消息,模型理解为对方要求更改入住日期 |
| 在限制范围内决定回复 | 从您的团队允许的操作中,选择要说什么、做什么 | 只提供该客人的房价所允许的日期更改 |
| 表述来自您的系统的事实 | 决定措辞和顺序。金额、日期等数字直接从系统记录中插入 | 按您的预订系统中的记录原样给出住宿的新总价 |
| 不明确时提问 | 反问确认,而不是猜测 | “您说的是周五的那个预订,还是下个月的那个?” |
连接方式
您的部署中的所有处理都在您选择的区域内进行,除非您明确选择该区域以外的语言模型服务商。如果您做出这一选择,在任何文字离开您的部署环境之前,个人信息都会被替换为占位符,真实值则在您的部署环境内还原到回复中。
Telonic 与每家服务商签订的合同都禁止使用您的数据训练或改进其模型。凡服务商提供零数据保留安排(服务商不保留其所处理内容的任何副本)的,均予以采用。新模型只有在您所在行业的测试集上表现至少与当前模型相当时才会采用。对模型或服务商的任何更改,在发布前都需要经过贵机构审批。如果某家服务商发生故障,故障切换只会切换到您所选区域内另一家已审批通过的服务商,该服务商已提前经过测试,并在实施期间完成配置。
在您自己的本地环境中运行
TII 以开放权重模型(模型文件公开发布、供他人在自己的基础设施上运行的模型)的形式发布其 Falcon 模型。由于模型文件是公开发布的,这些模型可以在您自己的本地环境中、在您掌控的硬件上运行。本地部署运行开放权重语言模型和自托管语音模型,所需的计算容量在实施期间与您共同确定。
模型可以看到的内容
| 访问内容 | 用途 | 默认设置 |
|---|---|---|
| 对话内容、为回复检索的事实以及智能体的指令 | 撰写每条回复 | 每次回复时提供 |
| 模型在您的区域以外运行时的个人信息 | 不需要 | 在文字离开您的部署环境之前替换为占位符 |
| 直接访问您的系统 | 不需要 | 不提供。查询和操作通过 Telonic 的软件执行,并限于您的团队已授予的权限范围内 |
| 您的数据,用于训练服务商的模型 | 不允许 | 合同禁止 |
无论您选择哪个模型,智能体都只能执行您的团队已授权的操作。参见政策即限制。
实际应用
阿联酋的酒店集团 Qamar Stays 希望在自己的本地环境中处理客人对话。
- Telonic 与该集团的基础设施团队共同确定本地部署所需的计算容量。
- 选取一个 Falcon 模型,并用该集团的预订对话,将它与其他备选的开放权重模型一同测试。
- 该集团审批通过在其对话中表现最好的模型,该模型在集团自己的硬件上运行。
- 此后对模型的任何更改,都会使用同样的对话进行测试,并需要在发布前经该集团审批。
相关内容
产品名称和标识均为其各自所有者的商标。提及这些名称和标识,表示 Telonic 与相应系统连接,并不意味着存在合作或背书关系。