Telonic文档
中文

集成

Meta(Llama 模型)

Meta 的开放权重 Llama 语言模型可以如何用于您的部署(包括在您自己的本地环境中),以及允许它们看到哪些内容。

本页内容
  1. 模型在您的部署中的作用
  2. 连接方式
  3. 在您自己的本地环境中运行
  4. 模型可以看到的内容
  5. 实际应用
  6. 相关内容

Meta 的 Llama 模型是 Telonic 可以在您的部署中使用的语言模型之一。语言模型(理解对话并撰写回复的 AI 组件)在 AI 智能体的限制范围内,理解客户在问什么,并决定如何回复。每个部署所用的模型都与您共同选定,之后也可以更换。您所在区域可用哪些服务商和模型,会在实施期间确认,并在您的协议中列明。

模型在您的部署中的作用

任务对您意味着什么示例
理解请求弄清买家或住户想要什么,并提取关键细节买家询问“下一笔付款”,模型理解为对方指的是其下一期分期款
在限制范围内决定回复从您的团队允许的操作中,选择要说什么、做什么解释该房屋的付款计划,但不能提供您所允许的付款结构以外的计划
表述来自您的系统的事实决定措辞和顺序。金额、日期等数字直接从系统记录中插入按您的 CRM(保存您客户记录的系统)中的记录原样给出分期款金额和到期日
不明确时提问反问确认,而不是猜测“您说的是 A 座的公寓,还是那套联排别墅?”

连接方式

您的部署中的所有处理都在您选择的区域内进行,除非您明确选择该区域以外的语言模型服务商。如果您做出这一选择,在任何文字离开您的部署环境之前,个人信息都会被替换为占位符,真实值则在您的部署环境内还原到回复中。

Telonic 与每家服务商签订的合同都禁止使用您的数据训练或改进其模型。凡服务商提供零数据保留安排(服务商不保留其所处理内容的任何副本)的,均予以采用。新模型只有在您所在行业的测试集上表现至少与当前模型相当时才会采用。对模型或服务商的任何更改,在发布前都需要经过贵机构审批。如果某家服务商发生故障,故障切换只会切换到您所选区域内另一家已审批通过的服务商,该服务商已提前经过测试,并在实施期间完成配置。

在您自己的本地环境中运行

Meta 以开放权重模型(模型文件公开发布、供他人在自己的基础设施上运行的模型)的形式发布其 Llama 模型。由于模型文件是公开发布的,这些模型可以在您自己的本地环境中、在您掌控的硬件上运行。本地部署运行开放权重语言模型和自托管语音模型,所需的计算容量在实施期间与您共同确定。

模型可以看到的内容

访问内容用途默认设置
对话内容、为回复检索的事实以及智能体的指令撰写每条回复每次回复时提供
模型在您的区域以外运行时的个人信息不需要在文字离开您的部署环境之前替换为占位符
直接访问您的系统不需要不提供。查询和操作通过 Telonic 的软件执行,并限于您的团队已授予的权限范围内
您的数据,用于训练服务商的模型不允许合同禁止

无论您选择哪个模型,智能体都只能执行您的团队已授权的操作。参见政策即限制。

实际应用

迪拜开发商 Sahel Crest Properties 的政策规定,客户对话只能在其自己的数据中心内处理。

  1. Telonic 与该开发商的基础设施团队共同确定本地部署所需的计算容量,并选定一个 Llama 模型,在该开发商自己的硬件上运行。
  2. 在智能体开始服务真实客户之前,模型会使用该开发商的销售对话和交房对话进行测试。
  3. Hind 询问她的下一期分期款时,模型决定如何回答,金额和到期日则直接从该开发商的 CRM 中插入。
  4. 之后,一款更新的 Llama 模型使用同样的对话进行测试,并且只有在该开发商审批通过这项变更后才会上线。

产品名称和标识均为其各自所有者的商标。提及这些名称和标识,表示 Telonic 与相应系统连接,并不意味着存在合作或背书关系。