Telonic文档
中文

集成

Mistral AI

Mistral AI 的语言模型(包括其开放权重模型)可以如何用于您的部署、在哪里运行,以及允许它们看到哪些内容。

本页内容
  1. 模型在您的部署中的作用
  2. 连接方式
  3. 在您自己的本地环境中运行
  4. 模型可以看到的内容
  5. 实际应用
  6. 相关内容

Mistral AI 的模型是 Telonic 可以在您的部署中使用的语言模型之一。语言模型(理解对话并撰写回复的 AI 组件)在 AI 智能体的限制范围内,理解客户在问什么,并决定如何回复。每个部署所用的模型都与您共同选定,之后也可以更换。您所在区域可用哪些服务商和模型,会在实施期间确认,并在您的协议中列明。

模型在您的部署中的作用

任务对您意味着什么示例
理解请求弄清保单持有人想要什么,并提取关键细节来电者描述水管爆裂,模型理解为对方是在就家财险提出一宗新的理赔申请
在限制范围内决定回复从您的团队允许的操作中,选择要说什么、做什么解释保单的免赔额,但不对理赔能否获赔发表意见
表述来自您的系统的事实决定措辞和顺序。金额、日期等数字直接从系统记录中插入按保单记录原样读出免赔额
不明确时提问反问确认,而不是猜测“水是从您自己家里流出来的,还是从楼上那户流下来的?”

连接方式

您的部署中的所有处理都在您选择的区域内进行,除非您明确选择该区域以外的语言模型服务商。如果您做出这一选择,在任何文字离开您的部署环境之前,个人信息都会被替换为占位符,真实值则在您的部署环境内还原到回复中。

Telonic 与每家服务商签订的合同都禁止使用您的数据训练或改进其模型。凡服务商提供零数据保留安排(服务商不保留其所处理内容的任何副本)的,均予以采用。新模型只有在您所在行业的测试集上表现至少与当前模型相当时才会采用。对模型或服务商的任何更改,在发布前都需要经过贵机构审批。如果某家服务商发生故障,故障切换只会切换到您所选区域内另一家已审批通过的服务商,该服务商已提前经过测试,并在实施期间完成配置。

在您自己的本地环境中运行

Mistral AI 将其部分模型作为开放权重模型(模型文件公开发布、供他人在自己的基础设施上运行的模型)提供。由于模型文件是公开发布的,这些模型可以在您自己的本地环境中、在您掌控的硬件上运行。本地部署运行开放权重语言模型和自托管语音模型,所需的计算容量在实施期间与您共同确定。

模型可以看到的内容

访问内容用途默认设置
对话内容、为回复检索的事实以及智能体的指令撰写每条回复每次回复时提供
模型在您的区域以外运行时的个人信息不需要在文字离开您的部署环境之前替换为占位符
直接访问您的系统不需要不提供。查询和操作通过 Telonic 的软件执行,并限于您的团队已授予的权限范围内
您的数据,用于训练服务商的模型不允许合同禁止

无论您选择哪个模型,智能体都只能执行您的团队已授权的操作。参见政策即限制。

实际应用

一家沙特保险公司要求,所有处理保单持有人对话的系统都必须在其自己的数据中心内运行。

  1. Telonic 与该保险公司的基础设施团队共同确定本地部署所需的计算容量。
  2. 选定一个开放权重的 Mistral 模型,与自托管语音模型一起在该保险公司自己的硬件上运行。
  3. 在智能体开始服务真实客户之前,模型会使用该保险公司的理赔对话进行测试。
  4. 只有不含任何客户数据的运行健康信号才会发送给 Telonic,并且该保险公司可以关闭这些信号。

产品名称和标识均为其各自所有者的商标。提及这些名称和标识,表示 Telonic 与相应系统连接,并不意味着存在合作或背书关系。