Telonic文档
中文

安全与数据保护

安全开发与测试

对 Telonic 的变更如何进行、审查、测试和发布,漏洞如何管理,以及对构建和运行 Telonic 的人员有哪些期望。

本页内容
  1. 变更如何进入您的部署
  2. 不仅测试代码,也测试智能体
  3. 发现和修复薄弱环节
  4. 与您共同进行变更管控
  5. 构建和运行 Telonic 的人员
  6. 实际应用
  7. 您的团队掌控的内容
  8. 相关内容

产品是否安全,既取决于它最初如何构建,也同样取决于它如何变更。对 Telonic 的每一项变更,无论是针对平台还是针对您的 AI 智能体,都会在发布前经过审查和测试,测试在与您的生产环境相隔离的环境中进行。涉及智能体行为方式的变更,还会使用取自您所在行业的对话进行测试;未经您的审批,任何模型或服务商的更换都不会触达您的客户。本页说明变更如何进行和发布、如何发现和修复薄弱环节,以及适用于执行这些工作的人员的标准。

变更如何进入您的部署

每项变更都遵循相同的路径,每一步都有记录。

步骤具体内容
1. 记录变更在版本控制系统(记录每一项变更、由谁做出以及何时做出的系统)中进行,因此每项变更都可以追溯和撤销
2. 审查在变更合并之前,由另一名工程师进行审查
3. 检查对变更运行自动化测试和安全检查,包括检查其所用组件中的已知漏洞
4. 针对您的行业测试影响智能体行为方式的变更,会运行基于您所在行业的对话构建的回归测试套件(确认现有行为仍然正常的一组测试)
5. 在测试环境中试运行在任何客户接触到之前,变更先在与您的生产环境相隔离的测试环境中运行
6. 审批需要您审批的变更,包括任何模型或服务商的更换,都会等待您的审批
7. 发布变更上线,必要时可以撤销

不仅测试代码,也测试智能体

代码测试确认软件能够正常运行,但无法告诉您智能体是否仍能正确处理一项有争议的验房问题,或票价规则范围内的改签。为此,Telonic 为每个行业维护评估集:取自真实对话模式的测试对话,每一段都按照该行业对正确处理结果的定义进行评分。基于评估集构建的回归测试套件会在每次发布前运行。

新的语言模型(理解对话并决定如何回复的 AI 模型)只有在行业测试集上的表现至少与其所替换的模型相当时,才会被采用。对话模拟(在上线之前,即智能体开始处理真实客户对话之前,使用贴近实际的场景测试智能体)在实施期间配置。参见每次发布前的测试。

发现和修复薄弱环节

做法工作方式
依赖管理跟踪第三方软件组件,并使其保持最新
漏洞管理对组件和基础设施进行已知漏洞扫描。修复按严重级别确定优先级,最严重的最先修复
独立渗透测试独立测试人员至少每年进行一次渗透测试(经授权的模拟攻击,用于发现薄弱环节),重大变更后也会进行。发现的问题按严重级别依次修复,测试摘要可依据保密协议提供给您的安全团队
机密信息管理凭据和密钥存放在机密存储库(专门用于安全保存凭据的服务)中,绝不会存放在代码或配置文件中

与您共同进行变更管控

变更遵循成文的变更管控流程。在您的部署发生任何重大变更之前,您都会收到通知;对您的智能体行为的变更,例如限制、话题或升级规则,会按照变更如何上线中所述的流程发布。对智能体的每一项变更都有记录,因此您可以看到变更了什么、何时变更以及由谁审批。

构建和运行 Telonic 的人员

能够接触客户环境的工程师,在获得访问权限之前都要通过背景调查。Telonic 的每一位员工在入职时都要完成安全培训,此后还会定期完成安全培训。人员调岗或离职时,其访问权限即被撤销。

对客户部署的访问仅限于指定工程师,从阿联酋或您选择的国家进行,并有时间限制,每一次访问都会记入日志。参见访问控制与单点登录。

实际应用

旅游运营商 Nakhla Travel 使用智能体处理预订和变更。

  1. Nakhla Travel 的区域内开始提供一款更新的语言模型。一名工程师在版本控制系统中记录这项变更,另一名工程师对其进行审查。
  2. 自动化测试和安全检查均已通过。旅游行业的回归测试套件开始运行:预订咨询、票价规则范围内的变更,以及有关延误和取消的消息。
  3. 新模型的表现至少与旧模型相当。测试结果与 Nakhla Travel 的运营负责人共享。
  4. 变更在测试环境中运行,Nakhla Travel 的团队在其中尝试他们自己的疑难案例。
  5. Nakhla Travel 审批通过这项变更,变更随即发布。记录显示了变更内容、变更时间以及审批人。

您的团队掌控的内容

  • 在任何模型或服务商的更换上线之前进行审批。
  • 通过您的团队掌握的控制权,审批对您的智能体的限制、话题和升级规则所做的变更。
  • 依据保密协议索取最新的渗透测试摘要。