Интеграции
Mistral AI
Как языковые модели Mistral AI, включая модели с открытыми весами, могут использоваться в вашем развёртывании, где они работают и что им разрешено видеть.
На этой странице
Модели Mistral AI входят в число языковых моделей, которые Telonic может использовать в вашем развёртывании. Языковая модель (компонент ИИ, который интерпретирует диалог и составляет ответ) понимает, о чём просит клиент, и определяет ответ в пределах ограничений ИИ-агента. Модель выбирается для каждого развёртывания вместе с вами, и позже её можно сменить. Какие поставщики и модели доступны в вашем регионе, подтверждается при внедрении и указывается в вашем договоре.
Что делает модель в вашем развёртывании
| Задача | Что это значит для вас | Пример |
|---|---|---|
| Понять запрос | Выясняет, чего хочет страхователь, и выделяет важные детали | Если звонящий описывает прорыв трубы, модель понимает, что он сообщает о новом страховом случае по страхованию жилья |
| Выбрать ответ в пределах ограничений | Выбирает, что сказать и сделать, из действий, которые разрешает ваша команда | Объясняет франшизу по полису, но не высказывается о том, будет ли произведена выплата по убытку |
| Изложить факты из ваших систем | Определяет формулировку и порядок изложения. Цифры, например суммы и даты, подставляются непосредственно из записи в системе | Размер франшизы сообщается точно в том виде, в каком он указан в записи о полисе |
| Задать вопрос, если что-то неясно | Задаёт уточняющий вопрос, а не пытается угадать | «Вода шла из вашей квартиры или из квартиры сверху?» |
Как устроено подключение
Вся обработка для вашего развёртывания выполняется в выбранном вами регионе, если только вы явно не выберете поставщика языковой модели за его пределами. В этом случае персональные данные заменяются маркерами-заменителями до того, как какой-либо текст покинет ваше развёртывание, а реальные значения восстанавливаются в ответе внутри вашего развёртывания.
Договор Telonic с каждым поставщиком запрещает использовать ваши данные для обучения или улучшения моделей этого поставщика, а договорённости о нулевом хранении данных (zero data retention: поставщик не сохраняет копий того, что обрабатывает) применяются везде, где поставщик их предлагает. Новая модель вводится только в том случае, если на тестовом наборе для вашей отрасли она показывает результаты не хуже текущей, а любая смена модели или поставщика требует утверждения вашей организацией перед релизом. Если у поставщика происходит сбой, аварийное переключение выполняется только на другого утверждённого поставщика в выбранном вами регионе, заранее протестированного и настроенного при внедрении.
Работа на вашей собственной инфраструктуре
Mistral AI предлагает часть своих моделей как модели с открытыми весами (модели, файлы которых выпускаются в открытый доступ, чтобы другие могли запускать их на собственной инфраструктуре). Поскольку файлы моделей опубликованы, эти модели могут работать на вашей собственной инфраструктуре, на оборудовании, которое контролируете вы. В развёртываниях на собственной инфраструктуре используются языковые модели с открытыми весами и локально развёрнутые речевые модели, а необходимые вычислительные мощности рассчитываются вместе с вами при внедрении.
Что может видеть модель
| Доступ | Для чего нужен | По умолчанию |
|---|---|---|
| Диалог, факты, полученные для ответа, и инструкции агента | Составление каждого ответа | Предоставляется для каждого ответа |
| Персональные данные, когда модель работает за пределами вашего региона | Не требуется | Заменяются маркерами-заменителями до того, как текст покинет ваше развёртывание |
| Прямой доступ к вашим системам | Не требуется | Не предоставляется. Получение данных и действия выполняются через программное обеспечение Telonic в пределах прав доступа, которые предоставила ваша команда |
| Ваши данные для обучения моделей поставщика | Не разрешено | Запрещено договором |
Какую бы модель вы ни выбрали, агент может выполнять только те действия, которые разрешила ваша команда. См. раздел Политики как ограничения.
На практике
Саудовская страховая компания требует, чтобы все системы, которые обрабатывают диалоги со страхователями, работали в её собственном центре обработки данных.
- Telonic и специалисты страховщика по инфраструктуре рассчитывают вычислительные мощности для развёртывания на собственной инфраструктуре.
- Выбирается модель Mistral с открытыми весами, которая работает на собственном оборудовании страховщика вместе с локально развёрнутыми речевыми моделями.
- Прежде чем агент начнёт работать с реальными клиентами, модель тестируется на диалогах страховщика об убытках.
- В Telonic передаются только сигналы о работоспособности системы, не содержащие данных клиентов, и страховщик может их отключить.
См. также
- Языковые моделиИнтеграции
- Модели и поставщикиИИ-агенты
- Хостинг и локализация данныхБезопасность и защита данных
- Маскирование персональных данныхБезопасность и защита данных
- Тестирование перед каждым релизомУправление и контроль
Названия и логотипы продуктов являются товарными знаками соответствующих правообладателей. Их упоминание указывает на системы, к которым подключается Telonic, и не подразумевает аффилированности или одобрения.