Интеграции
Языковые модели
Поставщики языковых моделей, с которыми работает Telonic, как выбирается модель для вашего развёртывания и как этот выбор остаётся в пределах вашего региона.
На этой странице
Языковая модель представляет собой ту часть ИИ-агента, которая понимает диалог и составляет ответ. Telonic работает с моделями нескольких признанных поставщиков и вместе с вами выбирает подходящую модель для каждого развёртывания с учётом ваших языков, сценариев использования и региона. Модель решает, как сформулировать ответ.
Факты в ответе берутся из ваших систем и утверждённых документов, а доступные ей действия ограничены теми, которые разрешила ваша команда. Вся обработка для вашего развёртывания выполняется в выбранном вами регионе, если только вы явно не выберете поставщика языковой модели за его пределами.
Что делает языковая модель в вашем развёртывании
| Роль | Что это значит для вас | Пример |
|---|---|---|
| Понимание запроса | Определяет, чего хочет клиент, в том числе когда он говорит на диалекте стран Залива, египетском или левантийском диалекте арабского языка и когда переходит с арабского на английский и обратно | «أبغى أغير الحجز to Friday» понимается как просьба изменить дату заезда |
| Составление ответа | Излагает факты, полученные из ваших систем, в вашем тоне и на языке клиента | Подтверждение изменения бронирования в заданном вами тоне |
| Выбор следующего шага | Выбирает из действий, которые разрешила ваша команда, в установленных вами пределах | Предложение связаться с сотрудником, когда запрос не укладывается в ограничения агента |
| Чтение изображений и документов | Читает то, что присылают клиенты, с помощью модели, работающей в выбранном вами регионе | Сфотографированный полицейский протокол, прикреплённый к убытку |
Поставщики, с которыми работает Telonic
| Интеграция | Что охватывает подключение |
|---|---|
| OpenAI | Языковые модели |
| Anthropic | Языковые модели |
| Google Gemini | Языковые модели |
| Mistral AI | Языковые модели, в том числе модели с открытыми весами |
| Meta (модели Llama) | Языковые модели с открытыми весами |
| TII (модели Falcon) | Языковые модели с открытыми весами |
Какие поставщики и модели доступны в вашем регионе, подтверждается при внедрении и указывается в вашем договоре. В развёртываниях на вашей собственной инфраструктуре (on-premises) используются языковые модели с открытыми весами (модели, веса которых опубликованы, поэтому их можно запускать на вашей собственной инфраструктуре), а вычислительные мощности рассчитываются вместе с вами при внедрении.
Как выбор зависит от вашего региона
Вся обработка для вашего развёртывания выполняется в выбранном вами регионе, если только вы явно не выберете поставщика языковой модели за его пределами. Языковая модель является единственным компонентом, который можно выбрать за пределами вашего региона. Распознавание и синтез речи всегда выполняются в выбранном вами регионе.
Если вы выберете модель за пределами региона, персональные данные маскируются (удаляются или скрываются) до того, как какой-либо текст покинет ваше развёртывание. Они заменяются маркерами-заменителями, а реальные значения восстанавливаются в ответе внутри вашего развёртывания. Маскирование охватывает имена, написанные арабским и латинским шрифтом, номера телефонов, адреса электронной почты, номера национальных удостоверений личности, включая номера Emirates ID и Iqama, номера паспортов, номера платёжных карт, номера банковских счетов и IBAN (международные номера банковских счетов), даты рождения и почтовые адреса. См. раздел Маскирование персональных данных.
Как поставщики обращаются с вашими данными
Договоры Telonic со всеми поставщиками запрещают использовать ваши данные для обучения или улучшения их моделей. Везде, где поставщик это предлагает, используется нулевое хранение данных (zero data retention: поставщик не сохраняет копий того, что обрабатывает). Каждый поставщик, используемый в вашем развёртывании, указан в перечне субобработчиков (компаний, которые обрабатывают персональные данные по поручению Telonic) для этого развёртывания. См. раздел Субобработчики.
Технические подробности
Обращение к моделям идёт через уровень маршрутизации моделей (программное обеспечение, которое направляет каждый запрос поставщику, выбранному для данной роли), поэтому модель можно заменить, не перестраивая агента. Ваша отраслевая модель, ограничения, память и интеграции при этом остаются прежними. Новая модель вводится только в том случае, если на отраслевом тестовом наборе она работает не хуже прежней, а любая смена модели или поставщика требует вашего утверждения перед релизом.
Если у поставщика происходит сбой, аварийное переключение выполняется только на утверждённого поставщика в выбранном вами регионе, а резервные поставщики заранее тестируются. Обращения передаются по TLS (Transport Layer Security) версии 1.2 или выше.
Типичные права доступа для этой категории
Каждое действие в ваших системах выполняет программное обеспечение Telonic в рамках прав доступа, которые предоставила ваша команда. Языковая модель получает только то, что агент передаёт ей на каждом шаге диалога, и не имеет собственного подключения к вашим системам. См. раздел Права доступа.
На практике
Туроператор Nakhla Travel настраивает своё развёртывание в регионе ОАЭ.
- При внедрении Telonic подтверждает, какие языковые модели доступны в регионе ОАЭ, и тестирует их на диалогах самого туроператора о маршрутах.
- Туроператор выбирает всех поставщиков в пределах региона, а выбранная модель указывается в его договоре.
- Несколько месяцев спустя в регионе становится доступна более новая модель. Telonic тестирует её на тех же диалогах, и она работает не хуже прежней.
- Операционный директор утверждает изменение, и оно вводится в работу.
Что контролирует ваша команда
- Можно ли использовать какую-либо языковую модель за пределами вашего региона.
- Утверждение каждой смены модели или поставщика до её ввода в работу.
См. также
- Модели и поставщикиИИ-агенты
- Хостинг и локализация данныхБезопасность и защита данных
- Маскирование персональных данныхБезопасность и защита данных
- СубобработчикиБезопасность и защита данных
- Тестирование перед каждым релизомУправление и контроль
Названия и логотипы продуктов являются товарными знаками соответствующих правообладателей. Их упоминание указывает на системы, к которым подключается Telonic, и не подразумевает аффилированности или одобрения.