Интеграции
TII (модели Falcon)
Как языковые модели Falcon с открытыми весами от Института технологических инноваций (Technology Innovation Institute) могут использоваться в вашем развёртывании, в том числе на вашей собственной инфраструктуре, и что им разрешено видеть.
На этой странице
Институт технологических инноваций (Technology Innovation Institute, TII), исследовательский центр в Абу-Даби, публикует семейство языковых моделей Falcon. Они входят в число языковых моделей, которые Telonic может использовать в вашем развёртывании. Языковая модель (компонент ИИ, который интерпретирует диалог и составляет ответ) понимает, о чём просит клиент, и определяет ответ в пределах ограничений ИИ-агента. Модель выбирается для каждого развёртывания вместе с вами, и позже её можно сменить. Какие поставщики и модели доступны в вашем регионе, подтверждается при внедрении и указывается в вашем договоре.
Что делает модель в вашем развёртывании
| Задача | Что это значит для вас | Пример |
|---|---|---|
| Понять запрос | Выясняет, чего хочет клиент, и выделяет важные детали | Если гость пишет на арабском и английском, модель понимает, что он просит перенести дату заезда |
| Выбрать ответ в пределах ограничений | Выбирает, что сказать и сделать, из действий, которые разрешает ваша команда | Предлагает только те изменения дат, которые допускает тариф гостя |
| Изложить факты из ваших систем | Определяет формулировку и порядок изложения. Цифры, например суммы и даты, подставляются непосредственно из записи в системе | Новая итоговая стоимость проживания сообщается точно в том виде, в каком она указана в вашей системе бронирования |
| Задать вопрос, если что-то неясно | Задаёт уточняющий вопрос, а не пытается угадать | «Вы имеете в виду бронирование на пятницу или на следующий месяц?» |
Как устроено подключение
Вся обработка для вашего развёртывания выполняется в выбранном вами регионе, если только вы явно не выберете поставщика языковой модели за его пределами. В этом случае персональные данные заменяются маркерами-заменителями до того, как какой-либо текст покинет ваше развёртывание, а реальные значения восстанавливаются в ответе внутри вашего развёртывания.
Договор Telonic с каждым поставщиком запрещает использовать ваши данные для обучения или улучшения моделей этого поставщика, а договорённости о нулевом хранении данных (zero data retention: поставщик не сохраняет копий того, что обрабатывает) применяются везде, где поставщик их предлагает. Новая модель вводится только в том случае, если на тестовом наборе для вашей отрасли она показывает результаты не хуже текущей, а любая смена модели или поставщика требует утверждения вашей организацией перед релизом. Если у поставщика происходит сбой, аварийное переключение выполняется только на другого утверждённого поставщика в выбранном вами регионе, заранее протестированного и настроенного при внедрении.
Работа на вашей собственной инфраструктуре
TII публикует модели Falcon как модели с открытыми весами (модели, файлы которых выпускаются в открытый доступ, чтобы другие могли запускать их на собственной инфраструктуре). Поскольку файлы моделей опубликованы, эти модели могут работать на вашей собственной инфраструктуре, на оборудовании, которое контролируете вы. В развёртываниях на собственной инфраструктуре используются языковые модели с открытыми весами и локально развёрнутые речевые модели, а необходимые вычислительные мощности рассчитываются вместе с вами при внедрении.
Что может видеть модель
| Доступ | Для чего нужен | По умолчанию |
|---|---|---|
| Диалог, факты, полученные для ответа, и инструкции агента | Составление каждого ответа | Предоставляется для каждого ответа |
| Персональные данные, когда модель работает за пределами вашего региона | Не требуется | Заменяются маркерами-заменителями до того, как текст покинет ваше развёртывание |
| Прямой доступ к вашим системам | Не требуется | Не предоставляется. Получение данных и действия выполняются через программное обеспечение Telonic в пределах прав доступа, которые предоставила ваша команда |
| Ваши данные для обучения моделей поставщика | Не разрешено | Запрещено договором |
Какую бы модель вы ни выбрали, агент может выполнять только те действия, которые разрешила ваша команда. См. раздел Политики как ограничения.
На практике
Гостиничная сеть Qamar Stays в ОАЭ хочет, чтобы диалоги с её гостями обрабатывались на её собственной инфраструктуре.
- Telonic и специалисты сети по инфраструктуре рассчитывают вычислительные мощности для развёртывания на собственной инфраструктуре.
- Модель Falcon выбирают и тестируют на диалогах сети о бронированиях наряду с другими рассматриваемыми моделями с открытыми весами.
- Сеть утверждает модель, которая показывает лучшие результаты на её диалогах, и эта модель работает на собственном оборудовании сети.
- Любая последующая смена модели тестируется на тех же диалогах и перед релизом требует утверждения гостиничной сетью.
См. также
- Языковые моделиИнтеграции
- Модели и поставщикиИИ-агенты
- Хостинг и локализация данныхБезопасность и защита данных
- Маскирование персональных данныхБезопасность и защита данных
- Тестирование перед каждым релизомУправление и контроль
Названия и логотипы продуктов являются товарными знаками соответствующих правообладателей. Их упоминание указывает на системы, к которым подключается Telonic, и не подразумевает аффилированности или одобрения.