Интеграции
Meta (модели Llama)
Как языковые модели Llama с открытыми весами компании Meta могут использоваться в вашем развёртывании, в том числе на вашей собственной инфраструктуре, и что им разрешено видеть.
На этой странице
Модели Llama компании Meta входят в число языковых моделей, которые Telonic может использовать в вашем развёртывании. Языковая модель (компонент ИИ, который интерпретирует диалог и составляет ответ) понимает, о чём просит клиент, и определяет ответ в пределах ограничений ИИ-агента. Модель выбирается для каждого развёртывания вместе с вами, и позже её можно сменить. Какие поставщики и модели доступны в вашем регионе, подтверждается при внедрении и указывается в вашем договоре.
Что делает модель в вашем развёртывании
| Задача | Что это значит для вас | Пример |
|---|---|---|
| Понять запрос | Выясняет, чего хочет покупатель или жилец, и выделяет важные детали | Если покупатель спрашивает о «следующем платеже», модель понимает, что речь идёт о его очередном взносе |
| Выбрать ответ в пределах ограничений | Выбирает, что сказать и сделать, из действий, которые разрешает ваша команда | Объясняет план платежей по объекту, но не может предложить план, которого нет среди разрешённых вами схем |
| Изложить факты из ваших систем | Определяет формулировку и порядок изложения. Цифры, например суммы и даты, подставляются непосредственно из записи в системе | Сумма взноса и срок оплаты сообщаются точно в том виде, в каком они указаны в вашей CRM-системе (системе, в которой хранятся записи о ваших клиентах) |
| Задать вопрос, если что-то неясно | Задаёт уточняющий вопрос, а не пытается угадать | «Речь о квартире в башне A или о таунхаусе?» |
Как устроено подключение
Вся обработка для вашего развёртывания выполняется в выбранном вами регионе, если только вы явно не выберете поставщика языковой модели за его пределами. В этом случае персональные данные заменяются маркерами-заменителями до того, как какой-либо текст покинет ваше развёртывание, а реальные значения восстанавливаются в ответе внутри вашего развёртывания.
Договор Telonic с каждым поставщиком запрещает использовать ваши данные для обучения или улучшения моделей этого поставщика, а договорённости о нулевом хранении данных (zero data retention: поставщик не сохраняет копий того, что обрабатывает) применяются везде, где поставщик их предлагает. Новая модель вводится только в том случае, если на тестовом наборе для вашей отрасли она показывает результаты не хуже текущей, а любая смена модели или поставщика требует утверждения вашей организацией перед релизом. Если у поставщика происходит сбой, аварийное переключение выполняется только на другого утверждённого поставщика в выбранном вами регионе, заранее протестированного и настроенного при внедрении.
Работа на вашей собственной инфраструктуре
Meta публикует модели Llama как модели с открытыми весами (модели, файлы которых выпускаются в открытый доступ, чтобы другие могли запускать их на собственной инфраструктуре). Поскольку файлы моделей опубликованы, эти модели могут работать на вашей собственной инфраструктуре, на оборудовании, которое контролируете вы. В развёртываниях на собственной инфраструктуре используются языковые модели с открытыми весами и локально развёрнутые речевые модели, а необходимые вычислительные мощности рассчитываются вместе с вами при внедрении.
Что может видеть модель
| Доступ | Для чего нужен | По умолчанию |
|---|---|---|
| Диалог, факты, полученные для ответа, и инструкции агента | Составление каждого ответа | Предоставляется для каждого ответа |
| Персональные данные, когда модель работает за пределами вашего региона | Не требуется | Заменяются маркерами-заменителями до того, как текст покинет ваше развёртывание |
| Прямой доступ к вашим системам | Не требуется | Не предоставляется. Получение данных и действия выполняются через программное обеспечение Telonic в пределах прав доступа, которые предоставила ваша команда |
| Ваши данные для обучения моделей поставщика | Не разрешено | Запрещено договором |
Какую бы модель вы ни выбрали, агент может выполнять только те действия, которые разрешила ваша команда. См. раздел Политики как ограничения.
На практике
Согласно политике дубайского застройщика Sahel Crest Properties, диалоги с клиентами обрабатываются только в его собственном центре обработки данных.
- Telonic и специалисты застройщика по инфраструктуре рассчитывают вычислительные мощности для развёртывания на собственной инфраструктуре, и для работы на собственном оборудовании застройщика выбирается модель Llama.
- Прежде чем агент начнёт работать с реальными клиентами, модель тестируется на диалогах застройщика о продажах и передаче объектов.
- Когда Hind спрашивает о своём очередном взносе, модель решает, как ответить, а сумма и срок оплаты подставляются непосредственно из CRM-системы застройщика.
- Позже более новая модель Llama тестируется на тех же диалогах и вводится в работу только после того, как застройщик утвердит это изменение.
См. также
- Языковые моделиИнтеграции
- Модели и поставщикиИИ-агенты
- Хостинг и локализация данныхБезопасность и защита данных
- Маскирование персональных данныхБезопасность и защита данных
- Тестирование перед каждым релизомУправление и контроль
Названия и логотипы продуктов являются товарными знаками соответствующих правообладателей. Их упоминание указывает на системы, к которым подключается Telonic, и не подразумевает аффилированности или одобрения.