ИИ-агенты
Политики как ограничения
Почему ваши правила обеспечиваются самими возможностями ИИ-агента, а не инструкциями, которым его просят следовать, шесть способов превратить правило в ограничение и что проверяется, а не исключается.
На этой странице
В каждой организации есть правила о том, что можно предложить клиенту: структуры цен, лимиты утверждения, сборы, права клиентов, то, что не делается никогда. Во многих системах ИИ эти правила записаны в виде инструкций в тексте, который читает модель, а значит, их соблюдение зависит от того, следует ли им модель. Telonic встраивает ваши правила в сами возможности агента: если ваша политика ограничивает ваучер на питание суммой 75 AED, у ИИ-агента нет никакой возможности выдать ваучер на большую сумму, как бы ни был сформулирован запрос. Именно поэтому разумно позволить ИИ-агенту действовать от вашего имени.
Правило как инструкция и правило как ограничение
Если правило записано в виде инструкции, модель просят его соблюдать. Обычно она так и делает. Но модель формирует ответ на основе всего, что есть в диалоге, и убедительный, необычный или искусно сформулированный запрос может привести к тому, что она напишет то, чего инструкция не допускала. Если действие, которое она затем вызывает, принимает любое значение, ничто её не остановит.
Правило, встроенное как ограничение, работает иначе. Агент выбирает из определённого набора действий, и каждое действие принимает только те значения, которые допускает ваша политика. Значение за пределами этого набора выбрать невозможно. Клиент может изменить то, как агент формулирует ответ, но не то, что агент способен сделать.
| Правило как инструкция | Правило как ограничение | |
|---|---|---|
| Где находится правило | В тексте, который читает модель | В действиях и значениях, доступных агенту |
| Что определяет результат | Следует ли модель тексту | Входят ли действие и значение в разрешённый набор |
| Что может изменить переформулировка запроса | Потенциально результат | Только формулировку ответа |
| Как это проверить | Тестированием множества формулировок, без возможности охватить их все | Изучением разрешённого набора и его тестированием |
| Что показывает запись | Что написала модель | Действие, значение и правило, которое его разрешило |
Шесть способов превратить правило в ограничение
Во время внедрения ваша команда и Telonic разбирают ваши правила одно за другим и решают, как встроить каждое из них в развёртывание. Большинство правил реализуются одним или несколькими из следующих способов.
| Механизм | Что это означает | Пример |
|---|---|---|
| 1. Разрешённые действия | Агент может выполнять только подключённые к нему действия. Неподключённое действие выполнить невозможно | Агент может перенести показ, но у него нет действия, отменяющего бронирование |
| 2. Разрешённые значения | Каждое действие принимает только значения, которые допускают ваши правила | Перебронирование только на рейсы, которые допускает тариф пассажира. Расчёт стоимости страхования только в пределах ваших правил тарификации |
| 3. Действия, недоступные агенту | Решения, которые относятся к компетенции ваших сотрудников, вообще не подключены к агенту | Нет действия, которое позволило бы утвердить выплату по убытку или отказать в ней либо оформить возврат вне рамок политики |
| 4. Этапы утверждения | Действия, которые вы отметили как требующие утверждения, агент подготавливает, но не выполняет, пока их не утвердит сотрудник | Компенсация в знак доброй воли подготавливается с указанием причины и ожидает решения супервайзера |
| 5. Значения из ваших систем | Условия извлекаются из ваших систем, поэтому агент не может составить собственные | План платежей считывается из ваших структур. Действия для создания нового плана нет |
| 6. Цифры из записи | Суммы и даты в ответе подставляются из записи в системе, а не перепечатываются моделью | Сумма очередного платежа, которую слышит покупатель, и есть сумма из вашей платёжной системы |
Шестой способ закрывает пробел, который оставляют остальные. Даже если цифра получена правильно, модель, перепечатывая её в предложение, могла бы её исказить. В ответе Telonic языковая модель (компонент ИИ, который составляет ответ) пишет предложение, а сама цифра подставляется из записи.
Технические подробности
Каждое подключение к вашим системам предоставляет определённый набор действий через API (интерфейс, через который одна система запрашивает у другой информацию или действия). У каждого действия есть собственное право доступа, которое настраивается вместе с вашей ИТ-службой, и собственные разрешённые значения. Доступ на чтение и доступ на запись предоставляются отдельно. См. раздел Права доступа.
Эти ограничения обеспечиваются программным обеспечением Telonic вне языковой модели: модель может предложить действие, но оно выполняется, только если само действие и его значения входят в разрешённый набор. Действие за пределами набора не выполняется, и диалог дальше идёт по правилу эскалации, которое вы задали для такого случая. Каждое действие, его значения и применённое правило фиксируются в журнале. См. раздел Журнал аудита и записи о решениях.
Ограничение применяется именно так, как оно задано. Поэтому проверка ваших ограничений при внедрении, а также каждого последующего изменения, так же важна, как и сами ограничения. См. раздел Как изменения вводятся в работу.
Что проверяется, а не исключается
Некоторые правила касаются того, что агент говорит, а не того, что он делает. Запрет на темы, которые агент не обсуждает, например юридические или инвестиционные консультации, обеспечивается проверкой каждой реплики в диалоге. Вопрос на тему вне охвата отклоняется и передаётся сотруднику, в том числе если он переформулирован.
Это проверка, а не исключение на уровне архитектуры, и мы так её и называем. Языковая модель в принципе могла бы написать текст на любую тему, поэтому соблюдение охвата обеспечивается проверкой каждой реплики и тестируется перед каждым релизом на переформулированных и косвенных вариантах вопросов, которые вы исключили из охвата. См. раздел Тестирование перед каждым релизом.
Тон и формулировки формируются так же: проектированием каждого диалога и проверками после него. Каждый диалог оценивается по вашему стандарту качества, а диалоги можно проверять на соответствие правилам комплаенса, которые задаёт ваша команда и которые настраиваются при внедрении. См. разделы Проверка качества каждого диалога и Отметки о нарушениях правил комплаенса.
| Что делает агент | Как это обеспечивается |
|---|---|
| Выполняет действие в ваших системах | Ограничение: существуют только разрешённые действия |
| Использует в действии значение, например сумму или дату | Ограничение: принимаются только разрешённые значения |
| Называет цифру из ваших систем | Ограничение: цифра подставляется из записи |
| Принимает решение, которое относится к компетенции вашей команды | Ограничение: действие агенту недоступно |
| Обсуждает тему | Проверка каждой реплики, тестирование перед каждым релизом |
| Выбирает тон и формулировки | Проектирование диалога, проверка каждого диалога |
Откуда берутся ваши правила
Многие ваши правила уже хранятся в ваших системах. Тарифные правила находятся в системе бронирования, структуры платежей в системе управления недвижимостью, а правила тарификации в системе администрирования полисов. В таких случаях агент считывает их оттуда, поэтому ограничение остаётся актуальным при изменениях в вашей системе.
Правила, которые содержатся в документах о политиках, например лимит ваучера или порог для компенсаций в знак доброй воли, задаются в вашем развёртывании при внедрении. Позже ваша команда может изменить их с помощью средств контроля, которые есть у неё в консоли (веб-приложении Telonic, которым пользуется ваша команда), и каждое изменение тестируется до ввода в работу. См. раздел Средства контроля, которые остаются у вашей команды.
На практике
Авиакомпания Rimal Air использует ИИ-агента Telonic для работы с пассажирами, которых затронули задержки и отмены рейсов.
- Поздно ночью отменяют рейс в Маскат. Tariq, который летит с женой и дочерью, пишет в авиакомпанию.
- Агент находит бронирование и считывает тарифные правила из системы бронирования. Он предлагает два рейса на следующее утро, которые допускает тариф. Tariq выбирает один из них, и билет переоформляется.
- Tariq просит больше, чем ваучер на питание. Агент выдаёт три ваучера на сумму лимита, установленного политикой: это максимум, который он может выдать.
- Он просит вернуть всю стоимость билета наличными. Тарифные правила этого не допускают, и у агента нет действия, которым можно было бы оформить такой возврат. Агент прямо говорит ему об этом и передаёт запрос дежурной группе вместе со сводкой.
- Дежурная группа утверждает компенсацию в знак доброй воли: это решение остаётся за ней. Запись в журнале аудита показывает каждое действие, значение и правило, которое его разрешило или запретило.
Что контролирует ваша команда
- Действия, которые агент может выполнять в каждой системе, и значения, которые принимает каждое из них.
- Какие действия ожидают утверждения сотрудником и кто их утверждает.
- Темы, которые агент никогда не обсуждает.
- Что происходит, если запрос выходит за пределы ограничений: кто его получает и по какому каналу.