Ответственное использование ИИ

Когда ИИ-агент говорит от имени вашей компании, важно, чтобы ваши клиенты могли доверять тому, что он говорит, понимали, с кем имеют дело, и могли связаться с сотрудником, когда захотят. А вашим специалистам по рискам и комплаенсу важно видеть, почему агент поступил именно так. Там, где это возможно, Telonic встраивает эти обязательства в саму структуру ИИ-агента, например в то, какие действия к нему подключены, а остальное тестирует перед каждым релизом. На этой странице описано каждое обязательство и объясняется, как оно работает и что контролирует ваша команда.

Агент сообщает, что он ИИ-агент

Агент сообщает клиентам, что он ИИ-агент, и предлагает связаться с сотрудником. Клиент, который просит поговорить с сотрудником, передаётся вашей команде по заданным вами правилам передачи диалога вместе с историей диалога до этого момента, поэтому ему не приходится начинать заново. Клиент, который знает, с кем говорит, и получил ответ, обслужен гораздо лучше, чем тот, кто позже почувствует, что его ввели в заблуждение.

Ответы основаны на ваших утверждённых источниках

Всё, что может создать для вас обязательство, берётся из ваших систем и утверждённых документов, а не генерируется языковой моделью (компонентом ИИ, который интерпретирует диалог и составляет ответ). Цены, условия полисов, права клиентов, даты и обязательства извлекаются из ваших систем и утверждённых документов во время диалога. Суммы и даты подставляются непосредственно из записи в вашей системе, а не перепечатываются моделью. Если информации нет в ваших источниках, ИИ-агент так и говорит и предлагает связаться с сотрудником.

Языковая модель решает, как выразить полученную информацию: формулировки, порядок изложения и нужно ли сначала задать уточняющий вопрос. Темы, которые вы исключаете из охвата, например юридические или инвестиционные консультации, отклоняются и передаются сотруднику, в том числе если вопрос переформулирован. Соблюдение этих границ тестируется перед каждым релизом. См. раздел Как работает ИИ-агент.

Решения, которые должны принимать люди, остаются за вашей командой

Некоторые решения в любом развёртывании остаются за вашими сотрудниками. В страховании ИИ-агент не оценивает ответственность, не определяет сумму страхового возмещения и не утверждает и не отклоняет выплату по убытку. Действия, с помощью которых принимались бы такие решения, вообще не подключены к ИИ-агенту, поэтому у него нет возможности их принять, как бы клиент ни сформулировал запрос.

Там, где ИИ-агент может действовать, он действует в пределах значений, которые допускают ваши правила. Действия, которые вы отмечаете как требующие утверждения, ИИ-агент подготавливает и откладывает, пока сотрудник вашей команды их не утвердит. См. раздел Границы принятия решений.

Люди контролируют работу ИИ-агента

Ваша команда определяет, когда ИИ-агент передаёт диалог сотруднику. Эскалация сочетает правила, заданные для каждого типа вопросов, с порогом уверенности (мерой того, насколько модель уверена в ответе), который измеряется для модели до развёртывания: ниже этого порога ответ, имеющий существенные последствия, передаётся сотруднику. Сотрудник, принимающий диалог, получает сводку диалога, поэтому клиенту не приходится повторяться. См. разделы Контроль со стороны человека на практике и Правила эскалации.

Клиенты, которые могут находиться в уязвимом положении

Маршрутизация клиентов в уязвимом положении настраивается при внедрении. ИИ-агент распознаёт признаки того, что клиент может находиться в уязвимом положении или в тяжёлом эмоциональном состоянии, например упоминание о тяжёлой утрате, серьёзной болезни или финансовых трудностях, и передаёт такого клиента сотруднику вместе со всем диалогом. Ваша команда решает, какие признаки запускают передачу диалога и кто его принимает.

Каждый клиент получает ответ по одному и тому же стандарту

Ответ клиенту не должен зависеть от времени суток, канала или того, кто случайно взял трубку. ИИ-агент отвечает каждому клиенту на основе одних и тех же источников, по одним и тем же правилам, на арабском, английском и любом другом языке, на котором он работает. Соответствие условиям, цены и права клиентов определяются вашими системами и вашими правилами, а не суждением ИИ-агента о клиенте, поэтому применяемые факты и правила не зависят от того, кто спрашивает и когда.

Тестирование перед релизом

Перед релизом и перед вводом в работу любого изменения ИИ-агент тестируется на диалогах из практики вашей отрасли, а результаты оцениваются по тому, что в этой отрасли считается правильным исходом. Тесты включают запросы, которые следует отклонить или передать сотруднику, а также те, которые следует обработать ИИ-агенту. Новая модель внедряется, только если на этих тестах она работает как минимум не хуже той, которую заменяет. См. раздел Тестирование перед каждым релизом.

Каждое действие можно объяснить

Каждый запрос, каждое получение данных, каждое решение и каждая передача диалога регистрируются в журнале вместе с использованными источниками, применённым правилом или триггером и указанной ИИ-агентом причиной. Когда клиент, ваши аудиторы или регулятор спрашивают, что сделал ИИ-агент и почему, вы можете это показать. См. раздел Журнал аудита и записи о решениях.

Данные ваших клиентов

Данные ваших клиентов используются только для предоставления вашего сервиса. Договоры со всеми поставщиками моделей запрещают использовать ваши данные для обучения или улучшения моделей этих поставщиков, а договорённости о нулевом хранении данных (zero data retention) применяются везде, где поставщик их предлагает.

Прежде чем данные покинут ваше развёртывание и будут переданы куда-либо, кроме ваших собственных систем и ваших собственных клиентов, персональные данные в них маскируются. Вся обработка данных выполняется в выбранном вами регионе, если только вы явно не выберете поставщика языковой модели за его пределами. См. раздел Маскирование персональных данных.

Если клиент не согласен с результатом

Клиент может попросить связать его с сотрудником в любой момент диалога. Поскольку решения, которые его касаются, принимаются по вашим правилам и вашими сотрудниками, клиент, не согласный с результатом, обращается в рамках вашего собственного процесса рассмотрения жалоб и пересмотра решений, как и сегодня. У вашей команды есть весь диалог, использованные источники и указанная ИИ-агентом причина, на основе которых можно рассмотреть обращение.

Принципы в ОАЭ и Саудовской Аравии

Государственные органы ОАЭ и Саудовской Аравии опубликовали принципы этичного использования ИИ, охватывающие такие темы, как прозрачность, подотчётность, справедливость и контроль со стороны человека. На этой странице описано, как работает продукт, чтобы ваши собственные команды могли оценить его с точки зрения этих принципов и любой вашей собственной политики.

На практике

Страховая компания Wadi Assurance развёртывает ИИ-агента на своей линии урегулирования убытков.

1. Страхователь Huda звонит по поводу убытка своего покойного мужа по автострахованию. Агент представляется ИИ-агентом Wadi Assurance и говорит, что она может попросить связать её с сотрудником.
2. Она спрашивает о статусе урегулирования убытка. Агент сообщает статус по данным системы урегулирования убытков вместе с именем эксперта-оценщика, который занимается убытком.
3. Она упоминает о смерти мужа. Срабатывает признак уязвимости, настроенный страховщиком, и ИИ-агент передаёт её старшему специалисту по урегулированию убытков вместе со всем диалогом.
4. Старший специалист принимает диалог, не прося Huda ничего повторять.
5. Через несколько недель служба комплаенса проверяет этот диалог. Журнал аудита показывает источник статуса, признак, запустивший передачу диалога, и время, когда это произошло.

Что контролирует ваша команда

• Источники, на основе которых отвечает ИИ-агент, и темы, которые он отклоняет.
• Решения, которые остаются за вашей командой, и действия, требующие утверждения.
• Правила эскалации и признаки, по которым клиент передаётся сотруднику.
• Кто принимает каждый передаваемый диалог.

См. также

• Границы принятия решенийУправление и контроль
• Контроль со стороны человека на практикеУправление и контроль
• Журнал аудита и записи о решенияхУправление и контроль
• Как работает ИИ-агентИИ-агенты
• Правила эскалацииУправление и контроль