Интеграция с YandexGPT

Интеграция с YandexGPT (Yandex Foundation Models) решает две задачи:

1) Автоматическое выставление значений в полях данных на основании проверки сообщения пользователя сервисом YandexGPT. Доступно заполнение кастомных полей обращения и пользователя типов «Список» и «Чекбокс», а также стандартного поля «Группа»;

2) Отправка собственных запросов в адрес YandexGPT для анализа: к примеру, можно переслать сообщение пользователя, чтобы затем использовать полученный от YandexGPT ответ в работе.

Содержание

Подключение интеграции

Шаг 1: Авторизуйтесь в консоли управления Yandex Cloud. 

Шаг 2: Убедитесь, что в рамках нужного каталога есть активный сервисный аккаунт с ролью "admin" или "editor" (предоставляющая права доступа на каталог и разрешения на операции) или создайте новый сервисный аккаунт с ролью "admin" или "editor", ориентируясь на видеоинструкцию ниже:

Шаг 3: Создайте API-ключ (Организация → Облако → Каталог → Сервисные аккаунты → Выбрать сервисный аккаунт → Создать новый ключ → Создать API-ключ) и скопируйте его.

Шаг 4: В аккаунте администратора в Омнидеске перейдите по пути: раздел «Настройки» → подраздел «Интеграции» → интеграция «YandexGPT». Задайте название подключаемой интеграции, выберите модель по умолчанию, пропишите API-ключ из консоли управления Yandex Cloud, который вы получили на втором шаге, и ID каталога.

Использование YandexGPT в правилах

После подключения интеграции с YandexGPT в правилах автоматизации в Омнидеске появляются новые условия и действия, которые помогут настроить работу интеграции по нужным вам сценариям.

Действия

Чтобы избежать дублирования запросов и, как следствие, нецелесообразного расхода токенов, каждое действие из категории «— интеграция с AI» может быть указано в рамках одного правила только один раз.

1) Автоматически определить «Группа»

Доступно в правилах для входящих и измененных обращений и отправляет стандартный запрос в адрес YandexGPT для анализа сообщения. На основе ответа YandexGPT автоматически определяется наиболее подходящее значение стандартного поля «Группа», которое затем выставляется в параметрах обращения:

• в правилах для входящих обращений для анализа отправляется текст первого сообщения в обращении;

• в правилах для измененных обращений для анализа отправляется текст последнего сообщения пользователя в обращении.

Пример работы правила:

2) Автоматически определить «Список / Чекбокс»

Доступно в правилах для входящих и измененных обращений и отправляет стандартный запрос в адрес YandexGPT для анализа сообщения. На основе ответа YandexGPT автоматически определяется наиболее подходящее значение кастомного поля обращения / пользователя типов «Список» и «Чекбокс», которое затем выставляется в параметрах обращения.

• в правилах для входящих для анализа отправляется текст первого сообщения в обращении;

• в правилах для измененных для анализа отправляется текст последнего сообщения пользователя в обращении.

Пример работы правила:

3) Отправить текстовый запрос в адрес AI

Доступно для использования во всех типах правил и отправляет в адрес YandexGPT написанный вами текстовый запрос + содержание сообщения пользователя или сотрудника, которое надо проанализировать. Вы можете указать нужное вам сообщение с помощью переменных:

• [case_description] — первое сообщение в обращении;

• [last_message] — последнее сообщение в обращении.

Полученный от YandexGPT ответ фиксируется Омнидеском только на время выполнения правила через переменную [ai_response_by_text_request]. Эту переменную можно использовать, чтобы через правило ответ AI:

• отправить пользователю;

• добавить в заметку;

• записать в поле обращения типа «текстовое поле» или «текстовая область».

Пример текстового запроса:

### Инструкция ### Переведи текст ниже на русский язык: Текст: "[last_message]"

Пример работы правила:

4) Отправить кастомный запрос в адрес AI

Доступно во всех типах правил и отправляет в адрес YandexGPT написанный вами кастомный запрос в формате JSON + содержание сообщения пользователя или сотрудника, которое надо проанализировать. Вы можете указать нужное вам сообщение с помощью переменных:

• [case_description] — первое сообщение в обращении;

• [last_message] — последнее сообщение в обращении.

Полученный от YandexGPT ответ фиксируется Омнидеском только на время выполнения правила через переменную [ai_response_by_custom_request]. Эту переменную можно использовать, чтобы через правило ответ AI:

• отправить пользователю;

• добавить в заметку;

• записать в поле обращения типа «текстовое поле» или «текстовая область».

В кастомных запросах можно использовать дополнительные параметры, чтобы адаптировать работу модели под конкретные задачи:

• stream — режим генерации ответа сервисом YandexGPT. Рекомендуем установить значение "false", чтобы получать полные и законченные ответы через переменную [ai_response_by_custom_request]. При включении значения "true" ответы передаются в потоковом режиме, то есть возвращаются частями по мере их генерации;

• temperature — уровень креативности модели, значение от 0,1 до 1. Для точных ответов обычно рекомендуется значение 0,3−0,5, при этом, если хотите, чтобы ответы были полезными, но не занудными, можете попробовать повысить значение до 0,7−0,8;

• maxTokens — максимальная длина ответа в токенах. Указание данного параметра помогает контролировать длину генерируемых ответов и тем самым оптимизировать затраты.

Также в тексте запроса вы можете указать языковую модель, если хотите использовать отличную от выбранной при подключении интеграции. Модель AI-сервиса, указанная непосредственно в теле кастомного запроса, имеет приоритет над моделью, заданной в настройках интеграции.

Пример текста кастомного запроса:

{
  "modelUri": "gpt://[идентификатор_каталога]/yandexgpt/rc",
  "completionOptions": {
    "stream": false,
    "temperature": 0.5,
    "maxTokens": "100"
  },
  "messages": [
    {
      "role": "system",
      "text": "Ты выступаешь в роли аналитика текста."
    },
    {
      "role": "user",
      "text": "Определи два ключевых словосочетания в: [last_message]."
    }
  ]
}

Пример работы правила:

Условия

1) Изменения выполнены — интеграцией с AI-сервисом

Доступно в правилах для измененных обращений как опция в условии «Изменения выполнены». С помощью этого условия можно отслеживать изменения в полях обращения, которые произошли вследствие выполнения действий из категории «— интеграция с AI», доступных в правилах для входящих обращений.

а) Если в правиле есть условие «Изменения выполнены — интеграцией с AI-сервисом» + условие по отслеживанию изменения значения в одном из полей данных, то между этими условиями работает логический оператор «И» — то есть правило сработает, только если указанное изменение было выполнено AI-сервисом.

Если же изменение поля было выполнено сотрудником, пользователем или другим правилом без участия AI, то правило НЕ сработает.

Поясним на конкретном примере. У вас есть правило для измененных обращений, в условиях которого указано, что оно должно срабатывать при смене значения кастомного поля «Категория обращения», если эти изменения выполнены AI.

Также у вас есть два правила для входящих обращений, которые выполняют изменение поля «Категория обращения». Но одно из них делает это через запрос в адрес YandexGPT, который в ответ подбирает нужное значение для этого поля, а второе изменяет значение поля через стандартное действие «Изменить [название кастомного поля]».

В первом случае ваше правило для измененных сработает, а во втором — нет.

б) Чтобы избежать зацикливания, вместе с условием «Изменения выполнены — интеграцией с AI-сервисом» нельзя одновременно использовать действие из категории «— интеграция с AI». Также надо обязательно выбрать одно из условий из категории «— изменения в обращении», чтобы правило отслеживало конкретные изменения, а не любое изменение в обращении.

в) При выборе условия «Изменения выполнены — кем угодно» нет возможности выбрать АI-действия.

2) Символов в содержании / последнем ответе пользователя

Доступно во всех типах правил и позволяет отслеживать размер сообщения пользователя. Это нужно, чтобы учесть ситуации, когда правила, выполняющие запросы в адрес YandexGPT, НЕ должны срабатывать. Например, нет смысла отправлять в адрес YandexGPT сообщение из чата, которое точно не содержит ничего полезного («Здравствуйте», «Есть вопрос» и т. д.).

Вы можете выбрать подсчет символов как только для текста, так и с учетом тегов html.

• В правилах для входящих обращений условие проверяет размер первого сообщения пользователя, поэтому оно называется «Символов в содержании — более / менее / равно»:
  

• В правилах для измененных и текущих обращений условие проверяет последнее сообщение пользователя, поэтому оно называется «Символов в последнем ответе пользователя — более / менее / равно»:

Особенности записи истории действий в обращении

Процесс полного выполнения правила автоматизации, включающего действия из категории «— интеграция с AI», занимает время. Продолжительность зависит от нескольких факторов:

• количества действий в правиле;

• объема передаваемых данных;

• скорость ответа сторонних сервисов;

• числа обращений, в которых одновременно отрабатывает правило.

Операции — отправка запросов в адрес YandexGPT, получение ответов от YandexGPT, внесение изменений в соответствующие обращения — выполняются в фоновом режиме. Поэтому история AI-действий фиксируется в обращении также поэтапно, по мере выполнения самих действий.

В записях в истории обращения о выполнении AI-действий мы отображаем статус выполнения запроса, пока он в процессе, а после успешного выполнения — количество потраченных токенов.

Отключение и удаление интеграции

Если в аккаунте более одной активной интеграции с AI, при отключении / удалении интеграции администратору мы предложим выбрать:

а) заменить отключаемую интеграцию с AI в правилах на одну из оставшихся:

б) удалить все действия правил, связанных с отключаемой интеграцией AI:

---

Расскажите нам, как вы используете интеграцию с AI в работе. Если это может быть полезно ещё кому-нибудь, мы обязательно напишем об этом :)