AI-обработка
AI-обработка позволяет выполнить дополнительный запрос к языковой модели. Это дает возможность анализировать запросы пользователей, модифицировать ответы бота или извлекать структурированные данные из диалогов.
Настройка AI-обработки
- В настройках навыка перейдите в раздел Пре-процессинг или Пост-процессинг
- Добавьте функцию "AI-обработка"
- Напишите промпт для обработки с использованием Jinja-шаблонов
- Настройте формат запроса
- Выберите модель
- Настройте формат ответа
Доступные переменные в Jinja-шаблонах
| Переменная | Описание | Доступность |
|---|---|---|
{{history}} | История сообщений | Всегда |
{{query}} | Запрос пользователя | Всегда |
{{plugins_info}} | Информация об использовании плагинов | Всегда |
{{embeddings_chunks}} | Результат поиска по контексту | Если был поиск |
{{result_llm}} | Необработанный ответ LLM | Только в пост-обработке |
{{processed_message}} | Ответ предыдущей функции обработки | После первой функции |
Пример AI-обработки
Промпт:
Проанализируй запрос пользователя и определи его цель.
История сообщений: {{history}}.
Запрос: {{query}}.
Результат поиска по контексту: {{embeddings_chunks}}.
Формат ответа:
Запрос: {{query}}. Необработанный ответ: {{result_llm}}. Финальный ответ: {{result}}.
Важно
Если запрос содержит тег <SKIP>, фактический вызов LLM не будет осуществляться.