Занятие 4
промпты, агенты
и тестирование нейро-техподдержки
Подписывайтесь на наш Телеграм канал, чтобы не пропустить следующие бесплатные курсы по AI
Новости из мира AI
Разбор новых технологий
Мини-уроки
Кейсы внедрения AI в бизнес и др.
1
После подготовки базы данных команда AI разработчиков перешла к следующему этапу — разработке промптов и созданию специализированных агентов для нейро-техподдержки. Основная задача — научить AI понимать, что хочет клиент: заказать запчасть, узнать о наличии, получить консультацию по подбору или решить другой вопрос. Для этого команда решила создать несколько агентов, каждый из которых будет отвечать за свою часть процесса.

Алексей Петров — Project Manager (PM)
  • Координирует процесс, следит за сроками и решает организационные вопросы.
Мария Иванова — Промпт-инженер
  • Отвечает за настройку промптов и обучение агентов.
Дмитрий Соколов — LLM разработчик
  • Занимается интеграцией модели и настройкой архитектуры агентов.
Разработка промптов
Промпты — это специальные инструкции, которые помогают AI понимать, что хочет клиент, и давать точные ответы. Команда решила разработать несколько типов промптов для разных задач.

Марии нужно создать промпты для следующих сценариев:
  1. Выявление потребности: AI должен понять, что хочет клиент — заказать запчасть, узнать о наличии или получить консультацию.
  2. Подбор запчастей: AI должен подобрать запчасти на основе модели автомобиля и других параметров.
  3. Проверка наличия: AI должен проверить наличие запчастей на складе.
  4. Маршрутизация: AI должен перенаправлять запросы между агентами или на специалистов, если запрос слишком сложный."*

Мария Иванова
Промпт-инженер
Мы будем использовать intent detection — технологию, которая позволяет AI определять намерение клиента на основе его запроса. Например, если клиент пишет: "Какие запчасти подходят для Toyota Camry 2015 года?", AI должен понять, что это запрос на подбор запчастей.
Подписывайтесь на наш Телеграм канал, чтобы не пропустить следующие бесплатные курсы по AI
Новости из мира AI
Разбор новых технологий
Мини-уроки
Кейсы внедрения AI в бизнес и др.
1
оставьте заявку на курс по AI
Подберем программу под ваши цели
Продолжительность курса 6 месяцев
1
Не упустите возможность освоить востребованную профессию будущего
Стоимость от 4 719 руб. в месяц
Гарантия трудоустройства
Создание агентов и выбор модели
Для эффективной работы нейро-техподдержки команда решила создать несколько агентов, каждый из которых будет отвечать за свою часть процесса.

Агент выявления потребности:
  • Определяет, что хочет клиент, и направляет запрос соответствующему агенту.
Агент подбора запчастей:
  • Подбирает запчасти на основе модели автомобиля и других параметров.
Агент проверки наличия:
  • Проверяет наличие запчастей на складе и сообщает клиенту.
Агент маршрутизации:
  • Перенаправляет запросы между агентами или на специалистов, если запрос слишком сложный.
Для подбора запчастей команда будет использовать архитектуру RAG (Retrieval-Augmented Generation). Это технология, которая позволяет AI не только генерировать ответы, но и извлекать информацию из базы данных. Мы разобьем данные на чанки (фрагменты), где каждый чанк будет содержать информацию о конкретной запчасти. Например, один чанк — одна запчасть с ее характеристиками и совместимостью. Это позволит AI быстро находить нужную информацию и давать точные ответы.

Выбор модели

Команда решила использовать GPT-4 mini — облегченную версию GPT-4, которая отлично подходит для задач, связанных с пониманием и генерацией текста. GPT-4 mini менее ресурсоемкая, но при этом сохраняет высокую точность.

Дмитрий Соколов
LLM разработчик
GPT-4 mini идеально подходит для нашего проекта. Она достаточно мощная, чтобы справляться с нашими задачами, и при этом не требует больших вычислительных ресурсов. Кроме того, она поддерживает fine-tuning, что позволит нам адаптировать модель под наши нужды. Почему именно GPT-4 mini, а не полноценная GPT-4? GPT-4 mini дешевле в использовании и быстрее работает.
Процесс тестирования
После разработки промптов и создания агентов команда приступила к тестированию нейро-техподдержки. Это важный этап, так как он позволяет выявить и устранить ошибки до внедрения системы.

1. Тестирование на исторических данных:
  • Команда использовала исторические данные о запросах клиентов, чтобы проверить, как AI справляется с реальными задачами.

Мария Иванова
Промпт-инженер
Мы протестировали AI на 1000 запросов. В 85% случаев он дал правильные ответы. Это хороший результат, но нам нужно улучшить точность.
2. Тестирование на сложных запросах:
  • Команда создала несколько сложных запросов, чтобы проверить, как AI справляется с нестандартными ситуациями.

Дмитрий Соколов
LLM разработчик
Например, если клиент пишет: "Мне нужна запчасть для машины, но я не знаю точную модель", AI должен задать уточняющие вопросы, чтобы понять, что нужно клиенту.
3. Обратная связь от сотрудников:
  • Команда привлекла сотрудников AutoPartsHub для тестирования системы и получения обратной связи.

Алексей Петров
Project Manager (PM)
Сотрудники отметили, что AI хорошо справляется с простыми запросами, но иногда ошибается в сложных случаях. Это нужно исправить.
Возникшая сложность и ее решение
Во время тестирования команда столкнулась с проблемой: AI иногда давал неправильные рекомендации по подбору запчастей. Например, он мог предложить запчасть, которая не подходит для конкретной модели автомобиля.

Мария Иванова
Промпт-инженер
Это серьезная проблема. Если AI будет давать неправильные рекомендации, это может привести к потере клиентов.

Дмитрий Соколов
LLM разработчик
Мы можем улучшить точность, добавив больше данных о совместимости запчастей и автомобилей. Также мы можем использовать контекстное обучение, чтобы AI учитывал больше параметров при подборе запчастей.

Алексей Петров
Project Manager (PM)
Давайте внесем эти изменения и проведем повторное тестирование.
После внесения изменений точность AI увеличилась до 92%. Это позволило команде перейти к следующему этапу — интеграции системы в production.

Итог работы
Команда успешно разработала промпты, создала агентов и протестировала нейро-техподдержку. Теперь система готова к интеграции в бизнес-процессы AutoPartsHub.
оставьте заявку на курс по AI
Подберем программу под ваши цели
Продолжительность курса 6 месяцев
Не упустите возможность освоить востребованную профессию будущего
Стоимость от 4 719 руб. в месяц
Гарантия трудоустройства
1
Занятие 5
Интеграция в Production и итоги проекта