Большие языковые модели (LLM) уже успели наделать шуму и заметно повлиять на рынок. Работники из совершенно разных профильных областей делегируют заметную часть своей рутины искусственному интеллекту, а иногда и работодатели заменяют некоторых наемных сотрудников нейросетями. Но сам ИИ тоже не стоит на месте, и возможности его использования расширяются с каждым днем.

Сейчас на смену простым чат-ботам приходят ИИ-агенты — более сложные и автономные сущности, способные не просто отвечать на вопросы, но и планировать действия, вызывать инструменты и принимать решения. В этой статье мы поговорим о кейсах применения ИИ-агентов, уже влияющих на бизнес, и разберем практические рекомендации по их внедрению.

ИИ-агенты строятся вокруг LLM, но обладают дополнительными возможностями: они умеют декомпозировать задачи, выстраивать планы, запрашивать и анализировать данные, взаимодействовать с API и с другими системами.

Например, если мы используем обычный кодовый ассистент на основе LLM, он дает нам простейшие подсказки. Он распознает цикл for, определяет, что это именно цикл, и предлагает от себя какие-то управляющие конструкции. При этом он не проверяет, работает ли код и какая там смысловая нагрузка — он просто предполагает, что следующие слова будут релевантны в этом контексте.

В свою очередь, ИИ-агент может не только сгенерировать релевантные слова, но и скомпилировать написанный код. Он самостоятельно проверяет вывод кода или ошибку компиляции, и при необходимости вносит исправления. Иными словами, агент не просто пытается писать слова, которые кажутся ему уместными в конкретном контексте. Он сам взаимодействует с окружающей средой, получает от нее фидбэк и корректирует как текст, так и план выполнения запроса.

Стандарт MCP (Model Context Protocol) позволяет таким агентам взаимодействовать практически с любыми внешними инструментами — с календарями, базами данных или даже другими агентами. Соответственно, окружающую среду агента можно кастомизировать под самые разные цели.

Один из инструментов, которыми может пользоваться ИИ-агент — это RAG, или Retrieval-Augmented Generation, «генерация с дополнением извлеченной информации». На нем я предлагаю остановиться чуть подробнее.

RAG позволяет модели генерировать текст ответа не только на основе данных, на которых она обучалась; вместо этого она может выполнить поиск по внешним источникам (например, по корпоративной базе знаний). Если попросить модель дать ответ на основе этих источников, то она изучит доступные данные, и либо найдет там ответ, либо скажет что-то в духе «простите, я не знаю, такого ответа в заданном контексте нет».

Правда, у классического RAG есть ряд недостатков:

Однако современные ИИ-агенты используют RAG как один из возможных инструментов, а не как единственную доступную механику. Это значит, что при необходимости система может поискать данные в базе знаний с помощью RAG, может посчитать на калькуляторе, может запустить код, и при всем этом не забудет контекст. ИИ-агент сам решит, нужно ли ему использовать RAG, чтобы лучше ответить на запрос человека.

У такого подхода есть два заметных плюса:

RAG используется много где, ниже я расскажу о его применении в реальных кейсах.

Мы начали с кодовых ассистентов. Собрали инициативную группу разработчиков, которые хотели попробовать ИИ в работе, купили им аккаунты, настроили доступ и разрешили экспериментировать.

Ребята тестировали Cursor, Claude Code, GitHub Copilot, Yandex Code Assistant, Codeium и GigaChat. Какие-то решения подходили лучше, какие-то хуже; разработчики делились опытом друг с другом и выбирали оптимальные решения под конкретные задачи. Сейчас половина команды KTS использует ассистентов, автоматизируя генерацию кода, тестов и архитектурных диаграмм.

Для оценки результатов мы решили посмотреть, какую долю задач разработчики решают с помощью кодовых ассистентов. В ноябре 2024 года мы собрали внутреннюю статистику. При закрытии задачи разработчики указывали, использовали ли они ИИ во время ее выполнения. Результаты получились следующие:

То есть в 70% случаев ребята применяли кодовый ассистент. Стоит учитивать, что это ноябрьская статистика — с тех пор модели только поумнели. Доля задач, решаемых с помощью ИИ, сейчас стала еще выше.

Также мы используем ИИ для выполнения ряда рутинных администраторских и менеджерских задач. Для этого мы пользуемся и коробочными, и кастомными решениями.

Например, мы реализовали и тестируем ассистент BI, который взаимодействует с Redash через MCP. Менеджер может описать агенту на русском языке, какой отчет он хочет получить, агент самостоятельно запросит необходимые данные из Redash и предоставит менеджеру готовую инфографику.

Мы решили протестировать ассистент BI на нашем фановом некоммерческом проекте — на дейтинг-боте для студентов. Для этого мы задали ассистенту вопрос: «Какие продуктовые метрики можешь посчитать для дейтинг-бота?», и ассистент самостоятельно выбрал перечень необходимых метрик. В ответе он предоставил инфографику соотношения мужчин и женщин, активные показатели, распределение по курсам.

Причем ассистент не просто передал нам ответы Redash. Он интерпретировал полученные данные и сделал выводы из них, подсветил точки роста, куда стоит приложить усилия. Само собой, ассистент не забыл упомянуть и гендерный дисбаланс, главную проблему любых дейтингов. И заметьте, никто не говорил ему делать, его спросили только о метриках.

Заменить операторов поддержки языковой моделью нам тоже удалось.

Перед тем, как перейду к кейсу, дам немного контекста. Один из продуктов KTS — это конструктор чат-ботов Smartbot. Среди прочего, он предлагает решение Smartbot AI (ИИ-ассистент, которого можно подключить к чат-боту). Наши заказчики используют его для автоматизации взаимодействия со своими клиентами.

Одна из компаний-пользователей Smartbot занимается производством бетона. Раньше менеджеры этой компании отвечали посетителям сайта в реальном времени, проводили первичную консультацию, выявляли потенциальных лидов и запрашивали их телефон.

Слабое место такого процесса — время. Живой менеджер может отвечать дольше, чем потенциальный клиент готов ждать. Если пользователь отправил запрос в чат и долго не видит никакой активности, он уходит.

Компания решила подключить Smartbot AI. Решение получилось внедрить быстро и без затруднений: настроить модель на задачу «получить номерок» не так сложно, а у заказчика была обширная база знаний по взаимодействию с клиентами, к которой мы подключили агента с помощью RAG. И функцию дежурного менеджера взял на себя ИИ-ассистент.

Выглядит это примерно так:

В результате Smartbot AI полностью заменил операторов, которые перевелись в отдел продаж, а конверсия в заказы выросла с 38% до 55%.

Наша следующая цель по внедрению ИИ — переложить на плечи агента рутину по поддержке инфраструктуры.

Значительная часть поддержки четко регламентирована. Получил алерт, подтвердил наличие проблемы, провел диагностику, нашел решение в базе знаний и применил его. Если решение не помогло, то эскалировал на дежурного. Довольно ограниченный скоуп понятных задач.

Мы хотим передать эти задачи ИИ-агенту. В пилоте это будет ассистент, который по алерту сам диагностирует проблему, на основе ранбуков из базы знаний находит решение и передает его через таск-трекер инженеру мониторинга вместе с полным контекстом инцидента.

Соответственно, инженер мониторинга сможет оценить, корректно ли найденное решение. Далее уже он выберет, как поступить: применить предложенное решение, если оно верно, или самостоятельно провести диагностику и прокомментировать ошибки, допущенные ИИ-агентом, чтобы модель обучалась на этих данных.

Основная проблема, с которой мы столкнулись — вопрос информационной безопасности. Чтобы обеспечить полную сохранность чувствительных данных, придется разворачивать свою внутреннюю модель, и тут уже встает вопрос об экономической целесообразности.

Наши коллеги по цеху, Cloud.ru, тоже делились своим кейсом внедрения ИИ-агентов в свои процессы. В их поддержку постоянно приходят вопросы клиентов, требующие глубоких специализированных знаний (например, «как добавить SSH-ключ?»). Очевидно, штат квалифицированных операторов поддержки стоит больших денег. Точка роста в этом случае — реализация ассистента, который сможет отвечать на вопросы на основе базы знаний.

Cloud.ru сделали ассистента на основе двух моделей: на своей проприетарной GigaChat и на QwQ. Он работает с базой знаний через RAG.

Когда приходит запрос от пользователя, ассистент анализирует базу знаний, находит релевантные данные, формирует ответ и прикрепляет его в тикет для оператора поддержки. Оператор оценивает этот ответ и принимает решение:

В итоге тикеты стали решаться на 20% быстрее, а в их случае это около 20 минут для каждого тикета, что довольно круто.

Отличить реальные кейсы от концептов без реальных прототипов и обыкновенных выдумок бывает непросто. Я бы даже сравнил использование ИИ-агентов с сексом у шестнадцатилетних: все о нем говорят, но мало у кого он есть. Поэтому в этом разделе я не буду перечислять все подряд, а кратко разберу несколько кейсов, которые видел сам или просто считаю достоверными.

Очень понятные решения, которые приносят очевидную пользу. Ничего гениального, компании просто выявили задачи, которые можно передать ИИ-агенту, и начали делать. Очень рекомендую начать с того же самого.