ИИ-агенты: как они меняют бизнес в России и мире

Большие языковые модели (LLM) уже успели наделать шуму и заметно повлиять на рынок. Работники из совершенно разных профильных областей делегируют заметную часть своей рутины искусственному интеллекту, а иногда и работодатели заменяют некоторых наемных сотрудников нейросетями. Но сам ИИ тоже не стоит на месте, и возможности его использования расширяются с каждым днем.

Сейчас на смену простым чат-ботам приходят ИИ-агенты — более сложные и автономные сущности, способные не просто отвечать на вопросы, но и планировать действия, вызывать инструменты и принимать решения. В этой статье мы поговорим о кейсах применения ИИ-агентов, уже влияющих на бизнес, и разберем практические рекомендации по их внедрению.

Что такое ИИ-агенты и чем они лучше обычных LLM

ИИ-агенты строятся вокруг LLM, но обладают дополнительными возможностями: они умеют декомпозировать задачи, выстраивать планы, запрашивать и анализировать данные, взаимодействовать с API и с другими системами.

Например, если мы используем обычный кодовый ассистент на основе LLM, он дает нам простейшие подсказки. Он распознает цикл for, определяет, что это именно цикл, и предлагает от себя какие-то управляющие конструкции. При этом он не проверяет, работает ли код и какая там смысловая нагрузка — он просто предполагает, что следующие слова будут релевантны в этом контексте.

В свою очередь, ИИ-агент может не только сгенерировать релевантные слова, но и скомпилировать написанный код. Он самостоятельно проверяет вывод кода или ошибку компиляции, и при необходимости вносит исправления. Иными словами, агент не просто пытается писать слова, которые кажутся ему уместными в конкретном контексте. Он сам взаимодействует с окружающей средой, получает от нее фидбэк и корректирует как текст, так и план выполнения запроса.

Стандарт MCP (Model Context Protocol) позволяет таким агентам взаимодействовать практически с любыми внешними инструментами — с календарями, базами данных или даже другими агентами. Соответственно, окружающую среду агента можно кастомизировать под самые разные цели.

RAG

Один из инструментов, которыми может пользоваться ИИ-агент — это RAG, или Retrieval-Augmented Generation, «генерация с дополнением извлеченной информации». На нем я предлагаю остановиться чуть подробнее.

RAG позволяет модели генерировать текст ответа не только на основе данных, на которых она обучалась; вместо этого она может выполнить поиск по внешним источникам (например, по корпоративной базе знаний). Если попросить модель дать ответ на основе этих источников, то она изучит доступные данные, и либо найдет там ответ, либо скажет что-то в духе «простите, я не знаю, такого ответа в заданном контексте нет».

Правда, у классического RAG есть ряд недостатков:

• он работает по схеме «один поиск — один ответ» без возможности уточнить или повторить попытку;
• он заточен только под поиск текстовой информации;
• система с классическим RAG не умеет рассуждать или планировать шаги: она берет запрос как есть и ищет по нему, даже если он сформулирован неточно или расплывчато.

Однако современные ИИ-агенты используют RAG как один из возможных инструментов, а не как единственную доступную механику. Это значит, что при необходимости система может поискать данные в базе знаний с помощью RAG, может посчитать на калькуляторе, может запустить код, и при всем этом не забудет контекст. ИИ-агент сам решит, нужно ли ему использовать RAG, чтобы лучше ответить на запрос человека.

У такого подхода есть два заметных плюса:

• модель опирается на актуальные данные — от этого снижается риск, что она выдаст ложное утверждение;
• мы не тратим время и деньги на дообучение модели, а просто подключаем к существующим источникам.

RAG используется много где, ниже я расскажу о его применении в реальных кейсах.

Кейсы использования ИИ

Опыт KTS

В разработке

Мы начали с кодовых ассистентов. Собрали инициативную группу разработчиков, которые хотели попробовать ИИ в работе, купили им аккаунты, настроили доступ и разрешили экспериментировать.

Ребята тестировали Cursor, Claude Code, GitHub Copilot, Yandex Code Assistant, Codeium и GigaChat. Какие-то решения подходили лучше, какие-то хуже; разработчики делились опытом друг с другом и выбирали оптимальные решения под конкретные задачи. Сейчас половина команды KTS использует ассистентов, автоматизируя генерацию кода, тестов и архитектурных диаграмм.

Для оценки результатов мы решили посмотреть, какую долю задач разработчики решают с помощью кодовых ассистентов. В ноябре 2024 года мы собрали внутреннюю статистику. При закрытии задачи разработчики указывали, использовали ли они ИИ во время ее выполнения. Результаты получились следующие:

• в 10% задач весь код был написан ИИ;
• в 60% задач часть кода была написана ИИ;
• в 30% задач ИИ не использовался.

То есть в 70% случаев ребята применяли кодовый ассистент. Стоит учитивать, что это ноябрьская статистика — с тех пор модели только поумнели. Доля задач, решаемых с помощью ИИ, сейчас стала еще выше.

В менеджменте

Также мы используем ИИ для выполнения ряда рутинных администраторских и менеджерских задач. Для этого мы пользуемся и коробочными, и кастомными решениями.

Например, мы реализовали и тестируем ассистент BI, который взаимодействует с Redash через MCP. Менеджер может описать агенту на русском языке, какой отчет он хочет получить, агент самостоятельно запросит необходимые данные из Redash и предоставит менеджеру готовую инфографику.

Мы решили протестировать ассистент BI на нашем фановом некоммерческом проекте — на дейтинг-боте для студентов. Для этого мы задали ассистенту вопрос: «Какие продуктовые метрики можешь посчитать для дейтинг-бота?», и ассистент самостоятельно выбрал перечень необходимых метрик. В ответе он предоставил инфографику соотношения мужчин и женщин, активные показатели, распределение по курсам.

Причем ассистент не просто передал нам ответы Redash. Он интерпретировал полученные данные и сделал выводы из них, подсветил точки роста, куда стоит приложить усилия. Само собой, ассистент не забыл упомянуть и гендерный дисбаланс, главную проблему любых дейтингов. И заметьте, никто не говорил ему делать, его спросили только о метриках.

В коммуникации

Заменить операторов поддержки языковой моделью нам тоже удалось.

Перед тем, как перейду к кейсу, дам немного контекста. Один из продуктов KTS — это конструктор чат-ботов Smartbot. Среди прочего, он предлагает решение Smartbot AI (ИИ-ассистент, которого можно подключить к чат-боту). Наши заказчики используют его для автоматизации взаимодействия со своими клиентами.

Одна из компаний-пользователей Smartbot занимается производством бетона. Раньше менеджеры этой компании отвечали посетителям сайта в реальном времени, проводили первичную консультацию, выявляли потенциальных лидов и запрашивали их телефон.

Слабое место такого процесса — время. Живой менеджер может отвечать дольше, чем потенциальный клиент готов ждать. Если пользователь отправил запрос в чат и долго не видит никакой активности, он уходит.

Компания решила подключить Smartbot AI. Решение получилось внедрить быстро и без затруднений: настроить модель на задачу «получить номерок» не так сложно, а у заказчика была обширная база знаний по взаимодействию с клиентами, к которой мы подключили агента с помощью RAG. И функцию дежурного менеджера взял на себя ИИ-ассистент.

Выглядит это примерно так:

1. Клиент на сайте компании задает в диалоговом окне вопрос в духе «с физлицами работаете?», «от какого объема работаете?» и так далее.
2. ИИ-агент выполняет поиск по базе знаний с помощью RAG и дает ответы на эти вопросы, заодно спрашивая телефон.
3. Клиент присылает телефон.
4. ИИ-агент уведомляет клиента, что передал его телефон в отдел продаж, и что скоро с ним свяжутся.

В результате Smartbot AI полностью заменил операторов, которые перевелись в отдел продаж, а конверсия в заказы выросла с 38% до 55%.

В DevOps

Наша следующая цель по внедрению ИИ — переложить на плечи агента рутину по поддержке инфраструктуры.

Значительная часть поддержки четко регламентирована. Получил алерт, подтвердил наличие проблемы, провел диагностику, нашел решение в базе знаний и применил его. Если решение не помогло, то эскалировал на дежурного. Довольно ограниченный скоуп понятных задач.

Мы хотим передать эти задачи ИИ-агенту. В пилоте это будет ассистент, который по алерту сам диагностирует проблему, на основе ранбуков из базы знаний находит решение и передает его через таск-трекер инженеру мониторинга вместе с полным контекстом инцидента.

Соответственно, инженер мониторинга сможет оценить, корректно ли найденное решение. Далее уже он выберет, как поступить: применить предложенное решение, если оно верно, или самостоятельно провести диагностику и прокомментировать ошибки, допущенные ИИ-агентом, чтобы модель обучалась на этих данных.

Основная проблема, с которой мы столкнулись — вопрос информационной безопасности. Чтобы обеспечить полную сохранность чувствительных данных, придется разворачивать свою внутреннюю модель, и тут уже встает вопрос об экономической целесообразности.

Опыт других компаний

Кейс Cloud.ru

Наши коллеги по цеху, Cloud.ru, тоже делились своим кейсом внедрения ИИ-агентов в свои процессы. В их поддержку постоянно приходят вопросы клиентов, требующие глубоких специализированных знаний (например, «как добавить SSH-ключ?»). Очевидно, штат квалифицированных операторов поддержки стоит больших денег. Точка роста в этом случае — реализация ассистента, который сможет отвечать на вопросы на основе базы знаний.

Cloud.ru сделали ассистента на основе двух моделей: на своей проприетарной GigaChat и на QwQ. Он работает с базой знаний через RAG.

Когда приходит запрос от пользователя, ассистент анализирует базу знаний, находит релевантные данные, формирует ответ и прикрепляет его в тикет для оператора поддержки. Оператор оценивает этот ответ и принимает решение:

• Если ответ корректный, то оператор отправляет его пользователю.
• Если ответ некорректный, то оператор его редактирует. После этого ИИ-ассистент анализирует отредактированный ответ и обучается на полученных данных, и при этом предлагает оператору стилистические правки (как это называют сами Cloud.ru, делает ответ «вежливым и добродушным»).

В итоге тикеты стали решаться на 20% быстрее, а в их случае это около 20 минут для каждого тикета, что довольно круто.

Другие кейсы

Отличить реальные кейсы от концептов без реальных прототипов и обыкновенных выдумок бывает непросто. Я бы даже сравнил использование ИИ-агентов с сексом у шестнадцатилетних: все о нем говорят, но мало у кого он есть. Поэтому в этом разделе я не буду перечислять все подряд, а кратко разберу несколько кейсов, которые видел сам или просто считаю достоверными.

• ПИК и МТС Линк используют ИИ-ассистентов для подведения итогов созвонов.
• В Райффайзен Банке реализована автоматизированная поддержка клиентов на основе Yandex GPT.
• В «X5» сделали свою LLMOps-платформу для внедрения в разные вертикали бизнеса.
• Yandex Market, WB и Ozon с помощью ИИ-агентов делают саммаризацию отзывов и описание карточек.

Очень понятные решения, которые приносят очевидную пользу. Ничего гениального, компании просто выявили задачи, которые можно передать ИИ-агенту, и начали делать. Очень рекомендую начать с того же самого.

Если вы задумались о внедрении ИИ-агентов в свой бизнес, важно начать с проверенных решений и адаптировать их под свои задачи. У KTS есть несколько продуктов, которые помогают легко и эффективно сделать первый шаг в автоматизации с помощью ИИ:

• Smartbot — готовый инструмент для создания чат-ботов и автоматизации коммуникаций с клиентами;
• Nocode Cloud — платформа для разработки и интеграции ИИ-агентов без необходимости программирования;
• Маркетплейс MCP-серверов — удобное решение для подключения и масштабирования ИИ-агентов с поддержкой разных внешних инструментов.