За 3 недели разработали AI-агента на базе RAG для ведущих вузов страны
Ассистент помогает писать научные работы на основе 200 000 книг
Дальневосточный федеральный университет (ДВФУ) и РАНХиГС — одни из крупнейших российских вузов, которые активно внедряют цифровые технологии в образовательный процесс. Для своих студентов университеты искали способ упростить подбор литературы и подготовку научных и дипломных работ.
Задача: помочь студентам на старте исследования
Библиотечные фонды ДВФУ и РАНХиГС насчитывают сотни тысяч книг. Найти среди такого объёма релевантные источники для исследования бывает непросто. Кроме того, на начальном этапе нужно определить методологию и продумать структуру научной работы.
Чтобы ускорить этот процесс, ДВФУ и РАНХиГС решили внедрить цифрового ассистента. Совместно с командой ГигаЧат мы создали AI-агента, который упрощает подготовку научной работы.
Как работает AI-агент
Пользователь своими словами описывает направление будущего исследования. Ассистент анализирует запрос и отправляет структурированный ответ. В него входят:
- варианты формулировок темы;
- методические рекомендации по исследованию;
- структура научной работы;
- вопросы для самопроверки;
- список материалов из библиотеки и интернета.
AI-агент значительно сокращает время на поиск литературы и подготовку основы для исследования. Буквально за один короткий запрос студент получает всё необходимое — структуру, методы, источники — без привлечения научного руководителя.
Леонид Крылов
Директор проекта
Внутри AI-агента база данных из 200 000 книг
Команда KTS спроектировала инфраструктуру решения, развернула контур и настроила интеграцию с моделями ГигаЧат. Чтобы AI-агент подбирал релевантные материалы, мы использовали RAG-технологию, которая позволяет извлекать данные из библиотек ДВФУ и РАНХиГС и передавать их в LLM.
Из каждого файла получали название, автора и аннотацию. Перевели эти данные в векторный формат с помощью ГигаЧат Embeddings и загрузили в векторную базу данных Milvus.
Логика работы агента
Цель ассистента — получить примерную тему или направление научной работы. Если информации недостаточно или запрос слишком общий, AI-агент задаёт уточняющие вопросы.
Когда тема сформулирована, система обращается к базе данных и подбирает релевантные источники по смыслу запроса. После данные передаются в ГигаЧат. Модель суммаризирует контекст, генерирует ответ по установленной структуре и отправляет его студенту.
Тест и отладка
Для проверки работы AI-агента разработали Telegram-бота. Чтобы исключить галлюцинации и обеспечить подбор релевантных источников, мы две недели тестировали решение:
- сформировали тестовый датасет, который покрывает сотни разных пользовательских запросов;
- дорабатывали системные промпты, меняли архитектуру решения и оценивали качество ответов.
В результате итерационно достигли требуемый уровень качества, скорости работы агента и стоимости запросов.
Запустили проект за 3 недели
AI-агент доступен в веб-интерфейсе на сайте РАНХиГС и цифровом стенде в библиотеке ДВФУ. Реализация проекта от идеи до релиза финальной версии заняла 3 недели. Такой скорости удалось достичь благодаря разработке решения на базе AI Platform — это готовая инфраструктура для быстрого запуска AI-агентов.
AI-решения на основе RAG-технологий помогают ускорить работу с внутренними базами знаний в обучении, продажах, поддержке, HR — любых процессах, где важно быстро находить информацию в больших массивах данных. Вместо часов поиска по разрозненным документам пользователь получает ответ со ссылкой на источник за минуты.