Журнал "Программная инженерия"
Теоретический и прикладной научно-технический журнал
ISSN 2220-3397
Номер 05 2025 год
Предложены модели сегментации текстовых документов для реализации тонкой настройки больших языковых моделей методом RAG. На примере реализации интеллектуальной информационной системы поддержки абитуриентов вуза проведены сравнение и анализ данных моделей. Информационная система включает в себя базу данных, веб-интерфейс и чат-бот. Описаны модель представления и структура документов для дальнейшей работы с чат-ботом, а также векторное хранилище, предоставляющее удобный интерфейс для работы с векторизованными данными извне. Разработанный слой доступа к языковой модели обеспечивает абстракцию над подключенным чат-ботом, при этом предоставляя пользователю достаточно низкоуровневую степень взаимодействия с генеративной моделью.