Задача
Необходимо развернуть большую языковую модель (LLM) на сервере с использованием CPU для локальной работы, обучить её обрабатывать строительные нормативные документы (СНиП, СП) в форматах PDF (с использованием RAG-подхода) и DWG-файлы, а также создать чат-бота в Telegram для взаимодействия.
Требования
- Развернуть LLM локально на сервере (только CPU, без GPU).
- Обучить или донастроить модель для работы со строительными нормативами и проектной документацией.
- Реализовать загрузку и анализа PDF-файлов через механизм RAG (Retrieval-Augmented Generation).
- Обеспечить обработку DWG-файлов (формат AutoCAD) в контексте запросов пользователя.
- Настроить Telegram-бота для приема запросов, загрузки файлов и выдачи ответов на основе обученной модели.
Ожидаемый результат
Рабочая система, которая позволяет через Telegram отправлять файлы или текстовые запросы по строительным нормам, а модель выдает точные ответы с опорой на загруженную документацию.