Постановка задачи
Необходимо развернуть кастомного бота на базе контейнерного движка Clawdbot. Бот должен под капотом управлять сессией из нескольких LLM разных архитектур (контроллер + ревьюеры + ученик). Основные требования:
Требования к функционалу
- Размещение модуля на выделенном сервере заказчика (доступ предоставлю после согласования);
- Использование OpenAI-совместимого API или частных инференс-серверов;
- Организация паттерна «судейство»: первая LLM формирует ответ, вторая и третья проводят факт-чекинг и стилистическую проверку;
- Четвёртая (самая лёгкая) модель обучается на успешно прошедших проверку парах (вопрос/откорректированный ответ);
- Логгирование и dashboard для визуализации метрик проверок и шагов обучения.
Технические уточнения
- Язык реализации скриптов - Python (связка LangFlow или pydantic-ai), без фронтенда - только внутренняя логика и админ-панель через SimpleAPI Clawdbot;
- Минимальная предусмотренная модель tiny-mistral с методом soft-symbolic QLoRA;
- Толерантная асинхронность - сообщения не должны теряться при перегрузке одного из агентов;
- После развёртывания исполнитель обязан предоставить lauch-плейбук для реконфигурации архитектуры (смены или перевзвешивания LLM) без перезалива всех образов.