Разработка AI Gateway с интеграцией векторной БД и OpenAI
Необходимо создать высокопроизводительный шлюз искусственного интеллекта для системы технической поддержки, способный эффективно работать с историческими данными чатов.
Основные требования к системе
- Язык разработки: Go (Golang).
- Векторная база данных: Qdrant. В случае невозможности использования Qdrant требуется обосновать выбор альтернативного решения.
- Интеграция с ИИ: Подключение к OpenAI API для обработки естественного языка.
- Цель системы: Создание "базы знаний" на основе большого архива переписок службы поддержки для автоматизации ответов и анализа запросов.
Функциональные задачи
- Реализация логики шлюза для маршрутизации запросов между внешними системами, векторной БД и OpenAI.
- Организация хранения, индексации и семантического поиска по историческим чатам в векторной базе данных.
- Настройка взаимодействия с моделями OpenAI для генерации ответов на основе накопленных знаний.
- Обеспечение масштабируемости и производительности при работе с большими объемами текстовых данных.
Ожидаемый результат
Работоспособная система, которая позволяет технической поддержке быстро находить релевантные решения из прошлых диалогов и генерировать точные ответы на новые запросы пользователей.