Керування RAG API

Чат, документи, запити, активність клієнтів та підключення зовнішньої системи.

Пам’ять відеокарти та моделі

Читаю стан моделей…

Вивантажує моделі Ollama з пам’яті. Наступний запит завантажить модель знову. Очищення доступне після завершення активних запитів. Історія, моделі на диску та база документів зберігаються.

Активних запитів—

Клієнтів ≤120 с—

Завершено—

Помилки / 429—

Клієнти

Кожні 10 с

Активність визначається запитами й heartbeat. Це не кількість TCP-з’єднань. Токени — звіти LLM.

Клієнт	Зараз	Готово	Помилки	429	Токени вхід / вихід	Середній час

Хід останніх запитів усіх клієнтів

Час кожного кроку, кількість знайдених даних та шлях між сервісами. Оновлюється разом із моніторингом.

Усі наявні функції RAG API

JSON запиту

Хід завдання API

Виберіть функцію API.

Це всі маршрути поточного API. Завантаження PDF, вибір моделі, профілі токенів та індексація поки доступні у десктопному додатку. Minerva: каталог магазину та склад. Підключення і гібридний режим задаються в налаштуваннях RAG Documents.

Керування RAG API

Пам’ять відеокарти та моделі

Клієнти

Хід останніх запитів усіх клієнтів

Адреса RAG-сервера

Пароль вебадмінки

Усі наявні функції RAG API

Вхід адміністратора

Керування RAG API

Пам’ять відеокарти та моделі

Клієнти

Хід останніх запитів усіх клієнтів

Адреса RAG-сервера

Пароль вебадмінки

Усі наявні функції RAG API