Модели

Модели представляют собой математическую основу ассистентов. В платформе доступен каталог предобученных моделей различного назначения: генерация текста, анализ изображений, обработка речи и другие

Выбор модели

При создании ассистента пользователь выбирает модель из каталога. Для каждой модели указываются поддерживаемые языки, размеры контекста, ограничения по использованию и стоимость. Можно подключать собственные модели через загрузку весов или указание внешнего эндпоинта.

Обновления и версии

Каталог моделей регулярно обновляется. Пользователь может закрепить определённую версию или настроить автоматическое использование последней стабильной. История изменений доступна в документации модели.

Мониторинг качества

Система собирает метрики по каждому запросу: время ответа, количество токенов, рейтинг пользователя. Эти данные помогают оценивать качество моделей и принимать решения об их замене или оптимизации.

Работа с моделями гибко настраивается и позволяет выбирать оптимальный вариант под конкретные задачи.