AI FREE RADAR

vLLM

✓ Проверено по официальной странице

Сервер инференса с PagedAttention: максимальная пропускная способность на GPU.

Бесплатный лимит

Бесплатный лимит
Код свободный: запуск у себя бессрочно
Тип доступа
Open Source
Период
бессрочно
Водяной знак
Не проверено
Коммерческое использование
Да
Банковская карта
Нет
Регистрация
Нет
API
Да: OpenAI-compatible API server, plus Anthropic Messages API and gRPC support; runs on your own hardware
Ограничения разрешения и длительности
—
Региональные ограничения
Не указаны
Проверено
22 ноября 2026

vLLM — открытая библиотека для инференса LLM под лицензией Apache-2.0: она бесплатна и устанавливается локально (uv/pip), тарифных планов и лимитов на странице нет. Ограничения сводятся к вашим собственным ресурсам (GPU/CPU).

Что умеет инструмент

OpenAI-совместимый сервер, батчинг, квантование, спекулятивное декодирование.

Официальный источник

Apache-2.0 license

История изменений бесплатных условий

Поле БылоСтало Дата
Изменений пока не зафиксировано.