Настройка NVIDIA транскодирования в Jellyfin Docker
Настройте аппаратное ускорение NVENC и NVDEC в контейнере Jellyfin через Docker Compose. Узнайте, как пробросить GPU и проверить работу кодировщика с помощью nvidia-smi.
Что вы создаете
Аппаратное транскодирование Jellyfin на GPU NVIDIA выполняется в четыре этапа в строгом порядке, и только последний из них происходит внутри Jellyfin. Контейнер не может обнаружить GPU, если драйвер хоста не загружен. Jellyfin не может использовать GPU, который не виден контейнеру. Выполняйте действия в указанном порядке, чтобы в случае сбоя сразу понимать, где искать причину.
- Установите драйвер NVIDIA на хост-систему, затем подтвердите его работу с помощью
nvidia-smi. - Установите NVIDIA Container Toolkit, чтобы Docker мог передавать GPU в контейнер.
- Зарезервируйте GPU для сервиса Jellyfin в
docker-compose.yml, затем убедитесь, что контейнер видит устройство. - Включите NVENC и NVDEC в настройках воспроизведения Jellyfin, затем убедитесь, что при реальном воспроизведении они используются.
NVENC (NVIDIA encoder) и NVDEC (NVIDIA decoder) — это специализированные аппаратные блоки на видеокарте. Они физически отделены от шейдерных ядер, которые выполняют вычисления CUDA (compute unified device architecture). Именно это разделение делает данную настройку эффективной: поток, который при программном кодировании потребляет несколько ядер CPU, при аппаратном требует лишь малую часть одного ядра и выделенный аппаратный блок на GPU.
Прямое воспроизведение лучше любого транскодирования, поэтому начните с него
Прежде чем приступать к настройке, выясните, нет ли причин для транскодирования, которые можно легко устранить. Jellyfin выполняет транскодирование, если клиент не может воспроизвести файл в исходном виде. Причина почти всегда входит в короткий список: видеокодек, аудиокодек, формат контейнера, графические субтитры, ограничение битрейта, запрошенное клиентом, или разрешение либо иное ограничение, о котором сообщил клиент.
Откройте Dashboard, затем Playback и наблюдайте за активным сеансом во время воспроизведения. Сеанс с пометкой Direct playing передает файл без изменений и почти не потребляет ресурсы CPU. Сеанс с пометкой Transcoding показывает причину, по которой Jellyfin выбрал этот режим. Устраните эту причину, и GPU не придется задействовать вовсе.
Два изменения позволяют исключить большинство случаев транскодирования. Установите качество в клиентском приложении на Auto или на максимум, так как клиент, запрашивающий 4 Mbps, вынуждает перекодировать файл с битрейтом 20 Mbps независимо от используемого кодека. Затем используйте нативное клиентское приложение вместо вкладки браузера, поскольку браузер — это самый ограниченный плеер из всех, что у вас есть, а нативное приложение на том же телевизоре часто будет воспроизводить тот же файл напрямую.
Графические субтитры требуют «вжигания» (burn-in) в видео только тогда, когда клиент не может отобразить их напрямую. Субтитры PGS из рипов Blu-ray и VOBSUB из рипов DVD представляют собой изображения, но совместимые клиенты отображают их без перекодирования видео; встроенный плеер Jellyfin для Android поддерживает PGS напрямую. Текстовые субтитры в формате SRT передаются отдельно, если клиент их поддерживает. Преобразование дорожек субтитров в текст полезно, когда совместимость субтитров вынуждает выполнять их «вжигание». Остальные аспекты серверной части описаны в руководстве по запуску медиасервера Jellyfin на VPS.
Большинство тарифов VPS не включают GPU
Стандартные тарифы VPS не предусматривают наличие GPU. Выполните эту команду на сервере, прежде чем планировать что-либо еще.
lspci -nn | grep -Ei "3d|display|vga"На обычном KVM VPS эта команда выведет виртуальный графический адаптер гипервизора или не выдаст ничего полезного. Это устройство не способно выполнять кодирование видео. Настоящий GPU появляется только в том случае, если провайдер предоставляет проброс физической карты в ваш инстанс или выделяет его часть, при этом стоимость таких тарифов значительно выше. В разделе Какие рабочие нагрузки действительно оправдывают использование GPU VPS описано, кому это необходимо, а кому нет.
Если GPU отсутствует, ориентируйтесь на прямое воспроизведение (direct play), а программное транскодирование рассматривайте как исключительный случай. Одно программное транскодирование 1080p H.264 создает высокую нагрузку, но допустимо для нескольких ядер CPU. Программное транскодирование 4K HDR с тональной компрессией (tone mapping) — это задача, с которой небольшой VPS не справится в реальном времени, поэтому поток будет прерываться, а загрузка CPU достигнет 100 процентов.
Установка драйвера NVIDIA на хост
Jellyfin 10.11 требует наличия драйвера NVIDIA версии не ниже 520.56.06 в Linux. Установленная сборка jellyfin-ffmpeg может потребовать более свежего драйвера; лог транскодирования сообщит о минимально необходимой версии, если API NVENC в текущем драйвере устарел. В Ubuntu есть вспомогательная утилита, которая автоматически подбирает подходящий пакет.
sudo ubuntu-drivers list --gpgpu
sudo ubuntu-drivers install --gpgpu
sudo reboot--gpgpu выбирает серверную версию драйвера без графического интерфейса (headless), что оптимально для медиасервера, так как на хосте отсутствует рабочий стол. Команда вывода списка показывает доступные ветки драйверов; вы можете зафиксировать конкретную ветку по имени, например sudo ubuntu-drivers install --gpgpu nvidia:570-server. Используйте ветку, которая присутствует в выводе команды, а не ту, что указана здесь.
Серверная версия не всегда автоматически устанавливает nvidia-smi. Установите соответствующий пакет утилит для выбранной ветки, например sudo apt install nvidia-utils-570-server. После этого проверьте работу драйвера.
nvidia-smiПри корректной работе выводится таблица, где в заголовке указаны версии драйвера и CUDA, а ниже — ваша видеокарта. Список процессов показывает, какие из них используют ресурсы Compute, Graphics или другие ресурсы GPU; он может быть заполнен, а пустой список означает, что процессы GPU не зафиксированы. Часто встречаются две ошибки. nvidia-smi: command not found означает, что отсутствует пакет утилит, а не сам драйвер. NVIDIA-SMI has failed because it couldn't communicate with the NVIDIA driver означает, что модуль ядра не загружен. При свежей установке это почти всегда означает, что вы еще не перезагрузили систему, либо Secure Boot блокирует загрузку неподписанного модуля. Проверьте наличие модуля с помощью lsmod | grep nvidia. Если команда ничего не выводит, а sudo modprobe nvidia завершается с ошибкой Key was rejected by service, значит, Secure Boot блокирует модуль. В разделе отмена отклонения ключа Secure Boot описано, как проверить состояние прошивки, а затем зарегистрировать ключ владельца машины (MOK) или отключить принудительную проверку.
Установка NVIDIA Container Toolkit
Драйвер позволяет хосту использовать GPU. Docker по-прежнему не будет передавать его в контейнер, так как в контейнере отсутствуют как узлы устройств, так и библиотеки драйверов. NVIDIA Container Toolkit — это компонент, который внедряет и то, и другое при запуске контейнера. Эти команды соответствуют официальным инструкциям NVIDIA по установке для Debian и Ubuntu. Текущее руководство NVIDIA также фиксирует пакеты toolkit на конкретном релизе через переменную версии; если не использовать фиксацию, как в данном случае, будет установлена новейшая версия из репозитория.
curl -fsSL https://nvidia.github.io/libnvidia-container/gpgkey | sudo gpg --dearmor -o /usr/share/keyrings/nvidia-container-toolkit-keyring.gpg
curl -s -L https://nvidia.github.io/libnvidia-container/stable/deb/nvidia-container-toolkit.list | sed 's#deb https://#deb [signed-by=/usr/share/keyrings/nvidia-container-toolkit-keyring.gpg] https://#g' | sudo tee /etc/apt/sources.list.d/nvidia-container-toolkit.list
sudo apt-get update
sudo apt-get install -y nvidia-container-toolkitУстановки пакета недостаточно, так как Docker нужно сообщить о существовании runtime.
sudo nvidia-ctk runtime configure --runtime=docker
sudo systemctl restart dockernvidia-ctk runtime configure записывает запись runtime nvidia в /etc/docker/daemon.json. Перезапуск — это та часть, которую часто пропускают, и именно это приводит к самой распространенной ошибке во всей настройке. Проверьте работоспособность связки, прежде чем переходить к Jellyfin.
sudo docker run --rm --runtime=nvidia --gpus all ubuntu nvidia-smiЭта команда должна вывести ту же таблицу, что и на хосте. Если вместо этого возникает ошибка о невозможности выбрать драйвер устройства с возможностями gpu, значит, Docker daemon не знает о runtime nvidia. В этом случае выполните команду настройки еще раз и перезапустите daemon.
Предоставление GPU контейнеру Jellyfin в Docker Compose
Это современный формат Compose. Он основан на примере, который публикует Jellyfin, и явно задает две переменные окружения NVIDIA.
services:
jellyfin:
image: jellyfin/jellyfin
container_name: jellyfin
user: 1000:1000
network_mode: host
restart: unless-stopped
environment:
- NVIDIA_VISIBLE_DEVICES=all
- NVIDIA_DRIVER_CAPABILITIES=all
volumes:
- /srv/jellyfin/config:/config
- /srv/jellyfin/cache:/cache
- /srv/media:/media:ro
runtime: nvidia
deploy:
resources:
reservations:
devices:
- driver: nvidia
count: all
capabilities: [gpu]Запустите контейнер и выполните запрос напрямую.
docker compose up -d
docker compose exec jellyfin nvidia-smiЕсли команда вывела таблицу драйверов изнутри контейнера, значит, GPU доступен и библиотека управления работает; работоспособность видеобиблиотек и реальное транскодирование еще требуют проверки.
Четыре строки в этом файле требуют пояснения. capabilities: [gpu] требуется самим Compose; если её пропустить, Compose откажется запускать сервис, вместо того чтобы запустить его без GPU. NVIDIA_DRIVER_CAPABILITIES=all важна, так как инструментарий монтирует видеобиблиотеки в контейнер только при запросе возможности video, а если переменная не задана, по умолчанию используются только utility и compute. Официальный образ Jellyfin уже устанавливает её, поэтому для этого образа строка служит защитой от переопределения; документация Jellyfin гласит, что вы должны добавить её самостоятельно, если собираете собственный образ. Без возможности video CUDA работает, а NVDEC — нет, и лог транскодирования сообщает о Cannot load libnvcuvid.so.1. network_mode: host — это то, что использует собственный пример NVIDIA для Jellyfin. Руководство по контейнерам Jellyfin называет host networking опциональным, но необходимым для DLNA; если вы используете bridge-сеть, вам нужно самостоятельно опубликовать 8096/tcp и порт для автообнаружения 7359/udp.
user: 1000:1000 — последняя переменная, и она не имеет отношения к GPU. Она определяет, какие файлы Jellyfin может читать на вашем медиа-монтировании, и несоответствие здесь приводит к пустой библиотеке, а не к ошибке прав доступа. Как PUID и PGID сопоставляют пользователя контейнера с файлами на диске объясняет нумерацию; это та же нумерация, которую вы уже задали, если запускаете стек Sonarr и Radarr в Docker Compose рядом с этим сервисом.
Почему в большинстве руководств до сих пор пишут runtime: nvidia
Старый формат встречается почти в каждом руководстве, и он не является ошибочным. Это история. Исходный пакет nvidia-docker2 регистрировал OCI-runtime с именем nvidia, а путь к переменной окружения использовал NVIDIA_VISIBLE_DEVICES вместе с этим runtime, который выбирался либо через --runtime=nvidia, либо как runtime по умолчанию в Docker. В Docker 19.03 добавили флаг --gpus и полноценный API для запроса устройств. Compose адаптировался дольше, и когда это произошло, запрос устройства был реализован через deploy.resources.reservations.devices — ключ, который большинство пользователей привыкли игнорировать, так как deploy раньше означал Docker Swarm.
В результате сегодня работают оба варианта, и опубликованный пример для Jellyfin содержит их одновременно. Наличие runtime: nvidia ничего не стоит и позволяет файлу работать в старых версиях Compose. Если вы оставите только runtime: nvidia и удалите блок deploy, вы обязаны сохранить NVIDIA_VISIBLE_DEVICES=all, так как этот устаревший путь считывает переменную окружения для определения того, какие устройства нужно внедрить, и не имеет запроса устройства для считывания.
Включение аппаратного транскодирования NVIDIA в Jellyfin
Пока что в настройках Jellyfin не указано использование видеокарты. Перейдите в Dashboard, затем в Playback и далее в Transcoding. Установите Hardware acceleration в значение Nvidia NVENC. Отметьте Enable hardware encoding, иначе Jellyfin будет декодировать на GPU, а кодировать на CPU — это промежуточное состояние, при котором GPU проявляет активность, но нагрузка на CPU остается высокой.
Параметр Enable enhanced NVDEC decoder переключает между текущим путем NVDEC и старым путем CUVID. Оставьте его включенным. Для работы с Dolby Vision он необходим, чтобы вообще использовать NVDEC.
В разделе Enable hardware decoding for отметьте только те кодеки, которые ваша карта способна декодировать аппаратно. Это настройка, в которой пользователи часто ошибаются. Выбор AV1 для карты без аппаратного декодера AV1 может привести к запросу аппаратного декодирования и ошибке Hardware is lacking required capabilities. Выбор неподдерживаемого кодека не гарантирует автоматический переход на программное декодирование.
К этой странице относится еще одно ограничение: аппаратное ускорение полностью поддерживается только при использовании комплектной сборки jellyfin-ffmpeg. Документация Jellyfin предупреждает, что использование бинарных файлов FFmpeg из других источников приводит к частичному ускорению, поэтому, если вы указали путь к системному FFmpeg, верните настройки обратно.
Кодеки, поддерживаемые вашим поколением GPU для декодирования и кодирования
Это границы возможностей NVENC и NVDEC, описанные в документации Jellyfin. Декодирование и кодирование — это разные возможности, и карта может обладать одной из них без другой.
- H.264 8-bit: декодируется и кодируется любым NVIDIA GPU с поддержкой NVENC и NVDEC.
- HEVC 8-bit: декодирование и кодирование начиная с Maxwell второго поколения (GM206) и новее.
- HEVC 10-bit: декодирование начиная с Maxwell второго поколения и новее (только варианты GM206 этого поколения), кодирование начиная с Pascal и новее.
- AV1: декодирование начиная с Ampere и новее, за исключением чипа для дата-центров GA100 (в таблице декодеров NVIDIA также указана архитектура Hopper без декодирования AV1), кодирование начиная с Ada Lovelace и новее (поддерживается в Jellyfin начиная с версии 10.9).
Разделение в поддержке HEVC 10-bit — это момент, который может вызвать сложности на практике. Карта на базе Maxwell GM206 декодирует 4K HDR файл на GPU, но не может кодировать 10-битный вывод, хотя поддерживает кодирование H.264 8-bit и HEVC 8-bit. Другие чипы Maxwell аппаратно не декодируют HEVC 10-bit. Jellyfin выбирает выходной кодек на основе возможностей клиента и настроек кодирования; путь транскодирования HEVC принудительно использует профиль 8-bit Main. Выбирайте вывод AV1 только для клиентов, которые его поддерживают.
Почему тональная компрессия незаметно перегружает GPU
Тональная компрессия (tone mapping) из HDR (high dynamic range) в SDR (standard dynamic range) — это настройка, которая истощает ресурсы GPU, и причина кроется в архитектуре. Декодирование выполняется на NVDEC. Кодирование — на NVENC. Тональная компрессия не использует ни то, ни другое: это CUDA-фильтр, работающий на шейдерных ядрах, то есть на той же универсальной части GPU, которая выполняет вычислительные задачи. Таким образом, 4K HDR-поток, требующий тональной компрессии, задействует декодер, кодировщик и дополнительно нагружает шейдеры.
Jellyfin указывает, что CUDA-тональная компрессия доступна на любом NVIDIA GPU, способном декодировать HEVC 10-bit. Это означает, что флажок появляется и работает даже на картах, которые не справляются с такой нагрузкой в 4K. Симптомом является поток, который запускается, постоянно буферизируется и не переходит в стабильное состояние, в то время как nvidia-smi показывает, что кодировщик почти не загружен.
Именно поэтому стоит отдельно следить за нагрузкой на шейдеры.
nvidia-smi dmon -s uЭта команда выводит одну строку в секунду с отдельными столбцами для sm, enc и dec. Низкие показатели enc и dec при высоком значении sm указывают на шейдеры, а не на специализированные блоки, поэтому вероятной причиной является тональная компрессия, масштабирование или «вшивание» субтитров. Рассматривайте это как подсказку, а не как доказательство: NVIDIA определяет загрузку GPU как долю периода выборки, в течение которой выполнялось хотя бы одно ядро, поэтому высокое значение говорит лишь о том, что шейдеры были заняты, а не о том, что они полностью исчерпали свой ресурс. CUDA-путь также поддерживает Dolby Vision profile 5 с использованием zero copy, что важно, так как без zero copy кадры передаются в системную память и обратно между этапами фильтрации, а этот обмен данными расходует пропускную способность на каждом отдельном кадре.
Что на самом деле ограничивает лимит сессий NVENC для потребительских карт
Данные, на которых построен график
[
{
"label": "GeForce RTX 5090",
"nvenc_engines": 3,
"max_encode_sessions": 12
},
{
"label": "GeForce RTX 4090",
"nvenc_engines": 2,
"max_encode_sessions": 12
},
{
"label": "GeForce RTX 4060",
"nvenc_engines": 1,
"max_encode_sessions": 12
}
]Это опубликованные NVIDIA данные из матрицы по состоянию на октябрь 2026 года, а не результаты наших собственных измерений. Политика NVIDIA ограничивает количество одновременных сессий кодирования для всех карт GeForce в одной системе до 12 в сумме, независимо от моделей. Это ограничение реализовано на уровне драйвера, а не аппаратной части, и за прошедшие годы NVIDIA неоднократно его повышала, поэтому всегда сверяйтесь с актуальной матрицей, а не со старыми обсуждениями на форумах. Количество движков — это параметр, который действительно зависит от модели карты: GeForce RTX 5090 оснащена 3 движками NVENC, в то время как GeForce RTX 4060 — 1. Большее количество движков означает более высокую пропускную способность параллельного кодирования, а не увеличение лимита сессий.
Лимит учитывает все сессии кодирования, включая кодирование видео вне Jellyfin. Прямое воспроизведение (direct play) и ремуксинг никогда не открывают сессию кодирования. Карты для дата-центров, такие как L4, в той же матрице указаны как не имеющие ограничений, однако модели вроде A100 и H100 не имеют аппаратного кодировщика NVENC, поэтому уточняйте характеристики конкретной карты в тарифном плане GPU VPS.
При достижении лимита транскодирование завершается ошибкой, а в логе FFmpeg появляется запись OpenEncodeSessionEx failed: out of memory (10). Сообщение об ошибке ссылается на память, но отказ из-за лимита сессий возвращает тот же код, поэтому проверьте количество одновременных потоков, прежде чем искать утечку VRAM. На практике большинство пользователей упираются в предел производительности при тональной компрессии (tone-mapping) или в пропускную способность канала отдачи задолго до достижения двенадцатой сессии.
Проверка работы GPU при транскодировании: не доверяйте настройкам
Сохраненная настройка не является доказательством. Запустите файл, который гарантированно требует транскодирования, и выполните три проверки.
- Откройте Dashboard, затем Playback. В активной сессии должно быть указано Transcoding с пояснением причины. Если отображается Direct playing, транскодирование не выполняется, и вы тестируете неподходящий файл.
- Откройте Dashboard, затем Logs и выберите самый свежий лог
FFmpeg.Transcode. Полное аппаратное транскодирование отображает-hwaccel cudaи-hwaccel_output_format cudaв командной строке, а также энкодер NVENC, такой какh264_nvencилиhevc_nvenc, либо энкодер AV1 NVENC на архитектуре Ada Lovelace и новее. Наличиеlibx264означает, что кодирование выполняется программно, независимо от того, что указано на странице настроек. Отсутствие-hwaccel cudaпри использовании энкодера NVENC означает, что декодирование выполняется программно. - Выполните
nvidia-smiна хосте во время воспроизведения. Должен появиться процесс из/usr/lib/jellyfin-ffmpeg/ffmpegс выделенной видеопамятью, аnvidia-smi dmon -s uдолжен показывать ненулевые значения в столбцах enc и dec.
Выполняйте третью проверку на хосте, а не внутри контейнера. nvidia-smi внутри контейнера обычно показывает пустой список процессов, так как он не видит идентификаторы процессов вне своего пространства имен, при этом показатели загрузки отображаются корректно. Пустой список процессов внутри контейнера не является ошибкой.
Когда происходит незаметный откат к программному кодированию
Jellyfin выбирает программный кодировщик, если аппаратное кодирование отключено или запрошенный аппаратный кодировщик недоступен. Аппаратный путь, который дает сбой во время воспроизведения, может привести к остановке потока, поэтому изучайте лог FFmpeg, а не полагайтесь на то, что любая ошибка вызывает автоматический откат к программному кодированию.
Cannot load libnvcuvid.so.1 в логе транскодирования означает, что динамический загрузчик не смог загрузить библиотеку декодера. Одно только это сообщение не позволяет установить, была ли библиотека смонтирована. Проверьте NVIDIA_DRIVER_CAPABILITIES=all, а также библиотеки драйверов и динамические ссылки контейнера. Если вы меняете окружение, пересоздайте контейнер с помощью docker compose up -d; обычный перезапуск сохраняет старые настройки.
No capable devices found из h264_nvenc означает, что FFmpeg обратился к библиотеке кодировщика, но не обнаружил подходящей карты. Еще раз проверьте docker compose exec jellyfin nvidia-smi, затем изучите предыдущие сообщения лога на предмет ошибок устройства и возможностей кодировщика.
Высокая нагрузка на CPU при бездействующем GPU — повод проверить, какие этапы используют программную обработку. Снимите галочки с кодеков, которые ваше поколение оборудования не может декодировать, затем снова воспроизведите тот же файл и изучите лог FFmpeg, чтобы увидеть, появится ли -hwaccel cuda. Если это произошло, а CPU по-прежнему загружен, ищите этап, который Jellyfin не может перенести на GPU, например, вжигание субтитров в изображение.
Транскодирование, которое запускается и зависает на 4K HDR, в то время как 1080p работает нормально, обычно упирается в предел возможностей тональной компрессии (tone-mapping), а не в ошибки установки. Следите за столбцом sm в nvidia-smi dmon -s u, затем воспроизведите тот же файл с отключенной тональной компрессией: если поток стабилизируется, значит, ограничением была именно она. В этом случае либо снизьте разрешение, запрашиваемое клиентом, либо воспроизводите 4K HDR файлы на клиентах, поддерживающих direct play.
FAQ
Почему Jellyfin продолжает использовать CPU после включения NVENC?
Проверьте самый свежий лог FFmpeg.Transcode в разделе Dashboard, затем Logs. Если там указано libx264, кодирование выполняется программно. Если -hwaccel cuda также отсутствует, проверьте декодер, выбранный в команде, и выполните docker compose exec jellyfin nvidia-smi, чтобы подтвердить видимость GPU. Если -hwaccel cuda присутствует рядом с libx264, команда запрашивает декодирование на GPU при программном кодировании; проверьте параметр Enable hardware encoding и определяет ли Jellyfin запрошенный аппаратный кодировщик. Сами по себе флаги не доказывают успешность декодирования на GPU. Если отображается h264_nvenc без -hwaccel cuda, проверьте, отмечен ли кодек файла в разделе Enable hardware decoding for. Отметка кодека, который карта не может декодировать, может привести к ошибке аппаратного декодера вместо перехода на программный. Если оба параметра присутствуют, а CPU все еще загружен, нагрузка создается этапом, который остается на CPU, например, при «вжигании» субтитров.
Нужно ли по-прежнему указывать runtime: nvidia в Docker Compose?
Нет, если у вас есть блок deploy.resources.reservations.devices и актуальная версия Docker Compose. Этот блок является современным способом запроса устройств и выполняет ту же задачу. runtime: nvidia — это старый путь времен nvidia-docker2, он все еще работает, и в опубликованном примере Jellyfin сохранены оба варианта. Оставлять оба безопасно. Если оставить только runtime: nvidia, необходимо также оставить NVIDIA_VISIBLE_DEVICES=all, так как этот путь не содержит запроса устройства и получает список устройств из переменных окружения.
Сколько потоков может транскодировать один NVIDIA GPU одновременно?
Опубликованная политика NVIDIA ограничивает карты GeForce двенадцатью одновременными сессиями кодирования на систему по состоянию на октябрь 2026 года; карты для дата-центров, такие как L4, не имеют ограничений, в то время как некоторые модели для дата-центров вообще не имеют кодировщика NVENC. Однако этот лимит редко становится причиной остановки. Tone mapping из HDR в SDR выполняется на шейдерных ядрах, а не на NVENC, поэтому он создает отдельное ограничение производительности. Оцените свой случай с помощью nvidia-smi dmon -s u и следите за столбцом sm, а не за количеством сессий.
Можно ли использовать аппаратное транскодирование на VPS без GPU?
Нет. Для кодирования необходим физический блок NVENC, а lspci -nn | grep -Ei "3d|display|vga" на стандартном VPS показывает только виртуальный графический адаптер гипервизора. Реалистичный вариант на тарифе без GPU — отказаться от транскодирования: установите настройку качества клиента в Auto, используйте нативное клиентское приложение вместо браузера и используйте клиент, который отрисовывает графические субтитры напрямую, либо преобразуйте их в текстовые, если совместимость субтитров требует их «вжигания».
Почему 4K HDR тормозит, а 1080p транскодируется нормально?
Эти две задачи используют разные части видеокарты. Транскодирование 1080p SDR в основном состоит из декодирования и кодирования на специализированном аппаратном обеспечении (если карта поддерживает кодек), а также масштабирования, деинтерлейсинга или «вжигания» субтитров. Поток 4K HDR добавляет tone mapping — фильтр CUDA, работающий на шейдерных ядрах, плюс масштабирование гораздо большего кадра. nvidia-smi dmon -s u, показывающий низкие значения enc и dec при высоких значениях sm, указывает на то, что специализированные блоки загружены слабо, а шейдеры заняты. Воспроизведение файла с отключенным tone mapping позволяет проверить эту причину.