Dockerలో Jellyfin NVIDIA హార్డ్వేర్ ట్రాన్స్కోడింగ్
Docker Composeలో Jellyfinకు NVIDIA GPUను కేటాయించి NVENC, NVDECను ప్రారంభించండి. nvidia-smiతో GPU నిజంగా ట్రాన్స్కోడింగ్ చేస్తున్నదో నిర్ధారించండి.
మీరు నిర్మిస్తున్నది
NVIDIA GPUలో Jellyfin hardware transcoding ను స్థిరమైన క్రమంలో జరిగే 4 దశలుగా అమలు చేయాలి. వీటిలో చివరి దశ మాత్రమే Jellyfin లో జరుగుతుంది. Host driver లోడ్ చేయని GPUని container చూడలేడు. Container చూడలేని GPUని Jellyfin ఉపయోగించలేదు. ఈ క్రమంలో పని చేస్తే ప్రతి వైఫల్యానికి పరిశీలించాల్సిన స్థానం స్పష్టంగా ఉంటుంది.
- ముందుగా hostలో NVIDIA driverను install చేసి, తరువాత
nvidia-smiతో నిర్ధారించండి. - Docker GPUని containerకు అందించగలిగేలా NVIDIA Container Toolkitను install చేయండి.
docker-compose.ymlలో Jellyfin service కోసం GPUని కేటాయించి, తరువాత container దాన్ని చూస్తుందో లేదో నిర్ధారించండి.- Jellyfin యొక్క playback settingsలో NVENC మరియు NVDECను enable చేసి, నిజమైన playback వాటిని ఉపయోగిస్తుందో లేదో నిర్ధారించండి.
NVENC (NVIDIA encoder) మరియు NVDEC (NVIDIA decoder) cardలోని fixed-function blocks. CUDA (compute unified device architecture) పనిని నిర్వహించే shader coresకు ఇవి వేరు. ఈ విధానం ఉపయోగకరంగా ఉండటానికి ప్రధాన కారణం ఇదే: softwareలో అనేక CPU coresను వినియోగించే ఒక streamకు, GPUలోని dedicated hardware blockతో పాటు ఒక CPU coreలో చిన్న భాగం మాత్రమే అవసరం అవుతుంది.
ప్రతి transcode కంటే direct play మెరుగైనది; కాబట్టి ముందుగా దానిని పరిశీలించండి
ఇవన్నీ configure చేయడానికి ముందు, సులభంగా తొలగించగల కారణం వల్ల transcoding జరుగుతోందో తెలుసుకోండి. Client ఫైల్ను ఉన్న రూపంలో ప్లే చేయలేనప్పుడు Jellyfin transcode చేస్తుంది. కారణం సాధారణంగా ఈ కొద్దిపాటి వాటిలో ఒకటే: video codec, audio codec, container format, image-based subtitles, client కోరిన bitrate limit, లేదా client నివేదించిన resolution లేదా ఇతర పరిమితి.
Dashboard తెరిచి, తరువాత Playback కు వెళ్లండి. ఏదైనా ప్లే అవుతున్నప్పుడు active session ను గమనించండి. Direct playing గా గుర్తించబడిన session ఫైల్ను ఎలాంటి మార్పు లేకుండా పంపుతుంది, CPU వినియోగం దాదాపు ఉండదు. Transcoding గా గుర్తించబడిన session లో Jellyfin ఎంచుకున్న కారణం కనిపిస్తుంది. ఆ కారణాన్ని తొలగిస్తే GPU అసలు పనిచేయాల్సిన అవసరం ఉండదు.
రెండు మార్పులు ఎక్కువ భాగం transcodeలను తొలగిస్తాయి. Client app నాణ్యతను Auto లేదా గరిష్ఠానికి సెట్ చేయండి. Client 4 Mbps కోరితే, ఫైల్ ఏ codec ఉపయోగించినా 20 Mbps ఫైల్ను మళ్లీ encode చేయాల్సి వస్తుంది. తరువాత browser tab బదులుగా native client app ఉపయోగించండి. మీరు ఉపయోగించే playerలలో browser అత్యంత పరిమితమైనది. అదే TVలోని native app అదే ఫైల్ను తరచుగా direct play చేయగలదు.
Client వాటిని నేరుగా render చేయలేనప్పుడు మాత్రమే image-based subtitles ను videoలో burn చేయాలి. Blu-ray ripలోని PGS subtitles, DVD ripలోని VOBSUB చిత్రాల రూపంలో ఉంటాయి. అయితే అనుకూలమైన clientలు videoను మళ్లీ re-encode చేయకుండానే వాటిని చూపగలవు; Jellyfin యొక్క Android integrated player PGSను నేరుగా support చేస్తుంది. Client support చేసినప్పుడు SRTలోని text subtitles విడిగా పంపబడతాయి. Subtitle compatibility వల్ల burn-in తప్పనిసరి అవుతున్నప్పుడు subtitle tracks ను textగా మార్చడం ఉపయోగకరం. Server వైపు మిగిలిన అంశాలు VPSలో Jellyfin media server నడిపించే guide లో ఉన్నాయి.
చాలా VPS ప్లాన్లలో GPU అసలు ఉండదు
ప్రామాణిక VPS ప్లాన్లలో GPU ఉండదు. మరేదైనా ప్రణాళిక రూపొందించే ముందు సర్వర్పై దీన్ని అమలు చేయండి.
lspci -nn | grep -Ei "3d|display|vga"సాధారణ KVM VPSలో ఇది hypervisor అందించే virtual display adapter ను చూపిస్తుంది లేదా ఉపయోగకరమైన ఏ సమాచారాన్నీ చూపించదు. ఆ device వీడియోను encode చేయలదు. provider మీ instance కు physical card ను pass through చేసినప్పుడు లేదా దానిలోని ఒక భాగాన్ని మీకు కేటాయించినప్పుడు మాత్రమే నిజమైన GPU కనిపిస్తుంది. అలాంటి ప్లాన్ల ధర కూడా దానికి అనుగుణంగానే ఉంటుంది. GPU VPS కోసం చెల్లించడం నిజంగా సమర్థించే workloads ఏవి ఎవరు GPU VPS తీసుకోవాలి, ఎవరు తీసుకోకూడదు అనే విషయాలను వివరిస్తుంది.
GPU లేకపోతే direct play ను లక్ష్యంగా పెట్టుకోండి. Software transcoding ను అరుదైన సందర్భంగా పరిగణించండి. ఒకే 1080p H.264 software transcode కొన్ని CPU cores పై భారంగా ఉన్నప్పటికీ నిర్వహించగలిగే స్థాయిలో ఉంటుంది. Tone mapping తో కూడిన 4K HDR software transcode ను చిన్న VPS real time లో పూర్తి చేయలదు. అందువల్ల CPU 100 percent వినియోగంలో స్థిరంగా ఉన్నప్పుడు stream stutter అవుతుంది.
హోస్ట్లో NVIDIA డ్రైవర్ను ఇన్స్టాల్ చేయండి
Jellyfin 10.11 ప్రకారం Linuxలో కనీస NVIDIA డ్రైవర్ వెర్షన్ 520.56.06. ఇన్స్టాల్ చేసిన jellyfin-ffmpeg build కు మరింత కొత్త డ్రైవర్ అవసరం కావచ్చు. డ్రైవర్లోని NVENC API చాలా పాతదైతే, దాని transcode log కనీస అవసరమైన వెర్షన్ను చూపిస్తుంది. మీకు సరిపోయే package ను ఎంచుకునే helper ను Ubuntu అందిస్తుంది.
sudo ubuntu-drivers list --gpgpu
sudo ubuntu-drivers install --gpgpu
sudo reboot--gpgpu డ్రైవర్లోని headless server flavour ను ఎంచుకుంటుంది. Desktop లేని media server కు ఇదే అవసరం. list command మీకు అందుబాటులో ఉన్న branches ను చూపిస్తుంది. ఉదాహరణకు sudo ubuntu-drivers install --gpgpu nvidia:570-server వంటి branch ను పేరుతో pin చేయవచ్చు. ఇక్కడ చూపించిన branch ను కాకుండా, list command నిజంగా చూపించిన branch ను ఉపయోగించండి.
Server flavour ఎల్లప్పుడూ nvidia-smi ను install చేయదు. మీరు ఎంచుకున్న branch కు సరిపోయే utils package ను install చేయండి. ఉదాహరణకు sudo apt install nvidia-utils-570-server. తరువాత డ్రైవర్ను తనిఖీ చేయండి.
nvidia-smiసరిగా పనిచేస్తున్నప్పుడు headerలో driver version మరియు CUDA version ఉన్న table కనిపిస్తుంది. మీ graphics card పేరు కూడా జాబితాలో కనిపిస్తుంది. Process listలో Compute, Graphics లేదా Other GPU resources ఉపయోగిస్తున్న processes కనిపిస్తాయి. GPU సరిగా పనిచేస్తున్నప్పటికీ ఈ జాబితాలో processes ఉండవచ్చు. ఖాళీ జాబితా అంటే GPU processes ఏవీ report కాలేదని అర్థం. ఇక్కడ రెండు సమస్యలు సాధారణంగా కనిపిస్తాయి. nvidia-smi: command not found అంటే utils package లేదు; డ్రైవర్ లేదని కాదు. NVIDIA-SMI has failed because it couldn't communicate with the NVIDIA driver అంటే kernel module load కాలేదు. కొత్తగా install చేసినప్పుడు దీనికి దాదాపు ఎల్లప్పుడూ కారణం reboot చేయకపోవడం లేదా Secure Boot unsigned module ను load చేయడానికి నిరాకరించడం. lsmod | grep nvidia తో module ఉందో లేదో నిర్ధారించండి. అది ఏ output చూపించకపోతే, sudo modprobe nvidia command Key was rejected by service తో విఫలమైతే, Secure Boot module ను నిరోధిస్తోంది. Secure Boot key rejection ను తొలగించడం ద్వారా firmware స్థితిని తనిఖీ చేసి, machine owner key ను enroll చేయడం లేదా enforcement ను ఆపివేయడం గురించి తెలుసుకోవచ్చు.
NVIDIA Container Toolkitను ఇన్స్టాల్ చేయండి
Driver ద్వారా host GPUని ఉపయోగించగలదు. అయితే Docker దాన్ని containerలోకి పంపదు, ఎందుకంటే container వద్ద device nodes లేదా driver libraries ఉండవు. Container ప్రారంభమైనప్పుడు ఈ రెండింటినీ జోడించే భాగం NVIDIA Container Toolkit. ఈ commands Debian మరియు Ubuntu కోసం NVIDIA అందించిన installation stepsను అనుసరిస్తాయి. NVIDIA ప్రస్తుత guide కూడా version variable ద్వారా toolkit packagesను ఒకే releaseకు పరిమితం చేస్తుంది; ఇక్కడ ఆ పరిమితిని ఉపయోగించకపోవడం వల్ల repositoryలోని తాజా release ఇన్స్టాల్ అవుతుంది.
curl -fsSL https://nvidia.github.io/libnvidia-container/gpgkey | sudo gpg --dearmor -o /usr/share/keyrings/nvidia-container-toolkit-keyring.gpg
curl -s -L https://nvidia.github.io/libnvidia-container/stable/deb/nvidia-container-toolkit.list | sed 's#deb https://#deb [signed-by=/usr/share/keyrings/nvidia-container-toolkit-keyring.gpg] https://#g' | sudo tee /etc/apt/sources.list.d/nvidia-container-toolkit.list
sudo apt-get update
sudo apt-get install -y nvidia-container-toolkitPackageను ఇన్స్టాల్ చేయడం మాత్రమే సరిపోదు, ఎందుకంటే runtime అందుబాటులో ఉందని Dockerకు తెలియజేయాలి.
sudo nvidia-ctk runtime configure --runtime=docker
sudo systemctl restart dockernvidia-ctk runtime configure, /etc/docker/daemon.jsonలో nvidia runtime entryని రాస్తుంది. చాలామంది వదిలిపెట్టే దశ restart; దాన్ని వదిలేస్తే ఈ మొత్తం setupలో అత్యంత సాధారణ error వస్తుంది. Jellyfinను configure చేయడానికి ముందు plumbingను test చేయండి.
sudo docker run --rm --runtime=nvidia --gpus all ubuntu nvidia-smiఇది hostలో వచ్చిన అదే tableను చూపాలి. దాని బదులు gpu capabilitiesతో device driverను select చేయలేకపోయామని error వస్తే, Docker daemonకు nvidia runtime గురించి తెలియదని అర్థం. అందువల్ల configure commandను మళ్లీ run చేసి daemonను restart చేయండి.
Docker Composeలో Jellyfin containerకు GPUను కేటాయించండి
ఇది ఆధునిక Compose రూపం. ఇది Jellyfin ప్రచురించిన ఉదాహరణపై ఆధారపడి ఉంటుంది. రెండు NVIDIA environment variables ను స్పష్టంగా ఇందులో ఉంచుతుంది.
services:
jellyfin:
image: jellyfin/jellyfin
container_name: jellyfin
user: 1000:1000
network_mode: host
restart: unless-stopped
environment:
- NVIDIA_VISIBLE_DEVICES=all
- NVIDIA_DRIVER_CAPABILITIES=all
volumes:
- /srv/jellyfin/config:/config
- /srv/jellyfin/cache:/cache
- /srv/media:/media:ro
runtime: nvidia
deploy:
resources:
reservations:
devices:
- driver: nvidia
count: all
capabilities: [gpu]దీన్ని ప్రారంభించి, containerను నేరుగా ప్రశ్నించండి.
docker compose up -d
docker compose exec jellyfin nvidia-smiఇది container లోపల driver table ను చూపిస్తే, GPU visibility మరియు management library పనిచేస్తున్నాయి. అయితే video libraries మరియు వాస్తవ transcode ను ఇంకా పరీక్షించాలి.
ఆ ఫైల్లోని నాలుగు lines కు వివరణ అవసరం. capabilities: [gpu] ను Compose స్వయంగా తప్పనిసరిగా కోరుతుంది. దీన్ని వదిలేస్తే, GPU లేకుండా serviceను ప్రారంభించడానికి బదులుగా Compose serviceను తిరస్కరిస్తుంది. NVIDIA_DRIVER_CAPABILITIES=all ముఖ్యమైనది. video capability కోరినప్పుడే toolkit video libraries ను containerలోకి mount చేస్తుంది. ఈ variable unset గా ఉంటే, అది utility మరియు compute కు మాత్రమే default అవుతుంది. అధికారిక Jellyfin imageలో ఇది ఇప్పటికే set అయి ఉంటుంది. అందువల్ల ఆ imageలో ఈ line, మరేదైనా దాన్ని override చేయకుండా ఉండే safeguardగా పనిచేస్తుంది. మీ స్వంత imageను build చేస్తే, దీన్ని మీరే add చేయాలని Jellyfin documentation చెబుతుంది. video capability లేకుండా CUDA పనిచేస్తుంది, కానీ NVDEC పనిచేయదు. Transcode logలో Cannot load libnvcuvid.so.1 కనిపిస్తుంది. network_mode: host ను Jellyfin స్వంత NVIDIA ఉదాహరణ ఉపయోగిస్తుంది. Jellyfin container guide ప్రకారం host networking optional, కానీ DLNA కోసం అవసరం. బదులుగా bridge network ఉపయోగిస్తే, 8096/tcp మరియు 7359/udp auto-discovery portను మీరే publish చేయాలి.
user: 1000:1000 చివరి line. దీనికి GPUతో సంబంధం లేదు. మీ media mountలో Jellyfin ఏ filesను చదవగలదో ఇది నిర్ణయిస్తుంది. ఇక్కడ mismatch ఉంటే permissions errorకు బదులుగా empty library కనిపిస్తుంది. PUID మరియు PGID diskలోని filesకు container userను ఎలా map చేస్తాయో numberingను వివరిస్తుంది. ఈ stack పక్కన Docker Composeలో Sonarr మరియు Radarr stack నడిపితే, మీరు ఇప్పటికే set చేసినదీ ఇదే numbering.
చాలా tutorials ఇప్పటికీ runtime: nvidia అని ఎందుకు రాస్తున్నాయి
మీరు చూసే దాదాపు ప్రతి guideలో పాత రూపం కనిపిస్తుంది. అది తప్పు కాదు. ఇది చరిత్రకు సంబంధించిన విషయం. అసలు nvidia-docker2 package, nvidia అనే OCI runtimeను register చేసింది. ఆ runtimeతో ఉపయోగించిన environment-variable విధానం NVIDIA_VISIBLE_DEVICES ను ఉపయోగించింది. దీనిని --runtime=nvidia ద్వారా ఎంచుకోవచ్చు లేదా Docker యొక్క default runtimeగా సెట్ చేయవచ్చు. Docker 19.03లో --gpus flag మరియు సరైన device-request API చేర్చబడ్డాయి. Compose దీనికి అనుగుణంగా మారడానికి ఎక్కువ సమయం పట్టింది. మారినప్పుడు device request, deploy.resources.reservations.devices కింద వచ్చింది. deploy అంటే గతంలో Docker Swarm అని చాలామంది నేర్చుకున్నందున, ఈ keyను సాధారణంగా విస్మరించేవారు.
దీని ఫలితంగా, ఈ రెండు రూపాలు ప్రస్తుతం పనిచేస్తాయి. Jellyfin ప్రచురించిన exampleలో రెండూ ఒకేసారి ఉన్నాయి. runtime: nvidia ను ఉంచడం వల్ల ఎటువంటి అదనపు ఖర్చు ఉండదు. పాత Compose versionsలో కూడా file పనిచేస్తుంది. మీరు runtime: nvidia ను మాత్రమే ఉంచి deploy blockను తొలగిస్తే, NVIDIA_VISIBLE_DEVICES=all ను తప్పనిసరిగా ఉంచాలి. కారణం, ఆ legacy path ఏ devicesను inject చేయాలో నిర్ణయించడానికి environment variableను చదువుతుంది. దానికి బదులుగా చదవడానికి device request ఉండదు.
Jellyfinలో NVIDIA హార్డ్వేర్ ట్రాన్స్కోడింగ్ను ప్రారంభించండి
ఇప్పటివరకు Jellyfin కార్డ్ను ఉపయోగించాలని ఎక్కడా పేర్కొనలేదు. Dashboard కు వెళ్లి, Playback, తరువాత Transcoding ను తెరవండి. Hardware acceleration ను Nvidia NVENC గా సెట్ చేయండి. Enable hardware encoding ను ఎంచుకోండి. లేకపోతే Jellyfin GPUలో decode చేసి, CPUలో encode చేస్తుంది. ఈ స్థితిలో GPU activity కనిపిస్తుంది, కానీ CPUపై ఇంకా అధిక భారం ఉంటుంది.
Enable enhanced NVDEC decoder ను ప్రారంభిస్తే ప్రస్తుత NVDEC మార్గం మరియు పాత CUVID మార్గం మధ్య మారుతుంది. దీన్ని ప్రారంభంగానే ఉంచండి. Dolby Vision నిర్వహణకు NVDEC ఉపయోగించాలంటే ఇది తప్పనిసరిగా ప్రారంభించి ఉండాలి.
Under Enable hardware decoding for విభాగంలో, మీ కార్డ్ వాస్తవంగా decode చేయగల codecs ను మాత్రమే ఎంచుకోండి. చాలామంది తప్పు చేసే setting ఇదే. AV1 decoder లేని కార్డ్లో AV1 ను ఎంచుకుంటే hardware decoding కోసం అభ్యర్థన పంపబడుతుంది, కానీ Hardware is lacking required capabilities తో విఫలమవుతుంది. మద్దతు లేని ఎంపిక software decodingకు fallback అవుతుందని హామీ లేదు.
ఈ మొత్తం పేజీకి మరో పరిమితి వర్తిస్తుంది: bundled jellyfin-ffmpeg build తో మాత్రమే hardware acceleration పూర్తిగా మద్దతు పొందుతుంది. ఇతర ఏ మూలం నుంచైనా వచ్చిన FFmpeg binaries partial acceleration కు దారితీస్తాయని Jellyfin documentation హెచ్చరిస్తుంది. మీరు FFmpeg path ను system FFmpeg కు మార్చి ఉంటే, దాన్ని తిరిగి bundled build కు మార్చండి.
మీ GPU తరం decode మరియు encode చేయగల codecలు
NVENC మరియు NVDEC కోసం Jellyfin పేర్కొన్న పరిమితులు ఇవి. Decode మరియు encode వేర్వేరు సామర్థ్యాలు. ఒక cardలో వీటిలో ఒకటి మాత్రమే ఉండవచ్చు.
- H.264 8-bit: NVENC మరియు NVDEC కలిగిన ప్రతి NVIDIA GPU దీనిని decode మరియు encode చేయగలదు.
- HEVC 8-bit: Maxwell second generation (GM206) మరియు తరువాతి తరాల నుంచి decode మరియు encode అందుబాటులో ఉన్నాయి.
- HEVC 10-bit: Maxwell second generation మరియు తరువాతి తరాల నుంచి decode అందుబాటులో ఉంది. అయితే ఆ తరంలో GM206 variants మాత్రమే దీనికి మద్దతు ఇస్తాయి. Encode మాత్రం Pascal మరియు తరువాతి తరాల నుంచి మాత్రమే అందుబాటులో ఉంది.
- AV1: GA100 data center chip మినహా Ampere మరియు తరువాతి తరాల నుంచి decode అందుబాటులో ఉంది. NVIDIA decoder tableలో AV1 decode లేకుండా Hopper కూడా జాబితా చేయబడింది. Encode Ada Lovelace మరియు తరువాతి తరాల నుంచి అందుబాటులో ఉంది. దీనికి Jellyfin 10.9 నుంచి మద్దతు ఇస్తుంది.
ఆచరణలో ఎక్కువ సమస్య కలిగించేది HEVC 10-bit విభజన. GM206 ఆధారిత Maxwell card మీ 4K HDR fileను GPUపై decode చేస్తుంది. అయితే ఇది 10-bit outputను encode చేయలేదు. అయినప్పటికీ 8-bit H.264 మరియు 8-bit HEVC encodingకు ఇది మద్దతు ఇస్తుంది. ఇతర Maxwell chips hardwareలో HEVC 10-bitను అసలు decode చేయవు. Client సామర్థ్యాలు మరియు encoding settings ఆధారంగా Jellyfin output codecను ఎంచుకుంటుంది. దాని HEVC transcoding path 8-bit Main profileను తప్పనిసరిగా ఉపయోగిస్తుంది. AV1 outputకు మద్దతు ఇచ్చే clients కోసం మాత్రమే AV1 outputను ఎంచుకోండి.
Tone mapping వల్ల GPU వినియోగం నిశ్శబ్దంగా మళ్లీ ఎందుకు పెరుగుతుంది
HDR (high dynamic range) నుంచి SDR (standard dynamic range) కు tone mapping చేయడం GPU బడ్జెట్ను దెబ్బతీసే setting. దీనికి కారణం architecture. Decode పని NVDEC పై జరుగుతుంది. Encode పని NVENC పై జరుగుతుంది. Tone mapping మాత్రం ఈ రెండింటిపైనా జరగదు. ఇది shader cores పై నడిచే CUDA filter. Compute పనిని నిర్వహించే GPU యొక్క అదే general-purpose భాగం ఇది. అందువల్ల tone mapping అవసరమైన 4K HDR stream decoder, encoder రెండింటినీ ఉపయోగించడంతో పాటు shaders పై కూడా అదనపు load పెడుతుంది.
HEVC 10-bit ను decode చేయగల ప్రతి NVIDIA GPUలో CUDA tone mapping అందుబాటులో ఉందని Jellyfin documentation పేర్కొంటుంది. అంటే 4K వద్ద ఆ load ను నిరంతరం నిర్వహించలేని cardsలో కూడా ఆ checkbox కనిపించి పనిచేస్తుంది. Stream ప్రారంభమై, buffer అవుతూ, స్థిరపడకుండా ఉండటం సాధారణ లక్షణం. అదే సమయంలో nvidia-smi encoder చాలా తక్కువగా busy ఉందని చూపిస్తుంది.
అందుకే shader load ను విడిగా monitor చేయడం అవసరం.
nvidia-smi dmon -s uఇది ప్రతి secondకు ఒక line ను ప్రింట్ చేస్తుంది. ఇందులో sm, enc, dec కోసం వేర్వేరు columns ఉంటాయి. enc మరియు dec విలువలు తక్కువగా ఉండి, sm విలువ ఎక్కువగా ఉంటే fixed-function blocks కంటే shaders పై load ఉందని అర్థం. కాబట్టి tone mapping, scaling లేదా subtitle burn-in కారణం అయ్యే అవకాశం ఉంది. అయితే దీన్ని ఆధారంగా మాత్రమే పరిగణించాలి; ఇది నిర్ధారణ కాదు. NVIDIA ప్రకారం GPU utilisation అంటే sample periodలో కనీసం ఒక kernel అమలవుతున్న సమయపు వాటా. అందువల్ల high reading అంటే shaders busyగా ఉన్నాయని మాత్రమే సూచిస్తుంది; అవి పూర్తిగా saturated అయ్యాయని కాదు. CUDA path Dolby Vision profile 5 ను zero copyతో కూడా handle చేస్తుంది. ఇది ముఖ్యమైన విషయం. zero copy లేకపోతే filter steps మధ్య frames system memoryకి వెళ్లి తిరిగి రావాలి. ఆ round trip ప్రతి frameకు bandwidthను వినియోగిస్తుంది.
consumer NVENC session cap వాస్తవంగా పరిమితం చేసేది
ఈ చార్ట్ వెనుక ఉన్న డేటా
[
{
"label": "GeForce RTX 5090",
"nvenc_engines": 3,
"max_encode_sessions": 12
},
{
"label": "GeForce RTX 4090",
"nvenc_engines": 2,
"max_encode_sessions": 12
},
{
"label": "GeForce RTX 4060",
"nvenc_engines": 1,
"max_encode_sessions": 12
}
]అవి October 2026 నాటికి NVIDIA ప్రచురించిన matrix గణాంకాలు; ఇక్కడ తీసిన కొలతలు కావు. ఒకే system లోని అన్ని GeForce cards పై కలిపి నడిచే concurrent encode sessions ను NVIDIA విధానం 12 కు పరిమితం చేస్తుంది. ఏ models ఉపయోగిస్తున్నా ఈ పరిమితి వర్తిస్తుంది. ఈ cap silicon లో కాకుండా driver లో ఉంటుంది. NVIDIA సంవత్సరాలుగా దీన్ని ఒకటికంటే ఎక్కువసార్లు పెంచింది. అందువల్ల పాత forum thread ను కాకుండా ప్రస్తుత matrix ను చూడండి. Card తో వాస్తవంగా మారేది engine count. GeForce RTX 5090 లో 3 NVENC engines ఉంటాయి. GeForce RTX 4060 లో 1 ఉంటాయి. ఎక్కువ engines అంటే ఎక్కువ parallel encode throughput. session ceiling పెరగదు.
ఈ cap encode sessions ను లెక్కిస్తుంది. Jellyfin వెలుపల జరిగే video encodes కూడా ఇందులో ఉంటాయి. Direct play మరియు remuxing ఎప్పుడూ encode session ను ప్రారంభించవు. అదే matrix లో L4 వంటి data center cards కు unrestricted అని చూపిస్తారు. అయితే A100 మరియు H100 వంటి models లో NVENC encoder ఉండదు. అందువల్ల GPU VPS plan లోని ఖచ్చితమైన card ను పరిశీలించండి.
ఈ పరిమితిని చేరుకున్నప్పుడు transcode విఫలమవుతుంది. FFmpeg log లో OpenEncodeSessionEx failed: out of memory (10) కనిపిస్తుంది. ఆ message memory ను సూచిస్తుంది. అయితే session-limit refusal కూడా అదే code ను చూపిస్తుంది. కాబట్టి VRAM leak కోసం వెతకడానికి ముందు concurrent stream count ను పరిశీలించండి. ఆచరణలో session twelve కు ముందే చాలామంది tone-mapping ceiling లేదా upload bandwidth పరిమితిని ఎదుర్కొంటారు.
GPU transcoding చేస్తోందని నిరూపించండి; config ను మాత్రమే నమ్మవద్దు
సేవ్ చేసిన setting ఆధారం కాదు. Transcode తప్పనిసరిగా జరిగే file ను ప్లే చేసి, తరువాత మూడు తనిఖీలు చేయండి.
- Dashboard తెరిచి, Playback కు వెళ్లండి. Active session లో Transcoding అని కనిపించాలి. అలాగే దానికి కారణం కూడా చూపించాలి. Direct playing అని కనిపిస్తే ఏదీ transcode కావడం లేదు. మీరు తప్పు file ను పరీక్షిస్తున్నారు.
- Dashboard తెరిచి, Logs కు వెళ్లండి. తరువాత తాజా
FFmpeg.Transcodelog ను తెరవండి. పూర్తిస్థాయి hardware transcode లో command line పై-hwaccel cudaమరియు-hwaccel_output_format cudaకనిపించాలి. అలాగేh264_nvencలేదాhevc_nvencవంటి NVENC encoder కనిపించాలి. Ada Lovelace మరియు తరువాతి తరాలపై AV1 NVENC encoder కూడా కనిపించవచ్చు. అక్కడlibx264కనిపిస్తే settings page ఏమి చెప్పినా encode software లోనే నడుస్తోంది. NVENC encoder ఉన్నప్పటికీ-hwaccel cudaకనిపించకపోతే decode భాగం software లో నడుస్తోంది. - Playback కొనసాగుతుండగా host పై
nvidia-smiఅమలు చేయండి./usr/lib/jellyfin-ffmpeg/ffmpegనుంచి వచ్చిన process GPU memory కేటాయింపుతో కనిపించాలి.nvidia-smi dmon -s uలో enc మరియు dec columns సున్నా కాని విలువలను చూపించాలి.
ఈ మూడవ తనిఖీని container లో కాకుండా host పై అమలు చేయండి. Container లోని nvidia-smi సాధారణంగా ఖాళీ process list ను చూపిస్తుంది, ఎందుకంటే దాని స్వంత namespace వెలుపల ఉన్న process IDs ను అది చూడలదు. అయితే utilisation సంఖ్యలు సరిగ్గా కనిపిస్తాయి. Container లో process list ఖాళీగా ఉండటం లోపం కాదు.
Jellyfin మీకు తెలియజేయకుండా software కు మారినప్పుడు
Hardware encoding disabled అయి ఉన్నప్పుడు లేదా అభ్యర్థించిన hardware encoder అందుబాటులో లేనప్పుడు Jellyfin software encoder ను ఎంచుకుంటుంది. Playback సమయంలో hardware path విఫలమైతే stream కూడా విఫలమవుతుంది. అందువల్ల ప్రతి వైఫల్యం software కు fallback అవుతుందని ఊహించకుండా FFmpeg log ను చదవండి.
Transcode log లోని Cannot load libnvcuvid.so.1 అంటే dynamic loader decoder library ను load చేయలేకపోయిందని అర్థం. ఈ message ఒక్కటితో library mount అయిందో లేదో నిర్ధారించలేము. NVIDIA_DRIVER_CAPABILITIES=all, container driver libraries మరియు dynamic links ను తనిఖీ చేయండి. Environment ను మార్చితే docker compose up -d తో container ను మళ్లీ సృష్టించండి. సాధారణ restart పాత settings ను అలాగే ఉంచుతుంది.
h264_nvenc నుంచి వచ్చిన No capable devices found అంటే FFmpeg encoder library కి చేరుకుంది, కానీ ఉపయోగించగల card ఏదీ కనుగొనలేకపోయిందని అర్థం. docker compose exec jellyfin nvidia-smi ను మళ్లీ తనిఖీ చేయండి. తరువాత device మరియు encoder capability failures కు సంబంధించిన ముందున్న log messages ను చదవండి.
GPU వినియోగం తక్కువగా ఉండి CPU వినియోగం ఎక్కువగా ఉంటే, ఏ stages software ను ఉపయోగిస్తున్నాయో తనిఖీ చేయాలి. మీ generation decode చేయలేని codecs ఎంపికను తీసివేయండి. తరువాత అదే file ను మళ్లీ play చేసి, -hwaccel cuda కనిపిస్తుందో లేదో తెలుసుకోవడానికి FFmpeg log ను మళ్లీ చదవండి. అది కనిపించి CPU ఇంకా busy గా ఉంటే, Jellyfin GPU పై అమలు చేయలేని stage కోసం చూడండి. ఉదాహరణకు image subtitle burn-in ఒక కారణం కావచ్చు.
1080p సరిగ్గా పనిచేస్తూ 4K HDR పై transcode ప్రారంభమైన తరువాత ఆగిపోతే, సాధారణంగా కారణం tone-mapping ceiling. ఇది broken install వల్ల కాదు. nvidia-smi dmon -s u లోని sm column ను monitor చేయండి. తరువాత tone mapping off చేసి అదే file ను మళ్లీ play చేయండి. Stream స్థిరపడితే tone mapping పరిమితిగా ఉంది. ఆ తరువాత client కోరే resolution ను తగ్గించండి. లేదా 4K HDR files ను direct play చేయగల clients లోనే ఉంచండి.
FAQ
Jellyfin లో NVENC ప్రారంభించిన తర్వాత కూడా CPU వినియోగం ఎందుకు కొనసాగుతుంది?
Dashboard, తరువాత Logs కింద ఉన్న తాజా FFmpeg.Transcode log ను పరిశీలించండి. అందులో libx264 కనిపిస్తే, encode software లో నడుస్తోంది. -hwaccel cuda కూడా లేకపోతే, command లో ఎంచుకున్న decoder ను తనిఖీ చేసి GPU కనిపిస్తుందో నిర్ధారించడానికి docker compose exec jellyfin nvidia-smi నడపండి. -hwaccel cuda, libx264 పక్కన కనిపిస్తే, command GPU decoding ను software encoding తో అభ్యర్థిస్తోంది; Enable hardware encoding ప్రారంభించబడిందో, Jellyfin అభ్యర్థించిన hardware encoder ను గుర్తిస్తుందో తనిఖీ చేయండి. Flags మాత్రమే GPU decoding విజయవంతమైందని నిరూపించవు. h264_nvenc కనిపించి -hwaccel cuda లేకపోతే, Enable hardware decoding for కింద ఆ file codec కు tick పెట్టబడిందో తనిఖీ చేయండి. మీ card decode చేయలేని codec కు tick పెడితే software fallback బదులుగా hardware-decoder error రావచ్చు. రెండూ ఉంటే, అయినా CPU busy గా ఉంటే, subtitle burn-in వంటి CPUపైనే కొనసాగే దశ వల్ల load వస్తోంది.
Docker Composeలో ఇంకా runtime: nvidia line అవసరమా?
మీ వద్ద deploy.resources.reservations.devices block మరియు ప్రస్తుత Docker Compose ఉంటే అవసరం లేదు. ఈ block ఆధునిక device-request విధానం; ఇది అదే పని చేస్తుంది. runtime: nvidia అనేది nvidia-docker2 కాలం నాటి పాత విధానం. ఇది ఇంకా పనిచేస్తుంది, అలాగే Jellyfin ప్రచురించిన స్వంత ఉదాహరణలో రెండూ ఉన్నాయి. రెండింటినీ ఉంచడం వల్ల సమస్య లేదు. runtime: nvidia మాత్రమే ఉంచితే NVIDIA_VISIBLE_DEVICES=all ను కూడా ఉంచాలి, ఎందుకంటే ఆ విధానంలో device request చదవడానికి ఏదీ ఉండదు; device list ను environment నుంచి తీసుకుంటుంది.
ఒక NVIDIA GPU ఒకేసారి ఎన్ని streams ను transcode చేయగలదు?
NVIDIA ప్రచురించిన విధానం ప్రకారం, October 2026 నాటికి GeForce cards కు ప్రతి system లో కలిపి 12 concurrent encode sessions పరిమితి ఉంది. L4 వంటి data center cards కు పరిమితి లేదని జాబితాలో ఉంది. కొన్ని data center models లో NVENC encoder ఉండదు. ఈ పరిమితి సాధారణంగా ప్రధాన అడ్డంకి కాదు. HDR నుంచి SDR కు tone mapping, NVENC పై కాకుండా shader cores పై నడుస్తుంది. అందువల్ల ఇది ప్రత్యేకమైన performance limit ను జోడిస్తుంది. nvidia-smi dmon -s u తో మీ స్వంత పరిస్థితిని కొలిచి, session count కాకుండా sm column ను monitor చేయండి.
GPU లేని VPSలో hardware transcoding ఉపయోగించవచ్చా?
లేదు. Encoding కు physical NVENC block అవసరం. Standard VPSలో lspci -nn | grep -Ei "3d|display|vga" నడిపితే hypervisor అందించే virtual display adapter మాత్రమే కనిపిస్తుంది. GPU లేని planలో సరైన పరిష్కారం transcodes ను తొలగించడం. Client quality setting ను Auto కు పెంచండి. Browser బదులుగా native client app ఉపయోగించండి. Image-based subtitles ను నేరుగా render చేసే client ను ఉపయోగించండి. Subtitle compatibility కారణంగా burn-in తప్పనిసరి అయితే, వాటిని text కు convert చేయండి.
1080p transcode సరిగ్గా పనిచేసినా 4K HDR ఎందుకు stutter అవుతుంది?
ఈ రెండు workloads card లోని వేర్వేరు భాగాలను ఉపయోగిస్తాయి. 1080p SDR transcode ప్రధానంగా decode మరియు encode పై ఆధారపడుతుంది. మీ card ఆ codec కు మద్దతు ఇస్తే, ఇవి రెండూ fixed-function hardware పై నడుస్తాయి. దీనికి stream అవసరపడే scaling, deinterlacing లేదా subtitle burn-in అదనమవుతాయి. 4K HDR stream లో tone mapping కూడా ఉంటుంది. ఇది shader cores పై నడిచే CUDA filter. అదనంగా scale చేయాల్సిన frame చాలా పెద్దది. అధిక sm పక్కన nvidia-smi dmon -s u లో enc మరియు dec తక్కువగా కనిపిస్తే, ఇదే కారణమని సూచిస్తుంది. Fixed-function blocks తక్కువగా load అవుతుండగా shaders busy గా ఉన్నాయి. Tone mapping ను off చేసి file ను మళ్లీ play చేయండి. అప్పుడు కారణం నిర్ధారించవచ్చు.