Self-hosted AI video generator: ano ang tunay na kaya

Ano ang aktuwal na kayang gawin ng isang self-hosted AI video generator

Gumagana na ngayon ang isang self-hosted AI video generator, pero mas mabagal at mas limitado ito kaysa ipinapakita ng mga demo reel. Noong July 2026, ang mga open model na sulit patakbuhin ay ang Wan 2.2 mula sa Alibaba at HunyuanVideo mula sa Tencent, pati ang LTX-Video mula sa Lightricks kapag mas mahalaga ang bilis kaysa realism. Lahat ng ito ay tumatakbo sa ilalim ng ComfyUI sa isang Linux machine na may NVIDIA GPU. Ang output ay clip na humigit-kumulang limang segundo sa 720p. Hindi ito isang buong eksena. Hindi rin ito isang minutong tapos na footage.

Narito ang maikling sagot bago ang mga detalye. Ang isang 24 GB card ay nagre-render ng limang segundong 720p clip sa loob ng ilang minuto. Ang isang 12 GB card ay gumagawa ng parehong trabaho sa loob ng 20 minuto o higit pa, dahil hindi kasya ang weights sa video memory at patuloy na inililipat ng software ang mga layer papunta at pabalik sa system RAM. Ang server na walang GPU ay hindi makagagawa nito sa anumang praktikal na paraan. Dahil mabagal ang CPU image generation, magiging walang saysay ang CPU video generation.

Kung nabasa mo na ang hardware ladder para sa isang self-hosted image generator, pareho ang prinsipyo sa video, pero umaakyat ng isang klase ang bawat numero. Ang VRAM (video memory, ang RAM na nakakabit malapit sa graphics chip) pa rin ang tanging spec na nagpapasya kung magiging madali o mahirap ito.

Bakit mas malaki nang husto ang gastos sa isang video kaysa sa isang image

Gumagawa ang diffusion model ng image sa pamamagitan ng sunod-sunod na pag-denoise, at binabasa ng bawat step ang lahat ng weight sa model. Ginagawa rin ito ng video model sa isang buong block ng frames nang sabay-sabay. Nagdaragdag ito ng attention sa paglipas ng panahon, kaya nalalaman ng frame 80 kung ano ang hitsura ng frame 12. Ang limang segundo sa 24 frames per second ay 120 frames sa iisang batch.

Ang temporal attention ang dahilan kung bakit hindi maayos na sumusunod ang gastos sa haba ng clip. Kapag dinoble ang bilang ng frames, higit sa doble ang memory na kailangan ng sampler. Kaya ang failure mode ay hindi mas mabagal na rendering. Namamatay ang render.

May ikalawang memory spike na hindi inaasahan ng maraming user. Pagkatapos matapos ng sampler, dine-decode ng VAE (variational autoencoder, ang bahaging nagko-convert ng compressed latent sa mga aktuwal na pixel) ang buong latent video nang sabay-sabay. Maaaring mangailangan ng mas malaking memory ang decode na ito kaysa sa sampling. Ang sintomas ay isang job na nagpapakitang kumpleto na ang progress bar at pagkatapos ay nagpi-print nito:

torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 9.31 GiB

Ang solusyon ay tiled decoding o mas maikling clip. Kapag alam mo kung saang stage naubusan ng memory, maiiwasan mong i-tune ang maling setting sa loob ng isang oras.

Gaano karaming VRAM ang kailangan para sa AI video generation

Dalawang inilathalang datos ang bumabalangkas sa buong desisyon, at mukhang nagkakasalungat ang mga ito. Sinasabi ng Alibaba na ang Wan 2.2 TI2V-5B model ay gumagawa ng 720p clip sa 24 frames per second na limang segundo ang haba sa loob ng wala pang siyam na minuto gamit ang iisang consumer GPU gaya ng 4090, at inirerekomenda nito ang hindi bababa sa 24 GB ng VRAM. Sinasabi naman sa dokumentasyon ng ComfyUI na ang parehong 5B model ay “dapat magkasya nang maayos sa 8GB vram gamit ang ComfyUI native offloading”.

Parehong tama ang mga ito dahil magkaibang bagay ang sinusukat nila. Ang 8 GB ang minimum kung saan ito kasya. Ang 24 GB ang kapasidad kung saan maayos itong tumatakbo. Gumagana ang offloading sa pamamagitan ng pagpapanatili sa karamihan ng model sa system RAM at pag-stream ng mga layer papunta sa GPU sa bawat step, kaya ginugugol ng card ang oras nito sa paghihintay sa PCIe bus sa halip na sa pagkalkula. Binabayaran mo ang gastos na ito sa bawat sampler step, hindi isang beses lamang.

[
  {
    "label": "8GB VRAM, heavy offloading",
    "minutes_per_clip": 40
  },
  {
    "label": "12GB VRAM",
    "minutes_per_clip": 22
  },
  {
    "label": "16GB VRAM",
    "minutes_per_clip": 14
  },
  {
    "label": "24GB VRAM, 4090 class",
    "minutes_per_clip": 9
  }
]

Ang huling row lamang ang datos mula sa vendor. Umaabot ang 24 GB card sa 9 minuto bawat clip, na siyang inilathalang bilang ng Alibaba para sa model na ito. Ang ibang row ay nagpapakita ng epekto ng offloading dito, at tinatayang order of magnitude lamang ang mga ito, hindi resulta ng benchmark. Ito ang mahalagang punto: ang 40 minuto sa 8 GB card ay teknikal na gumaganang setup, pero praktikal na batch job na kailangan mong patakbuhin magdamag.

Ibang usapan ang mas malalaking Wan 2.2 model. Nangangailangan ang A14B text-to-video at image-to-video variant ng hindi bababa sa 80 GB ng VRAM para sa single-GPU inference. Data-center hardware ito, hindi card na inilalagay sa desktop machine, at dito nagsisimulang mangahulugan ang self-hosted na umuupa ka ng accelerator ng ibang tao kada oras.

Magkano ang isang clip sa nirentahang GPU

Ang pagrenta ang dapat gamitin ng karamihan para subukan ito, dahil maling hardware ang bibilhin mong card kung ang modelong kakailanganin mo ay nangangailangan ng 80 GB. Mga median na on-demand price sa GPU rental market, noong July 2026:

[
  {
    "label": "RTX 4090, 24GB",
    "usd_per_hour": 0.36,
    "usd_per_clip": 0.05
  },
  {
    "label": "A100, 80GB",
    "usd_per_hour": 1.79,
    "usd_per_clip": 0.6
  },
  {
    "label": "H100, 80GB",
    "usd_per_hour": 2.99,
    "usd_per_clip": 0.55
  }
]

Pinapatakbo ng 4090 row ang 5B model at nagkakahalaga ng humigit-kumulang 0.05 dollars bawat clip sa halagang 0.36 dollars kada oras. Pinapatakbo ng mga row na may 80 GB ang 14B models. Ito ang dahilan kung bakit tumataas sa 0.6 dollars ang gastos bawat clip kahit mas mabilis mismo ang hardware. Mas malaking model, mas maraming compute bawat segundo ng video.

Mukhang napakaliit ng limang cents bawat clip, pero iyon ang nakalilinlang. Ang unang magagamit mong limang segundo ay hindi kailanman resulta ng isang render lang. Ang pagbuo ng prompt para sa video model ay isang proseso ng paghahanap, at normal ang dalawampu hanggang apatnapung render bago makakuha ng keeper para sa shot na may partikular na galaw. Kaya dollars, hindi cents, ang gastos sa isang working session, at ang isang hapon ng pag-iiterate sa nirentahang hardware ay nagkakahalaga ng halos katumbas ng tanghalian.

Dalawang detalye sa pagrenta ang maaaring magdagdag ng malaking gastos kapag napalampas mo ang mga ito. Sinisingil ka habang nagda-download ang box ng weights, at umaabot sa sampu-sampung gigabytes ang mga file ng Wan 2.2 kasama ang text encoder at VAE nito. Kaya pumili ng provider na may persistent volume at isang beses lang mag-download. Sinisingil ka rin habang idle ang box na bukas ang iyong SSH session. Ihinto ang instance sa halip na isara lang ang terminal.

I-install ang ComfyUI sa GPU box

Magsimula sa Ubuntu 24.04 na naka-install na ang NVIDIA driver. Suriin muna ang driver, dahil magiging pare-pareho ang hitsura ng bawat kasunod na failure kapag hindi ito nasuri.

nvidia-smi

Dapat mag-print ito ng table na naglalaman ng iyong card at bersyon ng CUDA. Kung mag-print ito ng NVIDIA-SMI has failed because it couldn't communicate with the NVIDIA driver, hindi naka-load ang kernel module. Karaniwan itong nangyayari pagkatapos ng kernel upgrade na walang reboot. Ayusin ito bago magpatuloy. Kung hindi, gagamit ang ComfyUI ng CPU path at masasayang ang isang oras sa maling paghanap ng problema sa model.

sudo apt update
sudo apt install -y git python3-venv python3-pip wget
git clone https://github.com/Comfy-Org/ComfyUI.git
cd ComfyUI
python3 -m venv venv
. venv/bin/activate
pip install torch torchvision torchaudio --extra-index-url https://download.pytorch.org/whl/cu130
pip install -r requirements.txt

Kumpirmahing nakikita ng PyTorch ang card bago mag-download ng kahit isang weight file.

python -c "import torch; print(torch.cuda.is_available(), torch.cuda.get_device_name(0))"

Ibig sabihin ng True kasama ng pangalan ng iyong card na maayos ang stack. Ibig sabihin ng False na CPU-only build ang naka-install na wheel. Nangyayari ito kapag nakahanap ang pip ng naka-cache na torch mula sa naunang installation. Mag-install muli gamit ang index URL sa itaas.

I-download ang mga file ng Wan 2.2 model

Walang kasamang weights ang ComfyUI, at hindi isang file lamang ang video model. Binubuo ito ng diffusion model, text encoder, at VAE, at bawat isa ay dapat ilagay sa sarili nitong directory. Kapag nailagay ang file sa maling folder, hindi ito ililista ng loader node at walang error na magpapaliwanag kung bakit.

cd ~/ComfyUI/models
wget -P diffusion_models https://huggingface.co/Comfy-Org/Wan_2.2_ComfyUI_Repackaged/resolve/main/split_files/diffusion_models/wan2.2_ti2v_5B_fp16.safetensors
wget -P text_encoders https://huggingface.co/Comfy-Org/Wan_2.1_ComfyUI_repackaged/resolve/main/split_files/text_encoders/umt5_xxl_fp8_e4m3fn_scaled.safetensors
wget -P vae https://huggingface.co/Comfy-Org/Wan_2.2_ComfyUI_Repackaged/resolve/main/split_files/vae/wan2.2_vae.safetensors

Sinusuportahan ng 5B model ang text-to-video at image-to-video, kaya ito ang praktikal na panimulang pagpipilian. Palaging piliin ang .safetensors kaysa sa .ckpt. Ang .ckpt file ay isang pickled Python object, kaya kapag ni-load ito, nagpapatakbo ito ng code na isinulat ng gumawa nito. Maglaan ng sapat na disk space: ang gumaganang installation na may isang model family at mga output nito ay nangangailangan ng 100 GB, at mas malalaki ang video file kaysa sa mga PNG image na iniiwan ng image workflow. Mag-back up ng mga workflow JSON file gamit ang encrypted incremental backup sa object storage, dahil maaaring i-download muli ang weights ngunit hindi ang mga na-tune mong workflow.

Patakbuhin ito at ligtas na i-access

cd ~/ComfyUI
. venv/bin/activate
python main.py --listen 127.0.0.1 --port 8188

Walang login screen at user accounts ang ComfyUI. Ang anumang makakaabot sa port 8188 ay maaaring mag-queue ng mga job, bumasa sa lahat ng clip na ginawa mo, at mag-install ng custom nodes. Nangangahulugan ito ng arbitrary code execution sa server mo. I-bind ito sa localhost at i-access sa pamamagitan ng SSH tunnel mula sa sarili mong machine.

ssh -N -L 8188:127.0.0.1:8188 you@your-server

Pagkatapos, buksan ang http://127.0.0.1:8188 sa browser mo. I-load ang Wan 2.2 template workflow mula sa ComfyUI templates menu sa halip na manu-manong mag-wire ng mga node. Nasa official templates ang mga sampler setting na pinagtakdaan ng model. Mas maraming lugar sa video workflow kung saan maaaring tahimik na maging mali ang isang value kaysa sa image workflow.

Kapag ang tapat na sagot ay gumamit ng API

Ang self-hosting ng video generation ang tamang piliin kapag mataas at tuloy-tuloy ang volume, kapag hindi dapat lumabas sa sarili mong infrastructure ang mga frame, o kapag kailangan mo ng partikular na model o custom adapter na walang hosted service. Tama rin ito kapag dapat gumana sa parehong paraan ang pipeline pagkalipas ng isang taon, dahil maaaring magbago ang isang hosted model nang walang version na maaari mong i-pin.

Gumamit ng hosted API kapag ilang clip lang bawat buwan ang kailangan mo, kapag kailangan mo ng output na mas mahaba o mas malaki kaysa sa nagagawa ng open models, o kapag may deadline ka ngayong linggo. Isagawa nang tapat ang break-even analysis. Ang isang 24 GB card na nirenta nang buong maghapon sa median noong July 2026 ay humigit-kumulang 260 dollars bawat buwan, at ang pagbili ng kaparehong card ay mas mahal kaysa rito agad, bago ka pa makagawa ng isang frame. Sa bawat pagkakataon, mas mahal ang idle self-hosted box kaysa sa per-clip API pricing. Ito ang parehong trade-off na nagpapasya kung paano mo ise-serve ang text models, na tinalakay sa Ollama laban sa vLLM para sa self-hosted LLM serving, at nakabatay ito sa mas pangunahing tanong sa kung sulit nga ba ang VPS na may GPU.

Mga dapat suriin kapag nabigo ang render

Ang render na biglang humihinto sa pinakahuli, pagkatapos makumpleto ang sampler bar, ay naubusan ng memory sa VAE decode. Bawasan ang bilang ng mga frame o gumamit ng tiled decode node. Hindi makatutulong ang pagpapalit ng step count dahil isang beses lang isinasagawa ang decode, matapos tumakbo ang lahat ng step.

Ang output na purong itim o malubhang magulo ay karaniwang nangangahulugang hindi tugma ang VAE sa model. Ganito mismo ang resulta kapag nag-load ng Wan 2.1 VAE para sa Wan 2.2 diffusion model, at walang error na lumilitaw saanman sa log.

Ang render na tumatakbo ngunit inaabot ng ilang oras sa isang machine na alam mong may GPU ay nangangahulugang ginagamit ng ComfyUI ang CPU path. Suriin ang device line sa startup log, pagkatapos ay patakbuhin muli ang torch.cuda.is_available() check sa itaas.

Ang prosesong biglang nawawala na may Killed sa dmesg at walang Python traceback ay dulot ng kernel out-of-memory killer. Ibig sabihin, system RAM ang naubos, hindi VRAM. Kailangang manatili sa system RAM ang buong model kapag gumagamit ng offloading. Dahil dito, kapos ang 16 GB na machine na nag-o-offload ng 5B model. Magdagdag ng RAM o magdagdag ng swap.

FAQ

Maaari ba akong mag-generate ng AI video sa isang VPS na walang GPU?

Hindi, hindi sa paraang gagamitin mo ito nang higit sa isang beses. Ang 720p clip na limang segundo ang haba at tumatagal ng siyam na minuto sa 24 GB GPU ay maaaring abutin ng maraming oras sa CPU, dahil walang matrix hardware ang model na mapagpapatakbuhan nito, at ang bandwidth ng system RAM ay isang order of magnitude na mas mababa kaysa sa memory bandwidth ng GPU. Maaaring i-host ng CPU server ang ComfyUI interface, i-store ang iyong mga modelo, at panatilihin ang iyong mga workflow, ngunit kailangan ng GPU ang mismong pag-render.

Gaano karaming VRAM ang kailangan ko para sa Wan 2.2?

Para sa TI2V-5B model, 8 GB ang pinakamababang kinakailangan kapag ComfyUI native offloading ang ginagamit, at 24 GB ang inirerekomenda ng Alibaba para makuha ang inilathalang bilis. Para sa A14B text-to-video at image-to-video models, hinihingi ng model card ang hindi bababa sa 80 GB na VRAM para sa single-GPU inference. Dahil dito, kailangan ang mga data-center card.

Gaano kahaba ang maaaring maging self-hosted clip?

Humigit-kumulang limang segundo sa 720p ang praktikal na haba noong July 2026. Ginagawa ang mas mahabang output sa pamamagitan ng pag-generate ng mga segment at pagsasama sa mga ito. Ginagamit ang huling frame ng isang segment bilang unang frame ng kasunod. Maaaring magbago ang kalidad sa mga dugtungan, kaya ituring ang mahabang video bilang isang editing job sa halip na isang generation.

Mas mura ba ang pagrenta ng GPU kada oras kaysa pagbili ng card?

Mas kapaki-pakinabang ang pagrenta kung wala pang ilang oras bawat araw ang pag-render. Sa median na humigit-kumulang 0.36 dollars kada oras noong July 2026 para sa 24 GB card, matagal kang maaaring mag-rent bago matumbasan ang presyo ng pagbili ng card. Naiiwasan mo rin ang pagbili ng hardware na maaaring hindi angkop sa class ng model na aktuwal mong nais gamitin. Mas kapaki-pakinabang lamang ang pagbili kapag abala ang server sa halos buong araw, araw-araw.