Self-hosted AI video generator: உண்மையில் என்ன செய்யும்?

சுயமாக host செய்யப்படும் AI video generator உண்மையில் செய்யக்கூடியவை

சுயமாக host செய்யப்படும் AI video generator தற்போது செயல்படுகிறது. Demo reel-கள் காட்டுவதைவிட இது மெதுவாகவும் குறைந்த அளவிலான வெளியீட்டையும் வழங்குகிறது. July 2026 நிலவரப்படி இயக்கத் தகுந்த open models-களில் Alibaba-வின் Wan 2.2 மற்றும் Tencent-ன் HunyuanVideo ஆகியவை அடங்கும். வேகம் realism-ஐவிட முக்கியமானபோது Lightricks-ன் LTX-Video-ஐப் பயன்படுத்தலாம். இவை அனைத்தும் NVIDIA GPU கொண்ட Linux machine-ல் ComfyUI கீழ் இயங்கும். பெறப்படும் வெளியீடு 720p-ல் தோராயமாக ஐந்து வினாடிகள் நீளமுள்ள clip ஆகும். இது ஒரு முழுக் காட்சி அல்ல. முடிக்கப்பட்ட ஒரு நிமிட footage-மும் அல்ல.

விவரங்களுக்குச் செல்லும் முன் சுருக்கமான பதில் இதோ. 24 GB card ஒன்று 720p-ல் ஐந்து வினாடி clip-ஐ சில நிமிடங்களுக்குள் render செய்யும். 12 GB card அதே பணியை முடிக்க இருபது நிமிடங்கள் அல்லது அதற்கு மேல் எடுத்துக்கொள்ளும். இதற்குக் காரணம் weights video memory-க்குள் பொருந்தாததால், software layers-ஐ system RAM-க்கு இடையிலும் அங்கிருந்தும் தொடர்ந்து நகர்த்துகிறது. GPU இல்லாத server-ல் இதை பயனுள்ள வகையில் செய்ய முடியாது. CPU image generation-ஐ மெதுவாக்கும் கணக்கீட்டு சுமையே CPU video generation-ஐ நடைமுறையில் பயனற்றதாக்குகிறது.

நீங்கள் ஏற்கனவே சுயமாக host செய்யப்படும் image generator-க்கான hardware ladder-ஐப் படித்திருந்தால், video அதே விளக்கமே, ஆனால் ஒவ்வொரு எண்ணும் ஒரு class மேலே நகர்த்தப்பட்டுள்ளது. VRAM (video memory, graphics chip-க்கு அருகில் solder செய்யப்பட்ட RAM) இன்னும் இதை எளிதாகச் செய்ய முடியுமா அல்லது கடினமாக இருக்குமா என்பதைத் தீர்மானிக்கும் ஒரே spec ஆகும்.

ஒரு வீடியோவின் செலவு ஒரு படத்தைவிட ஏன் அதிகம்

ஒரு diffusion model, படத்தைப் படிப்படியாக denoise செய்து உருவாக்குகிறது. ஒவ்வொரு படியிலும் model-இன் ஒவ்வொரு weight-ஐயும் படிக்கிறது. ஒரு video model இதையே முழு frames தொகுதிக்கு ஒரே நேரத்தில் செய்கிறது. மேலும், கால இடைவெளி முழுவதும் attention-ஐச் சேர்க்கிறது. இதனால் frame 80-க்கு frame 12 எப்படி இருந்தது என்பது தெரியும். 24 frames per second வேகத்தில் 5 seconds என்பது ஒரே batch-இல் 120 frames ஆகும்.

இந்த temporal attention காரணமாக clip length அதிகரிக்கும்போது செலவு சீராக அதிகரிக்காது. frame count-ஐ இரட்டிப்பாக்கினால் sampler-க்கு தேவையான memory, இரட்டிப்பைவிட அதிகமாகும். எனவே ஏற்படும் பிரச்சினை rendering மெதுவாகுவது அல்ல. render செயல்முறை நிறுத்தப்படுவதுதான்.

மக்கள் எதிர்பார்க்காத இரண்டாவது memory spike உள்ளது. sampler முடிந்த பிறகு, VAE (variational autoencoder, compressed latent-ஐ உண்மையான pixels-ஆக மாற்றும் பகுதி) முழு latent video-ஐ ஒரே நேரத்தில் decode செய்கிறது. இந்த decode-க்கு sampling-ஐவிட அதிக memory தேவைப்படலாம். progress bar நிறைவடைந்ததாகக் காட்டிய பிறகு, இவ்வாறு அச்சிடப்படும் job இதன் அறிகுறியாகும்:

torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 9.31 GiB

இதற்கான தீர்வு tiled decoding அல்லது குறுகிய clip ஆகும். எந்த stage-இல் memory தீர்ந்தது என்பதை அறிந்தால், தவறான அமைப்பை ஒரு மணி நேரம் சரிசெய்ய முயல்வதைத் தவிர்க்கலாம்.

AI video generation-க்கு எவ்வளவு VRAM தேவை

இரண்டு வெளியிடப்பட்ட புள்ளிவிவரங்கள் முழு முடிவையும் தீர்மானிக்கின்றன. ஆனால் அவை ஒன்றுக்கொன்று முரண்படுவது போலத் தோன்றுகின்றன. Alibaba-வின் கூற்றுப்படி, Wan 2.2 TI2V-5B model, 4090 போன்ற ஒரே consumer GPU-ல், 720p resolution, 24 frames per second, 5 விநாடிகள் நீளமுள்ள clips-ஐ 9 நிமிடங்களுக்குள் உருவாக்கும். இதற்கு குறைந்தது 24 GB VRAM-ஐ அது பரிந்துரைக்கிறது. அதே 5B model, "ComfyUI native offloading" பயன்படுத்தினால் 8GB vram-ல் நன்றாகப் பொருந்தும் என்று ComfyUI documentation குறிப்பிடுகிறது.

இரண்டும் சரிதான். ஏனெனில் அவை வெவ்வேறு விஷயங்களை அளவிடுகின்றன. 8 GB என்பது model பொருந்தும் அளவு. 24 GB என்பது model சிரமமின்றி இயங்கும் அளவு. Offloading முறையில், model-ன் பெரும்பகுதி system RAM-ல் வைக்கப்படுகிறது. ஒவ்வொரு step-க்கும் layers GPU-க்கு stream செய்யப்படுகின்றன. இதனால் GPU கணக்கீடு செய்வதைவிட PCIe bus-க்காகக் காத்திருக்கும் நேரமே அதிகமாகிறது. இந்தச் செலவு ஒருமுறை மட்டும் அல்ல; ஒவ்வொரு sampler step-க்கும் ஏற்படும்.

[
  {
    "label": "8GB VRAM, heavy offloading",
    "minutes_per_clip": 40
  },
  {
    "label": "12GB VRAM",
    "minutes_per_clip": 22
  },
  {
    "label": "16GB VRAM",
    "minutes_per_clip": 14
  },
  {
    "label": "24GB VRAM, 4090 class",
    "minutes_per_clip": 9
  }
]

கடைசி row மட்டுமே vendor வழங்கிய புள்ளிவிவரம். 24 GB card-ல் ஒரு clip உருவாக 9 நிமிடங்கள் ஆகின்றன. இது இந்த model-க்காக Alibaba வெளியிட்ட எண்ணிக்கையாகும். மற்ற rows, offloading இதன் செயல்திறனை எவ்வாறு மாற்றுகிறது என்பதைக் காட்டுகின்றன. அவை benchmark முடிவுகள் அல்ல; அவை order of magnitude மதிப்பீடுகள். முக்கியமானது போக்கு: 8 GB card-ல் 40 நிமிடங்கள் ஆகும் setup தொழில்நுட்ப ரீதியாக இயங்கும். ஆனால் நடைமுறையில், அதை இரவு முழுவதும் இயங்கவிட வேண்டிய batch job ஆகும்.

பெரிய Wan 2.2 models முற்றிலும் வேறுபட்டவை. A14B text-to-video மற்றும் image-to-video variants-க்கு single-GPU inference-க்கு குறைந்தது 80 GB VRAM தேவை. இது data-center hardware. Desk machine-ல் பொருத்தக்கூடிய card அல்ல. இந்த அளவில் self-hosted என்பதன் பொருள், வேறொருவரின் accelerator-ஐ மணிநேர அடிப்படையில் வாடகைக்கு எடுப்பதாகும்.

வாடகை GPU-யில் ஒரு clip-க்கான செலவு

பெரும்பாலானவர்கள் இதைச் சோதிக்க வாடகை முறையைப் பயன்படுத்த வேண்டும். நீங்கள் வாங்கும் card-க்கு 80 GB தேவைப்படும் model கிடைத்தால், அது தவறான hardware ஆகிவிடும். GPU rental சந்தையில் 2026 ஜூலை நிலவரப்படி, on-demand விலைகளின் median:

[
  {
    "label": "RTX 4090, 24GB",
    "usd_per_hour": 0.36,
    "usd_per_clip": 0.05
  },
  {
    "label": "A100, 80GB",
    "usd_per_hour": 1.79,
    "usd_per_clip": 0.6
  },
  {
    "label": "H100, 80GB",
    "usd_per_hour": 2.99,
    "usd_per_clip": 0.55
  }
]

4090 வரிசை 5B model-ஐ இயக்குகிறது. ஒரு மணி நேரத்திற்கு 0.36 dollars செலவாகும். ஒவ்வொரு clip-க்கும் சுமார் 0.05 dollars செலவாகும். 80 GB வரிசைகள் 14B models-ஐ இயக்குகின்றன. அதனால் hardware தானாகவே மிகவும் வேகமாக இருந்தாலும், ஒவ்வொரு clip-க்கான செலவு 0.6 dollars ஆக அதிகரிக்கிறது. பெரிய model என்றால், video-வின் ஒவ்வொரு second-க்கும் அதிக compute தேவைப்படும்.

ஒரு clip-க்கு five cents என்பது மிகச் சிறிய தொகையாகத் தோன்றும். தவறாகப் புரிந்துகொள்ளப்படும் பகுதி இதுதான். பயன்படுத்தக்கூடிய முதல் five seconds ஒரே render-ல் கிடைப்பதில்லை. Video model-க்கு prompting செய்வது ஒரு search செயல்முறை. குறிப்பிட்ட motion கொண்ட shot-க்கு, keeper கிடைக்கும் முன் twenty முதல் forty renders செய்வது வழக்கமானது. எனவே ஒரு working session-க்கான செலவு cents அல்ல, dollars ஆகும். வாடகை hardware-ல் ஒரு பிற்பகல் iteration செய்வதற்கான செலவு lunch-க்குச் செலவாகும் தொகைக்கு நிகராக இருக்கும்.

வாடகையில் உள்ள இரண்டு விவரங்களைத் தவறவிட்டால் உண்மையான செலவு ஏற்படும். Box weights-ஐ download செய்யும் நேரத்திலும் billing நடைபெறும். Wan 2.2 files, அவற்றின் text encoder மற்றும் VAE ஆகியவை tens of gigabytes அளவுக்கு இருக்கும். எனவே persistent volume வழங்கும் provider-ஐத் தேர்ந்தெடுத்து, ஒருமுறை மட்டும் download செய்யுங்கள். SSH session திறந்த நிலையில் box idle-ஆக இருக்கும் நேரத்திலும் billing நடைபெறும். Terminal-ஐ மட்டும் மூடாமல், instance-ஐ stop செய்யுங்கள்.

GPU box-ல் ComfyUI-ஐ நிறுவுதல்

NVIDIA driver ஏற்கனவே நிறுவப்பட்ட Ubuntu 24.04-ல் தொடங்குங்கள். முதலில் driver-ஐச் சரிபார்க்கவும். இந்தச் சரிபார்ப்பு இல்லாமல், பின்னர் ஏற்படும் ஒவ்வொரு பிழையும் ஒரே மாதிரியாகத் தோன்றும்.

nvidia-smi

இது உங்கள் card மற்றும் CUDA version கொண்ட table-ஐ அச்சிட வேண்டும். இது NVIDIA-SMI has failed because it couldn't communicate with the NVIDIA driver-ஐ அச்சிட்டால், kernel module load செய்யப்படவில்லை. பொதுவாக reboot செய்யாமல் kernel upgrade செய்த பிறகு இது ஏற்படும். இங்கேயே அதைச் சரிசெய்யவும். இல்லையெனில் ComfyUI CPU path-க்கு மாறிவிடும். பின்னர் ஒரு மணி நேரம் model-ஐக் குற்றம் சாட்ட வேண்டியிருக்கும்.

sudo apt update
sudo apt install -y git python3-venv python3-pip wget
git clone https://github.com/Comfy-Org/ComfyUI.git
cd ComfyUI
python3 -m venv venv
. venv/bin/activate
pip install torch torchvision torchaudio --extra-index-url https://download.pytorch.org/whl/cu130
pip install -r requirements.txt

ஒரு weight file-ஐக் கூட download செய்வதற்கு முன், PyTorch உங்கள் card-ஐக் கண்டறிகிறதா என்பதை உறுதிப்படுத்தவும்.

python -c "import torch; print(torch.cuda.is_available(), torch.cuda.get_device_name(0))"

True மற்றும் உங்கள் card name தோன்றினால், stack சரியாக இயங்குகிறது. False தோன்றினால், நிறுவப்பட்ட wheel CPU-only build ஆகும். முந்தைய install-இலிருந்து pip cached torch-ஐக் கண்டறியும் போது இது ஏற்படும். மேலே உள்ள index URL-ஐப் பயன்படுத்தி மீண்டும் install செய்யவும்.

Wan 2.2 model files-ஐ Download செய்யவும்

ComfyUI எந்த weights-ஐயும் உடன் வழங்காது. Video model என்பது ஒரு file மட்டும் அல்ல. இதில் diffusion model, text encoder மற்றும் VAE ஆகியவை உள்ளன. ஒவ்வொன்றையும் அதற்குரிய தனி directory-யில் வைக்க வேண்டும். ஒரு file-ஐ தவறான folder-ல் வைத்தால், அதை ஏன் கண்டறிய முடியவில்லை என்பதை விளக்கும் error எதுவும் இல்லாமல் loader node அந்த file-ஐ பட்டியலிடாது.

cd ~/ComfyUI/models
wget -P diffusion_models https://huggingface.co/Comfy-Org/Wan_2.2_ComfyUI_Repackaged/resolve/main/split_files/diffusion_models/wan2.2_ti2v_5B_fp16.safetensors
wget -P text_encoders https://huggingface.co/Comfy-Org/Wan_2.1_ComfyUI_repackaged/resolve/main/split_files/text_encoders/umt5_xxl_fp8_e4m3fn_scaled.safetensors
wget -P vae https://huggingface.co/Comfy-Org/Wan_2.2_ComfyUI_Repackaged/resolve/main/split_files/vae/wan2.2_vae.safetensors

5B model, text-to-video மற்றும் image-to-video இரண்டையும் கையாளும். எனவே தொடங்குவதற்கு இது பொருத்தமான தேர்வு. எப்போதும் .safetensors-ஐ விட .ckpt-ஐ முன்னுரிமை அளிக்கவும். .ckpt file என்பது pickled Python object ஆகும். எனவே அதை load செய்யும்போது, அதை உருவாக்கியவர் எழுதிய code இயக்கப்படும். Disk இடத்தை தாராளமாக ஒதுக்கவும்: ஒரு model family மற்றும் அதன் output உடன் செயல்படும் install-க்கு 100 GB தேவைப்படும். Video files, image workflow உருவாக்கும் PNG images-ஐ விட மிகவும் பெரியவை. உங்கள் workflow JSON files-ஐ object storage-க்கான encrypted incremental backups போன்ற முறையில் backup செய்யவும். Weights-ஐ மீண்டும் download செய்யலாம்; நீங்கள் tuning செய்த workflows-ஐ மீண்டும் பெற முடியாது.

அதை இயக்கி, பாதுகாப்பாக அணுகவும்

cd ~/ComfyUI
. venv/bin/activate
python main.py --listen 127.0.0.1 --port 8188

ComfyUI-யில் உள்நுழைவு திரையும் பயனர் கணக்குகளும் இல்லை. port 8188-ஐ அணுகக்கூடிய எதுவும் jobs-ஐ queue செய்யலாம், நீங்கள் உருவாக்கிய அனைத்து clips-ஐப் படிக்கலாம், மேலும் custom nodes-ஐ நிறுவலாம். இதனால் உங்கள் server-ல் arbitrary code execution ஏற்படலாம். அதை localhost-க்கு bind செய்து, உங்கள் சொந்த machine-லிருந்து SSH tunnel வழியாக அணுகவும்.

ssh -N -L 8188:127.0.0.1:8188 you@your-server

பின்னர் உங்கள் browser-ல் http://127.0.0.1:8188-ஐத் திறக்கவும். Nodes-ஐக் கையால் இணைப்பதற்குப் பதிலாக, ComfyUI templates menu-விலிருந்து Wan 2.2 template workflow-ஐ load செய்யவும். Official templates-ல் model-க்காக tune செய்யப்பட்ட sampler settings உள்ளன. மேலும், image workflow-ஐவிட video workflow-ல் ஏதேனும் ஒரு value தவறாக அமைதியாக விடப்படும் இடங்கள் அதிகம் உள்ளன.

API-ஐ பயன்படுத்துவதே நேர்மையான பதிலாக இருக்கும் போது

Self-hosted video generation சரியான தேர்வாகும் சூழல்கள் உள்ளன. பயன்பாட்டு அளவு அதிகமாகவும் தொடர்ச்சியாகவும் இருக்கும்போது, உங்கள் frames உங்கள் சொந்த infrastructure-ஐ விட்டு வெளியே செல்லக்கூடாதபோது, அல்லது hosted service எதுவும் வழங்காத குறிப்பிட்ட model அல்லது custom adapter தேவைப்படும்போது இதைப் பயன்படுத்தலாம். pipeline ஒரு ஆண்டுக்குப் பிறகும் அதே முறையில் செயல்பட வேண்டும் என்றாலும் இது சரியான தேர்வாகும். காரணம், pin செய்யக்கூடிய version இல்லாமல் hosted model உங்களுக்குத் தெரியாமலேயே மாறக்கூடும்.

மாதத்திற்கு சில clips மட்டுமே தேவைப்பட்டால், open models உருவாக்குவதைவிட நீளமான அல்லது பெரிய output தேவைப்பட்டால், அல்லது இந்த வாரத்துக்குள் deadline இருந்தால் hosted API-ஐப் பயன்படுத்தவும். break-even கணக்கை நேர்மையாகச் செய்யவும். July 2026-ன் median விலைப்படி, 24 GB card-ஐ 24 மணி நேரமும் வாடகைக்கு எடுப்பது மாதத்திற்கு சுமார் 260 dollars ஆகும். அதே card-ஐ வாங்குவதற்கான முன்பணம், ஒரு frame-ஐ உருவாக்குவதற்கு முன்பே, இதைவிட அதிகமாக இருக்கும். பயன்படுத்தப்படாமல் இருக்கும் self-hosted box, ஒவ்வொரு clip-க்குமான API pricing-ஐ ஒவ்வொரு முறையும் விட அதிக செலவாகும். Text models-ஐ எவ்வாறு serve செய்வது என்பதைத் தீர்மானிக்கும் இதே trade-off பற்றிய விளக்கம் self-hosted LLM serving-க்கான Ollama மற்றும் vLLM ஒப்பீடு பகுதியில் உள்ளது. இதற்கு முன் பரிசீலிக்க வேண்டிய அடிப்படை கேள்வியான GPU கொண்ட VPS-க்கு செலவிடுவது உண்மையில் மதிப்புள்ளதா என்பதன் மேல் இந்த முடிவு அமைகிறது.

render தோல்வியடையும் போது சரிபார்க்க வேண்டியவை

sampler bar முழுமையாக முடிந்த பிறகு, இறுதியில் render நிறுத்தப்பட்டால், VAE decode செயல்பாட்டில் memory தீர்ந்திருக்கலாம். frame count-ஐக் குறைக்கவும் அல்லது tiled decode node-க்கு மாற்றவும். step count-ஐ மாற்றுவதால் பயன் இல்லை. ஏனெனில் ஒவ்வொரு step-ம் முடிந்த பிறகு decode ஒருமுறை மட்டுமே நடைபெறும்.

Output முழுவதும் கருப்பாகவோ அல்லது மிகவும் குழப்பமாகவோ இருந்தால், VAE மற்றும் model பொருந்தவில்லை என்று பொதுவாக அர்த்தம். Wan 2.2 diffusion model-க்கு எதிராக Wan 2.1 VAE ஏற்றப்பட்டால் இதே விளைவு ஏற்படும். log-ல் எந்த இடத்திலும் error தோன்றாது.

GPU இருப்பது உறுதியாகத் தெரிந்த machine-ல் render இயங்கினாலும் பல மணி நேரம் எடுத்தால், ComfyUI CPU path-ல் இயங்குகிறது என்று அர்த்தம். device line-ஐ startup log-ல் சரிபார்க்கவும். பின்னர் மேலே உள்ள torch.cuda.is_available() check-ஐ மீண்டும் இயக்கவும்.

dmesg-ல் Killed தோன்றியபடி process மறைந்து, Python traceback இல்லாவிட்டால், அது kernel out-of-memory killer ஆகும். எனவே இது system RAM பிரச்சினை; VRAM பிரச்சினை அல்ல. Offloading-க்கு முழு model-ம் system RAM-ல் resident ஆக இருக்க வேண்டும். ஆகவே 16 GB machine-ல் 5B model-ஐ offload செய்ய போதிய memory இருக்காது. RAM-ஐ அதிகரிக்கவும் அல்லது swap-ஐச் சேர்க்கவும்.

FAQ

GPU இல்லாத VPS-ல் AI video உருவாக்க முடியுமா?

இல்லை. அதை இரண்டு முறை பயன்படுத்தும் அளவுக்குக் கூட நடைமுறையில் முடியாது. 24 GB GPU-ல் 720p resolution கொண்ட five second clip உருவாக ஒன்பது நிமிடங்கள் ஆகும். அதே பணிக்கு CPU-ல் பல மணி நேரங்கள் ஆகும். காரணம், model-ஐ இயக்குவதற்கான matrix hardware CPU-ல் இல்லை. மேலும், system RAM bandwidth, GPU memory bandwidth-ஐ விட ஒரு order of magnitude குறைவாக உள்ளது. CPU server-ல் ComfyUI interface-ஐ host செய்யலாம். Models-ஐ சேமிக்கலாம். Workflows-ஐ வைத்திருக்கலாம். ஆனால் rendering-க்கு GPU தேவை.

Wan 2.2-க்கு எவ்வளவு VRAM தேவை?

TI2V-5B model-க்கு, ComfyUI native offloading பயன்படுத்தும்போது குறைந்தபட்சம் 8 GB தேவை. வெளியிடப்பட்ட வேகத்தைப் பெற Alibaba பரிந்துரைப்பது 24 GB ஆகும். A14B text-to-video மற்றும் image-to-video models-க்கு, single-GPU inference-க்கு குறைந்தது 80 GB VRAM தேவை என்று model card குறிப்பிடுகிறது. எனவே அவற்றுக்கு data-center cards தேவை.

self-hosted clip எவ்வளவு நீளமாக இருக்கலாம்?

July 2026 நிலவரப்படி, 720p resolution-ல் சுமார் five seconds என்பது நடைமுறைக்கு ஏற்ற அளவு. நீளமான output-ஐ segments உருவாக்கி அவற்றை இணைப்பதன் மூலம் பெறலாம். ஒரு segment-ன் கடைசி frame-ஐ அடுத்த segment-ன் முதல் frame-ஆக பயன்படுத்த வேண்டும். இணைப்புப் பகுதிகளில் quality மாறக்கூடும். எனவே நீளமான video-வை ஒரே generation ஆகக் கருதாமல், editing job ஆகக் கருதுங்கள்.

GPU-ஐ வாங்குவதைவிட மணிநேர அடிப்படையில் rent செய்வது மலிவானதா?

ஒரு நாளில் சில மணி நேரங்களுக்குக் குறைவாக rendering செய்யும்போது rent செய்வது சாதகமானது. July 2026-ல் 24 GB card-க்கு ஒரு மணி நேரத்திற்கான median விலை சுமார் 0.36 dollars ஆக இருந்தது. அந்த card-ன் வாங்கும் விலையை ஈடுகட்டும் அளவுக்கு முன்பாக நீண்ட காலம் rent செய்ய முடியும். மேலும், நீங்கள் பயன்படுத்த விரும்பும் model-க்கு பொருந்தாத class-ஐச் சேர்ந்த hardware-ஐ வாங்கும் அபாயத்தையும் தவிர்க்கலாம். Server box ஒவ்வொரு நாளும் பெரும்பாலான நேரம் busy ஆக இருந்தால் மட்டுமே வாங்குவது சாதகமாகும்.