Tự host AI video generator: Hiệu năng thực tế 2026

Một trình tạo video AI tự host thực sự làm được gì

Một trình tạo video AI tự host hiện đã hoạt động được, nhưng chậm và có quy mô nhỏ hơn nhiều so với các video demo. Tính đến tháng 7 năm 2026, những model mã nguồn mở đáng chạy gồm Wan 2.2 của Alibaba và HunyuanVideo của Tencent, cùng LTX-Video của Lightricks khi tốc độ quan trọng hơn độ chân thực. Tất cả đều chạy được trong ComfyUI trên máy Linux có GPU NVIDIA. Với Wan 2.2, model được thiết lập trong hướng dẫn này, đầu ra là một clip dài khoảng 5 giây ở độ phân giải 720p. Lightricks công bố nhiều thông tin hơn cho LTX-2.5, model hiện tại của hãng, model này cũng tạo được audio: tối đa 20 giây cho mỗi clip ở 720p hoặc 1080p và 24 hoặc 25 fps, cùng 4K native ở tối đa 50 fps cho các clip dài tối đa 10 giây. Các giới hạn đó áp dụng cho API của Lightricks, dù weights của LTX-2.5 cũng được công khai trên Hugging Face. Đây vẫn chỉ là một shot. Không phải một cảnh. Không phải một phút video hoàn chỉnh.

Đây là câu trả lời ngắn trước khi đi vào chi tiết. GPU 24 GB render một clip 720p dài 5 giây trong vài phút, tức số phút chỉ ở một chữ số. GPU 12 GB thực hiện cùng tác vụ trong 20 phút hoặc lâu hơn, vì weights không vừa trong video memory và software liên tục chuyển các layer qua lại giữa video memory và system RAM. Server không có GPU không thể làm việc này theo bất kỳ cách nào hữu ích. Phép tính khiến việc tạo ảnh bằng CPU trở nên chậm cũng khiến việc tạo video bằng CPU trở nên vô nghĩa.

Nếu bạn đã đọc bậc phần cứng cho trình tạo ảnh tự host, thì video cũng dựa trên lập luận đó, nhưng mọi con số đều tăng lên một cấp. VRAM (video memory, tức RAM được hàn cạnh chip đồ họa) vẫn là thông số duy nhất quyết định việc này dễ hay rất chậm.

Vì sao một video tốn nhiều tài nguyên hơn hẳn một ảnh

Mô hình diffusion tạo ảnh bằng cách khử nhiễu theo từng bước, và mỗi bước đều đọc toàn bộ weight trong model. Mô hình video cũng làm như vậy với cả một khối frame cùng lúc, đồng thời thêm attention theo thời gian để frame 80 biết frame 12 trông như thế nào. Năm giây ở 24 frame mỗi giây là 120 frame trong một batch.

Temporal attention là lý do chi phí không tăng một cách tuyến tính theo độ dài clip. Khi số frame tăng gấp đôi, bộ nhớ sampler cần thường tăng hơn gấp đôi. Vì vậy, lỗi không phải là render chậm hơn. Render sẽ bị dừng.

Có một đợt tăng bộ nhớ thứ hai mà nhiều người không dự đoán được. Sau khi sampler hoàn tất, VAE (variational autoencoder, thành phần chuyển latent đã nén thành pixel thực) sẽ decode toàn bộ video latent cùng lúc. Quá trình decode này có thể cần nhiều bộ nhớ hơn cả sampling. Dấu hiệu là job hiển thị progress bar đã hoàn tất rồi in ra:

torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 9.31 GiB

Cách khắc phục là dùng tiled decoding hoặc rút ngắn clip. Biết chính xác stage nào hết bộ nhớ sẽ giúp bạn không mất cả giờ để chỉnh sai thông số.

Bạn cần bao nhiêu VRAM để tạo video AI

Hai số liệu đã công bố giúp định hình toàn bộ quyết định, nhưng nhìn qua thì có vẻ mâu thuẫn. Alibaba cho biết model Wan 2.2 TI2V-5B tạo clip 720p ở 24 frames mỗi giây, dài năm giây, trong chưa đến chín phút trên một GPU phổ thông như 4090, và khuyến nghị ít nhất 24 GB VRAM. Tài liệu ComfyUI cho biết cùng model 5B này “sẽ chạy tốt trên 8GB vram với cơ chế offloading native của ComfyUI”.

Cả hai đều đúng vì chúng đo những thứ khác nhau. 8 GB là mức model có thể chạy được. 24 GB là mức chạy thoải mái. Offloading giữ phần lớn model trong RAM hệ thống rồi stream từng layer vào GPU ở mỗi step, nên card dành thời gian chờ bus PCIe thay vì thực hiện phép tính. Chi phí này phát sinh ở mọi sampler step, không chỉ một lần.

[
  {
    "label": "8GB VRAM, heavy offloading",
    "minutes_per_clip": 40
  },
  {
    "label": "12GB VRAM",
    "minutes_per_clip": 22
  },
  {
    "label": "16GB VRAM",
    "minutes_per_clip": 14
  },
  {
    "label": "24GB VRAM, 4090 class",
    "minutes_per_clip": 9
  }
]

Chỉ hàng cuối là số liệu từ vendor. Card 24 GB tạo mỗi clip trong 9 phút, đúng với số liệu Alibaba đã công bố cho model này. Các hàng còn lại cho thấy offloading làm thời gian thay đổi ra sao; đây là thứ tự độ lớn, không phải kết quả benchmark. Điểm chính nằm ở xu hướng: 40 phút trên card 8 GB là một cấu hình về mặt kỹ thuật có thể chạy, nhưng trên thực tế giống một batch job mà bạn phải để chạy qua đêm.

Các model Wan 2.2 lớn hơn thuộc một nhóm hoàn toàn khác. Lệnh inference trên một GPU duy nhất do Alibaba cung cấp cho các biến thể text-to-video và image-to-video A14B yêu cầu ít nhất 80 GB VRAM. Không có card phổ thông nào có dung lượng đó, nên chạy lệnh đúng như tài liệu công bố cần một accelerator cho data center như A100 hoặc H100, hoặc một workstation card như NVIDIA RTX PRO 6000 Blackwell với 96 GB. Con số này áp dụng cho script của Alibaba, không áp dụng cho mọi cách chạy model. Tài liệu ComfyUI về dynamic VRAM loader, được cập nhật vào tháng 3 năm 2026 cho card NVIDIA trên Windows và Linux, đã benchmark cả hai expert 14B ở fp16 và fp8 trên RTX 5060 bằng cách load weight khi cần. Các lần chạy đó dùng 81 frames ở độ phân giải 320 by 320, nên chỉ cho thấy model A14B có thể load trên card nhỏ, chứ không có nghĩa 720p sẽ nhanh hoặc thậm chí thực tế trên card đó. Muốn tạo output 14B ở 720p trong thời gian hợp lý, self-hosted hiện vẫn thường có nghĩa là thuê accelerator của người khác theo giờ. Phép tính tương tự còn tăng nhanh hơn ở phía text, nơi tự host model 2,8 nghìn tỷ tham số như Kimi K3 không còn là câu hỏi về một card duy nhất mà trở thành câu hỏi bạn có thể mua và kết nối bao nhiêu card 80 GB.

Chi phí cho một clip trên GPU thuê

Thuê GPU là cách mà hầu hết mọi người nên dùng để thử nghiệm, vì card bạn mua có thể không phù hợp nếu model cuối cùng bạn muốn dùng cần 80 GB. Giá on-demand trung vị trên thị trường cho thuê GPU tính đến tháng 7 năm 2026:

[
  {
    "label": "RTX 4090, 24GB",
    "usd_per_hour": 0.36,
    "usd_per_clip": 0.05
  },
  {
    "label": "A100, 80GB",
    "usd_per_hour": 1.79,
    "usd_per_clip": 0.6
  },
  {
    "label": "H100, 80GB",
    "usd_per_hour": 2.99,
    "usd_per_clip": 0.55
  }
]

Dòng 4090 chạy model 5B và có chi phí khoảng 0.05 dollar cho mỗi clip, với giá 0.36 dollar mỗi giờ. Các dòng 80 GB chạy model 14B. Vì vậy, chi phí cho mỗi clip tăng lên 0.6 dollar, dù bản thân phần cứng nhanh hơn nhiều. Model lớn hơn cần nhiều compute hơn cho mỗi giây video.

Năm cent cho một clip nghe có vẻ không đáng kể. Nhưng đây chính là điểm dễ gây hiểu nhầm. Năm giây đầu tiên có thể dùng được không bao giờ chỉ cần một lần render. Prompt cho video model là một quá trình tìm kiếm, và việc render từ 20 đến 40 lần trước khi có một bản giữ lại được là bình thường khi shot có chuyển động cụ thể. Vì vậy, một phiên làm việc thường tốn dollar thay vì cent. Một buổi chiều lặp lại trên phần cứng thuê có chi phí tương đương một bữa trưa.

Có 2 chi tiết khi thuê GPU có thể làm phát sinh chi phí đáng kể nếu bạn bỏ qua. Bạn vẫn bị tính tiền trong lúc máy tải weights. Các file Wan 2.2 cùng text encoder và VAE có tổng dung lượng lên đến hàng chục gigabyte, vì vậy hãy chọn provider có persistent volume và chỉ tải xuống một lần. Bạn cũng vẫn bị tính tiền khi máy ở trạng thái idle trong lúc phiên SSH còn mở. Hãy stop instance thay vì chỉ đóng terminal.

Cài ComfyUI trên máy GPU

Bắt đầu với Ubuntu 24.04 và NVIDIA driver đã được cài đặt. Kiểm tra driver trước, vì nếu bỏ qua bước này thì mọi lỗi về sau đều trông giống nhau.

nvidia-smi

Lệnh này phải in ra một bảng có card của bạn và phiên bản CUDA. Nếu lệnh in ra NVIDIA-SMI has failed because it couldn't communicate with the NVIDIA driver, kernel module chưa được nạp. Nguyên nhân thường là bạn vừa upgrade kernel nhưng chưa reboot. Hãy xử lý lỗi này ngay tại đây. Nếu không, ComfyUI sẽ chuyển sang chạy bằng CPU và bạn sẽ mất cả giờ để đổ lỗi cho model.

sudo apt update
sudo apt install -y git python3-venv python3-pip wget
git clone https://github.com/Comfy-Org/ComfyUI.git
cd ComfyUI
python3 -m venv venv
. venv/bin/activate
pip install torch torchvision torchaudio --extra-index-url https://download.pytorch.org/whl/cu130
pip install -r requirements.txt

Xác nhận PyTorch nhận được card trước khi download dù chỉ một file weight.

python -c "import torch; print(torch.cuda.is_available(), torch.cuda.get_device_name(0))"

True cùng với tên card của bạn cho biết stack đang hoạt động bình thường. False có nghĩa là wheel đã cài là bản chỉ dành cho CPU. Trường hợp này xảy ra khi pip lấy torch đã có trong cache từ lần cài trước. Hãy cài lại bằng index URL ở trên.

Tải các file model Wan 2.2

ComfyUI không kèm weights, và một model video không chỉ có một file. Nó gồm diffusion model, text encoder và VAE; mỗi thành phần nằm trong một thư mục riêng. Nếu đặt file sai thư mục, loader node sẽ không liệt kê file đó và cũng không báo lỗi để giải thích nguyên nhân.

cd ~/ComfyUI/models
wget -P diffusion_models https://huggingface.co/Comfy-Org/Wan_2.2_ComfyUI_Repackaged/resolve/main/split_files/diffusion_models/wan2.2_ti2v_5B_fp16.safetensors
wget -P text_encoders https://huggingface.co/Comfy-Org/Wan_2.1_ComfyUI_repackaged/resolve/main/split_files/text_encoders/umt5_xxl_fp8_e4m3fn_scaled.safetensors
wget -P vae https://huggingface.co/Comfy-Org/Wan_2.2_ComfyUI_Repackaged/resolve/main/split_files/vae/wan2.2_vae.safetensors

Model 5B hỗ trợ cả text-to-video và image-to-video, nên đây là lựa chọn khởi đầu hợp lý. Luôn ưu tiên .safetensors hơn .ckpt. File .ckpt là một Python object được pickle, nên việc load file này sẽ chạy code do người tạo file viết. Hãy dự trù nhiều dung lượng disk: một cài đặt hoạt động với một họ model và các file output cần 100 GB, còn file video lớn hơn nhiều so với các ảnh PNG mà workflow xử lý ảnh tạo ra. Hãy backup các file workflow JSON bằng cách như backup incremental được mã hóa lên object storage, vì weights có thể tải lại, còn các workflow đã tinh chỉnh thì không.

Chạy và truy cập an toàn

cd ~/ComfyUI
. venv/bin/activate
python main.py --listen 127.0.0.1 --port 8188

ComfyUI không có màn hình đăng nhập và không có user account. Bất kỳ ai truy cập được port 8188 đều có thể xếp job và đọc mọi clip bạn đã tạo. Nếu sau này bật ComfyUI-Manager, việc visitor từ xa có thể cài custom node hay không còn phụ thuộc vào thiết lập bảo mật và network của nó; custom node có thể thực thi mã tùy ý trên server của bạn. Hãy bind nó vào localhost và truy cập thông qua SSH tunnel từ máy của bạn.

ssh -N -L 8188:127.0.0.1:8188 you@your-server

Sau đó mở http://127.0.0.1:8188 trong browser. Tải workflow template Wan 2.2 từ menu template của ComfyUI thay vì tự nối node. Template chính thức chứa các thiết lập sampler phù hợp với model, còn workflow video có nhiều chỗ hơn để nhập sai một giá trị mà không nhận ra so với workflow image.

Khi câu trả lời đúng là dùng API

Tự host việc tạo video là lựa chọn phù hợp khi khối lượng công việc cao và ổn định, khi các frame không được rời khỏi hạ tầng của bạn, hoặc khi bạn cần một model cụ thể hay custom adapter mà không dịch vụ hosted nào cung cấp. Đây cũng là lựa chọn phù hợp khi pipeline phải tiếp tục hoạt động theo cùng một cách trong một năm nữa. Một số model hosted thay đổi mà không báo trước: Replicate luôn cập nhật các model chính thức lên phiên bản mới nhất và không yêu cầu bạn chỉ định phiên bản. Một số model khác có thể pin phiên bản, còn các model cộng đồng của Replicate được gọi bằng một version cụ thể, vì vậy hãy kiểm tra trước khi xây dựng hệ thống dựa trên một model.

Hãy dùng hosted API khi bạn chỉ cần vài clip mỗi tháng, khi cần output dài hơn hoặc lớn hơn khả năng của các model open, hoặc khi deadline của bạn là trong tuần này. Hãy tính điểm hòa vốn một cách thực tế. Một card 24 GB được thuê liên tục ở mức giá trung vị vào tháng 7 năm 2026 có chi phí khoảng 260 đô la mỗi tháng, còn mua cùng loại card đó sẽ tốn nhiều hơn ngay từ đầu, trước khi bạn tạo được một frame nào. Một máy self-hosted không hoạt động hết công suất lúc nào cũng kém hơn cách tính phí API theo từng clip. Đây cũng là bài toán đánh đổi quyết định cách bạn chạy các text model, được đề cập trong Ollama so với vLLM để chạy LLM self-hosted, và nó dựa trên câu hỏi cơ bản hơn trong VPS có GPU có thực sự đáng tiền hay không.

Cần kiểm tra gì khi render bị lỗi

Nếu render dừng ngay ở cuối, sau khi thanh sampler đã chạy xong, thì VAE decode đã hết memory. Hãy giảm số frame hoặc chuyển sang node tiled decode. Thay đổi số step sẽ không giúp ích, vì decode chỉ chạy một lần sau khi tất cả step đã hoàn tất.

Output toàn màu đen hoặc bị xáo trộn nghiêm trọng thường có nghĩa là VAE không khớp với model. Số phiên bản không cho biết file nào là đúng: model Wan 2.2 TI2V-5B dùng Wan 2.2 VAE, còn cấu hình chính thức của Alibaba cho các model Wan 2.2 A14B chỉ định dùng Wan 2.1 VAE. Hãy load VAE được template chính thức của model đó chỉ định.

Nếu render vẫn chạy nhưng mất hàng giờ trên máy mà bạn biết có GPU, thì ComfyUI đang chạy theo CPU path. Kiểm tra dòng device trong startup log, sau đó chạy lại bước kiểm tra torch.cuda.is_available() ở trên.

Nếu process biến mất với Killed trong dmesg mà không có Python traceback, thì đó là kernel out-of-memory killer. Vấn đề nằm ở system RAM, không phải VRAM. Lượng RAM cần cho offloading phụ thuộc vào cách ComfyUI load weights. Dynamic VRAM loader của ComfyUI, chạy trên card NVIDIA trong Linux và Windows, map các file weight từ disk rồi load khi cần. ComfyUI cho biết loader này có thể chạy các model vượt quá dung lượng RAM vật lý, nên 16 GB system RAM tự nó không loại trừ khả năng offload model 5B. Các bản build cũ và các bản hiện tại được khởi động với --disable-dynamic-vram dùng cách loading dựa trên ước tính trước đây, nên có thể khiến máy cấu hình thấp bị thiếu RAM. Hãy update ComfyUI và kiểm tra để bảo đảm flag này không được đặt. Nếu killer vẫn hoạt động, hãy nâng cấp RAM hoặc thêm swap.

FAQ

Tôi có thể tạo video AI trên VPS không có GPU không?

Không, ít nhất không theo cách bạn sẽ dùng đến lần thứ hai. Một clip 720p dài năm giây mất chín phút trên GPU 24 GB có thể mất nhiều giờ trên CPU. Một số CPU máy chủ có bộ xử lý ma trận tích hợp, chẳng hạn Intel Xeon có AMX, nhưng throughput của chúng thấp hơn GPU rất nhiều, còn băng thông RAM hệ thống thấp hơn băng thông bộ nhớ GPU một bậc độ lớn. Máy chủ chỉ có CPU có thể host giao diện ComfyUI, lưu model và giữ workflow, nhưng quá trình render vẫn cần GPU.

Tôi cần bao nhiêu VRAM cho Wan 2.2?

Với model TI2V-5B, 8 GB là mức tối thiểu khi dùng native offloading của ComfyUI, còn 24 GB là mức Alibaba khuyến nghị để đạt tốc độ đã công bố. Với các model text-to-video và image-to-video A14B, lệnh inference single-GPU của Alibaba yêu cầu ít nhất 80 GB VRAM. Điều đó có nghĩa là cần card data-center 80 GB hoặc card workstation 96 GB như RTX PRO 6000 Blackwell nếu bạn chạy theo cách đó. Dynamic VRAM loader của ComfyUI đã chạy được cả 2 expert 14B trên RTX 5060, nhưng chỉ trong benchmark 320 by 320. Vì vậy, hãy xem đây là bằng chứng cho thấy model có thể load trên card nhỏ, không phải thông số về tốc độ hoặc bộ nhớ ở 720p.

Clip tự host có thể dài bao lâu?

Với Wan 2.2, khoảng năm giây ở 720p là đơn vị thực tế tính đến July 2026. Lightricks ghi rõ LTX-2.5 có thể tạo clip kèm audio dài tối đa 20 giây ở 720p và 1080p, tối đa 10 giây ở 1440p, 4K hoặc 48 đến 50 fps. Muốn tạo output dài hơn, bạn phải tạo từng segment rồi ghép chúng lại, dùng frame cuối của segment này làm frame đầu của segment tiếp theo. Chất lượng có thể lệch dần tại các điểm ghép. Vì vậy, hãy xem video dài là một công việc editing thay vì một lần generation.

Thuê GPU theo giờ có rẻ hơn mua card không?

Thuê sẽ có lợi nếu bạn render dưới vài giờ mỗi ngày. Với mức median khoảng 0.36 dollar mỗi giờ cho card 24 GB vào July 2026, bạn có thể thuê trong thời gian dài trước khi chi phí bằng giá mua card đó. Bạn cũng tránh phải mua phần cứng rồi phát hiện nó không phù hợp với class của model bạn thực sự muốn chạy. Mua chỉ có lợi khi máy chạy gần như cả ngày, mỗi ngày.