Keperluan Sebenar Penjana Imej AI Kendiri

Keperluan sebenar penjana imej AI yang dihoskan sendiri

Penjana imej AI yang dihoskan sendiri terdiri daripada satu aplikasi web dan satu fail model. Aplikasi itu ialah ComfyUI, dan ia boleh dijalankan pada mana-mana mesin Linux. Model menentukan perkakasan yang diperlukan. Checkpoint kelas SDXL ialah satu fail berukuran 6.94 GB, dan fail itu perlu berada dalam memori GPU. Fakta ini menentukan keseluruhan belanjawan, jadi baca peringkat perkakasan di bawah sebelum anda menyewa apa-apa.

Ringkasan yang tepat: VPS CPU sahaja boleh memasang dan menyediakan perisian, serta menjana imej pada 512x512 menggunakan model Stable Diffusion 1.5 yang lebih lama dalam masa satu atau dua minit bagi setiap imej. Mesin yang sama apabila menjalankan SDXL pada 1024x1024 mengambil masa sepuluh hingga dua puluh minit bagi setiap imej. Ini bukan disebabkan konfigurasi yang rosak. Ini ialah kesan pengiraan, dan panduan ini menerangkannya.

Mengapa saiz model menentukan mesin

Penjanaan imej menjalankan gelung nyahhingar. Paparan 30 langkah menghantar model penuh melalui imej sebanyak 30 kali, dan setiap langkah membaca semua pemberat. SDXL pada ketepatan separuh menggunakan kira-kira 6.9 GB pemberat, jadi paparan 30 langkah memindahkan kira-kira 200 GB melalui memori sebelum imej dipaparkan.

GPU dengan memori video 24 GB (VRAM, iaitu memori yang dipateri bersebelahan cip grafik) membaca pada kadar ratusan gigabait sesaat dan menyimpan semua 6.9 GB serentak. VPS CPU membaca RAM sistem pada kadar puluhan gigabait sesaat dan tidak mempunyai perkakasan matriks untuk operasi konvolusi. Oleh itu, gelung yang sama berjalan satu hingga dua tertib magnitud lebih perlahan. Ini ialah hujah lebar jalur memori yang sama seperti bagi model teks, dan wajar dibaca bersama bila VPS dengan GPU benar-benar berbaloi.

Penjanaan imej berbeza daripada penjanaan teks dalam satu perkara penting. Model sembang menstrim token, jadi mesin yang perlahan masih terasa boleh digunakan kerana perkataan muncul semasa anda membacanya. Imej hanya muncul apabila langkah terakhir selesai. Mesin yang perlahan bermakna anda perlu menatap bar kemajuan.

Tangga perkakasan, dengan angka sebenar

Blok di bawah menunjukkan angka lazim untuk satu imej SDXL pada 1024x1024, 30 langkah, pensampel Euler, setakat Julai 2026. Anggap angka ini sebagai anggaran tertib magnitud. Pensampel, bilangan langkah dan resolusi anda boleh mengubahnya.

[
  {
    "label": "8 vCPU VPS, no GPU",
    "seconds_per_image": 780
  },
  {
    "label": "8GB VRAM GPU",
    "seconds_per_image": 32
  },
  {
    "label": "12GB VRAM GPU",
    "seconds_per_image": 18
  },
  {
    "label": "24GB VRAM GPU",
    "seconds_per_image": 9
  }
]

Baris CPU ialah 780 saat, iaitu kira-kira tiga belas minit. Kad 24 GB mengambil masa 9 saat. Itulah perbezaan prestasi yang anda bayar.

Baca tangga ini seperti berikut. Jika VRAM kurang daripada 8 GB, SDXL masih boleh dijalankan kerana ComfyUI memindahkan lapisan ke RAM sistem secara automatik dan boleh menggunakan kad dengan VRAM serendah 1 GB. Pemindahan ini mengambil masa pada setiap langkah, jadi kad 6 GB mengambil masa lebih hampir kepada satu minit bagi setiap imej berbanding tiga puluh saat. Pada 8 GB, model asas muat dan proses penjanaan berjalan dengan lancar. Pada 12 GB, anda boleh memuatkan satu atau dua ControlNet bersama checkpoint tanpa pemindahan ke RAM sistem. Pada 24 GB, anda boleh menjalankan SDXL, refiner dan peningkatan resolusi dalam satu aliran kerja, serta mula melatih penyesuai LoRA, yang memerlukan memori jauh lebih besar berbanding penjanaan imej.

Perkara yang boleh dan tidak boleh dilakukan oleh CPU VPS

Ia boleh melakukan lebih banyak daripada jangkaan umum, tetapi kurang daripada yang diisyaratkan oleh pemasaran. Nyatakan hadnya dengan khusus.

CPU VPS boleh memasang ComfyUI, menyediakan antara muka web, menyimpan pustaka model anda, menjalankan baris gilir, dan menjana imej tanpa GPU langsung. Dengan Stable Diffusion 1.5 pada 512x512 dan 20 langkah, jangkakan kira-kira 60 hingga 150 saat bagi setiap imej pada 8 vCPU moden dengan 16 GB RAM. Untuk tugas kelompok yang berjalan semalaman atau titik akhir imej berisipadu rendah di belakang baris gilir, prestasi ini sememangnya memadai.

CPU VPS tidak sesuai untuk kerja interaktif. Lelaran prompt bermaksud menghasilkan 20 render dalam masa sejam, tetapi pada 13 minit setiap satu, anda hanya memperoleh 4 render. CPU VPS juga tidak sesuai untuk latihan. Penalaan halus LoRA pada CPU mengambil masa dalam kiraan hari, bukan jam. Oleh itu, anggap ciri ini tidak tersedia.

Peraturan memori untuk penggunaan CPU sahaja berbeza daripada peraturan GPU. Pemberat dimuatkan ke dalam RAM sistem. Oleh itu, anda memerlukan saiz model serta ruang kerja: kira-kira 16 GB RAM untuk SDXL dan kira-kira 8 GB untuk SD 1.5. Mesin dengan 4 GB akan memulakan ComfyUI, kemudian dihentikan oleh pembunuh kehabisan memori semasa render pertama. Keadaan ini muncul apabila proses hilang bersama Killed dalam dmesg tanpa jejak balik Python.

Pasang ComfyUI pada mesin GPU

Ini ialah arahan daripada projek huluan. Mulakan dengan pemasangan Ubuntu 24.04 yang bersih dan pemacu NVIDIA yang telah tersedia. Sahkan pemacu terlebih dahulu kerana tanpa semakan ini, semua kegagalan seterusnya kelihatan sama.

nvidia-smi

Arahan itu mesti memaparkan jadual yang mengandungi kad anda dan versi CUDA. command not found atau NVIDIA-SMI has failed because it couldn't communicate with the NVIDIA driver bermaksud pemacu tiada atau modul kernel gagal dimuatkan selepas peningkatan. Baiki masalah itu sebelum meneruskan kerana ComfyUI akan beralih secara senyap kepada CPU dan anda mungkin menyalahkan perisian.

sudo apt update
sudo apt install -y git python3-venv python3-pip wget
git clone https://github.com/comfyanonymous/ComfyUI.git
cd ComfyUI
python3 -m venv venv
. venv/bin/activate
pip install torch torchvision torchaudio --extra-index-url https://download.pytorch.org/whl/cu130
pip install -r requirements.txt

Persekitaran maya bukan sekadar cadangan. PyTorch menarik banyak kebergantungan, dan memasangnya secara seluruh sistem pada mesin yang menjalankan perkara lain boleh menyebabkan perkara tersebut rosak. Sahkan bahawa PyTorch dapat mengesan kad sebelum meneruskan.

python -c "import torch; print(torch.cuda.is_available(), torch.cuda.get_device_name(0))"

True bersama nama kad anda bermaksud tindanan perisian berfungsi. False bermaksud wheel yang dipasang tidak sepadan dengan pemacu, biasanya kerana wheel torch khusus CPU telah dicache sebelum ini. Pasang semula menggunakan URL indeks di atas.

Dapatkan model dan rancang storan cakera

ComfyUI tidak disertakan dengan fail weights. Letakkan checkpoint dalam models/checkpoints, fail VAE dalam models/vae dan adapter LoRA dalam models/loras.

cd ~/ComfyUI/models/checkpoints
wget https://huggingface.co/stabilityai/stable-diffusion-xl-base-1.0/resolve/main/sd_xl_base_1.0.safetensors

Sentiasa pilih .safetensors berbanding .ckpt. Fail .ckpt ialah objek Python yang dipickle, dan memuatkannya akan melaksanakan kod daripada pembinanya. Format safetensors hanya menyimpan tensor, jadi fail berniat jahat tidak boleh melaksanakan apa-apa.

Storan ialah kos yang sering dilupakan. Satu checkpoint asas SDXL berukuran 6.94 GB. Refiner memerlukan 6 GB lagi. Satu model ControlNet memerlukan 1.4 hingga 2.5 GB, upscaler memerlukan 60 hingga 350 MB, dan LoRA memerlukan 20 hingga 400 MB. Pengguna yang kerap menggunakan sistem ini biasanya memuat turun model asas kedua dan ketiga dalam masa seminggu. Sediakan 100 GB ruang cakera untuk pemasangan yang boleh digunakan, dan pantau direktori output juga: fail PNG 1024x1024 berukuran 1 hingga 2 MB setiap satu, manakala kelompok tanpa pengawasan boleh memenuhi cakera kecil secara senyap. Letakkan models/ dan output/ pada volum yang boleh dikembangkan, dan sandarkan fail JSON aliran kerja anda dengan sesuatu seperti sandaran tambahan terenkripsi ke storan objek. Weights boleh dimuat turun semula. Aliran kerja yang telah anda tala tidak boleh.

Jalankan dan akses dengan selamat

cd ~/ComfyUI
. venv/bin/activate
python main.py --listen 127.0.0.1 --port 8188

ComfyUI menyediakan perkhidmatan pada port 8188. Pada mesin yang hanya mempunyai CPU, tambahkan --cpu. Pilihan ini memaksa penggunaan laluan CPU dan mengelakkan kegagalan kerana peranti CUDA tiada.

Ikat pada 127.0.0.1, bukan pada 0.0.0.0. ComfyUI tidak mempunyai skrin log masuk atau akaun pengguna. Sesiapa sahaja yang boleh mencapai port itu boleh memasukkan kerja ke dalam baris gilir, membaca semua imej yang telah anda jana dan memasang nod tersuai. Ini membolehkan pelaksanaan kod sewenang-wenangnya pada pelayan anda. Sebaliknya, aksesnya melalui terowong SSH dari komputer riba anda.

ssh -N -L 8188:127.0.0.1:8188 you@your-server

Kemudian buka http://127.0.0.1:8188 secara setempat. Jika anda memerlukan akses berbilang pengguna sebenar, letakkan proksi terbalik dengan pengesahan di hadapannya dan kekalkan aplikasi terikat pada localhost. Pertimbangan yang sama terpakai pada mana-mana perkhidmatan yang dihos sendiri tanpa pengesahan. Ini ialah corak standard dalam penggunaan Docker Compose pada VPS.

Pastikannya terus berjalan di bawah systemd

Baris gilir render yang terhenti apabila sesi SSH anda ditutup bukanlah perkhidmatan. Tulis /etc/systemd/system/comfyui.service.

[Unit]
Description=ComfyUI
After=network-online.target

[Service]
User=comfy
WorkingDirectory=/home/comfy/ComfyUI
ExecStart=/home/comfy/ComfyUI/venv/bin/python main.py --listen 127.0.0.1 --port 8188
Restart=on-failure
RestartSec=5

[Install]
WantedBy=multi-user.target

sudo systemctl daemon-reload
sudo systemctl enable --now comfyui
systemctl status comfyui

active (running) dan baris log yang berbunyi To see the GUI go to: http://127.0.0.1:8188 bermaksud perkhidmatan itu sedang berjalan. Perhatikan bahawa ExecStart menamakan penterjemah di dalam persekitaran maya secara terus, kerana systemd tidak menjalankan profil shell anda dan activate tidak pernah berlaku.

Cadangan praktikal mengikut bajet

Jika anda mahu mencuba penjanaan imej dan kos lebih penting daripada kelajuan, gunakan VPS CPU dengan RAM 16 GB, jalankan SD 1.5 pada 512x512, dan terima masa sekitar satu atau dua minit bagi setiap imej. Ini ialah titik permulaan yang realistik dan kosnya hanya sebahagian kecil daripada kos mana-mana mesin yang mempunyai GPU. VPS ini juga sesuai untuk mengehos pustaka model dan aliran kerja sementara anda membuat keputusan.

Jika anda mengulang uji prom setiap hari, sewa GPU dengan VRAM sekurang-kurangnya 12 GB mengikut jam daripada perkhidmatan cloud GPU, dan matikannya apabila anda berhenti. Penjanaan imej ialah tugas yang berlaku secara berkala, dan GPU yang melahu tetapi dicaj secara bulanan ialah punca paling biasa pembaziran kos dalam situasi ini. Simpan checkpoint pada storan blok murah dan lekapkannya.

Jika anda menyediakan perkhidmatan kepada orang lain atau melatih penyesuai LoRA, anda memerlukan VRAM 24 GB dan mesin yang sentiasa tersedia. Pada tahap ini, mesin yang sama biasanya berbaloi digunakan untuk menjalankan model bahasa tempatan, seperti persediaan yang diterangkan dalam mengehos sendiri LLM dengan Ollama.

Walau apa pun tahap yang anda pilih, ukur mesin anda sendiri sebelum mempercayai sebarang angka yang diterbitkan. Masukkan prom yang sama ke dalam baris gilir sebanyak lima kali dan baca nilai saat bagi setiap lelaran yang dipaparkan oleh ComfyUI dalam konsolnya. Nilai itu menunjukkan kedudukan sebenar anda pada skala ini.

FAQ

Bolehkah saya menjalankan Stable Diffusion tanpa GPU?

Ya. ComfyUI berjalan dengan python main.py --cpu dan menjana imej sebenar tanpa kad grafik. Jangkakan kira-kira 60 hingga 150 saat bagi setiap imej untuk Stable Diffusion 1.5 pada 512x512, dan 10 hingga 20 minit untuk SDXL pada 1024x1024, menggunakan 8 vCPU moden. Ini sesuai untuk kelompok semalaman dan titik akhir dengan jumlah permintaan rendah. Kaedah ini tidak sesuai untuk lelaran prompt, dan latihan model langsung tidak praktikal.

Berapa banyak VRAM yang saya perlukan untuk SDXL?

8 GB menjalankan SDXL dengan baik pada 1024x1024. Dengan kapasiti kurang daripada itu, ComfyUI memindahkan lapisan ke RAM sistem secara automatik dan masih berfungsi sehingga kira-kira 1 GB VRAM, tetapi setiap langkah yang dipindahkan menambah masa pemprosesan. 12 GB membolehkan anda memuatkan ControlNet bersama checkpoint, manakala 24 GB mencukupi untuk base, refiner dan peningkatan skala dalam satu aliran kerja. Kapasiti ini juga merupakan had minimum praktikal untuk melatih adapter LoRA.

Berapa banyak ruang cakera yang diperlukan oleh model?

Checkpoint base SDXL sahaja berukuran 6.94 GB, manakala refiner menambah kira-kira 6 GB lagi. Setiap model ControlNet berukuran 1.4 hingga 2.5 GB, adapter LoRA berukuran 20 hingga 400 MB, dan upscaler berukuran sehingga 350 MB. Sediakan 100 GB untuk pemasangan yang boleh digunakan dengan beberapa model base, dan pantau direktori output secara berasingan kerana fail PNG 1024x1024 berukuran 1 hingga 2 MB setiap satu.

Adakah selamat untuk mendedahkan ComfyUI kepada internet awam?

Tidak. ComfyUI tidak mempunyai sebarang pengesahan, dan sistem custom-node memasang serta menjalankan kod Python daripada antara muka. Oleh itu, port yang terbuka membolehkan pelaksanaan kod jauh pada pelayan anda. Ikatkannya pada 127.0.0.1, aksesnya melalui terowong SSH dengan ssh -N -L 8188:127.0.0.1:8188 you@your-server, dan letakkan proksi songsang yang menggunakan pengesahan di hadapannya jika lebih daripada seorang perlu mengaksesnya.

Mengapakah render saya dihentikan tanpa mesej ralat?

Jika proses hilang dengan Killed dalam dmesg tanpa jejak tindanan Python, puncanya ialah pembunuh kehabisan memori Linux, bukan pepijat ComfyUI. Pada mesin CPU sahaja, pemberat model disimpan dalam RAM sistem. Oleh itu, SDXL memerlukan kira-kira 16 GB dan SD 1.5 kira-kira 8 GB, selain ruang kerja. Tambah RAM, tambah swap, atau gunakan model yang lebih kecil dan resolusi yang lebih rendah.