Whisper dan Piper di VPS: Biaya CPU dan Disk
Jalankan Whisper dan Piper di VPS tanpa GPU. Ketahui kebutuhan CPU, ukuran model dan voice, serta cara menyediakan endpoint HTTP yang kompatibel dengan OpenAI.
Self-hosted speech to text dan TTS, secara singkat
Speech to text dan TTS (text to speech) self-hosted berjalan pada server yang Anda miliki. Transkripsi menjalankan Whisper melalui runtime faster-whisper. Sintesis menjalankan Piper. Keduanya dapat berjalan pada VPS CPU biasa tanpa GPU sama sekali. Model Whisper kecil memerlukan sekitar 484 MB ruang disk, sedangkan voice Piper terdiri atas dua file, yaitu model ONNX dan konfigurasi JSON kecil, dengan ukuran gabungan jauh di bawah 150 MB.
Karena itu, audio adalah titik awal yang tepat. Generator gambar self-hosted dan pembuatan video self-hosted sama-sama memerlukan GPU sebelum dapat digunakan. Audio tidak memerlukannya.
Panduan ini membahas kedua arah tersebut serta lapisan yang menghubungkannya. Whisper mengubah audio menjadi teks. Piper mengubah teks menjadi audio. OpenAI-compatible HTTP server di depan keduanya memungkinkan client yang sudah ada menunjuk ke server Anda tanpa perubahan apa pun selain base URL.
Setiap versi yang ditetapkan dalam perintah di sini telah diperiksa terhadap halaman rilis proyeknya pada 11 Oktober 2026. Versi CTranslate2 yang disebutkan dalam bagian mode kegagalan adalah penanda kompatibilitas, bukan rilis terbaru.
Mengapa faster-whisper, bukan paket Whisper referensi
Paket whisper dari OpenAI menjalankan model dalam PyTorch. faster-whisper menjalankan bobot model yang sama pada CTranslate2, yaitu mesin inferensi yang dibuat khusus untuk model transformer. Modelnya sama, tetapi pengaturan kuantisasi dan decoding memengaruhi transkrip. Runtime menjelaskan perbedaan kecepatan yang diukur di bawah ini.
CTranslate2 melakukan kuantisasi bobot saat memuatnya. Karena itu, compute_type="int8" hanya memerlukan satu argumen dan bukan langkah konversi terpisah. CTranslate2 juga tidak memiliki dependensi PyTorch. pip install faster-whisper memasang CTranslate2, tokenizer, dan PyAV untuk decoding audio. Karena itu, ukuran virtual environment hanya mencapai ratusan megabita, bukan beberapa gigabita. Pada VPS dengan disk 40 GB, perbedaan ini menentukan apakah ruang penyimpanan masih longgar atau sudah sempit.
Berikut angka yang dipublikasikan oleh proyek untuk model small pada CPU. Benchmark ini mentranskripsikan audio berdurasi 13 menit menggunakan 8 thread pada Intel Core i7-12700K. Kolom x_realtime adalah durasi 13 menit dibagi waktu yang diukur. Nilai 7.6 berarti rekaman berdurasi 13 menit selesai dalam sedikit lebih dari 1 menit 40 detik.
Data di balik grafik ini
[
{
"label": "openai/whisper, fp32",
"x_realtime": 1.9,
"seconds": 418,
"memory_mb": "2,335"
},
{
"label": "whisper.cpp, fp32",
"x_realtime": 6.2,
"seconds": 125,
"memory_mb": "1,049"
},
{
"label": "faster-whisper, fp32",
"x_realtime": 5.0,
"seconds": 157,
"memory_mb": "2,257"
},
{
"label": "faster-whisper, int8",
"x_realtime": 7.6,
"seconds": 102,
"memory_mb": "1,477"
},
{
"label": "faster-whisper, int8, batch 8",
"x_realtime": 15.3,
"seconds": 51,
"memory_mb": "3,608"
}
]Baca baris kedua dengan cermat. Pada fp32, whisper.cpp lebih cepat daripada faster-whisper pada CPU ini, yaitu 6.2x dibandingkan 5.0x, dan menggunakan kurang dari setengah memori. whisper.cpp menggunakan keluarga ggml yang sama dengan yang mendasari bagian llama.cpp dari stack LLM lokal. faster-whisper menjadi lebih cepat setelah int8 dan batching diaktifkan, hingga mencapai 15.3x, dengan penggunaan RAM sebesar 3,608 MB. Jadi, pilih faster-whisper untuk API Python dan batching. Pilih whisper.cpp jika RAM adalah kendala yang tidak dapat Anda atasi.
Baris pertama adalah inti bagian ini. Paket referensi mencapai 1.9x real time pada mesin yang sama. Artinya, audio berdurasi satu jam memerlukan waktu setengah jam pada CPU.
Berapa banyak ruang disk yang diperlukan bobot model Whisper?
Data di balik grafik ini
[
{
"label": "tiny",
"weights_mb": 75.5
},
{
"label": "base",
"weights_mb": 145
},
{
"label": "small",
"weights_mb": 484
},
{
"label": "medium",
"weights_mb": "1,530"
},
{
"label": "large-v3",
"weights_mb": "3,090"
}
]Berikut adalah konversi CTranslate2 yang dipublikasikan dalam format float16. Perhatikan hal yang tidak dilakukan compute_type="int8": compute_type="int8" tidak memperkecil ukuran unduhan. Bobot diunduh dalam format float16, lalu CTranslate2 melakukan kuantisasi di memori saat pemuatan. Karena itu, large-v3 menggunakan 3,090 MB di disk, baik dijalankan dalam format float16 maupun int8. int8 menghemat RAM dan meningkatkan kecepatan, bukan menghemat ruang disk.
Model diunduh saat pertama kali digunakan ke ~/.cache/huggingface/hub. Pada VPS dengan volume root yang kecil, arahkan lokasi tersebut ke tempat yang memiliki ruang cukup menggunakan argumen download_root atau variabel lingkungan HF_HOME. Jika tidak, proses pertama akan memenuhi disk dan proses terhenti di tengah unduhan.
faster-whisper diinstal tanpa merusak Python sistem
Ubuntu 24.04 dan Debian 13 menandai Python sistem sebagai dikelola secara eksternal. Menjalankan pip install faster-whisper di luar lingkungan virtual akan langsung berhenti dengan pesan:
error: externally-managed-environmentSistem pemaketan melindungi file yang dimiliki oleh apt. Gunakan lingkungan virtual.
sudo apt update
sudo apt install -y python3-venv ffmpeg
python3 -m venv ~/stt
~/stt/bin/pip install --upgrade pip
~/stt/bin/pip install faster-whisper==1.2.1Versi 1.2.1 adalah rilis saat ini, yang diterbitkan pada Oktober 2025. faster-whisper mendekode audio melalui PyAV, yang menyertakan library ffmpeg-nya sendiri. Karena itu, faster-whisper dapat membaca mp3 atau m4a tanpa binary ffmpeg terpisah. Paket ffmpeg di atas digunakan untuk pemrosesan video pada bagian berikutnya dalam panduan ini.
Periksa instalasi sebelum mengunduh bobot model sebesar tiga gigabyte:
~/stt/bin/python -c "from faster_whisper import WhisperModel; print('ok')"Baris yang berisi ok berarti wheel berhasil diinstal. Pesan ImportError yang menyebut ctranslate2 berarti runtime tidak tersedia atau library terkompilasinya tidak dapat dimuat. Pesan selanjutnya menjelaskan penyebabnya. Pada image ARM 32-bit, wheel CTranslate2 tidak tersedia sama sekali. Karena itu, pip akan gagal saat instalasi.
Transkripsikan rekaman rapat atau voice note
Simpan ini sebagai transcribe.py:
from faster_whisper import WhisperModel
model = WhisperModel("small", device="cpu", compute_type="int8", cpu_threads=4)
segments, info = model.transcribe("meeting.m4a", beam_size=5, vad_filter=True)
print("language: %s (%.2f)" % (info.language, info.language_probability))
for segment in segments:
print("[%.2fs -> %.2fs] %s" % (segment.start, segment.end, segment.text))Jalankan dengan ~/stt/bin/python transcribe.py. Pada proses pertama, weights akan diunduh sehingga tidak ada output selama beberapa saat. Setelah itu, model dimuat dari cache dalam beberapa detik.
segments adalah generator, sehingga transkripsi tidak dimulai sampai Anda melakukan iterasi terhadapnya. Orang mengukur durasi pemanggilan transcribe(), melihat bahwa pemanggilan tersebut langsung mengembalikan hasil, lalu mengira ada yang rusak. Tidak ada yang rusak. Prosesnya berlangsung di dalam loop.
vad_filter=True menjalankan Silero VAD (voice activity detection) terlebih dahulu dan membuang bagian hening sebelum Whisper memprosesnya. Pada rekaman rapat dengan jeda panjang, ini merupakan peningkatan kecepatan terbesar yang tersedia, karena Whisper sama sekali tidak menghabiskan waktu untuk audio yang tidak berisi ucapan. Langkah ini juga mengurangi loop kalimat berulang yang dihasilkan Whisper ketika diberi audio hening dan mencoba menemukan kata di dalamnya.
Atur cpu_threads ke jumlah core yang benar-benar Anda miliki. Menetapkannya di atas jumlah vCPU membuat transkripsi lebih lambat karena thread tambahan saling berebut core yang sama dan scheduler harus membayar biaya setiap pergantian konteks.
Subtitel untuk pustaka Jellyfin
Jellyfin membaca file subtitle eksternal yang berada di samping video dan memiliki nama yang sama, sehingga Movie (2019).en.srt di samping Movie (2019).mkv muncul sebagai track berbahasa Inggris tanpa perlu membangun ulang pustaka. Apakah client tertentu kemudian memutarnya secara langsung, atau server melakukan remux maupun membakarnya ke dalam video, bergantung pada dukungan client tersebut.
Ekstrak audio terlebih dahulu. Whisper melakukan resampling semuanya secara internal ke mono 16 kHz, sehingga memberikan audio mono 16 kHz mengurangi pekerjaan pada kedua sisi:
ffmpeg -i "Movie (2019).mkv" -vn -ac 1 -ar 16000 -c:a pcm_s16le "Movie (2019).wav"faster-whisper tidak memiliki penulis SRT, jadi format segmennya sendiri. Simpan ini sebagai srt.py:
import sys
from faster_whisper import WhisperModel
def ts(seconds):
ms = int(round(seconds * 1000))
hours, ms = divmod(ms, 3600000)
minutes, ms = divmod(ms, 60000)
secs, ms = divmod(ms, 1000)
return "%02d:%02d:%02d,%03d" % (hours, minutes, secs, ms)
model = WhisperModel("small", device="cpu", compute_type="int8")
segments, info = model.transcribe(sys.argv[1], vad_filter=True)
with open(sys.argv[2], "w", encoding="utf-8") as out:
for index, segment in enumerate(segments, start=1):
out.write("%d\n" % index)
out.write("%s --> %s\n" % (ts(segment.start), ts(segment.end)))
out.write("%s\n\n" % segment.text.strip())Kemudian telusuri pustaka:
for f in /srv/media/films/*.mkv; do
ffmpeg -nostdin -y -i "$f" -vn -ac 1 -ar 16000 -c:a pcm_s16le "${f%.mkv}.wav"
nice -n 15 ~/stt/bin/python srt.py "${f%.mkv}.wav" "${f%.mkv}.en.srt"
rm -f "${f%.mkv}.wav"
done-nostdin menonaktifkan interaksi keyboard ffmpeg. Ini juga mencegah ffmpeg membaca nama file saat dijalankan di dalam loop yang membacanya dari input standar. Loop berbasis glob di atas tidak membaca daftar file dari input standar.
Perkirakan waktunya sebelum memulai. Dengan angka 7.6x di atas, film berdurasi 100 menit memerlukan sekitar 13 menit waktu CPU, sehingga pustaka yang berisi lima puluh film akan membutuhkan proses semalaman. Pada paket vCPU bersama, prosesnya lebih lambat dari itu. Itulah fungsi nice: proses subtitle kemudian mengalah kepada proses lain yang sedang dijalankan server.
Text to speech dengan Piper
Piper adalah mesin text-to-speech neural yang menjalankan model suara ONNX pada CPU. Piper menyertakan espeak-ng untuk mengonversi teks menjadi fonem, sehingga Anda tidak perlu menginstal phonemizer terpisah. Rilis saat ini adalah 1.8.0, yang diterbitkan pada September 2026.
python3 -m venv ~/tts
~/tts/bin/pip install piper-tts==1.8.0
~/tts/bin/python -m piper.download_voices en_US-lessac-medium
~/tts/bin/python -m piper -m en_US-lessac-medium -f test.wav -- 'This is a test.'download_voices menulis dua file ke direktori kerja: bobot .onnx dan konfigurasi .onnx.json yang memuat sample rate serta daftar speaker. Keduanya harus tetap berada di lokasi yang sama. Jika Anda menyimpan voice di lokasi tetap, teruskan --data-dir ke kedua perintah karena player akan mencari voice di direktori kerja secara default dan tidak dapat menemukan voice yang tidak berada di sana.
-- sebelum teks juga penting. Pemisah ini memisahkan teks dari opsi command line, termasuk opsi yang dapat terpicu jika kalimat diawali tanda hubung.
Voice tersedia dalam beberapa tingkat kualitas. Voice bahasa Inggris dengan kualitas medium berukuran sekitar 60 MB, sedangkan kualitas high berukuran sekitar dua kali lipat. Kualitas yang lebih tinggi berarti model lebih besar dan penggunaan CPU lebih tinggi per detik ucapan, bukan speaker yang berbeda.
Jangan memanggil CLI dalam loop. CLI memuat model pada setiap pemanggilan, dan pemuatan model mendominasi biaya untuk kalimat pendek. Jalankan HTTP server sebagai gantinya:
~/tts/bin/pip install 'piper-tts[http]==1.8.0'
~/tts/bin/python -m piper.http_server -m en_US-lessac-medium --host 127.0.0.1 --port 5000curl -X POST -H 'Content-Type: application/json' \
-d '{ "text": "This is a test." }' \
-o test.wav localhost:5000/synthesizeJika test.wav dapat diputar, berarti Piper berfungsi. Endpoint tersebut menggunakan format milik Piper, bukan format OpenAI, sehingga client yang mengharapkan /v1/audio/speech tidak akan dapat berkomunikasi dengannya. Bagian berikutnya memperbaikinya.
Pertahankan proses tetap berjalan dengan unit file, bukan terminal yang akan Anda tutup. Unit tersebut menjalankan Piper sebagai user piper tanpa login dari home directory user tersebut, sehingga service tidak bergantung pada akun Anda. Buat user tersebut, lalu instal Piper dan voice di sana:
sudo useradd --system --create-home --home-dir /home/piper --shell /usr/sbin/nologin piper
sudo -u piper python3 -m venv /home/piper/tts
sudo -u piper /home/piper/tts/bin/pip install 'piper-tts[http]==1.8.0'
sudo -u piper /home/piper/tts/bin/python -m piper.download_voices --data-dir /home/piper/voices en_US-lessac-mediumHentikan server yang Anda jalankan di terminal, lalu tulis unit berikut:
[Unit]
Description=Piper text to speech HTTP server
After=network-online.target
[Service]
User=piper
ExecStart=/home/piper/tts/bin/python -m piper.http_server -m en_US-lessac-medium --data-dir /home/piper/voices --host 127.0.0.1 --port 5000
Restart=on-failure
[Install]
WantedBy=multi-user.targetsudo systemctl enable --now piper menjalankannya dan mengaktifkannya kembali setelah reboot. Jika curl di atas tidak mengembalikan apa pun, journalctl -u piper -n 50 memuat penyebabnya. Biasanya penyebabnya adalah file voice yang tidak ditemukan.
Bentuk server yang kompatibel dengan OpenAI
Sebagian besar perangkat lunak yang menangani audio sudah menggunakan OpenAI audio API: POST multipart ke /v1/audio/transcriptions untuk file, dan POST JSON ke /v1/audio/speech untuk kalimat. Sediakan kedua path tersebut pada server Anda, dan klien hanya memerlukan satu perubahan, yaitu base URL.
Speaches adalah salah satu server yang menangani kedua arah tersebut. Server ini menjalankan faster-whisper untuk transkripsi dan Piper atau Kokoro untuk sintesis suara, melalui path OpenAI. Rilis saat ini adalah v0.9.0-rc.3 dari December 2025. Versi ini masih sebelum 1.0, jadi tetapkan tag image dan baca catatan rilis sebelum melakukan upgrade.
curl --silent --remote-name https://raw.githubusercontent.com/speaches-ai/speaches/master/compose.yaml
curl --silent --remote-name https://raw.githubusercontent.com/speaches-ai/speaches/master/compose.cpu.yaml
export COMPOSE_FILE=compose.cpu.yaml
docker compose up --detachGunakan bentuk single-container ini jika Anda tidak ingin menyimpan file compose:
docker run --rm --detach --publish 8000:8000 --name speaches \
--volume hf-hub-cache:/home/ubuntu/.cache/huggingface/hub \
ghcr.io/speaches-ai/speaches:latest-cpuNamed volume adalah bagian yang sering diabaikan. Tanpanya, cache model berada di dalam container. Menghapus dan membuat ulang container akan menghapus weights yang sudah diunduh. Restart container yang sama akan mempertahankan weights tersebut.
Speech memerlukan voice yang diunduh sebelum /v1/audio/speech dapat memberikan respons:
uvx speaches-cli model download speaches-ai/Kokoro-82M-v1.0-ONNXSetelah itu, klien OpenAI apa pun dapat digunakan dengan mengubah base URL:
from pathlib import Path
from openai import OpenAI
openai = OpenAI(base_url="http://localhost:8000/v1", api_key="cant-be-empty")
res = openai.audio.speech.create(
model="speaches-ai/Kokoro-82M-v1.0-ONNX",
voice="af_heart",
input="Hello, world!",
response_format="mp3",
speed=1,
)
with Path("output.mp3").open("wb") as f:
f.write(res.response.read())Placeholder api_key diperlukan karena library klien OpenAI menolak mengirim request tanpa nilai tersebut. Server mengabaikan nilainya sampai Anda mengonfigurasi key yang sebenarnya.
vox-box adalah project lain yang layak disebut. Project ini merupakan package Python, bukan container, dan menyediakan path yang sama dengan Whisper, FunASR, Bark, Dia, atau CosyVoice di belakangnya. Versi 0.0.21 adalah versi terbaru dari December 2025, dan memerlukan Python 3.10 atau yang lebih baru.
python3 -m venv ~/voice
~/voice/bin/pip install vox-box==0.0.21
~/voice/bin/vox-box start --huggingface-repo-id Systran/faster-whisper-small \
--data-dir ~/voice/data --host 127.0.0.1 --port 8010Contoh dari project tersebut mengikat port 80, yang memerlukan root atau capability CAP_NET_BIND_SERVICE. Pada server yang menjalankan layanan lain, penggunaan high port di belakang reverse proxy merupakan pilihan yang lebih baik. vox-box start hanya menerima satu model. Untuk mencakup kedua arah, jalankan instance kedua pada port kedua dengan speech repo id.
Tanyakan kepada server model yang dimuat, lalu gunakan id tersebut pada field model:
curl http://127.0.0.1:8010/v1/modelscurl http://127.0.0.1:8010/v1/audio/transcriptions \
-H "Content-Type: multipart/form-data" \
-F file="@voice-note.m4a" \
-F model="faster-whisper-small"JSON body dengan bentuk {"text": "..."} menunjukkan bahwa seluruh path berfungsi. Jika menerima 404, baca response body dan cocokkan model id dengan /v1/models. Speaches juga mengembalikan 404 untuk model valid yang belum diinstal secara lokal. Jika error menyatakan hal tersebut, unduh model yang diminta dengan uvx speaches-cli model download MODEL_ID, lalu coba lagi. Route pengunduhannya adalah POST /v1/models/{model_id}.
Tidak satu pun server ini mengaktifkan autentikasi secara default. Bind server ke 127.0.0.1, lalu akses melalui VPN atau reverse proxy yang meminta kredensial. /v1/audio/transcriptions yang terbuka pada IP publik menyediakan CPU gratis bagi siapa pun yang menemukannya, dan mereka akan menemukannya.
Antarmuka suara untuk asisten yang di-hosting sendiri
Setelah kedua arah dapat merespons melalui endpoint OpenAI, antarmuka chat dapat menggunakannya. Open WebUI dan alternatifnya menerima base URL yang kompatibel dengan OpenAI untuk audio di pengaturannya. Dengan demikian, satu mesin dapat menjalankan LLM lokal dengan Ollama dan menutup alur suara di kedua sisi.
Perkirakan latensi secara realistis karena ketiga langkah tersebut berjalan berurutan pada core yang sama. Pertanyaan berdurasi 10 detik memerlukan sekitar 1.3 detik untuk ditranskripsikan pada angka 7.6x di atas. Itu belum termasuk waktu yang diperlukan model untuk membaca satu token pun. Tambahkan pembuatan token oleh CPU, dan waktu pulang-pergi menjadi cukup lambat sehingga penguji mengira sistem mengalami crash. Transkripsi batch masih nyaman dilakukan pada CPU. Percakapan tidak demikian. Pada titik inilah VPS dengan GPU mulai sepadan dengan biayanya.
Kapan GPU benar-benar layak digunakan?
Data di balik grafik ini
[
{
"label": "openai/whisper, fp16",
"x_realtime": 5.5,
"seconds": 143,
"memory_mb": "4,708"
},
{
"label": "faster-whisper, fp16",
"x_realtime": 12.4,
"seconds": 63,
"memory_mb": "4,525"
},
{
"label": "faster-whisper, int8",
"x_realtime": 13.2,
"seconds": 59,
"memory_mb": "2,926"
},
{
"label": "faster-whisper, int8, batch 8",
"x_realtime": 48.8,
"seconds": 16,
"memory_mb": "4,500"
}
]Pada GPU, model large dengan int8 berjalan pada 13.2x waktu nyata dan menggunakan 2,926 MB VRAM. Dengan batching, kecepatannya mencapai 48.8x. Perhatikan baik-baik hal yang tidak ditunjukkan oleh kedua grafik tersebut. Keduanya menggunakan model yang berbeda: baris GPU menggunakan large-v2, sedangkan baris CPU menggunakan small. GPU tidak membuat model small menjadi enam kali lebih cepat. GPU membuat model yang lebih akurat dapat digunakan.
Asal angka-angka ini
Kedua grafik tersebut mereproduksi benchmark yang dipublikasikan dalam README faster-whisper. Audio yang digunakan adalah satu file berdurasi 13 menit. Baris CPU menggunakan 8 thread pada Intel Core i7-12700K, sedangkan baris GPU menggunakan CUDA 12.4 pada NVIDIA RTX 3070 Ti dengan VRAM 8 GB. Kolom detik dan memori menggunakan angka yang dipublikasikan. Kolom x_realtime dihitung berdasarkan angka tersebut: 780 detik audio dibagi waktu pengukuran, lalu dibulatkan menjadi satu angka desimal. Kolom memori menunjukkan RAM sistem pada grafik CPU dan VRAM pada grafik GPU.
Paket vCPU bersama tidak akan mencapai angka CPU tersebut. Benchmark itu menggunakan 8 thread dari prosesor desktop cepat secara khusus. Anggap 7.6x sebagai batas atas, lalu ukur server Anda sendiri dengan time menggunakan rekaman nyata sebelum membuat rencana berdasarkan angka tersebut.
Empat aturan praktis berikut biasanya berlaku:
- Transkripsi sesekali atas rekaman Anda sendiri: CPU, small, int8. Mulai dengan dua vCPU khusus, lalu ukur waktu transkripsinya.
- Pekerjaan batch semalaman, seperti membuat subtitle: CPU, small atau medium, int8, yang dijalankan di dalam
nice. - Pekerjaan interaktif atau seluruh pustaka dalam satu malam: GPU.
- Piper: selalu gunakan CPU. Model suara sebesar ini hampir tidak memperoleh manfaat dari GPU.
Jika Anda ingin mengetahui beban lain yang dapat dijalankan pada perangkat keras yang sama, pertanyaan yang lebih luas tentang model AI yang dapat Anda self-host membahas ukuran model yang dapat dan tidak dapat digunakan.
Mode kegagalan dan string yang akan Anda lihat
error: externally-managed-environment saat instalasi. Python sistem dilindungi oleh distribusi. Buat virtual environment seperti yang ditunjukkan di atas.
Ketidakcocokan cuDNN pada host GPU. Kegagalannya terlihat seperti ini:
Unable to load any of {libcudnn_ops.so.9.1.0, libcudnn_ops.so.9.1, libcudnn_ops.so.9, libcudnn_ops.so}
Invalid handle. Cannot load symbol cudnnCreateTensorDescriptorCTranslate2 4.5.0 memindahkan build CUDA 12-nya ke cuDNN 9, sedangkan host menggunakan cuDNN 8. Instal cuDNN 9 atau pin runtime lama dengan pip install --force-reinstall ctranslate2==4.4.0. Pilih salah satu. Jika keduanya dilakukan, masalahnya kembali seperti semula.
This CTranslate2 package was not compiled with CUDA support adalah kegagalan lain dengan gejala yang serupa. Build CTranslate2 yang terpasang tidak memiliki dukungan CUDA. Wheel Linux dan Windows resmi mendukung eksekusi GPU. Periksa platform dan sumber paket, lalu instal build yang mendukung CUDA. Membuat ulang environment yang sama dengan build CPU-only yang sama tidak akan memperbaikinya.
Frasa berulang dalam transkrip. Kalimat yang berulang sepuluh kali hampir selalu disebabkan oleh keheningan atau musik yang didekode sebagai ucapan. Aktifkan vad_filter=True terlebih dahulu. Jika masalah tetap terjadi, dengarkan segmen tersebut. Audio yang hampir hening tidak memberi Whisper titik acuan, sehingga Whisper mengulangi tebakan terakhirnya yang paling meyakinkan.
Bahasa yang terdeteksi salah. Secara default, faster-whisper hanya menebak dari window 30 detik pertama. Nilai info.language_probability yang jauh di bawah 1.0 berarti hasilnya tidak meyakinkan. Hal ini dapat terjadi saat rekaman diawali musik atau percakapan yang saling tumpang tindih. Gunakan language="en" jika Anda sudah mengetahui jawabannya, atau naikkan language_detection_segments agar faster-whisper memeriksa lebih banyak window sebelum menentukan hasil.
Proses mencetak Killed lalu berhenti. Periksa dmesg untuk mencari baris oom-kill yang sesuai dan memastikan bahwa kernel menghentikan proses karena kehabisan memori. large-v3 mengunduh bobot float16 berukuran lebih dari 3 GB, tetapi int8 mengurangi penggunaan memori saat pemuatan. Benchmark int8 untuk small-model yang dipublikasikan menggunakan 1,477 MB RAM, sehingga VPS 2 GB menyisakan sedikit ruang untuk sistem operasi dan service lain.
Piper tidak dapat menemukan voice. Player mencari voice di working directory kecuali Anda meneruskan --data-dir. Jalankan ls pada direktori yang Anda harapkan, lalu pastikan .onnx dan .onnx.json keduanya tersedia. Jika hanya salah satunya yang tersedia, proses tetap gagal, sama seperti jika keduanya tidak tersedia.
FAQ
Dapatkah saya menjalankan speech-to-text pada VPS yang hanya menggunakan CPU?
Ya, dan untuk pekerjaan batch, ini merupakan pilihan yang tepat. Dengan faster-whisper menggunakan model small pada int8, benchmark yang dipublikasikan proyek tersebut mentranskripsikan audio berdurasi 13 menit dalam 102 detik pada 8 thread desktop i7, sekitar 7.6x waktu nyata, dengan penggunaan RAM sebesar 1,477 MB. Paket vCPU bersama berjalan lebih lambat daripada itu, jadi ukur kinerja server Anda sendiri. Text-to-speech dengan Piper bahkan lebih mudah dan tidak memerlukan GPU dalam kondisi apa pun.
Ukuran model Whisper mana yang sebaiknya saya gunakan?
Mulailah dengan small pada int8. Model ini berukuran 484 MB di disk dan dapat menangani rekaman suara yang jelas dengan baik. Gunakan medium jika aksen atau kebisingan latar menimbulkan kesalahan yang tidak dapat Anda terima. Gunakan large-v3 hanya jika akurasi lebih penting daripada hal lainnya, karena model ini memerlukan 3,090 MB ruang disk. Penggunaan RAM bergantung pada jenis komputasi dan beban kerja, jadi ukur terlebih dahulu sebelum memilih ukuran VPS. Sebaliknya, tiny berukuran 75.5 MB berguna untuk deteksi bahasa dan pengujian pipeline, bukan untuk transkrip yang akan dibaca orang.
Mengapa faster-whisper lebih cepat daripada paket Whisper asli?
Modelnya sama. Runtime-nya berbeda. Paket referensi menjalankan Whisper di PyTorch, sedangkan faster-whisper menjalankan bobot yang sama pada CTranslate2, yaitu engine yang dibuat untuk inferensi transformer. Engine ini melakukan kuantisasi bobot saat dimuat dan tidak memerlukan instalasi PyTorch. Pada benchmark CPU yang dipublikasikan, paket referensi mencapai 1.9x waktu nyata, sedangkan faster-whisper pada int8 mencapai 7.6x waktu nyata, dengan penggunaan memori yang lebih rendah.
Mengapa transkrip saya mengulangi kalimat yang sama terus-menerus?
Whisper mungkin menganggap keheningan atau musik sebagai ucapan dan menggunakan kembali tebakan terakhirnya yang paling meyakinkan. Tetapkan vad_filter=True dalam pemanggilan transcribe(). Opsi ini menjalankan deteksi aktivitas suara Silero terlebih dahulu dan menghapus bagian hening sebelum model memprosesnya. Jika pengulangan masih terjadi, periksa level audio karena rekaman yang hampir sepenuhnya hening tidak menyediakan informasi yang cukup bagi model.
Bagaimana cara mendapatkan endpoint audio yang kompatibel dengan OpenAI di server sendiri?
Jalankan server yang mengimplementasikan POST /v1/audio/transcriptions dan POST /v1/audio/speech, lalu arahkan client ke server tersebut menggunakan base URL baru. Speaches adalah salah satu pilihan. Speaches tersedia sebagai container image dengan build CPU, menggunakan faster-whisper untuk transkripsi dan Piper atau Kokoro untuk speech. vox-box adalah pilihan lain. Instal vox-box dengan pip install vox-box dan jalankan dengan vox-box start --huggingface-repo-id. Server ini menyajikan satu model per proses. Keduanya tidak mengaktifkan autentikasi secara default, jadi bind ke localhost dan tempatkan proxy atau VPN di depannya.