SSD Nodes Learn Hosting plans →
Mwongozo Matt ConnorNa Matt Connor · Imeboreshwa 2026-10-25

GPU VPS au API tokens: ni lini utaokoa gharama?

Gundua fomula ya kulinganisha gharama za GPU VPS na malipo ya API kwa kila token. Jifunze idadi kamili ya token kwa mwezi ambapo kukodisha seva kunakuwa nafuu zaidi.

Mahali ambapo gharama hulingana

GPU VPS inashinda malipo ya API ya per-token katika hatua moja: wakati kodi ya kila mwezi isiyobadilika, ikigawanywa kwa token za matokeo unazozalisha mwezi huo, inaposhuka chini ya kile ambacho API inatoza kwa token hizo hizo. Kodi haibadiliki. Bili ya API hubadilika kwa kila ombi. Kwa hivyo jibu ni kiasi cha matumizi ya kila mwezi, si ndiyo au hapana rahisi.

Fanya hesabu kwenye GPU VPS ya kiwango cha kati kwa $0.50 kwa saa, ambayo ni $365 kwa mwezi wa saa 730. Dhidi ya API ya mfano wa hali ya juu (frontier model), unalinganisha gharama kwa 24.3 milioni za token za matokeo kwa mwezi. Dhidi ya mfano mdogo wa kibiashara ni 73 milioni. Dhidi ya mfano wa open-weight uliopangishwa wa ukubwa uleule, hufikii usawa wa gharama kamwe, kwa sababu kadi moja haiwezi kuzalisha token za kutosha ndani ya mwezi ili kufikia hatua hiyo ya makutano.

Uchunguzi wa gharama zilizochapishwa haujibu swali hili. Uchambuzi mmoja wa muuzaji kutoka Julai 2026 unaweka makutano hayo karibu na 50% ya matumizi kwa H100 iliyojitolea kwa $2.00 kwa saa dhidi ya inference ya serverless. Uchunguzi kama huo unalinganisha kadi ya data-centre iliyojitolea dhidi ya bidhaa ya serverless, na wanatoza accelerators kwa viwango vya juu mara kadhaa kuliko kiwango cha saa kinachotumiwa hapa. Hesabu ni ileile. Kinachofuata kinafanya hesabu hiyo upya kwa kadi moja, mfano mmoja wa open model katika kiwango cha 7B hadi 30B, na malipo ya kawaida ya API ya metered.

Kila namba hapa chini ni pembejeo (input), si matokeo. Badilisha yote kwa namba zako mwenyewe.

Mfumo, ili uweze kuweka namba zako mwenyewe

cost_per_million = (hourly_rate * 1000000) / (tokens_per_second * 3600 * duty_cycle)

breakeven_millions_per_month = (hourly_rate * hours_per_month) / api_price_per_million

capacity_millions_per_month = (tokens_per_second * 3600 * hours_per_month) / 1000000

required_duty_cycle = breakeven_millions_per_month / capacity_millions_per_month

Ingizo nne, na unaweza kupima au kutafuta zote nne.

  • hourly_rate ni gharama ya GPU VPS kwa saa, ukijumuisha saa ambazo haitumiki. Ikiwa unalipa kila mwezi, gawanya bei ya mwezi kwa 730.
  • tokens_per_second ni kiwango cha jumla cha matokeo ambacho seva yako hudumisha chini ya concurrency yako halisi. Hii si namba ya mtiririko mmoja kutoka kwenye chati ya muuzaji.
  • duty_cycle ni sehemu ya mwezi ambayo GPU hutumia kuzalisha token. Sanduku unalokodisha mwezi mzima na kulitumia kwa saa mbili kwa siku liko kwenye 8.3%.
  • api_price_per_million ni bei iliyopimwa unayolinganisha nayo, kwa ajili ya token za matokeo.

Mfano huu unatoa bei ya token za matokeo pande zote mbili, kwa sababu matokeo ndiyo yanayotawala bili kwa kazi za chat na wakala. Ikiwa prompts zako ni ndefu, ongeza ingizo pande zote mbili. Kwa upande wa API hiyo ni mstari tofauti kwenye ankara. Kwenye kadi yako mwenyewe, prefill hutumia muda wa GPU, kwa hivyo tayari inaonekana kama tokens_per_second iliyopimwa ya chini.

Jinsi ya kupima tokens kwa sekunde kabla ya kuamini hesabu

Kila kitu hapo juu kinategemea namba moja iliyopimwa. Ukiikosea kwa kiasi cha mara tatu, jibu litakuwa na makosa ya mara tatu. Ipime kwenye kadi unayokodisha, ukitumia model na quantisation utakayotumia kihalisi.

Ollama inakupa takwimu ya single-stream kwa amri moja:

ollama run qwen3:8b --verbose "Write 400 words about disk latency."

--verbose huchapisha block ya muda baada ya jibu. Mstari wa muhimu ni eval rate, katika tokens kwa sekunde, ambao huhesabu uzalishaji pekee. prompt eval rate ni kasi ya prefill na kwa kawaida huwa juu zaidi. Namba zako zitakuwa tofauti na hizi:

eval count:       412 token(s)
eval duration:    9.612s
eval rate:        42.86 tokens/s

Single stream si namba sahihi kwa ajili ya mfumo wa gharama, kwa sababu hupima ombi moja kwa wakati kwenye kadi inayoweza kuhudumia mengi kwa mara moja. Kwa takwimu ya jumla, hudumia model hiyo kwa kutumia vLLM na usome throughput ambayo seva inajiripoti yenyewe:

pip install vllm
vllm serve Qwen/Qwen3-8B --max-model-len 8192

Wakati maombi yakiwa yanaendelea, seva hurekodi mstari wa hali kwenye kila muda wa kuripoti. Sehemu kamili hubadilika kati ya releases za vLLM, kwa hivyo soma ya kwako badala ya yangu:

Avg prompt throughput: 812.4 tokens/s, Avg generation throughput: 396.1 tokens/s, Running: 16 reqs, Waiting: 0 reqs, GPU KV cache usage: 21.7%

Avg generation throughput ndiyo namba inayotakiwa na fomula. Hupanda kadiri unavyoongeza maombi ya wakati mmoja hadi KV cache (key-value cache, hali ya attention ya kila ombi ambayo vLLM huihifadhi kwenye VRAM) imejaa, kisha huacha kupanda. Ukizidisha zaidi ya hapo, maombi hupangwa kwenye foleni badala ya kwenda haraka, jambo unaloliona kama ongezeko la idadi ya Waiting. vLLM pia huja na load generator, vllm bench serve. Flags zake hubadilika kati ya matoleo, kwa hivyo endesha vllm bench serve --help kwenye toleo uliloliweka badala ya kunakili amri kutoka kwenye blogu.

Ifuatilie kadi wakati jaribio likiendelea:

nvidia-smi --query-gpu=utilization.gpu,memory.used,power.draw --format=csv -l 5

Kama utilization.gpu inakaa karibu na 100% wakati wa uzalishaji, umefika kikomo cha throughput na namba uliyopima ndiyo ukomo halisi. Kama inakaa chini, kitu kingine ndicho kikwazo: maombi machache ya wakati mmoja, client ya polepole, au model isiyotoshea kwenye VRAM na inayohamishiwa kwa sehemu kwenye system RAM. Ollama na vLLM hufanya maamuzi tofauti sana hapa, na pengo kati yao kwenye kadi moja ni kubwa kiasi cha kubadilisha sehemu yako ya break-even kwa mara kadhaa.

Muonekano wa bili kwa mwezi mzima

Mfano huu unatumia VPS moja ya 24 GB GPU kwa $0.50 kwa saa, ikiwa na model ya 8B inayohudumiwa na vLLM, yenye kasi ya 400 output tokens kwa sekunde kwa jumla na maombi 16 yanayofanyika kwa wakati mmoja. Kodi ni ya kudumu bila kujali kama unaitumia kadi hiyo au la. Uwezo wa kadi hiyo kwa kasi hiyo ni milioni 1,051 za output tokens kwa mwezi, kiasi ambacho kadi huzalisha ikiwa haitapumzika hata kidogo.

ChatiMonthly cost by output volume: one GPU VPS at $0.50 per hour against metered APIs (USD)
Data iliyo nyuma ya chati hii
[
  {
    "output_tokens_millions": 5,
    "gpu_vps_usd": 365,
    "open_api_usd": 1,
    "small_api_usd": 25,
    "frontier_api_usd": 75
  },
  {
    "output_tokens_millions": 10,
    "gpu_vps_usd": 365,
    "open_api_usd": 2,
    "small_api_usd": 50,
    "frontier_api_usd": 150
  },
  {
    "output_tokens_millions": 25,
    "gpu_vps_usd": 365,
    "open_api_usd": 5,
    "small_api_usd": 125,
    "frontier_api_usd": 375
  },
  {
    "output_tokens_millions": 50,
    "gpu_vps_usd": 365,
    "open_api_usd": 10,
    "small_api_usd": 250,
    "frontier_api_usd": 750
  },
  {
    "output_tokens_millions": 100,
    "gpu_vps_usd": 365,
    "open_api_usd": 20,
    "small_api_usd": 500,
    "frontier_api_usd": 1500
  },
  {
    "output_tokens_millions": 250,
    "gpu_vps_usd": 365,
    "open_api_usd": 50,
    "small_api_usd": 1250,
    "frontier_api_usd": 3750
  },
  {
    "output_tokens_millions": 500,
    "gpu_vps_usd": 365,
    "open_api_usd": 100,
    "small_api_usd": 2500,
    "frontier_api_usd": 7500
  },
  {
    "output_tokens_millions": 1000,
    "gpu_vps_usd": 365,
    "open_api_usd": 200,
    "small_api_usd": 5000,
    "frontier_api_usd": 15000
  }
]

Mstari wa GPU ni tambarare kwenye 365 dola kwa sababu kodi haibadiliki kulingana na matumizi yako ya kadi. Kila mstari wa API ni mstari ulionyooka unaopita kwenye sufuri. Kila jozi hukutana mara moja tu.

Kwa milioni 25 za output tokens kwa mwezi, frontier API inatoza 375 dola, hivyo gharama za pande zote mbili zinakaribiana kwa tofauti ya chini ya dola kumi. Kwa milioni 50, model ndogo ya kibiashara inatoza 250 dola na bado ndiyo chaguo nafuu zaidi. Kwa milioni 1000 za output tokens, ambazo zinahitaji kadi ifanye kazi kwa 95% ya mwezi, API ya open-weight inayohudumiwa inatoza 200 dola dhidi ya kodi hiyo hiyo. Kadi inashindwa kwa karibu mara mbili ya gharama katika kiwango hicho ambacho inafanya kazi kwa bidii zaidi.

Matokeo hayo ya mwisho huwashangaza watu, na si bahati mbaya. Endpoint ya open-weight inayohudumiwa ni kundi la GPU zinazoendeshwa kwa matumizi makubwa, hivyo bei yake inakaribiana na gharama ya kadi iliyojaa kazi. Huwezi kushinda kundi la GPU lililojaa kazi kwa kukodisha kadi moja na kuiendesha chini ya uwezo wake kamili. Unachoweza kushinda ni bei za frontier, ambazo hupangwa kulingana na uwezo badala ya muda wa matumizi ya silicon.

Gharama kwa kila milioni ya output tokens katika kila mzunguko wa matumizi (duty cycle)

Kiasi cha matumizi na mzunguko wa matumizi ni ukweli mmoja unaoonekana kwa mitazamo miwili. Kodi hununua saa za matumizi. Saa za kutofanya kazi hazizalishi chochote lakini bado zinagharimu pesa.

ChatiCost per million output tokens at each duty cycle (USD, list prices August 2026)
Data iliyo nyuma ya chati hii
[
  {
    "label": "100% duty",
    "self_host_usd_per_million": "0.35",
    "open_api_usd_per_million": "0.20",
    "small_api_usd_per_million": "5.00",
    "frontier_api_usd_per_million": "15.00"
  },
  {
    "label": "50% duty",
    "self_host_usd_per_million": "0.69",
    "open_api_usd_per_million": "0.20",
    "small_api_usd_per_million": "5.00",
    "frontier_api_usd_per_million": "15.00"
  },
  {
    "label": "25% duty",
    "self_host_usd_per_million": "1.39",
    "open_api_usd_per_million": "0.20",
    "small_api_usd_per_million": "5.00",
    "frontier_api_usd_per_million": "15.00"
  },
  {
    "label": "10% duty",
    "self_host_usd_per_million": "3.47",
    "open_api_usd_per_million": "0.20",
    "small_api_usd_per_million": "5.00",
    "frontier_api_usd_per_million": "15.00"
  },
  {
    "label": "5% duty",
    "self_host_usd_per_million": "6.94",
    "open_api_usd_per_million": "0.20",
    "small_api_usd_per_million": "5.00",
    "frontier_api_usd_per_million": "15.00"
  },
  {
    "label": "2% duty",
    "self_host_usd_per_million": "17.36",
    "open_api_usd_per_million": "0.20",
    "small_api_usd_per_million": "5.00",
    "frontier_api_usd_per_million": "15.00"
  }
]

Safu tatu za API ni bei za kawaida zilizochapishwa kufikia Agosti 2026: 0.20 dola kwa kila milioni ya output tokens kwa ajili ya model ya 8B ya open-weight inayohudumiwa, 5.00 dola kwa ajili ya model ndogo ya kibiashara, na 15.00 dola kwa ajili ya model ya kiwango cha juu (frontier model). Hizi ni kwa ajili ya kutoa mfano tu. Angalia ukurasa wa bei wa leo kabla ya kufanya uamuzi wowote, na ikiwa kulinganisha kwako kunahusu mpango wa kila mwezi wa bei isiyobadilika badala ya tokens zinazopimwa, hesabu za usajili hufanya kazi kwa njia tofauti na sehemu ya makutano ya gharama hubadilika tena.

Endesha kadi kwa uwezo wake wote na milioni moja ya output tokens itagharimu 0.35 dola, ambayo ni nafuu kweli. Katika mzunguko wa matumizi wa 10%, milioni hiyo hiyo inagharimu 3.47 dola. Katika mzunguko wa matumizi wa 2%, inagharimu 17.36 dola, ambayo haiko katika kiwango sawa na 0.20 dola ambazo model ya open inayohudumiwa inatoza kwa output inayofanana.

Ikilinganishwa na model ya open-weight inayohudumiwa, kukodisha GPU ni chaguo ghali katika kila mzunguko wa matumizi kwenye chati. Katika 10%, unalipa 3.47 dola kwa kila milioni ya tokens kwa output inayouzwa kwa 0.20 dola, na unachonunua kwa tofauti hiyo ni faragha na bili isiyobadilika. Hivyo vinaweza kuwa na thamani ya pesa halisi. Sio ushindi wa bei, kwa hivyo usiviweke kwenye kategoria hiyo. Ikilinganishwa na viwango vya kibiashara, hali hubadilika: katika mzunguko wa matumizi wa 10%, kadi inakuwa nafuu kuliko bei ya model ndogo ya kibiashara na ile ya frontier, na inabaki kuwa nafuu kuliko kiwango cha frontier hadi mzunguko wa matumizi utakaposhuka hadi takriban 2.3%.

Kiwango cha mapato ya kulingana na gharama (break-even) kwa kila tier ya API

ChatiBreak-even output volume per month, and the duty cycle it requires
Data iliyo nyuma ya chati hii
[
  {
    "label": "Hosted open 8B API",
    "breakeven_tokens_millions": 1825,
    "required_duty_pct": 174
  },
  {
    "label": "Small commercial model",
    "breakeven_tokens_millions": 73,
    "required_duty_pct": 6.9
  },
  {
    "label": "Frontier model",
    "breakeven_tokens_millions": 24.3,
    "required_duty_pct": 2.3
  }
]

Kwa tier ya frontier, unahitaji 24.3 milioni za output tokens kwa mwezi, ambayo ni 2.3% tu ya uwezo wa kadi hiyo. Hii ni kiwango cha chini. Timu ndogo inayoendesha coding agents katika muda wa kazi wa kawaida inafikia kiwango hiki.

Kwa tier ya small commercial, unahitaji 73 milioni za tokens kwa mwezi, au 6.9% ya duty cycle. Kwa tier ya hosted open-weight, duty cycle inayohitajika ni 174%. Chochote kilicho juu ya 100% hakiwezekani kwa ufafanuzi: kadi ingelazimika kufanya kazi kwa saa nyingi zaidi kuliko zilizopo ndani ya mwezi. Kadi moja ya kiwango cha kati kwa kiwango hiki cha gharama ya saa haiwezi kushinda kulinganisho huo, kwa hivyo njia pekee za kubadilisha matokeo ni kadi ya bei nafuu, kadi ya haraka zaidi, au sababu nyingine isiyo ya bei.

Yale ambayo fomula haionyeshi

Fomula hii hupiga bei ya saa za GPU na token. Gharama kadhaa halisi zipo nje ya fomula hiyo.

Cold starts. Model ya 8B yenye 16-bit weights ina ukubwa wa takriban 16 GB, na kuipakia kutoka kwenye diski ya ndani kwenda kwenye VRAM huchukua makumi ya sekunde. Ukizima seva kati ya matumizi ili kuokoa kodi, utalazimika kusubiri muda huo kwenye ombi la kwanza kila wakati. Ukiacha seva ikiwaka ili kuepuka kusubiri, duty cycle yako itashuka, jambo linalopandisha gharama kwa kila token. Biashara hiyo ndiyo sababu kuu ya kuwepo kwa serverless inference.

Hifadhi na upakuaji. Weights ni kubwa. Model ya 8B yenye 16-bit ina ukubwa wa takriban 16 GB, model ya 30B iliyopunguzwa ubora (quantised) hadi 4-bit ina takriban 18 GB, na model ya 30B yenye 16-bit haitoshi kabisa kwenye kadi ya 24 GB. Kikomo hufikiwa haraka sana, ambapo kuendesha open model yenye trilioni za vigezo kama Kimi K3 inamaanisha kuwa weights pekee zinazidi uwezo wa kadi yoyote unayoweza kukodisha kwa saa. Unalipia diski hiyo kila mwezi, na unalipia kwa muda kila unapojenga upya. Endesha du -sh ~/.cache/huggingface/hub baada ya wiki ya majaribio. Inakua kwa kasi kuliko unavyotarajia, kwa sababu kila quantisation uliyojaribu mara moja bado ipo hapo.

Muda wako binafsi. Matoleo ya driver na CUDA, makosa ya out-of-memory kwenye context length iliyofanya kazi jana, sasisho la model linalobadilisha chat template. Hakuna kati ya haya yanayoonekana kwenye takwimu ya gharama kwa kila token, na yote yanagharimu muda wako wa jioni. Ikiwa hujawahi kukadiria ukubwa wa seva hizi hapo awali, kile ambacho GPU VPS inakupa kihalisi inafaa kusomwa kabla ya kujifunga na mwezi wa kodi.

Pengo la ubora. Hii ndiyo gharama kubwa zaidi iliyofichika na iliyo ngumu zaidi kupangiwa bei. Open model ya 8B si model ya kiwango cha juu (frontier model). Ikiwa inahitaji majaribio matatu ambapo frontier model inahitaji moja, bei yake halisi kwa kila jibu lenye manufaa ni mara tatu ya thamani ya kwenye chati, na inaweza kushindwa kazi hiyo hata hivyo. Linganisha kwa kutumia prompts zako mwenyewe kabla ya kulinganisha kwa bei. Kwa kazi za wakala (agent workloads), jibu la kawaida ni kuelekeza kazi kulingana na ugumu na kutumia token za bei nafuu za ndani kwa kazi nyingi, ambacho ndicho kiini cha kudhibiti matumizi ya wakala kwenye VPS.

Bili ulizosahau. Instance ya GPU ya saa ambayo uliizima mara nyingi huendelea kutoza ada kwa ajili ya hifadhi iliyounganishwa na anwani yake ya IP iliyotengwa. Soma ankara, si ukurasa wa bei.

Wakati self-hosting inashinda kwa sababu nyingine isiyo ya bei

Matukio manne ambapo hesabu ya gharama si kigezo cha mwisho.

  • Data ambayo haiwezi kutoka chini ya udhibiti wako. Ikiwa kanuni ya utiifu inakataza kutuma maandishi kwa wahusika wengine, bei kwa kila token si swali linaloulizwa.
  • Kiasi kikubwa cha kazi kwa ratiba maalum. Kazi ya batch classification inayofanya kazi kwa saa sita kila usiku ina 25% ya duty cycle kwa asili yake, na haikushangazi kamwe na ankara ya malipo.
  • Rate limits. Kadi yako ina foleni moja na ni mali yako.
  • Model ambayo hakuna API inayotoa. Ikiwa unahitaji fine-tune maalum, hakuna kitu cha kulinganisha nacho.

Ikiwa unataka kujaribu toleo la bei nafuu kwanza, kuendesha model ndogo kwenye VPS kwa kutumia Ollama huchukua mchana mmoja, na kupima ukubwa wa open model dhidi ya kadi unayotaka kukodisha inakuonyesha GPU ipi unayohitaji kihalisi. Pima hapo kabla ya kujisajili kwa mwezi mzima wa kukodisha GPU.

FAQ

Je, ni kiasi gani cha tokeni kwa mwezi kinachofanya GPU VPS kuwa nafuu kuliko bei za API?

Gawa gharama ya kila mwezi ya GPU kwa bei ya API ya kila milioni moja ya tokeni zinazotolewa. Kadi inayokodishwa kwa $365 kwa mwezi, ikilinganishwa na API ya kiwango cha juu kwa 15.00 dola kwa kila milioni, inafikia usawa wa gharama katika 24.3 milioni ya tokeni kwa mwezi. Ikilinganishwa na modeli ndogo ya kibiashara kwa 5.00 dola, ni 73 milioni. Ikilinganishwa na modeli ya open-weight inayohudumiwa kwa 0.20 dola, kadi moja ya wastani haiwezi kutoa tokeni za kutosha kwa mwezi ili kufikia usawa wa gharama hata kidogo.

Kwa nini API ya open-weight inayohudumiwa inagharimu kidogo kuliko GPU yangu mwenyewe?

Kwa sababu bei yake imewekwa karibu na gharama ya GPU inayotumiwa kikamilifu, na kadi yako haitumiwi kikamilifu. Mtoa huduma anayehudumia maelfu ya maombi kwa wakati mmoja huweka mifumo yake karibu na uwezo wake wote, hivyo anaweza kuuza tokeni karibu na gharama halisi ya uzalishaji. Kadi yako haifanyi kazi kwa sehemu kubwa ya siku na unalipia saa hizo za kutofanya kazi. Katika kiwango cha matumizi cha 10%, gharama yako ni 3.47 dola kwa kila milioni ya tokeni zinazotolewa dhidi ya 0.20 dola zao.

Je, nihesabu tokeni za kuingiza (input) pamoja na zile za kutoa (output)?

Zihesabu ikiwa maelekezo (prompts) yako ni marefu. Ulinganisho huu unatumia tokeni za kutoa pekee, ambazo ndizo msingi mkuu wa kazi za gumzo na wakala. Kuongeza tokeni za kuingiza kunabadilisha pande zote mbili. Kwa upande wa API, ni mstari tofauti na wa bei nafuu kwenye ankara. Kwenye kadi yako, prefill hutumia muda wa GPU, kwa hivyo gharama tayari imo ndani ya jumla ya tokeni kwa sekunde ulizopima. Pima kwa kutumia urefu halisi wa maelekezo yako ili pande hizo mbili zilinganike.

Ninawezaje kupima tokeni kwa sekunde ambazo fomula inahitaji?

Hudumia modeli kwa njia utakayoitumia, kisha soma kiwango cha jumla cha uzalishaji chini ya matumizi halisi ya wakati mmoja. Ukiwa na Ollama, ollama run <model> --verbose huchapisha eval rate katika tokeni kwa sekunde, lakini huo ni mtiririko mmoja na hauwakilishi kikamilifu seva iliyopangwa kwa makundi (batched). Ukiwa na vLLM, seva inayofanya kazi huandika kwenye logi Avg generation throughput wakati maombi yanashughulikiwa, na hiyo ndiyo takwimu ya kutumia. Fuatilia nvidia-smi wakati huo huo. Ikiwa matumizi ya GPU hayako karibu na 100% wakati wa uzalishaji, bado hujafikia uwezo wa juu wa mfumo.

Je, inafaa kukodisha GPU VPS ikiwa matumizi ni chini ya 10%?

Inategemea ni API ipi ungelipia vinginevyo. Katika kiwango cha matumizi cha 10%, unalipa 3.47 dola kwa kila milioni ya tokeni zinazotolewa, ambayo ni chini ya kiwango cha kibiashara kidogo na kiwango cha juu, lakini ni ghali zaidi kuliko kiwango cha open-weight kinachohudumiwa. Katika 2%, unalipa 17.36 dola, ambayo ni ghali zaidi kuliko kila API inayotozwa kwa matumizi katika ulinganisho huu, ikijumuisha kiwango cha juu. Kwa bei pekee, kadi huacha kuwa na faida katika takriban 6.9% ya matumizi dhidi ya kiwango cha kibiashara kidogo na takriban 2.3% dhidi ya kiwango cha juu, na haishindi kamwe dhidi ya open-weight inayohudumiwa. Kodisha chini ya viwango hivyo tu ikiwa unalipia faragha au modeli ambayo hakuna API inayotoa.

Je, makala hii ilikusaidia?