SSD Nodes Learn Hosting plans →
Przewodniki Matt ConnorAutor: Matt Connor

GPU VPS czy API: kiedy własny serwer staje się tańszy?

Analiza progu rentowności między wynajmem GPU VPS a płatnością za tokeny API. Sprawdź dokładne wyliczenia i liczbę milionów tokenów, przy której własna infrastruktura wygrywa.

Gdzie faktycznie znajduje się próg opłacalności

GPU VPS przewyższa rozliczenie API oparte na liczbie tokenów w jednym przypadku: gdy stały miesięczny koszt wynajmu, podzielony przez liczbę wygenerowanych w danym miesiącu tokenów wyjściowych, spada poniżej stawki pobieranej przez API za tę samą liczbę tokenów. Koszt wynajmu jest stały. Rachunek za API zmienia się wraz z każdym żądaniem. Zatem odpowiedzią jest zawsze miesięczny wolumen, a nie proste tak lub nie.

Obliczenia wykonano dla średniej klasy GPU VPS w cenie 0.50 USD za godzinę, co daje 365 USD za miesiąc liczący 730 godzin. W porównaniu z API modelu klasy frontier próg opłacalności osiąga się przy 24.3 miliona tokenów wyjściowych miesięcznie. W przypadku małego modelu komercyjnego jest to 73 miliona. W starciu z hostowanym modelem o otwartych wagach tej samej wielkości próg opłacalności nie jest osiągalny, ponieważ jedna karta nie jest w stanie wygenerować w miesiącu wystarczającej liczby tokenów, aby dotrzeć do punktu przecięcia.

Opublikowane analizy progu opłacalności nie odpowiadają na to pytanie. Jedna z analiz dostawcy z lipca 2026 r. umieszcza punkt przecięcia w okolicach 50% wykorzystania dedykowanej karty H100 w cenie 2.00 USD za godzinę w porównaniu z wnioskowaniem typu serverless. Podobne badania porównują dedykowaną kartę z centrum danych z produktem serverless i wyceniają akceleratory na kwoty kilkukrotnie wyższe niż przyjęta tutaj stawka godzinowa. Arytmetyka pozostaje identyczna. Poniżej przedstawiono ponowne obliczenia dla jednej karty, jednego otwartego modelu z zakresu od 7B do 30B oraz standardowego rozliczenia API opartego na liczbie tokenów.

Każda z poniższych liczb jest daną wejściową, a nie wynikiem. Należy zastąpić je własnymi wartościami.

Wzór umożliwiający podstawienie własnych wartości

cost_per_million = (hourly_rate * 1000000) / (tokens_per_second * 3600 * duty_cycle)

breakeven_millions_per_month = (hourly_rate * hours_per_month) / api_price_per_million

capacity_millions_per_month = (tokens_per_second * 3600 * hours_per_month) / 1000000

required_duty_cycle = breakeven_millions_per_month / capacity_millions_per_month

Cztery parametry wejściowe, które można zmierzyć lub sprawdzić.

  • hourly_rate to koszt GPU VPS za godzinę, uwzględniający czas bezczynności. W przypadku płatności miesięcznych należy podzielić cenę przez 730.
  • tokens_per_second to całkowita szybkość generowania tokenów, jaką serwer utrzymuje przy rzeczywistym obciążeniu. Nie jest to wartość dla pojedynczego strumienia z tabeli producenta.
  • duty_cycle to ułamek miesiąca, w którym GPU generuje tokeny. Serwer wynajmowany przez cały miesiąc i używany przez dwie godziny dziennie osiąga wartość 8,3%.
  • api_price_per_million to cena jednostkowa usługi, do której porównywany jest koszt własny, w odniesieniu do tokenów wyjściowych.

Przykład wycenia tokeny wyjściowe po obu stronach, ponieważ to one stanowią główny koszt w pracy czatów i agentów. Jeśli prompty są długie, należy dodać tokeny wejściowe do obu stron. W przypadku API jest to osobna pozycja na fakturze. Przy własnym rozwiązaniu faza prefill zużywa czas GPU, więc jest już uwzględniona w niższej zmierzonej wartości tokens_per_second.

Jak zmierzyć liczbę tokenów na sekundę przed poleganiem na obliczeniach

Wszystko powyżej opiera się na jednej zmierzonej wartości. Błąd w pomiarze rzędu trzech razy skutkuje trzykrotnym błędem w wyniku końcowym. Pomiaru należy dokonać na wynajmowanej karcie, używając modelu oraz kwantyzacji, które będą faktycznie uruchamiane.

Ollama pozwala uzyskać wartość dla pojedynczego strumienia za pomocą jednego polecenia:

ollama run qwen3:8b --verbose "Write 400 words about disk latency."

--verbose wyświetla blok czasowy po wygenerowaniu odpowiedzi. Istotnym wierszem jest eval rate, wyrażony w tokenach na sekundę, który uwzględnia wyłącznie generowanie. prompt eval rate to szybkość prefill, która zazwyczaj jest znacznie wyższa. Uzyskane wyniki będą różnić się od poniższych:

eval count:       412 token(s)
eval duration:    9.612s
eval rate:        42.86 tokens/s

Wartość dla pojedynczego strumienia jest niewłaściwa dla modelu kosztów, ponieważ mierzy ona tylko jedno żądanie na raz na karcie zdolnej do obsługi wielu żądań jednocześnie. Aby uzyskać wartość zagregowaną, należy uruchomić model za pomocą vLLM i odczytać przepustowość raportowaną przez sam serwer:

pip install vllm
vllm serve Qwen/Qwen3-8B --max-model-len 8192

Podczas przetwarzania żądań serwer rejestruje wiersz stanu w każdym interwale raportowania. Dokładne pola zmieniają się wraz z kolejnymi wydaniami vLLM, dlatego należy czytać własne dane, a nie sugerować się cudzymi:

Avg prompt throughput: 812.4 tokens/s, Avg generation throughput: 396.1 tokens/s, Running: 16 reqs, Waiting: 0 reqs, GPU KV cache usage: 21.7%

Avg generation throughput to wartość wymagana przez wzór. Rośnie ona wraz z dodawaniem współbieżnych żądań, aż do momentu zapełnienia pamięci podręcznej KV (key-value cache, stan atencji dla każdego żądania przechowywany przez vLLM w VRAM), po czym przestaje rosnąć. Dalsze zwiększanie obciążenia powoduje kolejkowanie żądań zamiast przyspieszenia, co objawia się wzrostem liczby Waiting. vLLM zawiera również generator obciążenia, vllm bench serve. Jego flagi zmieniają się między wersjami, dlatego należy uruchomić vllm bench serve --help dla zainstalowanej wersji, zamiast kopiować polecenie z wpisu na blogu.

Podczas testu należy monitorować kartę:

nvidia-smi --query-gpu=utilization.gpu,memory.used,power.draw --format=csv -l 5

utilization.gpu należy traktować jako wskazówkę, a nie ostateczny werdykt. NVIDIA definiuje ten parametr jako procent czasu w okresie próbkowania, w którym co najmniej jeden kernel był wykonywany na GPU, więc odczyt bliski 100% informuje jedynie, że karta rzadko pozostawała w stanie bezczynności. Nie oznacza to, że karta jest w pełni nasycona lub że osiągnięto jej limit przepustowości. Niski odczyt również nie dowodzi istnienia zapasu mocy: według wytycznych NVIDIA dotyczących profilowania, niskie wykorzystanie GPU nie wyklucza wąskiego gardła po stronie GPU. Testem, który wyznacza limit, jest ten opisany powyżej. Należy dodawać współbieżne żądania i obserwować Avg generation throughput. Wartość, przy której przestaje ono rosnąć, a zaczyna rosnąć Waiting, jest wartością docelową. Jeśli wzrost zatrzymuje się wcześniej niż oczekiwano, typowymi przyczynami są: zbyt mała liczba współbieżnych żądań, wolny klient lub model, który nie mieści się w VRAM i jest częściowo przenoszony do pamięci RAM systemu. Ślad profilera (profiler trace) wskazuje, który zasób stanowi rzeczywiste ograniczenie. Ollama i vLLM stosują tutaj zupełnie inne kompromisy, a różnica między nimi na tej samej karcie jest na tyle duża, że może kilkukrotnie zmienić punkt rentowności.

Jak wygląda rachunek w skali miesiąca

Przykład obliczeniowy obejmuje jeden serwer VPS z GPU 24 GB w cenie 0.50 USD za godzinę, na którym uruchomiono model 8B za pomocą vLLM, osiągający wydajność 400 tokenów wyjściowych na sekundę przy 16 jednoczesnych żądaniach. Opłata za wynajem jest stała, niezależnie od wykorzystania karty. Przepustowość przy takim obciążeniu wynosi 1051 milionów tokenów wyjściowych miesięcznie, co odpowiada pracy karty bez żadnych przestojów.

WykresMonthly cost by output volume: one GPU VPS at $0.50 per hour against metered APIs (USD)
Dane, na których opiera się ten wykres
[
  {
    "output_tokens_millions": 5,
    "gpu_vps_usd": 365,
    "open_api_usd": 1,
    "small_api_usd": 25,
    "frontier_api_usd": 75
  },
  {
    "output_tokens_millions": 10,
    "gpu_vps_usd": 365,
    "open_api_usd": 2,
    "small_api_usd": 50,
    "frontier_api_usd": 150
  },
  {
    "output_tokens_millions": 25,
    "gpu_vps_usd": 365,
    "open_api_usd": 5,
    "small_api_usd": 125,
    "frontier_api_usd": 375
  },
  {
    "output_tokens_millions": 50,
    "gpu_vps_usd": 365,
    "open_api_usd": 10,
    "small_api_usd": 250,
    "frontier_api_usd": 750
  },
  {
    "output_tokens_millions": 100,
    "gpu_vps_usd": 365,
    "open_api_usd": 20,
    "small_api_usd": 500,
    "frontier_api_usd": 1500
  },
  {
    "output_tokens_millions": 250,
    "gpu_vps_usd": 365,
    "open_api_usd": 50,
    "small_api_usd": 1250,
    "frontier_api_usd": 3750
  },
  {
    "output_tokens_millions": 500,
    "gpu_vps_usd": 365,
    "open_api_usd": 100,
    "small_api_usd": 2500,
    "frontier_api_usd": 7500
  },
  {
    "output_tokens_millions": 1000,
    "gpu_vps_usd": 365,
    "open_api_usd": 200,
    "small_api_usd": 5000,
    "frontier_api_usd": 15000
  }
]

Linia kosztów GPU jest płaska i wynosi 365 dolarów, ponieważ opłata za wynajem nie zależy od sposobu wykorzystania karty. Każda linia API jest linią prostą przechodzącą przez zero. Każda para przecina się dokładnie w jednym punkcie.

Przy 25 milionach tokenów wyjściowych miesięcznie, API modelu klasy frontier kosztuje 375 dolarów, więc obie strony różnią się kwotą poniżej dziesięciu dolarów. Przy 50 milionach tokenów mały model komercyjny kosztuje 250 dolarów i nadal pozostaje tańszą opcją. Przy 1000 milionach tokenów wyjściowych, co wymaga obciążenia karty na poziomie 95% czasu w miesiącu, hostowane API modelu open-weight kosztuje 200 dolarów w porównaniu do tej samej opłaty za wynajem. Karta przegrywa finansowo niemal dwukrotnie przy wolumenie, w którym pracuje najciężej.

Ten ostatni wynik bywa zaskakujący, ale nie jest przypadkowy. Hostowany punkt końcowy dla modelu open-weight to flota GPU działająca przy wysokim wykorzystaniu, więc jego cena jest zbliżona do kosztu pracy nasyconej karty. Nie można przebić cenowo nasyconej floty, wynajmując jedną kartę i używając jej przy niepełnym obciążeniu. Można natomiast przebić ceny modeli klasy frontier, które są ustalane na podstawie możliwości modelu, a nie czasu pracy krzemu.

Koszt miliona tokenów wyjściowych przy różnych cyklach pracy

Wolumen i cykl pracy to dwa aspekty tego samego zjawiska. Wynajem opłacany jest w godzinach. Bezczynne godziny nie generują wartości, a mimo to generują koszty.

WykresCost per million output tokens at each duty cycle (USD, list prices August 2026)
Dane, na których opiera się ten wykres
[
  {
    "label": "100% duty",
    "self_host_usd_per_million": "0.35",
    "open_api_usd_per_million": "0.20",
    "small_api_usd_per_million": "5.00",
    "frontier_api_usd_per_million": "15.00"
  },
  {
    "label": "50% duty",
    "self_host_usd_per_million": "0.69",
    "open_api_usd_per_million": "0.20",
    "small_api_usd_per_million": "5.00",
    "frontier_api_usd_per_million": "15.00"
  },
  {
    "label": "25% duty",
    "self_host_usd_per_million": "1.39",
    "open_api_usd_per_million": "0.20",
    "small_api_usd_per_million": "5.00",
    "frontier_api_usd_per_million": "15.00"
  },
  {
    "label": "10% duty",
    "self_host_usd_per_million": "3.47",
    "open_api_usd_per_million": "0.20",
    "small_api_usd_per_million": "5.00",
    "frontier_api_usd_per_million": "15.00"
  },
  {
    "label": "5% duty",
    "self_host_usd_per_million": "6.94",
    "open_api_usd_per_million": "0.20",
    "small_api_usd_per_million": "5.00",
    "frontier_api_usd_per_million": "15.00"
  },
  {
    "label": "2% duty",
    "self_host_usd_per_million": "17.36",
    "open_api_usd_per_million": "0.20",
    "small_api_usd_per_million": "5.00",
    "frontier_api_usd_per_million": "15.00"
  }
]

Trzy kolumny API przedstawiają typowe ceny katalogowe z sierpnia 2026 roku: 0.20 dolarów za milion tokenów wyjściowych w przypadku hostowanego modelu open-weight o rozmiarze 8B, {{q:small_api_usd_per_million}} dolarów dla małego modelu komercyjnego oraz 15.00 dolarów dla modelu klasy frontier. Są to wartości poglądowe. Przed podjęciem decyzji należy sprawdzić aktualny cennik. Jeśli porównanie dotyczy stałego abonamentu miesięcznego, a nie rozliczania za tokeny, rachunek za subskrypcję wygląda inaczej, a punkt opłacalności przesuwa się.

Przy pełnym obciążeniu karty koszt miliona tokenów wyjściowych wynosi 0.35 dolarów, co jest kwotą bardzo niską. Przy cyklu pracy wynoszącym 10% ten sam milion kosztuje 3.47 dolarów. Przy cyklu pracy na poziomie 2% koszt rośnie do 17.36 dolarów, co nie mieści się w tym samym przedziale cenowym, co 0.20 dolarów pobierane przez hostowany model open-weight za identyczny wynik.

W zestawieniu z hostowanym modelem open-weight, wynajem GPU jest droższym wyborem przy każdym cyklu pracy ujętym w tabeli. Przy 10% obciążenia płacisz 3.47 dolarów za milion tokenów, podczas gdy rynkowa cena wynosi 0.20 dolarów. Różnica w cenie stanowi koszt prywatności oraz gwarancję stałej wysokości rachunku. Może to mieć realną wartość, jednak nie należy traktować tego rozwiązania jako oszczędności finansowej. W porównaniu z ofertami komercyjnymi sytuacja się odwraca: przy 10% cyklu pracy karta jest tańsza zarówno od małego modelu komercyjnego, jak i modelu klasy frontier. Pozostaje tańsza od poziomu frontier aż do momentu, gdy cykl pracy spadnie do około 2.3%.

Wolumen progu opłacalności dla każdego poziomu API

WykresBreak-even output volume per month, and the duty cycle it requires
Dane, na których opiera się ten wykres
[
  {
    "label": "Hosted open 8B API",
    "breakeven_tokens_millions": 1825,
    "required_duty_pct": 174
  },
  {
    "label": "Small commercial model",
    "breakeven_tokens_millions": 73,
    "required_duty_pct": 6.9
  },
  {
    "label": "Frontier model",
    "breakeven_tokens_millions": 24.3,
    "required_duty_pct": 2.3
  }
]

W porównaniu z poziomem frontier wymagane jest 24.3 miliona tokenów wyjściowych miesięcznie, co stanowi zaledwie 2.3% możliwości karty. Jest to niski próg. Mały zespół uruchamiający agentów programistycznych w ciągu dnia pracy go przekracza.

W porównaniu z małym poziomem komercyjnym wymagane jest 73 miliona tokenów miesięcznie, czyli cykl pracy na poziomie 6.9%. W przypadku hostowanego poziomu modeli o otwartych wagach wymagany cykl pracy wynosi 174%. Każda wartość powyżej 100% jest z definicji nieosiągalna: karta musiałaby pracować przez więcej godzin, niż zawiera miesiąc. Jedna karta średniej klasy przy tej stawce godzinowej nie wygrywa tego porównania, więc jedynymi sposobami na zmianę wyniku są tańsza karta, szybsza karta lub przyczyna inna niż cena.

Co ukrywa ten wzór

Wzór wycenia godziny pracy GPU oraz tokeny. Kilka rzeczywistych kosztów pozostaje poza nim.

Zimne starty. Model 8B o wagach 16-bitowych zajmuje około 16 GB, a jego wczytanie z dysku lokalnego do VRAM trwa dziesiątki sekund. Zatrzymanie instancji między użyciami pozwala zaoszczędzić na opłatach, ale przy każdym pierwszym żądaniu użytkownik płaci czasem oczekiwania. Pozostawienie uruchomionej instancji eliminuje oczekiwanie, ale obniża cykl pracy, co zwiększa koszt jednostkowy tokena. Ten kompromis jest głównym powodem istnienia wnioskowania bezserwerowego (serverless inference).

Przechowywanie i pobieranie. Wagi modeli są duże. Model 8B w 16-bitach zajmuje około 16 GB, model 30B skwantyzowany do 4-bitów około 18 GB, a model 30B w 16-bitach w ogóle nie mieści się na karcie 24 GB. Ograniczenia stają się wyraźne przy modelach o dużej skali, gdzie uruchomienie otwartego modelu o bilionie parametrów, takiego jak Kimi K3 oznacza, że same wagi przekraczają możliwości każdej pojedynczej karty dostępnej w wynajmie godzinowym. Za dysk płaci się co miesiąc, a czas poświęcony na każdą przebudowę środowiska jest kosztem ukrytym. Po tygodniu eksperymentów należy uruchomić du -sh ~/.cache/huggingface/hub. Zajętość dysku rośnie szybciej, niż można oczekiwać, ponieważ każda przetestowana kwantyzacja nadal zajmuje miejsce.

Własny czas. Wersje sterowników i CUDA, błędy braku pamięci (OOM) przy długości kontekstu, która działała poprzedniego dnia, aktualizacja modelu zmieniająca szablon czatu. Żaden z tych elementów nie pojawia się w wyliczeniach kosztu za token, a wszystkie obciążają czas prywatny. Jeśli konfiguracja takich jednostek jest nowym zadaniem, warto przeczytać co faktycznie oferuje GPU VPS przed podjęciem decyzji o miesięcznym wynajmie.

Różnica w jakości. Jest to największy koszt ukryty i najtrudniejszy do wyceny. Otwarty model 8B nie jest modelem klasy frontier. Jeśli wymaga trzech prób tam, gdzie model klasy frontier potrzebuje jednej, jego rzeczywisty koszt za użyteczną odpowiedź jest trzykrotnie wyższy niż wynikałoby to z wykresów, a zadanie może mimo wszystko zakończyć się niepowodzeniem. Przed porównaniem cen należy przeprowadzić testy na własnych promptach. W przypadku zadań agentowych standardowym rozwiązaniem jest kierowanie zapytań w zależności od stopnia trudności i wykorzystywanie tanich tokenów lokalnych do pracy masowej, co stanowi istotę kontrolowania wydatków na agentów w VPS.

Zapomniane opłaty. Godzinowa instancja GPU, która została zatrzymana, często nadal generuje koszty za przypisany magazyn danych oraz zarezerwowany adres IP. Należy analizować faktury, a nie tylko cennik na stronie.

Kiedy self-hosting wygrywa z innych powodów niż cena

Cztery przypadki, w których rachunek ekonomiczny nie jest czynnikiem decydującym.

  • Dane, które nie mogą opuścić Twojej kontroli. Jeśli zasady zgodności zabraniają przesyłania tekstu do podmiotu trzeciego, cena za token nie jest kwestią, którą należy rozważać.
  • Stałe, duże obciążenie w określonym czasie. Zadanie klasyfikacji wsadowej, które działa przez sześć godzin każdej nocy, z założenia wykorzystuje 25% cyklu pracy i nigdy nie zaskoczy Cię rachunkiem.
  • Limity zapytań (rate limits). Twoja własna karta ma jedną kolejkę i należy ona wyłącznie do Ciebie.
  • Model, którego nie oferuje żadne API. Jeśli potrzebujesz specyficznego dostrojenia (fine-tune), nie ma punktu odniesienia do porównania.

Jeśli chcesz najpierw przetestować tańszą wersję, uruchomienie małego modelu na VPS za pomocą Ollama zajmie jedno popołudnie, a dobranie modelu open source do karty, którą zamierzasz wynająć wskaże, jakiego GPU faktycznie potrzebujesz. Dokonaj pomiarów przed wykupieniem miesięcznego wynajmu GPU.

FAQ

Przy jakim miesięcznym wolumenie tokenów GPU VPS staje się bardziej opłacalny niż API?

Należy podzielić miesięczny koszt wynajmu GPU przez cenę API za milion tokenów wyjściowych. Karta kosztująca 365 dolarów miesięcznie, w zestawieniu z modelem klasy frontier o cenie 15.00 dolarów za milion, osiąga próg rentowności przy 24.3 milionach tokenów wyjściowych miesięcznie. W przypadku małego modelu komercyjnego o cenie 5.00 dolarów, próg ten wynosi 73 milionów. W zestawieniu z hostowanym modelem o otwartych wagach za 0.20 dolarów, jedna karta średniej klasy nie jest w stanie wygenerować w miesiącu wystarczającej liczby tokenów, aby osiągnąć rentowność.

Dlaczego hostowane API z modelem o otwartych wagach kosztuje mniej niż własne GPU?

Ponieważ cena API jest ustalona blisko kosztu w pełni obciążonego GPU, a Twoja karta nie jest w pełni wykorzystana. Dostawca obsługujący tysiące jednoczesnych żądań utrzymuje flotę blisko stanu nasycenia, dzięki czemu może sprzedawać tokeny w cenie zbliżonej do krańcowego kosztu ich wytworzenia. Twoja karta przez większość dnia pozostaje bezczynna, a Ty płacisz za godziny bezczynności. Przy 10% cyklu pracy koszt wynosi 3.47 dolarów za milion tokenów wyjściowych, podczas gdy u dostawcy jest to 0.20 dolarów.

Czy należy uwzględniać tokeny wejściowe, czy tylko wyjściowe?

Uwzględnij je, jeśli Twoje prompty są długie. Niniejsze porównanie wykorzystuje tylko tokeny wyjściowe, które stanowią dominujący koszt w pracy czatów i agentów. Dodanie tokenów wejściowych zmienia obie strony. Po stronie API jest to osobna, tańsza pozycja na fakturze. Na własnej karcie faza prefill zużywa czas GPU, więc koszt jest już zawarty w zagregowanej liczbie tokenów na sekundę, którą zmierzyłeś. Dokonaj pomiarów przy użyciu rzeczywistych długości promptów, a obie strony pozostaną porównywalne.

Jak zmierzyć liczbę tokenów na sekundę wymaganą przez wzór?

Uruchom model w sposób, w jaki będziesz go używać, a następnie odczytaj zagregowaną szybkość generowania przy rzeczywistym współbieżnym obciążeniu. W przypadku Ollama, ollama run <model> --verbose wyświetla eval rate w tokenach na sekundę, ale jest to pojedynczy strumień, który zaniża wynik dla serwera przetwarzającego w trybie wsadowym. W przypadku vLLM, działający serwer rejestruje Avg generation throughput podczas przetwarzania żądań i to jest wartość, której należy użyć. Dodawaj kolejne współbieżne żądania, aż szybkość przestanie rosnąć; to plateau stanowi Twój limit wydajności. Nie używaj wskaźnika nvidia-smi do podejmowania tej decyzji. Mierzy on udział czasu pracy jądra, a nie stopień zbliżenia karty do jej limitu, więc wysoki odczyt nie dowodzi osiągnięcia limitu, a niski nie oznacza posiadania wolnych zasobów.

Czy warto wynajmować GPU VPS przy wykorzystaniu poniżej 10%?

Zależy to od tego, za jakie API płaciłbyś w przeciwnym razie. Przy 10% cyklu pracy płacisz 3.47 dolarów za milion tokenów wyjściowych, co jest wartością poniżej poziomu małych modeli komercyjnych i klasy frontier, ale znacznie powyżej poziomu hostowanych modeli o otwartych wagach. Przy 2% płacisz 17.36 dolarów, co przewyższa każde mierzone API w tym porównaniu, wliczając w to klasę frontier. Biorąc pod uwagę wyłącznie cenę, karta przestaje być opłacalna przy około 6.9% cyklu pracy w zestawieniu z małym modelem komercyjnym i około 2.3% w zestawieniu z klasą frontier; w zestawieniu z hostowanymi modelami o otwartych wagach karta nie wygrywa nigdy. Wynajmuj poniżej tych wartości tylko wtedy, gdy płacisz za prywatność lub model, którego nie oferuje żadne API.

Czy ten artykuł był przydatny?