Blog · Opublikowano · Zaktualizowano
Ile kosztuje prywatny LLM? Policz cały proces
Krótka odpowiedź
Prywatny LLM porównujesz z API na koszcie poprawnie obsłużonej sprawy. Serwer GPU Hetzner GEX45 z 8 godzinami obsługi kosztuje około 1 466 zł miesięcznie. Sprawa po 3 000 tokenów wejścia i 600 wyjścia kosztuje w API Claude Sonnet 5.5 około 0,047 zł, więc serwer wygrywa od około 39 969 spraw. Każde 500 dodatkowych poprawek po 3 minuty to jednak 1 661 zł.
Jak pracujemySzczegóły ↓
- 01Rozmowa30 min z inżynierem, 0 zł
- 02Prototypdziałający system na Twoim procesie i Twoich danych, 0 zł
- 03Wdrożeniecel i stała cena w umowie, 50% przy podpisaniu
- 04Odbiór50% po osiągnięciu celu
- model na Twoim serwerze albo w chmurze w UE
- wycena po analizie
- ta sama praca w aplikacji z modelem w chmurze UE
- od 12 500 zł
- analiza zadania, danych i sprzętu
- 0 zł
Należymy do programów partnerskich OpenAI i Anthropic, twórców ChatGPT i Claude, i uczymy się z ich oficjalnych kursów. Co to znaczy ↓
Autor: Syntalith · 2 min czytania
Statystyki
Modele lokalne w firmach: statystyki 2026
39 969
spraw miesięcznie, od których serwer GPU z obsługą za 1 466 zł wychodzi taniej niż API Claude Sonnet 5.5, przy tej samej jakości. Scenariusz.
17,8%
Według GUS (2026) technologie AI wykorzystuje 17,8% polskich przedsiębiorstw, dwa razy więcej niż rok wcześniej.
Źródło: GUS, Społeczeństwo informacyjne w Polsce w 2026 r. (2026) ↗
20,0%
Według Eurostatu (2025) AI używało 20,0% firm w UE z co najmniej 10 pracownikami, a w Polsce 8,4%.
Źródło: Eurostat, 20% of EU enterprises use AI technologies (2025) ↗
95,9%
Według UODO (2026) 95,9% badanych organizacji nie uważa się za przygotowane do wdrożenia AI zgodnie z RODO.
11 z 13
Według badania NoLiMa (2025) przy 32 tys. tokenów kontekstu 11 z 13 modeli spada poniżej połowy skuteczności, którą mają przy krótkim kontekście.
Dane sprawdzone: 22 października 2026
Co trafia do rachunku
Wycenę opierasz na koszcie poprawnie obsłużonej sprawy: przypisanego zgłoszenia, odczytanej faktury albo odpowiedzi z poprawnym cytatem. Jednostkę ustalasz przed porównaniem modeli.
| Pozycja | API | Własny model |
|---|---|---|
| Wdrożenie | Integracja, testy, obsługa błędów | To samo plus konfiguracja serwera |
| Obliczenia | Wejście, wyjście i płatne funkcje | Zakup albo wynajem sprzętu, energia |
| Obsługa | Limity, wersje API, monitoring | Także sterowniki, obrazy i aktualizacje wag |
| Ciągłość | Plan na awarię dostawcy | Kopie, odtwarzanie, rezerwa zasobów |
| Jakość | Sprawdzanie i poprawki | Sprawdzanie i poprawki |
Mały albo nieregularny ruch
API
płacisz za użycie
Duży, regularny wolumen prostych zadań
własny serwer
od około 39 969 spraw
Dane nie mogą opuścić firmy
własny serwer
niezależnie od progu
Długie dokumenty i trudne rozumowanie
API z mocniejszym modelem
jakość przed ceną
Model pobrany bez opłaty może obsługiwać zadanie drożej niż płatne API, gdy wymaga wielu poprawek albo drogi serwer czeka bezczynnie. Bywa też odwrotnie: regularna kolejka prostych zadań dobrze wykorzystuje sprzęt. Fine-tuning dodaje przygotowanie danych, uczenie i ocenę. Koszt rozkładasz na okres, w którym dostrojona wersja pracuje, a gdy kategorie zmieniają się co tydzień, utrzymanie zbioru kosztuje więcej niż jednorazowe uczenie.
Próg opłacalności
- Serwer GEX45
- 214 € (934 zł) + 8 godz. obsługi = 1 466 zł miesięcznie
- Sprawa w API Claude Sonnet 5.5
- 0,047 zł
- Koszt zmienny sprawy na serwerze, energia ponad bazę
- 0,010 zł
Próg
1 466 zł / (0,047 − 0,010) = 39 969 spraw/mies.
Cena serwera GEX45 z 24 GB pamięci GPU według strony Hetznera z 22 października 2026 r., bez jednorazowej opłaty 209 €, kurs NBP 4,3641 zł za euro i 3,8889 zł za dolara. Koszt zmienny, czas obsługi i rozmiar sprawy to założenia scenariusza, przy tej samej jakości w obu wariantach.
Teraz dodaj poprawki. Jeśli lokalny model wymaga 500 dodatkowych poprawek miesięcznie po 3 minuty, to 25 godzin, czyli 1 661 zł. Niewielka różnica jakości może więc odwrócić wynik porównania. Według badania NoLiMa (2025) przy 32 tys. tokenów kontekstu 11 z 13 modeli spada poniżej połowy skuteczności z krótkiego kontekstu, więc długie dokumenty testujesz osobno.
Sprawdź, kiedy pojawiają się zadania
Średnia miesięczna ukrywa szczyty. Dokumenty przychodzące w godzinę przed zamknięciem dnia potrzebują innej wydajności niż ta sama liczba rozłożona na noc. Mierzymy długość wejść, odpowiedzi, kolejkę i czas oczekiwania. Metryki vLLM obejmują żądania i czasy obsługi, a dokumentacja metryk pomaga zebrać rzeczywiste dane.
- Liczba spraw miesięcznie i godziny szczytu
- Przykładowa długość dokumentu i odpowiedzi
- Czas jednej poprawki
- Obecny rachunek za API, jeśli korzystasz
- Specyfikacja posiadanego komputera albo serwera
Większa pamięć a próg opłacalności
Framework opisuje, dlaczego większa pamięć zmienia dostępne konfiguracje modeli. To nie ustala kosztu poprawnej odpowiedzi dla Twoich dokumentów. Do wzoru wprowadź rzeczywistą ofertę sprzętu, okres użytkowania, energię, obsługę i liczbę przyjętych spraw, a wynik porównaj z kosztem API OpenAI i Claude.
Syntalith przygotowuje porównanie modelu lokalnego i API, mierzy warianty i wycenia wdrożenie. W kosztorysie oddzielamy pracę wdrożeniową od sprzętu, hostingu i opieki, więc wiadomo, która część rachunku zmienia się z ruchem. Szczegóły sprzętu dla polskich modeli opisuje tekst o Bieliku i PLLuM.
