Blog · Opublikowano · Zaktualizowano
Qwen, DeepSeek, Kimi i GLM: co wdrożyć lokalnie?
Krótka odpowiedź
Modele open-weight z 2026 r., takie jak Qwen, DeepSeek, Kimi, GLM, Gemma i Mistral, różnią się rozmiarem, wymaganym sprzętem i obsługą. Przegląd zaczynasz od pytania, gdzie ma działać system i jaką pracę ma wykonać, a wybór robisz testem na własnych zadaniach.
Jak pracujemySzczegóły ↓
- 01Rozmowa30 min z inżynierem, 0 zł
- 02Prototypdziałający system na Twoim procesie i Twoich danych, 0 zł
- 03Wdrożeniecel i stała cena w umowie, 50% przy podpisaniu
- 04Odbiór50% po osiągnięciu celu
- model na Twoim serwerze albo w chmurze w UE
- wycena po analizie
- ta sama praca w aplikacji z modelem w chmurze UE
- od 12 500 zł
- analiza zadania, danych i sprzętu
- 0 zł
Należymy do programów partnerskich OpenAI i Anthropic, twórców ChatGPT i Claude, i uczymy się z ich oficjalnych kursów. Co to znaczy ↓
Autor: Syntalith · 3 min czytania
Statystyki
Modele open-weight: statystyki 2026
4,1 mies.
zwrotu lokalnej aplikacji za 12 500 zł przy 400 dokumentach miesięcznie: 5 316 zł pracy dziś, 2 263 zł ze sprawdzaniem i serwerem GPU. Scenariusz.
40%
Według Menlo Ventures (2025) Anthropic ma 40% wydatków dużych firm na API modeli językowych, a OpenAI 27%, na podstawie badania około 500 decydentów w USA.
Źródło: Menlo Ventures, State of Generative AI in the Enterprise (2025) ↗
14–56%
Według Anthropic (2025) w badaniach z grupą kontrolną AI skracała czas zadań o 14 do 56%.
Źródło: Anthropic, Estimating AI productivity gains (2025) ↗
11 z 13
Według badania NoLiMa (2025) przy 32 tys. tokenów kontekstu 11 z 13 modeli spada poniżej połowy skuteczności, którą mają przy krótkim kontekście.
17,8%
Według GUS (2026) technologie AI wykorzystuje 17,8% polskich przedsiębiorstw, dwa razy więcej niż rok wcześniej.
Źródło: GUS, Społeczeństwo informacyjne w Polsce w 2026 r. (2026) ↗
Dane sprawdzone: 22 października 2026
Komputer pracownika
mniejsze modele, na przykład Qwen albo Gemma
stacja z kartą
Serwer firmy
modele średniej wielkości
serwer GPU od 214 € miesięcznie
Klaster GPU
największe modele, na przykład Kimi albo DeepSeek
wycena po analizie
Co jest dostępne w nowych rodzinach
| Rodzina i wersja | Co wynika z oficjalnego źródła | Konsekwencja dla wdrożenia |
|---|---|---|
| Qwen3.8-27B | Model z dostępnymi wagami; mniejszy wariant rodziny Qwen3.8 | Kandydat do kontrolowanej instalacji na jednej karcie po kwantyzacji |
| Qwen3.8-Flash-Next | 125B parametrów części głównej, 6B aktywnych, dodatkowo embeddingi n-gram i MTP | Aktywne 6B nie oznacza rozmiaru plików ani pamięci potrzebnej na cały model |
| DeepSeek-V4.1-Flash | Multimodalny MoE, 552B parametrów części głównej, licencja MIT | Oceniaj pełny model i obsługę jego architektury przez serwer |
| Kimi K3 | 2,8T parametrów, 104B aktywnych, własna licencja Kimi K3 | Wdrożenie wymaga infrastruktury adekwatnej do bardzo dużych wag |
| GLM-5.3 i GLM-5.3-Flash | Repozytorium podaje warianty 744B-A40B i 320B-A18B oraz ścieżki lokalnego serwowania | Wersję, precyzję i licencję sprawdzaj dla pobieranego artefaktu |
Oficjalny projekt Qwen opublikował też raport Qwen3.8-Omni, dotyczący pracy z tekstem, obrazem, dźwiękiem i wideo. Publikacja raportu oraz narzędzi nie jest sama w sobie potwierdzeniem, że wszystkie opisane modele można pobrać i uruchomić lokalnie. Do wyceny potrzebujemy rzeczywistych wag i działającego silnika.
Mniejsze modele też trafiają do porównania
Na liście warto zostawić Gemma 4 12B, Mistral Small 4 i gpt-oss. Reprezentują różne rozmiary i architektury. Nazwa Small nie określa wymagań domowego komputera: Mistral Small 4 ma 119B parametrów łącznie i 6,5B aktywnych.
Dla polskich dokumentów dodajemy Bielika i PLLuM. Porównanie z Qwenem opisuje konkretne warianty i ograniczenia licencyjne. Język polski w nazwie lub materiałach modelu jest powodem, aby włączyć go do próby. Jakość firmowej terminologii sprawdzamy na rzeczywistych pytaniach.
Open source, otwarte wagi i prywatne dane
Dostęp do wag pozwala wybrać miejsce uruchomienia. Licencja określa zakres dozwolonego użycia, modyfikacji i dystrybucji. Kod serwera może mieć inną licencję niż sam model. W projekcie zapisujemy identyfikator modelu, rewizję i warunki obowiązujące dla używanego pliku.
Prywatność zależy także od aplikacji. Lokalny model połączony z chmurowym OCR nadal wysyła dokument do zewnętrznej usługi. Osobnego sprawdzenia wymagają embeddingi, kopie zapasowe i diagnostyka. Opis wdrożenia prywatnego LLM obejmuje te elementy razem.
Jak wybieramy model w Syntalith
Dla help desku mierzymy trafność przypisania sprawy i liczbę potrzebnych poprawek. Dla kancelarii ważne są poprawne odwołania do klauzul i odmowa przy braku dokumentu. W repozytorium kodu sprawdzamy działającą zmianę oraz testy. Jeden ogólny ranking nie odpowie na wszystkie te pytania.
Zaczynamy od małego zestawu kandydatów mieszczących się w budżecie. Dostają te same materiały i kryteria. Porównanie obejmuje wynik, opóźnienie przy docelowym obciążeniu i koszt poprawnie zakończonej sprawy. Model, który potrzebuje mniej poprawek, może uzasadnić wyższy koszt obliczeń.
Jeśli chcesz wybrać model dla firmy lub własnego komputera, prześlij zastosowanie, wymagania dotyczące danych i specyfikację sprzętu. Syntalith przygotuje zakres porównania, a potem może zająć się instalacją, hostingiem i dostrojeniem wybranego wariantu.
Ile to kosztuje
- Dziś
- 400 dokumentów × 12 min = 80 godz. (5 316 zł)
- Z aplikacją pracownik sprawdza wynik w 25% czasu
- 1 329 zł
- Serwer GPU Hetzner GEX45, 214 €
- 934 zł
- Oszczędność
- 3 053 zł/mies.
Zwrot 12 500 zł
4,1 mies.
Wolumen, czas i udział sprawdzania to założenia scenariusza, które mierzymy w próbie. Godzina pracy 66,45 zł to przeciętne wynagrodzenie według GUS z września 2026 r. z kosztami pracodawcy, 168 godz. w miesiącu. Cena serwera GEX45 z 24 GB pamięci GPU według strony Hetznera z 22 października 2026 r., bez jednorazowej opłaty 209 €, kurs NBP 4,3641 zł.
- Skąd aplikacja pobiera dokumenty i gdzie zapisuje wyniki
- Co zostaje w dziennikach, kopiach zapasowych i historii pytań
- Kto ma dostęp do pytań, odpowiedzi i opracowań
- Kto aktualizuje model, aplikację i zbiór dokumentów
Od czego zacząć
Na bezpłatnej analizie wybieramy jedno zadanie i 20 do 100 spraw, które zespół już obsłużył, a w 2 dni robocze dostajesz pisemne podsumowanie z ceną. Lokalny model wdrażamy w ramach prywatnych modeli LLM, a aplikację wokół niego w ramach aplikacji AI.
Przykład z liczbami · Scenariusz
Tak liczymy zwrot: model open-weight
Ten sam rachunek robimy na bezpłatnej analizie dla Twojego zespołu.
7 974 zł
miesięcznie kosztuje praca przy 600 pytaniach
Zwrot wersji w chmurze UE: 1,9 mies.
12 min na znalezienie odpowiedzi w dokumentacji i sprawdzanie w 15% dawnego czasu to nasze założenia. Godzina pracy 66,45 zł to nasze wyliczenie z przeciętnego wynagrodzenia według GUS z września 2026 r. (9 266,48 zł) z kosztami pracodawcy, 168 h w miesiącu. Koszt modelu: Claude Sonnet 5.5, około 6 000 + 500 tokenów na odpowiedź w wersji w chmurze w UE, kurs NBP 3,8889 zł z 21 października 2026 r. Zwrot liczymy dla aplikacji z modelem w chmurze w UE (od 12 500 zł netto). Model na Twoim serwerze wyceniamy po rozmowie, a koszt pracy ludzi jest ten sam.
Zobacz pełny rachunek →
