Czy potrzebuję własnej karty graficznej?

Nie. Możemy sprawdzić Twój komputer, dobrać nowy sprzęt albo wynająć GPU. Wymagania zależą od modelu, długości dokumentów i liczby jednoczesnych zadań. Zakup poprzedzamy próbą, jeśli trzeba zweryfikować wydajność.

Czy lokalny LLM będzie tańszy od API?

To zależy od obciążenia i kosztu utrzymania. Liczymy sprzęt lub wynajem, energię, pracę zespołu, zapas na awarie i korekty odpowiedzi. Porównujemy koszt poprawnie wykonanego zadania; same tokeny nie pokazują całego rachunku.

Czy model uczy się automatycznie na moich dokumentach?

Zwykłe użycie modelu nie zmienia jego wag. Dokumenty można udostępniać przez RAG. Fine-tuning jest osobnym procesem uczenia na przygotowanych przykładach, z kontrolą dostępu i osobnym zestawem do oceny jakości.

Czy dostroicie model do języka polskiego i naszej branży?

Tak. Najpierw sprawdzamy gotowy model na polskich przykładach z Twojej pracy. Jeśli błędy uzasadniają fine-tuning, przygotowujemy zbiór i porównujemy model przed i po uczeniu. Oceniamy również odmowę odpowiedzi oraz zachowanie przy nowych typach danych.

Czy self-hosting zapewnia zgodność z RODO?

Samodzielny hosting daje kontrolę nad środowiskiem. Zgodność wymaga także właściwej podstawy przetwarzania, ograniczenia dostępu, retencji i umów. Dostarczamy opis techniczny do oceny przez osoby odpowiedzialne za ochronę danych.

Czy pomagacie osobom prywatnym bez doświadczenia technicznego?

Tak. Możemy pomóc od wyboru komputera do pierwszego użycia modelu. Zakres obejmuje instalację, podstawową konfigurację prywatności, instrukcję i naukę obsługi na uzgodnionym zastosowaniu.

Czy pokazujecie pomiar poprawy po fine-tuningu?

Tak, udostępniamy mały eksperyment na fikcyjnych notatkach produkcyjnych. Dostrojony Qwen2.5-0.5B-Instruct podał 6 z 8 dokładnie poprawnych etykiet; model bazowy z tą samą krótką instrukcją 0 z 8, przy czym 7 odpowiedzi bazowych odrzucono za format. Tego wzrostu nie można przypisać wyłącznie lepszemu rozumieniu. Adapter nadal pomylił kategorię i wykonał polecenie ukryte w notatce. Autor znał dane testowe. Zapis z danymi i kodem znajduje się w materiałach poniżej. To eksperyment diagnostyczny, bez pomiaru na danych firmy i bez gwarancji wyniku wdrożenia.

Prywatne modele LLM na Twoich zasadach

Chcesz pracować z poufnymi dokumentami, obniżyć koszt powtarzalnych zadań albo uruchomić AI na własnym komputerze? Dobierzemy model i sprzęt, sprawdzimy jakość na Twoich przykładach i uruchomimy całość. Gdy zadanie tego wymaga, dostroimy model lub wytrenujemy mniejszy model do konkretnej pracy.

Porozmawiaj o swoim LLM

Zobacz, od czego zacząć

Zakres współpracy

Dla kogo: Firmy i osoby prywatnePolska i UE. Pomagamy także przy pierwszej instalacji.
Gdzie działa model: Twój komputer, serwer lub chmuraDobieramy środowisko do danych i obciążenia.
Co dostajesz: Działający model i wyniki testówZ konfiguracją, instrukcją obsługi i planem utrzymania.
Koszt: Wycena po ustaleniu zakresuOsobno wdrożenie, sprzęt lub hosting i opieka.

Kiedy warto

Pracownik nie może wysłać umowy do publicznego czatu. Kolejka dokumentów generuje coraz większy rachunek za API. Model myli firmowe kategorie, choć instrukcja jest już długa. Każdy z tych problemów wymaga innego rozwiązania.

Od tego zaczynamy

Sprawdzamy jedno zadanie na uzgodnionych przykładach. Porównujemy jakość, czas odpowiedzi i pełny koszt lokalnego modelu z usługą API. Wynik pomaga zdecydować, czy potrzebujesz prywatnego hostingu, RAG, fine-tuningu czy małego klasyfikatora.

Od pierwszego uruchomienia do własnego modelu

Dobór modelu i ewaluacja: Sprawdzamy język polski, firmową terminologię, błędy na trudnych przykładach i zachowanie przy brakujących danych. Otrzymujesz porównanie kandydatów oraz kryteria odbioru. Test obejmuje także licencję konkretnej wersji i zgodność z wybranym silnikiem.
Hosting i wdrożenie: Uruchamiamy model na stacji roboczej, serwerze on-premise albo wynajętej infrastrukturze, także w regionie UE. Konfigurujemy dostęp, aplikację lub API, integracje i monitoring. Dobieramy kwantyzację oraz pojemność dla rzeczywistej liczby użytkowników.
Indeks dokumentów i wyszukiwanie na serwerze firmy: Ustalamy źródła, wersje dokumentów i dostęp użytkowników. Odpowiedź ma prowadzić do fragmentu, który ją uzasadnia. Osobno sprawdzamy jakość wyszukiwania i generowania, także po wycofaniu dokumentu lub odebraniu uprawnienia. Próbę na uzgodnionych danych planujemy przed zakupem docelowego sprzętu.
RAG i fine-tuning: RAG dostarcza modelowi aktualne fragmenty dokumentów. Fine-tuning uczy go na przykładach, jak wykonywać zadanie, np. rozpoznawać kategorie zgłoszeń lub zwracać dane w firmowym formacie. Możemy połączyć oba podejścia. Oddzielny zbiór testowy pokaże, czy dostrojenie pomogło.
Mały model do konkretnej pracy: Dla klasyfikacji, routingu lub oceny tekstu sprawdzamy mniejsze modele, destylację i trening na oznaczonych danych. Trening od zera wyceniamy po ocenie zbioru oraz kosztu obliczeń. Duży model ogólnego przeznaczenia rzadko jest potrzebny do wyboru jednej z kilku kategorii.
Co potwierdzają nasze lokalne demonstracje: Lokalny obieg dokumentów był sprawdzany na materiale syntetycznym; zapis nie obejmuje pełnego uruchomienia docelowego profilu GPU. Demonstracja wydania do strefy air-gap używała mniejszego profilu walidacyjnego i nie potwierdza akredytacji środowiska klienta. Brama PDF ma znane ograniczenie przy błędnym kodowaniu warstwy tekstowej. Te przykłady nie zastępują odbioru na dokumentach firmy.

Qwen, DeepSeek, Kimi, GLM. Wybór zależy od zadania.

Wśród aktualnych kandydatów są Qwen3.8, DeepSeek-V4.1-Flash, Kimi K3 i GLM-5.3, a także Mistral Small 4, Gemma 4 i gpt-oss. Dla języka polskiego sprawdzamy również Bielika i PLLuM. Weryfikujemy dostępne wagi, wymagania i licencję konkretnej wersji. Otwarte wagi dają dostęp do modelu; zakres użycia i modyfikacji wynika z jego warunków.

Model MoE z niewielką liczbą aktywnych parametrów nadal może wymagać wielu kart do przechowywania wszystkich wag. Nazwa rodziny ani wynik w rankingu nie mówią, czy model zmieści się na Twoim sprzęcie.

Porównanie aktualnych modeli i ich zastosowań

Gdzie prywatny model ma sens

Kancelarie i działy prawne

Wyszukiwanie w umowach, porównywanie klauzul i przygotowanie materiału do przeglądu. Źródło odpowiedzi oraz uprawnienia do dokumentów pozostają częścią aplikacji; prawnik ocenia wynik.

Produkcja i biura inżynierskie

Praca z dokumentacją techniczną, instrukcjami serwisowymi i opisami usterek. Lokalna instalacja może działać w wydzielonej sieci, jeśli wszystkie zależności również są dostępne w tym środowisku.

Księgowość, ubezpieczenia i obsługa dokumentów

Klasyfikacja korespondencji, odczyt pól i wykrywanie braków. Uzgadniamy, które wyniki wymagają zatwierdzenia, i mierzymy koszt pomyłki oddzielnie dla każdego rodzaju dokumentu.

E-commerce, software house i help desk

Przypisywanie zgłoszeń, wyszukiwanie w kodzie i przygotowanie odpowiedzi na podstawie dokumentacji. Przy powtarzalnym ruchu porównujemy koszt własnego modelu z API, razem z kosztem poprawek.

Chcesz lokalne AI dla siebie?

Pomagamy osobom prywatnym uruchomić model na posiadanym komputerze. Sprawdzamy pamięć, kartę graficzną i system, dobieramy model, instalujemy narzędzia i pokazujemy, jak z nich korzystać. Jeśli dopiero planujesz zakup, przygotujemy konfigurację pod zadanie i budżet. Możemy też sprawdzić wynajem GPU, zanim wydasz pieniądze na sprzęt.

Na początek wystarczy opis zastosowania i specyfikacja komputera, jeśli już go masz. Pierwsza rozmowa nie wymaga wysyłania prywatnych plików.

Wyślij opis zastosowania

Prywatność obejmuje całą drogę danych

Własne wagi pozwalają uruchomić przetwarzanie w wybranym środowisku. Sprawdzamy też OCR, embeddingi, logi, kopie zapasowe, telemetrię i narzędzia połączone z modelem. Ustalamy, co może opuszczać sieć, kto ma dostęp i jak usuwać dane. Sam serwer w UE nie przesądza o zgodności z RODO.

A kiedy OpenAI, Claude albo Gemini?

API może być korzystniejsze przy małym lub nieregularnym ruchu, wymagających zadaniach i ograniczonym zespole utrzymania. Usługi biznesowe mają inne warunki przetwarzania danych niż konsumenckie czaty. Porównujemy konkretne produkty i umowy. Możliwy jest także układ hybrydowy: zadania lokalne oraz uzgodnione wywołania API po ograniczeniu przesyłanych danych.

Jak wygląda współpraca

1
Rozmowa o zadaniu
Ustalamy oczekiwany wynik, częstotliwość pracy, ograniczenia danych i posiadany sprzęt. Na tej podstawie proponujemy zakres i wycenę.
2
Próba na reprezentatywnych danych
Porównujemy modele na wydzielonym zestawie, mierzymy błędy i obciążenie. Przed wdrożeniem znasz wynik oraz koszt wybranego wariantu.
3
Uruchomienie i przekazanie
Wdrażamy uzgodnioną konfigurację, integrujemy ją z pracą zespołu i przekazujemy instrukcje. Ustalamy zasady aktualizacji, odtwarzania oraz dalszej opieki.

Jev 1.13 i małe modele decyzyjne

Jev 1.13 od TypeSafe AI, dostępny przez OpenRouter, zwraca ustrukturyzowane decyzje z prawdopodobieństwami. To ciekawy kierunek dla routingu i klasyfikacji. Oddzielamy usługę Jev od lokalnych projektów inspirowanych tym podejściem, takich jak Kev i TinyJev. Poprawny format odpowiedzi nadal wymaga sprawdzenia, czy decyzja jest trafna.

Zobacz, czym jest Jev

Pytania przed wdrożeniem

Czy potrzebuję własnej karty graficznej?
Nie. Możemy sprawdzić Twój komputer, dobrać nowy sprzęt albo wynająć GPU. Wymagania zależą od modelu, długości dokumentów i liczby jednoczesnych zadań. Zakup poprzedzamy próbą, jeśli trzeba zweryfikować wydajność.
Czy lokalny LLM będzie tańszy od API?
To zależy od obciążenia i kosztu utrzymania. Liczymy sprzęt lub wynajem, energię, pracę zespołu, zapas na awarie i korekty odpowiedzi. Porównujemy koszt poprawnie wykonanego zadania; same tokeny nie pokazują całego rachunku.
Czy model uczy się automatycznie na moich dokumentach?
Zwykłe użycie modelu nie zmienia jego wag. Dokumenty można udostępniać przez RAG. Fine-tuning jest osobnym procesem uczenia na przygotowanych przykładach, z kontrolą dostępu i osobnym zestawem do oceny jakości.
Czy dostroicie model do języka polskiego i naszej branży?
Tak. Najpierw sprawdzamy gotowy model na polskich przykładach z Twojej pracy. Jeśli błędy uzasadniają fine-tuning, przygotowujemy zbiór i porównujemy model przed i po uczeniu. Oceniamy również odmowę odpowiedzi oraz zachowanie przy nowych typach danych.
Czy self-hosting zapewnia zgodność z RODO?
Samodzielny hosting daje kontrolę nad środowiskiem. Zgodność wymaga także właściwej podstawy przetwarzania, ograniczenia dostępu, retencji i umów. Dostarczamy opis techniczny do oceny przez osoby odpowiedzialne za ochronę danych.
Czy pomagacie osobom prywatnym bez doświadczenia technicznego?
Tak. Możemy pomóc od wyboru komputera do pierwszego użycia modelu. Zakres obejmuje instalację, podstawową konfigurację prywatności, instrukcję i naukę obsługi na uzgodnionym zastosowaniu.
Czy pokazujecie pomiar poprawy po fine-tuningu?
Tak, udostępniamy mały eksperyment na fikcyjnych notatkach produkcyjnych. Dostrojony Qwen2.5-0.5B-Instruct podał 6 z 8 dokładnie poprawnych etykiet; model bazowy z tą samą krótką instrukcją 0 z 8, przy czym 7 odpowiedzi bazowych odrzucono za format. Tego wzrostu nie można przypisać wyłącznie lepszemu rozumieniu. Adapter nadal pomylił kategorię i wykonał polecenie ukryte w notatce. Autor znał dane testowe. Zapis z danymi i kodem znajduje się w materiałach poniżej. To eksperyment diagnostyczny, bez pomiaru na danych firmy i bez gwarancji wyniku wdrożenia.

Przewodniki po prywatnych modelach

Opisz zadanie, które ma wykonać Twój model.

Napisz, na jakich danych pracujesz i co dziś zajmuje najwięcej czasu. Jeśli masz sprzęt, dodaj specyfikację. Wrócimy z propozycją następnego kroku.

30 minut z inżynierem, który może prowadzić Twoje wdrożenie.
Przegląd procesów, które kosztują Cię najwięcej czasu i pieniędzy.
Pisemne podsumowanie: ile proces kosztuje Cię rocznie, co zautomatyzować najpierw i od jakiej ceny.

0 zł30 minut · pisemne podsumowanie w 2 dni robocze