Artykuły zebrane według problemu, branży i rodzaju systemu.
Przy samej umowie powierzenia OpenAI trzyma prompty z API w logach do 30 dni i może przetwarzać je poza UE. Co zmieniają ZDR, MAM i projekt w regionie UE oraz jak to wygląda u Anthropic, Google, Microsoft i AWS.
Model na serwerze zakładu nie wystarcza, żeby receptura pozostała tajemnicą przedsiębiorstwa. Według art. 11 ustawy o zwalczaniu nieuczciwej konkurencji liczą się też działania, które firma podejmuje, żeby informację chronić. Asystent AI musi więc pobierać tylko dokumenty dozwolone dla pytającego. Przy 500 pytaniach operatorów miesięcznie lokalna aplikacja za 12 500 zł zwraca się w 4,4 miesiąca.
Ewaluacja prywatnego LLM to powtarzalny test wykonania zadania na zestawie, którego model nie widział: typowe sprawy, wyjątki i braki danych, z kryteriami ustalonymi z użytkownikiem procesu. Wynik pokazuje błędy według kategorii i udział spraw przekazanych człowiekowi. Aplikacja na lokalnym modelu kosztuje w Syntalith od 12 500 zł netto plus sprzęt GPU. Przy 600 dokumentach miesięcznie po 8 minut zwraca się w 4,1 miesiąca.
Jev od TypeSafe AI to model zaprojektowany do zadań, w których oprogramowanie potrzebuje ustrukturyzowanej decyzji, na przykład przypisania wiadomości do działu reklamacji albo logistyki, zamiast akapitu tekstu. Jest dostępny w OpenRouter, a poprawny format odpowiedzi trzeba odróżnić od poprawnej decyzji.
Prywatny LLM porównujesz z API na koszcie poprawnie obsłużonej sprawy. Serwer GPU Hetzner GEX45 z 8 godzinami obsługi kosztuje około 1 466 zł miesięcznie. Sprawa po 3 000 tokenów wejścia i 600 wyjścia kosztuje w API Claude Sonnet 5.5 około 0,047 zł, więc serwer wygrywa od około 39 969 spraw. Każde 500 dodatkowych poprawek po 3 minuty to jednak 1 661 zł.
Własny model wybierz, gdy dane nie mogą opuścić firmy albo obciążenie jest duże i stałe. API OpenAI, Claude albo Gemini wybierz przy nieregularnym ruchu. W scenariuszu serwer GPU z obsługą kosztuje około 1 466 zł miesięcznie. Tyle samo kosztuje w API Claude Sonnet 5.5 około 21 tys. dokumentów miesięcznie, a na Haiku 5.5 dwadzieścia razy więcej.
Lokalny model na komputerze pomaga w notatkach, kodzie i przeszukiwaniu własnych dokumentów bez serwerowni. Instalację zaczynasz od jednego zastosowania i sprawdzenia komputera: pamięci karty i RAM decydują, jak duży model się zmieści. Mały model na laptopie i asystent dla zespołu to różne projekty.
Modele open-weight z 2026 r., takie jak Qwen, DeepSeek, Kimi, GLM, Gemma i Mistral, różnią się rozmiarem, wymaganym sprzętem i obsługą. Przegląd zaczynasz od pytania, gdzie ma działać system i jaką pracę ma wykonać, a wybór robisz testem na własnych zadaniach.
Prywatny LLM pozwala wybrać, gdzie liczy się odpowiedź, ale aplikacja ma więcej elementów: odczyt tekstu, indeks, logi i kopie. Zanim wybierzesz hosting w UE albo serwer on-premise, narysuj mapę danych od dokumentu do odpowiedzi. Aplikacja na lokalnym modelu kosztuje w Syntalith od 12 500 zł netto plus sprzęt GPU. Przy 400 pytaniach do dokumentów miesięcznie po 12 minut zwraca się w 4,1 miesiąca.
Przy zmianie prywatnej aplikacji AI eksport historii musi zawierać pytania, dokumenty i informację, którą wersję wyniku wykorzystano, bo sam plik z tekstem odpowiedzi nie pozwala kolejnej osobie kontynuować pracy. Przenoszalność sprawdzasz próbą eksportu i odczytu przed wyborem narzędzia i przed zamknięciem starej usługi.
Pobranie modelu i zgoda na konkretny sposób jego użycia to dwa osobne pytania. Przed zamówieniem aplikacji opisz, kto z niej korzysta, gdzie działa model i co dostaje klient, a potem sprawdź warunki konkretnego wariantu. W jednej rodzinie mogą być naraz licencja Apache 2.0, licencja Llama 3.1 i wariant niekomercyjny. Aplikacja na lokalnym modelu kosztuje w Syntalith od 12 500 zł netto.
Kilka spółek może korzystać z jednego serwera z lokalnym modelem, jeśli każda zarządza swoimi użytkownikami i materiałami bez dostępu do danych pozostałych. Przed połączeniem ustal, które decyzje są wspólne, a które każda spółka podejmuje sama. Aplikacja na lokalnym modelu kosztuje w Syntalith od 12 500 zł netto plus sprzęt GPU. Przy 600 pytaniach do dokumentów miesięcznie po 10 minut zwraca się w 3,1 miesiąca.
Lokalny model rozpoznawania mowy przygotowuje roboczy tekst do napisów w wewnętrznych filmach, które nie mogą trafić do zewnętrznej usługi. Do publikacji potrzebna jest jeszcze korekta, podział na czytelne fragmenty i dopasowanie ich do momentów w filmie. Najpierw porównaj gotowy edytor napisów.
Lokalne AI odczyta tabelę z PDF, gdy układ odczytuje narzędzie takie jak Docling, a pracownik sprawdza wynik obok oryginału. Lokalny serwer z GPU kosztuje około 934 zł miesięcznie, więcej niż model w chmurze, ale dokumenty nie wychodzą z firmy. Przy 400 tabelach miesięcznie po 12 minut aplikacja za 12 500 zł zwraca się w 4,1 miesiąca lokalnie i 3,2 przez API.
Gdy wynik może poczekać do rana, lokalna aplikacja AI przetwarza partię dokumentów w tle i oddaje listę opisów do przeglądu. Pracownik widzi, które pliki opracowano, które czekają i przy których odczyt się nie udał. Aplikacja na lokalnym modelu kosztuje w Syntalith od 12 500 zł netto plus sprzęt GPU. Przy 1 000 dokumentach miesięcznie po 6 minut zwraca się w 3,1 miesiąca.
Lokalna aplikacja przygotowuje kopię tekstu do udostępnienia: wskazuje fragmenty do usunięcia albo zastąpienia, pokazuje propozycje obok oryginału, a pracownik zatwierdza wersję przed przekazaniem. Usunięcie nazwy nie wystarcza, gdy historia w tekście nadal wskazuje osobę albo firmę.
Lokalna wyszukiwarka slajdów znajduje slajd po opisie tego, co pracownik pamięta, i pokazuje miniaturę, nazwę prezentacji i sąsiednie strony. Pracownik otwiera oryginał i sam decyduje, czy materiał jest aktualny i czy może go pokazać klientowi. Aplikacja na lokalnym modelu kosztuje w Syntalith od 12 500 zł netto plus sprzęt GPU. Przy 400 wyszukaniach slajdów miesięcznie po 10 minut zwraca się w 5,2 miesiąca.
Lokalne AI bez administratora GPU w firmie działa, gdy wykonawca przejmuje obserwowanie aplikacji, usterki i aktualizacje, a firma zachowuje decyzje o dostępie do dokumentów i odbiór zmian. Utrzymanie opisuje się tak, jak korzysta z niego pracownik: od otwarcia aplikacji do potrzebnego wyniku. Aplikacja na lokalnym modelu kosztuje w Syntalith od 12 500 zł netto plus sprzęt GPU. Przy 400 zestawieniach wymagań miesięcznie po 12 minut zwraca się w 4,1 miesiąca.
Lokalna wyszukiwarka wielojęzyczna znajduje fragment angielskiego albo niemieckiego dokumentu na pytanie zadane po polsku, bo porównuje znaczenie zamiast słów, i pokazuje oryginał obok. Aplikacja AI na dokumentach firmy kosztuje w Syntalith od 12 500 zł netto. Przy 300 pytaniach miesięcznie po 12 minut szukania zwraca się w 3,7 miesiąca.
Lokalna aplikacja AI może pogrupować pytania pacjentów do rejestracji w tematy, które kierownik sprawdza i poprawia. Najpierw ustal, czy zbiór jest naprawdę anonimowy, bo usunięcie nazwisk nie wystarcza. Aplikacja na lokalnym modelu kosztuje w Syntalith od 12 500 zł netto plus sprzęt GPU. Przy 1 200 wiadomościach miesięcznie po 2 minut zwraca się w 11,8 miesiąca.
Prywatne modele
Dobieramy sprzęt i model, uruchamiamy go i mierzymy jakość na Twoich przykładach. Możesz zacząć od komputera, który już masz.
Terminy zobaczysz w swojej strefie czasowej.
Zobacz prywatne modeleOpenAI robi ChatGPT, a Anthropic robi Claude. Należymy do programów partnerskich obu firm, więc pracujemy z ich narzędziami na co dzień i uczymy się od samych twórców.
Claude Partner NetworkUdział w programach nie oznacza, że OpenAI albo Anthropic polecają nasze usługi.