Polski model językowy czy API? Jak wybrać dla firmy

Model lokalny albo API? Dla firmy to decyzja o miejscu danych, rachunku i odpowiedzialności za działanie systemu. Bielik lub PLLuM mogą pasować do powtarzalnej pracy w języku polskim, przy stałym wolumenie i wymaganiu kontroli środowiska. API, czyli interfejs, przez który aplikacja korzysta z usługi modelu, upraszcza start przy zmiennym ruchu. Zacznij od jednego procesu i jego liczb.

Jedna decyzja na początek

Nie wybieraj modelu dla całej firmy. Wybierz miejsce działania dla jednego procesu: faktur, skrzynki, dokumentów pracowniczych albo odpowiedzi dla klienta. Jeden proces może korzystać z reguł, modelu lokalnego i API w różnych etapach.

Model lokalny i API w jednym porównaniu

Model lokalny daje większą kontrolę nad miejscem pracy. API daje elastyczność kosztu i dostęp do różnych wersji. Obie opcje wymagają właściciela procesu oraz reguły postępowania z błędem.

Dane, umowa i odpowiedzialność

Własny serwer ogranicza przepływ danych do wybranego środowiska. Pozostają obowiązki związane z uprawnieniami, szyfrowaniem, kopiami, usuwaniem dokumentów i zapisami działania. Serwer w centrum danych także wymaga umowy, zakresu dostępu i zasad reagowania na incydent.

Przed wyborem zapisz miejsce przetwarzania, osobę odpowiedzialną za dane, sposób obsługi błędnej odpowiedzi oraz warunki przeniesienia systemu i danych do innego dostawcy po zakończeniu współpracy.

Przy API sprawdź przed próbą:

1. miejsce przetwarzania i ewentualny transfer poza EOG;
2. umowę powierzenia oraz listę podwykonawców;
3. czas przechowywania pytań, plików i zapisów;
4. zasady wykorzystania danych do ulepszania usługi;
5. eksport danych i sposób zakończenia współpracy;
6. limit kosztu oraz zachowanie systemu po jego przekroczeniu.

RODO wymaga dopasowania celu, podstawy, umowy i zabezpieczeń do konkretnego procesu. Lokalność nie jest certyfikatem zgodności. Usługa zewnętrzna także może być właściwa, gdy firma ma umowę i kontroluje przepływ danych. Wrażliwe sprawy kieruj do osoby odpowiedzialnej za ochronę danych przed testem.

Koszt całego rozwiązania

Porównanie ceny jednego zapytania z ceną serwera daje zły obraz. Po obu stronach policz:

• przygotowanie danych i integrację z systemami;
• koszt serwera, pamięci, przechowywania i kopii;
• użycie API albo energię i czas pracy środowiska;
• testy jakości, kontrolę dostępu i reakcję na błędy;
• aktualizacje modelu, aplikacji i dokumentów;
• czas człowieka przy sprawach wyjątkowych;
• zmianę dostawcy albo wycofanie rozwiązania.

Oficjalne cenniki dostawców rozdzielają dane wejściowe, wynik oraz narzędzia. Cennik OpenAI API podaje stawki za milion tokenów oraz osobne pozycje między innymi za wyszukiwanie i pliki. Cennik Claude także rozdziela dane wejściowe, wynik oraz przetwarzanie zbiorcze. Stawki są zmienne, dlatego do budżetu podstaw aktualną tabelę i własny wolumen.

W Syntalith automatyzacje AI zaczynają się od 15 000 zł netto, a aplikacje AI i agenci AI od 25 000 zł netto. Typowe pełne wdrożenia mieszczą się w przedziale 25 000–150 000 zł netto. Utrzymanie i infrastruktura są wyceniane osobno.

Test jakości na własnych sprawach

Przygotuj 30–100 prawdziwych, zanonimizowanych przykładów z jednego procesu. Zapisz oczekiwany wynik, źródła, przypadki braku danych i czynności, które wymagają zatwierdzenia.

Ten sam zestaw uruchom na:

• modelu lokalnym;
• jednym lub dwóch modelach przez API;
• rozwiązaniu opartym na regułach, jeśli takie rozwiązanie jest możliwe.

Porównaj poprawność, zgodność ze źródłem, czas odpowiedzi, koszt sprawy, liczbę poprawek oraz skutki błędu. Dla odpowiedzi klienta sprawdź także ton i zgodność z procedurą. Dla dokumentów sprawdź kompletność pól. Dla wyszukiwania sprawdź, czy system potrafi wskazać dokument i przyznać, że go nie znalazł.

Próg uruchomienia ustal przed testem. Wynik może wskazać model lokalny, API, podział pracy albo brak potrzeby używania modelu. Każda z tych decyzji jest użyteczna, jeśli wynika z tego samego zestawu danych.

Trzy sytuacje zakupowe

Dokumenty kosztowe

Firma przetwarza dużo faktur i potrzebuje odczytu numeru, kwoty, daty oraz danych kontrahenta. Model lokalny ma sens przy stałym wolumenie i wymaganiu, aby dokumenty pozostały w firmie. API może być prostsze przy małej liczbie dokumentów i wielu zmieniających się formatach. W obu wariantach wyjątki kwotowe powinny trafiać do księgowości.

Skrzynka klientów

System rozpoznaje temat wiadomości, wyszukuje procedurę i przygotowuje odpowiedź. Prosta klasyfikacja może działać lokalnie, a trudna reklamacja może trafić do mocniejszego modelu przez API. Wysyłkę oraz zmianę danych klienta zatwierdza pracownik.

Analiza umów

Porównanie kilku umów wymaga cytowania źródeł, obsługi długich dokumentów i weryfikacji wniosku. Model lokalny może chronić dokumenty, lecz jakość trzeba ocenić na prawdziwych umowach. API może dać lepszy wynik, gdy umowa i konfiguracja dopuszczają taki przepływ. Ostateczna interpretacja pozostaje po stronie prawnika.

Wariant mieszany

Wariant mieszany działa wtedy, gdy reguła przekazania jest zapisana przed uruchomieniem. Możesz ustalić, że:

1. typ dokumentu i poziom wrażliwości rozpoznaje aplikacja;
2. dane osobowe zostają w modelu lokalnym albo w systemie firmy;
3. API dostaje wyłącznie zakres potrzebny do trudnej analizy, jeśli umowa na to pozwala;
4. każdy wynik przechodzi przez wspólną kontrolę i zapis wersji.

Taki układ pozwala przenieść powtarzalną część na Bielika lub PLLuM, gdy wolumen rośnie, albo zostawić API dla trudniejszych spraw. Szczegóły polskich modeli opisują przewodnik po Bieliku i przewodnik po PLLuM.

Kiedy odrzucić model lokalny

Zacznij od API lub prostszej metody, gdy ruch jest mały, zadanie zmienne, a w firmie brakuje osoby do utrzymania środowiska. Tę samą decyzję podejmij, gdy test pokazuje wyraźnie lepszą jakość zewnętrznej usługi, a umowa pozwala bezpiecznie przetwarzać dane.

Model lokalny nie naprawi nieuporządkowanych dokumentów, braku reguł ani procesu bez właściciela. Najpierw uporządkuj wejście i kryterium wyniku. Dopiero potem porównuj warianty techniczne.

Jak zapisać decyzję

Jedna strona dokumentu wystarczy na początek. Zapisz proces, wolumen, dane, próg jakości, koszt jednej sprawy, właściciela utrzymania i regułę zmiany modelu. Dołącz zestaw testowy oraz przykłady błędów.

Wybierz jedną z czterech dróg:

1. API dla całego procesu z limitem kosztu i danych.
2. Model lokalny z własnym środowiskiem i opieką.
3. Wariant mieszany z opisanym przepływem danych.
4. Reguły lub formularz bez modelu.

Porównaj warianty na własnych dokumentach

Jeśli chcesz porównać model lokalny i API na konkretnym procesie, umów bezpłatny skan procesów. Przygotuj liczbę spraw, rodzaj danych, koszt obecnej pracy i skutek błędu. Otrzymasz rekomendację sposobu uruchomienia, zakresu testu oraz kosztów po starcie.

Źródła i powiązane materiały

• Cennik OpenAI API
• Cennik Claude
• Bielik dla firm
• PLLuM dla firmy
• Wdrożenie polskiego modelu językowego: sprzęt, koszty i RODO