BLOGKategoria

Własne modele AI

Umów bezpłatną analizę (30 min)Porozmawiaj o swoim procesie

Artykuły zebrane według problemu, branży i rodzaju systemu.

Fine-tuning, RAG czy trening własnego modelu?

RAG dostarcza modelowi aktualną wiedzę przy każdym pytaniu, fine-tuning uczy zachowania na przykładach, a mały model wystarcza do wyboru kategorii. Najpierw zapisz, jaki błąd popełnia gotowy model: stary regulamin to problem źródła, a zły dział to problem zachowania. W scenariuszu na 1 000 zgłoszeniach miesięcznie RAG z aktualnym regulaminem obniża błędy z 15% do 7%, a fine-tuning do 3%, co razem oszczędza 12 godzin poprawek, czyli 797 zł miesięcznie.

custom-modelsllmprivate-aifine-tuning

Jev 1.13 w firmie: klasyfikacja i routing spraw

Jev 1.13 zwraca typowane decyzje z prawdopodobieństwami, więc nadaje się do sprawdzenia przy routingu spraw. Próg pewności decyduje, ile spraw idzie automatycznie, a ile do operatora: w przykładzie po podniesieniu progu 500 z 1000 decyzji przechodzi automatycznie z trafnością 99%. Automatyzacja kosztuje w Syntalith od 12 500 zł netto i przy 1 000 sprawach miesięcznie po 3 minut zwraca się w 7,6 miesiąca.

custom-modelsllmprivate-aifine-tuning

Jev 1.13 lokalnie? Kev, TinyJev i własny mały model

Jev od TypeSafe AI działa przez API, a Kev i TinyJev to osobne projekty innych autorów, inspirowane podobnym sposobem zadawania pytań. Dla firmy, która potrzebuje lokalnego przetwarzania, to kierunek do testu: model czyta tekst i wybiera wynik z ustalonej listy, a jakość sprawdza się na własnych kategoriach.

custom-modelsllmprivate-aifine-tuning

Czy firmowe archiwum nadaje się do fine-tuningu?

O gotowości do fine-tuningu decyduje to, czy przykłady pokazują pracę, którą model ma wykonywać, z informacjami, które model dostanie. Liczba zapisów w archiwum tego nie rozstrzyga. Najpierw sprawdź, co da jasna instrukcja ze źródłami. W scenariuszu na 1 500 odpowiedziach miesięcznie jasna instrukcja ze źródłami obniża błędy z 20% do 10%, a fine-tuning do 5%, co razem oszczędza 30 godzin poprawek, czyli 1 994 zł miesięcznie.

fine-tuningprzygotowanie danychmodele AI

Fine-tuning czy RAG: co poprawi odpowiedzi o produktach?

Gdy AI podaje starą dostępność produktu, brakuje aktualnego źródła, a fine-tuning go nie dostarczy. Zmienne dane podajesz modelowi z systemu przy każdym pytaniu. W scenariuszu na 1 200 odpowiedziach o produktach miesięcznie aktualne źródło danych obniża błędy z 10% do 3%, a fine-tuning do 2%, co razem oszczędza 7 godzin poprawek, czyli 452 zł miesięcznie.

dane produktoweRAGfine-tuning

Fine-tuning po zmianie dostawcy modelu bazowego

Po zmianie dostawcy modelu bazowego dostosowanie nie przenosi się samo. Przenosisz zestaw przykładów, kryteria oceny i pytania testowe, a nowy model sprawdzasz najpierw z instrukcjami i przykładami w poleceniu. Ponowne dostrojenie ma sens, gdy na tym samym zestawie zostają powracające błędy.

modele AIdostosowanie modeli

Odbiór dostosowanego modelu: co ma trafić do pracy zespołu

Fine-tuning kupujesz z odbiorem ustalonym przed końcem projektu: zestaw spraw, których model nie widział, kryteria poprawności, dopuszczalne błędy i osoba, która przejmuje sprawy wymagające sprawdzenia. Pokaz kilku poprawnych odpowiedzi nie mówi, czy wersja do aplikacji spełni te warunki.

modele AIdostosowanie modeli

Własny model czy gotowy: jak porównać realną pracę zespołu

Własny model porównujesz z ogólnym na tych samych sprawach i w tych samych warunkach: ile poprawek zostaje pracownikowi, jak długo czeka na odpowiedź i kto utrzymuje dodatkową wersję. Lepszy pierwszy szkic nie zawsze uzasadnia koszt utrzymania.

modele AIdostosowanie modeli

Jak ocenić koszt błędów własnego modelu AI

Dwa modele mogą mylić się równie często i zostawiać zespołowi zupełnie inną pracę. Fałszywy alarm kosztuje kilka minut czytania, a pominięty problem pół godziny wyjaśnień po rozpoczęciu realizacji. Przy 10 000 zamówieniach miesięcznie ostrożniejszy próg daje 100 alarmów więcej, ale 40 przeoczeń mniej i oszczędza 15 godzin, czyli 997 zł.

modele AIdostosowanie modeli

Czy do wyboru kategorii potrzebujesz modelu generującego tekst?

Mały klasyfikator wystarczy, gdy aplikacja przypisuje tekst do stałej listy kategorii, a przykłady pokazują poprawne decyzje. Duży model językowy ma przewagę przy zmiennych kategoriach i sprawach wymagających wyjaśnienia. Wybór rozstrzyga porównanie na tych samych sprawach: błędne przypisania, sprawy oddane człowiekowi i czas oczekiwania.

modele AIdostosowanie modeli

Proces się zmienił. Czy trzeba ponownie uczyć model?

Zmiana procesu nie zawsze wymaga ponownego uczenia modelu. Jeśli zmieniła się tylko nazwa zespołu albo adresat, wystarczy zmiana przypisania w aplikacji, około 133 zł pracy. Jeśli kategoria zmieniła znaczenie, potrzebne są nowe przykłady i ponowne uczenie, w scenariuszu około 2 060 zł. Zmienne przypisania warto trzymać poza modelem, bo wtedy reorganizacja nie wymaga treningu.

modele AIdostosowanie modeli

Model do kolejności wyników wyszukiwania w katalogu

Model AI może ustawiać kolejność wyników wyszukiwania w katalogu, ale najpierw trzeba ustalić, czy właściwe produkty w ogóle trafiają na listę. Gdy trafiają, a są daleko, pomaga model oceniający dopasowanie pytania do produktu, wytrenowany na ocenach zespołu katalogu.

modele AIdostosowanie modeli

Dane adresowe firm: kiedy walidator wystarczy, a kiedy sprawdzić model AI?

Model AI przydaje się przy adresach, gdy zapis jest poprawny, ale uwaga klienta mówi, że dostawy idą gdzie indziej. Literówki i puste pola wychwycą reguły i usługa walidacji adresów, a model czyta swobodne opisy i pokazuje pracownikowi podstawę wskazania. W scenariuszu na 3 000 zamówieniach miesięcznie reguły i usługa adresowa obniża błędy z 4% do 2%, a fine-tuning do 1%, co razem oszczędza 22 godzin poprawek, czyli 1 495 zł miesięcznie.

dane adresowejakość danychdostosowanie modeli

Czy poprawki użytkowników powinny uczyć kolejną wersję modelu?

Poprawki pracowników są materiałem do kolejnej wersji modelu dopiero po przeglądzie. Część usuwa błąd modelu, część dodaje nowy fakt, który należy do bazy wiedzy, a część odpowiada na wyjątkową prośbę odbiorcy. O tym, co staje się wzorcem, decyduje właściciel procesu.

modele AIdostosowanie modeli

Trening modelu od zera czy adaptacja istniejącego

Dla większości firm „własny model” oznacza uruchomienie istniejącego modelu w wybranym środowisku albo dostosowanie sposobu odpowiedzi, co daje adaptacja. Trening od zera ma sens przy wymaganiu pełnej kontroli nad danymi treningowymi i rozwojem modelu, z budżetem i zespołem na lata.

modele AIdostosowanie modeli

Materiały do uczenia modelu: kto zatwierdza ich wykorzystanie?

Zanim dostosujesz model na firmowych materiałach, ustal pochodzenie każdej grupy plików i to, do jakiej pracy je dopuszczono. Własne zatwierdzone teksty zwykle wchodzą do pierwszej próby, a materiały klientów i partnerów czekają na decyzję osoby, która zna ustalenia. Aplikacja kosztuje w Syntalith od 12 500 zł netto i przy 300 materiałach do oceny miesięcznie po 12 minut zwraca się w 5,2 miesiąca.

modele AIdostosowanie modeli

Własny model AI dla rzadkich zdarzeń operacyjnych

Własny model do rzadkich zdarzeń operacyjnych ocenia się na dwóch liczbach: ile wyjątków wychwyci i ile zwyczajnych spraw niepotrzebnie skieruje do człowieka. Przy kilku przykładach wyjątku test daje ograniczoną wiedzę, więc pomoc obejmuje to, co da się ocenić, a reszta zostaje przy regułach i ekspertach.

modele AIdostosowanie modeli

AI do kategoryzacji pytań RFP: gdy jeden punkt wymaga kilku autorów

AI dzieli pytanie RFP na części, gdy jedno zdanie wymaga kilku autorów, na przykład lokalizacja kopii zapasowych i zatwierdzanie ich usunięcia. Przypisanie zespołu wynika z listy odpowiedzialności firmy, a model rozpoznaje temat. W scenariuszu na 400 pytaniach RFP miesięcznie lista tematów z opisem odpowiedzialności obniża błędy z 15% do 7%, a fine-tuning do 3%, co razem oszczędza 12 godzin poprawek, czyli 797 zł miesięcznie.

RFPzespoły ofertowefine-tuning

Polski i angielski w jednej notatce: czy AI zachowa sens?

Przy notatkach po polsku i angielsku AI musi zachować stan sprawy: „ordered” i „ETA do potwierdzenia” nie znaczą „w drodze”. W scenariuszu na 800 notatkach serwisowych miesięcznie słownik i instrukcja obniża błędy z 12% do 6%, a fine-tuning do 2%, co razem oszczędza 7 godzin poprawek, czyli 443 zł miesięcznie.

notatki serwisowepolski i angielskifine-tuning

Jak uporządkować opisy zdarzeń utrzymania ruchu?

Gdy technicy opisują podobne awarie różnymi słowami, najpierw sprawdź wspólne kody zdarzeń i gotowy model z opisaną listą grup. Fine-tuning ma sens, gdy zakładowe skróty wciąż mylą model. W scenariuszu na 1 500 zleceniach miesięcznie gotowy model z listą grup obniża błędy z 15% do 6%, a fine-tuning do 3%, co razem oszczędza 12 godzin poprawek, czyli 797 zł miesięcznie.

utrzymanie ruchuraportowaniefine-tuning

Prywatne modele

Model na Twoim sprzęcie albo w chmurze w UE, sprawdzony na Twoich zadaniach.

Dobieramy sprzęt i model, uruchamiamy go i mierzymy jakość na Twoich przykładach. Możesz zacząć od komputera, który już masz.

Cena: wycena po analiziepo ocenie zadania, danych i sprzętu
Pierwszy krok: 30 min z inżynierem, 0 złpisemne podsumowanie w 2 dni robocze

Umów bezpłatną analizę (30 min)Wolisz napisać? Opisz proces

Terminy zobaczysz w swojej strefie czasowej.

Zobacz prywatne modele

Własne modele AI

Model na Twoim sprzęcie albo w chmurze w UE, sprawdzony na Twoich zadaniach.

Co Ci daje, że jesteśmy partnerem OpenAI i Anthropic?