Fine-tuning do klasyfikacji zgłoszeń
Fine-tuning może pomóc w klasyfikacji zgłoszeń, gdy model ogólny regularnie myli specyficzne kategorie firmy. Najpierw trzeba jednak sprawdzić, czy ludzie rozumieją te kategorie w ten sam sposób i czy dane pokazują poprawną decyzję.
Syntalith
Zgłoszenie może trafić do trzech zespołów, zanim ktokolwiek zacznie je rozwiązywać. Łatwo uznać to za problem rozpoznawania tekstu. Czasem przyczyną jest niejasna odpowiedzialność: nazwa kolejki nie odpowiada rzeczywistemu podziałowi pracy, a historyczne przypisania odzwierciedlają dostępność pracowników.
Co właściwie miałby poznać model
W tym zastosowaniu model uczy się przewidywać uzgodnioną kategorię na podstawie opisu sprawy. Nie musi generować odpowiedzi klientowi ani samodzielnie rozwiązywać zgłoszenia. Wąski zakres ułatwia ocenę korzyści i pomyłek.
Dokumentacja Google dotycząca nadzorowanego fine-tuningu wymienia klasyfikację jako jedno z zastosowań adaptacji na oznaczonych przykładach. Nie wynika z tego, że każda kolejka potrzebuje trenowanego LLM. Wybór zależy od zadania i porównania z prostszymi opcjami.
Najpierw sprawdź kategorie i dane
Poproś dwóch doświadczonych pracowników o niezależną ocenę tych samych trudnych spraw. Jeśli często się różnią, trzeba wyjaśnić reguły odpowiedzialności. Model trenowany na niespójnych decyzjach odziedziczy część tego problemu.
Historia zgłoszeń również wymaga interpretacji. Ostatni zespół w rekordzie nie musi być poprawnym pierwszym adresatem. Może odzwierciedlać późniejszą eskalację. Dane trzeba ocenić pod kątem decyzji, którą system ma wspierać.
Znaczenie ma pokrycie rzadkich przypadków, zmiany produktów i języka klientów. Sama liczba rekordów nie przesądza o gotowości do treningu. W polskich zgłoszeniach warto uwzględnić skróty, odmianę nazw i mieszanie terminów polskich z angielskimi.
Jakie rozwiązania porównać
| Opcja | Kiedy zasługuje na sprawdzenie |
|---|---|
| Reguły | Dane zawierają jednoznaczne identyfikatory lub typy spraw |
| Prosty klasyfikator | Zadanie jest wąskie, a kategorie stabilne |
| Model ogólny | Dobrze radzi sobie po jasnym opisaniu kategorii |
| Fine-tuning | Powtarzalne błędy pozostają, a firma ma wiarygodne przykłady |
| Zmiana procesu | Ludzie nie uzgadniają, kto powinien dostać sprawę |
Adaptowany model powinien uzasadnić swój dodatkowy koszt przygotowania i utrzymania. Jeśli prostsza metoda daje podobny wynik, sama własność modelu nie stanowi korzyści biznesowej.
Odbiór powinien uwzględniać koszt pomyłki
Nie wszystkie błędne przypisania są równie dotkliwe. Przekazanie rutynowej prośby do sąsiedniej kolejki może kosztować kilka minut. Przeoczenie pilnej awarii może opóźnić reakcję znacznie bardziej. Kryteria powinny oddawać te różnice.
Oceń kategorie osobno, wraz z przypadkami, które system oddaje człowiekowi. Ustal, czy wynik jest sugestią, czy uruchamia działanie w systemie. Na początku łatwiej ocenić jakość propozycji bez jednoczesnej zmiany całego obiegu zgłoszeń.
Test końcowy powinien korzystać z niezależnych przypadków, których nie użyto do dostosowania modelu. Kupujący potrzebuje porównania opcji na tych samych przypadkach, opisu ograniczeń oraz informacji, kto przejmie zgłoszenie przy niepewnej klasyfikacji.
Co dzieje się po uruchomieniu
Nowy produkt, reorganizacja serwisu lub zmiana nazw kategorii może pogorszyć działanie systemu. W ofercie trzeba ustalić właściciela kategorii, sposób oceny nowych błędów i zakres późniejszych zmian. Trening nie kończy odpowiedzialności za jakość.
Prawa do wykorzystania danych, sposób przechowywania i dopuszczone środowisko także należą do zakresu zakupu. Nie należy zakładać, że możliwość eksportu zgłoszeń oznacza zgodę na dowolne użycie ich do treningu.
Jak rozmawiać z Syntalith
W ramach aplikacji i modeli AI możemy rozważyć klasyfikację jako część konkretnego procesu. Pierwsze pytanie dotyczy błędu, który warto ograniczyć. Propozycja powinna opisywać porównywane opcje, dane, kryteria odbioru i odpowiedzialność po wdrożeniu. Szczegóły przygotowania zbioru i treningu pozostają częścią pracy projektowej.
Ten artykuł opisuje zastosowanie do oceny, bez deklaracji gotowego modelu lub zmierzonej skuteczności u klienta. Informacje cenowe są w cenniku. Na rozmowę przygotuj opis kategorii i kilka zanonimizowanych spraw, które dziś krążą między zespołami.
Dobierzmy model do wymagań Twojego zadania
Opisz wynik, którego obecne AI nie daje wystarczająco dobrze. Porównamy możliwości dostosowania modelu, wymagania dotyczące danych i koszty dalszego działania.
Prywatne modele LLM i fine-tuning