Lokalny model do analizy notatek serwisowych

Trzy dokumenty, dwie wizyty, jeden wyciek

Kierownik serwisu szuka urządzeń, przy których wyciek opisano podczas więcej niż jednej wizyty. W notatce z pierwszej wizyty technik zapisał „stwierdzono wyciek”. Po drugiej: „sprawdzono pod kątem wycieku, wycieku nie stwierdzono”. Trzeci dokument jest podsumowaniem pierwszej wizyty i powtarza jej obserwację. Wszystkie trzy zawierają słowo „wyciek”, a opisują dwie wizyty, z których tylko jedna potwierdza wyciek.

Asystent zbiera tę historię w dwóch pozycjach. Przy pierwszej wizycie pokazuje obserwację i odsyłacze do obu dokumentów, które ją opisują. Przy drugiej zachowuje informację o braku wycieku. W tym przykładzie nie ma podstaw do stwierdzenia, że wyciek zaobserwowano ponownie. Powtarzający się opis objawu nie ustala też przyczyny awarii.

Ile to kosztuje i kiedy się zwraca

Rachunek liczy czas szukania, czytania i zestawiania materiału. Zostaje czas na sprawdzenie wyniku przy źródle, w scenariuszu 25% dzisiejszej pracy. Oba czasy mierzymy w próbie na 20 do 100 sprawach, które zespół już obsłużył. Anthropic w publikacji Contextual Retrieval podaje, że wyszukiwanie hybrydowe z rerankingiem zmniejszyło liczbę nieudanych wyszukiwań o 67%. W notatkach pisanych różnym językiem samo wyszukiwanie słowa „wyciek” znajduje dokumenty, ale ich znaczenie trzeba jeszcze odczytać.

Co działa lokalnie, a co trzeba uzgodnić

Lokalne przetwarzanie oznacza, że model liczy na wskazanym komputerze albo serwerze firmy, co pasuje do notatek o urządzeniach i zakładach klientów. Dokumentacja Ollama rozróżnia modele lokalne i chmurowe i opisuje wyłączenie funkcji chmurowych, więc sama nazwa narzędzia nie ustala miejsca przetwarzania. Osobnego ustalenia wymaga aplikacja wokół modelu: kopie dokumentów w kopiach zapasowych, pytania kierownika w historii i połączenie z systemem serwisowym.

Kiedy wystarczy obecny raport

Jeśli protokoły mają spójne pola obserwacji i identyfikatory wizyt, wystarczy istniejący raport albo filtr. Model jest wart sprawdzenia, gdy potrzebne informacje leżą w swobodnym tekście, a kierownik odtwarza historię z rozproszonych opisów. Najwięcej mówią dwa błędy: pomylenie obserwacji z jej zaprzeczeniem i policzenie podsumowania jako nowej wizyty. Redagowanie bieżącej notatki to inna praca, opisana w tekście o małym modelu na terminalu magazynowym.

Od czego zacząć

Dobry początek to fragment historii, który zespół serwisu zna i potrafi ocenić. Kierownik porównuje zestawienie z dokumentami i sprawdza, czy nadal musi czytać wszystko od początku. Lokalne modele wdrażamy w ramach prywatnych modeli LLM, a widok pracy ze źródłami budujemy jako aplikację AI. Na bezpłatną analizę wystarczy opis jednej sprawy i miejsc, w których leżą materiały. Poufne pliki zostają w firmie, a plan na piśmie dostajesz w 2 dni robocze.