Lokalne AI w oddziale bez stabilnego internetu

Pytanie można przetłumaczyć, status trzeba sprawdzić

Załóżmy, że w oddziale działa sieć wewnętrzna i przygotowany wcześniej komputer z modelem, lecz połączenie z internetem zostało przerwane. Klient pokazuje pytanie: „Is my order ready for pickup?”. Pracownik wprowadza tekst do lokalnej aplikacji i otrzymuje: „Czy moje zamówienie jest gotowe do odbioru?”. Rozumie już, czego dotyczy wizyta.

System zamówień działa jednak w chmurze i pozostaje niedostępny. Pracownik wpisuje własne wyjaśnienie: „Nie mam teraz dostępu do systemu zamówień, więc nie mogę potwierdzić, czy zamówienie jest gotowe”. Asystent może zaproponować angielskie brzmienie: „I can't access the order system right now, so I can't confirm whether your order is ready”. Pracownik sprawdza treść przed pokazaniem jej klientowi.

Kiedy lepiej zacząć od zapasowego internetu

Jeżeli większość pracy przy stanowisku wymaga bieżących danych z centrali, lokalny asystent rozwiąże tylko małą część problemu. Warto najpierw porównać go z dodatkowym połączeniem, które może przywrócić dostęp do używanych aplikacji.

Meraki opisuje przełączanie na zapasowe łącze. Zachowanie zależy od trybu pracy i wersji rozwiązania, a przełączeniu mogą towarzyszyć przerwy.

Kierownik oddziału może wskazać, co pracownicy robią podczas awarii: czy przede wszystkim czekają na dane, czy nadal prowadzą rozmowy wymagające pomocy językowej. Dział IT porównuje wtedy dwa różne zakupy. Zapasowe łącze ma pomóc odzyskać usługi online, a lokalna aplikacja utrzymać wybrane zadania językowe dostępne na miejscu. W niektórych oddziałach uzasadnione będzie połączenie obu rozwiązań.

Zestaw zwrotów może wystarczyć

Jeśli rozmowy podczas przerw sprowadzają się do kilku komunikatów, zatwierdzone tłumaczenia zapisane przy stanowisku są prostym punktem wyjścia. Warto też sprawdzić działanie istniejącego tłumacza offline lub funkcji obecnej aplikacji. Pracownik może potrzebować szybkiego dostępu do znanego zdania, bez redagowania go za każdym razem.

Lokalny model warto sprawdzić, gdy pytania klientów są zróżnicowane, a pracownicy muszą formułować krótkie doprecyzowania własnymi słowami. Osoba znająca oba języki powinna ocenić, czy propozycje zachowują znaczenie w rozmowach typowych dla oddziału. Pracownicy potrzebują również uzgodnionego sposobu uzyskania pomocy, gdy nie potrafią ocenić proponowanego tekstu.

Co musi pozostać dostępne w oddziale

W naszym przykładzie sieć wewnętrzna nadal działa, więc stanowiska mogą łączyć się ze wspólnym komputerem w oddziale. Dostęp do modelu zależy wtedy również od tego połączenia.

Ollama opisuje tryb lokalny bez modeli chmurowych i wyszukiwania w sieci oraz możliwość udostępniania modelu w sieci lokalnej. Równoczesne przetwarzanie zależy od dostępnej pamięci i wiąże się z obsługą kolejki.

W próbie warto uwzględnić kilka stanowisk korzystających z pomocy w tym samym czasie. Pracownik czekający z klientem potrzebuje użytecznej propozycji w czasie odpowiednim dla rozmowy. Aplikacja musi też dać się otworzyć po rozpoczęciu zmiany bez dostępu do internetu. Logowanie i zapisane zwroty należą do tego samego zadania co uruchomienie modelu.

Osoba odpowiedzialna za obsługę narzędzia powinna wiedzieć, kto aktualizuje materiały językowe i aplikację w oddziałach oraz komu pracownik zgłasza problem. Jeśli zespół rozważa wspólny komputer zamiast osobnych instalacji przy stanowiskach, pomocne jest porównanie lokalnego modelu na stacji roboczej i serwerze, skupione na dostępie wielu osób i utrzymaniu.

Zamówienie pomocy językowej dla oddziału

Syntalith proponuje aplikację z lokalnym AI do krótkich tłumaczeń i wyjaśnień, dopasowaną do rozmów prowadzonych przy stanowisku obsługi. Prace można rozpocząć od jednego oddziału i wybranych języków, porównując model z dostępnym tłumaczem oraz zapisanymi zwrotami. Zakres obejmuje widok do sprawdzenia tekstu przez pracownika i działanie w uzgodnionych warunkach bez internetu.

Kierownik oddziału wnosi przykłady rozmów, a osoba znająca języki ocenia znaczenie propozycji. Dział IT określa dostępne urządzenia i sposób obsługi narzędzia. Wspólna próba pokaże, czy lokalna pomoc uzasadnia dalszy rozwój i udostępnienie kolejnym placówkom.

Opowiedz nam, jakiej rozmowy pracownik nie mógł sprawnie przeprowadzić przy ostatniej przerwie w połączeniu i które systemy były wtedy niedostępne. Informacje o wycenie znajdują się w cenniku.