Lokalne wyszukiwanie dokumentów w kilku językach

Inne słowa, to samo zagadnienie

Pracownik szuka opisu „przekazania obsługi po zakończeniu projektu”. Raport używa sformułowania „service handover”. Zwykła wyszukiwarka nic nie znajduje, bo w dokumencie nie ma ani jednego polskiego słowa z pytania. Pracownik pisze więc do kolegi z zespołu międzynarodowego i czeka pół dnia na odpowiedź.

Wyszukiwarka porównująca znaczenie wskazuje właściwy rozdział mimo innego języka. Obok pojawia się jednak raport o przekazaniu towaru, który dotyczy innej sprawy. Użytkownik otwiera oba fragmenty i wybiera właściwy. Podobnie brzmiące terminy nie muszą oznaczać tej samej czynności, a firmowy słownik pomaga takie rozróżnienie utrwalić przy kolejnych pytaniach.

Tłumaczenie całego archiwum byłoby osobnym, drogim projektem. Wyszukiwarka wielojęzyczna omija ten koszt, bo pracownik czyta tylko znaleziony fragment, a w razie potrzeby tłumaczy wyłącznie ten akapit.

Ile to kosztuje i kiedy się zwraca

Model jest tu małą pozycją. O wyniku decyduje czas, który dziś zabiera szukanie i dopytywanie, oraz to, ile z niego zostaje na sprawdzenie odpowiedzi. W wariancie, w którym także odpowiedź pisze model na własnym GPU, dochodzi serwer GEX45 za 214 € (934 zł) miesięcznie, co wydłuża zwrot do 5,1 miesiąca.

Przed wyceną budowy robimy test na 20 do 100 pytaniach, które zespół już zadał: porównujemy odpowiedź aplikacji z tym, co pracownik znalazł ręcznie, i liczymy czas od pytania do źródła. Test trwa 5 dni roboczych i kosztuje 0 zł.

Jak sprawdzić model przed zakupem

Karta modelu BGE-M3 opisuje wyszukiwanie w ponad 100 językach i teksty do 8192 tokenów, a autorzy zalecają łączyć wyszukiwanie po znaczeniu z wyszukiwaniem słów i rerankingiem. Deklaracja nie zastępuje próby na Twoich parach językowych i terminologii. Test obejmuje też pytania, na które w zbiorze nie ma odpowiedzi: użytkownik ma zobaczyć brak wyników zamiast dopasowanego na siłę źródła. Recenzent znający oba języki ocenia, czy fragment odpowiada na potrzebę i czy oryginał otwiera się we właściwym miejscu.

Od czego zacząć

Jeśli materiały mają zostać we własnym środowisku, lokalnie działa też przygotowanie tekstu do wyszukiwania i ewentualne tłumaczenie pytania. Z IT uzgadniamy serwer, kopie i dostęp do dokumentów, tak żeby użytkownik nie zobaczył źródła, którego nie wolno mu czytać. Wyszukiwarkę budujemy w ramach prywatnych modeli LLM i aplikacji AI.

Na pierwszą rozmowę wystarczy jedno pytanie, które regularnie wraca do kolegów, i informacja, gdzie zespół szuka odpowiedzi. Nie trzeba przesyłać poufnych dokumentów, a plan na piśmie dostajesz w 2 dni robocze.