Baza wiedzy AI bez RAG: kiedy naprawdę jej nie potrzebujesz (2026)

Przy korpusie poniżej około 200 tys. tokenów, czyli mniej więcej 500 stron, warto najpierw przetestować cały materiał w kontekście modelu. To heurystyka startowa. O wyborze decydują też uprawnienia, zmienność dokumentów, koszt tokenów i wynik na realnych pytaniach. Dedykowana baza wiedzy Syntalith zaczyna się od 25 000 zł netto.

Szybka odpowiedź

Anthropic w publikacji „Contextual Retrieval" (wrzesień 2024) pisze wprost: jeśli baza wiedzy jest mniejsza niż około 200 000 tokenów, czyli mniej więcej 500 stron, można po prostu podać modelowi cały korpus w prompcie. To zdanie mówi, od czego zacząć próbę. Nie ustala progu ekonomicznego ani jakościowego i nie znaczy, że powyżej tej wielkości wyszukiwanie staje się obowiązkowe.

Kolejność, którą stąd bierzemy, jest testowa:

• Zanim cokolwiek zbudujesz: uporządkuj nazwy plików, usuń stare wersje, sprawdź wyszukiwarkę, którą już masz. Koszt to czas zespołu i zero złotych licencji.
• Najtańsza próba: wrzuć cały korpus do kontekstu modelu i zmierz wynik na dwudziestu realnych pytaniach. Jeśli odpowiedzi są dobre, temat RAG możesz odłożyć. Prosta automatyzacja jednego kanału zaczyna się u nas od 15 000 zł netto.
• Gdy próba zawodzi, albo gdy wchodzą uprawnienia: wyszukiwanie wraca i potrzebujesz pełnego RAG. Uprawnienia potrafią tego wymagać przy dowolnej wielkości korpusu. Dedykowane wdrożenie zaczyna się od 25 000 zł netto, typowe pełne projekty mieszczą się w 25 000–150 000 zł netto, utrzymanie wyceniamy indywidualnie. Stawki są w cenniku.

Ten artykuł istnieje po to, żebyś nie kupił od nas czegoś, czego nie potrzebujesz. Na bezpłatnym skanie procesów (0 zł) mówimy to samo, tylko na Waszych liczbach.

Ile to jest 200 tys. tokenów w Waszym przypadku?

Liczba 200 000 tokenów brzmi precyzyjnie, ale przelicznik na strony zależy od tego, co trzymacie. Kilka rzeczy potrafi zepsuć szacunek.

Polszczyzna jest droższa tokenowo od angielskiego, bo tokenizatory dzielą polskie słowa na więcej kawałków. Tabele i cenniki po eksporcie do tekstu potrafią zająć wielokrotnie więcej niż ta sama treść w oczach człowieka. Skany po OCR dorzucają śmieci, numery stron i powtarzające się nagłówki, które też kosztują tokeny.

Praktyczna metoda: weź reprezentatywne 20 dokumentów, przepuść je przez licznik tokenów swojego dostawcy, wylicz średnią na dokument i pomnóż przez liczbę dokumentów w katalogu. Jeśli wychodzi 60 000 tokenów, cały korpus spokojnie zmieści się w kontekście i od tej próby zacznijcie. Jeśli wychodzi 400 000, ta droga odpada dla całości materiału i porównanie z retrievalem robicie na zestawie pytań.

Do rachunku dolicz jedno: koszt tokenów przy podejściu „cały korpus w prompcie" płacisz przy każdym pytaniu z osobna. Przy stu pytaniach dziennie i korpusie 150 000 tokenów to 15 mln tokenów wejścia dziennie, chyba że włączycie cache promptu. To wciąż bywa tańsze od wdrożenia, ale policz to, zanim uznasz, że jest za darmo.

Dlaczego długi kontekst nie załatwia sprawy na zawsze?

Kuszące jest przedłużenie tej samej logiki: skoro okna kontekstu rosną, to za rok cały korpus zmieści się w prompcie i wyszukiwanie zniknie. Pomiary mówią coś innego.

Badanie „Context Rot" (Chroma, lipiec 2025, 18 modeli) pokazało, że jakość w długim kontekście degraduje się nierównomiernie i zaczyna spadać na długo przed deklarowanym limitem okna. Deklarowane 200 tys. czy milion tokenów opisuje pojemność techniczną okna. Nie opisuje długości, na której model pracuje równie dobrze.

NoLiMa (ICML 2025) dokłada wynik ważny dla firmowej wiedzy: gdy pytanie i szukana informacja nie dzielą słownictwa, 11 badanych modeli spada poniżej 50% swojej krótkokontekstowej skuteczności już przy 32 tys. tokenów. A pytania pracowników rzadko używają słownictwa procedury. Ktoś pyta o „urlop na żądanie", dokument mówi o „nieplanowanej nieobecności".

Stąd praktyczny wniosek: gdy próba z pełnym kontekstem wypada słabo, wracasz do wyszukiwania, i to takiego, które łączy ścieżkę leksykalną z semantyczną. Dlaczego jedna metoda nie wystarcza i co się psuje bez rerankingu, rozkładamy w tekście o tym, dlaczego baza wiedzy AI nie znajduje odpowiedzi.

Drabina decyzyjna

Cztery szczeble. Wejdź na najniższy, który rozwiązuje Wasz problem, i zatrzymaj się tam.

Ostatni wiersz jest jedynym, w którym wielkość korpusu przestaje decydować. Nawet mała baza wymaga pełnej architektury, jeśli dokument kadrowy nie może wpłynąć na odpowiedź dla handlowca. O tym szczeblu decyduje ryzyko wycieku, a wielkość korpusu schodzi na dalszy plan. Opisujemy go osobno w tekście o RAG z uprawnieniami egzekwowanymi przed modelem.

Nudna architektura wygrywa: nasza własna baza wiedzy

Przykład z własnego podwórka, bo łatwo doradzać innym.

Wiedza operacyjna Syntalith żyje jako wersjonowany Markdown w gicie. Usługa zawsze utrzymuje deterministyczną ścieżkę pełnotekstową w duchu BM25, a opcjonalny indeks semantyczny może działać obok niej. Dziś mamy go wyłączonego i to jest decyzja, którą da się cofnąć jedną zmianą konfiguracji. Każda odpowiedź, którą dostaje nasz zespół albo nasz agent, wskazuje plik, numer linii i commit, z którego pochodzi, i dzieje się to w obu trybach.

Powód jest jeden i nie jest techniczny. Przy naszym korpusie, rzędu kilkudziesięciu plików i kilkuset kilobajtów tekstu, warstwa semantyczna dokładałaby dziś zmienność bez zysku: te same pytania mogłyby zwracać różne wyniki po przebudowie indeksu, a my potrzebujemy powtarzalności. Cytat z numerem commita pokazuje przy tym, kiedy fakt się zmienił i kto go zmienił. Sprawdzalna ścieżka źródłowa jest dla nas na tym etapie ważniejsza od elastycznego dopasowania.

To nie jest przepis do skopiowania, bo Wasz korpus wygląda inaczej. To argument za kolejnością: zacznij od najnudniejszej architektury, która daje sprawdzalne odpowiedzi, i dokładaj warstwy dopiero wtedy, gdy zmierzysz, że bez nich pytania zostają bez odpowiedzi.

Kiedy powiemy „nie kupujcie tego od nas"

Cztery sytuacje, w których na skanie usłyszysz odmowę zamiast oferty.

Korpus jest mały i stabilny. Kilkadziesiąt plików, zmieniają się kwartalnie, wszyscy widzą wszystko. Wyszukiwarka w narzędziu, które już macie, plus pół dnia na uporządkowanie nazw. Wdrożenie za 25 000 zł nie da tu żadnej przewagi.

Dokumenty są w takim stanie, że żadne wyszukiwanie ich nie uratuje. Trzy wersje cennika bez dat, procedury w mailach, nikt nie wie, która obowiązuje. Najpierw właściciele dokumentów i porządek, potem narzędzie. Uruchomienie RAG na tym materiale wyprodukuje pewnie brzmiące błędy z cytatem, co jest gorsze od dzisiejszego chaosu, bo wygląda wiarygodnie.

Problem jest jednorazowy. Ktoś raz na kwartał musi przeczytać 40 umów i wyciągnąć z nich daty wypowiedzenia. To zadanie na jeden prompt z załącznikami. System zbudowany wokół czterech godzin pracy kwartalnie nigdy się nie zwróci.

Problemem jest proces, a wyszukiwanie tylko go maskuje. Pracownicy pytają kolegów nie dlatego, że nie mogą znaleźć dokumentu, tylko dlatego, że dokument nie istnieje i decyzja żyje w czyjejś głowie. Wtedy budowa bazy wiedzy przykryje problem warstwą technologii. Zacznijcie od spisania tych decyzji.

Jeśli pierwszy albo trzeci punkt opisuje Waszą sytuację, a mimo to potrzebujecie porównania gotowych narzędzi, mapę rynku znajdziecie w tekście firmowy mózg AI: gotowa platforma czy własna baza wiedzy.

Jak zacząć

1. Policz swój korpus w tokenach na próbce 20 dokumentów. To 30 minut pracy i rozstrzyga większość tej decyzji.
2. Zbierz 20 realnych pytań pracowników i sprawdź, ile z nich wyszukiwarka, którą już macie, obsługuje poprawnie.
3. Umów bezpłatny skan procesów: 30 minut z inżynierem i pisemne podsumowanie w 2 dni robocze. Jeśli po tej rozmowie wyjdzie, że nie potrzebujecie wdrożenia, dostaniecie to na piśmie.

Umów bezpłatny skan procesów | Zobacz cennik

Powiązane artykuły

• Asystent wiedzy AI dla firmy: baza wiedzy oparta o RAG
• Dlaczego baza wiedzy AI nie znajduje odpowiedzi
• Firmowy mózg AI: gotowa platforma czy własna baza wiedzy?
• Uprawnienia przed modelem: RAG, który nie zdradza zamkniętych dokumentów
• Aplikacje AI na zamówienie