Zespół może wyszukiwać i zadawać pytania do poufnych dokumentów bez wysyłania ich do zewnętrznego API.
System uruchamia wyszukiwanie i generowanie odpowiedzi na infrastrukturze klienta. Użytkownik otrzymuje odpowiedź ze wskazaniem dokumentu i fragmentu. Dostęp oraz klasyfikację kontroluje operator. Warstwa modelowa nie ma połączenia z zewnętrzną usługą AI.
Problem, rozwiązanie i wynik
Dlaczego zwykły asystent w chmurze odpada
Poufne dokumenty nie mogą opuszczać sieci firmy. Zespół bezpieczeństwa potrzebuje technicznego sposobu sprawdzenia granicy, a użytkownik musi widzieć, z którego dokumentu pochodzi odpowiedź.
Co robi system
System indeksuje 180 dokumentów wewnątrz środowiska, wyszukuje odpowiednie fragmenty i przygotowuje odpowiedź lokalnie. Każda odpowiedź wskazuje źródło. Uprawnienia i klasyfikacja są sprawdzane przed udostępnieniem treści.
Co sprawdziliśmy
Demonstracja potwierdza, że dokumenty i odpowiedzi pozostają w odizolowanym środowisku, a próby połączenia na zewnątrz są blokowane. Korzysta ze 180 dokumentów syntetycznych. Jakość wyszukiwania, poprawność odpowiedzi i wydajność trzeba potwierdzić na dokumentach oraz sprzęcie klienta.
Dla kogo
Ten system pasuje do organizacji, która chce wyszukiwać w poufnych dokumentach, wymaga lokalnego przetwarzania i potrzebuje powtarzalnego testu ruchu wychodzącego.
Dokumenty → wyszukiwanie → lokalny model → źródło
- 01Treść dokumentów pozostaje w sieci firmy
- 02Odpowiedź wskazuje dokument i fragment
- 03Zespół bezpieczeństwa może powtórzyć test wyjścia
- Dla kogo
- Organizacje regulowane, które muszą przetwarzać poufne dokumenty lokalnie
- Dane wejściowe
- Pytania zespołu do lokalnego korpusu dokumentów poufnych
- Decyzja człowieka
- Operator zarządza dostępem i klasyfikacją, a zespół bezpieczeństwa zatwierdza środowisko
- Koszt
- 0 zł opłat zewnętrznego API; 3 odpowiedzi przygotowane lokalnie na GPU, mediana 430 ms i 95. percentyl 529 ms.
- Zakres testu
- Demonstracja sprawdza brak połączeń wychodzących. Zespół bezpieczeństwa klienta powtarza tę kontrolę we własnym środowisku.
- Możliwość kontroli
- Historia pokazuje każdą zmianę klasyfikacji wraz z operatorem, poprzednią wartością i czasem.
- Budowa podobnego systemu
- od 25 000 zł netto · 4–10 tygodni
Granica sieci i dostępu
Kto odpowiada za dostęp i wynik
Operator nadaje dostęp, zmienia klasyfikację i rozstrzyga sprzeczności. Użytkownik sprawdza odpowiedź w podanym dokumencie. Zespół bezpieczeństwa zatwierdza środowisko oraz powtarza test granicy.
- Koszt
- 0 zł opłat zewnętrznego API; 3 odpowiedzi przygotowane lokalnie na GPU, mediana 430 ms i 95. percentyl 529 ms.
Szacowany efekt
Policz efekt na swoim wolumenie
To szacunek oparty na podanym wolumenie. Wpisz własne liczby do formuły, aby ocenić możliwy efekt w swojej firmie. Wynik potwierdzamy dopiero podczas pilotażu.
Dziś
167 h
Po uruchomieniu
58 h
Oszczędność czasu lub kosztu
80-135 h/mies., baza 108 h
- Wolumen
- 1 000 zapytań/mies.
- Formuła
- 1 000 × (10,0 - 3,5) min / 60 = 108 h
- Status wyliczenia
- niska-średnia
Dane na zrzutach. Nazwy, kwoty i dokumenty widoczne na zrzutach są syntetyczne. Dane klientów pozostają prywatne. Pomiary dotyczą opisanej wersji demonstracyjnej i są wyraźnie oddzielone od wyników produkcyjnych.
Ekrany robocze
Operator zarządza dostępem. Użytkownik sprawdza źródło. Zespół bezpieczeństwa kontroluje granicę sieci.
Demonstracja korzysta z 180 dokumentów syntetycznych. Przed wdrożeniem trzeba ocenić jakość wyszukiwania, poprawność odpowiedzi, obsługę formatów i wydajność profilu 11B na docelowym sprzęcie klienta.
Biblioteka dokumentów, odpowiedź ze źródłem i stan granicy.
Biblioteka dokumentów
Dokumenty, klasyfikacje i historia zmian dostępu.
Odpowiedź ze źródłem
Treść wraz z dokumentem i fragmentem użytym do jej przygotowania.
Stan środowiska
Lokalne zależności i wynik testu ruchu wychodzącego.
Ekrany systemu
Zobacz, jak system działa w praktyce
To zrzuty z działającej aplikacji w wersji komputerowej i mobilnej. Pokazują opisany proces oraz miejsca, w których decyzję podejmuje człowiek.
- Ekrany
- 10
- px
- 1440 · 390
- 021440×1353
Odpowiedź ze wskazanym fragmentem źródłowym. - 031440×1100
Wynik testu ruchu wychodzącego.
Otwórz archiwum pozostałych ekranów (7)
- 041440×1100
Czytelnia, odpowiedź ze źródłami - 051440×1100
Czytelnia, materiał poza indeksem - 061440×1100
Czytelnia, brak dopasowania - 071440×1100
Dziennik ewidencyjny - 081440×1100
Oznaczenia do wyjaśnienia - 091440×1100
Strefa ochronna - 101440×1100
Protokoły badań
Technologia
Otwarte komponenty uruchomione na infrastrukturze klienta.
vLLM serwuje Bielika. Lokalne embeddingi i reranker prowadzą wyszukiwanie. PostgreSQL z pgvector przechowuje dokumenty oraz indeks. FastAPI obsługuje dostęp, odpowiedzi i jawne stany błędów.
- vLLM + Bielik 11B
- docelowy profil GPU: serwuje polski model open-weight z katalogu montowanego tylko do odczytu
- Lokalne embeddingi i reranker
- wielojęzyczny MiniLM z cross-encoderem prowadzi wyszukiwanie bez hostowanego API
- PostgreSQL 17 + pgvector
- trzyma dokumenty, indeks wektorowy i ślad zmian w jednej lokalnej bazie
- FastAPI
- obsługuje obieg, kontrolę uprawnień i jawne stany odmowy
- Bielik 4.5B na MLX
- zapisany pomiar hosta na Apple M5 Pro, osobny od docelowego profilu vLLM
Klient otrzymuje kod, instrukcje dla modeli, dane testowe i dokumentację. System działa na jego infrastrukturze bez korzystania z zewnętrznej usługi AI.
Szczegóły techniczne i pomiar
Jak system pracuje
Cała droga od pytania do odpowiedzi pozostaje przy dokumentach.
Lokalne modele wybierają fragmenty, porządkują wyniki i generują odpowiedź. System pokazuje źródło oraz odróżnia brak dopasowania, odmowę dostępu i błąd pliku.
Poufne dokumenty pozostają w sieci firmy
Lokalne wyszukiwanie wybiera właściwe fragmenty
Bielik przygotowuje odpowiedź ze źródłem
Test sprawdza HTTP, HTTPS, DNS i TCP
Użytkownik weryfikuje odpowiedź w dokumencie
Szczegóły techniczne
Lokalne wyszukiwanie i model w sieci bez ruchu wychodzącego.
Embeddingi, reranker, PostgreSQL z pgvector i Bielik działają na infrastrukturze klienta. Kontrolowany test sprawdza cztery drogi wyjścia z warstwy modelowej.
- 01
Wyszukiwanie
Lokalne modele wybierają fragmenty dokumentów.
Wielojęzyczne embeddingi i cross-encoder działają wewnątrz stosu. Indeks pgvector pozostaje w tej samej bazie co dokumenty.
- 02
Odpowiedź
Bielik pracuje w sieci wewnętrznej.
Docelowy profil uruchamia Bielika 11B przez vLLM z katalogu tylko do odczytu. Profil CPU służy wyłącznie do sprawdzenia działania aplikacji.
- 03
Stany
Brak odpowiedzi ma konkretny powód.
Interfejs osobno pokazuje brak dopasowania, odmowę dostępu, niedostępny indeks i nieobsługiwany plik. Użytkownik wie, jaki krok wykonać dalej.
- 04
Granica
Test sprawdza cztery protokoły.
Próby HTTP, HTTPS, DNS i surowego TCP są uruchamiane z warstwy modelowej. Wynik trafia do zapisu dowodowego. Test nie zastępuje certyfikacji środowiska klienta.
Jak sprawdzamy deklarację o lokalnym przetwarzaniu
Architektura nie zawiera zewnętrznego klienta API modeli. Dodatkowo zespół może uruchomić próbę ruchu wychodzącego przy audytorze i zachować wynik wraz z konfiguracją środowiska.
- Brak zewnętrznych SDK modelowych
- Modele i indeks w sieci wewnętrznej
- Powtarzalny test czterech protokołów
- Historia zmian dostępu i klasyfikacji
Chcesz sprawdzić podobny proces w swojej firmie?
- 30 minut z inżynierem, który może prowadzić Twoje wdrożenie.
- Przegląd procesów, które kosztują Cię najwięcej czasu i pieniędzy.
- Pisemne podsumowanie: co zautomatyzować, w jakiej kolejności, z widełkami kosztów.
Terminy zobaczysz w swojej strefie czasowej.
Bez prezentacji sprzedażowej i bez zobowiązań. Jeśli automatyzacja nie ma sensu, też to napiszemy.