Uprawnienia przed modelem: baza wiedzy, która chroni zamknięte dokumenty

W firmowej bazie wiedzy dokument niedostępny dla pytającego może wpłynąć na odpowiedź modelu. Czasem pojawia się jako cytat, a czasem tylko kształtuje treść lub sposób odmowy. Nawet wtedy użytkownik może wywnioskować, że zamknięty dokument istnieje i czego dotyczy.

Filtrowanie gotowej odpowiedzi nie rozwiązuje tego problemu. Jeśli niedozwolony dokument wcześniej trafił do kontekstu modelu, usunięcie cytatu nie cofa jego wpływu na wygenerowany tekst.

Bezpieczna kolejność operacji

W czytelni wiedzy kolejność jest stała: najpierw tożsamość, potem zakres, dopiero później wyszukiwanie i odpowiedź. Wersja demonstracyjna używa 600 przygotowanych dokumentów i pięciu fikcyjnych tożsamości, bez treści ani poświadczeń klienta.

Logowanie przez OIDC tworzy podpisaną sesję z tożsamością i grupami użytkownika. Mechanizm wyszukiwania łączy dopasowanie pełnotekstowe i semantyczne, ale zawsze uwzględnia jawny filtr grup. Dokument spoza zakresu nie pojawia się nawet wśród wyników branych pod uwagę. To pierwsza warstwa kontroli.

Druga warstwa działa niezależnie w bazie danych. Zabezpieczenie dostępu do wierszy, czyli RLS, egzekwuje ten sam zakres poza kodem aplikacji. Dzięki temu błąd w zapytaniu, pominięty filtr lub regresja po zmianie wersji nie wystarczą do udostępnienia zamkniętego dokumentu.

Model generacyjny dostaje materiał dopiero po przejściu obu kontroli. Cytowania mogą wskazać wyłącznie dokumenty dostępne dla użytkownika, a odmowa nie zdradza istnienia materiałów spoza jego zakresu.

Przygotowanie uprawnień przed indeksowaniem dokumentów

Najtrudniejszą częścią wdrożenia często nie jest wyszukiwanie, lecz odwzorowanie istniejących uprawnień. Trzeba wskazać wiarygodne źródło tożsamości, sposób przypisania grup, właścicieli dokumentów oraz cykl odbierania dostępu po zmianie roli lub odejściu pracownika. Indeks nie powinien tworzyć własnej, ręcznie utrzymywanej kopii uprawnień, jeżeli firma ma już system, który jest ich źródłem.

Każdy dokument potrzebuje stabilnego identyfikatora, właściciela, wersji obowiązującej, zakresu dostępu i daty aktualizacji. Załącznik w wiadomości oraz jego kopia na dysku mogą być tą samą treścią, ale mieć różne listy odbiorców. Zasady deduplikacji nie mogą przypadkowo poszerzać dostępu do wspólnej reprezentacji.

Warto też ustalić zachowanie po utracie uprawnienia. Sesja i pamięć podręczna powinny odzwierciedlać zmianę w akceptowalnym czasie, a zapisane odpowiedzi nie mogą stać się trwałą kopią treści, do której użytkownik później stracił dostęp.

Jak ułożyć pilotaż

Pierwszy etap powinien obejmować ograniczony korpus i kilka celowo różnych ról. Macierz testowa łączy pytania z tożsamościami, dzięki czemu ten sam temat sprawdza się dla osoby uprawnionej i nieuprawnionej. Trzeba testować odpowiedź, cytat, brak źródła, konflikt dokumentów oraz bezpośrednią próbę otwarcia zamkniętego rekordu.

Drugi etap mierzy wyszukiwanie wyłącznie wśród dokumentów, które dana osoba może zobaczyć. Zestaw powinien zawierać język używany przez pracowników, skróty, stare nazwy produktów i pytania bez numeru dokumentu. Uprawnienia i trafność należy raportować osobno. Bezpieczna odmowa jest poprawnym wynikiem kontroli dostępu, ale może być słabym wynikiem użyteczności.

Dopiero na końcu warto dodać generowanie pełnych odpowiedzi. Na początku można zwracać fragmenty źródeł z sygnaturami, co upraszcza ocenę. Model generacyjny ma sens wtedy, gdy użytkownicy potrzebują połączenia kilku zgodnych fragmentów, a proces potrafi rozpoznać ich konflikt i zatrzymać odpowiedź.

Jak interpretować wyniki i koszt

Brak odpowiedzi ujawniających treści spoza zakresu mówi o przygotowanej macierzy tożsamości i pytań. Nie dowodzi poprawności konfiguracji każdej grupy w firmie ani szybkości odbierania uprawnień. Osobno trzeba sprawdzić integrację z katalogiem użytkowników, sesje, pamięci podręczne i dostęp administratorów.

Trafność pierwszego wyniku na poziomie 51,1% w trudniejszym teście parafraz pokazuje, że mocna kontrola dostępu nie zapewnia jeszcze dobrej wyszukiwarki. Przed uruchomieniem należy ustalić minimalną trafność dla najważniejszych kategorii i bezpieczny próg odmowy. Podnoszenie liczby zwracanych fragmentów może zwiększyć pokrycie, ale również koszt, czas oraz ilość materiału widzianego przez model w ramach dozwolonego zakresu.

Zapisany przebieg lokalnego redagowania nie naliczył opłat zewnętrznego API. Nadal istnieje koszt infrastruktury, indeksowania, utrzymania źródła tożsamości i pracy właścicieli dokumentów. W rachunku korzyści warto mierzyć czas do znalezienia odpowiedzi, odsetek odpowiedzi otwierających właściwe źródło i liczbę spraw przekazanych właścicielom dokumentów.

Lista kontrolna dla bazy wiedzy

1. Który system jest źródłem tożsamości i członkostwa w grupach?
2. Jak szybko odebranie uprawnienia wpływa na sesję, indeks i pamięć podręczną?
3. Czy zakres jest egzekwowany w zapytaniu oraz niezależnie w bazie?
4. Czy odmowa brzmi tak samo, gdy zamknięty dokument istnieje i gdy go nie ma?
5. Jak system rozpoznaje wersję obowiązującą i sprzeczne źródła?
6. Czy zapisane odpowiedzi respektują późniejszą utratę dostępu?
7. Czy trafność jest mierzona osobno dla ról, języka i kategorii dokumentów?
8. Kto odpowiada za nieaktualny dokument oraz decyzję o poszerzeniu dostępu?
9. Czy administratorzy i konta serwisowe również podlegają kontrolowanemu zakresowi?

Obsługa sprzecznych źródeł

Innym zagrożeniem są sprzeczne źródła: stary cennik obok nowego albo dwa raporty z różnymi liczbami. Połączenie ich w jedną płynną odpowiedź może dać wiarygodnie brzmiącą nieprawdę.

W tej czytelni konflikt źródeł jest jawnym statusem. System pokazuje, które źródła się nie zgadzają, a rozstrzygnięcie należy do ich właścicieli. Gdy brakuje dostępnego źródła, system odmawia odpowiedzi zamiast zgadywać.

Co sprawdziliśmy

Kontrola obejmuje 150 pytań dla pięciu tożsamości o różnych zakresach, czyli 750 kombinacji. Wszystkie odpowiedzi, cytowania i odmowy były zgodne z polityką, bez naruszenia zakresu. Osobny test 45 parafraz bez sygnatury poprawnie wskazał pierwszy dokument w 51,1% przypadków. Wynik nie osiągnął jeszcze progu dopuszczenia odpowiedzi. Pokazuje to ważną różnicę: system może prawidłowo pilnować uprawnień, a jednocześnie wymagać dalszej pracy nad trafnością wyszukiwania.

Zbiór jest przygotowany na potrzeby demonstracji, a kontrola sprawdza przede wszystkim egzekwowanie zakresu. Trafność wyszukiwania na dokumentach klienta trzeba zmierzyć osobno przed uruchomieniem.

Pytanie, które warto zadać dostawcy

Jeżeli rozważasz bazę wiedzy z AI, zapytaj dostawcę, co dokładnie dzieje się z dokumentem niedostępnym dla użytkownika, zanim model zacznie generować odpowiedź. Samo filtrowanie gotowych wyników nie zapewnia ochrony.

Zakres i trafność to osobne pomiary. System może egzekwować uprawnienia bez zarzutu i mimo to nie znajdować dokumentów, do których pytający ma pełne prawo. Jakość samego wyszukiwania omawiamy w tekście o tym, dlaczego baza wiedzy AI nie znajduje odpowiedzi.

Szczegóły systemu i pełną macierz pomiarową znajdziesz na karcie systemu. Podczas bezpłatnego przeglądu procesów możemy odnieść ten sposób kontroli do Twojej struktury uprawnień.