Przejdź do treści
← Wróć do bloga
prywatne AIArtykuł

Prywatne AI: jak sprawdzić wymagania klienta

Zespół usługowy chce używać AI przy dokumentach kilku klientów, ale dla każdego uzgodniono inne środowisko pracy. Pliki mogą być zapisane we właściwym miejscu, choć ich treść trafia do modelu działającego gdzie indziej. Przed udostępnieniem narzędzia pracownikom warto prześledzić tę drogę i porównać ją z wymaganiami zatwierdzonymi dla danego projektu.

Autor

Syntalith

Opublikowano Zaktualizowano 3 min czytania

Miejsce zapisu pliku to część odpowiedzi

Załóżmy, że dla jednego zlecenia klient zatwierdził przetwarzanie dokumentów w wyznaczonym środowisku. Konsultant korzysta z aplikacji, która przechowuje tam pliki. Osoba z IT sprawdza jednak, że wybrana usługa modelu korzysta z globalnego przetwarzania zapytań. Samo wskazanie folderu nie wyjaśnia więc, gdzie odbywa się praca nad treścią.

IT przedstawia tę różnicę osobie odpowiedzialnej za uzgodnienia z klientem i akceptację środowiska. To ona rozstrzyga, czy proponowany sposób pracy mieści się w przyjętych wymaganiach, czy trzeba go zmienić. W tym przykładzie wymaganie wynika z ustaleń projektu. Kraj siedziby klienta sam nie określa konfiguracji aplikacji.

Takie rozróżnienie występuje również w dokumentacji dostawców. Microsoft opisuje typy wdrożeń modeli przez Foundry Serverless API, oddzielając geografię przechowywania danych od miejsca wykonywania zapytań: globalnego, strefy danych lub określonej geografii. Dostępność zależy od modelu i typu wdrożenia. Opis dotyczy Serverless API.

Jedna przestrzeń pracy, kilka miejsc przetwarzania

Konsultant widzi dokument i pole pytania. Po stronie aplikacji plik może jednak przejść przez odczyt tekstu i wyszukiwanie fragmentów, zanim trafią one do modelu tworzącego odpowiedź. Przy zakupie potrzebny jest zrozumiały opis tej drogi, przypisany do konkretnej przestrzeni klienta.

Osoba zatwierdzająca środowisko powinna móc ustalić, które usługi otrzymują treść i gdzie pozostają zapisane pytania oraz odpowiedzi. Kopie zapasowe i dostęp osób pomagających w obsłudze narzędzia także należą do tego obrazu. Dzięki temu może odnieść rzeczywisty sposób działania do wymagań, które już uzgodniono.

Pracownik potrzebuje z kolei widzieć, w przestrzeni którego klienta pracuje. Wybór projektu powinien prowadzić do przewidzianego dla niego sposobu przetwarzania. Zmiana modelu przez administratora może zmienić tę drogę, dlatego jej skutki wymagają ponownego porównania z ustaleniami projektu.

Co można zamówić od Syntalith

Syntalith proponuje aplikację AI z przestrzeniami pracy dopasowanymi do klientów. Początkiem jest opis obecnego obiegu dokumentu: od pobrania pliku do zapisania odpowiedzi, wraz z używanymi usługami. Porównujemy go z wymaganiami wskazanymi przez firmę i ustalamy, które połączenia trzeba zmienić. Osoba odpowiedzialna za te wymagania podejmuje decyzję o akceptacji środowiska.

Dalszy zakres może objąć wybór właściwej przestrzeni w aplikacji, kierowanie zapytań do uzgodnionej usługi i czytelny zapis tego, jak obsłużono pracę dla klienta. Zespół przekazuje wymagania projektu oraz opis zadań konsultantów. Administrator wskazuje obecne połączenia i odpowiada za uzgodnienia dotyczące ich późniejszej obsługi.

Praktyczne przekazywanie dokumentów kolejnej osobie i oddzielanie materiałów klientów opisujemy w artykule o lokalnym AI w projektach objętych NDA. Tutaj pierwszym pytaniem jest droga przetwarzania, którą dana przestrzeń uruchamia.

Usługa zarządzana czy osobne środowisko

Jeśli dostępna usługa zarządzana daje sposób przetwarzania odpowiadający zatwierdzonym wymaganiom, jej odpowiedni wybór i połączenie z aplikacją mogą wystarczyć. Nie każda różnica między klientami wymaga utrzymywania osobnego serwera. Warto sprawdzić rzeczywistą konfigurację używanego rozwiązania przed planowaniem zastąpienia go.

Osobne prywatne środowisko, w tym własny serwer, jest opcją wtedy, gdy uzasadniają je wymagania i sposób pracy zespołu. Oprócz miejsca przetwarzania znaczenie ma to, ilu konsultantów potrzebuje odpowiedzi równocześnie i jak długo mogą czekać. Próba na ich zadaniach pomoże ocenić, czy wybrany wariant pasuje do codziennej pracy.

Po uruchomieniu ktoś musi śledzić zmiany usług i połączeń aplikacji. Zakres utrzymania powinien określać, kto sprawdzi nową drogę przetwarzania po aktualizacji oraz komu zgłosi rozbieżność z ustaleniami projektu. Taki podział pracy jest potrzebny zarówno przy usłudze zarządzanej, jak i własnym środowisku.

Opowiedz nam o jednym wymaganiu klienta, którego trudno dziś prześledzić w używanej aplikacji AI. Na pierwszej rozmowie można omówić je wraz z drogą dokumentu, bez przesyłania jego poufnej treści. Informacje o wycenie znajdują się w cenniku.

Oceńmy prywatne AI w warunkach Twojej firmy

Pomagamy firmom i osobom prywatnym dobrać sprzęt, uruchomić model i sprawdzić go na własnych zadaniach. Możesz zacząć od komputera, który już masz, albo od rozmowy przed zakupem.

Prywatne modele LLM i fine-tuning
Porozmawiaj o prywatnym AI