RAG w LLM. Praktyczne wdrożenie i jego korzyść biznesowa dla firmy

Spis treści

Czym jest RAG i dlaczego zmienia sposób pozyskiwania i przetwarzania informacji?

Przewaga RAG nad tradycyjnymi metodami wyszukiwania

Z RAG odpowiedzi są wiarygodne - 0 halucynacji

RAG + LLM + LOGITO = Helpdesk AI  

RAG i LLM - inteligentne odpowiedzi w procesach firmowych  

Korzyści implementacji RAG dla firm

Podsumowując…

Czym jest RAG i dlaczego zmienia sposób pozyskiwania i przetwarzania informacji? 

RAG - co to jest?  

RAG (Retrieval-Augmented Generation) to architektura pracy z danymi tekstowymi, która rewolucjonizuje sposób wyszukiwania i przetwarzania informacji. W praktyce jest to zaawansowany mechanizm odzyskiwania danych z baz wektorowych, który pozwala narzędziom sztucznej inteligencji (LLM) wyszukiwać szczegółowe informacje i generować konkretne odpowiedzi z bezpośrednim odniesieniem do źródła.

Ale co tak naprawdę RAG oznacza dla użytkownika?

Z mechanizmem bardzo podobnym do RAG spotykamy się praktycznie każdego dnia. Gdy w wyszukiwarce Google otrzymujemy odpowiedź wygenerowaną przez sztuczną inteligencję wraz z podanymi źródłami, korzystamy z funkcji Google SGE (Search Generative Experience), która działa na podobnej zasadzie co architektura RAG. 

Gdzie RAG znajduje zastosowanie? 

Architektura RAG może być wykorzystana w wielu obszarach: 

• Chatboty AI w e-commerce – klienci mogą natychmiast uzyskać szczegółowe informacje o produktach, polityce zwrotów czy dostępności. 

• Asystenci w agencjach ubezpieczeniowych – błyskawiczne odpowiedzi na pytania o warunki polis i procedury zgłaszania szkód. 

• Intranet korporacyjny – pracownicy szybko odnajdują informacje o procedurach firmowych bez konieczności przeszukiwania dziesiątek dokumentów. 

• Platformy e-learningowe – chatboty AI pełniące rolę korepetytorów lub asystentów edukacyjnych. 

Jak to działa technicznie? 

W każdym z tych przypadków dokumenty zostały poddane procesowi wektoryzacji i umieszczone w bazach wektorowych. To specjalna obróbka danych (np. PDF-ów, dokumentów Word, prezentacji), która umożliwia wykorzystanie RAG – czyli odszukanie odpowiednich fragmentów, ich analizę i wygenerowanie precyzyjnej odpowiedzi. Jest to możliwe dzięki integracji narzędzia AI z bazą wektorową. 

[H2] Przewaga RAG nad tradycyjnymi metodami wyszukiwania

RAG działa na bazie wyszukiwania semantycznego. Oznacza to, że "rozumie" intencję i kontekst pytania użytkownika. Natomiast tradycyjne wyszukiwarki tekstowe lub pełnotekstowe skupiają się wyłącznie na znalezieniu dokładnych słów lub fraz wpisanych w pasku wyszukiwania. 

Przykład z życia firmowego: 

Pracownik chce znaleźć informacje o składaniu wniosku o urlop okolicznościowy. W tradycyjnej wyszukiwarce: otrzyma albo 0 wyników (jeśli użyje niewłaściwych słów kluczowych), albo listę kilkunastu dokumentów, które sam musi pobrać, otworzyć, przeczytać i przeanalizować. 

Z RAG proces wygląda inaczej. System odszuka dokumenty, przeanalizuje ich zawartość i poda gotową odpowiedź ze wskazaniem źródeł – wszystko w kilkanaście sekund. Co więcej, nawet jeśli pracownik wpisze bardzo ogólne zapytanie lub użyje całkowicie innych sformułowań, otrzyma właściwą odpowiedź. 

RAG podczas wyszukiwania i analizowania danych bierze pod uwagę synonimy i kontekst, dlatego zapytania "komputer się zawiesił", "laptop przestał działać" czy "system mi stanął" zostaną poprawnie zinterpretowane jako ten sam problem techniczny. 

[H2] Z RAG odpowiedzi są wiarygodne - 0 halucynacji

Jednym z największych wyzwań w pracy z dużymi modelami językowymi (LLM) jest problem halucynacji – sytuacji, w których AI generuje informacje, które brzmią wiarygodnie, ale są nieprawdziwe. RAG rozwiązuje ten problem. 

Gdy bazuje on na aktualnych materiałach firmowych przechowywanych w bazie wektorowej, zyskujemy pewność, że odpowiedzi jakie uzyskamy będą poprawne i wiarygodne - bez halucynacji charakterystycznych dla samodzielnie działających LLM. 

W dużym uproszeniu, można powiedzieć, że RAG zaimplementowany łącznie z LLM   przekształca statyczne dokumenty w dynamiczną bazę wiedzy, która jest dostępna dla wszystkich pracowników i bezapelacyjnie wspomaga przepływ informacji w firmie.  

[H2] RAG + LLM + LOGITO = Helpdesk AI 

Platforma low-code LOGITO umożliwia szybkie tworzenie i modyfikację procesów workflow przez użytkowników biznesowych dzięki BPMN. Implementacja LLM i RAG w LOGITO pozwolił na zbudowanie bardziej zaawansowanego produktu - Helpdesk AI. 

To zaawansowany self-service helpdesk dla procesu zgłaszania problemów technicznych przez pracowników do firmowego Działu IT. Tym, co odróżnia go od standardowego helpdesku jest to, że zanim zgłoszenie trafi do administratora, użytkownicy mogą samodzielnie odnaleźć odpowiedź na zgłoszony problem techniczny. Dla wygody użytkowników zaimplementowano prosty interfejs LLM, który pozwala na sprawniejszą i bardziej interaktywną komunikację – pracownicy mogą opisać problem własnymi słowami, tak jak opowiadaliby o nim koleżance z działu IT. 

Jeśli chcesz dowiedzieć się więcej na temat wykorzystania AI w heldpesku,
zachęcamy do przeczytania naszego artykułu: 

Wsparcie techniczne firmy - jak helpdesk AI redukuje czas obsługi zgłoszeń o 52% 

Czytaj więcej

 

 

[H3] Automatyzacja procesu zgłaszania problemów technicznych – jak to działa w praktyce? 

Jak już wspomnieliśmy, pracownik firmy zgłasza problem techniczny przez prosty formularz zgłoszeń, który znajduje się w Helpdesk AI. Aby lepiej przedstawić, jak przebiega ten proces posłużymy się przykładami częstych zapytań. 

 Po przesłaniu takiego zgłoszenia, rozpoczyna się proces wyszukiwania i generowania rozwiązania problemu w architekturze RAG: 

1. Wektoryzacja zapytania – przesłany tekst zostaje podzielony na mniejsze fragmenty i przekształcony na wektory matematyczne w wielowymiarowej przestrzeni semantycznej. 
2. Wyszukiwanie semantyczne – fragmenty zgłoszenia jak "komputer" + "zwiesił" + "się" system rozpoznaje jako problem techniczny, dopasowując je do synonimów i kontekstu takich jak "awaria sprzętu", "zawieszenie systemu" czy "błąd krytyczny". 
3. Analiza bazy wiedzy – wyszukiwanie ma miejsce w bazie wektorowej zawierającej tysiące wcześniejszych zgłoszeń i rozwiązań. 
4. Generowanie odpowiedzi – odnalezienie i wygenerowanie odpowiedniego rozwiązania zajmuje ułamek sekundy. 

Wykorzystanie mechanizmu RAG i LLM w systemie LOGITO jest niezwykle pomocne dla Działu IT. Jednak sam proces zgłaszania i szybkiego generowania odpowiedzi to zaledwie początek automatyzacji.  

Zespół wdrożeniowy LOGITO rozszerzył sam proces o mechanizm uczenia się. 

Gdy użytkownik otrzyma wygenerowane rozwiązanie, może je przetestować i ocenić. Jeśli rozwiązanie okaże się skuteczne, zgłoszenie automatycznie staje się częścią bazy wiedzy dostępnej dla Helpdesk AI. 

Dzięki temu system ciągle się doskonali i może rozwiązywać kolejne zgłoszenia użytkowników. Jeśli rozwiązania nie było lub nie działa, zgłoszenie jest przekazywane bezpośrednio do administratora Działu IT. To oznacza, że z każdym rozwiązanym problemem Helpdesk AI staje się coraz bardziej skuteczny. 

[H2] RAG i LLM - inteligentne odpowiedzi w procesach firmowych 

Oczywiście, warunkiem poprawnego działania LLM z architekturą RAG dla danego procesu firmy jest posiadanie aktualnej bazy danych o procedurach firmowych.  

Na potrzeby tego artykułu celowo skupiliśmy się na procesach, które są powtarzalne, ale i kojarzą się z papierową dokumentacją. 

[H3] Procesy działu HR z Chatbotem AI + RAG 

Chatbot AI z RAG może obsługiwać różne poziomy dostępu do informacji. Dział HR ma dostęp do pełnej dokumentacji kadrowej, podczas gdy szeregowi pracownicy widzą tylko ogólne procedury i regulaminy. System zachowuje bezpieczeństwo danych wrażliwych, jednocześnie zapewniając szeroką dostępność wiedzy organizacyjnej. 

To podejście eliminuje frustrację związaną z nieefektywnym wyszukiwaniem informacji i pozwala zespołom skupić się na realizacji zadań, zamiast na przeszukiwaniu dokumentacji.  

[H3] Nieobecności: różne rodzaje urlopów  

Gdy pracownik chce pozyskać informacje o procesie zatwierdzania np. urlopu okolicznościowego, może natychmiast zapytać AI o szczegóły: zasady, procedury, terminy czy wymagane załączniki. W zamian otrzymując odpowiedzi oparte na aktualnych dokumentach procesowych, załadowanych do systemu przez administratora workflow. 

[H3] Delegacje i polityka podróży służbowych 

Gdy pracownik pyta o zasady dotyczące delegacji zagranicznych, Chatbot AI (obsługujący RAG) może wyciągnąć fragment z polityki podróży służbowych, regulaminu rozliczania kosztów i procedury rezerwacji hotel - tworząc kompleksową odpowiedź, która uwzględnia wszystkie aspekty procesu.  

[H3] On-boarding - proces wdrożenia nowych pracowników 

Wyobraź sobie sytuację, w której nowy pracownik pyta o procedurę zgłaszania urlopu okolicznościowego. Tradycyjne podejście wymaga wejścia do intranetu, odnalezienia odpowiedniego folderu, otwarcia PDF z regulaminem, przeczytania kilkunastu lub kilkudziesięciu stron i znalezienia właściwego paragrafu. Implementacja Chatbota AI i połączenia go z architekturą RAG pozwala skrócić ten proces do minimum.

[H2] Korzyści implementacji RAG dla firm  

Implementacja LLM z RAG to nic innego jak automatyzacja proces pozyskiwania informacji, co przekłada się na mierzalne korzyści biznesowe: 
 

[H3] Oszczędność czasu i zwiększona produktywność zespołów 

Według badania Coveo, przeciętny pracownik spędza 3.6 godziny dziennie na wyszukiwaniu informacji potrzebnych do wykonania zadań. Natomiast RAG redukuje ten czas do kilkunastu sekund na zapytanie. A to w skali roku oznacza setki godzin zaoszczędzonego czasu pracy, który można przeznaczyć na działania generujące wartość dla firmy. Efekt wdrożenia? Zwiększona produktywność zespołów. 

[H3] Eliminacja błędów i mniej naruszeń polityki firmowej 

W tradycyjnym modelu pracownicy często opierają się na zapamiętanych informacjach, które mogły się zmienić tydzień temu. To prowadzi do: 

• konieczności poprawek, 

• opóźnień w procesach, 

• frustracji wszystkich zaangażowanych stron. 

Przykład: Gdy pracownik rozliczający delegacje ma dostęp do aktualnych procedur rozliczeniowych i limitów wydatków, ryzyko zatwierdzenia dokumentów niezgodnych z polityką firmową spada praktycznie do zera. 

[H3] Nieograniczony dostęp do informacji - niezależnie od lokalizacji i czasu 

Mechanizm RAG zaimplementowany w LLM ma szczególne znaczenie dla organizacji rozproszonych geograficznie lub pracujących w modelu hybrydowym. 

Pracownicy zdalni mogą otrzymać natychmiastową odpowiedź na pytanie o procedury, zasady czy politykę firmy w danym obszarze działania - niezależnie od strefy czasowej, w której pracują. Chatbot LLM firmowy działa 24/7 i pod warunkiem jest zostanie dobrze zaimplementowany skróci czas oczekiwania na odpowiedź i pozwoli na kontynuację zadań. 

[H3] Skalowalność bazy informacji 

Wraz z rozwojem organizacji rośnie liczba procedur, regulaminów i instrukcji. A to wszystko jest zazwyczaj umieszczane w intranecie, gdzie pracownik musi sam “przeklikiwać” się po plikach, szukając tego właściwego. Przewaga RAG polega na skalowalności: 

• Dodanie nowych plików i danych jest proste. 

• Niezależnie od ilości procedur, regulaminów i instrukcji, informacje są szybko odszukiwane. 

• Czas generowania odpowiedzi nie wydłuża się wraz ze wzrostem bazy wiedzy. 

• Implementacja nie przekłada się na rosnącą złożoność systemu. 

• Informacje pozostają ogólnodostępne dla uprawnionych pracowników. 

[H2] Podsumowując… 

Zaawansowane działanie architektury RAG i połączenie jej ze sztuczną inteligencją to praktyka, która ma ogromny potencjał. Dzięki temu połączeniu możesz uzyskać: 

• Dynamiczną bazę wiedzy dostępną dla całej organizacji. 

• Skrócenie czasu wyszukiwania informacji z godzin do sekund. 

• Eliminację błędów wynikających z nieaktualnej wiedzy. 

• Rozwiązanie problemu rozproszonej informacji poprzez inteligentną centralizację. 

Jeśli Twoja firma boryka się z nieefektywnymi obiegami dokumentów i procesami, poznaj możliwości platformy LOGITO low-code i sprawdź, jak mechanizm RAG + LLM może usprawnić codzienną pracę Twoich zespołów.  

Gotowy na zmianę?