Machine Learning w klasyfikacji dokumentów

Machine Learning w klasyfikacji dokumentów to wykorzystanie uczenia maszynowego do rozpoznawania rodzaju dokumentu i przypisywania go do określonej kategorii. Model identyfikuje wzorce w danych, które pomagają odróżniać np. faktury, umowy i pisma.

Machine Learning w klasyfikacji dokumentów - co to jest?


Uczenie maszynowe jest obszarem sztucznej inteligencji. W podejściu nadzorowanym model korzysta z przykładów dokumentów oznaczonych poprawnymi kategoriami. Podczas treningu uczy się zależności, które następnie wykorzystuje przy analizie nowych materiałów. Zależnie od technologii może uwzględniać treść, cechy językowe i układ dokumentu.

Przykładowo oznaczone faktury od różnych dostawców pomagają przygotować klasyfikator do rozpoznawania tej kategorii mimo różnic w wyglądzie dokumentów. Jego skuteczność trzeba jednak sprawdzić na materiałach niewykorzystanych podczas uczenia.

 

Jaką rolę pełni ML w obsłudze dokumentów?


W procesie mogą współpracować trzy mechanizmy:

  • OCR odczytuje tekst ze skanu lub zdjęcia.
  • Model klasyfikacyjny określa kategorię dokumentu na podstawie dostępnych informacji.
  • Workflow wykonuje dalsze działania zgodnie z regułami, np. przekazuje dokument do odpowiedniego działu.


Pobieranie konkretnych wartości, takich jak numer faktury czy kwota, jest dodatkowym zadaniem — ekstrakcją danych. Można połączyć je z klasyfikacją w jednym procesie.

Od czego zależy skuteczność modelu?

 

Znaczenie mają przede wszystkim:

  • jasne definicje kategorii i poprawne oznaczenie przykładów,
  • uwzględnienie różnych układów oraz jakości dokumentów,
  • reprezentacja rzadziej występujących typów,
  • oddzielenie dokumentów treningowych od testowych,
  • regularna ocena wyników po wdrożeniu.


Zbiór testowy powinien odzwierciedlać dokumenty rzeczywiście obsługiwane przez firmę. Wykorzystanie tych samych materiałów do uczenia i końcowej oceny może prowadzić do zbyt optymistycznych wniosków.

 

Cel biznesowy


Celem biznesowym wykorzystania Machine Learning w klasyfikacji dokumentów jest ograniczenie ręcznego rozpoznawania i segregowania materiałów oraz przyspieszenie ich właściwej obsługi.

Model pomaga ustalić rodzaj dokumentu, a powiązany z nim proces określa dalszą ścieżkę. Takie połączenie jest przydatne w organizacjach otrzymujących wiele dokumentów o różnych układach i treści. Efekty warto oceniać przez czas obsługi, liczbę pomyłek oraz nakład pracy potrzebny do ich poprawiania.

 

Korzyści


Do ogólnych korzyści z zastosowania ML w klasyfikacji dokumentów należą:

  • Mniej ręcznego sortowania - ograniczenie powtarzalnego otwierania i oznaczania plików.
  • Szybsza rejestracja - wcześniejsze ustalenie rodzaju wpływającego dokumentu.
  • Obsługa różnorodnych układów - możliwość wykorzystania wzorców wyuczonych na zróżnicowanych przykładach.
  • Spójniejsze kategoryzowanie - stosowanie ustalonego podziału dokumentów.
  • Łatwiejsze skalowanie obsługi - automatyzacja części pracy przy rosnącej liczbie materiałów.
  • Więcej czasu na wyjątki - skupienie uwagi pracowników na przypadkach wymagających oceny.


Korzyści zależą od jakości modelu i jego powiązania z procesem. Należy uwzględniać również czas weryfikacji oraz korygowania błędnych przypisań.

 

Jak działa klasyfikacja dokumentów w LOGITO?


LOGITO opisuje wykorzystanie OCR i modeli językowych do klasyfikacji oraz wyodrębniania danych z dokumentów. Rozpoznany typ może uruchamiać właściwy obieg i kierować sprawę do odpowiednich osób zgodnie z rolami oraz regułami organizacji.

W projekcie wykorzystującym ML trzeba ustalić dobór modelu, sposób jego dostosowania, zestaw kategorii oraz zasady aktualizacji. Funkcjonalną klasyfikację dokumentów należy połączyć z kontrolą jakości wyników.
 

Korzyści z LOGITO

Zagrożenia bez LOGITO

Rozpoznawanie rodzaju dokumentu, np. faktury, umowy lub pisma.

Ręczne przeglądanie plików i opóźnienia w ich rejestracji.

Połączenie OCR z analizą skanów, PDF-ów i zdjęć.

Oddzielne wykonywanie odczytu i segregowania dokumentów.

Powiązanie rozpoznanej kategorii z odpowiednim obiegiem.

Ręczne wybieranie ścieżki i przekazywanie dokumentów niewłaściwym odbiorcom.

Możliwość połączenia klasyfikacji z uzupełnianiem danych w formularzu.

Dodatkowe przepisywanie informacji po rozpoznaniu typu dokumentu.

Zarządzanie zakresem działania AI w wybranych procesach.

Rozproszone wykorzystanie narzędzi i ręczne przenoszenie wyników analizy do obiegu.


Opisane możliwości dotyczą klasyfikacji AI i jej integracji z workflow. Zagrożenia w tabeli odnoszą się przede wszystkim do ręcznej obsługi bez LOGITO lub porównywalnego rozwiązania.

 

Przykładowy przebieg procesu


Scenariusz do zaprojektowania i skonfigurowania w organizacji może obejmować:

  1. Wpływ dokumentu - plik trafia do obsługi.
  2. Przygotowanie treści - w razie potrzeby OCR odczytuje tekst.
  3. Klasyfikację - model wskazuje kategorię dokumentu.
  4. Weryfikację wyjątku - niejednoznaczny wynik sprawdza pracownik.
  5. Uruchomienie dalszej obsługi - dokument trafia do właściwego obiegu.

Rozpoznanie kategorii powinno wspierać dalszą pracę. Ocena merytoryczna i akceptacja dokumentu pozostają odrębnymi zadaniami, a zakres kontroli człowieka należy określić podczas projektowania procesu.

 

6 kroków wdrożenia ML w klasyfikacji dokumentów

 

  1. Wybierz proces i cel. Określ, gdzie ręczne sortowanie zajmuje najwięcej czasu i jaki efekt ma przynieść automatyzacja.
  2. Zdefiniuj kategorie. Opisz ich znaczenie, granice oraz sposób obsługi dokumentów niepasujących do przyjętego podziału.
  3. Przygotuj dane. Zbierz zróżnicowane przykłady, zweryfikuj oznaczenia i wydziel niezależny zestaw do oceny.
  4. Dobierz i przygotuj model. Ustal, czy wystarczy model gotowy, czy potrzebne będzie dostrojenie lub trening klasyfikatora na danych firmy.
  5. Przeprowadź pilotaż. Sprawdź wyniki dla każdej kategorii, przeanalizuj pomyłki i ustal zasady kierowania przypadków do ręcznej kontroli.
  6. Monitoruj i aktualizuj rozwiązanie. Obserwuj nowe rodzaje dokumentów oraz błędy. Zmiany modelu oceniaj przed wdrożeniem kolejnej wersji.


Wynik pilotażu należy porównać z obecną obsługą, uwzględniając czas pracy i koszt poprawek.

 

Kryteria i ocena

 
Poniższa ocena ma charakter orientacyjny i wymaga odniesienia do dokumentów oraz procesów firmy.

Kryterium

Ocena

Czas wdrożenia

Zależny od gotowości kategorii, jakości przykładów i zakresu dostosowania modelu. Istotną część prac stanowią testy.

Wpływ na bezpieczeństwo

Zależny od środowiska przetwarzania, uprawnień i zasad wykorzystania danych do uczenia. Dostęp do dokumentów wymaga kontroli.

Koszt wdrożenia

Indywidualny. Obejmuje przygotowanie i oznaczenie danych, konfigurację, ewentualny trening, testy, integrację oraz utrzymanie.

Kompatybilność z aktualnymi rozwiązaniami

Do sprawdzenia pod kątem formatów, języków, jakości skanów i możliwości przekazania kategorii do używanego obiegu.

Oszczędność czasu w organizacji

Potencjalnie wysoka przy dużej liczbie dokumentów. Należy odliczyć czas ręcznej weryfikacji oraz poprawiania przypisań.

 

Podsumowanie


Machine Learning pomaga rozpoznawać rodzaje dokumentów na podstawie wzorców wyuczonych z danych. Jakość rozwiązania zależy od kategorii, przykładów i niezależnej oceny wyników.

LOGITO łączy klasyfikację AI z OCR i obiegiem dokumentów. Przy wdrożeniu opartym na ML należy określić sposób przygotowania modelu, aktualizacji i obsługi przypadków wymagających kontroli.

Najczęstsze pytania

OCR odczytuje tekst z obrazu dokumentu. Model ML może wykorzystać odczytaną treść i inne cechy do określenia kategorii. Oba mechanizmy mogą współpracować.

Można wykorzystać model wcześniej wytrenowany, dostroić go lub przygotować dedykowany klasyfikator. Wybór zależy od kategorii, dostępnych danych i wymaganej jakości.

Nie ma jednej liczby właściwej dla wszystkich wdrożeń. Znaczenie mają technologia, podobieństwo kategorii i różnorodność materiałów. Wystarczalność danych należy ocenić na niezależnych testach obejmujących każdą kategorię.

Sposób wykorzystania korekt trzeba zaprojektować. Poprawione oznaczenia mogą zasilać kolejne uczenie, ale aktualizacja może wymagać przygotowania danych, ponownego treningu i wdrożenia nowej wersji modelu.

Warto oceniać osobno każdą kategorię, wykorzystując m.in.:

  • Precyzję (precision) - jaka część dokumentów przypisanych do kategorii rzeczywiście do niej należy.
  • Czułość (recall) - jaka część wszystkich dokumentów danej kategorii została poprawnie rozpoznana.
  • Nakład kontroli ręcznej - ile wyników wymaga sprawdzenia i poprawy.

Precyzję i czułość oblicza się przez porównanie wyników modelu z poprawnymi oznaczeniami w zbiorze testowym.