RAG Clinic: zły podział dokumentów na fragmenty

Model udziela odpowiedzi, którym brakuje kluczowego fragmentu zdania lub definicji z początku akapitu.

Informacja istnieje w dokumencie, ale została rozcięta między dwa fragmenty.

Odpowiedzi urywają się w połowie myśli lub pomijają warunek podany w sąsiednim zdaniu.

System „nie widzi” informacji, o której wiadomo, że jest w dokumencie.

Sztywny podział po liczbie znaków przecina zdania i tabele w przypadkowych miejscach.

Fragment trafiający do modelu bywa pozbawiony kontekstu niezbędnego do zrozumienia.

Obejrzyj kilka losowych fragmentów tak, jak widzi je system.

Jeśli zaczynają się lub kończą w środku zdania, podział jest zbyt mechaniczny.

Dziel tekst z poszanowaniem struktury: akapitów, nagłówków i granic zdań.

Zastosuj zakładkę (overlap) między fragmentami, aby nie gubić kontekstu na stykach.

Zadaj pytania, których odpowiedź leży na granicy dwóch fragmentów.

Sprawdź, czy po zmianie podziału odpowiedź zawiera komplet potrzebnych informacji.

Dla dokumentów o wyraźnej strukturze warto dzielić według sekcji, a nie po liczbie znaków.

Czasem pomaga przechowywanie większego fragmentu-rodzica obok mniejszych fragmentów do wyszukiwania.

Jeden, uniwersalny rozmiar fragmentu dla wszystkich typów dokumentów.

Brak zakładki między fragmentami i ignorowanie struktury oryginału.

Przy dzieleniu dokumentów uważaj, by nie rozdzielać danych od kontekstu, który określa ich poufność.

Chunking to decyzja projektowa, nie szczegół techniczny.

Naszym zdaniem to tutaj najczęściej przesądza się o tym, czy wdrożenie RAG będzie użyteczne, czy frustrujące.