From the field
Field Notes
Szczere notatki z rzeczywistej pracy z lokalną AI — próby, porażki, przyczyny i to, co ostatecznie zadziałało. Praktyczne lekcje, nie teoria.
RAG na dokumentach prawnych — czego pilnować po dłuższym użytkowaniu
Praktyczna notatka o pracy z prywatnym RAG na dokumentach prawnych. Zbiór wniosków i rzeczy, których warto pilnować przy dłuższym użytkowaniu — bez odwoływania się do konkretnego, udokumentowanego wdrożenia.
Field Note: wdrożenie w sieci odizolowanej od internetu
Notatka z wdrożenia w środowisku bez dostępu do internetu. Standardowe instrukcje instalacji zakładające pobieranie z sieci okazały się bezużyteczne.
Field Note: migracja z API w chmurze na model lokalny
Notatka z migracji z zewnętrznego API na lokalny model. Największym wyzwaniem okazał się nie sam model, lecz różnice w formacie odpowiedzi i prompty.
Field Note: niedoszacowanie pamięci przy modelu 70B
Notatka z wdrożenia: model 70B nie zmieścił się na zaplanowanym sprzęcie, bo policzono samą wagę modelu, pomijając pamięć na kontekst. Lekcja o planowaniu zasobów.