Jest za to powolny spadek trafności, kilka nietypowych przypadków, których nikt nie analizuje, i wykres pokazujący, że wszystko nadal mieści się w planie. A potem system odrzuca dobrego klienta, przepuszcza podejrzaną transakcję albo prognozuje popyt na podstawie świata, który właśnie przestał istnieć.
To właśnie jest najczęstsza przyczyna degradacji modeli uczenia maszynowego: rzeczywistość zmienia się szybciej niż założenia zapisane w danych treningowych. Do tego dochodzi trenowanie na danych syntetycznych, które potrafią wyczyścić z modelu rzadkie, ale biznesowo najcenniejsze przypadki. Rynek oczywiście nazywa to „ciągłym doskonaleniem”. Księgowość częściej widzi kosztowne poprawki.
Model nie zna przyszłości. Zna tylko poprzedni rozkład danych
Model nie rozumuje jak analityk siedzący nad arkuszem i pytający, co właściwie wydarzyło się w gospodarce. Rozpoznaje wzorce, które znalazł w danych. Jeśli dane przestają przypominać materiał treningowy, model nadal będzie działał — tyle że zacznie udzielać odpowiedzi na pytania z poprzedniej epoki.
System wykrywający oszustwa może być trenowany na transakcjach, w których dominowały określone kanały płatności, urządzenia i schematy zachowań. Wystarczy, że klienci przeniosą się do portfeli cyfrowych, bank zmieni sposób autoryzacji albo przestępcy zaczną korzystać z nowych metod. Model nie dostaje wtedy magicznej aktualizacji. Widzi nowe dane i próbuje dopasować je do starych reguł.
W praktyce degradacja modeli uczenia maszynowego ma kilka źródeł, ale dwa pojęcia porządkują większość przypadków:
- dryf danych oznacza zmianę rozkładu danych wejściowych — zmienia się to, co model otrzymuje na wejściu;
- dryf konceptu oznacza zmianę relacji między cechami a właściwą odpowiedzią — te same sygnały zaczynają oznaczać coś innego niż wcześniej.
To rozróżnienie nie jest akademicką zabawą dla zespołu analitycznego, który dostał budżet na kolejne narzędzie. Od niego zależy sposób diagnozy.
Dryf danych: świat zmienia dekoracje
Załóżmy, że firma zbudowała model przewidujący rezygnację klienta z abonamentu. W czasie trenowania największe znaczenie miały częstotliwość logowania, liczba zgłoszeń do obsługi i wykorzystanie podstawowych funkcji. Po zmianie cennika klienci zaczynają logować się rzadziej, ale korzystają z aplikacji mobilnej, której starszy model prawie nie uwzględnia.
Dane wejściowe są inne. Nie musi to jeszcze oznaczać, że model całkowicie stracił wartość. Może nadal poprawnie rozpoznawać część klientów zagrożonych odejściem, choć rozkład cech wyraźnie się przesunął. Sam dryf danych nie jest dowodem spadku jakości. Jest sygnałem, że model pracuje w nowych warunkach i trzeba sprawdzić, czy jego decyzje nadal mają sens.
Dryf może dotyczyć między innymi:
- udziału poszczególnych grup klientów;
- wartości transakcji i częstotliwości zakupów;
- kanałów kontaktu z firmą;
- rodzaju urządzeń, z których korzystają użytkownicy;
- lokalizacji, języka lub sposobu wypełniania formularzy;
- udziału brakujących danych;
- proporcji klas, na przykład relacji transakcji prawidłowych do podejrzanych.
W e-commerce sezonowa wyprzedaż nie jest katastrofą, tylko przewidywalnym wydarzeniem. Model można do niej przygotować. Problem zaczyna się wtedy, gdy firma udaje, że każdy listopad wygląda jak wrzesień, bo tak wychodzi w prezentacji dla zarządu.
Dryf konceptu: sygnał zostaje, znaczenie ucieka
Dryf konceptu jest bardziej zdradliwy. Dane mogą wyglądać podobnie, ale zmienia się ich znaczenie.
W modelu oceniającym ryzyko kredytowe dochód, historia spłat i poziom zadłużenia nadal wyglądają jak wcześniej. Zmieniają się jednak warunki gospodarcze: rosną koszty życia, pojawiają się zwolnienia w konkretnej branży, a dotychczas stabilna grupa klientów zaczyna mieć problemy ze spłatą. Te same cechy nie prowadzą już do takiej samej decyzji jak kilka lat temu.
Podobny problem występuje w rekrutacji. Model może uznawać określone doświadczenie za dobry predyktor sukcesu, ponieważ w danych historycznych osoby o takim profilu długo pozostawały w firmie. Po zmianie struktury pracy, technologii albo zespołów ta zależność może osłabnąć. Algorytm nadal działa zgodnie z instrukcją. To instrukcja przestała opisywać rzeczywistość.
Model nie „głupieje” nagle. Najczęściej nadal bardzo konsekwentnie odpowiada na pytanie, którego firma już nie zadaje.
Rozpoznanie dryfu konceptu wymaga czegoś, czego automatyzacja nie lubi najbardziej: prawdziwych wyników i czasu. Trzeba poczekać na etykiety, czyli sprawdzić, czy przewidywania faktycznie się potwierdziły. W systemie antyfraudowym może to oznaczać wynik dochodzenia. W kredytach — spłatę zobowiązania. W logistyce — rzeczywistą datę dostawy.
Bez tych danych można wykryć, że wejście się zmieniło, ale nie zawsze da się stwierdzić, czy model zaczął podejmować gorsze decyzje.
Nagły skok, powolne przesunięcie i powracający problem
Nie każdy dryf wygląda tak samo. Tempo zmiany ma znaczenie, ponieważ model i organizacja reagują inaczej na awarię z dnia na dzień niż na powolne przesuwanie się rynku.
Nagły dryf
Najprostszy przypadek: stary wzorzec zostaje szybko zastąpiony nowym. Zmienia się dostawca płatności, regulamin, formularz, sposób oznaczania danych albo źródło informacji. Model trenowany na poprzednim układzie może niemal natychmiast zacząć działać gorzej.
To zdarza się również po zmianach technicznych. Firma modyfikuje proces przesyłania danych, zmienia jednostkę pomiaru albo zaczyna zapisywać wartości w innej skali. Dla człowieka różnica może być oczywista. Dla modelu jest to nowa rzeczywistość, w której znane liczby mają inne znaczenie.
Dryf stopniowy
W tym wariancie stare i nowe wzorce występują naprzemiennie. Przez pewien czas model widzi klientów zachowujących się jak dawniej, a potem grupę reagującą według nowych reguł. Wynik bywa przeciętny, więc nikt nie uruchamia alarmu. Statystyka dobrze maskuje problem, jeśli patrzy się wyłącznie na średnią.
Dryf przyrostowy
Zmiana zachodzi powoli. Klienci stopniowo przechodzą do nowego kanału, rośnie znaczenie urządzeń mobilnych, zmienia się struktura zamówień. Każdy pojedynczy tydzień wygląda niewinnie. Po kilku miesiącach model jest jednak oparty na obrazie rynku, którego już nie ma.
To najwygodniejszy dryf dla prezentacji zarządczych. Nie ma jednego dnia, w którym można wskazać winnego. Jest za to kwartalny spadek jakości, który da się opisać jako „przejściową zmienność”.
Dryf powracający i sezonowy
Niektóre wzorce wracają. Wyprzedaże, święta, początek roku akademickiego, okres rozliczeń podatkowych czy sezon urlopowy zmieniają zachowania klientów, ale niekoniecznie zaskakują. Jeśli model zna kalendarz, może uwzględnić sezonowość.
Ryzyko pojawia się wtedy, gdy firma myli znany cykl z przypadkowym szumem albo odwrotnie — traktuje nowe, trwałe zachowanie jak kolejny sezonowy wybryk. W pierwszym przypadku model nie jest przygotowany na powtarzalne zdarzenie. W drugim będzie czekał, aż rynek „wróci do normy”, choć normą jest już coś innego.
| Rodzaj zmiany | Co dzieje się z danymi | Typowy skutek biznesowy | Najrozsądniejsza reakcja |
|---|---|---|---|
| Nagła | Stary wzorzec szybko znika | Gwałtowny spadek trafności po zmianie procesu | Szybka analiza źródła zmiany i kontrola decyzji |
| Stopniowa | Stare i nowe przypadki występują naprzemiennie | Wyniki są nierówne, ale średnia ukrywa problem | Analiza segmentów i krótsze okna monitorowania |
| Przyrostowa | Rozkład danych powoli przesuwa się w czasie | Model traci skuteczność bez wyraźnego momentu awarii | Stałe porównywanie danych bieżących z referencyjnymi |
| Powracająca lub sezonowa | Zmiana pojawia się cyklicznie | Błędy w konkretnych okresach roku | Uwzględnienie kalendarza i osobna ocena sezonów |
Zapaść modelu, czyli kiedy sztuczna treść zaczyna pożerać własny ogon
Dryf to niejedyny problem. Coraz więcej modeli generatywnych uczy się w środowisku, w którym treści wygenerowane przez sztuczną inteligencję mieszają się z materiałami przygotowanymi przez ludzi. Brzmi jak oszczędność. Firma nie musi zamawiać kolejnych zbiorów danych, można przecież wygenerować brakujące przykłady, a następnie wykorzystać je do dalszego treningu.
To właśnie tutaj zaczyna się księgowość kreatywna danych.
Zapaść modelu polega na stopniowej degradacji modelu trenowanego rekurencyjnie na danych syntetycznych. W kolejnych generacjach znikają informacje o rzadkich, nietypowych przypadkach — tak zwanych ogonach rozkładu. Model coraz lepiej odtwarza przeciętność, a coraz gorzej radzi sobie z tym, co nietypowe.
Badanie opublikowane w czasopiśmie „Nature” w lipcu 2024 roku pokazało, że wielokrotne trenowanie modeli na treściach generowanych przez sztuczną inteligencję prowadzi do spadku jakości i zawężania rozkładu danych do jego uśrednionej wersji. Nie jest to opowieść o tym, że każda sztuczna treść natychmiast niszczy każdy model. To byłaby równie wygodna, co fałszywa teza. Problem polega na kumulacji.
Jeżeli model uczy się na materiałach, które same zostały uśrednione, a później generuje kolejne materiały dla następnej generacji modelu, rzadkie sygnały zaczynają znikać. Zostają najczęściej spotykane odpowiedzi, typowe style, popularne przypadki. Z punktu widzenia prezentacji wszystko może wyglądać schludnie. Z punktu widzenia wykrywania oszustw, anomalii i nietypowych zachowań — właśnie wyrzucono najcenniejszą część danych.
Dlaczego ogony rozkładu mają znaczenie
W wielu zastosowaniach biznesowych przeciętny przypadek jest łatwy. Trudność zaczyna się na krańcach:
- przy bardzo nietypowej transakcji;
- w zachowaniu klienta, które pojawia się raz na kilka tysięcy przypadków;
- w rzadkim błędzie urządzenia przemysłowego;
- w oszustwie, którego schemat dopiero się kształtuje;
- w zapytaniu użytkownika, którego nie przewidzieli twórcy systemu;
- w kombinacji kilku pozornie niegroźnych sygnałów.
Model uczony wyłącznie na dominujących wzorcach będzie sprawny w odtwarzaniu typowego użytkownika. Tyle że biznes nie płaci najwięcej za poprawne rozpoznawanie typowego użytkownika. Płaci za uniknięcie kosztownej pomyłki.
Dane syntetyczne mogą być użyteczne: pomagają uzupełnić braki, testować skrajne scenariusze i zwiększać różnorodność zbioru. Nie powinny jednak udawać rzeczywistości, której mają tylko pomagać. Mieszanie ich z danymi rzeczywistymi, kontrola pochodzenia oraz zachowanie reprezentatywnych przypadków granicznych są ważniejsze niż kolejna obietnica szybszego skalowania.
„Wydajność” bez pomiaru jest tylko nastrojem inwestorskim
Firma może mieć model działający z imponującą dokładnością na danych testowych i jednocześnie tracić pieniądze na produkcji. Wynika to z mylenia jakości laboratoryjnej z jakością operacyjną.
Model powinien być obserwowany nie tylko przez pryzmat jednej wartości dokładności. W zależności od zastosowania znaczenie mogą mieć precyzja, czułość, odsetek fałszywych alarmów, stabilność wyników w segmentach oraz koszt błędnych decyzji. Wykrycie jednej dodatkowej próby oszustwa może być warte więcej niż kilka tysięcy poprawnie zaklasyfikowanych transakcji. Z kolei w systemie rekomendacji chwilowy spadek trafności może być mniej groźny niż trwałe faworyzowanie jednego typu produktu.
Co można mierzyć bez natychmiastowych etykiet
Nie zawsze da się od razu sprawdzić, czy przewidywanie było prawidłowe. Wtedy zespół monitoruje same dane wejściowe i porównuje je z rozkładem referencyjnym.
Do tego wykorzystuje się między innymi:
- wskaźnik stabilności populacji, znany jako PSI, który pokazuje przesunięcie rozkładu między okresem bazowym a bieżącym;
- dywergencję Kullbacka–Leiblera, mierzącą różnicę między dwoma rozkładami;
- dywergencję Jensena–Shannona, będącą bardziej symetrycznym sposobem porównywania rozkładów;
- test Kołmogorowa–Smirnowa, przydatny do badania, czy dwie próbki mogą pochodzić z podobnego rozkładu.
Żadna z tych miar nie jest wyrocznią. Nie istnieje uniwersalny próg PSI, po którego przekroczeniu każdy model należy natychmiast wyrzucić i trenować od nowa. W systemie kredytowym, marketingowym i przemysłowym ta sama wartość może oznaczać coś zupełnie innego. Metryka jest sygnałem do dochodzenia, nie automatem do podejmowania decyzji.
Równie istotne jest badanie dryfu osobno dla segmentów. Średnia dla całej populacji może wyglądać stabilnie, podczas gdy model przestaje działać dla nowych klientów, konkretnego regionu albo określonego typu urządzeń. Średnia jest świetnym narzędziem do uspokajania zarządu. Rzadziej służy do znajdowania problemów.
Narzędzia, które nie naprawią złego procesu
W środowisku Pythona zespoły często korzystają z bibliotek takich jak evidently, deepchecks, nannyml, alibi-detect czy river. Pozwalają one wykrywać przesunięcia rozkładów, monitorować jakość predykcji i budować mechanizmy obserwacji modeli.
Nie oznacza to jednak, że instalacja biblioteki rozwiązuje problem. Narzędzie pokaże zmianę. Ktoś musi jeszcze ustalić:
1. czy zmiana wynika z błędu w zasilaniu danych, czy z realnego ruchu rynkowego;
2. czy przesunięcie dotyczy całej populacji, czy tylko jednego segmentu;
3. czy pogorszyła się jakość decyzji, czy jedynie zmieniły się dane wejściowe;
4. jaki jest koszt pozostawienia modelu bez zmian;
5. czy lepsza będzie korekta cech, aktualizacja progów, ponowne trenowanie, czy wycofanie modelu.
Samo „wykryliśmy dryf” nie jest jeszcze osiągnięciem. To dopiero moment, w którym kończy się opowieść o automatyzacji, a zaczyna odpowiedzialność operacyjna.
Monitoring modelu nie polega na tym, żeby wykres był zielony. Polega na tym, żeby firma wiedziała, kiedy zielony wykres kłamie.
Ściana danych: problem, którego nie da się zagadać kolejnym modelem
Modele generatywne potrzebują wysokiej jakości danych. Nie dowolnych znaków zebranych z internetu, lecz materiałów reprezentatywnych, różnorodnych i możliwie wolnych od wcześniejszych zniekształceń generowanych przez maszyny.
Szacunki organizacji Epoch AI wskazują, że przy obecnym tempie rozwoju wysokiej jakości tekstów stworzonych przez ludzi może zabraknąć między 2026 a 2028 rokiem. To tak zwana ściana danych. Sama nazwa brzmi efektownie, więc zapewne niebawem pojawi się w kilku prezentacjach jako nowa kategoria ryzyka, obok „transformacji” i „synergii”. Problem jest jednak realny: zapotrzebowanie na dane rośnie szybciej niż zasób świeżych, wartościowych materiałów.
W odpowiedzi firmy technologiczne sięgają po dane analogowe. Pojawiają się masowe wykupywanie książek wydanych przed erą powszechnego użycia generatywnej sztucznej inteligencji, a następnie ich destrukcyjne skanowanie. Wydajność takiego procesu może sięgać około 80–120 stron na minutę. Brzmi mało elegancko, ale rynek kapitałowy od dawna nie wymaga elegancji, jeśli można wykazać wzrost zasobu danych.
Książki i archiwa nie są jednak automatycznie czyste ani idealne. Mogą zawierać błędy, ograniczenia tematyczne, przestarzałe informacje i reprezentować tylko określone grupy autorów. Ich wartość polega nie na magicznej analogowości, ale na tym, że powstały przed masowym zalaniem obiegu treściami generowanymi przez modele.
Jak nie wpuścić zapaści do procesu
Problem danych syntetycznych trzeba kontrolować na poziomie całego łańcucha, nie tylko podczas końcowego treningu. Przydatne są między innymi:
- rejestrowanie pochodzenia zbiorów i wersji danych;
- oddzielanie danych rzeczywistych od syntetycznych;
- oznaczanie materiałów wygenerowanych lub przetworzonych przez modele;
- przechowywanie zestawów referencyjnych z rzadkimi i skrajnymi przypadkami;
- testowanie modelu na danych pochodzących z różnych okresów;
- kontrolowanie, czy syntetyczne uzupełnienia nie zmieniają proporcji klas;
- regularna ocena jakości na przypadkach, które nie przypominają średniej.
Nie ma jednej magicznej wartości procentowej, po której użycie danych syntetycznych zawsze prowadzi do zapaści. Zależy to od architektury, jakości danych, sposobu mieszania zbiorów i charakteru zadania. Kto twierdzi inaczej, prawdopodobnie sprzedaje prostą odpowiedź do złożonego problemu. Rynek technologiczny ma takich odpowiedzi pod dostatkiem.
Co naprawdę robić, gdy model traci skuteczność
Pierwszym odruchem bywa ponowne trenowanie. Czasami jest potrzebne. Czasami jest tylko drogim rytuałem, który przykrywa awarię źródła danych.
Najpierw trzeba ustalić, co dokładnie się zmieniło. Czy model otrzymuje inne dane? Czy etykiety są opóźnione albo błędne? Czy zmienił się proces biznesowy? Czy spadek jakości dotyczy wszystkich przypadków, czy tylko jednego segmentu? Czy model działa gorzej, czy firma po prostu zaczęła mierzyć wynik inną metodą?
Dopiero później można wybrać reakcję:
- korekta danych — gdy problem wynika z błędnego mapowania, braków albo zmiany formatu;
- aktualizacja cech — gdy dotychczasowe zmienne przestały opisywać zachowanie klientów;
- dostrojenie progów decyzyjnych — gdy rozkład wyników się przesunął, ale model nadal rozpoznaje zależności;
- ponowne trenowanie — gdy relacje w danych rzeczywiście się zmieniły i stary zbiór przestał wystarczać;
- modelowanie sezonowe lub segmentowe — gdy jedna reguła nie pasuje do kilku różnych cykli i grup;
- czasowe ograniczenie automatyzacji — gdy koszt błędów przewyższa korzyść z bezobsługowego działania.
Ta ostatnia opcja jest w firmach technologicznych traktowana jak porażka. Niesłusznie. Wyłączenie automatycznej decyzji, gdy model przestaje być wiarygodny, może być oznaką dojrzałości, nie słabości. Startupy uwielbiają opowieść o systemie działającym bez człowieka. Rzeczywistość zwykle dopisuje do niej człowieka, który później ręcznie odkręca konsekwencje.
Najdroższy błąd to uznać stabilność za stan stały
Modele uczenia maszynowego tracą dokładność nie dlatego, że pewnego ranka postanawiają zbuntować się przeciwko swoim twórcom. Tracą ją, bo świat się zmienia, dane są niepełne, etykiety przychodzą z opóźnieniem, a część organizacji traktuje wdrożenie jako finał projektu, choć jest to dopiero początek eksploatacji.
Dryf danych mówi, że wejście się przesunęło. Dryf konceptu ostrzega, że zmieniło się znaczenie sygnałów. Zapaść modelu pokazuje, co może się wydarzyć, gdy firma zacznie karmić kolejne generacje modeli własnym uproszczonym odbiciem rzeczywistości. Metryki i biblioteki pomagają te zjawiska zauważyć, ale nie zdejmują z nikogo obowiązku interpretacji.
Najbardziej odporne systemy nie są tymi, które obiecują niezmienną skuteczność. Są tymi, które potrafią wykazać, kiedy ich skuteczność przestała być wiarygodna. To mniej efektowna historia niż kolejny jednorożec z wykresem wzrostu przypominającym kij hokejowy. Za to zdecydowanie lepiej działa w świecie, w którym dane mają nieprzyjemny zwyczaj zmieniać się bez zgody działu marketingu.
