Przejdź do treści

Tutoriale how-to

SageMaker AI ML Lineage Tracking: jak śledzić pochodzenie modeli

Zaktualizowano: Autor: Andrzej Niemiec9 min czytania

Czym jest Amazon SageMaker AI ML Lineage Tracking, co śledzi automatycznie, czym różni się lineage dataset-level od record-level i jakie wymogi dokumentacyjne stawia KNF.

SageMaker AI ML Lineage Tracking: jak śledzić pochodzenie modeli
Spis treści
  1. Czym jest Amazon SageMaker AI ML Lineage Tracking?
  2. Co SageMaker AI śledzi automatycznie, a czego nie?
  3. Jakie elementy trzeba wersjonować, żeby odtworzyć model?
  4. Czym różni się lineage dataset-level od record-level?
  5. Jakie wymogi dokumentacyjne stawia KNF?
  6. Dlaczego sam graf lineage nie wystarcza do audytu?
  7. Jakie narzędzia uzupełniają SageMaker AI?
  8. Najczęstsze pytania
  9. Źródła

Czym jest Amazon SageMaker AI ML Lineage Tracking?

Amazon SageMaker AI ML Lineage Tracking to funkcja SageMaker AI, która rejestruje metadane o artefaktach workflow uczenia maszynowego i relacjach między nimi: zbiorach danych, zadaniach treningowych, pipeline’ach, modelach i endpointach [1]. Dokumentacja AWS opisywała ją 26 października 2021 r. [1]. To mechanizm wbudowany w platformę, a nie osobny produkt o nazwie „AWS Lineage ML”. Graf lineage jest warstwą dokumentacyjną: pokazuje, z czego powstał artefakt, a nie przechowuje samych danych treningowych.

Wpis powstaje w ramach tych samych zadań, które uruchamiasz w SageMaker AI. Nie trzeba utrzymywać osobnego serwera metadanych ani ręcznie spisywać zależności. Każde zadanie processing, training i transform zostawia ślad, a encje łączą się relacjami. Z praktycznego punktu widzenia lineage odpowiada na pytanie „z czego powstał ten artefakt”, a nie „czy ten artefakt jest poprawny”. Ten drugi problem rozwiązują testy, walidacja danych i monitoring, o których piszemy w przewodniku po praktycznych zastosowaniach AI.

Co SageMaker AI śledzi automatycznie, a czego nie?

Platforma tworzy encje samodzielnie dla zadań processing, training i transform, źródeł danych w S3, obrazów kontenerów, lokalizacji artefaktów modelu, modeli, pakietów modeli oraz endpointów [2]. Poza automatem zostają kroki niestandardowe, które dopisuje się jako encje ręcznie.

Warto zapamiętać jedno ograniczenie: artefakty w S3 są identyfikowane przez URI przekazany do API, a nie przez hash lub ETag każdego pliku [2]. Innymi słowy, lineage wskaże, że model trenowano na danych spod konkretnego adresu, ale nie udowodni, że zawartość tego adresu nie zmieniła się po fakcie. Nie jest to więc mechanizm gwarantujący integralność ani niezmienność danych. Jeżeli potrzebujesz takiej gwarancji, musisz dołożyć wersjonowanie obiektów w S3 lub własne sumy kontrolne i zapisywać je razem z metadanymi.

Automat nie obejmuje też całego świata. SageMaker definiuje osobne typy encji — artefakty, akcje, konteksty, komponenty prób i asocjacje — i to one służą do opisywania kroków, których platforma nie rozpoznaje sama [4]. Bez tego uzupełnienia graf bywa niepełny dokładnie w miejscach najciekawszych dla audytora: przy własnym preprocessing’u, zewnętrznym dostawcy danych czy modelu trenowanym poza SageMakerem.

Jakie elementy trzeba wersjonować, żeby odtworzyć model?

AWS wskazuje zestaw artefaktów, które trzeba śledzić i wersjonować, aby odtworzyć przetwarzanie danych i sam model: dane, kod wraz z commitem, kontener lub obraz, parametry i konfigurację treningu, artefakt modelu, pipeline oraz konfigurację endpointu [3]. To lista minimalna, a nie opcjonalny dodatek — brak któregokolwiek elementu oznacza, że odtworzenie będzie przybliżeniem.

Sam graf lineage nie wypełni tej listy za Ciebie. Jeśli dane leżą w S3 bez wersjonowania, a kod nie ma powiązanego commita, graf pokaże relacje, ale nie pozwoli wrócić do stanu z konkretnego dnia. Dlatego w praktyce lineage łączy się z systemem kontroli wersji, rejestrem obrazów kontenerów i konwencją tagowania artefaktów. Dopiero te trzy warstwy razem dają odpowiedź na pytanie „czy jesteśmy w stanie odtworzyć model z 12 marca” bez zgadywania.

Czym różni się lineage dataset-level od record-level?

AWS opisuje dwa wzorce wdrożeniowe oparte na DVC, SageMaker AI i MLflow Apps: lineage na poziomie zbioru danych oraz lineage na poziomie pojedynczego rekordu [5]. Oba można uruchomić we własnym koncie AWS, ale odpowiadają na inne pytania.

KryteriumDataset-levelRecord-level
Co identyfikujewersję zbioru danych i relacje między zbiorami, kodem i modelemkonkretny rekord użyty w treningu lub wykluczony z niego
Kiedy wystarczagdy audyt pyta o pochodzenie danych i odtwarzalność eksperymentugdy trzeba udowodnić los pojedynczego rekordu, np. po wycofaniu zgody
Narzut utrzymaniowyniższy: metadane dotyczą plików i wersjiwyższy: trzeba utrwalać identyfikatory rekordów i mapowanie na wersję zbioru
Typowe pytanie, na które odpowiada„na jakich danych trenowano ten model?”„czy ten rekord był w zbiorze treningowym?”

Record-level lineage jest trudniejszy, bo wymaga połączenia wersjonowania danych z identyfikatorem rekordu. W materiałach AWS opis przypadku dotyczy właśnie wycofania zgody: trzeba wykazać, że rekord został wykluczony z treningu po opt-oucie [6]. To zadanie, którego sam URI zbioru danych nie rozwiąże. Jeśli nie masz takiego wymogu, zaczynaj od dataset-level i dokładaj drugi poziom tylko tam, gdzie pojawia się realne pytanie o pojedynczy rekord.

Jakie wymogi dokumentacyjne stawia KNF?

Rekomendacja W przewiduje rejestr modeli i dziennik modelu, a w nich informacje o źródle pochodzenia, celu, wersji i lokalizacji dokumentów oraz dokumentowanie całego cyklu życia modelu [7]. To wymóg procesowy: model ma mieć historię, a nie tylko działający endpoint.

Dokumentacja danych scoringowych powinna być szersza niż adres źródła. KNF wskazuje między innymi źródła i zakres danych, kraj pochodzenia danych zewnętrznych, sposób łączenia danych, jakość, braki, wyłączenia z próby i reprezentatywność [8]. Graf lineage pomaga te informacje uporządkować, ale sam ich nie wygeneruje — opis jakości danych i wyłączeń trzeba przygotować świadomie.

Dlaczego sam graf lineage nie wystarcza do audytu?

AWS zaleca kontrolę dostępu, rejestrowanie zmian i śledzenie dokumentacji, środowiska, modelu, danych, kodu i infrastruktury [9]. Samo utworzenie grafu nie gwarantuje kompletnego ani niezmiennego audytu — ktoś musi pilnować, kto może dopisywać encje i kto może je usuwać.

Drugi wymóg to bezpieczeństwo samego lineage. Lens bezpieczeństwa ML zaleca egzekwowanie lineage jako elementu kontroli, a nie jako dokumentacji tworzonej po fakcie [10]. W praktyce oznacza to uprawnienia rozdzielone między zespołem danych i zespołem platformy oraz log zmian, który pozwala odtworzyć, kiedy i przez kogo powstał wpis.

W publicznych źródłach nie ma decyzji organu potwierdzającej karę 200 tys. zł za sam brak dokumentacji pochodzenia danych w modelu scoringowym. Znane polskie kary dotyczyły innych praktyk — na przykład ponad 2,6 mln zł nałożone na Fincapital w sprawie płatnego raportu scoringowego [11]. Nie należy łączyć tych spraw. Wniosek dla zespołu jest jednak ten sam: dokumentacja modelu jest wymogiem regulacyjnym, a nie wewnętrznym dobrem.

Jakie narzędzia uzupełniają SageMaker AI?

DVC odpowiada za wersjonowanie danych, MLflow Apps za rejestrowanie eksperymentów, a SageMaker AI za zadania i endpointy [5]. Dla zespołów, które chcą wyjść poza podstawowy zakres, istnieje wrapper ml-lineage-helper rozszerzający śledzenie o grupy Feature Store, zapytania i dodatkowe artefakty [12]. To użyteczne, gdy dane cech są rozproszone między kilka feature group i trzeba je pokazać w jednym grafie.

Jeżeli budujesz śledzenie od zera poza AWS, opisany jest ogólny wzorzec: wersjonowanie danych i modeli, rejestrowanie parametrów, przechowywanie artefaktów i powiązanie ich z commitem [13]. Ten sam schemat myślenia sprawdza się przy pracy z narzędziami generatywnymi, o czym piszemy w tekście o Codexie w data science.

Najczęstsze pytania

Czy SageMaker automatycznie śledzi każdy plik w S3?

Nie. Automatyczne śledzenie artefaktów S3 opiera się na URI przekazanym do API, a nie na hashu lub ETag-u każdego pliku [2]. Lineage wskaże lokalizację danych, ale nie potwierdzi, że zawartość obiektu nie zmieniła się od czasu treningu. Integralność trzeba zapewnić osobnymi mechanizmami, na przykład wersjonowaniem obiektów lub sumami kontrolnymi zapisywanymi razem z metadanymi.

Czy lineage wystarcza do audytu regulacyjnego?

Nie wystarcza sam graf. Rekomendacja W wymaga rejestru i dziennika modelu z informacjami o pochodzeniu, celu, wersji i lokalizacji dokumentów [7]. Lineage jest jednym z elementów tej dokumentacji, obok opisu jakości danych i wyłączeń z próby [8]. Audytor sprawdza też kontrolę dostępu i log zmian w samym systemie śledzenia [9].

Czy trzeba utrzymywać własny serwer metadanych?

Nie. Encje powstają w ramach zadań uruchamianych w SageMaker AI, więc nie utrzymujesz osobnej bazy metadanych [1]. Osobny serwer pojawia się dopiero przy rejestrowaniu eksperymentów poza platformą — wtedy używany jest MLflow z backendem w RDS lub DynamoDB i artefaktami w S3 [5]. To rozszerzenie, a nie warunek działania lineage.

Czy record-level lineage jest konieczny w każdym projekcie?

Nie. AWS opisuje go jako jeden z dwóch wzorców obok dataset-level [5]. Ma sens wtedy, gdy trzeba udowodnić los pojedynczego rekordu, na przykład po wycofaniu zgody na wykorzystanie danych [6]. W projektach, gdzie pytania audytowe dotyczą wersji zbioru i odtwarzalności treningu, wystarcza poziom datasetowy, a drugi poziom zwiększa tylko narzut utrzymaniowy.

Źródła

  1. Amazon SageMaker ML Lineage Tracking - Amazon SageMaker AI (AWS, 2026)
  2. Amazon SageMaker AI–Created Tracking Entities - Amazon SageMaker AI (AWS, 2026)
  3. Data and artifacts lineage tracking - Build a Secure Enterprise Machine Learning Platform on AWS (AWS, 2026)
  4. Lineage Tracking Entities - Amazon SageMaker AI (AWS, 2026)
  5. End-to-end lineage with DVC and Amazon SageMaker AI MLflow apps (AWS, 2026)
  6. End-to-end lineage with AWS Sagemaker, DVC and MLflow (DVC, 2026)
  7. Rekomendacja W (Komisja Nadzoru Finansowego, 2026)
  8. Wytyczne, Załącznik 1 (Komisja Nadzoru Finansowego, 2026)
  9. MLOPS02-BP04 Establish a lineage tracker system - Machine Learning Lens (AWS, 2026)
  10. MLSEC03-BP04 Enforce data lineage - Machine Learning Lens (AWS, 2026)
  11. Fincapital z karą ponad 2,6 mln zł. Poszło o płatny raport dla klientów (300Gospodarka, 2026)
  12. GitHub - aws-samples/ml-lineage-helper (AWS Samples, 2026)
  13. How to Build End-to-End Machine Learning Lineage (freeCodeCamp, 2026)
AN
O autorze
Andrzej Niemiec

Fanatyk nowych technologii i specjalista w zakresie sztucznej inteligencji.

Jak powstają teksty: Polityka AI · O redakcji