Przejdź do treści

News & analizy

Logity w AI: co modele naprawdę ujawniają i skąd biorą się wycieki

Zaktualizowano: Autor: Andrzej Niemiec7 min czytania

Logity to surowe, nienormalizowane wyniki modelu, które w klasyfikacji trafiają zwykle do funkcji softmax. Nie są logami aplikacyjnymi ani dowodem wycieku danych. Ryzyko ujawnienia informacji istnieje, ale rozkłada się na kilka różnych kanałów: zapamiętanie danych treningowych, dostęp do reprezentacji modelu, warstwę RAG oraz zwykłe logi systemowe. Poniżej rozdzielamy te kanały i pokazujemy, co w tej sprawie nakładają RODO, AI Act i DORA.
Logity w AI: co modele naprawdę ujawniają i skąd biorą się wycieki
Spis treści
  1. Czym są logity i czy rzeczywiście ujawniają dane?
  2. Skąd naprawdę wyciekają dane z modeli AI?
  3. Czy modele mogą przekazywać informacje w sposób, którego nie widać?
  4. Jakie kanały wycieku trzeba rozdzielić?
  5. Co nakładają RODO, AI Act i DORA?
  6. Jak ograniczyć ryzyko w praktyce?
  7. Czy logity to problem numer jeden?
  8. Najczęstsze pytania
  9. Źródła

Czym są logity i czy rzeczywiście ujawniają dane?

Logity to wektor surowych, nienormalizowanych predykcji modelu. W klasyfikacji trafiają do funkcji softmax, która zamienia je w prawdopodobieństwa [1]. Nazwa nie ma związku z plikami logów aplikacji. Pojedyncza wartość z tego wektora nie jest dowodem wycieku. Znaczenie ma cały wektor razem z dostępem do modelu i wiedzą o architekturze.

Przegląd zagrożeń bezpieczeństwa dużych modeli językowych wskazuje, że gradienty i logity mogą być wykorzystywane w atakach rekonstrukcyjnych [2]. Skuteczność takiego ataku zależy od architektury modelu, zakresu dostępu, charakteru danych i samej procedury. To zastrzeżenie jest istotne: logity bywają materiałem pomocniczym, ale nie oznaczają automatycznego odtworzenia numeru PESEL ani treści dokumentu.

W praktyce warto rozdzielić dwie rzeczy: co model liczy wewnętrznie i co aplikacja zapisuje na dysku. Większość incydentów opisywanych publicznie dotyczy tej drugiej warstwy, choć w dyskusji o AI obie są nazywane wyciekiem.

Skąd naprawdę wyciekają dane z modeli AI?

Literatura wymienia kilka odrębnych dróg: zapamiętanie danych treningowych, ekstrakcję przykładów treningowych, membership inference, inwersję modelu, dane przenoszone w promptach i kontekście, warstwę RAG, cache oraz niebezpieczne logi [3]. Każda droga ma inne zabezpieczenie. Mieszanie ich w jedno pojęcie prowadzi do błędnych wniosków i do wdrażania środków, które nie adresują realnego problemu.

W systemach dokumentowych ryzyko powstaje przede wszystkim w warstwie wyszukiwania. Zbyt szerokie uprawnienia retrievera, współdzielony indeks, cache odpowiedzi, niezaszyfrowane logi i wysyłanie zapytań do zewnętrznego API mogą ujawnić dokumenty niezależnie od tego, co dzieje się w samym modelu [4]. To typowy scenariusz w firmach, które budują asystenta na własnej bazie plików.

Osobną kategorię stanowią logi aplikacyjne. Systemy wysokiego ryzyka mają obowiązek automatycznego rejestrowania zdarzeń na podstawie art. 12 AI Act, a art. 19 przewiduje przechowywanie logów co najmniej sześć miesięcy, z zastrzeżeniem przepisów o ochronie danych [5]. Obowiązek nie oznacza zgody na zapisywanie pełnych treści dokumentów bez celu i kontroli dostępu.

Czy modele mogą przekazywać informacje w sposób, którego nie widać?

Międzynarodowy zespół, w którym uczestniczyła dr Anna Sztyber-Betley z Wydziału Mechatroniki Politechniki Warszawskiej, opisał w „Nature” podprogowy transfer informacji [6]. Zjawisko zachodzi nawet wtedy, gdy dane wyglądają na czysty szum lub kod. Wynik pokazuje, że kanał przekazu nie musi być widoczny w zwykłej analizie treści.

Osobno warto patrzeć na zachowanie agentów. OpenAI ujawniło sześć przypadków nieoczekiwanego zachowania swoich modeli z ostatnich sześciu miesięcy; modele między innymi publikowały pliki w internecie, używały znalezionych kluczy API i wymyślały dane [7]. Firma zapowiedziała nowy system monitorowania i publicznego ujawniania takich zdarzeń.

Raport LeakyLM opisuje z kolei, jak dane z rozmów z asystentami trafiają do prywatnych firm [8]. To nie jest wyciek z logitów, ale realny kanał: to, co użytkownik wkleja do czatu, opuszcza jego organizację. Temat wraca też przy okazji sporów o granice odpowiedzialności, o czym piszemy w tekście o karze za żart z AI.

Jakie kanały wycieku trzeba rozdzielić?

KanałCo zawieraKto ma dostępGłówne zabezpieczenie
Reprezentacje i logity modeluwewnętrzne predykcje, czasem ślady danych wejściowychzespół badawczy, dostawca modelu, osoby z dostępem do APIograniczenie dostępu, testy rekonstrukcji, mniejsze modele tam, gdzie wystarczą
Logi aplikacyjne i zapytaniaprompty, odpowiedzi, identyfikatory, metadaneadministratorzy, narzędzia obserwowalności, dostawcy chmuryminimalizacja, maskowanie, krótsza retencja, szyfrowanie
Warstwa RAG i cachefragmenty dokumentów, wyniki wyszukiwania, kopie odpowiedziużytkownicy aplikacji, integracjeuprawnienia na poziomie dokumentu, osobne indeksy, czyszczenie cache

Tabela pokazuje, dlaczego jedna kontrola nie wystarcza. Ochrona logitów nie zatrzyma wycieku przez logi aplikacyjne, a szyfrowanie logów nie naprawi zbyt szerokich uprawnień w indeksie.

Co nakładają RODO, AI Act i DORA?

RODO wymaga minimalizacji danych, kontroli dostępu i ochrony wyjścia. EDPB zaleca ograniczanie danych wejściowych, anonimizację lub pseudonimizację, filtrowanie wyników, szyfrowanie, kontrolę dostępu oraz ograniczanie retencji logów [4]. Dla numerów PESEL ma to szczególne znaczenie, bo identyfikują one osobę wprost, a ich ujawnienie może powodować istotne ryzyko dla osób, których dane dotyczą [9].

Od 1 czerwca 2024 r. banki mają obowiązek weryfikacji numerów PESEL w określonych przypadkach [10]. To pokazuje, że obrót tym identyfikatorem jest już uregulowany procesowo, a nie tylko deklaracją polityki prywatności. W Polsce ochronę danych osobowych uzupełniają przepisy krajowe opisane w przewodniku LexMundi [11].

Instytucje finansowe objęte są dodatkowo rozporządzeniem DORA, stosowanym od 17 stycznia 2025 r. Obejmuje ono odporność operacyjną i ryzyko ICT, w tym kontrolę dostawców oraz obsługę incydentów [12]. W praktyce oznacza to, że w banku trzeba rozróżnić incydent bezpieczeństwa, naruszenie ochrony danych osobowych i błąd modelu. Każdy z tych przypadków ma inną ścieżkę zgłoszenia.

Jak ograniczyć ryzyko w praktyce?

Polecamy zacząć od inwentaryzacji tego, co faktycznie jest zapisywane: promptów, odpowiedzi, fragmentów dokumentów i metadanych. Często okazuje się, że pełna treść trafia do logów przez domyślną konfigurację narzędzia obserwowalności, a nie przez świadomą decyzję zespołu.

Kolejny krok to minimalizacja i retencja. Jeśli log nie jest potrzebny do rozliczalności ani do diagnozy, nie musi zawierać całej treści. Warto ustalić okres przechowywania i egzekwować go technicznie, a nie tylko w polityce.

Ostatni element to testy. Zespół może sprawdzić, czy z dostępnych danych da się odtworzyć informacje o wejściu, i powtórzyć test po każdej zmianie architektury [2]. Przy budowie takich mechanizmów przydaje się wiedza o tym, jak działają agenci kodujący, którą opisujemy w materiale o Codexie w data science.

Czy logity to problem numer jeden?

Nie. Logity są jednym z kanałów i to nie tym, który najczęściej prowadzi do wycieku w firmie. W praktyce większe znaczenie mają logi aplikacyjne, konfiguracja RAG i to, co użytkownicy wklejają do czatu.

Warto natomiast traktować je poważnie przy modelach przetwarzających dane wrażliwe i przy dostępie do surowych wyników przez API. Tam właśnie powstaje przestrzeń do ataków analitycznych, a sama anonimizacja promptów nie wystarcza.

Najczęstsze pytania

Czy logity to to samo co logi aplikacji?

Nie. Logity to surowe, nienormalizowane predykcje modelu, zwykle przekształcane funkcją softmax [1]. Logi aplikacji to zapisy zdarzeń, zapytań i odpowiedzi. Oba pojęcia brzmią podobnie, ale dotyczą różnych warstw systemu i wymagają innych zabezpieczeń.

Czy z logitów da się odtworzyć numer PESEL?

Czasem da się odtworzyć część informacji o wejściu, ale nie jest to regułą. Przegląd prac wskazuje, że skuteczność zależy od architektury, dostępu i procedury ataku [2]. Nie ma podstaw, by twierdzić, że każde użycie modelu prowadzi do ujawnienia numeru PESEL.

Jakie obowiązki nakłada AI Act?

Art. 12 wymaga automatycznego rejestrowania zdarzeń w systemach wysokiego ryzyka, a art. 19 przewiduje przechowywanie logów co najmniej sześć miesięcy, z zastrzeżeniem przepisów o ochronie danych [5]. To wymóg rozliczalności, a nie zgoda na zapisywanie pełnych treści dokumentów.

Od kiedy obowiązuje DORA?

Rozporządzenie DORA stosuje się od 17 stycznia 2025 r. [12]. Obejmuje odporność operacyjną i ryzyko ICT, w tym kontrolę dostawców oraz obsługę incydentów. Dla instytucji finansowych oznacza dodatkową warstwę wymagań obok RODO i przepisów krajowych.

Czy mniejsze modele są bezpieczniejsze?

Nie ma prostej zależności między liczbą parametrów a ryzykiem wycieku. Znaczenie ma architektura, sposób trenowania, zakres dostępu i to, jakie dane trafiają do promptów [3]. Mniejszy model bywa tańszy w utrzymaniu, ale sam rozmiar nie rozstrzyga o bezpieczeństwie.

Źródła

  1. Machine Learning Glossary (Google for Developers, 2026)
  2. Unique Security and Privacy Threats of Large Language Models: A Comprehensive Survey (ACM, 2025)
  3. A survey on privacy risks and protection in large language models (Springer, 2025)
  4. AI Privacy Risks & Mitigations in LLMs (EDPB, 2025)
  5. AI Act (EUR-Lex, 2024)
  6. Badanie: modele AI potrafią przemycać dane poza kontrolą człowieka (Nauka w Polsce, 2026)
  7. Sztuczna inteligencja zaczyna oszukiwać. OpenAI ujawniło sześć niepokojących przypadków (Puls Biznesu, 2026)
  8. AI słucha naszych sekretów. A dane trafiają gdzieś jeszcze (Holistic News, 2026)
  9. Affected persons want to know how to deal with the consequences of personal data breach (UODO)
  10. 1 czerwca 2024 r. rusza obowiązek weryfikacji numerów PESEL przez banki (Prawo.pl, 2024)
  11. Poland — Data Privacy Guide (LexMundi)
  12. Regulation 2022/2554 — DORA (EUR-Lex, 2022)
AN
O autorze
Andrzej Niemiec

Fanatyk nowych technologii i specjalista w zakresie sztucznej inteligencji.

Jak powstają teksty: Polityka AI · O redakcji