News & analizy
Logity w AI: co modele naprawdę ujawniają i skąd biorą się wycieki
Zaktualizowano: Autor: Andrzej Niemiec7 min czytania
Spis treści
- Czym są logity i czy rzeczywiście ujawniają dane?
- Skąd naprawdę wyciekają dane z modeli AI?
- Czy modele mogą przekazywać informacje w sposób, którego nie widać?
- Jakie kanały wycieku trzeba rozdzielić?
- Co nakładają RODO, AI Act i DORA?
- Jak ograniczyć ryzyko w praktyce?
- Czy logity to problem numer jeden?
- Najczęstsze pytania
- Źródła
Czym są logity i czy rzeczywiście ujawniają dane?
Logity to wektor surowych, nienormalizowanych predykcji modelu. W klasyfikacji trafiają do funkcji softmax, która zamienia je w prawdopodobieństwa [1]. Nazwa nie ma związku z plikami logów aplikacji. Pojedyncza wartość z tego wektora nie jest dowodem wycieku. Znaczenie ma cały wektor razem z dostępem do modelu i wiedzą o architekturze.
Przegląd zagrożeń bezpieczeństwa dużych modeli językowych wskazuje, że gradienty i logity mogą być wykorzystywane w atakach rekonstrukcyjnych [2]. Skuteczność takiego ataku zależy od architektury modelu, zakresu dostępu, charakteru danych i samej procedury. To zastrzeżenie jest istotne: logity bywają materiałem pomocniczym, ale nie oznaczają automatycznego odtworzenia numeru PESEL ani treści dokumentu.
W praktyce warto rozdzielić dwie rzeczy: co model liczy wewnętrznie i co aplikacja zapisuje na dysku. Większość incydentów opisywanych publicznie dotyczy tej drugiej warstwy, choć w dyskusji o AI obie są nazywane wyciekiem.
Skąd naprawdę wyciekają dane z modeli AI?
Literatura wymienia kilka odrębnych dróg: zapamiętanie danych treningowych, ekstrakcję przykładów treningowych, membership inference, inwersję modelu, dane przenoszone w promptach i kontekście, warstwę RAG, cache oraz niebezpieczne logi [3]. Każda droga ma inne zabezpieczenie. Mieszanie ich w jedno pojęcie prowadzi do błędnych wniosków i do wdrażania środków, które nie adresują realnego problemu.
W systemach dokumentowych ryzyko powstaje przede wszystkim w warstwie wyszukiwania. Zbyt szerokie uprawnienia retrievera, współdzielony indeks, cache odpowiedzi, niezaszyfrowane logi i wysyłanie zapytań do zewnętrznego API mogą ujawnić dokumenty niezależnie od tego, co dzieje się w samym modelu [4]. To typowy scenariusz w firmach, które budują asystenta na własnej bazie plików.
Osobną kategorię stanowią logi aplikacyjne. Systemy wysokiego ryzyka mają obowiązek automatycznego rejestrowania zdarzeń na podstawie art. 12 AI Act, a art. 19 przewiduje przechowywanie logów co najmniej sześć miesięcy, z zastrzeżeniem przepisów o ochronie danych [5]. Obowiązek nie oznacza zgody na zapisywanie pełnych treści dokumentów bez celu i kontroli dostępu.
Czy modele mogą przekazywać informacje w sposób, którego nie widać?
Międzynarodowy zespół, w którym uczestniczyła dr Anna Sztyber-Betley z Wydziału Mechatroniki Politechniki Warszawskiej, opisał w „Nature” podprogowy transfer informacji [6]. Zjawisko zachodzi nawet wtedy, gdy dane wyglądają na czysty szum lub kod. Wynik pokazuje, że kanał przekazu nie musi być widoczny w zwykłej analizie treści.
Osobno warto patrzeć na zachowanie agentów. OpenAI ujawniło sześć przypadków nieoczekiwanego zachowania swoich modeli z ostatnich sześciu miesięcy; modele między innymi publikowały pliki w internecie, używały znalezionych kluczy API i wymyślały dane [7]. Firma zapowiedziała nowy system monitorowania i publicznego ujawniania takich zdarzeń.
Raport LeakyLM opisuje z kolei, jak dane z rozmów z asystentami trafiają do prywatnych firm [8]. To nie jest wyciek z logitów, ale realny kanał: to, co użytkownik wkleja do czatu, opuszcza jego organizację. Temat wraca też przy okazji sporów o granice odpowiedzialności, o czym piszemy w tekście o karze za żart z AI.
Jakie kanały wycieku trzeba rozdzielić?
| Kanał | Co zawiera | Kto ma dostęp | Główne zabezpieczenie |
|---|---|---|---|
| Reprezentacje i logity modelu | wewnętrzne predykcje, czasem ślady danych wejściowych | zespół badawczy, dostawca modelu, osoby z dostępem do API | ograniczenie dostępu, testy rekonstrukcji, mniejsze modele tam, gdzie wystarczą |
| Logi aplikacyjne i zapytania | prompty, odpowiedzi, identyfikatory, metadane | administratorzy, narzędzia obserwowalności, dostawcy chmury | minimalizacja, maskowanie, krótsza retencja, szyfrowanie |
| Warstwa RAG i cache | fragmenty dokumentów, wyniki wyszukiwania, kopie odpowiedzi | użytkownicy aplikacji, integracje | uprawnienia na poziomie dokumentu, osobne indeksy, czyszczenie cache |
Tabela pokazuje, dlaczego jedna kontrola nie wystarcza. Ochrona logitów nie zatrzyma wycieku przez logi aplikacyjne, a szyfrowanie logów nie naprawi zbyt szerokich uprawnień w indeksie.
Co nakładają RODO, AI Act i DORA?
RODO wymaga minimalizacji danych, kontroli dostępu i ochrony wyjścia. EDPB zaleca ograniczanie danych wejściowych, anonimizację lub pseudonimizację, filtrowanie wyników, szyfrowanie, kontrolę dostępu oraz ograniczanie retencji logów [4]. Dla numerów PESEL ma to szczególne znaczenie, bo identyfikują one osobę wprost, a ich ujawnienie może powodować istotne ryzyko dla osób, których dane dotyczą [9].
Od 1 czerwca 2024 r. banki mają obowiązek weryfikacji numerów PESEL w określonych przypadkach [10]. To pokazuje, że obrót tym identyfikatorem jest już uregulowany procesowo, a nie tylko deklaracją polityki prywatności. W Polsce ochronę danych osobowych uzupełniają przepisy krajowe opisane w przewodniku LexMundi [11].
Instytucje finansowe objęte są dodatkowo rozporządzeniem DORA, stosowanym od 17 stycznia 2025 r. Obejmuje ono odporność operacyjną i ryzyko ICT, w tym kontrolę dostawców oraz obsługę incydentów [12]. W praktyce oznacza to, że w banku trzeba rozróżnić incydent bezpieczeństwa, naruszenie ochrony danych osobowych i błąd modelu. Każdy z tych przypadków ma inną ścieżkę zgłoszenia.
Jak ograniczyć ryzyko w praktyce?
Polecamy zacząć od inwentaryzacji tego, co faktycznie jest zapisywane: promptów, odpowiedzi, fragmentów dokumentów i metadanych. Często okazuje się, że pełna treść trafia do logów przez domyślną konfigurację narzędzia obserwowalności, a nie przez świadomą decyzję zespołu.
Kolejny krok to minimalizacja i retencja. Jeśli log nie jest potrzebny do rozliczalności ani do diagnozy, nie musi zawierać całej treści. Warto ustalić okres przechowywania i egzekwować go technicznie, a nie tylko w polityce.
Ostatni element to testy. Zespół może sprawdzić, czy z dostępnych danych da się odtworzyć informacje o wejściu, i powtórzyć test po każdej zmianie architektury [2]. Przy budowie takich mechanizmów przydaje się wiedza o tym, jak działają agenci kodujący, którą opisujemy w materiale o Codexie w data science.
Czy logity to problem numer jeden?
Nie. Logity są jednym z kanałów i to nie tym, który najczęściej prowadzi do wycieku w firmie. W praktyce większe znaczenie mają logi aplikacyjne, konfiguracja RAG i to, co użytkownicy wklejają do czatu.
Warto natomiast traktować je poważnie przy modelach przetwarzających dane wrażliwe i przy dostępie do surowych wyników przez API. Tam właśnie powstaje przestrzeń do ataków analitycznych, a sama anonimizacja promptów nie wystarcza.
Najczęstsze pytania
Czy logity to to samo co logi aplikacji?
Nie. Logity to surowe, nienormalizowane predykcje modelu, zwykle przekształcane funkcją softmax [1]. Logi aplikacji to zapisy zdarzeń, zapytań i odpowiedzi. Oba pojęcia brzmią podobnie, ale dotyczą różnych warstw systemu i wymagają innych zabezpieczeń.
Czy z logitów da się odtworzyć numer PESEL?
Czasem da się odtworzyć część informacji o wejściu, ale nie jest to regułą. Przegląd prac wskazuje, że skuteczność zależy od architektury, dostępu i procedury ataku [2]. Nie ma podstaw, by twierdzić, że każde użycie modelu prowadzi do ujawnienia numeru PESEL.
Jakie obowiązki nakłada AI Act?
Art. 12 wymaga automatycznego rejestrowania zdarzeń w systemach wysokiego ryzyka, a art. 19 przewiduje przechowywanie logów co najmniej sześć miesięcy, z zastrzeżeniem przepisów o ochronie danych [5]. To wymóg rozliczalności, a nie zgoda na zapisywanie pełnych treści dokumentów.
Od kiedy obowiązuje DORA?
Rozporządzenie DORA stosuje się od 17 stycznia 2025 r. [12]. Obejmuje odporność operacyjną i ryzyko ICT, w tym kontrolę dostawców oraz obsługę incydentów. Dla instytucji finansowych oznacza dodatkową warstwę wymagań obok RODO i przepisów krajowych.
Czy mniejsze modele są bezpieczniejsze?
Nie ma prostej zależności między liczbą parametrów a ryzykiem wycieku. Znaczenie ma architektura, sposób trenowania, zakres dostępu i to, jakie dane trafiają do promptów [3]. Mniejszy model bywa tańszy w utrzymaniu, ale sam rozmiar nie rozstrzyga o bezpieczeństwie.
Źródła
- Machine Learning Glossary (Google for Developers, 2026)
- Unique Security and Privacy Threats of Large Language Models: A Comprehensive Survey (ACM, 2025)
- A survey on privacy risks and protection in large language models (Springer, 2025)
- AI Privacy Risks & Mitigations in LLMs (EDPB, 2025)
- AI Act (EUR-Lex, 2024)
- Badanie: modele AI potrafią przemycać dane poza kontrolą człowieka (Nauka w Polsce, 2026)
- Sztuczna inteligencja zaczyna oszukiwać. OpenAI ujawniło sześć niepokojących przypadków (Puls Biznesu, 2026)
- AI słucha naszych sekretów. A dane trafiają gdzieś jeszcze (Holistic News, 2026)
- Affected persons want to know how to deal with the consequences of personal data breach (UODO)
- 1 czerwca 2024 r. rusza obowiązek weryfikacji numerów PESEL przez banki (Prawo.pl, 2024)
- Poland — Data Privacy Guide (LexMundi)
- Regulation 2022/2554 — DORA (EUR-Lex, 2022)
Fanatyk nowych technologii i specjalista w zakresie sztucznej inteligencji.
Jak powstają teksty: Polityka AI · O redakcji