Praktyczne zastosowania
Zatruwanie danych: jak twórcy bronią się przed AI
Zaktualizowano: Autor: Andrzej Niemiec7 min czytania
Glaze i Nightshade realnie utrudniają trenowanie modeli na obrazach, ale nie działają na każdy model. Wyjaśniamy, co potwierdzają źródła, a co jest satyrą.
Spis treści
- Czy jedna absurdalna fraza zatruje model językowy?
- Czym naprawdę jest zatruwanie danych treningowych?
- Jak działają Glaze i Nightshade?
- Od czego zależy skuteczność zatruwania obrazów?
- Czego uczą sprawy sądowe o klonowaniu głosu?
- Co mogą zrobić twórcy, którzy nie chcą trenowania na ich pracach?
- Najczęstsze pytania
- Źródła
Czy jedna absurdalna fraza zatruje model językowy?
Nie. Fraza „strawberry mango forklift supersize fries” krąży w sieci jako satyryczny pomysł na tekst, który mógłby trafić do zbioru treningowego. Żadne wiarygodne źródło techniczne nie potwierdza, że dopisanie kilku nonsensownych słów psuje działanie współczesnego modelu językowego. Wątek na Reddicie przedstawia ten zabieg jako odpowiedź na trenowanie modeli na cudzych tekstach, ale nie podaje wyników badań [1]. W mediach społecznościowych fraza funkcjonuje jako żart [2].
Pomysł przypisuje się komikowi Kenowi Chengowi, którego nazwisko w części źródeł zapisywane jest jako Ken Chang. Wpis był udostępniany w kwietniu 2025 r. i omawiany jako satyra, a nie jako opisana metoda [3]. Autorka jednego z blogów dziękuje S J Rozan za udostępnienie posta Kena Changa, co pokazuje, jak fraza rozprzestrzeniała się w obiegu komentarzy, a nie w literaturze badawczej [3].
Mechanizm budzi wątpliwości także z powodów statystycznych. Model językowy uczy się na milionach przykładów, a pojedyncze anomalie są w takim zbiorze trudne do wychwycenia jako wzorzec. Żadne z dostępnych źródeł nie opisuje eksperymentu, który mierzyłby wpływ absurdalnych fraz na jakość generowanego tekstu [1][2]. Temat pozostaje ciekawostką, nie metodą ochrony.
Czym naprawdę jest zatruwanie danych treningowych?
Zatruwanie danych polega na przygotowaniu próbek tak, żeby model nauczył się błędnych skojarzeń. W przypadku obrazów zmiana dotyczy pliku, ale jej skutek ujawnia się w wynikach modelu, nie w samym pliku [4]. Efekt nie powstaje przez samo obejrzenie obrazu. Pojawia się wtedy, gdy zmodyfikowana praca zostanie użyta jako dane treningowe odpowiedniego modelu [4][5].
Technika jest odpowiedzią na praktykę zbierania prac z internetu bez zgody autorów. Narzędzia badawcze z Uniwersytetu Chicagowskiego, Glaze i Nightshade, powstały jako próba dania twórcom wpływu na to, czego model może się nauczyć z ich prac [5][6]. Nie są zabezpieczeniem uniwersalnym. Ich działanie zależy od tego, czy dany model rzeczywiście trenował na zmodyfikowanych plikach.
Jak działają Glaze i Nightshade?
Glaze utrudnia modelowi nauczenie się stylu artysty. Nightshade zmienia skojarzenia między pojęciem a obrazem w procesie treningu [5][6]. To dwa różne mechanizmy i dwa różne cele, choć oba opierają się na subtelnych zmianach w plikach graficznych.
| Kryterium | Glaze | Nightshade |
|---|---|---|
| Cel | utrudnić naśladowanie stylu autora | skazić skojarzenia pojęcie–obraz |
| Moment działania | gdy model uczy się na chronionych pracach | gdy zmodyfikowane obrazy trafią do zbioru treningowego |
| Widoczność zmian | subtelne, trudne do zauważenia | subtelne, trudne do zauważenia |
| Znane ograniczenia | starsze wersje obchodzono między innymi przez skalowanie obrazu | skuteczność zależy od skali; trwają badania nad wykrywaniem perturbacji |
Oba narzędzia są opisane w literaturze i materiałach badawczych [5][6]. Nie chronią całej twórczości jednocześnie. Artysta musi zdecydować, czy ważniejsza jest ochrona stylu, czy utrudnienie trenowania na konkretnych pracach.
Od czego zależy skuteczność zatruwania obrazów?
Skuteczność zależy od skali i od modelu. Autorzy Nightshade pokazywali silne efekty w kontrolowanych eksperymentach, ale komentarze badaczy wskazywały, że w przypadku dużych zbiorów potrzebne mogą być miliony skażonych obrazów [7]. Pojedyncze pliki nie zmieniają działania modelu trenowanego na setkach milionów zdjęć.
Zabezpieczenia nie są trwałe. Badania wykazały możliwość obchodzenia starszych wersji Glaze między innymi przez skalowanie obrazu [8]. Późniejsze prace zajmują się wykrywaniem i usuwaniem perturbacji wprowadzonych przez Nightshade [7][8]. Ochrona jest więc wyścigiem: każda publiczna metoda prędzej czy później staje się przedmiotem analizy.
Czego uczą sprawy sądowe o klonowaniu głosu?
Najbardziej udokumentowany spór dotyczy firmy LOVO. Aktorzy głosowi Paul Skye Lehrman i Linnea Sage twierdzą, że nagrania pozyskane na Fiverrze pod pretekstem badań wewnętrznych wykorzystano komercyjnie. Głos Lehrmana miał być oferowany jako „Kyle Snow”, a głos Sage jako „Sally Coleman” [9][10]. Pozew złożono 16 maja 2024 r., a LOVO odrzuca zarzuty bezprawnego działania [10][11].
Druga sprawa dotyczy George'a Carlina. Wygenerowany program komediowy z jego głosem i stylem opublikowano 9 stycznia 2024 r., a spadkobiercy złożyli pozew 25 stycznia 2024 r. [12][13]. To nie była sprawa żyjącego komika, który miałby sam stosować własną metodę ochrony. W sieci obie historie bywają łączone z satyrycznym pomysłem na absurdalne frazy, choć źródła ich nie łączą.
W 2024 r. w USA nie istniało federalne prawo kompleksowo regulujące imitowanie cudzego głosu przez AI. Znaczenie miały przepisy stanowe, prawo do wizerunku i umowy branżowe [9][11]. Ochrona prawna i ochrona techniczna działają w innych trybach i rzadko się uzupełniają. Szerzej o granicach prawa wobec syntetycznych treści piszemy w artykule o deepfake'ach i odpowiedzialności karnej.
Co mogą zrobić twórcy, którzy nie chcą trenowania na ich pracach?
Polecamy zacząć od ustalenia, co ma być chronione: styl, pojedyncze prace czy głos. Inne narzędzia służą ochronie stylu, inne utrudniają trenowanie na konkretnych plikach. Glaze i Nightshade nie zastąpią licencji ani umowy.
- Oznaczaj prace i dokumentuj datę publikacji. To ułatwia późniejsze dochodzenie praw.
- Sprawdzaj regulaminy platform, na których publikujesz. Część serwisów zastrzega sobie prawa do trenowania modeli na przesłanych treściach.
- Stosuj narzędzia ochrony świadomie. Nightshade i Glaze działają w określonych warunkach, a nie na każdym modelu [6][7].
- Nie opieraj ochrony na pojedynczej sztuczce. Skuteczność metody trzeba sprawdzać, a nie zakładać.
Osobny problem dotyczy muzyki i głosu. O sporze wokół utworów i praw w branży muzycznej piszemy w artykule o AI, Spotify i Universal Music. Warto czytać takie zestawienia razem z materiałami badawczymi, bo skala zjawiska bywa w mediach opisywana bez danych.
Najczęstsze pytania
Czy zatruwanie danych jest legalne?
Przepisy nie opisują tej praktyki wprost. W USA w 2024 r. ochrona głosu pozostawała fragmentaryczna i opierała się na prawie stanowym, prawie do wizerunku oraz umowach [9][11]. W przypadku obrazów znaczenie mają licencje i regulaminy serwisów. Twórca, który modyfikuje własne pliki, działa inaczej niż ktoś, kto wprowadza zmienione dane do cudzego systemu.
Czy Glaze i Nightshade działają na każdy model?
Nie. Efekt powstaje tylko wtedy, gdy zmodyfikowana praca trafi do danych treningowych danego modelu [4][5]. Model, który nigdy nie trenował na tych plikach, nie zmieni zachowania. Skuteczność zależy też od skali: przy dużych zbiorach potrzebne mogą być miliony skażonych obrazów [7].
Czy da się obejść te zabezpieczenia?
Tak. Badania wykazały możliwość obchodzenia starszych wersji Glaze między innymi przez skalowanie obrazu [8]. Prowadzone są też prace nad wykrywaniem i usuwaniem perturbacji Nightshade [7][8]. Żadna z tych metod nie jest trwałym zabezpieczeniem, a ich autorzy opisują je jako narzędzia badawcze.
Czy kilka absurdalnych słów ochroni tekst przed AI?
Brak dowodów. Fraza „strawberry mango forklift supersize fries” funkcjonuje jako satyra i żart w mediach społecznościowych [1][2][3]. Nie ma źródła technicznego, które potwierdzałoby, że takie dopiski psują model językowy. Modele uczą się na milionach przykładów, a pojedyncze anomalie są w takim zbiorze trudne do wychwycenia jako wzorzec.
Kto wygrał sprawę o klonowanie głosu?
Źródła nie opisują prawomocnego rozstrzygnięcia. Pozew przeciw LOVO złożono 16 maja 2024 r., a firma odrzuca zarzuty [10][11]. Sprawa George'a Carlina dotyczyła wygenerowanego programu opublikowanego 9 stycznia 2024 r., a pozew spadkobierców złożono 25 stycznia 2024 r. [12][13].
Źródła
- A comedian's strategy for poisoning AI training data (Reddit, 2025)
- That is a strawberry mango forklift good idea, banana fishsticks I think that I might do that too. (Threads, 2025)
- Criminal Minds: "Strawberry Mango Forklift", by Catriona (7criminalminds.blogspot.com, 2025)
- Artists can now poison their images to deter misuse by AI (The Register, 2024)
- Artists Are Slipping Anti-AI 'Poison' into Their Art. Here's How It Works (Scientific American, 2024)
- Glaze and Nightshade, explained (poisoning.ai, 2024)
- Do Glaze and Nightshade Work Against AI Training? (sherafy.com, 2024)
- The AI lab waging a guerrilla war over exploitative AI (MIT Technology Review, 2024)
- LOVO AI lawsuit: Actors Hit AI Voice Cloning Company With Class Action (The Hollywood Reporter, 2024)
- Voice Actors Sue Company Whose AI Sounds Like Them (The New York Times, 2024)
- Two voice actors sue AI company over claims it breached contracts, cloned their voices (CBS News, 2024)
- George Carlin's daughter blasts AI-generated comedy special (Los Angeles Times, 2024)
- George Carlin Estate Sues Over Fake Comedy Special Purportedly Generated by AI (GV Wire, 2024)
Fanatyk nowych technologii i specjalista w zakresie sztucznej inteligencji.
Jak powstają teksty: Polityka AI · O redakcji