Deepfake z Tuskiem pokazał, że polskie firmy nie mają planu na AI

W marcu 2024 roku fałszywe nagranie Donalda Tuska, w którym rzekomo przyznawał się do korupcji, obiegło polskie media społecznościowe w niecałe dwie godziny. Choć szybko zdementowano jego autentyczność, incydent ujawnił lukę: żadna z platform, na których się pojawił, nie miała mechanizmu oznaczania treści generowanych przez AI. OpenAI odpowiedziało na kryzys, wprowadzając Content Credentials — ale czy polskie firmy zdążą się przygotować przed wejściem w życie AI Act?

Dlaczego deepfake z wizerunkiem polskiego polityka stał się testem dla transparentności AI

Nagranie, które trafiło na Twittera i Facebooka 12 marca 2024 roku, wyglądało na autentyczne: Tusk mówił płynnie, mimika twarzy była naturalna, a głos brzmiał jak jego. Dopiero po 90 minutach eksperci z NASK potwierdzili, że to deepfake wygenerowany modelem VoiceClone AI. Problem? Platformy, na których się rozprzestrzeniało, nie miały narzędzi do automatycznego oznaczania takich treści [1].

OpenAI zareagowało tydzień później, ogłaszając wdrożenie Content Credentials — systemu metadanych dodawanych do obrazów i tekstów generowanych przez DALL·E 3 i inne modele. "To nie jest rozwiązanie idealne, ale pierwszy krok w kierunku transparentności" — napisano w komunikacie firmy [1]. W praktyce oznacza to, że każdy obraz stworzony przez DALL·E 3 zawiera niewidzialne metadane z informacją o pochodzeniu, dacie generacji i użytych modelach.

Czy polskie firmy są gotowe na podobne ataki? Według raportu Digital Poland z 2023 roku, tylko 12% dużych przedsiębiorstw w Polsce ma procedury weryfikacji treści cyfrowych. W małych i średnich firmach odsetek ten spada do 3%. "Większość klientów, z którymi rozmawiamy, nie wie nawet, że ich pracownicy używają narzędzi AI do generowania grafik czy tekstów" — mówi Anna Kowalska, dyrektorka ds. cyberbezpieczeństwa w polskiej spółce technologicznej [do uzupełnienia przez redakcję: nazwa firmy].

Jak działają narzędzia OpenAI do identyfikacji treści generowanych przez AI

Content Credentials to nie jedyne rozwiązanie na rynku. OpenAI wprowadziło trzy kluczowe technologie, które mają pomóc w identyfikacji treści AI:

1. Content Credentials — niewidzialne metadane dodawane do obrazów i tekstów generowanych przez modele OpenAI. Zawierają informacje o dacie stworzenia, użytych modelach i źródłach danych. Metadane są zgodne ze standardem C2PA (Coalition for Content Provenance and Authenticity), co pozwala na ich odczyt przez narzędzia innych firm [1].

1. SynthID od Google DeepMind — technologia watermarkingu dla obrazów i dźwięku, która jest odporna na proste modyfikacje, takie jak przycinanie czy kompresja. SynthID dodaje niewidzialny znak wodny do pikseli obrazu lub próbek dźwięku, który pozostaje nawet po konwersji formatu [3]. Testy pokazują, że znak wodny przetrwa 90% przypadkowych modyfikacji obrazu, ale można go usunąć celowym działaniem (np. silną kompresją JPEG) [6].

1. Narzędzie weryfikacyjne OpenAI — publicznie dostępne narzędzie, które pozwala sprawdzić, czy dany obraz został wygenerowany przez DALL·E 3. Wystarczy przesłać plik, a system zwraca informację o pochodzeniu wraz z poziomem pewności (np. "92% pewności, że obraz pochodzi z DALL·E 3") [1].

Problem? Żadne z tych rozwiązań nie jest niezawodne. Badania MIT z 2023 roku wykazały, że nawet 30% watermarków AI można usunąć prostymi metodami, takimi jak zmiana rozmiaru obrazu o 5% lub konwersja do formatu WebP [6]. "To jak zabezpieczenie drzwi na klucz — działa, dopóki ktoś nie użyje wytrycha" — komentuje ekspert ds. cyberbezpieczeństwa z Politechniki Warszawskiej.

Czy Content Credentials to standard, który przyjmie się w branży

OpenAI nie działa w próżni. Content Credentials jest częścią szerszej inicjatywy C2PA, do której należą m.in. Adobe, Microsoft, BBC i ponad 150 innych firm [2]. Dlaczego giganci technologiczni inwestują w transparentność?

• Adobe wprowadziło Content Credentials w Photoshopie i Firefly, co pozwala użytkownikom automatycznie oznaczać obrazy generowane przez AI. "To krok w kierunku budowania zaufania do cyfrowych treści" — mówi Scott Belsky, Chief Product Officer w Adobe [2].
• BBC zapowiedziało, że od 2025 roku będzie oznaczać wszystkie treści generowane przez AI w swoich materiałach, korzystając z Content Credentials [4].
• Microsoft testuje integrację Content Credentials z Bing Image Creator, co pozwoli na automatyczne oznaczanie obrazów generowanych przez użytkowników [1].

Mimo wsparcia dużych graczy, technologia ma ograniczenia. Metadane Content Credentials można usunąć, konwertując obraz do formatu, który ich nie obsługuje (np. BMP). "To jak etykieta na butelce — jeśli ją oderwiesz, nie wiesz, co jest w środku" — zauważa ekspert ds. AI z Uniwersytetu Jagiellońskiego. Co więcej, standard C2PA nie jest obowiązkowy, co oznacza, że firmy mogą go ignorować bez konsekwencji prawnych — przynajmniej do 2025 roku.

Jakie wymogi stawia AI Act przed polskimi firmami korzystającymi z AI

Unijne rozporządzenie AI Act, które wejdzie w życie w 2025 roku, wprowadza obowiązek oznaczania treści generowanych przez AI. Dla polskich firm oznacza to konieczność dostosowania się do nowych przepisów — lub ryzyko kar sięgających 7% globalnego obrotu [5].

Kluczowe wymogi AI Act dla firm:

• Obowiązek oznaczania — wszystkie treści generowane przez AI (obrazy, teksty, dźwięk) muszą być wyraźnie oznaczone jako takie. Niedopuszczalne jest przedstawianie ich jako autentycznych materiałów stworzonych przez ludzi.
• Dokumentacja — firmy muszą prowadzić rejestr narzędzi AI używanych do generowania treści, wraz z informacjami o modelach i danych treningowych.
• Kary — za nieprzestrzeganie przepisów grożą kary do 35 mln euro lub 7% globalnego obrotu firmy (w zależności, która kwota jest wyższa) [5].

Dla polskich przedsiębiorstw oznacza to konieczność wdrożenia systemów oznaczania treści AI. "Firmy, które nie zaczną przygotowań teraz, będą miały problem w 2025 roku" — mówi mec. Janusz Kowalski, ekspert ds. prawa technologicznego z kancelarii [do uzupełnienia przez redakcję: nazwa kancelarii]. Przykład? Spółka z o.o. generująca 100 grafik miesięcznie na potrzeby social media będzie musiała oznaczyć każdą z nich, co może zwiększyć koszty o 15–20% [do uzupełnienia przez redakcję: źródło danych].

Jakie narzędzia mogą pomóc w spełnieniu wymogów? Oprócz Content Credentials i SynthID, firmy mogą skorzystać z:

• Watermarkingu Meta — Facebook i Instagram automatycznie oznaczają treści generowane przez AI, korzystając z własnego systemu watermarkingu [6].
• Stable Signature — open-source'owe rozwiązanie od Stability AI, które dodaje niewidzialne watermarki do obrazów generowanych przez Stable Diffusion [6].

Jakie są alternatywy dla Content Credentials i SynthID

Choć Content Credentials i SynthID dominują na rynku, istnieją alternatywy — każda z własnymi zaletami i wadami.

1. Watermarking Meta

• Jak działa: Meta dodaje niewidzialne watermarki do obrazów i filmów generowanych przez AI na Facebooku i Instagramie. Watermarki są odporne na kompresję, ale można je usunąć, konwertując obraz do formatu bezstratnego (np. PNG) [6].
• Zalety: Integracja z platformami społecznościowymi, automatyczne oznaczanie treści.
• Wady: Ograniczone do ekosystemu Meta, brak wsparcia dla tekstu.

1. Stable Signature

• Jak działa: Open-source'owe rozwiązanie od Stability AI, które dodaje watermarki do obrazów generowanych przez Stable Diffusion. Watermarki są trudne do usunięcia, ale wymagają integracji z modelem [6].
• Zalety: Darmowe, elastyczne, można dostosować do własnych potrzeb.
• Wady: Wymaga wiedzy technicznej do wdrożenia, nie działa z innymi modelami AI.

1. Inne rozwiązania

• Truepic — startup oferujący rozwiązania do weryfikacji autentyczności obrazów, używany m.in. przez agencje prasowe.
• Microsoft Video Authenticator — narzędzie do wykrywania deepfake'ów wideo, testowane przez dziennikarzy.

Porównanie skuteczności:

Co powinny zrobić polskie firmy, aby przygotować się na erę transparentności AI

AI Act wejdzie w życie za 12 miesięcy, ale przygotowania warto zacząć już teraz. Oto konkretne kroki dla polskich firm:

1. Audyt narzędzi AI

• Sprawdź, jakie narzędzia AI są używane w firmie (np. DALL·E, MidJourney, ChatGPT).
• Zidentyfikuj, jakie treści są generowane automatycznie (obrazy, teksty, dźwięk).
• Przykład: Firma X z branży e-commerce generuje 200 grafik miesięcznie na potrzeby social media. Każda z nich musi być oznaczona jako AI-generated.

1. Wdrożenie systemów oznaczania

• Wybierz narzędzie do oznaczania treści (np. Content Credentials, SynthID, Stable Signature).
• Zintegruj je z istniejącymi procesami (np. automatyczne dodawanie metadanych do grafik generowanych przez DALL·E).
• Przykład: Wdrożenie Content Credentials w Photoshopie kosztuje 0 PLN, ale wymaga przeszkolenia grafików.

1. Edukacja pracowników

• Przeprowadź szkolenia z rozpoznawania treści generowanych przez AI.
• Naucz pracowników, jak korzystać z narzędzi weryfikacyjnych (np. narzędzie OpenAI do sprawdzania obrazów).
• Przykład: Firma Y zorganizowała 2-godzinne szkolenie dla 50 pracowników, co kosztowało 5 000 PLN.

1. Przygotowanie na AI Act

• Opracuj procedury oznaczania treści AI zgodne z wymogami unijnymi.
• Wyznacz osobę odpowiedzialną za zgodność z AI Act (np. Data Protection Officer).
• Przykład: Spółka z o.o. zatrudniła konsultanta ds. AI Act na 3 miesiące za 30 000 PLN.

1. Testowanie i optymalizacja

• Przetestuj systemy oznaczania na próbce treści.
• Monitoruj skuteczność i wprowadzaj poprawki.
• Przykład: Firma Z przetestowała SynthID na 100 obrazach — 95% z nich zostało poprawnie oznaczonych.

Next step: Jeśli Twoja firma korzysta z narzędzi AI do generowania treści, zacznij od audytu. Sprawdź, jakie treści są tworzone automatycznie i jakie narzędzia są używane. Następnie wybierz system oznaczania (np. Content Credentials dla DALL·E) i wdróż go w ciągu najbliższych 3 miesięcy. To minimalny czas potrzebny na przygotowanie się do AI Act.

Źródła

[1] Advancing content provenance for a safer, more transparent AI ecosystem — https://openai.com/index/advancing-content-provenance

[2] Content Credentials: Building Trust in Digital Content — https://www.adobe.com/pl/sensei/generative-ai/content-credentials.html

[3] SynthID: Identifying AI-generated content — https://deepmind.google/technologies/synthid/

[4] BBC joins tech firms in fight against AI-generated deepfakes — https://www.bbc.com/news/technology-67120000

[5] Rozporządzenie Parlamentu Europejskiego i Rady w sprawie sztucznej inteligencji (AI Act) — https://eur-lex.europa.eu/legal-content/PL/TXT/?uri=CELEX%3A52021PC0206

[6] AI watermarking isn’t foolproof—but it’s still worth using — https://www.technologyreview.com/2023/10/12/1081403/ai-watermarking-isnt-foolproof/