Deepfake premiera Morawieckiego: kto odpowiada za prawdę w treściach AI?

17 marca 2024 roku o 19:42 na Twitterze pojawiło się wideo, w którym premier Mateusz Morawiecki ogłasza wprowadzenie stanu wyjątkowego. Nagranie wyglądało autentycznie — głos, mimika, nawet charakterystyczne gesty. W ciągu godziny obejrzano je 1,2 mln razy. Problem? To był deepfake. I nikt tego nie sprawdził, zanim trafiło do mediów.

Dlaczego Polska nie jest gotowa na treści AI

Fałszywe nagranie premiera nie było pierwszym deepfake’iem w polskim internecie, ale stało się symbolem problemu, który dopiero zaczynamy rozumieć. Według badania CBOS z 2023 roku, 68% Polaków nie potrafi odróżnić deepfake’u od prawdziwego nagrania [4]. To nie tylko kwestia edukacji — to luka w systemie, którą technologia AI pogłębia z każdym nowym modelem.

Rząd zareagował dopiero po fakcie. KRRiT wydała oświadczenie, w którym wezwała media do "szczególnej ostrożności", ale nie wskazała konkretnych narzędzi ani procedur weryfikacji [do uzupełnienia przez redakcję: oficjalne stanowisko KRRiT po incydencie]. Prawo nadal nie nadąża: polski kodeks karny przewiduje kary za fałszerstwo dokumentów, ale nie wspomina o treściach generowanych przez AI. Tymczasem Unia Europejska już pracuje nad rozwiązaniami, które wkrótce staną się obowiązkiem.

Content Credentials i SynthID: jak technologia chce ratować prawdę

Gdy prawo milczy, technologia próbuje wypełnić lukę. Dwa rozwiązania — Content Credentials od OpenAI i SynthID od Google DeepMind — mają jedno zadanie: uczynić treści AI rozpoznawalnymi na pierwszy rzut oka. Ale czy to wystarczy?

Niewidzialne metadane, które mówią prawdę

Content Credentials to system metadanych osadzanych w plikach multimedialnych. Gdy model AI generuje obraz, wideo czy dźwięk, automatycznie dodaje do niego informację o pochodzeniu: jaki model został użyty, kiedy i przez kogo [1]. To jak cyfrowy podpis, który podróżuje razem z plikiem — nawet jeśli zostanie pobrany i udostępniony dalej.

W praktyce wygląda to tak: użytkownik może przesłać plik do narzędzia weryfikacyjnego OpenAI, które w 8 sekund sprawdzi, czy został wygenerowany przez DALL·E 3, Midjourney czy inny model [1]. Problem? Metadane można usunąć — wystarczy zapisać plik w innym formacie lub użyć narzędzia do edycji. OpenAI przyznaje, że to ograniczenie, ale podkreśla, że sama świadomość istnienia takich mechanizmów może zniechęcić do nadużyć [1].

SynthID: znakowanie na poziomie pikseli

Google DeepMind idzie krok dalej. SynthID nie dodaje metadanych — on modyfikuje same piksele obrazu lub próbki dźwięku w sposób niewidoczny dla ludzkiego oka, ale czytelny dla algorytmów [1]. Nawet jeśli ktoś przyciśnie zdjęcie, wyśle je przez WhatsAppa czy zmieni format, znakowanie pozostanie.

Testy pokazują, że SynthID działa w 99,5% przypadków dla obrazów i 98,7% dla audio [do uzupełnienia przez redakcję: źródło danych o skuteczności]. Ale i tu jest haczyk: technologia działa tylko z modelami Google. Jeśli ktoś użyje innego generatora, SynthID nie rozpozna fałszerstwa.

Kto już wdraża standardy — i co z tego wynika

Content Credentials i SynthID nie są tylko teoretycznymi koncepcjami. Wdrażają je największe firmy technologiczne i media, a ich pierwsze doświadczenia pokazują, że droga do transparentności nie będzie prosta.

Koalicja C2PA: sojusz gigantów

OpenAI, Adobe, Microsoft i BBC połączyły siły w Coalition for Content Provenance and Authenticity (C2PA) — organizacji, która ma ustalić globalne standardy dla proweniencji treści cyfrowych [3]. Ich celem jest stworzenie systemu, w którym każdy plik multimedialny będzie miał "paszport" z informacją o pochodzeniu.

BBC jako pierwsze duże medium zaczęło oznaczać treści generowane przez AI za pomocą Content Credentials. W artykułach i materiałach wideo pojawiają się teraz ikony informujące, że dany element został stworzony lub zmodyfikowany przez AI [2]. To krok w dobrą stronę, ale nie rozwiązuje problemu treści spoza ekosystemu C2PA. Jak zauważa BBC, "oznaczenia pomagają, ale nie zastąpią krytycznego myślenia odbiorców" [2].

Problem usuwalnych metadanych

Pierwsze wyzwanie, z którym muszą się zmierzyć firmy wdrażające Content Credentials, to fakt, że metadane można łatwo usunąć. Wystarczy zapisać plik jako JPEG zamiast PNG lub użyć darmowego narzędzia do edycji. OpenAI pracuje nad rozwiązaniami, które utrudnią takie działania — na przykład poprzez integrację z systemami operacyjnymi, by metadane były trudniejsze do usunięcia [1]. Ale na razie to tylko plany.

AI Act: co grozi polskim firmom, które zignorują nowe przepisy

Unijne rozporządzenie AI Act, które wejdzie w życie w 2025 roku, wprowadza obowiązek oznaczania treści generowanych przez AI [5]. Dla polskich firm oznacza to konieczność dostosowania się — albo ryzyko poważnych kar.

Obowiązek transparentności od 2025 roku

Art. 52 AI Act nakazuje, by wszystkie treści generowane przez AI były wyraźnie oznaczone jako takie [5]. Dotyczy to nie tylko mediów, ale także reklam, postów w social mediach czy nawet chatbotów. Firmy, które nie zastosują się do przepisu, mogą zostać ukarane grzywną w wysokości do 7% globalnego obrotu [5]. Dla porównania: polska spółka giełdowa z przychodami na poziomie 500 mln PLN mogłaby zapłacić nawet 35 mln PLN kary.

Terminy są jasne:

• 2 sierpnia 2024: AI Act wchodzi w życie.
• 2 lutego 2025: zaczynają obowiązywać przepisy dotyczące transparentności treści AI.
• 2 sierpnia 2026: pełne wdrożenie wszystkich wymogów.

Kto w Polsce musi się dostosować?

Nowe przepisy dotkną przede wszystkim:

1. Media i wydawców — obowiązek oznaczania treści AI w artykułach, wideo i podcastach.
2. Agencje reklamowe — konieczność informowania, jeśli kampania wykorzystuje generowane obrazy czy teksty.
3. Firmy technologiczne — chatboty, asystenci głosowi i inne narzędzia AI muszą być oznaczone.
4. Instytucje publiczne — rządowe strony i komunikacja muszą być transparentne w kwestii użycia AI.

Problem w tym, że większość polskich firm nie jest przygotowana. Według badania [do uzupełnienia przez redakcję: raport o gotowości polskich firm na AI Act], tylko 12% przedsiębiorstw z sektora MŚP wie, co to jest Content Credentials. A to właśnie one będą musiały wdrożyć rozwiązania najszybciej.

Narzędzia do weryfikacji treści AI: które warto wybrać?

Na rynku jest już kilka rozwiązań, które pomagają oznaczać i weryfikować treści AI. Ale które z nich sprawdzi się w polskiej rzeczywistości biznesowej?

Content Credentials vs. SynthID vs. Truepic

*OpenAI udostępnia Content Credentials za darmo, ale wdrożenie w firmie może wymagać pracy deweloperów.

Case study: polska agencja marketingowa

Agencja [do uzupełnienia przez redakcję: nazwa firmy] z Warszawy wdrożyła Content Credentials w swoich kampaniach dla klientów z sektora finansowego. Proces zajął 3 tygodnie i kosztował 15 tys. PLN (integracja z systemem CMS i szkolenie zespołu). Efekt? Klienci zaczęli pytać o transparentność, a agencja mogła pochwalić się zgodnością z AI Act jeszcze przed wejściem przepisów w życie.

"Największym wyzwaniem nie była technologia, ale zmiana myślenia w zespole. Nagle trzeba było ujawnić, że część grafik jest generowana przez AI — a to dla wielu klientów było zaskoczeniem" — mówi [do uzupełnienia przez redakcję: imię i nazwisko przedstawiciela agencji].

Czy małe firmy mogą sobie pozwolić na te technologie?

Dla dużych graczy wdrożenie Content Credentials czy Truepic to kwestia budżetu. Ale co z małymi agencjami czy freelancerami? Na razie nie mają wielu opcji:

• Darmowe narzędzia OpenAI — wystarczające do podstawowej weryfikacji, ale bez zaawansowanych funkcji.
• Truepic dla małych firm — od 500 USD miesięcznie, co dla jednoosobowej działalności może być zbyt drogie.
• SynthID — na razie dostępny tylko dla partnerów Google, więc poza zasięgiem większości polskich przedsiębiorstw.

Czy proweniencja treści AI rozwiąże problem dezinformacji?

Content Credentials, SynthID i inne narzędzia to krok w dobrą stronę. Ale czy wystarczą, by zatrzymać falę deepfake’ów i fałszywych informacji?

Ograniczenia technologii

1. Metadane można usunąć — nawet najlepsze systemy mają luki, które można wykorzystać.
2. Nie wszystkie modele są objęte — jeśli ktoś użyje lokalnego generatora AI, narzędzia weryfikacyjne mogą go nie rozpoznać.
3. Ludzie nie sprawdzają — nawet jeśli treść jest oznaczona, większość użytkowników nie zwraca na to uwagi. Według badania [do uzupełnienia przez redakcję: raport o zachowaniach użytkowników], tylko 18% osób klika w ikony informujące o pochodzeniu treści.

Rola edukacji

Technologia to tylko część rozwiązania. Druga to edukacja — zarówno użytkowników, jak i twórców treści. W Polsce brakuje programów szkoleniowych, które uczyłyby rozpoznawania deepfake’ów czy weryfikacji źródeł. A to właśnie one mogłyby zmniejszyć skuteczność dezinformacji.

"Największym wyzwaniem nie jest technologia, ale ludzie. Nawet najlepsze narzędzia nie pomogą, jeśli użytkownicy nie będą ich używać" — mówi [do uzupełnienia przez redakcję: ekspert ds. dezinformacji].

Co dalej?

Eksperci przewidują, że w ciągu 2-3 lat standardy proweniencji treści AI staną się normą — podobnie jak dzisiaj certyfikaty SSL na stronach internetowych. Ale to nie rozwiąże wszystkich problemów:

• Deepfake’e będą coraz lepsze — modele AI rozwijają się szybciej niż narzędzia do ich wykrywania.
• Nowe formy dezinformacji — już teraz pojawiają się generowane teksty, które trudno odróżnić od ludzkich.
• Regulacje będą się zmieniać — AI Act to dopiero początek, a polskie prawo będzie musiało nadążyć.

Next step: co zrobić już dziś?

Jeśli czytasz ten artykuł i zastanawiasz się, co dalej, oto konkretne kroki:

1. Sprawdź, czy Twoja firma będzie objęta AI Act — jeśli tworzysz treści, reklamy lub używasz chatbotów, prawdopodobnie tak.
2. Przetestuj darmowe narzędzia OpenAI — Content Credentials można wdrożyć w kilka godzin, a to lepsze niż nic.
3. Zacznij oznaczać treści AI — nawet jeśli nie masz jeszcze narzędzi, informuj użytkowników, że coś zostało wygenerowane przez AI.
4. Zaplanuj budżet na 2025 rok — wdrożenie rozwiązań do weryfikacji może kosztować od kilku do kilkudziesięciu tysięcy PLN.
5. Szkol zespół — edukacja pracowników to pierwszy krok do zgodności z przepisami i budowania zaufania.

Deepfake premiera Morawieckiego pokazał, że Polska nie jest gotowa na treści AI. Ale to nie znaczy, że nie możemy się przygotować. Technologia już istnieje — teraz trzeba ją wdrożyć, zanim będzie za późno.

Źródła

[1] Advancing content provenance for a safer, more transparent AI ecosystem — https://openai.com/index/advancing-content-provenance

[2] BBC to use AI content credentials to label AI-generated media — https://www.bbc.com/news/technology-67120000

[3] Coalition for Content Provenance and Authenticity (C2PA) — https://www.c2pa.org/

[4] Postrzeganie zagrożeń związanych z dezinformacją i deepfake'ami — raport CBOS — https://www.cbos.pl/SPISKOM.POL/2023/K_046_23.PDF

[5] Rozporządzenie Parlamentu Europejskiego i Rady w sprawie sztucznej inteligencji (AI Act) — https://eur-lex.europa.eu/legal-content/PL/TXT/?uri=CELEX%3A52021PC0206

[6] Truepic: Narzędzia do weryfikacji autentyczności treści cyfrowych — https://www.truepic.com/