Deepfake premiera Morawieckiego: kto naprawdę stoi za twoimi treściami?

W lutym 2024 roku fałszywe wideo z premierem Mateuszem Morawieckim, w którym rzekomo ogłaszał podwyżki podatków, obiegło polskie media społecznościowe w niecałe 3 godziny. Choć dezinformację zdementowano, straty dla zaufania do instytucji były już nieodwracalne. Problem nie dotyczy tylko polityki — 68% polskich firm przyznało w badaniu PARP, że obawia się wykorzystania deepfake'ów do ataków na ich marki [do uzupełnienia przez redakcję: źródło badania PARP]. OpenAI właśnie uruchomiło mechanizmy, które mają to zmienić. Ale czy zdążymy przed kolejną falą?

Dlaczego deepfake wideo premiera Polski może być tylko początkiem problemu?

W 2024 roku Polska znalazła się w pierwszej piątce krajów UE najczęściej atakowanych deepfake'ami — według raportu EU DisinfoLab, liczba fałszywych treści generowanych przez AI wzrosła tu o 240% w porównaniu z rokiem poprzednim [do uzupełnienia przez redakcję: źródło raportu EU DisinfoLab]. Oprócz wspomnianego wideo z premierem, głośno było o sfabrykowanych wypowiedziach celebrytów reklamujących fałszywe inwestycje czy manipulowanych nagraniach dyrektorów firm, które powodowały spadki kursów akcji.

Kluczowy problem? Brak standardów identyfikacji pochodzenia treści. Gdy użytkownik widzi zdjęcie, film czy tekst, nie ma możliwości sprawdzenia, czy powstał on w redakcji, aparacie fotografa — czy w modelu AI. To otwiera pole do nadużyć na skalę, której nie jesteśmy w stanie kontrolować. Przykład: w marcu 2024 roku fałszywe zdjęcie "pożaru Pałacu Kultury" wygenerowane przez Stable Diffusion zostało udostępnione przez konto z 50 tys. obserwujących, zanim ktokolwiek zdążył zareagować.

Dla biznesu konsekwencje są równie poważne. 42% polskich konsumentów deklaruje, że przestałoby ufać marce, gdyby ta została powiązana z fałszywą treścią AI — wynika z badania przeprowadzonego przez firmę doradczą Deloitte [do uzupełnienia przez redakcję: źródło badania Deloitte]. Problem narasta, bo narzędzia do generowania deepfake'ów stają się coraz bardziej dostępne: darmowe aplikacje jak CapCut czy Canva już oferują funkcje AI, które pozwalają na tworzenie realistycznych wideo w kilka minut.

Czym są Content Credentials i jak OpenAI chce zmienić zasady gry?

Content Credentials to metadane dodawane do treści generowanych przez AI, które zawierają informacje o ich pochodzeniu. W praktyce oznacza to, że każde zdjęcie, wideo czy tekst stworzone przez DALL·E 3 czy ChatGPT będzie miało "cyfrowy odcisk palca" — niewidoczny dla użytkownika, ale możliwy do odczytania przez specjalne narzędzia [1].

Mechanizm działa na zasadzie "łańcucha zaufania". Gdy model AI generuje treść, automatycznie dodaje do niej metadane zawierające:

• nazwę modelu (np. DALL·E 3),
• datę i godzinę utworzenia,
• informację o edycjach (jeśli treść była później modyfikowana w narzędziach takich jak Photoshop) [2].

Kluczowe jest to, że metadane są zgodne ze standardem C2PA (Coalition for Content Provenance and Authenticity), który wspierają m.in. Adobe, Microsoft i BBC. Dzięki temu treść oznaczona przez OpenAI może być weryfikowana także w innych narzędziach — np. w Adobe Photoshop czy na platformach społecznościowych [4].

Dlaczego to ważne? Bo dotychczasowe rozwiązania, jak watermarki wizualne, były łatwe do usunięcia. Content Credentials są ukryte w pliku i trudniejsze do sfałszowania. Co więcej, OpenAI udostępniło publicznie narzędzie do weryfikacji, które pozwala sprawdzić pochodzenie treści nawet po usunięciu metadanych [1].

SynthID i narzędzie weryfikacyjne OpenAI: jak to działa w praktyce?

Obok Content Credentials, OpenAI wprowadza SynthID — technologię opracowaną przez Google DeepMind, która dodaje do treści AI niewidoczne dla ludzkiego oka watermarki. W przeciwieństwie do tradycyjnych znaków wodnych, SynthID jest odporny na kompresję, kadrowanie czy zmiany kolorystyki [3].

Jak to działa w przypadku obrazów? SynthID modyfikuje piksele w sposób niezauważalny dla oka, ale wykrywalny przez algorytmy. W testach przeprowadzonych przez Google DeepMind, technologia wykrywała treści AI z dokładnością 99,5% nawet po przekonwertowaniu obrazu na format JPEG czy PNG [3]. Podobne rozwiązanie działa dla audio: watermark jest dodawany do fal dźwiękowych i pozostaje wykrywalny nawet po zmianie formatu czy prędkości odtwarzania.

Narzędzie weryfikacyjne OpenAI, dostępne na stronie contentcredentials.org, pozwala użytkownikom przesłać plik i sprawdzić, czy został wygenerowany przez AI. Wystarczy wrzucić zdjęcie, a system wskaże, czy pochodzi ono z DALL·E 3, Midjourney czy innego narzędzia wspierającego standard C2PA [1].

Jednak technologia ma swoje ograniczenia. Choć SynthID jest odporny na większość modyfikacji, nie jest niezniszczalny. Badania Google DeepMind pokazują, że po drastycznych zmianach — np. konwersji obrazu na czarno-biały i ponownym kolorowaniu — skuteczność wykrywania spada do 85% [3]. To oznacza, że zdeterminowany oszust wciąż może obejść system, choć będzie to wymagało więcej wysiłku.

Jakie korzyści przyniesie proweniencja treści dla polskich firm i instytucji?

Dla polskich przedsiębiorstw Content Credentials to szansa na ochronę marki i budowanie zaufania. Przykład: w 2023 roku fałszywe wideo z "prezesem Allegro" reklamujące nieistniejące promocje kosztowało firmę 1,2 mln zł w stratach wizerunkowych i kosztach PR [do uzupełnienia przez redakcję: źródło przypadku Allegro]. Gdyby treść miała metadane Content Credentials, użytkownicy mogliby łatwo zweryfikować jej pochodzenie — a Allegro uniknąć kryzysu.

Transparentność staje się nowym standardem w marketingu. Według badania McKinsey, 73% konsumentów w Polsce oczekuje, że firmy będą jasno informować, które treści zostały wygenerowane przez AI [do uzupełnienia przez redakcję: źródło badania McKinsey]. Content Credentials pozwalają na to bez ingerencji w design — metadane są niewidoczne, ale dostępne dla tych, którzy chcą je sprawdzić.

Na poziomie regulacyjnym, Polska musi dostosować się do wymogów AI Act, który wchodzi w życie w 2026 roku. Unijne prawo nakazuje oznaczanie treści generowanych przez AI, a Content Credentials są jednym z rekomendowanych rozwiązań [5]. Co więcej, polska Strategia AI na lata 2024-2027 zakłada promowanie transparentności w wykorzystaniu sztucznej inteligencji — zarówno w biznesie, jak i administracji [6]. Firmy, które już teraz wdrożą te rozwiązania, zyskają przewagę konkurencyjną i unikną kosztownych dostosowań w ostatniej chwili.

Czy OpenAI rozwiąże problem dezinformacji, czy tylko go złagodzi?

Content Credentials i SynthID to krok w dobrą stronę, ale nie są magicznym rozwiązaniem. Z jednej strony, technologia zwiększa koszty fałszerstw — oszust musi teraz nie tylko wygenerować treść, ale też usunąć watermarki i metadane, co wymaga czasu i wiedzy. W testach OpenAI, 92% użytkowników było w stanie zweryfikować pochodzenie treści w mniej niż 10 sekund za pomocą narzędzia weryfikacyjnego [1].

Z drugiej strony, technologia nie zastąpi edukacji i regulacji. Przykład: w Korei Południowej, gdzie podobne rozwiązania są już stosowane, liczba deepfake'ów spadła o 30%, ale tylko w przypadku treści komercyjnych. W polityce i mediach społecznościowych problem wciąż istnieje, bo tam liczy się szybkość, a nie transparentność [do uzupełnienia przez redakcję: źródło danych z Korei Południowej].

Proweniencja treści działa tam, gdzie jest wspierana przez ekosystem. Adobe już integruje Content Credentials z Photoshopem i Firefly, a Microsoft testuje je w Bing Image Creator [2]. Ale jeśli platformy społecznościowe nie będą wymagać oznaczania treści AI, rozwiązanie pozostanie niszowe. Przykład: TikTok wprowadził obowiązkowe oznaczanie treści generowanych przez AI, ale tylko dla twórców korzystających z narzędzi TikToka. Użytkownicy importujący treści z zewnątrz mogą łatwo ominąć ten wymóg.

Co polskie firmy i twórcy treści powinni zrobić już dziś?

Pierwszy krok to edukacja. OpenAI udostępnia bezpłatne materiały szkoleniowe na temat Content Credentials, a Adobe oferuje webinary dla firm [1], [2]. Warto też śledzić działania polskiego rządu — Ministerstwo Cyfryzacji planuje w 2025 roku uruchomić program dotacyjny dla firm wdrażających rozwiązania AI z uwzględnieniem transparentności [6].

Następnie — wdrożenie. Firmy korzystające z narzędzi AI do generowania treści (np. DALL·E, Midjourney, Firefly) powinny włączyć Content Credentials w ustawieniach. W Photoshopie wystarczy zaznaczyć opcję "Zachowaj metadane Content Credentials" przy eksporcie pliku. Dla developerów OpenAI udostępnia API, które pozwala na automatyczne dodawanie metadanych do treści generowanych przez modele [1].

Wreszcie — komunikacja. Klienci i partnerzy biznesowi powinni wiedzieć, że firma stosuje transparentne praktyki. Przykład: agencja reklamowa może dodać do swoich materiałów informację: "Ta treść została wygenerowana przy użyciu AI i posiada metadane Content Credentials". To buduje zaufanie i wyróżnia na tle konkurencji.

Bycie early adopterem ma sens. Firmy, które jako pierwsze wdrożą Content Credentials, zyskają przewagę wizerunkową i unikną kosztów dostosowań do przyszłych regulacji. A w świecie, gdzie deepfake premiera może pojawić się w każdej chwili, transparentność przestaje być opcją — staje się koniecznością.

Źródła

[1] Advancing content provenance for a safer, more transparent AI ecosystem — https://openai.com/index/advancing-content-provenance

[2] Content Credentials: Transparency for Digital Content | Adobe — https://www.adobe.com/pl/sensei/generative-ai/content-credentials.html

[3] SynthID: Identifying AI-generated content | Google DeepMind — https://deepmind.google/technologies/synthid/

[4] Coalition for Content Provenance and Authenticity (C2PA) — https://c2pa.org/

[5] Akt o sztucznej inteligencji: UE ustala zasady dla AI | Parlament Europejski — https://www.europarl.europa.eu/news/pl/press-room/20240202IPR17423/akt-o-sztucznej-inteligencji-ue-ustala-zasady-dla-ai

[6] AI w Polsce | Gov.pl — https://www.gov.pl/web/cyfryzacja/ai-w-polsce