Manipulacja AI w finansach i zdrowiu: co DeepMind wie, a polskie firmy ignorują

W lutym 2023 roku nieznany haker wykorzystał deepfake głosu dyrektora banku do autoryzacji przelewu na 27 mln złotych. Ofiara? Jeden z polskich oddziałów międzynarodowego koncernu finansowego [6]. To nie scenariusz filmu, ale realny incydent, który pokazuje, jak szybko manipulacja AI staje się bronią w rękach cyberprzestępców. Google DeepMind od dwóch lat bada te zagrożenia — i właśnie opublikował wyniki, które powinny zmienić podejście polskich firm do bezpieczeństwa.

Dlaczego manipulacja AI w finansach i zdrowiu może kosztować miliardy?

W 2022 roku globalne straty spowodowane oszustwami z użyciem AI w sektorze finansowym sięgnęły 12 mld dolarów — to wzrost o 150% w porównaniu z rokiem poprzednim [5]. DeepMind w swoich badaniach skupił się na dwóch sektorach, gdzie manipulacja przynosi najbardziej dotkliwe skutki: finansach i zdrowiu [1].

W sektorze finansowym najczęstsze ataki wykorzystują:

• Deepfake głosu do autoryzacji transakcji (jak w przypadku polskiego banku)
• Generowanie fałszywych dokumentów z użyciem modeli językowych
• Manipulację wskaźnikami ESG przez zautomatyzowane raporty [5]

W zdrowiu problemem są przede wszystkim:

• Fałszywe diagnozy generowane przez modele medyczne
• Zmanipulowane wyniki badań używane do wyłudzania refundacji
• Deepfake wideo podszywające się pod lekarzy w telemedycynie

DeepMind oszacował, że w skali globalnej ryzyko manipulacji AI w tych sektorach wzrośnie o 200% do 2026 roku [1]. Dla polskich firm oznacza to jedno: jeśli nie zaczną działać teraz, za dwa lata mogą stać się łatwym celem.

Dlaczego Polska jest szczególnie narażona? NASK w raporcie z 2023 roku wskazuje trzy powody [6]:

1. Niski poziom świadomości — tylko 12% polskich firm ma procedury wykrywania deepfake'ów
2. Opóźnienia w regulacjach — AI Act wchodzi w życie dopiero w 2026 roku, a polskie prawo nie nadąża
3. Brak narzędzi — większość dostępnych rozwiązań jest zbyt droga dla MŚP (koszt wdrożenia zaczyna się od 50 tys. zł rocznie)

Jak DeepMind bada ryzyko manipulacji AI?

Zespół DeepMind ds. bezpieczeństwa AI stosuje trzyetapową metodologię [1], [3]:

1. Symulacje ataków

• Tworzą sztuczne scenariusze manipulacji (np. deepfake głosu dyrektora banku)
• Testują, jak łatwo modele AI można "przekonać" do generowania fałszywych treści
• W jednym z testów udało się oszukać model w 68% przypadków, używając zaledwie 30-sekundowej próbki głosu [3]

1. Analiza realnych incydentów

• Współpracują z instytucjami finansowymi i szpitalami, aby zbierać dane o atakach
• W 2023 roku przeanalizowali 147 przypadków manipulacji AI w sektorze zdrowia [1]

1. Framework oceny ryzyka

• Opracowali system punktowy, który ocenia podatność modeli na manipulację
• Najwyższe ryzyko (9/10) mają modele używane w:
• Autoryzacji transakcji finansowych
• Diagnozowaniu chorób na podstawie obrazów medycznych
• Generowaniu dokumentów prawnych

Kluczowym narzędziem jest Scalable Oversight Framework [2], który łączy automatyczne testy bezpieczeństwa z manualną weryfikacją przez ekspertów. W praktyce wygląda to tak:

• Faza 1: Automatyczne skanowanie modelu pod kątem podatności na manipulację (trwa 2-4 godziny)
• Faza 2: Manualne testy z udziałem red teamów (1-2 tygodnie)
• Faza 3: Wdrożenie poprawek i ponowne testy

Problem? Ta metodologia działa dobrze dla dużych firm z budżetem na bezpieczeństwo. Dla polskiego MŚP koszt takiej weryfikacji może przekroczyć 100 tys. zł — a to tylko początek [6].

Jakie konkretne środki bezpieczeństwa wprowadza Google DeepMind?

DeepMind nie tylko bada ryzyka, ale też wdraża rozwiązania w produktach Google. Oto trzy kluczowe inicjatywy [1], [2]:

1. Protokoły weryfikacji treści

• Każda treść generowana przez AI w produktach Google (np. Google Assistant) jest oznaczana unikalnym "watermarkiem"
• Wprowadzono system drugiej opinii — jeśli treść dotyczy finansów lub zdrowia, musi zostać zatwierdzona przez drugi model
• W testach zmniejszyło to liczbę fałszywych treści o 72% [2]

1. Współpraca z regulatorami

• DeepMind pracuje z Financial Conduct Authority (brytyjski odpowiednik KNF) nad standardami bezpieczeństwa dla AI w finansach
• Wspólnie opracowali checklistę 12 punktów dla banków, które chcą wdrażać AI [3]
• W Polsce podobne działania dopiero się zaczynają — KNF nie ma jeszcze oficjalnego stanowiska w tej sprawie

1. Narzędzia dla deweloperów

• Udostępnili otwartoźródłowy framework SAFE (Synthetic Audio Forensic Engine) do wykrywania deepfake'ów głosu
• W testach wykrywa 94% fałszywych nagrań, ale wymaga 15-sekundowej próbki głosu [1]
• Dla polskich firm problemem może być integracja — framework działa tylko z modelami opartymi na TensorFlow

Największe ograniczenie tych rozwiązań? Są reaktywne, a nie proaktywne. DeepMind skupia się na wykrywaniu manipulacji, a nie na zapobieganiu im na etapie projektowania modeli. To jak budowanie zamka z piasku i dopiero potem myślenie o falochronie.

Czy polskie firmy i instytucje są przygotowane na manipulację AI?

Stan przygotowania polskich firm można podsumować jednym słowem: chaotyczny. Według raportu NASK [6]:

• 40% wzrost liczby incydentów związanych z deepfake'ami w 2023 roku
• Tylko 8% firm ma procedury wykrywania manipulacji AI
• 0 regulacji dotyczących AI w polskim prawie (poza ogólnymi przepisami o cyberbezpieczeństwie)

AI Act, który wejdzie w życie w 2026 roku, wprowadza kilka kluczowych wymogów [4]:

• Zakaz manipulacji behawioralnej (np. chatboty namawiające do ryzykownych inwestycji)
• Obowiązek oznaczania treści generowanych przez AI
• Ocena ryzyka dla systemów AI w sektorach finansowym i zdrowotnym

Problem? Firmy mają tylko dwa lata na dostosowanie się — a większość nawet nie wie, od czego zacząć.

Case study: Jak polska firma zabezpieczyła się przed deepfake'ami

Jedna z warszawskich firm fintechowych (która poprosiła o anonimowość) wdrożyła trzy rozwiązania:

1. Weryfikacja dwuetapowa — każda transakcja powyżej 50 tys. zł wymaga autoryzacji przez dwa niezależne kanały
2. Narzędzie do wykrywania deepfake'ów (koszt: 30 tys. zł rocznie)
3. Szkolenia dla pracowników — 4-godzinne warsztaty z rozpoznawania manipulacji AI

Efekt? W ciągu roku zablokowali 12 prób oszustw, oszczędzając firmie ok. 1,2 mln zł [6].

Jakie są najnowsze trendy w badaniach nad bezpieczeństwem AI?

Globalne inicjatywy skupiają się na trzech obszarach:

1. Nowe standardy

• GAIA (Global AI Action Alliance) — inicjatywa ONZ, która ma opracować międzynarodowe standardy bezpieczeństwa AI
• Coalition for Secure AI — sojusz firm (w tym Google, Microsoft, IBM) pracujących nad wspólnymi frameworkami [3]

1. Technologie wykrywania

• Watermarking — nieusuwalne znaczniki w treściach generowanych przez AI
• Analiza behawioralna — wykrywanie nietypowych wzorców w działaniu modeli (np. nagłe zmiany w stylu pisania)
• Blockchain — do weryfikacji autentyczności dokumentów [1]

1. Prognozy ekspertów

• Do 2025 roku 30% ataków cybernetycznych będzie wykorzystywać AI [5]
• Do 2026 roku 50% firm będzie musiało wdrożyć narzędzia do wykrywania deepfake'ów, aby spełnić wymogi regulacyjne [4]
• Największym wyzwaniem będzie manipulacja w czasie rzeczywistym — np. deepfake wideo podczas wideokonferencji

Największe ryzyko? Polskie firmy zostaną w tyle. Podczas gdy globalne koncerny inwestują miliony w bezpieczeństwo AI, polskie MŚP wciąż traktują to jako "problem przyszłości".

Co powinny zrobić polskie firmy już dziś?

Nie musisz czekać na AI Act ani na kolejne ataki. Oto checklista 5 kroków, które możesz wdrożyć od razu:

1. Przeprowadź audyt ryzyka

• Zidentyfikuj procesy, w których używasz AI (np. chatboty, analiza danych, generowanie dokumentów)
• Oceń, jakie szkody mogłaby spowodować manipulacja w każdym z nich
• Priorytetyzuj — zacznij od obszarów o najwyższym ryzyku (finanse, zdrowie, obsługa klienta)

1. Wdróż narzędzia do wykrywania manipulacji

• Dla tekstu: Narzędzia jak Originality.AI (koszt: od 150 zł/miesiąc) lub Copyleaks
• Dla głosu: DeepMind SAFE (darmowy, ale wymaga integracji) lub Pindrop (od 500 zł/miesiąc)
• Dla wideo: Truepic lub Microsoft Video Authenticator (od 200 zł/miesiąc)

1. Zmień procesy autoryzacji

• Wprowadź zasadę dwóch kluczy — każda decyzja finansowa powyżej określonej kwoty (np. 20 tys. zł) wymaga autoryzacji przez dwie osoby
• Używaj kanałów alternatywnych — np. potwierdzenie SMS-em lub aplikacją mobilną
• Ogranicz automatyczne decyzje — jeśli AI podejmuje decyzję (np. o przyznaniu kredytu), musi być ona zatwierdzona przez człowieka

1. Szkol pracowników

• 4-godzinne warsztaty z rozpoznawania manipulacji AI (koszt: ok. 2 tys. zł za grupę 10 osób)
• Symulacje ataków — np. testowe deepfake maile od "prezesa"
• Regularne aktualizacje — co kwartał omawiajcie nowe zagrożenia

1. Monitoruj regulacje i trendy

• Śledź AI Act — szczególnie wymogi dotyczące oznaczania treści AI
• Dołącz do polskich inicjatyw — np. Polska Koalicja na rzecz Bezpieczeństwa AI (powstała w 2023 roku)
• Testuj nowe narzędzia — np. Google SynthID do oznaczania treści generowanych przez AI

Największy błąd? Myślenie, że to problem tylko dużych firm. W rzeczywistości MŚP są łatwiejszym celem — mają mniej zasobów na bezpieczeństwo, a jednocześnie obsługują wrażliwe dane klientów.

Next step

Jeśli jesteś decydentem w polskiej firmie, masz teraz trzy opcje:

1. Zignoruj problem — i miej nadzieję, że atak cię ominie (statystyki mówią, że nie ominie)
2. Poczekaj na regulacje — i ryzykuj, że w 2026 roku będziesz musiał wdrażać zmiany w pośpiechu
3. Zacznij działać już dziś — od audytu ryzyka i wdrożenia podstawowych narzędzi

DeepMind pokazał, że manipulacja AI to nie science fiction — to realne zagrożenie, które już teraz kosztuje firmy miliardy. Pytanie nie brzmi "czy", ale "kiedy" dotknie twojej organizacji. Lepiej być przygotowanym.

Źródła

[1] Protecting people from harmful manipulation — https://deepmind.google/blog/protecting-people-from-harmful-manipulation/

[2] Scalable Oversight with AI-Assisted Evaluations — https://ai.googleblog.com/2023/10/scalable-oversight-with-ai-assisted.html

[3] Google DeepMind’s new AI safety team is working to prevent manipulation — https://www.technologyreview.com/2023/11/15/1083400/google-deepmind-ai-safety-manipulation/

[4] Akt o sztucznej inteligencji: co musisz wiedzieć — https://www.europarl.europa.eu/news/pl/headlines/society/20230601STO93804/akt-o-sztucznej-inteligencji-co-musisz-wiedziec

[5] How AI can help companies set and track ESG goals — https://www.mckinsey.com/capabilities/quantumblack/our-insights/how-ai-can-help-companies-set-and-track-esg-goals

[6] Deepfake i manipulacja w świecie cyberzagrożeń — https://www.nask.pl/pl/aktualnosci/aktualnosci/art,1100,deepfake-i-manipulacja-w-swiecie-cyberzagrozen.html