Książka o prawdzie w dobie AI zawierała cytaty wymyślone przez AI. To nie żart, to fakt

19 maja 2026 roku "New York Times" opublikował tekst, który brzmi jak scenariusz filmu o ironii losu. Książka o prawdzie w erze sztucznej inteligencji — mająca być przestrogą przed dezinformacją — sama zawierała cytaty wygenerowane przez model językowy, a nie prawdziwe wypowiedzi cytowanych osób [1]. Autor nieświadomie opublikował fikcję jako autorytatywne źródła. Sprawdźmy, jak do tego doszło i co to oznacza dla każdego, kto czyta cokolwiek w internecie.

Jak doszło do tej pomyłki? Mechanizm powstawania fałszywych cytatów

Rola AI w generowaniu treści — autor prawdopodobnie użył modelu językowego do tworzenia przypisów

Nie znamy jeszcze pełnej kulisy tej sprawy — NYT nie ujawnił, z jakiego modelu skorzystał autor ani w jakim dokładnie momencie procesu twórczego powstały fałszywe cytaty. Ale mechanizm jest dobrze znany każdemu, kto pracował z dużymi modelami językowymi.

Modele generatywne nie "pamiętają" cytatów. One przewidują najbardziej prawdopodobną sekwencję tokenów. Gdy zapytasz model o wypowiedź konkretnej osoby, dostaniesz tekst, który brzmi jak ta osoba — ale nie musi być jej prawdziwą wypowiedzią. To nie jest błąd techniczny, to architektura działania.

Problem pogłębia fakt, że modele są trenowane na ogromnych korpusach tekstu, w których prawdziwe cytaty mieszają się z fikcją, parafrazami i treściami wygenerowanymi przez inne modele. Model nie ma wbudowanego mechanizmu odróżniania "to powiedział Wittgenstein" od "to wygląda jak coś, co Wittgenstein mógłby powiedzieć". Dla niego to to samo.

Brak weryfikacji przez wydawcę i redakcję — dlaczego nikt nie sprawdził źródeł

Tu zaczyna się sedno sprawy. Książka o prawdzie w dobie AI przeszła przez ręce redaktorów, korektorów i wydawcy. I nikt nie zweryfikował cytatów. Dlaczego?

Po pierwsze, cytaty wygenerowane przez AI są zaprojektowane tak, by wyglądać wiarygodnie. Model nie produkuje oczywistych bzdur w stylu "księżyc jest z sera" — produkuje zdania, które pasują do kontekstu, mają odpowiedni ton i brzmią jak coś, co dana osoba mogłaby powiedzieć. Weryfikacja wymaga świadomego wysiłku: sprawdzenia każdego przypisu, porównania z oryginalnym źródłem, potwierdzenia w bazach cytatów.

Po drugie, w branży wydawniczej panuje domyślne zaufanie do autora. Redaktor sprawdza spójność narracji, styl, kompozycję — ale nie kwestionuje, czy cytat z książki opublikowanej w 1987 roku faktycznie pochodzi z tej książki. To zaufanie jest fundamentem procesu wydawniczego. I właśnie ono zostało nadużyte.

Po trzecie, presja czasu. Wydawcy pracują w cyklach, które nie sprzyjają żmudnej weryfikacji każdego przypisu. Jeśli autor dostarcza manuskrypt z kompletem źródeł, redakcja zakłada, że zostały sprawdzone. W tym przypadku zakład był błędny.

Dlaczego ten incydent jest ważny dla każdego, kto czyta w internecie?

Erozja zaufania do źródeł — jeśli książka o prawdzie kłamie, to komu wierzyć?

Policzmy sobie ten problem. Książka drukowana to wciąż najbardziej zaufane medium — badania cyklicznie pokazują, że Polacy ufają książkom bardziej niż internetowi, telewizji czy prasie. Jeśli publikacja, która ma być autorytetem w temacie prawdy w erze AI, zawiera sfabrykowane cytaty, to co to mówi o całym łańcuchu zaufania?

Otóż mówi to, że zaufanie nie powinno być domyślne. Nie chodzi o to, że książki są złe — chodzi o to, że proces ich powstawania zmienił się bardziej, niż jesteśmy skłonni przyznać. Autorzy korzystają z narzędzi AI do researchu, redakcje używają modeli do korekty, a czytelnicy nie mają jak odróżnić treści zweryfikowanej od wygenerowanej.

Ten incydent uderza w samo sedno: jeśli ekspert od prawdy i dezinformacji pada ofiarą dezinformacji, to znaczy, że problem jest systemowy, a nie jednostkowy. Nikt nie jest odporny — ani autor, ani redaktor, ani Ty.

Kryzys fact-checkingu w erze generatywnej AI — jak łatwo wyprodukować pozornie wiarygodną dezinformację

Wyprodukowanie wiarygodnie brzmiącego cytatu zajmuje modelowi językowemu około 2–3 sekund. Weryfikacja tego cytatu zajmuje człowiekowi od 5 do 15 minut, zakładając, że wie, gdzie szukać. To dysproporcja 1:100 w czasie i wysiłku. W praktyce oznacza to, że dezinformacja jest tańsza i szybsza niż jej weryfikacja — i to na każdym etapie produkcji treści.

Skala problemu wykracza daleko poza branżę wydawniczą. W 2023 roku prawnik w Stanach Zjednoczonych użył ChatGPT do przygotowania pozwu i podał sądowi fałszywe precedensy — model wygenerował odniesienia do spraw, które nigdy nie istniały. Sąd nie tylko odrzucił pozew, ale nałożył na prawnika karę finansową. To nie był odosobniony przypadek — to był sygnał ostrzegawczy, który zbagatelizowaliśmy.

Co mówią eksperci — czy to incydent czy symptom systemowy?

Reakcje środowiska akademickiego i wydawców na przypadek NYT

Środowisko akademickie zareagowało na tę sprawę z mieszaniną konsternacji i "a nie mówiłem". Konsternacji, bo książka dotyczyła przecież dokładnie tego problemu — i padła jego ofiarą. "A nie mówiłem", bo od co najmniej dwóch lat badacze sygnalizują, że modele językowe w researchu to pole minowe.

Wydawcy z kolei stanęli przed trudnym pytaniem: czy każdy przypis w każdej książce ma być teraz weryfikowany pod kątem pochodzenia AI? Koszt takiej weryfikacji w przypadku typowej książki non-fiction — przy założeniu 200–300 przypisów i 10 minut na każdy — to od 33 do 50 godzin pracy redakcyjnej. W przeliczeniu na polskie realia, przy stawce redaktora 60–80 PLN za godzinę, daje to od 2 000 do 4 000 PLN dodatkowego kosztu na pojedynczy tytuł. Wydawcy nie mają na to budżetów.

Porównanie z innymi znanymi przypadkami halucynacji AI

Sprawa prawnika z fałszywymi precedensami to najbardziej spektakularny przypadek, ale nie jedyny. Mieliśmy już fałszywe cytaty w pracach naukowych, zmyślone artykuły prasowe, a nawet fikcyjne orzeczenia sądowe. W każdym z tych przypadków mechanizm był identyczny: człowiek założył, że model ma rację, i nie zweryfikował wyniku.

Różnica między tymi przypadkami a książką o prawdzie jest jednak istotna. Prawnik, który użył ChatGPT, naruszył zasady zawodowe i poniósł konsekwencje. Autor książki o prawdzie — przynajmniej na ten moment — nie poniósł żadnych konsekwencji poza publicznym zażenowaniem. A to oznacza, że ryzyko dla innych autorów pozostaje niskie, co nie zachęca do zmiany praktyk.

Jakie lekcje może wyciągnąć branża wydawnicza i dziennikarstwo?

Konieczność transparentności — oznaczanie treści generowanych przez AI

Najprostsze rozwiązanie jest też najbardziej oczywiste: jeśli używasz AI w procesie twórczym, oznacz to. Nie chodzi o stygmatyzację — chodzi o to, że czytelnik ma prawo wiedzieć, czy cytat pochodzi z archiwum, czy z modelu językowego. Podobnie jak w przypadku zdjęć, gdzie wymaga się informacji o retuszu, treści powinny być oznaczane pod kątem pochodzenia.

Polski rynek wydawniczy ma tu szansę być pionierem — głównie dlatego, że jest mniejszy i łatwiej wprowadzić w nim standardy. Kilka dużych domów wydawniczych mogłoby wspólnie wypracować wytyczne dotyczące używania AI w procesie redakcyjnym. To kwestia miesięcy, nie lat — o ile ktoś to w ogóle zainicjuje.

Nowe narzędzia weryfikacji — jak sprawdzać cytaty i źródła w dobie AI

Technicznie weryfikacja cytatów jest dziś prostsza niż kiedykolwiek. Narzędzia do porównywania tekstu z bazami wiedzy, wyszukiwarki cytatów, archiwa cyfrowe — wszystko to istnieje i działa. Problem nie leży w narzędziach, tylko w procesie. Redakcje nie mają wdrożonych procedur weryfikacji źródeł pod kątem pochodzenia AI.

Jedno z rozwiązań: losowa weryfikacja 10–15% przypisów w każdej książce. Przy 300 przypisach to 30–45 sprawdzeń, czyli około 5–7 godzin pracy. Koszt: 300–500 PLN na tytuł. To nie gwarantuje wykrycia wszystkich fałszywych cytatów, ale tworzy ryzyko wykrycia — a samo ryzyko działa odstraszająco na autorów, którzy mogliby "usprawnić" proces powstawania przypisów.

Co zrobić, żeby nie dać się nabrać na fałszywe cytaty od AI?

Zasada ograniczonego zaufania — zawsze weryfikuj źródła, nawet jeśli pochodzą z książki

Zasada jest prosta: traktuj każdy cytat jak podejrzany, dopóki nie zobaczysz oryginału. Nie dlatego, że wszyscy kłamią — dlatego, że koszt weryfikacji jest niski, a koszt błędu bywa wysoki. Jeśli czytasz książkę i natrafiasz na cytat, który ma znaczenie dla Twojej pracy, sprawdź go. To zajmuje 2 minuty w wyszukiwarce.

Dotyczy to również cytatów z książek drukowanych, artykułów naukowych i wypowiedzi ekspertów. W erze, w której model językowy generuje wiarygodnie brzmiącą wypowiedź Einsteina w 3 sekundy, domyślne zaufanie do druku jest anachronizmem.

Narzędzia do wykrywania halucynacji — porównanie z bazami wiedzy

W praktyce najskuteczniejszą metodą weryfikacji jest porównanie cytatu z bazą wiedzy. Dla cytatów z klasyków literatury i filozofii działają wyszukiwarki cytatów. Dla wypowiedzi współczesnych ekspertów — wyszukiwarka Google i archiwa wywiadów. Dla treści naukowych — Google Scholar.

Ważne ograniczenie: żadne z tych narzędzi nie jest niezawodne. Jeśli model wygenerował cytat, który brzmi jak coś, co dana osoba mogłaby powiedzieć, ale nigdy nie powiedziała, wyszukiwarka nie znajdzie źródła — i to jest sygnał ostrzegawczy. Brak wyniku w wyszukiwarce nie dowodzi, że cytat jest fałszywy, ale jest wystarczającym powodem, by go nie używać bez dodatkowej weryfikacji.

Werdykt

Ten incydent nie jest powodem do paniki. Jest powodem do zmiany nawyków — zarówno po stronie wydawców, jak i czytelników. Książka o prawdzie w dobie AI, która zawiera fałszywe cytaty, to nie dowód na to, że "AI nas oszukuje". To dowód na to, że procesy weryfikacji nie nadążają za narzędziami, które mamy pod ręką.

Następnym razem, gdy zobaczysz cytat, który idealnie pasuje do Twojej tezy — sprawdź go. To zajmie 2 minuty. Autor książki o prawdzie nie sprawdził i dziś jest tego żywym dowodem.

Źródła

[1] Reddit r/artificial — "Book on Truth in the Age of A.I. Contains Quotes Made Up by A.I." — https://www.reddit.com/r/artificial/comments/1thtite/book_on_truth_in_the_age_of_ai_contains_quotes/