News & analizy
Książka o prawdzie w dobie AI zawierała cytaty wymyślone przez AI
Zaktualizowano: Autor: Andrzej Niemiec7 min czytania
„The Future of Truth” Stevena Rosenbauma zawierała cytaty zmyślone lub błędnie przypisane przez AI. Co ujawniły relacje z maja i audyt z października 2026.
Spis treści
- Co dokładnie stało się z książką „The Future of Truth”?
- Jakie cytaty zakwestionowano?
- Dlaczego model językowy tworzy cytaty, które brzmią jak prawdziwe?
- Ile cytowań wymagało poprawy: sześć czy dwadzieścia sześć?
- Czy wydawca odpowiada za sprawdzenie przypisów?
- Jak wypada porównanie z polskim przypadkiem?
- Jak sprawdzić cytat, zanim go powtórzysz?
- Najczęstsze pytania
- Źródła
Co dokładnie stało się z książką „The Future of Truth”?
19 maja 2026 roku „The New York Times” opublikował tekst Benjamina Mullina, w którym podano, że książka „The Future of Truth: How AI Reshapes Reality” zawiera „więcej niż pół tuzina” cytatów fałszywych lub błędnie przypisanych [1]. Publikację Stevena Rosenbauma wydał Matt Holt Books, imprint BenBella Books. Książka ukazała się 12 maja 2026 roku, liczy 288 stron, ma ISBN 9781637749104, a przedmowę napisała Maria Ressa [2][3].
Simon & Schuster odpowiadał za dystrybucję i sprzedaż cyfrową, dlatego część omówień wskazywała go jako wydawcę; formalnie tytuł opublikował imprint Matt Holt Books [2]. Sprawę opisały polskie media, między innymi Rzeczpospolita i Spider's Web [4][5].
Rosenbaum potwierdził, że korzystał z ChatGPT i Claude'a w researchu, pisaniu i redakcji. Zastrzegł, że modele nie napisały głównej narracji, wywiadów ani argumentacji książki. W oświadczeniu mówił o „improperly attributed or synthetic quotes”, czyli cytatach niewłaściwie przypisanych lub wygenerowanych syntetycznie, i przyjął odpowiedzialność za błędy [1][6].
Jakie cytaty zakwestionowano?
Cztery opisane przypadki pokazują, że nie chodziło o jeden mechanizm. Kara Swisher miała nigdy nie powiedzieć zdania o modelu AI „jak o lustrze”, które książka jej przypisała; sama zaprzeczyła temu cytatowi [1][7]. Lisie Feldman Barrett przypisano dwa cytaty rzekomo pochodzące z jej książki „How Emotions Are Made”; według autorki nie było ich w tej książce i były merytorycznie błędne [7].
Cytat Meredith Broussard był autentyczny, ale pochodził z wywiadu „Marketplace Tech” z 2023 roku, a nie z książki „Artificial Unintelligence”, której go przypisano [7]. W wypowiedzi Lee McIntyre'a pojawiły się zmyślone lub zmienione słowa; McIntyre ocenił, że nie wypaczały jego zasadniczego stanowiska [7]. Media relacjonujące sprawę podkreślały, że problem dotyczył nie jednego przypadku, lecz kilku różnych typów błędów [6][8].
Rozróżnienie jest istotne, bo prowadzi do innych wniosków. Część zdań powstała od zera, część była prawdziwą wypowiedzią przypisaną do niewłaściwego źródła, a część przekształcono w trakcie redakcji. Teza, że AI wymyśliła całą treść książki, jest więc uproszczeniem [6][7].
Dlaczego model językowy tworzy cytaty, które brzmią jak prawdziwe?
Model generatywny nie przechowuje archiwum wypowiedzi. Przewiduje kolejne słowa na podstawie wzorców z danych treningowych, więc potrafi złożyć zdanie w tonie konkretnej osoby, nie mając w źródłach jej rzeczywistej wypowiedzi. Model nie odróżnia przy tym zdania autentycznego od zdania, które jedynie pasuje do kontekstu i stylu [6].
Warstwa przypisów powstaje zwykle osobno. Gdy autor dopisuje źródła po zakończeniu tekstu, opiera się na notatkach z researchu, a te mogą mieszać cytaty, parafrazy i streszczenia. Rosenbaum opisał to jako cytaty niewłaściwie przypisane lub wygenerowane syntetycznie, czyli dwie różne kategorie błędów [1][6].
Dlatego taki cytat przechodzi przez redakcję. Brzmi wiarygodnie, pasuje do tezy rozdziału i nie zawiera oczywistej bzdury, więc redaktor sprawdzający styl i spójność nie ma powodu go kwestionować. Wykrycie błędu wymaga porównania z pierwotnym źródłem, czyli pracy, której nikt wcześniej nie wykonał [1][6].
Jeśli interesuje Cię, jak podobne mechanizmy wpływają na obieg informacji, zobacz artykuł o deepfake'ach i odpowiedzialności karnej.
Ile cytowań wymagało poprawy: sześć czy dwadzieścia sześć?
Obie liczby są prawdziwe, ale dotyczą różnych momentów. W maju „The New York Times” pisał o „więcej niż pół tuzina” problematycznych cytatów [1]. Ars Technica 22 maja 2026 roku podała dokładniejsze dane: sześć problematycznych cytowań spośród 285 cytowań zewnętrznych, w tym trzy bez widocznego źródła [6].
W październiku obraz się zmienił. W tekście opublikowanym 6 października 2026 roku w „Fortune” Rosenbaum poinformował, że audyt przeprowadzony przez dwoje fact-checkerów wykazał 26 cytatów wymagających korekty, parafrazy albo usunięcia. Tego samego dnia ukazało się poprawione wydanie zatytułowane „The Future of Truth: Truth 2.0 Revised” [10].
Trzeba jednak rozdzielić ustalenia niezależne od deklaracji autora. Informacja o usunięciu wszystkich blurbs i przedmowy pochodzi z tekstu Rosenbauma, a nie z odrębnej weryfikacji redakcyjnej, więc jest oświadczeniem autora, nie faktem potwierdzonym przez wydawcę [10]. Podobnie liczba 26 pochodzi z audytu zleconego przez samego autora [10].
Czy wydawca odpowiada za sprawdzenie przypisów?
W opisywanym przypadku wydawcą był Matt Holt Books, imprint BenBella Books, a Simon & Schuster zajmował się dystrybucją [2]. BenBella Books przedstawia Rosenbauma jako współzałożyciela i dyrektora wykonawczego Sustainable Media Center. Ta organizacja nie była wydawcą książki, choć w części komentarzy pojawiała się jako podmiot odpowiedzialny za publikację [9].
Odpowiedzialność za przypisy rozkłada się na dwa etapy. Autor odpowiada za to, co dostarcza, a redakcja za to, co dopuszcza do druku. Gdy cytaty są generowane lub przepisywane z notatek, kontrola wymaga sięgnięcia do pierwotnego źródła dla każdego przypisu, który ma znaczenie dla argumentu. W praktyce oznacza to wybór: pełna weryfikacja, weryfikacja wyrywkowa albo świadome ryzyko [6][8].
Jak wypada porównanie z polskim przypadkiem?
W 2026 roku podobna dyskusja wybuchła wokół książki Karoliny Opolskiej „Teoria spisku, czyli prawdziwa historia świata”. Wydawnictwo Harde opublikowało oświadczenie, w którym fragment o „błędzie technicznym” stał się przedmiotem krytyki i punktem wyjścia do debaty o granicach użycia AI w dziennikarstwie [11].
| Kryterium | „The Future of Truth” (USA, 2026) | „Teoria spisku” Karoliny Opolskiej (Polska, 2026) |
|---|---|---|
| Co zakwestionowano | cytaty zmyślone lub błędnie przypisane [1][6] | przypisy i sposób ich powstania z użyciem AI [11] |
| Reakcja autora | przyznanie użycia ChatGPT i Claude'a, audyt, poprawione wydanie [1][10] | oświadczenie wydawnictwa o „błędzie technicznym” [11] |
| Reakcja wydawcy | korekta w kolejnym wydaniu [10] | publiczne oświadczenie i debata o granicach AI [11] |
| Skala ustaleń | sześć cytowań w maju, 26 w październiku [6][10] | bez podanej liczby w dostępnych relacjach [11] |
Wspólny element obu spraw jest ten sam: czytelnik nie ma sposobu, by na pierwszy rzut oka odróżnić przypis sprawdzony od wygenerowanego. Różnica dotyczy reakcji — w pierwszym przypadku powstało poprawione wydanie, w drugim spór przeniósł się na poziom deklaracji wydawcy [10][11].
Jak sprawdzić cytat, zanim go powtórzysz?
- Ustal pierwotne źródło. Nie wystarczy nazwisko i tytuł książki; potrzebna jest strona i wydanie, w którym cytat faktycznie się znajduje [7].
- Porównaj brzmienie zdania, nie tylko sens. Zmienione słowa to nadal błąd, nawet jeśli autor wypowiedzi zgadza się z przesłaniem [7].
- Sprawdź, czy źródło nie jest wywiadem, podcastem albo innym materiałem niż ten wskazany w przypisie. Przypadek Meredith Broussard pokazuje, że autentyczny cytat może mieć błędne pochodzenie [7].
- Brak potwierdzenia traktuj jako sygnał ostrzegawczy. Jeśli nie możesz znaleźć wypowiedzi w żadnym źródle, nie używaj jej w tekście bez zastrzeżenia [1].
Praktyczna rada: przy cytatach kluczowych dla argumentu sprawdzaj źródło zawsze, a przy pozostałych stosuj zasadę ograniczonego zaufania. Narzędzia wyszukiwania pomagają, ale nie zastępują sięgnięcia do oryginału. Kontekst zmian w wyszukiwaniu opisuje artykuł o Google Search z AI.
Najczęstsze pytania
Czy Steven Rosenbaum przyznał się do błędów?
Tak. Potwierdził użycie ChatGPT i Claude'a w researchu, pisaniu i redakcji, opisał problem jako cytaty niewłaściwie przypisane lub wygenerowane syntetycznie i wziął odpowiedzialność za błędy [1][6]. Zastrzegł jednocześnie, że modele nie napisały głównej narracji, wywiadów ani argumentacji książki [1].
Ile cytatów zakwestionowano w pierwszej relacji?
W maju 2026 roku „The New York Times” pisał o „więcej niż pół tuzina” problematycznych cytatów [1]. Ars Technica podała dokładniej: sześć cytowań spośród 285 cytowań zewnętrznych, w tym trzy bez widocznego źródła [6]. Późniejszy audyt autora mówił już o 26 cytatach [10].
Czy poprawione wydanie ukazało się w 2026 roku?
Tak, według tekstu Rosenbauma w „Fortune” poprawione wydanie „Truth 2.0 Revised” ukazało się 6 października 2026 roku, czyli w dniu publikacji tego tekstu [10]. Informacja pochodzi od autora, podobnie jak deklaracja o usunięciu blurbs i przedmowy [10].
Jak samemu sprawdzić cytat z książki?
Znajdź wydanie i stronę, na której cytat ma się znajdować, a następnie porównaj brzmienie zdania. Jeśli wypowiedź pochodzi z wywiadu lub innego materiału, sprawdź, czy przypis wskazuje właściwe źródło [7]. Brak potwierdzenia w żadnym źródle jest powodem, by cytatu nie używać bez zastrzeżenia [1].
Czy podobny przypadek zdarzył się w Polsce?
Tak. W 2026 roku dyskusję wywołała książka Karoliny Opolskiej „Teoria spisku, czyli prawdziwa historia świata”. Oświadczenie Wydawnictwa Harde, w tym fragment o „błędzie technicznym”, stało się punktem wyjścia debaty o granicach użycia AI w dziennikarstwie [11].
Źródła
- ‘The Future of Truth’ Contains Quotes Made Up by A.I. - The New York Times (The New York Times, 2026) https://www.nytimes.com/2026/05/19/business/media/future-of-truth-ai-quotes.html
- The Future of Truth (Simon & Schuster, 2026) https://www.simonandschuster.com/books/The-Future-of-Truth/Steven-Rosenbaum/9781637749104
- The Future of Truth: How AI Reshapes Reality (Amazon, 2026) https://www.amazon.com/Future-Truth-How-Reshapes-Reality/dp/1637749104
- Głośna książka o wpływie AI na prawdę z nieprawdziwymi cytatami (Rzeczpospolita, 2026) https://www.rp.pl/spoleczenstwo/art44415461-napisal-ksiazke-o-prawdzie-i-ai-wykorzystal-cytaty-zmyslone-przez-sztuczna-inteligencje
- Napisał książkę o prawdzie w erze AI. ChatGPT zmyślił mu cytaty (Spider's Web, 2026) https://spidersweb.pl/2026/05/ksiazka-steven-rosenbaum-wymyslone-cytaty-chatgpt.html
- AI put „synthetic quotes” in his book. But this author wants to keep using it (Ars Technica, 2026) https://arstechnica.com/ai/2026/05/ai-put-synthetic-quotes-in-his-book-but-this-author-wants-to-keep-using-it
- The Future of Truth: AI-Made Quotes Controversy (San Francisco Examiner, 2026) https://www.sfexaminer.com/book-on-truth-in-the-age-of-ai-contains-quotes-made-up-by-ai/article_1f549d3e-005a-5d0d-9e06-cdbd1b846a36.html
- Author Steven Rosenbaum Busted Using Fake AI-Generated Quotes in Book Critiquing AI (The Daily Beast, 2026) https://www.thedailybeast.com/author-steven-rosenbaum-busted-using-fake-ai-generated-quotes-in-book-critiquing-ai
- Rosenbaum, Steven (BenBella Books, 2026) https://benbellabooks.com/authors/rosenbaum-steven
- I wrote The Future of Truth and then found to my alarm it contained AI-hallucinated quotes. I've chosen to fight back (Fortune, 2026) https://fortune.com/2026/10/06/steven-rosenbaum-future-of-truth-ai-hallucinated-quotes
- Technika błędu. Afera z książką Karoliny Opolskiej rozpala debatę o granicach AI (Press, 2026) https://www.press.pl/tresc/91224,technika-bledu_-afera-z-ksiazka-karoliny-opolskiej-rozpala-debate-o-granicach-ai
Fanatyk nowych technologii i specjalista w zakresie sztucznej inteligencji.
Jak powstają teksty: Polityka AI · O redakcji