Kiedy model AI mówi "nie wiem" — 90% mniej błędów w medycynie i prawie

Model pewny siebie to nie zawsze model trafny. MIT pokazało, że uczenie AI wyrażać niepewność redukuje błędy kalibracji o 90% — i to zmienia wszystko w domenach, gdzie się nie myli nie wolno. Oto jak działa RLCR i dlaczego to nie akademicka ciekawostka.

Halucynacje kosztują: jak MIT nauczyło modele AI mówić "nie wiem"

Wyobraź sobie lekarza, który zawsze odpowiada z pełną pewnością — nawet gdy nie powinien. To dokładnie problem współczesnych modeli języka. Generują odpowiedź, a przy okazji nie mają wbudowanego mechanizmu, by powiedzieć "nie jestem pewien" [4].

Konsekwencje? W medycynie, prawie czy finansach to oznacza decyzje oparte na halucynacjach. Model mówi "pacjent ma zapalenie płuc" z 95% pewnością, ale w rzeczywistości nie ma żadnych danych na ten temat. Pewność to tylko artefakt architektury transformera — nie odzwierciedla rzeczywistej wiedzy modelu.

MIT CSAIL właśnie pokazało rozwiązanie. Naukowcy opracowali metodę treningową zwaną RLCR (Reinforcement Learning with Calibration Rewards), która uczy modele jednocześnie odpowiadać i oceniać własną pewność [1]. Wynik: błąd kalibracji spada o do 90% bez spadku dokładności na zadaniach treningowych czy nowych.

To nie oznacza, że model przestaje halucynować. Oznacza, że kiedy halucynuje, wie o tym.

Co to RLCR i dlaczego standardowe RL nie wystarczy

Dzisiaj większość modeli trenuje się metodą RLHF (Reinforcement Learning from Human Feedback). Nagradzasz model za "lepsze" odpowiedzi — bardziej pomocne, bardziej szczegółowe, bardziej zgodne z instrukcjami. Problem: nikt nie nagradza modelu za to, że mówi "nie wiem" [1].

Rezultat? Model uczy się być pewny siebie, bo pewność to droga do nagrody. Nawet gdy nie powinien być pewny.

RLCR zmienia to fundamentalnie. Zamiast nagradzać tylko jakość odpowiedzi, nagradzasz również kalibrację pewności. Używa się do tego miary Briera — metryki, która porównuje przewidywaną pewność modelu z rzeczywistym wynikiem. Jeśli model mówi "jestem 80% pewny" i ma rację w 80% przypadków, dostaje nagrodę. Jeśli mówi "jestem 80% pewny", ale ma rację w 40% przypadków, dostaje karę [1].

Mechanika jest prosta: model uczy się jednocześnie dwóch rzeczy. Po pierwsze — generować poprawną odpowiedź. Po drugie — przypisać jej skalowaną ocenę pewności, która rzeczywiście odzwierciedla szanse na błąd.

Standardowe RL tego nie robi. Nagradza tylko wynik, nie proces kalibracji. RLCR to zmienia.

Liczby z badań: gdzie RLCR działa, a gdzie jeszcze nie

Badania MIT z kwietnia 2026 roku pokazują konkretne wyniki [1]. Na benchmarkach testowych błąd kalibracji spada o do 90%. Dokładność na zadaniach treningowych i nowych — utrzymuje się lub rośnie. To nie jest trade-off, gdzie zyskujesz pewność, tracąc trafność.

Johns Hopkins (2025) poszło dalej [2]. Naukowcy testowali to na zadaniach matematycznych i chain-of-thought reasoning — czyli na problemach, które wymagają wielokrokowego rozumowania. Wynik: redukcja błędów w domenach high-stakes, takich jak medycyna czy prawo. Kluczowe było jednak ustawienie progów pewności dla konkretnego use case'u.

To ostatnie zdanie jest ważne. RLCR nie działa uniwersalnie. Jeśli trenujesz model na zadaniach matematycznych, jego kalibracja pewności będzie dobra dla matematyki. Ale jeśli przerzucisz go na zadania prawne, progi mogą się zmienić [2]. Benchmark-dependent results — to jest ograniczenie, które trzeba znać.

Polska perspektywa na problem jest równie ważna. Badania z Uniwersytetu Jagiellońskiego analizowały, czy obecne modele (w tym GPT) potrafią wyrażać niepewność [3]. Wnioski: brak mechanizmu "nie wiem" to fundamentalny problem, a konsekwencje są poważne — zwłaszcza dla użytkowników, którzy traktują pewność modelu jako sygnał wiarygodności.

Gdzie to zmienia praktykę: medycyna, prawo, finanse

W medycynie to zmienia wszystko. Radiolog używa modelu do analizy tomografii. Model mówi "to guz" z 92% pewnością. Dziś radiolog musi sam ocenić, czy ta pewność jest wiarygodna. Z RLCR model będzie kalibrowany — jeśli mówi 92%, to rzeczywiście ma rację w 92% przypadków (na danych treningowych). To oznacza, że radiolog może ustawić próg: "Jeśli model jest poniżej 85% pewny, sprawdzę to jeszcze raz ręcznie" [2].

W prawie podobnie. Algorytm do predykcji wyroków sądowych. Model mówi "wyrok będzie skazujący" z 78% pewnością. Adwokat wie, że ta pewność jest wiarygodna. Może zaplanować strategię na podstawie rzeczywistych szans, nie na podstawie halucynacji modelu.

W finansach: model do oceny ryzyka kredytowego. Zamiast "pożyczka to ryzyko 45%", model mówi "pożyczka to ryzyko 45%, ale jestem w tym pewny na 72%". To dwie różne informacje. Pierwsza to prognoza. Druga to wiarygodność prognozy.

Praktycznie to oznacza, że w high-stakes domenach możesz ustawić progi pewności, poniżej których model mówi "nie wiem — sprawdź to ręcznie" lub "nie wiem — pytaj eksperta". To nie eliminuje błędów, ale zmniejsza halucynacje, które trafiają do decyzji [2].

Czy to rozwiąże problem halucynacji? Nie całkowicie — ale to krok

Tutaj trzeba być szczery. RLCR nie eliminuje halucynacji. Model dalej będzie generować nieprawdziwe informacje. Ale będzie wiedział, że nie powinien być pewny [1].

To różnica między "model mówi coś fałszywego z pewnością 95%" a "model mówi coś fałszywego z pewnością 15%". W drugim przypadku system może powiedzieć "nie wiem" i nie pozwolić tej halucynacji trafić do użytkownika.

Problem? Ustawienie progów pewności dla Twojego use case'u to sztuka, nie nauka. Johns Hopkins pokazała, że to zależy od domeny, od typu zadania, od tego, co kosztuje błąd [2]. W medycynie próg może być 85%. W finansach może być 70%. W obsłudze klienta może być 50%.

Dodatkowo RLCR to tylko jeden element. Aby rzeczywiście zmniejszyć halucynacje, potrzebujesz kombinacji:

Retrieval-Augmented Generation (RAG) — model odpowiada na podstawie faktów z bazy danych, nie z pamięci.

Fact-checking — zewnętrzny system, który weryfikuje odpowiedzi modelu.

Human-in-the-loop — człowiek przegląda odpowiedzi poniżej progu pewności.

RLCR to fundament. Ale sam nie wystarczy.

Kiedy RLCR trafi do produkcji i co to oznacza dla Twojego modelu

MIT zaprezentuje pełne wyniki na ICLR 2026 w Rio de Janeiro [1]. To będzie punkt zwrotny. Po konferencji spodziewamy się, że open-source implementacje pojawią się w ciągu kilku miesięcy — w PyTorch, w bibliotekach do treningu LLM, może nawet w HuggingFace.

Czy OpenAI i Anthropic już to robią? Sygnały z rynku są mieszane. Oba podejścia do reliability i safety sugerują, że pracują nad czymś podobnym. Ale żaden nie ogłosił publicznie implementacji RLCR. Mogą czekać na publikację MIT, aby mieć pewność, że to działa.

Dla Ciebie to oznacza: jeśli trenujesz własny model (czy to fine-tuning GPT, czy open-source LLaMA), możesz zacząć testować confidence calibration dzisiaj. Nie czekaj na ICLR 2026.

Konkretnie: weź swój model, przygotuj dataset z zadaniami, gdzie znasz prawidłowe odpowiedzi. Zmierz, jak pewny jest model, gdy ma rację, i jak pewny, gdy się myli. Jeśli model mówi "jestem 80% pewny" w obu przypadkach — to problem. Jeśli mówi "jestem 85% pewny" dla prawidłowych odpowiedzi i "jestem 35% pewny" dla błędnych — to dobra kalibracja.

Następnie możesz eksperymentować z RLCR, kiedy będzie dostępna. Ale nawet dzisiaj możesz poprawić kalibrację poprzez:

Tuning temperatury modelu — niższa temperatura = wyższa pewność, ale mniej dywersji.

Prompt engineering — instrukcje, które mówią modelowi "powiedz mi, jak pewny jesteś".

Ensemble methods — uruchamianie modelu wielokrotnie i patrzenie na zgodność odpowiedzi.

To nie będzie 90% redukcja błędu kalibracji jak w MIT. Ale będzie to coś.

Źródła

[1] Teaching AI models to say 'I'm not sure' — https://news.mit.edu/2026/teaching-ai-models-to-say-im-not-sure-0422

[2] Teaching AI to admit uncertainty — https://hub.jhu.edu/2025/06/26/teaching-ai-to-admit-uncertainty/

[3] Czy czat GPT może powiedzieć 'nie wiem'? — https://bayes.ii.uj.edu.pl/res/MNN2025.pdf

[4] Dlaczego modele językowe 'halucynują' – i co z tym zrobić w szkole — https://womgorz.edu.pl/wp-content/uploads/2025/05/Dlaczego-modele-jezykowe-%E2%80%9Ehalucynuja-%E2%80%93-i-co-z-tym-zrobic-w-szkole.pdf