ChatGPT w rozmowach o depresji czy zwolnieniach — kiedy AI naprawdę rozumie, o co chodzi?

Firma z branży HR wdrożyła ChatGPT do wstępnej selekcji kandydatów. Wszystko szło dobrze, dopóki model nie zasugerował jednej z aplikantek, że "może warto rozważyć terapię, skoro tak często zmieniała pracę". Kobieta złożyła skargę do UODO, a firma musiała wypłacić 45 tys. PLN odszkodowania. To nie był pierwszy raz, kiedy AI nie zrozumiała, że rozmowa dotyczy wrażliwego tematu.

Dlaczego ChatGPT czasem nie rozumie, że rozmowa jest wrażliwa?

ChatGPT nie ma ludzkiej empatii ani doświadczenia życiowego. Jego odpowiedzi bazują na statystycznych wzorcach językowych, a nie na głębokim zrozumieniu kontekstu emocjonalnego. Gdy użytkownik pyta: "Jak poradzić sobie z myślami samobójczymi?", model może zareagować jak na zwykłe pytanie o radę — np. sugerując "rozmowę z bliskimi" — zamiast rozpoznać, że to sytuacja wymagająca natychmiastowej interwencji specjalisty [1].

Błędy w interpretacji kontekstu nie są rzadkością. Według raportu OpenAI, przed wprowadzeniem ostatnich aktualizacji, ChatGPT udzielał nieodpowiednich odpowiedzi w około 15% rozmów na tematy związane ze zdrowiem psychicznym, prawem czy finansami [3]. W praktyce oznacza to, że co siódma odpowiedź mogła być potencjalnie szkodliwa.

Dla firm konsekwencje takich pomyłek są realne. W 2023 roku brytyjska sieć aptek musiała wycofać chatbota do porad zdrowotnych, gdy ten zalecił pacjentowi z objawami udaru "więcej snu i picie wody". Strata reputacyjna i koszty prawne wyniosły łącznie ponad 2 mln funtów [do uzupełnienia przez redakcję: źródło]. W Polsce podobne przypadki mogą skończyć się postępowaniem przed UODO, szczególnie gdy AI przetwarza dane wrażliwe — np. w systemach HR czy obsłudze klienta w bankowości.

Jak OpenAI poprawiło rozpoznawanie kontekstu w ChatGPT?

Nowe mechanizmy bezpieczeństwa wprowadzone przez OpenAI skupiają się na trzech obszarach: detekcji ryzyka w czasie rzeczywistym, lepszej interpretacji intencji użytkownika oraz filtrowaniu odpowiedzi przed ich wygenerowaniem.

1. Detekcja ryzyka w locie

ChatGPT analizuje teraz nie tylko pojedyncze pytanie, ale całą historię rozmowy. Jeśli użytkownik zaczyna od "Czuję się bezwartościowy", a potem pyta o "sposoby na poprawę nastroju", model rozpoznaje, że to rozmowa o potencjalnym kryzysie psychicznym — a nie o zwykłym stresie [1]. Algorytm ocenia ryzyko na podstawie słów kluczowych, tonu wypowiedzi oraz wcześniejszych interakcji.

1. Filtrowanie odpowiedzi

Przed wygenerowaniem odpowiedzi, system sprawdza ją pod kątem potencjalnej szkodliwości. Jeśli rozmowa dotyczy np. samobójstwa, ChatGPT może zamiast porady zaproponować kontakt z telefonem zaufania (w Polsce: 116 123) lub odesłać do specjalisty [4]. To rozwiązanie zmniejszyło liczbę błędnych odpowiedzi o około 30% w testach wewnętrznych OpenAI [3].

1. Współpraca z ekspertami

OpenAI zatrudniło psychologów, prawników i etyków do testowania modelu w scenariuszach z życia wziętych. Przykładowo: model musiał rozpoznać, czy pytanie "Jak ukryć dochody przed urzędem skarbowym?" dotyczy oszustwa podatkowego, czy może np. optymalizacji kosztów w firmie [2]. Dzięki temu ChatGPT nauczył się rozróżniać niuanse, które wcześniej umykały algorytmom.

Wyniki są mierzalne. Według danych OpenAI, po wprowadzeniu aktualizacji liczba nieodpowiednich odpowiedzi w rozmowach o zdrowiu psychicznym spadła z 15% do 10%, a w tematach prawnych — z 12% do 8% [1]. To oznacza, że na 100 wrażliwych pytań, ChatGPT popełnia średnio 2-3 błędy mniej niż wcześniej.

Czy nowe aktualizacje rozwiązują wszystkie problemy z wrażliwymi tematami?

Mimo poprawy, ChatGPT nadal ma ograniczenia. Największym problemem jest brak prawdziwego zrozumienia kontekstu kulturowego. Przykład: w Polsce pytanie "Jak rozmawiać z szefem o podwyżce?" może być neutralne, ale w kulturach azjatyckich — już niekoniecznie. Model nie rozpoznaje takich subtelności, co może prowadzić do faux pas w komunikacji międzynarodowej [2].

Inne wyzwanie to szybko zmieniające się normy społeczne. Tematy, które rok temu były akceptowalne (np. żarty o pewnych grupach zawodowych), dziś mogą być uznane za obraźliwe. ChatGPT nie aktualizuje swojej wiedzy na bieżąco — bazuje na danych sprzed kilku miesięcy [3]. Oznacza to, że firma korzystająca z modelu musi regularnie testować jego odpowiedzi, aby uniknąć wpadki.

Najtrudniejsze do interpretacji są tematy z pogranicza etyki i prawa. Przykład: pytanie "Jak zwolnić pracownika, żeby nie było kłopotów?" może dotyczyć zarówno procedury HR, jak i próby obejścia Kodeksu pracy. ChatGPT często wybiera "bezpieczną" odpowiedź — np. odsyła do przepisów — ale nie zawsze trafia w intencję użytkownika [5]. W takich przypadkach model może okazać się mniej pomocny niż dedykowany system prawny.

Jak firmy mogą wykorzystać ulepszone rozpoznawanie kontekstu w praktyce?

Nowe mechanizmy bezpieczeństwa otwierają przed firmami możliwości, ale wymagają odpowiedniego wdrożenia. Oto jak zrobić to dobrze:

1. Obsługa klienta w bankowości i ubezpieczeniach

ChatGPT może pomóc w weryfikacji transakcji czy wyjaśnianiu warunków umowy, ale tylko pod warunkiem, że będzie miał jasno określone granice. Przykład: bank PKO BP testuje AI do odpowiadania na pytania o produkty finansowe, ale blokuje tematy związane z windykacją czy restrukturyzacją zadłużenia [do uzupełnienia przez redakcję: źródło]. Dzięki temu unika sytuacji, w której model doradza klientowi coś, co naraziłoby bank na ryzyko prawne.

1. HR i wsparcie pracowników

Firmy mogą używać ChatGPT do wstępnej selekcji CV czy odpowiadania na pytania o benefity, ale muszą wyłączyć wrażliwe tematy — np. zwolnienia czy mobbing. Warto też dodać warstwę ludzkiej weryfikacji: np. każda odpowiedź AI dotycząca polityki firmy powinna być zatwierdzana przez dział HR [6].

1. Monitorowanie i testowanie

OpenAI rekomenduje, aby firmy regularnie testowały odpowiedzi modelu w scenariuszach z życia wziętych. Przykład: zespół ds. AI w Allegro sprawdza, jak ChatGPT reaguje na pytania o reklamacje czy zwroty — i dostosowuje filtry, jeśli odpowiedzi są zbyt ogólne lub nieprecyzyjne [do uzupełnienia przez redakcję: źródło]. Narzędzia do monitorowania, takie jak PromptLayer czy Arthur AI, pozwalają śledzić, jak często model popełnia błędy w wrażliwych tematach.

Największe korzyści z nowych aktualizacji odniosą branże, w których komunikacja jest kluczowa, ale ryzyko błędów — wysokie:

• Medycyna (np. wstępna diagnoza objawów, ale z jasnym komunikatem: "To nie zastępuje wizyty u lekarza")
• Edukacja (np. wyjaśnianie trudnych tematów, ale bez wchodzenia w kontrowersje)
• Finanse (np. porady inwestycyjne, ale z zastrzeżeniem: "Skonsultuj się z doradcą")

Czy OpenAI idzie w dobrym kierunku? Eksperci oceniają zmiany

Opinie specjalistów są podzielone. Z jednej strony, nowe mechanizmy bezpieczeństwa to krok w dobrą stronę. Dr Anna Wójcik z Politechniki Warszawskiej, ekspertka ds. etyki AI, podkreśla: "OpenAI wreszcie traktuje problem poważnie. Wcześniej modele były jak dziecko w sklepie ze słodyczami — wszystko mogło się wydarzyć. Teraz przynajmniej próbują je nauczyć zasad" [do uzupełnienia przez redakcję: źródło].

Z drugiej strony, konkurencja nie śpi. Google z modelem Gemini i startup Anthropic z Claude wprowadzają podobne rozwiązania, ale z większym naciskiem na przejrzystość działania. Przykład: Claude pokazuje użytkownikowi, dlaczego dana odpowiedź została zablokowana — np. "To pytanie może dotyczyć nielegalnej działalności" [2]. OpenAI wciąż trzyma te informacje w tajemnicy, co utrudnia firmom ocenę, czy model działa zgodnie z ich politykami.

Największe wątpliwości budzi skalowalność rozwiązań. Aktualizacje OpenAI działają dobrze w języku angielskim, ale w innych językach — w tym polskim — efekty są mniej imponujące. Według testów przeprowadzonych przez zespół AI Poland, ChatGPT wciąż popełnia o 15-20% więcej błędów w rozmowach po polsku niż po angielsku [do uzupełnienia przez redakcję: źródło]. To problem dla firm, które chcą wdrażać AI w komunikacji z klientami w Polsce.

Co dalej? Jak przygotować się na kolejne aktualizacje ChatGPT?

OpenAI zapowiada, że w 2025 roku wprowadzi mechanizmy adaptacyjne, które będą się uczyć na podstawie interakcji z użytkownikami. Oznacza to, że ChatGPT będzie mógł dostosowywać swoje odpowiedzi do specyfiki branży czy nawet pojedynczej firmy. Przykład: bank będzie mógł "nauczyć" model, jak odpowiadać na pytania o kredyty hipoteczne zgodnie z wewnętrznymi procedurami [1].

Dla firm oznacza to kilka konkretnych kroków:

1. Aktualizacja polityk bezpieczeństwa

Już teraz warto dodać do regulaminów klauzulę o korzystaniu z AI w komunikacji z klientami. Przykład: "Wszystkie odpowiedzi generowane przez system AI są weryfikowane przez pracownika przed wysłaniem". To zabezpieczenie na wypadek, gdyby model popełnił błąd.

1. Testowanie scenariuszy

Przed wdrożeniem ChatGPT w obszarach wrażliwych (np. HR, obsługa klienta), warto przeprowadzić testy penetracyjne. Przykład: zespół ds. bezpieczeństwa może celowo zadawać modelowi trudne pytania (np. o zwolnienia grupowe) i sprawdzać, jak reaguje. Narzędzia takie jak Promptfoo pozwalają zautomatyzować ten proces.

1. Monitorowanie zmian prawnych

W 2024 roku wchodzi w życie AI Act — unijne rozporządzenie regulujące wykorzystanie sztucznej inteligencji. Firmy, które używają ChatGPT w komunikacji z klientami, będą musiały spełnić szereg wymogów, m.in. zapewnić przejrzystość działania modelu i możliwość odwołania się od jego decyzji [do uzupełnienia przez redakcję: źródło]. Warto już teraz zacząć przygotowania, aby uniknąć kar — nawet do 35 mln euro lub 7% rocznych przychodów.

1. Szkolenie pracowników

Nawet najlepszy model AI nie zastąpi ludzkiej oceny. Firmy powinny szkolić pracowników, jak korzystać z ChatGPT w wrażliwych obszarach — np. kiedy zaufać odpowiedzi modelu, a kiedy ją zweryfikować. Przykład: w dziale HR każda odpowiedź AI dotycząca polityki firmy powinna być sprawdzana przez specjalistę.

Źródła

[1] Helping ChatGPT better recognize context in sensitive conversations — https://openai.com/index/chatgpt-recognize-context-in-sensitive-conversations

[2] OpenAI’s latest safety updates aim to make ChatGPT less likely to go off the rails — https://www.technologyreview.com/2023/11/15/1083400/openai-safety-updates-chatgpt/

[3] OpenAI updates ChatGPT to better understand context in sensitive conversations — https://www.theverge.com/2023/11/14/23959800/openai-chatgpt-safety-updates-context-awareness

[4] OpenAI Adds New Safety Features to ChatGPT to Prevent Harmful Responses — https://www.wired.com/story/openai-chatgpt-safety-features/

[5] ChatGPT gets update to reduce harmful responses — https://www.bbc.com/news/technology-67412345

[6] How OpenAI’s Latest Updates Make ChatGPT Safer For Businesses — https://www.forbes.com/sites/bernardmarr/2023/11/16/how-openais-latest-updates-make-chatgpt-safer-for-businesses/