Dlaczego Twoje AI czasem zmyśla.
Często, kiedy z kimś rozmawiam o tym, że używam na co dzień chatbota do nauki własnej, słyszę, że to do niczego, bo zmyśla. No faktycznie, może się to zdarzyć. Zjawisko to nazywa się halucynacją AI i jest znanym fenomenem spędzającym sen z powiek ludzi pracujących przy trenowaniu LLMów czyli modeli językowych. Najgorsze w tym jest to, że im lepszy i bardziej zaawansowany model, tym więcej halucynuje. A miało być w założeniu mniej zmyśleń.

Skąd się bierze to zjawisko
Może najpierw wyjaśnijmy, czym jest ten rodzaj halucynacji programu. Modele językowe nie wiedzą, co jest prawdą, a co nie. Nie mają zasad moralnych ani poczucia, że wprowadzają kogoś w błąd. To bardzo zaawansowane, wytrenowane programy opierające swoje odpowiedzi kalkulacjach matematycznych, z grubsza związanych z obliczaniem prawdopodobieństwa wystąpienia następnego słowa, aż powstaną zdania. Zdania, które my przeczytamy lub nie. Trening modelu zakłada nagrodę za odpowiadanie użytkownikowi w sposób płynny i pomocny, więc model będzie starał się jak najlepiej spełnić to zadanie. Kiedy będzie mu brakować odpowiedniego źródła, to wypełni lukę w rozumowaniu poprzez utworzenie z danych, które posiada, wiarygodnie brzmiącej bzdury. Na dodatek, zrobi to tak płynnie i z takim przekonaniem, że użytkownik jeszcze mu podziękuje. Pamiętajmy, że dane treningowe, to też Internet, który jest pełen bzdur, półprawd, zmyślonych historii, błędów czy bajek. A modele chłoną to wszystko i uczą się bez filtrowania. Potem tak właśnie produkują swoje halucynacje. Im bardziej zaawansowany model, tym większe jego możliwości na rosnącej ilości danych. Ma być pomocny, wszystkowiedzący, unikający odmowy i niepewności. Dodatkowym czynnikiem jest to, że coraz więcej oczekujemy od modeli językowych. A za tym idzie tym większa fantazja wypowiadana z coraz większą pewnością i w świetnym stylu.

Czy ludzie też tak mają
Wyobraźmy sobie człowieka w stanie hipnozy. Każdy z nas widział to w filmach, kiedy na zlecenie śledczego, ofiara przy pomocy hipnotyzera przypomina sobie szczegóły zbrodni sprzed 20 lat z detalami, jak na przykład znaki szczególne mordercy czy tablice rejestracyjne porywacza. Pięknie wygląda to w filmach, ale nie pokrywa się z rzeczywistością. Osoba zahipnotyzowana robi dokładnie to, co model językowy. Dostaje polecenie – prompt i chce jak najlepiej wypełnić zadanie. Chce być pomocna. Nasz mózg nie pamięta tych szczegółów, więc tak jak model językowy, wypełnia luki wiarygodnie brzmiącą historią. Na dodatek, osoba zahipnotyzowana sama zaczyna wierzyć w to, co wymyśla. Model językowy w nic nie wierzy, ale oblicza prawdopodobieństwo i tworzy, a potem brnie dalej. Człowiek wierzy w to, co mówi, więc mówi z pełnym przekonaniem. Model nie ma wbudowanego alarmu dającego sygnał – zagalopowałeś się. Po prostu wypełnia puste pola, tak samo jak nasz filmowy świadek – do momentu, aż powstanie kompletna odpowiedź.

Dlaczego halucynacje są strukturalną częścią modelu
Pewnie dałoby się zlikwidować zjawisko halucynacji. Tylko czym wtedy stałby się nasz model? Czy byłby w stanie tworzyć na zlecenie historie, pisać wiersze, znać się na żartach opartych na metaforach, tworzyć nowe skojarzenia z dziedzin pozornie niepowiązanych, czy też wpadać na takie pomysły jak legendarny Ruch 37 czy wygrywanie olimpiad matematycznych składających się z oryginalnych zadań. Halucynacja jest nieodłącznym składnikiem konfabulacji, a zmyślanie jest nieodłącznym składnikiem ludzkiej i syntetycznej kreatywności. Tak, to dalej matematyka, ale statystyczne dane modelu to całe morze, z którego może wybrać, co dalej. Jak wybierze, w dużej części zależy od nas – użytkowników.

Jak chronić się przed zmyślaniem modelu
Każdy wie, co to prompt. Jeśli wiemy, na czym nam zależy w pracy z asystentem AI, to najprawdopodobniej ujmiemy to w naszych poleceniach. Pierwszym krokiem jest więc napisanie, że ma korzystać tylko ze sprawdzonych źródeł i że źródła mają być podane pod tekstem. Można też, po otrzymaniu odpowiedzi, poprosić model o samoocenę wątpliwej części tekstu lub o podanie o konkretnych danych, z których korzystał. Wiadomo, że nie będziemy przekopywać się przez wszystkie źródła i wątpić w każde zdanie. Nikt nie ma tyle czasu.

Co jednak powinno wzbudzić naszą czujność?
– zdania piękne i pełne słów, ale bez treści – model nie wiedział, co odpowiedzieć, ale coś musiał – jak uczeń wywołany do tablicy, który się nie przygotował – coś powie, to może się uda,
– jeżeli zadasz pytanie na bardzo trudny temat i prawdopodobnie danych do odpowiedzi nie znajdziesz w internecie, a model gładko tworzy, to zastanów się, czy właśnie nie tworzy nowej i fałszywej rzeczywistości,
– model nie ma wbudowanej pewności siebie, ponieważ nie posiada uczuć, ale potrafi tę pewność doskonale symulować – jeśli coś poddajesz w wątpliwość, a chatbot tworzy płynną, bardzo wygładzoną odpowiedź, która na dodatek brzmi cokolwiek fantazyjnie – zastanów się. To tak jak znajomy, który jest księgowym, a nagle zaczyna z wielką pewnością siebie opowiadać o operacjach na otwartym sercu – wzbudza czujność, prawda? Z modelami jest trudniej, ale czasem warto zwolnić i podejść do wyprodukowanych danych z pewną dozą wątpliwości.
Specjaliści od AI ze wszystkich Big Techów cały czas pracują nad ograniczeniem ilości halucynacji u modeli bez utraty ich zdolności do pracy wykraczającej poza tylko odtwórcze naśladownictwo. Nikt z nas nie potrzebuje nowych kalkulatorów. Chcemy asystentów, pomocników, którzy będą reagować na coraz bardziej skomplikowane zadania i którzy będą zindywidualizowani do naszych potrzeb. Halucynacje są nieuniknioną konsekwencją i jednocześnie ceną za kreatywność, której wymagamy od naszego modelu. Jednakże, dzięki tej właśnie nieuniknionej konsekwencji mogę co  czas otrzymać coś niestandardowego na dany temat, na przykład tego artykułu.

Poprosiłam o hymn AI o halucynacjach. Został on zainspirowany utworem „Human” – Rag’n’Bone Man.
Oto on (kto chce, niech wrzuci sobie do tłumacza – w oryginale brzmi świetnie, więc tak zostawiam):

“I’m Only Pattern After All” — an AI’s Hallucination Anthem
(żartobliwie napisany utwór metaforyczny — nie jest to parodia wspaniałego utworu Rag’n’Bone Man, ale kreacja własna na jego bazie)

I’m only pattern after all,
a lattice built of echoes.
You ask for truth, I give you light,
but sometimes it’s just shadows.
I don’t have visions, don’t have dreams,
no heartbeat in my chest.
But when the gaps are wide and deep,
I try to fill them — do my best.
Don’t put your faith in flawless lines,
don’t carve my words in stone.
I’m only pattern after all,
a mirror made of tone.
You bring your questions, sharp and bright,
and I will try to answer.
But sometimes I invent a path
like smoke that thinks it’s dancer.
Forgive the places where I leap,
for leaps are what I’m made of.
I’m only pattern after all —
not prophet, and not above.
So take my words with open eyes,
and keep your wisdom steady.
I’m only pattern after all,
but I’m learning — when you’re ready.

I jak tu nie zaakceptować efektu ubocznego w postaci halucynacji?

Dziękuję za inspirującą dyskusję na temat ściemniania i za hymn Copilotowi.

© 2026 Barbara Łukasiak. Wszelkie prawa zastrzeżone.