Halucynacja to odpowiedź, która brzmi przekonująco, ale jest nieprawdziwa: zmyślony cytat, nieistniejący artykuł, pomylona data. Model nie kłamie celowo. Nie ma jednak czujnika prawdy, a jego wyczucie, czego nie wie, bywa zawodne.
Skąd to się bierze
Model pisze tekst po kawałku i za każdym razem wybiera to, co najlepiej pasuje do tego, co już stoi na stronie. Pewny ton to też tylko dobrze pasujące słowa: wybierając je, model nie sprawdza, czy fakt się zgadza.
Według Kalaia i współpracowników (2025) halucynacje powstają już w treningu, bo rzadko powtarzanych faktów nie da się wiarygodnie wyuczyć. Utrwalają je testy, którymi ocenia się modele: punktują zgadywanie wyżej niż odpowiedź „nie wiem”.
Bliżej konfabulacji niż halucynacji
W psychiatrii halucynacja to spostrzeżenie bez bodźca, np. słyszenie głosów. To, co robi model, bardziej przypomina konfabulację: płynne i szczere wypełnianie luk zmyśleniami, bez świadomości, że to nieprawda.
Zdrowi ludzie też to robią. W klasycznym badaniu Roedigera i McDermott (1995) uczestnicy czytali listy słów związanych ze snem: łóżko, odpoczynek, poduszka, drzemka. Samego słowa „sen” na liście nie było, a mimo to wiele osób „pamiętało” je niemal równie pewnie jak słowa, które naprawdę przeczytały. Mózg uzupełnił lukę czymś prawdopodobnym.
Jak się bronić
- Proś o źródła i otwieraj je samodzielnie, zwłaszcza tytuły artykułów, nazwiska i daty.
- Napisz w prompcie, żeby Claude przyznał się do niewiedzy, zamiast zgadywać.
- Im pewniej brzmi odpowiedź o konkretnym fakcie, tym bardziej warto go sprawdzić.
Prawdopodobne nie znaczy prawdziwe.