Halucynacje AI (Zmyślanie sztucznej inteligencji)

To sytuacja, w której komputerowy program tak bardzo chce nam odpowiedzieć na pytanie, że zaczyna zmyślać informacje, podając je z taką pewnością, jakby recytował tabliczkę mnożenia.

Wyobraź sobie to jako rozmowę z bardzo gadatliwym sąsiadem, który nie chce wyjść na niedoinformowanego – gdy zapytasz go o drogę, której nie zna, zamiast przyznać się do błędu, z uśmiechem na ustach opisze Ci skrzyżowania i budynki, które w rzeczywistości w ogóle nie istnieją.

Dzieje się tak dlatego, że sztuczna inteligencja nie „rozumie” świata tak jak my, a jedynie przewiduje, jakie słowo powinno pasować do poprzedniego, żeby brzmiało to sensownie dla ucha. Dlatego zawsze warto sprawdzić jej odpowiedzi w tradycyjny sposób, zwłaszcza gdy pytasz o ważne sprawy, takie jak zdrowie czy przepisy prawne.