Hallucináció

Más néven: AI-hallucináció, konfabuláció

Mit jelent? Hallucinációnak nevezzük, amikor a mesterséges intelligencia magabiztosan állít valótlant: kitalált adatot, nem létező forrást vagy hibás számot ír.

A nyelvi modell valószínű szöveget állít elő, nem tényeket keres ki. Ha nincs elég információja, akkor is ír valamit, ami jól hangzik. Ez különösen veszélyes áraknál, határidőknél, jogszabályoknál.

A kockázat csökkenthető, ha a modell forrásból dolgozik és megjelöli, honnan vette az adatot; ha megengedett számára a „nem állapítható meg” válasz; és ha a fontos kimenetet ember ellenőrzi.

Példa: Ha megkérdezed egy termék árát, és a modell forrás nélkül mond egy összeget, az könnyen hallucináció. Megbízható válaszhoz friss keresési eredmény vagy dokumentum kell.

AI dokumentumkeresés forrásmegjelöléssel