Miért hallucinál az AI, és hogyan előzd meg?
Frissítve: · 4 perc olvasás
Röviden: Az AI azért hallucinál, mert valószínű szöveget állít elő, nem tényeket keres ki: ha nincs elég információja, akkor is ír valami hihetőt. A kockázat akkor a legnagyobb, ha számot, árat, dátumot vagy hivatkozást kérsz forrás nélkül. Megelőzni forrásból dolgozó rendszerrel, visszakérdezés engedélyezésével és emberi ellenőrzéssel lehet.
Mikor a legvalószínűbb?
- Konkrét számok, árak, határidők.
- Jogszabályhelyek, ítéletek, szakirodalmi hivatkozások.
- Friss események és változó adatok.
- Ritka nevek, kis cégek, helyi információk.
- Amikor a kérdés olyat feltételez, ami nem igaz.
Hat módszer a megelőzésre
- Adj forrást: csatold a dokumentumot, vagy használj keresést.
- Kérd, hogy jelölje meg, honnan vette az adatot.
- Engedd meg a „nem tudom” választ: „ha nincs benne, mondd meg”.
- Kérj idézetet: „idézd azt a mondatot, amelyre alapozol”.
- Bontsd lépésekre az összetett kérdést.
- A fontos adatot ellenőrizd az eredeti forrásban.
Mit jelent ez a gyakorlatban?
| Kérdés | Kockázatos | Biztonságosabb |
|---|---|---|
| Ár | „Mennyibe kerül egy kávéfőző?” | Keresés a boltok oldalán, linkkel |
| Szerződés | „Mi a szokásos felmondási idő?” | „Mi a felmondási idő ebben a csatolt szerződésben?” |
| Jog | „Melyik törvény szabályozza?” | Válasz hivatalos forrás megjelölésével, ellenőrizve |
Mit tegyen a rendszer helyetted?
A jó rendszer nem bízza ezt a felhasználóra: a dokumentumokból dolgozik, minden állítás mellé odateszi a forrást, kimondja, ha a válasz nem állapítható meg, és jelzi, ha két forrás ellentmond egymásnak.
Gyakori kérdések
- Megszüntethető teljesen a hallucináció?
- Nem, de forrásokkal és ellenőrzéssel a gyakorlatban kezelhető szintre csökkenthető.
- A nagyobb modell kevesebbet téved?
- Általában igen, de forrás nélkül a legnagyobb modell is tévedhet.
- Honnan tudom, hogy hallucinált?
- Ha nincs forrás, vagy a forrásban nem az áll, amit a válasz állít.