Miért hallucinál az AI, és hogyan előzd meg?

Frissítve: · 4 perc olvasás

Röviden: Az AI azért hallucinál, mert valószínű szöveget állít elő, nem tényeket keres ki: ha nincs elég információja, akkor is ír valami hihetőt. A kockázat akkor a legnagyobb, ha számot, árat, dátumot vagy hivatkozást kérsz forrás nélkül. Megelőzni forrásból dolgozó rendszerrel, visszakérdezés engedélyezésével és emberi ellenőrzéssel lehet.

Mikor a legvalószínűbb?

  • Konkrét számok, árak, határidők.
  • Jogszabályhelyek, ítéletek, szakirodalmi hivatkozások.
  • Friss események és változó adatok.
  • Ritka nevek, kis cégek, helyi információk.
  • Amikor a kérdés olyat feltételez, ami nem igaz.

Hat módszer a megelőzésre

  1. Adj forrást: csatold a dokumentumot, vagy használj keresést.
  2. Kérd, hogy jelölje meg, honnan vette az adatot.
  3. Engedd meg a „nem tudom” választ: „ha nincs benne, mondd meg”.
  4. Kérj idézetet: „idézd azt a mondatot, amelyre alapozol”.
  5. Bontsd lépésekre az összetett kérdést.
  6. A fontos adatot ellenőrizd az eredeti forrásban.

Mit jelent ez a gyakorlatban?

KérdésKockázatosBiztonságosabb
Ár„Mennyibe kerül egy kávéfőző?”Keresés a boltok oldalán, linkkel
Szerződés„Mi a szokásos felmondási idő?”„Mi a felmondási idő ebben a csatolt szerződésben?”
Jog„Melyik törvény szabályozza?”Válasz hivatalos forrás megjelölésével, ellenőrizve

Mit tegyen a rendszer helyetted?

A jó rendszer nem bízza ezt a felhasználóra: a dokumentumokból dolgozik, minden állítás mellé odateszi a forrást, kimondja, ha a válasz nem állapítható meg, és jelzi, ha két forrás ellentmond egymásnak.

Gyakori kérdések

Megszüntethető teljesen a hallucináció?
Nem, de forrásokkal és ellenőrzéssel a gyakorlatban kezelhető szintre csökkenthető.
A nagyobb modell kevesebbet téved?
Általában igen, de forrás nélkül a legnagyobb modell is tévedhet.
Honnan tudom, hogy hallucinált?
Ha nincs forrás, vagy a forrásban nem az áll, amit a válasz állít.