RAG vagy finomhangolás

Frissítve: · 4 perc olvasás

Röviden: A RAG (keresésre épülő válaszadás) a kérdéshez megkeresi a releváns dokumentumrészeket, és azokból válaszol – a modell maga nem változik. A finomhangolás a modellt tanítja tovább a saját példáidon. Céges dokumentumokhoz szinte mindig a RAG a jó kezdet: olcsóbb, azonnal frissíthető, és megmutatja a forrást. A finomhangolás a stílus és a formátum megtanítására való, nem a tények tárolására.

Összehasonlítás

SzempontRAGFinomhangolás
Mit változtatA modell elé tett szövegetMagát a modellt
Új dokumentumFeltöltés után azonnal használhatóÚjratanítás kell
ForrásmegjelölésTermészetes részeNem ad forrást
KöltségAlacsonyMagasabb: adat-előkészítés és tanítás
Mire jóTények, dokumentumok, változó tudásHangnem, formátum, szűk szakfeladat
JogosultságDokumentumonként szabályozhatóAmi a modellben van, azt mindenki eléri

Miért a RAG a jó kezdet?

  • A dokumentumok naponta változnak – a keresés ezt követi, a betanított modell nem.
  • A válasz ellenőrizhető: látszik, melyik iratból származik.
  • A visszavont vagy elavult dokumentum egyszerűen kizárható.
  • Nem kell hozzá gépi tanulási szakértő.

Mikor jön szóba a finomhangolás?

Ha a modellnek következetesen egy adott stílusban vagy szigorú formátumban kell írnia, és ezt példákkal és utasítással nem sikerül elérni. Ilyenkor is a RAG mellé kerül, nem a helyére.

Gyakori kérdések

Megtanulja a modell a dokumentumaimat RAG-nál?
Nem. A dokumentumok külön keresőben vannak, a modell csak a kérdéshez kikeresett részeket kapja meg.
Mitől lesz jó a keresés?
A jó darabolástól, a kulcsszavas és a jelentés szerinti keresés együttes használatától, és attól, hogy a dokumentumok státusza (érvényes, visszavont) rendben van.
Mennyi dokumentum kell az induláshoz?
Már néhány tucat is elég egy próbához; a lényeg, hogy legyen 20–40 kérdés, amelyre ismered a helyes választ.