RAG vagy finomhangolás
Frissítve: · 4 perc olvasás
Röviden: A RAG (keresésre épülő válaszadás) a kérdéshez megkeresi a releváns dokumentumrészeket, és azokból válaszol – a modell maga nem változik. A finomhangolás a modellt tanítja tovább a saját példáidon. Céges dokumentumokhoz szinte mindig a RAG a jó kezdet: olcsóbb, azonnal frissíthető, és megmutatja a forrást. A finomhangolás a stílus és a formátum megtanítására való, nem a tények tárolására.
Összehasonlítás
| Szempont | RAG | Finomhangolás |
|---|---|---|
| Mit változtat | A modell elé tett szöveget | Magát a modellt |
| Új dokumentum | Feltöltés után azonnal használható | Újratanítás kell |
| Forrásmegjelölés | Természetes része | Nem ad forrást |
| Költség | Alacsony | Magasabb: adat-előkészítés és tanítás |
| Mire jó | Tények, dokumentumok, változó tudás | Hangnem, formátum, szűk szakfeladat |
| Jogosultság | Dokumentumonként szabályozható | Ami a modellben van, azt mindenki eléri |
Miért a RAG a jó kezdet?
- A dokumentumok naponta változnak – a keresés ezt követi, a betanított modell nem.
- A válasz ellenőrizhető: látszik, melyik iratból származik.
- A visszavont vagy elavult dokumentum egyszerűen kizárható.
- Nem kell hozzá gépi tanulási szakértő.
Mikor jön szóba a finomhangolás?
Ha a modellnek következetesen egy adott stílusban vagy szigorú formátumban kell írnia, és ezt példákkal és utasítással nem sikerül elérni. Ilyenkor is a RAG mellé kerül, nem a helyére.
Gyakori kérdések
- Megtanulja a modell a dokumentumaimat RAG-nál?
- Nem. A dokumentumok külön keresőben vannak, a modell csak a kérdéshez kikeresett részeket kapja meg.
- Mitől lesz jó a keresés?
- A jó darabolástól, a kulcsszavas és a jelentés szerinti keresés együttes használatától, és attól, hogy a dokumentumok státusza (érvényes, visszavont) rendben van.
- Mennyi dokumentum kell az induláshoz?
- Már néhány tucat is elég egy próbához; a lényeg, hogy legyen 20–40 kérdés, amelyre ismered a helyes választ.