Helyi AI és adatvédelem

Frissítve:

Röviden: A helyi AI azt jelenti, hogy a nyelvi modell a saját számítógépeden vagy a cég szerverén fut, így a kérdések és a dokumentumok nem kerülnek külső szolgáltatóhoz. Akkor érdemes választani, ha személyes vagy üzleti titkot kezelsz. A vegyes megoldásban a helyi modell az alapértelmezés, külső modell pedig csak jóváhagyással és kitakart adatokkal használható.

Mikor érdemes helyi AI-t használni?

  • Személyes adatok: egészségügyi, pénzügyi, családi iratok.
  • Üzleti titok: árak, ajánlatok, szerződések, ügyféladatok.
  • Szabályozott terület, ahol az adat nem hagyhatja el a céget.
  • Ha nem szeretnéd, hogy a beszélgetéseid egy szolgáltatónál tárolódjanak.

Mik a korlátai?

A laptopon futó kisebb modellek lassabbak és kevésbé pontosak a legnagyobb felhős modelleknél, különösen hosszú, összetett feladatoknál. Ezért hasznos, ha a rendszer forrásokból dolgozik (a saját dokumentumaidból idéz), és ha szükség esetén – ellenőrzött módon – külső modell is bevonható.

Hogyan vegyíthető biztonságosan a helyi és a külső modell?

  • Alapértelmezés a helyi modell; a külső hívás külön engedélyhez kötött.
  • Küldés előtt látható, pontosan mi menne ki, és jóvá kell hagyni.
  • Az e-mail-címek, telefonszámok, adószámok, bankszámlaszámok és megadott kifejezések kitakarva mennek ki.
  • Engedélylista szabályozza, mely szolgáltatók érhetők el.
  • Minden külső hívás naplózva van.

Mit jelent ez a GDPR szempontjából?

Ha az adat nem hagyja el a saját gépet vagy szervert, nincs adattovábbítás külső adatfeldolgozóhoz, ami egyszerűsíti a megfelelést. Külső modell használatakor továbbra is a felhasználó vagy a cég felel a jogalapért és a szolgáltatóval kötött megállapodásért. Ez az oldal tájékoztatás, nem jogi tanács.

Gyakori kérdések

Milyen helyi modellekkel működik?
Az Ollamával futtatható nyílt modellekkel; a telepítő segít az elsőt letölteni, és a gép teljesítményéhez illőt ajánl.
Használhatok mellette külső modellt?
Igen, saját API-kulccsal több szolgáltató is beállítható (például OpenRouter, OpenAI, Anthropic, Google), de ez választható.
Hol tárolódnak a kulcsok és jelszavak?
Titkosítva, a saját gépeden; az exportba nem kerülnek bele.