Ollama
Mit jelent? Az Ollama ingyenes, nyílt forráskódú program, amellyel nyílt nyelvi modellek tölthetők le és futtathatók a saját számítógépen, egyszerű parancsokkal vagy más programokból.
Az Ollama kezeli a modellek letöltését, betöltését és a futtatást, és helyi felületet ad, amelyre más alkalmazások – például egy asszisztens – rá tudnak csatlakozni.
A választható modell mérete a gép memóriájától függ: kisebb gépre néhány gigabájtos modell való, erősebb gépen nagyobb és pontosabb modell is elfut.