Ich habe gestern mal #PaperlessAI als add-on zu #PaperlessNGX ausprobiert. Dazu lokale auf meinem knapp 5 Jahre alten PC (AMD 3900XT, RTX 2080 TI) #Ollama installiert und als Model Llama3.1 8B ausgewählt.
Die Zuweisungen mit dem Beispielprompt sind noch etwas holprig, da gehört noch Feinarbeit. Aber wenn man sich im Chat ein Dokument zusammenfassen lässt und nachgefragt, sieht das eigentlich gut aus. (1/)