
| GPU-Speicher | 4 GB (im Video gezeigt) |
| Qwen 3.5 0.8b Modellgröße | ~1.3 GB (im Video gezeigt) |
| Embedding-Modellgröße | 639 MB (im Video gezeigt) |
| Home-Office-Pauschale | R$ 200,00/Monat (Beispielwert im Video) |
Wem spart diese Analyse eine Stunde?Wir schicken den Link mit dem Fazit „in Wahrheit“ – niemand muss das ganze Video ansehen.
Sie können einen Agenten erstellen, indem Sie Ollama installieren, um Open-Source-Modelle lokal auszuführen, und Python mit der LangChain-Bibliothek nutzen, um die Dokumentenabfrage und Chat-Logik zu steuern.
Ollama ist derzeit das beliebteste und benutzerfreundlichste Tool, um Open-Source-LLMs unter Windows, Mac und Linux zu verwalten und auszuführen.
Ja. Durch die Nutzung lokaler Modelle mit Ollama entfallen API-Gebühren von Anbietern wie OpenAI oder Anthropic. Nach den Hardware-Anschaffungskosten ist die Nutzung kostenlos.
Die wichtigste Komponente ist eine dedizierte GPU. Für kleine, effiziente Modelle wie Qwen 0.8b reichen 4 GB VRAM aus; für eine bessere Leistung werden jedoch 8 GB oder mehr empfohlen.
Absolut. Da das Modell auf Ihrer eigenen Hardware läuft, verlassen sensible Firmendaten und Chatverläufe niemals Ihr lokales Netzwerk.