Seit sechs Tagen erledigt Manfred, mein persönlicher KI-Assistent, seine Routineaufgaben auf der Grafikkarte in meinem Büro — kostenlos, ohne Cloud-Anbindung, ohne dass eine einzige Anfrage das Haus verlässt. Das Modell dahinter: Gemma 4, Googles frei verfügbares Open-Source-Modell. Was zunächst nicht stabil lief, funktioniert jetzt zuverlässig — und das hat Konsequenzen für jeden Betrieb, der KI im Alltag einsetzt.
Manfred überwacht den Vertretungsplan, erinnert an Hausaufgaben und behält Schulnoten im Blick — vollautomatisch, jeden Morgen, ohne manuelles Nachschauen. Kleine Aufgabe, täglich relevant.
Termine koordinieren, Aufgaben nach Priorität sortieren, den Tag vorbereiten. Manfred legt morgens eine strukturierte Übersicht vor — ohne dass ich ihn fragen muss.
Für genau diese Routinen sind bisher täglich 3 bis 6 Euro über externe API-Modelle angefallen — bis zu 1.300 Euro im Jahr, nur für Standardaufgaben. Seit Gemma 4 lokal läuft: null.
Wer KI-Routinen lokal betreibt, schickt keine Betriebsdaten, Kundennamen oder internen Abläufe an externe Server. Das ist kein theoretisches Datenschutzargument — es ist schlicht der Unterschied zwischen Daten, die im eigenen Netz bleiben, und Daten, die es nicht tun.
Lokale Modelle wie Gemma 4 kosten nach der Einrichtung nichts mehr. Kein Abo, keine Nutzungsgebühren. Die Hardware muss vorhanden sein — wer einen modernen Rechner mit dedizierter Grafikkarte hat, ist oft bereits gerüstet.
Kein Anbieter, der Preise ändert. Kein Dienst, der offline geht. Kein Update, das den gewohnten Ablauf verändert. Das Modell läuft auf der eigenen Hardware, nach eigenen Regeln — solange man will.
Eingehende E-Mails täglich kategorisieren und priorisieren — lokal, ohne dass Kundendaten das Netz verlassen. Der Chef sieht morgens eine sortierte Liste statt 30 ungelesener Nachrichten.
Termine aus unterschiedlichen Quellen zusammenführen, Erinnerungen setzen, Aufgaben nach Fälligkeit sortieren — vollautomatisch im Hintergrund, auf der eigenen Hardware.
Standardanfragen vorfiltern, Angebote auf Vollständigkeit prüfen, Textbausteine vorschlagen — ohne dass Kundendaten eine externe KI-Plattform durchlaufen.
Was lokal sinnvoll läuft und was nicht, hängt von Ihren Abläufen und Ihrer Hardware ab. Ich schaue mir das an und sage ehrlich, ob der Aufwand den Nutzen rechtfertigt.
Gespräch anfragen →