Gedanken und Erfahrungen zu lokaler KI, Automatisierung und Software-Entwicklung.
Was bringt --prefix-trie-cache in vllm-mlx 0.5.0? Bei Qwen3.6-35B nichts, und Ollama 0.40 mit MLX liegt in meiner Agent-Schleife bei 0,5 statt 4,8 Sekunden bis zum ersten Token. Messaufbau, Zahlen, Vorbehalte.
Artikel lesenEin Sprachassistent, der Termine, Smart Home und Rechnungen kennt, ohne dass Daten in die Cloud gehen: Aufbau, benötigte Hardware, Messwerte und Grenzen.
Artikel lesenWie Belege per Scanner oder Mail automatisch klassifiziert, in Paperless abgelegt, in sevDesk gebucht und mit der Bankzahlung abgeglichen werden.
Artikel lesenAgenten können denken, aber nicht handeln. Mein Second Brain läuft lokal, und n8n ist sein deterministischer Kern: ein Router mit 32 Nodes, neun MCP-Werkzeuge und ein Prüfer, der nach jeder Antwort widerspricht. Mein Vortrag von der In the Loop 2026 in Berlin als Artikel.
Artikel lesen
Ein Kundenprojekt, eine offene Frage, zwei lokale Modelle auf demselben Mac. Beide lagen in der Stichprobe zu 100 % richtig und fanden trotzdem verschiedene Dinge. Dazu der Weg dorthin: ein GPU-Watchdog, ein Fork-Maintainer, der über Nacht lieferte, und ein 180B-Modell, das den ganzen Rechner braucht.
Artikel lesenÜber den Preis gewinnt fast immer die Cloud. Der eigentliche Grund für eigene Hardware ist ein anderer — und er verschiebt die ganze Rechnung. Zum Abschluss: was ein Agent mit offenem Mandat könnte, und warum ich trotzdem bremse.
Artikel lesen