Kein Google, kein Amazon, kein Byte in der Cloud: Ich habe mir einen Sprachassistenten gebaut, der meine Termine kennt, das Smart Home steuert, Musik abspielt und offene Rechnungen nachschlägt. Er läuft komplett auf eigener Hardware. Hier steht, wie er aufgebaut ist, was er braucht, was er kostet und wo seine Grenzen liegen.

Das Video dazu gibt es auf YouTube: Ich habe einen KI J.A.R.V.I.S. aus Iron Man programmiert.

Warum ein lokaler Sprachassistent?

Bei Alexa, Google Assistant und den meisten KI-Werkzeugen geht jedes Gespräch über Server in den USA. Das betrifft auch Kundennamen, Termine und Rechnungsbeträge, sobald man sie dem Assistenten nennt. Für Privatpersonen ist das eine Geschmacksfrage. Für Unternehmen ist es ein Problem, denn dort gilt die DSGVO.

Bei meinem Assistenten läuft das Sprachmodell auf meinem Rechner. Die Werkzeuge greifen auf Programme im eigenen Netz zu. Kein Anbieter sieht, was ich sage.

Wie verhindert man erfundene Antworten?

Sprachmodelle erfinden gelegentlich Dinge. Mein Assistent antwortet deshalb nicht aus dem Gedächtnis des Modells, sondern ruft ein Werkzeug auf, das sogenannte Tool-Calling. Frage ich, welche Rechnungen offen sind, fragt er direkt Invoice Ninja ab. Termine und Aufgaben kommen aus dem Nextcloud-Kalender, das Wetter aus einer Echtzeitabfrage, aktuelle Nachrichten aus einer Websuche. Die Antwort stammt aus echten Daten und nicht aus einer Vermutung des Modells.

Was man dafür braucht

  1. Einen Rechner mit genug Arbeitsspeicher. Ich nutze einen Mac mit Apple Silicon und 96 GB RAM. Mit kleineren Modellen läuft der Assistent auch auf schwächerer Hardware. Wie klein ein Modell sein darf, steht in Das kleinste KI-Modell, das trotzdem gut genug ist.
  2. Ein Sprachmodell. Bei mir ist es Qwen 3.6 mit 35 Milliarden Parametern, ein Open-Source-Modell, das lokal läuft und kein Internet braucht.
  3. Ein Modell für Sprachein- und Ausgabe. Dafür nutze ich Voxtral von Mistral AI. Die deutsche Stimme klingt überraschend menschlich, mit leicht österreichischem Akzent.

Dazu kommen ein Raspberry Pi und ein Konferenzmikrofon. Beides hatte ich ohnehin da.

So läuft eine Anfrage ab

  1. Ein kleines Programm auf dem Raspberry Pi erkennt das Weckwort „Hey Jarvis", ganz ohne Internet.
  2. Die Aufnahme geht an den Mac.
  3. Der Audio-Server wandelt die Sprache in Text um.
  4. Das Sprachmodell liest den Text und entscheidet, welches Werkzeug es braucht: Kalender, Rechnungen, Websuche, Smart Home.
  5. Das Werkzeug wird aufgerufen, die echte Antwort kommt zurück.
  6. Die Antwort wird in Sprache umgewandelt und vom Raspberry Pi abgespielt.

Der reine Sprachweg dauert ein bis zwei Sekunden. Dazu kommt die Zeit, die das Werkzeug für seine Antwort braucht.

Wie schnell ist er in der Praxis?

Für das Video habe ich alle Anfragen protokolliert und ein Dashboard dazu gebaut. Am Tag der Aufnahme waren es rund 105 Anfragen. Im Schnitt dauerte eine Antwort etwa 15 Sekunden. Einfache Abfragen wie die Terrassentemperatur brauchen meist drei bis zehn Sekunden. Das ist für einen lokalen Assistenten brauchbar, aber langsamer als Alexa. Wer das stört, nimmt ein kleineres Modell.

Was kostet das?

Die Software kostet nichts. Das Sprachmodell, die Modelle für Spracherkennung und Sprachausgabe und die Weckwort-Erkennung sind frei verfügbar, es gibt keine Abogebühren und keine Kosten pro Anfrage.

An Hardware kommen zwei Teile dazu, Marktpreise Stand November 2026:

  • Raspberry Pi 4 mit 4 GB: rund 105 bis 110 Euro für die Platine, dazu Netzteil, Speicherkarte und Gehäuse.
  • ReSpeaker XVF3800: rund 57 bis 65 Euro. Das ist ein Mikrofon mit vier Kapseln und Echounterdrückung, damit Jarvis das Weckwort auch dann hört, wenn er selbst gerade spricht.

Die eigentliche Arbeit macht der Mac, den ich ohnehin hatte. Wer neu kauft, für den ist er der mit Abstand größte Posten. Ein kleineres Modell senkt die Anforderungen an den Rechner deutlich. Laufend kommt nur der Strom dazu.

Gebaut mit Claude Code

Beim Aufbau hat mir Claude Code von Anthropic geholfen. Es hat die komplizierten Teile programmiert, während ich die Architektur entworfen und die Entscheidungen getroffen habe. KI als Werkzeug und nicht als Ersatz.

Was daraus für Unternehmen wird

Das ist kein fertiges Produkt zum Kaufen, sondern mein eigener Aufbau, der bei mir zu Hause jeden Tag läuft. Er braucht Zeit und technisches Verständnis. Dieselbe Technik lässt sich auf Firmenprozesse zuschneiden: Ein Assistent, der Kundendaten, Rechnungen und Termine kennt, ohne dass sie das Haus verlassen.

Wenn du das für dein Unternehmen willst, ohne alles selbst aufzubauen, sieh dir meine Leistung Lokale KI an oder schreib mir. Wie sich solche Abläufe mit n8n automatisieren lassen, steht unter n8n-Automatisierung.