Die häufigste Frage zu diesem Projekt lautet: Lohnt sich das? Wer sie über die Kosten beantwortet, kommt fast immer zum falschen Ergebnis.

Fünf Teile lang ging es um Technik — zuletzt um einen Agenten, der einen kaputten Dienst selbst repariert hat. Bleibt die Frage, für wen sich der Aufwand rechnet.

Fangen wir mit der unbequemen Antwort an.

Über den Preis gewinnt die Cloud

Wer nur rechnet, kommt bei den großen Anbietern heraus. Eine Karte kostet ein paar hundert Euro, dazu der Rechner drumherum, der Strom, und vor allem: die Zeit. Die Abende, die in diese sechs Teile geflossen sind, hätte niemand bezahlt.

Dagegen steht ein Cloud-Modell, das nichts kostet, solange es nichts tut, das keine Wartung braucht, keine Treiber-Eigenheiten hat und morgen eine bessere Version bekommt, ohne dass man etwas herunterlädt.

Für die allermeisten Aufgaben ist das die richtige Wahl. Wer eine lokale Karte mit Kostenersparnis begründet, rechnet sich meistens etwas schön — die Rechnung geht erst bei sehr hohen, sehr gleichmäßigen Lasten auf, und die hat kaum jemand.

Damit wäre die Sache erledigt, wenn Kosten das einzige Kriterium wären.

Der Satz, der die Frage verschiebt

Ein Kunde hat mir vor einiger Zeit etwas gesagt, das ich seitdem oft zitiere. Es ging um die Sorge, eine KI könnte in seinen Abläufen Fehler machen. Seine Antwort:

„Ist mir egal, wenn die KI Fehler macht. Ist doch nicht anders als bei einem Mitarbeiter."

Das ist eine bemerkenswert nüchterne Haltung — und sie trifft einen Punkt. Wir erwarten von Software Fehlerfreiheit und von Menschen Sorgfalt mit Kontrolle. Bei einem System, das eigenständig Entscheidungen trifft, sind die Erwartungen an Menschen die passenderen: Man gibt klare Anweisungen, richtet Kontrollen ein und rechnet damit, dass gelegentlich etwas schiefgeht.

Interessant ist, was er damit nicht gesagt hat. Fehlertoleranz war für ihn nie das Problem. Das Problem war ein anderes — und es ist der eigentliche Grund, warum die Kiste hier steht.

Manche Daten dürfen das Haus nicht verlassen

Ich arbeite mit Mandanten, bei denen Verschwiegenheit keine Frage der Firmenpolitik ist, sondern der Berufsordnung. Eine Kanzlei, deren Post ich durch ein fremdes Rechenzentrum schicke, hat kein IT-Problem, sondern ein standesrechtliches. Ähnlich liegt es überall dort, wo Gesundheitsdaten, Personalakten oder Verfahrensunterlagen anfallen.

Für solche Fälle ist die Frage nicht „was kostet ein Token", sondern: Verlässt der Inhalt das Haus?

Und hier verschiebt sich die ganze Rechnung. Es geht nicht mehr darum, ob die lokale Karte günstiger ist als eine API — sondern darum, dass die API für diesen Fall gar nicht in Frage kommt. Dann ist die Alternative zur eigenen Hardware nicht die Cloud. Die Alternative ist, es von Hand zu machen.

Vor diesem Vergleich sieht eine Karte für ein paar hundert Euro plötzlich sehr gut aus.

Was damit wirklich möglich wäre

Aus dieser Ecke kam die spannendste Frage des ganzen Projekts. Nicht: Kann eine KI eingehende Post sortieren? Das ist gelöste Aufgabe. Sondern:

Kann ein Agent ein Postfach betreuen, ohne dass man ihm vorher sagt, worauf er achten soll?

Also nicht „finde Termine" oder „erkenne Fristen", sondern ein Assistent, der selbst beurteilt, was eine Nachricht von ihm verlangt — und dann handelt. Termin vorgeschlagen? In den Kalender. Frist gesetzt? In die Fristenüberwachung. Werbung? Nichts tun. Unklar? Nachfragen.

Technisch ist das genau das Muster aus Teil 5, nur als Dauerbetrieb statt als Sitzung: eine Schleife, ein Werkzeugkasten, und das Modell entscheidet. Statt eines eng gefassten Auftrags bekommt es ein Dauermandat — sinngemäß: „Du betreust dieses Postfach, handle im Sinne des Betriebs." Dazu Werkzeuge für Kalender, Fristen, Aufgaben, Rückfragen — und, mindestens ebenso wichtig, ein Werkzeug für nichts tun.

Und ja: Bei Berufsgeheimnisträgern ist genau die Fristenüberwachung der wertvollste Fall. Eine versäumte Frist ist dort existenzbedrohend.

Warum ich trotzdem bremse

Und hier muss ich gegen mein eigenes Projekt argumentieren.

Die Erfolge aus Teil 5 hatten eine stille Zutat, die im Bericht leicht untergeht: chirurgisch formulierte Aufträge. „Dieser Stack stürzt ab, diagnostiziere über die Container-Protokolle und repariere über die Schnittstelle" — das ist eine präzise Anweisung mit klarem Erfolgskriterium. Genau dafür reicht das Urteilsvermögen eines lokalen Modells.

Beim offenen Mandat fällt diese Zutat weg. Dann trägt allein die Einschätzung des Modells — und zwar bei mehrdeutigen Fällen, die es massenhaft gibt. Ist die beiläufige Erwähnung eines Termins im dritten Absatz ein Terminvorschlag? Ist die Formulierung „wir bitten um Rückäußerung bis Monatsende" eine Frist im rechtlichen Sinn oder eine Höflichkeitsfloskel?

Das 27B-Modell hat gutes Urteilsvermögen bei klarer Lage. Bei Mehrdeutigkeit wird es zum Ratespiel — und ein Ratespiel möchte niemand in seiner Fristenüberwachung haben.

Mein Rat an Kunden ist deshalb unspektakulär: Beim engen Mandat anfangen. Erst Vorschläge statt Eintragungen, erst mit Bestätigung, erst in einem Bereich, wo ein Fehler ärgerlich und nicht teuer ist. Und dann Woche für Woche protokollieren, wie oft die Einschätzung richtig war. Wenn die Zahlen stimmen, kann man die Leine verlängern.

Wer die Reihenfolge umdreht, baut das eindrucksvollste System, das er sich nach dem ersten echten Schaden nie wieder traut anzufassen.

Wann sich die eigene Kiste lohnt

Nach sechs Teilen würde ich es so zusammenfassen:

→ Ja, wenn die Daten aus rechtlichen oder vertraglichen Gründen nicht nach draußen dürfen. Dann ist die Alternative Handarbeit, nicht die Cloud.
→ Ja, wenn du dauerhaft große Mengen gleichförmig verarbeitest — dort spielt der Durchsatz aus Teil 4 seinen Vorteil aus.
→ Ja, wenn du verstehen willst, wie das alles funktioniert. Der Lerneffekt aus dieser Serie war für mich den Aufwand wert, unabhängig von jeder Rechnung.
→ Nein, wenn du gelegentlich ein starkes Modell brauchst. Dann bist du mit einer API besser und billiger bedient.
→ Nein, wenn du das beste verfügbare Modell brauchst. Was in 16 GB passt, ist ordentlich — mit der Spitze der großen Anbieter kann es nicht mithalten.

Was am Ende bleibt

Sechs Teile, eine ausgemusterte Maschine, eine Karte für ein paar hundert Euro. Was ich mitgenommen habe, sind weniger die Messwerte als drei Sätze:

Die Grenze ist der Lehrer. 16 Gigabyte haben mich zu Entscheidungen gezwungen, die man bei unbegrenzten Ressourcen nie trifft — und dabei habe ich mehr über die Funktionsweise dieser Modelle gelernt als in jedem Tutorial.

Die falsche Zahl führt zur falschen Hardware. Token pro Sekunde bei einer Anfrage beschreibt einen Menschen, der tippt. Fast alles Wertvolle passiert im Stapel.

Das schnellste Modell ist der langsamste Agent. Der Satz gilt weit über diese Kiste hinaus.

Und was die Eingangsfrage angeht: Die Kiste steht nicht hier, weil sie billiger ist. Sie steht hier, weil manche Arbeit sonst gar nicht stattfinden könnte.