Was heißt „die KI läuft lokal“ — und was heißt es nicht?
Stand 11. August 2026 · 9 Minuten Lesezeit
Biwak-Produktstand: 6. September 2026. Die Fundstellen behalten ihren jeweils angegebenen Stand.
Die drei Orte
- Wo die Dateien liegen. Das ist die leichteste Zusage und die häufigste: „Wir speichern nichts in der Cloud.“ Sie sagt nichts darüber, was währenddessen gesendet wurde.
- Wo das Programm läuft. Ein Programm auf Ihrem Rechner statt eines Browserfensters. Angenehm, und für die Vertraulichkeit fast belanglos.
- Wo das Modell rechnet. Hier entscheidet es sich. Alles, was das Modell sehen muss, um zu antworten, geht dorthin, wo das Modell ist.
Deshalb ist „keine Cloud-Speicherung“ nicht dasselbe wie lokale Verarbeitung. Der Satz ist wahr und beantwortet die andere Frage. Wer ihn als Antwort auf die Vertraulichkeitsfrage anbietet, weicht aus — manchmal ohne es zu merken.
Vier Stufen, absteigend nach Angriffsfläche
| Stufe 1 · reiner Dienst | Dateien, Verlauf, EingabenBrowserwerkzeug oder Anwendung mit Konto. Alles liegt beim Anbieter. |
|---|---|
| Stufe 2 · Programm bei Ihnen, Modell fremd | Der AuftragstextLokale Werkzeuge arbeiten auf Ihrem Rechner. Für Modellaufträge werden Ihre Frage, benötigter Gesprächskontext und verwendete Dateiinhalte über Biwak an das Modell übermittelt. |
| Stufe 3 · Modell bei einem EU-Endpunkt ohne Aufbewahrung | Der Auftragstext, im EWRDie Drittlandfrage entspannt sich, die Zugangsfrage bleibt. Für das Berufsgeheimnis ist das nicht dasselbe wie Stufe 4. |
| Stufe 4 · Modell in Ihrem Netz | NichtsDiese Kategorie beschreibt vollständig lokale Modelllaufzeiten und ist kein angebotener Biwak-Betriebsmodus. |
Was die Aufsichtsbehörden dazu sagen
„Technisch geschlossene Systeme sind daher aus datenschutzrechtlicher Sicht vorzugswürdig.“
Die Orientierungshilfe zu technischen Maßnahmen aus Juni 2025 doppelt nach und nennt lokale Verarbeitung auf dem Endgerät „zu bevorzugen“. Die faire Einschränkung, die man selbst nennen sollte: Die erste Orientierungshilfe ist als Version 1.0 vom Mai 2024 ausdrücklich fortschreibungsbedürftig; sie ist eine Positionierung der Aufsicht, kein Gesetz und kein Urteil.
Für Berufsgeheimnisträger kommt der Berufsverband hinzu, und der ist in dieselbe Richtung deutlich: Lokal gehostete Modelle gelten als höchste Sicherheitsstufe — mit dem im selben Atemzug genannten Vorbehalt, dass sie erhebliche Rechenleistung und Fachkenntnis erfordern. Genau diese zweite Hälfte ist das eigentliche Thema.
Was es kostet
Wer ein Modell unabhängig von Biwak selbst betreiben möchte, muss Hardware, Modellqualität und Betrieb gesondert prüfen:
- Hardware. Ein Modell, das brauchbar arbeitet, braucht Arbeitsspeicher — auf einem Mac mit gemeinsamem Speicher heißt das: reichlich davon. Ein Rechner mit 16 GB führt kleine Modelle aus, und man merkt es an den Antworten.
- Modellqualität. Für Zusammenfassen, Umformulieren, Vergleichen, Formatprüfen und Suchen in eigenen Dokumenten reichen lokale Modelle heute in der Regel. Bei den schwersten Denkaufgaben ist der Abstand zur Spitze weiter vorhanden. Wer das Gegenteil behauptet, hat es nicht an eigenen Vorgängen geprüft.
- Betrieb. Jemand muss das Modell aktualisieren und den Dienst laufen halten. Bei einem Rechner ist das eine halbe Stunde im Quartal, bei fünfzig ist es eine Aufgabe.
Biwak verwendet für Modellaufträge den verwalteten Biwak-Zugang. Ein Wechsel auf einen kundeneigenen lokalen Modellserver gehört nicht zu diesem Angebot.
Wie Sie es prüfen, statt es zu glauben
- Netzwerkstecker ziehen und einen echten Vorgang durchführen. Was jetzt noch funktioniert, funktioniert lokal. Das ist die einzige Prüfung, die keine Unterlagen braucht.
- Verbindungen prüfen. Trennen Sie Modellaufträge über Biwak von weiteren freigegebenen Netzwerkzugriffen lokaler Werkzeuge.
- Verarbeitungskette prüfen. Biwak verwaltet den Modellzugang; prüfen Sie die eingesetzten Anbieter und die jeweils übermittelten Inhalte.
- Nach Fernwartung fragen. Bildschirmfreigabe und inhaltsbezogene Telemetrie schaffen die Zugangsmöglichkeit, die die ganze Argumentation tragen sollte.
- Nach dem Protokoll fragen. Liegt es bei Ihnen, können Sie im Zweifel selbst nachsehen. Liegt es beim Anbieter, müssen Sie fragen — und die Antwort ist dann ein Nachweis über einen Nachweis.
Dateizugriff auf Ihrem Gerät und serverseitige Konto- und Verbrauchsdaten sind getrennt zu betrachten. Biwak benötigt letztere für Zugang, Kontingente und Abrechnung. Einzelheiten gehören in die Prüfung der tatsächlichen Verarbeitung und in die Datenschutzinformationen.
Dieser Text ist keine Rechtsberatung. Er ist die Vorarbeit, die wir für uns selbst machen mussten, mit den Fundstellen, damit Ihre Anwältin nicht bei Null anfängt. Wo eine Frage von Ihren Umständen abhängt, steht es dabei.
Was dazu gefragt wird
Ist ein Werkzeug „lokal“, wenn es meine Dateien nicht hochlädt?
Nur im schwachen Sinn. Wenn der Auftragstext samt Ausschnitten aus Ihren Dateien an ein fremdes Modell geht, ist der Inhalt draußen, auch wenn die Datei geblieben ist. Bei einem Vertragsentwurf oder einer Patentanmeldung ist gerade der Inhalt das Geheimnis.
Welche Hardware brauche ich für ein lokales Modell?
Als Faustregel: 32 GB gemeinsamer Speicher machen mittelgroße Modelle brauchbar, 64 GB machen sie angenehm; 16 GB reichen für kleine Modelle und lassen es spürbar merken. Rechenleistung entscheidet über die Geschwindigkeit, Speicher darüber, welches Modell überhaupt läuft. Prüfen Sie es an zwei echten Vorgängen, nicht an einer Beispielfrage.
Wie arbeitet Biwak mit Modellen?
Modellaufträge laufen angemeldet über Biwak an den eingesetzten Modellanbieter. Biwak verwaltet den Zugang für Ihr Konto. Verfügbares Tarifkontingent oder Zusatzguthaben wird dabei berücksichtigt.
Was ist mit einem EU-Endpunkt mit Nullaufbewahrung?
Ein guter Mittelweg für die DSGVO und ein schlechterer für das Berufsgeheimnis: Die Drittlandfrage entspannt sich, die Zugangsfrage bleibt. Für Beschäftigten- und Kundendaten oft ausreichend, für Mandantengeheimnisse in der Regel nicht.