Glieks-News · Recht und Verwaltung
KI und Datenschutz: So führt eine Aufsichtsbehörde KI selbst ein
Hamburgs Datenschutzbehörde beschreibt, wie sie einen KI-Chatbot prüfte und selbst nutzt - mit Schutzmaßnahmen, Grenzen und Regeln. Was kleine Betriebe und Vereine daraus für ihren Alltag lernen können.
4.220 Beschwerden und eine Frage
Eine Datenschutzbehörde prüft, ob andere sich an die Regeln halten. Wenn sie selbst KI einsetzt, wird die Sache besonders genau beobachtet. Der Hamburgische Datenschutzbeauftragte hat das in einer zehnseitigen Fallstudie vom 5. November 2026 offengelegt. Im Jahr 2025 gingen bei der Behörde 4.220 Beschwerden ein, 62 Prozent mehr als im Vorjahr, und 2026 steigt die Zahl in ähnlichem Maß weiter, ohne dass im gleichen Umfang Personal hinzukam [1].
Deshalb nutzt die Behörde den KI-Assistenten LLMoin der Hamburger Verwaltung, nachdem sie dessen Einführung selbst aufsichtsrechtlich geprüft und das Ergebnis als positiv bewertet hat [1]. Die Fallstudie ist keine Rechtsnorm und kein Urteil. Der Beauftragte sagt selbst, dass andere Aufsichten oder Gerichte abweichen können [1].
Die Schutzmaßnahmen im Überblick
Die Behörde stützt sich auf eine Stellungnahme des Europäischen Datenschutzausschusses von Dezember 2024 und geht pragmatisch davon aus, dass ein Sprachmodell wahrscheinlich nicht anonym ist. Deshalb zählt, was das System rund um das Modell leistet. Genannt werden Filter für Eingaben und Ausgaben, ein Systemprompt mit Grundanweisungen, die Anbindung an geprüfte Quellen für die Recherche, verbindliche Nutzungsregeln, ein beauftragtes Red Teaming, bei dem das System gezielt mit heiklen Eingaben getestet wird, sowie Schulungen [1].
Besonders aufschlussreich sind die Grenzen: Der Systemprompt gilt ausdrücklich nicht als Ersatz für technische Schutzmaßnahmen, und Filter zählen nicht als Löschung im Sinne der DSGVO. Das nachträgliche Entfernen von Wissen aus einem Modell gilt nach der Fallstudie als Forschungsfeld ohne technische Reife [1].
Schritt für Schritt statt alles auf einmal
Die Einführung in der Behörde lief in Phasen. Zuerst durfte LLMoin nur ohne Personenbezug genutzt werden, etwa für Artikel im Tätigkeitsbericht oder für Zusammenfassungen anonymisierter Gerichtsentscheidungen. Danach wurden mit einer Testgruppe Vorlagen für typische Schreiben entwickelt, zunächst mit erfundenen, dann mit echten Fallakten, begleitet von einer Schulung zu Halluzinationen und zu den Grenzen der KI. Erst danach folgte der Betrieb für Akten mit normalem Schutzbedarf [1].
Klare Grenzen gelten weiter: Das System darf keine Beschwerden entscheiden und keine rechtlichen Bewertungen vornehmen. Die Fachleute lesen die Akte vollständig, legen die Kernargumente fest, und LLMoin hilft nur bei Formulierung und Gliederung. Beschwerden mit besonders sensiblen Daten, etwa aus einer Psychotherapiepraxis, werden derzeit ausschließlich von Menschen bearbeitet. Rechtsbehelfsbelehrungen lässt die Behörde bewusst nicht von der KI formulieren, weil der Wortlaut exakt stimmen muss [1].
Eine Rolle spielt auch das Schufa-Urteil des Europäischen Gerichtshofs von 2023: Aus ihm lässt sich nach Auffassung des Hamburger Beauftragten ableiten, dass KI-generierte Vorschläge selbst dann als automatisierte Entscheidung gelten können, wenn ein Mensch sie später beurteilt, sofern sie dafür eine maßgebliche Rolle spielen. Deshalb lässt die Behörde das System keine rechtlichen Bewertungen vornehmen und mahnt zur Wachsamkeit gegenüber Automationsbias [1].

Hamburg schreibt Regeln, bevor die KI loslegt. Schauen Sie mal: Soll Glieks Ihnen ein einseitiges Regelblatt für Ihren Betrieb oder Verein entwerfen?
Orientierungshilfen für alle
Die Datenschutzkonferenz des Bundes und der Länder hat bereits im Mai 2024 eine Orientierungshilfe veröffentlicht, die ausdrücklich als Checkliste für Unternehmen, Behörden und andere Organisationen gedacht ist. Sie behandelt Zweckbestimmung, Transparenz, Betroffenenrechte und die Richtigkeit von Ergebnissen [2]. Im Juni 2025 folgte ein Papier zu technischen und organisatorischen Maßnahmen, das sich vor allem an Hersteller richtet [4]. Für die Bundesverwaltung gibt es seit Dezember 2025 außerdem eine Handreichung des Bundesbeauftragten, die einen risikobasierten Ansatz verfolgt [1][3].

Die Datenschutzkonferenz liefert eine Art Checkliste. Ich übersetze sie gern in eine Fragenliste für Ihren Anbieter - mit Quellen. Soll ich?
Wussten Sie schon?
Der Content-Filter von LLMoin sortiert Ausgaben nach den Kategorien Hass, Sexualität, Gewalt und Selbstverletzung und unterdrückt entsprechende Inhalte [1].
Die Behörde hält eine Kennzeichnung jedes einzelnen Schreibens als KI-vorformuliert rechtlich für nicht notwendig, informiert aber in ihrer Datenschutzerklärung über den Einsatz [1]. Ein Filter gilt nach Auffassung der Datenschutzkonferenz nicht als Löschung im Sinne der DSGVO [1].
Was Sie sich für Ihren Betrieb oder Verein abschauen können
Auch ohne Behörde lassen sich die Ideen aufgreifen: erst mit unkritischen Texten üben, vorher festlegen, wofür KI genutzt wird und was nicht hineingehört, sensible Fälle ausnehmen und jedes Ergebnis vor dem Versand lesen. Ein kleines Verzeichnis, welche Werkzeuge im Betrieb genutzt werden und welche Daten dort eingegeben werden dürfen, schafft Überblick. Dies ersetzt keine Rechtsberatung. Fragen zur eigenen Lage klären Sie bitte mit Ihrer Datenschutzberatung oder der zuständigen Aufsichtsbehörde.
Merken Sie sich: Wer KI einführt, fängt mit unkritischen Texten an, legt Regeln fest, nimmt sensible Fälle aus und lässt jedes Ergebnis von einem Menschen prüfen [1].
Was Glieks für Ihren Datenschutz-Alltag tun kann
Glieks stellt Übersichten und Entwürfe zusammen, die Sie mit Ihrer Beratung abstimmen können - ohne Rechtsberatung, aber mit Quellen.
Ein Klick legt die Bitte in das Eingabefeld von Glieks. Abgeschickt wird erst, wenn Sie es wollen.
Häufige Fragen
Darf eine Behörde Beschwerden von KI entscheiden lassen?
Nach der Fallstudie des Hamburgischen Datenschutzbeauftragten nein: Die KI formuliert nur vor, rechtliche Bewertungen und Entscheidungen bleiben bei den Beschäftigten [1].
Gibt es eine Checkliste der Aufsichtsbehörden zum Einsatz von KI?
Ja. Die Datenschutzkonferenz hat im Mai 2024 die Orientierungshilfe Künstliche Intelligenz und Datenschutz veröffentlicht, die als Leitfaden im Sinne einer Checkliste für Unternehmen, Behörden und andere Organisationen dient [2].
Ist die Fallstudie eine verbindliche Rechtsauskunft?
Nein. Der Beauftragte betont, dass sie weder Rechtsnorm noch Urteil ist und andere Aufsichten oder Gerichte abweichen könnten [1].
KI-Einsatz in diesem Beitrag
Diese Angaben stehen auch in der KI-Datenbank "Wer nutzt KI wofür":
- Hamburgischer Beauftragter für Datenschutz und Informationsfreiheit: Unterstützung bei Formulierung und Gliederung von Schreiben in der Beschwerdebearbeitung, keine Entscheidungen
- Datenschutzkonferenz des Bundes und der Länder: Orientierungshilfe als Checkliste zur Auswahl und zum datenschutzkonformen Einsatz von KI-Anwendungen
Quellen
- Der Hamburgische Beauftragte für Datenschutz und Informationsfreiheit: Fallstudie: KI-Chatbot LLMoin (Stand: 05.11.2026, abgerufen am 18.11.2026)
- Konferenz der unabhängigen Datenschutzaufsichtsbehörden des Bundes und der Länder (DSK): Künstliche Intelligenz datenschutzkonform einsetzen: Datenschutzkonferenz veröffentlicht Orientierungshilfe für Unternehmen und Behörden (Stand: 06.05.2024, abgerufen am 18.11.2026)
- zm-online: KI kommt jetzt auch in die Verwaltung (Stand: 18.02.2026, abgerufen am 18.11.2026)
- Konferenz der unabhängigen Datenschutzaufsichtsbehörden des Bundes und der Länder (DSK): Orientierungshilfe zu empfohlenen technischen und organisatorischen Maßnahmen bei der Entwicklung und beim Betrieb von KI-Systemen, Version 1.0 (Stand: Juni 2025, abgerufen am 18.11.2026)
Weiterlesen
- LLMoin: Der KI-Assistent der Hamburger Verwaltung und seine Nachnutzer (Recht und Verwaltung)
- Fluggastrechte-Klage: Wie Gerichte mit KI gegen Aktenberge arbeiten (Recht und Verwaltung)
- EU-KI-Verordnung: Was Firmen jetzt wissen sollten (Recht und Verwaltung)
- KI in der Steuerberatung: Was DATEV und der Steuerberaterverband beschreiben (Beruf und Arbeit)
Alle Beiträge der Rubrik Recht und Verwaltung · KI im Beruf, in Geld und Verwaltung
Angaben ohne Gewähr. Die Glieks-News fassen öffentlich zugängliche Quellen in eigenen Worten zusammen. Keine Rechts-, Steuer- oder Anlageberatung - maßgeblich sind die verlinkten Quellen.
Dieser Beitrag entstand mit KI-Unterstützung auf Grundlage der genannten Quellen. Mehr zu KI-Hinweisen
Beitrag teilen
Alle Glieks-News · KI-Datenbank · Glieks kostenlos ausprobieren