Wichtige Erkenntnisse: Automatisierte Entscheidungen, DSGVO und das EU-KI-Gesetz
- Autor: Arno Schlösser, DP-Dock GmbH
- Letzte Aktualisierung: November 2025
- Kategorie: Rechtsdurchsetzung, Allgemeine Verpflichtungen
Hamburg schafft einen Präzedenzfall für automatisierte Entscheidungen.
Ein Unternehmen in Hamburg wurde mit einer Geldstrafe (492.000 Euro) belegt, weil es Kreditanträge ohne angemessene Erklärung oder menschliche Überprüfung durch vollautomatisierte Algorithmen abgelehnt hatte. Das Unternehmen versäumte es, aussagekräftige Informationen über die zugrunde liegende Logik zu liefern, als Antragsteller nach den Gründen für die Ablehnung ihrer Anträge fragten. Die Aufsichtsbehörden signalisieren damit, dass intransparente, KI-gesteuerte Entscheidungen nicht länger akzeptiert werden.
Was dies für alle Unternehmen bedeutet, die vollautomatisierte Algorithmen einsetzen
Auch wenn der Fall in Hamburg im Finanzsektor auftrat, reichen die Auswirkungen weit über die Bonitätsprüfung hinaus. Jedes Unternehmen, das sich bei Entscheidungen, die Einzelpersonen betreffen, auf vollautomatisierte Algorithmen stützt, muss diesen Fall als klares Warnsignal betrachten.
1. Die DSGVO-Vorschriften gelten allgemein
- Transparenz über die Logik hinter der Entscheidung,
- aussagekräftige Erklärungen auf Anfrage,
- menschliches Eingreifen auf Verlangen,
- die Möglichkeit, Entscheidungen anzufechten
2. Das KI-Gesetz wird die Erwartungen weiter verschärfen
Diese Durchsetzungsmaßnahme unterstreicht die zunehmende regulatorische Kontrolle algorithmischer Entscheidungsprozesse und die entscheidende Bedeutung von Transparenz und Rechenschaftspflicht in KI-gesteuerten Prozessen. Neben der DSGVO wird in Zukunft auch das EU-KI-Gesetz relevant sein, da es weitere Vorschriften enthält, insbesondere hinsichtlich der Verwendung von KI-Systemen mit hohem Risiko, die die Verpflichtungen der DSGVO ergänzen.
Fazit
Der Fall Hamburg ist kein allgemeingültiger Präzedenzfall, aber ein klares regulatorisches Signal.
Jedes Unternehmen, das automatisierte Verarbeitungsprozesse einsetzt – insbesondere für Entscheidungen mit erheblichen Auswirkungen – muss sicherstellen, dass Transparenz, Erklärbarkeit und menschliche Kontrolle gewährleistet sind.
Wenn Sie Fragen haben oder weitere Informationen zum Hamburger Fall oder zur Einhaltung der Vorschriften für automatisierte Entscheidungsfindung wünschen, können Sie sich jederzeit an uns wenden.
