Wenn Algorithmen Nein sagen: Was das 825-Millionen-Euro-Bußgeld gegen Uber lehrt
- Autor: Arno Schlösser, DP-Dock GmbH
- Letzte Aktualisierung: November 2026
- Kategorie: Rechtsdurchsetzung, Allgemeine Verpflichtungen
Über KI und Datenschutz
Algorithmen entscheiden heute darüber, wer einen Kredit, ein Vorstellungsgespräch oder die nächste Fahrt bekommt. Nach der DSGVO unterliegen diese Praktiken einigen ihrer komplexesten und möglicherweise anspruchsvollsten Vorschriften: denen zu Profiling und automatisierten Entscheidungen. Da KI-Tools und Datenaustausch inzwischen zum Geschäftsalltag gehören, ist jetzt ein guter Zeitpunkt, um zu prüfen, ob Ihr Unternehmen Profiling betreibt – und ob es dies rechtmäßig tut.
Profiling ist die automatisierte Verarbeitung personenbezogener Daten, um bestimmte Aspekte einer Person zu bewerten oder vorherzusagen, etwa ihre Arbeitsleistung, wirtschaftliche Lage, Vorlieben, ihr Verhalten oder ihren Aufenthaltsort. Profiling ist nicht grundsätzlich verboten, muss aber alle Grundsätze der DSGVO einhalten – so müssen Unternehmen beispielsweise transparent darüber informieren, und betroffene Personen haben das Recht, Widerspruch dagegen einzulegen.
Automatisierte Entscheidungen gehen noch einen Schritt weiter. Betroffene Personen haben das Recht, keiner ausschließlich auf einer automatisierten Verarbeitung beruhenden Entscheidung unterworfen zu werden, die ihnen gegenüber rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt – etwa personalisierte Tarife für Dienstleistungen oder Produkte. Solche Entscheidungen sind nur in eng begrenzten Fällen und mit Schutzmaßnahmen zulässig, darunter das Recht auf Eingreifen einer Person. Zudem müssen Betroffene so transparent wie möglich darüber informiert werden und aussagekräftige Informationen über die involvierte Logik erhalten.
Der Gerichtshof der Europäischen Union hat die Messlatte zuletzt höher gelegt. Im Urteil SCHUFA (2023) entschied er, dass bereits ein Kredit-Score selbst eine automatisierte Entscheidung sein kann. Im Fall Dun & Bradstreet Austria (2025) bestätigte er, dass Erläuterungen tatsächlich verständlich sein müssen. Und ein Mensch, der ein algorithmisches Ergebnis lediglich abnickt, nimmt die Entscheidung nicht aus dem Anwendungsbereich von Art. 22 DSGVO heraus.
Warum das Thema wichtiger ist denn je
KI-Systeme und Algorithmen bewerten und prognostizieren menschliches Verhalten schon von ihrer Konzeption her. Recruiting-Tools, Betrugserkennungsmodelle, Preisgestaltungssysteme und Kundenanalysen betreiben allesamt Profiling – oft über Standardsoftware, deren „smarte Funktionen“ Unternehmen unbemerkt in den Anwendungsbereich dieser Vorschriften bringen. Gleichzeitig lassen sich komplexe Modelle nur schwer erklären, was die Erfüllung der Transparenzanforderungen erschwert.
Der Datenaustausch erhöht das Risiko zusätzlich. Profile entstehen zunehmend durch die Zusammenführung von Daten von Partnern, Konzerngesellschaften und Datenhändlern, und jeder Datenfluss benötigt eine Rechtsgrundlage – zumal Daten im Zuge der zunehmenden Globalisierung häufig den EWR verlassen. Hinzu kommt der EU AI Act, der für Hochrisiko-Anwendungen wie Recruiting und Kreditwürdigkeitsprüfung zusätzlich zur DSGVO eigene Pflichten vorsieht. Bei Bußgeldern von bis zu 4 % des weltweiten Jahresumsatzes steht viel auf dem Spiel.
Das Thema rückt zunehmend in den Fokus der Aufsichtsbehörden
Am 8. Oktober 2026 verhängte die niederländische Datenschutzbehörde (Autoriteit Persoonsgegevens, AP) gegen Uber ein Bußgeld in Höhe von 824.990.000 Euro wegen unzulässiger automatisierter Entscheidungen und unzureichender Informationen über das Profiling seiner Fahrerinnen und Fahrer. Uber hatte die Konten von Fahrern automatisch deaktiviert: vorübergehend bei Betrugsverdacht oder zu niedrigen Kundenbewertungen, dauerhaft bei anhaltend niedrigen Bewertungen. Während einer Deaktivierung verloren die Fahrer ihr Einkommen über Uber. Die AP stellte fest, dass es sich um vollautomatisierte Entscheidungen handelte, die gegen Art. 22 DSGVO verstießen, und dass Uber die Fahrer nicht ausreichend darüber informiert hatte, wie es Art. 13 DSGVO verlangt.
Ausgangspunkt der Untersuchung waren Beschwerden von fast 200 französischen Fahrern bei der französischen Aufsichtsbehörde CNIL. Da Uber seinen europäischen Hauptsitz in den Niederlanden hat, übernahm die AP das Verfahren. Die Vorfälle ereigneten sich zwischen 2018 und 2022. Uber hat die Verstöße inzwischen abgestellt und Rechtsmittel gegen das Bußgeld eingelegt; eine rechtskräftige gerichtliche Entscheidung steht noch aus.
In jedem Fall zeigt das Vorgehen der Behörde, dass Entscheidungen mit erheblichen Auswirkungen auf Personen eine wirksame menschliche Kontrolle und eine transparente Kommunikation erfordern – und dass die Aufsichtsbehörden bereit sind, empfindliche Bußgelder zu verhängen, wenn diese Anforderungen nicht erfüllt werden.
Betreiben Sie Profiling?
Viele Unternehmen betreiben Profiling, ohne es zu wissen. Tätigkeiten, die als „CRM“, „Analytics“ oder „Personalverwaltung“ erfasst sind, können tatsächlich die Bewertung oder Vorhersage menschlichen Verhaltens umfassen – häufig über KI-Funktionen in Tools von Drittanbietern. Wir empfehlen daher, Ihre Verarbeitungstätigkeiten mit frischem Blick zu überprüfen: Findet Profiling statt und wenn ja, wo? Werden wesentliche Entscheidungen ohne angemessene menschliche Beteiligung getroffen? Ist das der Fall, stellen Sie sicher, dass alle Anforderungen der DSGVO erfüllt sind.
Da KI in alltägliche Tools eingebettet ist und Daten über Unternehmens- und Ländergrenzen hinweg fließen, ist Profiling längst kein Nischenthema mehr. Zu wissen, wo und wie Sie Profiling betreiben, ist der erste Schritt zur Compliance. Wenn Sie bei dieser Überprüfung Unterstützung wünschen, kontaktieren Sie uns gerne.