Wenn Algorithmen Nein sagen: Was das 825-Millionen-Euro-Bußgeld gegen Uber lehrt

  • Autor: Arno Schlösser, DP-Dock GmbH
  • Letzte Aktualisierung: November 2026
  • Kategorie: Rechtsdurchsetzung, Allgemeine Verpflichtungen

Über KI und Datenschutz

Algorithmen entscheiden heute darüber, wer einen Kredit, ein Vorstellungsgespräch oder die nächste Fahrt bekommt. Nach der DSGVO unterliegen diese Praktiken einigen ihrer komplexesten und möglicherweise anspruchsvollsten Vorschriften: denen zu Profiling und automatisierten Entscheidungen. Da KI-Tools und Datenaustausch inzwischen zum Geschäftsalltag gehören, ist jetzt ein guter Zeitpunkt, um zu prüfen, ob Ihr Unternehmen Profiling betreibt – und ob es dies rechtmäßig tut.

Profiling ist die automatisierte Verarbeitung personenbezogener Daten, um bestimmte Aspekte einer Person zu bewerten oder vorherzusagen, etwa ihre Arbeitsleistung, wirtschaftliche Lage, Vorlieben, ihr Verhalten oder ihren Aufenthaltsort. Profiling ist nicht grundsätzlich verboten, muss aber alle Grundsätze der DSGVO einhalten – so müssen Unternehmen beispielsweise transparent darüber informieren, und betroffene Personen haben das Recht, Widerspruch dagegen einzulegen.

Automatisierte Entscheidungen gehen noch einen Schritt weiter. Betroffene Personen haben das Recht, keiner ausschließlich auf einer automatisierten Verarbeitung beruhenden Entscheidung unterworfen zu werden, die ihnen gegenüber rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt – etwa personalisierte Tarife für Dienstleistungen oder Produkte. Solche Entscheidungen sind nur in eng begrenzten Fällen und mit Schutzmaßnahmen zulässig, darunter das Recht auf Eingreifen einer Person. Zudem müssen Betroffene so transparent wie möglich darüber informiert werden und aussagekräftige Informationen über die involvierte Logik erhalten.

Der Gerichtshof der Europäischen Union hat die Messlatte zuletzt höher gelegt. Im Urteil SCHUFA (2023) entschied er, dass bereits ein Kredit-Score selbst eine automatisierte Entscheidung sein kann. Im Fall Dun & Bradstreet Austria (2025) bestätigte er, dass Erläuterungen tatsächlich verständlich sein müssen. Und ein Mensch, der ein algorithmisches Ergebnis lediglich abnickt, nimmt die Entscheidung nicht aus dem Anwendungsbereich von Art. 22 DSGVO heraus.

Warum das Thema wichtiger ist denn je

KI-Systeme und Algorithmen bewerten und prognostizieren menschliches Verhalten schon von ihrer Konzeption her. Recruiting-Tools, Betrugserkennungsmodelle, Preisgestaltungssysteme und Kundenanalysen betreiben allesamt Profiling – oft über Standardsoftware, deren „smarte Funktionen“ Unternehmen unbemerkt in den Anwendungsbereich dieser Vorschriften bringen. Gleichzeitig lassen sich komplexe Modelle nur schwer erklären, was die Erfüllung der Transparenzanforderungen erschwert.

Der Datenaustausch erhöht das Risiko zusätzlich. Profile entstehen zunehmend durch die Zusammenführung von Daten von Partnern, Konzerngesellschaften und Datenhändlern, und jeder Datenfluss benötigt eine Rechtsgrundlage – zumal Daten im Zuge der zunehmenden Globalisierung häufig den EWR verlassen. Hinzu kommt der EU AI Act, der für Hochrisiko-Anwendungen wie Recruiting und Kreditwürdigkeitsprüfung zusätzlich zur DSGVO eigene Pflichten vorsieht. Bei Bußgeldern von bis zu 4 % des weltweiten Jahresumsatzes steht viel auf dem Spiel.

Das Thema rückt zunehmend in den Fokus der Aufsichtsbehörden

Am 8. Oktober 2026 verhängte die niederländische Datenschutzbehörde (Autoriteit Persoonsgegevens, AP) gegen Uber ein Bußgeld in Höhe von 824.990.000 Euro wegen unzulässiger automatisierter Entscheidungen und unzureichender Informationen über das Profiling seiner Fahrerinnen und Fahrer. Uber hatte die Konten von Fahrern automatisch deaktiviert: vorübergehend bei Betrugsverdacht oder zu niedrigen Kundenbewertungen, dauerhaft bei anhaltend niedrigen Bewertungen. Während einer Deaktivierung verloren die Fahrer ihr Einkommen über Uber. Die AP stellte fest, dass es sich um vollautomatisierte Entscheidungen handelte, die gegen Art. 22 DSGVO verstießen, und dass Uber die Fahrer nicht ausreichend darüber informiert hatte, wie es Art. 13 DSGVO verlangt.

Ausgangspunkt der Untersuchung waren Beschwerden von fast 200 französischen Fahrern bei der französischen Aufsichtsbehörde CNIL. Da Uber seinen europäischen Hauptsitz in den Niederlanden hat, übernahm die AP das Verfahren. Die Vorfälle ereigneten sich zwischen 2018 und 2022. Uber hat die Verstöße inzwischen abgestellt und Rechtsmittel gegen das Bußgeld eingelegt; eine rechtskräftige gerichtliche Entscheidung steht noch aus.

In jedem Fall zeigt das Vorgehen der Behörde, dass Entscheidungen mit erheblichen Auswirkungen auf Personen eine wirksame menschliche Kontrolle und eine transparente Kommunikation erfordern – und dass die Aufsichtsbehörden bereit sind, empfindliche Bußgelder zu verhängen, wenn diese Anforderungen nicht erfüllt werden.

Betreiben Sie Profiling?

Viele Unternehmen betreiben Profiling, ohne es zu wissen. Tätigkeiten, die als „CRM“, „Analytics“ oder „Personalverwaltung“ erfasst sind, können tatsächlich die Bewertung oder Vorhersage menschlichen Verhaltens umfassen – häufig über KI-Funktionen in Tools von Drittanbietern. Wir empfehlen daher, Ihre Verarbeitungstätigkeiten mit frischem Blick zu überprüfen: Findet Profiling statt und wenn ja, wo? Werden wesentliche Entscheidungen ohne angemessene menschliche Beteiligung getroffen? Ist das der Fall, stellen Sie sicher, dass alle Anforderungen der DSGVO erfüllt sind.

Da KI in alltägliche Tools eingebettet ist und Daten über Unternehmens- und Ländergrenzen hinweg fließen, ist Profiling längst kein Nischenthema mehr. Zu wissen, wo und wie Sie Profiling betreiben, ist der erste Schritt zur Compliance. Wenn Sie bei dieser Überprüfung Unterstützung wünschen, kontaktieren Sie uns gerne.

Person nutzt eine Fahrdienst-App auf dem Smartphone, im Hintergrund Taxis auf der Straße
© Kaspars Grinvalds / stock.adobe.com | #389595567

Datenschutzeinstellungen

Wir nutzen Cookies auf unserer Website. Einige von ihnen sind essenziell, während andere uns helfen, diese Website und Ihre Erfahrung zu verbessern.

In dieser Übersicht können Sie einzelne Cookies einer Kategorie oder ganze Kategorien an- und abwählen. Außerdem erhalten Sie weitere Informationen zu den verfügbaren Cookies.
Gruppe Essenziell
Name Matomo
Technischer Name
Anbieter
Ablauf in Tagen 72
Datenschutz /datenschutz
Zweck Nutzung ohne Cookies
Erlaubt
Gruppe Externe Medien
Name Calendly
Technischer Name __cf_bm,__cfruid,OptanonConsent,
Anbieter Calendly LLC
Ablauf in Tagen 365
Datenschutz https://calendly.com/privacy
Zweck Zum Vereinbaren von Terminen über den Anbieter Calendly
Erlaubt
Name Contao CSRF Token
Technischer Name csrf_contao_csrf_token
Anbieter Contao
Ablauf in Tagen 0
Datenschutz /datenschutz
Zweck Dient zum Schutz der Website vor Fälschungen von standortübergreifenden Anfragen. Nach dem Schließen des Browsers wird das Cookie wieder gelöscht
Erlaubt
Name Contao HTTPS CSRF Token
Technischer Name csrf_https_contao_csrf_token
Anbieter Contao
Ablauf in Tagen 0
Datenschutz /datenschutz
Zweck Dient zum Schutz der verschlüsselten Website (HTTPS) vor Fälschungen von standortübergreifenden Anfragen. Nach dem Schließen des Browsers wird das Cookie wieder gelöscht
Erlaubt
Name PHP SESSION ID
Technischer Name PHPSESSID
Anbieter Contao
Ablauf in Tagen 0
Datenschutz /datenschutz
Zweck Cookie von PHP (Programmiersprache), PHP Daten-Identifikator. Enthält nur einen Verweis auf die aktuelle Sitzung. Im Browser des Nutzers werden keine Informationen gespeichert und dieses Cookie kann nur von der aktuellen Website genutzt werden. Dieses Cookie wird vor allem in Formularen benutzt, um die Benutzerfreundlichkeit zu erhöhen. In Formulare eingegebene Daten werden z. B. kurzzeitig gespeichert, wenn ein Eingabefehler durch den Nutzer vorliegt und dieser eine Fehlermeldung erhält. Ansonsten müssten alle Daten erneut eingegeben werden.
Erlaubt
Name FE USER AUTH
Technischer Name FE_USER_AUTH
Anbieter Contao
Ablauf in Tagen 0
Datenschutz /datenschutz
Zweck Speichert Informationen eines Besuchers, sobald er sich im Frontend einloggt.
Erlaubt