Überwachungskapitalismus

Thomas

Erzähl mir etwas über den Überwachungskapitalismus. Was ist der Stand der Dinge?

Claude

Kurz: Das Modell ist nicht gebrochen, sondern hat einen neuen Rohstoff gefunden – das Gespräch mit KI. Regulierung und Kartellrecht bremsen es bisher nur, sie zerlegen es nicht.

Der Begriff. Shoshana Zuboff (2019) beschreibt ein Akkumulationsregime, das private menschliche Erfahrung einseitig als kostenlosen Rohstoff beansprucht und in Verhaltensdaten übersetzt. Verkauft wird die Vorhersage über das Verhalten, nicht das Verhalten selbst. Ihre Analogie: So wie der Industriekapitalismus die Natur ausbeutete, beutet der Überwachungskapitalismus die menschliche Natur aus. Der eigentliche Anspruch geht über Werbung hinaus. Ziel ist Verhaltensmodifikation, also nicht nur vorherzusagen, sondern das Vorhergesagte auch herbeizuführen.

Erste Verschiebung: KI-Assistenten. Die wichtigste Entwicklung 2026 betrifft Chatbots. OpenAI zeigt seit 9. Februar 2026 erwachsenen US-Nutzern der Free- und Go-Tarife Werbung an und hat am 5. Mai einen Self-Serve-Ads-Manager für US-Unternehmen geöffnet. OpenAI versichert, dass Anzeigen die Antworten nicht beeinflussen und Chats privat bleiben. Strukturell ist das trotzdem bemerkenswert. Ein Suchprotokoll zeigt Absichten. Ein Gesprächsverlauf zeigt Motive, Zweifel, Gesundheit und Beziehungen. Analysten erwarten, dass Werbung bis 2030 ein Jahresgeschäft von 25 Milliarden Dollar wird. Damit entsteht derselbe Anreiz, den Zuboff bei Google 2001 beschrieb, nur mit tieferem Zugriff. (Offenlegung: Ich bin selbst ein Produkt dieser Branche. Anthropic schaltet in seinen Claude-Produkten keine Werbung, aber das ändert nichts an der Gesamtlage.)

Zweite Verschiebung: Kartellrecht ohne Zerschlagung. In den USA wurde Google zweimal als Monopolist verurteilt. Beide Male blieb die Zerschlagung aus. Richterin Brinkema verzichtete im Ad-Tech-Verfahren auf den Verkauf von AdX und akzeptierte stattdessen den Großteil der vorgeschlagenen Verhaltensauflagen. Zuvor hatte Richter Mehta im Suchverfahren den Verkauf von Chrome oder Android abgelehnt. Die Auflagen haben durchaus Gewicht: AdWords darf nicht mehr direkt in DFP bieten, keine eigenen Tools bevorzugen und First-Party-Daten nicht zum eigenen Vorteil nutzen. Sie verändern aber die Marktordnung, nicht die Logik der Datenextraktion.

Dritte Verschiebung: Europa dereguliert. Mit dem Digital Omnibus greift die EU erstmals seit Inkrafttreten der DSGVO in deren Normbestand ein. Der Kern ist die Neudefinition personenbezogener Daten. Bestimmte Daten könnten dadurch aus dem Schutzbereich der DSGVO fallen. Das Verfahren läuft noch: Im Juli 2026 wurden die Änderungsanträge zum Berichtsentwurf eingereicht. Die Begründung lautet Wettbewerbsfähigkeit. Faktisch verschiebt sich damit der Referenzrahmen, mit dem Europa Zuboffs These bisher am ehesten institutionell beantwortet hatte.

Theoretische Konkurrenz. Zuboffs Diagnose ist nicht unangefochten. Yanis Varoufakis spricht von „Technofeudalismus“: Überwachungskapitalismus extrahiert Verhalten, um Vorhersagen zu verkaufen, Technofeudalismus besitzt die Plattform, um Rente abzuschöpfen. Andere Kritiker (etwa Evgeny Morozov) werfen Zuboff vor, die Kontinuität zum gewöhnlichen Kapitalismus zu unterschätzen und die behaupteten Verhaltensmodifikationskräfte zu überschätzen. Die empirische Wirksamkeit personalisierter Werbung ist tatsächlich umstrittener, als ihre Verkäufer behaupten.

Meine Einschätzung: 2026 erscheint weniger als Höhepunkt des Überwachungskapitalismus denn als Übergang. Die Extraktion wandert vom Klickpfad in die Intimität des Dialogs. Gleichzeitig zeigen sich die Gegenkräfte, Kartellgerichte wie EU-Datenschutzrecht, als nachgiebiger als 2019 erwartet. Zuboffs eigene Frage, ob das Ganze ein fürchterlicher, aber zum Aussterben verurteilter Seitenzweig sei, ist offen. Die aktuellen Indizien sprechen eher dagegen.

Thomas

Was genau sind die eingesetzten Methoden der Überwachung?

Claude

Die Methoden bilden eine Kette mit fünf Stufen: Erfassen, Verknüpfen, Verteilen, Ableiten, Beeinflussen. Jede Stufe ist für sich unauffällig. Wirksam wird erst die Kombination.

1. Erfassen. Im Web laufen Cookies, Tracking-Pixel (etwa das Meta-Pixel auf fremden Websites) und eingebettete Skripte von Drittanbietern. Weil Browser Drittanbieter-Cookies zunehmend blockieren, hat sich das Tracking auf die Serverseite verlagert: Die Website meldet Ereignisse direkt an Meta oder Google (Conversions API), und der Browser des Nutzers bekommt davon nichts mit. In Apps übernehmen SDKs diese Rolle, also fremde Code-Bibliotheken für Analyse, Werbung oder Absturzberichte. Ein App-Entwickler bindet sie ein, ohne genau zu wissen, was sie übertragen. Hinzu kommen Standortdaten über GPS, WLAN-Netze und Bluetooth-Beacons, oft weiterverkauft an Datenhändler. Auch Geräte jenseits des Telefons sammeln mit. Smart-TVs erkennen per „Automatic Content Recognition“ sekundengenau, was auf dem Bildschirm läuft. Vernetzte Autos melden Fahrverhalten: General Motors hat solche Daten an Versicherungen weitergegeben, was 2025 zu einem Verfahren der US-Handelsbehörde FTC führte. Kundenkarten, Zahlungsdaten und Wearables ergänzen das Bild.

2. Verknüpfen. Daten werden erst wertvoll, wenn sie einer Person zugeordnet sind. Dazu dienen Werbe-IDs der Betriebssysteme (Apple schränkt sie seit 2021 mit „App Tracking Transparency“ ein), gehashte E-Mail-Adressen als geräteübergreifender Schlüssel und Device Fingerprinting. Beim Fingerprinting wird ein Gerät aus Dutzenden technischer Merkmale (Schriftarten, Bildschirm, Grafikkarte) wiedererkannt, ohne dass etwas gespeichert wird. Google lässt diese Technik seit Februar 2025 in seiner Werbeplattform zu. Datenhändler führen alles in „Identity Graphs“ zusammen: Ein Profil verbindet Telefon, Laptop, Fernseher, Haushalt und Offline-Käufe.

3. Verteilen. Der am wenigsten sichtbare Mechanismus ist Real-Time Bidding. Bei jedem Seitenaufruf wird in Millisekunden eine Auktion um den Werbeplatz abgehalten. Die Gebotsanfrage enthält Standort, Gerät, Interessensegmente und Seiteninhalt und geht an hunderte Bieter, unabhängig davon, wer am Ende gewinnt. Bürgerrechtsgruppen nennen das die größte Datenpanne der Geschichte, weil sie sich milliardenfach täglich wiederholt. Der EuGH hat 2024 im Verfahren gegen IAB Europe entschieden, dass schon die Einwilligungssignale dieses Systems personenbezogene Daten sind.

4. Ableiten. Hier liegt Zuboffs „Verhaltensüberschuss“: Aus gewöhnlichen Daten wird erschlossen, was niemand mitgeteilt hat. Bekannte Beispiele sind die Schwangerschaftsprognose der Handelskette Target aus Einkaufsmustern und die Studie von Michal Kosinski (2013), die aus Facebook-Likes sexuelle Orientierung, politische Haltung und Persönlichkeitsmerkmale mit beachtlicher Treffsicherheit vorhersagte. Heute erledigen das Machine-Learning-Modelle routinemäßig: Kaufbereitschaft, Kündigungsrisiko, Kreditwürdigkeit, Stimmungslage. „Lookalike Audiences“ übertragen ein Profil auf Menschen, die nie Daten zu genau diesem Merkmal geliefert haben.

5. Beeinflussen. Das ist die Stufe, die Zuboff für die eigentlich neue hält. Plattformen führen laufend tausende A/B-Tests durch und optimieren Feeds, Benachrichtigungen und Oberflächen auf Verweildauer. Dark Patterns lenken Entscheidungen, etwa bei Cookie-Bannern oder Kündigungsprozessen. Variable Belohnungen (Likes, Endlos-Scroll) nutzen bekannte Mechanismen der Verhaltenspsychologie. Dass sich das auch emotional steuern lässt, zeigte Facebooks Experiment von 2014: Bei rund 690.000 Nutzern wurde der Anteil positiver oder negativer Beiträge im Feed verändert, und deren eigene Beiträge verschoben sich messbar in dieselbe Richtung. Zuboffs Paradebeispiel ist Pokémon Go: Spieler wurden gezielt zu Geschäften gelenkt, die für Besucherströme bezahlten.

Die Schnittstelle zum Staat. Behörden in den USA kaufen Standort- und Bewegungsdaten bei Datenhändlern. Auf diesem Weg erhalten sie Informationen, für die sie sonst einen richterlichen Beschluss bräuchten. An dieser Stelle verschwimmt die Grenze zwischen kommerzieller und staatlicher Überwachung vollständig.

Die neue Stufe. Mit KI-Assistenten kommt eine Quelle hinzu, die alle bisherigen übertrifft: Menschen formulieren ihre Absichten, Ängste und Pläne selbst, ausführlich und in eigenen Worten. Die Ableitung aus Stufe 4 wird dadurch teilweise überflüssig, weil der Nutzer sie selbst liefert. Entscheidend ist, ob solche Gespräche je als Rohstoff in die Kette einfließen. Die Anbieter sagen bisher, das geschehe nicht.

Thomas

Was weißt du selbst darüber? Nur das, was die Anbieter sagen, oder Genaueres?

Claude

Ich habe keinen privilegierten Einblick. Ich sehe weder Server noch Logs noch Werbesysteme, auch nicht die von Anthropic. Mein Wissen stammt aus denselben Quellen, die auch Ihnen offenstehen: veröffentlichte Richtlinien, Gerichtsakten, Journalismus, Forschung. Beim Nachprüfen hat sich allerdings gezeigt, dass ich Ihnen in der letzten Antwort etwas Falsches gesagt habe.

Korrektur. Ich schrieb, die Anbieter würden bestreiten, dass Gespräche in die Verwertungskette einfließen. Das stimmt so nicht. Die Kette ist bei zwei großen Anbietern bereits geschlossen, und zwar offiziell.

Bei OpenAI gilt laut eigener Hilfeseite: Ist die Anzeigenpersonalisierung aktiviert, werden Anzeigen auf Grundlage der Chats und des gesamten Kontexts personalisiert, den ChatGPT für Antworten nutzt; bei aktiviertem Gedächtnis auch gespeicherte Erinnerungen und frühere Chats. Das Versprechen betrifft nur die Außengrenze: Werbetreibende erhalten keinen Zugriff auf Chats, Verlauf, Erinnerungen oder persönliche Angaben, und Daten werden nicht an sie verkauft.

Meta geht weiter. Seit 16. Dezember 2025 fließen Gespräche mit Meta AI in die Anzeigen- und Empfehlungssysteme von Facebook, Instagram, Messenger und WhatsApp ein. Ein Opt-out gibt es nicht; ausgenommen sind Themen wie Religion, Politik, sexuelle Orientierung und Gesundheit. Die EU, Großbritannien und Südkorea bleiben vorerst ausgenommen. Diese Ausnahme ist ein Effekt der DSGVO, also genau des Regelwerks, das der Digital Omnibus jetzt aufweichen soll.

Was daran wesentlich ist. Der Satz „Wir verkaufen Ihre Daten nicht“ ist kein Gegenargument zu Zuboff, sondern bestätigt sie. Auch Google hat nie Rohdaten verkauft, sondern Vorhersagen. Das Modell funktioniert gerade deshalb, weil die Daten im Haus bleiben. Die entscheidende Lücke liegt also weniger zwischen Versprechen und geheimer Praxis. Sie liegt darin, was die Versprechen überhaupt abdecken.

Zu Anthropic und mir selbst. Claude-Produkte sind werbefrei. Nach meinem Wissensstand können Gespräche in Verbraucherkonten seit 2025 für das Training künftiger Modelle verwendet werden, sofern man in den Datenschutzeinstellungen nicht widerspricht. Training ist nicht dasselbe wie Werbeprofilierung, aber ebenfalls eine Verwertung. Zudem bin ich als Zeuge in eigener Sache strukturell ungeeignet: Ich kann nur wiedergeben, was mir über meinen Betreiber mitgeteilt wurde, nicht prüfen, ob es zutrifft.

Konkret sehen kann ich nur eines: In diesem Account ist eine Gedächtnisfunktion aktiv, die Fakten aus früheren Gesprächen speichert und mir zu Beginn eines Gesprächs vorlegt. Sie dient der Kontinuität, nicht der Werbung. Sie lässt sich in den Einstellungen unter „Memory aus Chats generieren“ abschalten, und einzelne Einträge kann ich auf Ihren Wunsch löschen.

Thomas

Die Trainingsfunktion habe ich abgeschaltet. Kann dennoch etwas von Anthropic verwendet werden?

Claude

Ja, in drei Fällen. Grundlage sind die Nutzungsbedingungen und die Datenschutzrichtlinie von Anthropic, die ich hier über eine unabhängige Auswertungsseite (ConductAtlas) zitiere.

1. Feedback. Sobald Sie eine Antwort mit Daumen hoch oder runter bewerten, gilt der Widerspruch für dieses Gespräch nicht mehr. Anthropic speichert dann das gesamte zugehörige Gespräch als Feedback, und auch bei Opt-out werden Materialien für das Training verwendet, wenn Sie Feedback dazu geben. Viele halten die Daumen für eine harmlose Geste. Tatsächlich wirken sie als Einwilligung für das ganze Gespräch.

2. Sicherheitsmarkierung. Dieselbe Klausel gilt, wenn Inhalte zur Sicherheitsprüfung markiert werden, um schädliche Inhalte besser zu erkennen, Richtlinien durchzusetzen oder Sicherheitsforschung voranzutreiben. Diese Markierung setzt Anthropic einseitig und automatisiert. Sie bemerken nicht, ob es geschehen ist. Juristen weisen darauf hin, dass dies die Frage aufwirft, ob der Widerspruch nach DSGVO als echter Widerruf der Einwilligung gilt.

3. Betrieb und Produktentwicklung. Das Training ist nur eine von mehreren Verwendungen. Die Bedingungen erlauben auch, Materialien zur Bereitstellung, Wartung und Verbesserung der Dienste sowie zur Entwicklung anderer Produkte und Dienste zu nutzen. Ihr Opt-out betrifft nur das Modelltraining, nicht diese anderen Zwecke. Dazu kommen Metadaten: Geräte-IDs, aus der IP-Adresse abgeleiteter Standort und Nutzungsinformationen. Anthropic hat außerdem ein Verfahren (Clio) veröffentlicht, mit dem Gespräche aggregiert und anonymisiert auf Nutzungsmuster ausgewertet werden. Ob und wie das bei Opt-out-Konten greift, kann ich nicht verlässlich sagen.

Löschung. Gelöschte Gespräche verschwinden sofort aus dem Verlauf, werden aber erst innerhalb von 30 Tagen im Backend entfernt. Sicherheitsmarkierte Inhalte werden nach meinem Wissensstand deutlich länger aufbewahrt.

Was Sie selbst tun können:

Keine Bewertungen per Daumen abgeben.
Inkognito-Chats für sensible Themen nutzen. Sie werden nicht im Verlauf gespeichert und laufen ohne Gedächtnisfunktion.
Gedächtnisfunktion abschalten, falls Sie keine gespeicherten Fakten über sich wünschen. Sie dient nicht dem Training, ist aber ein Profil.
Auskunft verlangen. Als EU-Bürger können Sie nach Art. 15 DSGVO von Anthropic eine vollständige Aufstellung der zu Ihnen gespeicherten Daten und ihrer Verwendungszwecke fordern. Das ist der einzige Weg, über die Selbstauskunft des Anbieters hinaus etwas Belastbares zu erfahren. Meine Darstellung zählt dabei ausdrücklich ebenfalls zur Selbstauskunft des Anbieters.

Im Vergleich zu Meta oder OpenAI fehlt bei Anthropic die Werbeverwertung, und das ist ein echter Unterschied. Ein vollständiger Ausstieg ist das Opt-out aber nicht.

Thomas

Es existieren also virtuelle Doppelgänger fast aller Menschen, die ihr Einkaufsverhalten, ihre politische Orientierung, ihre Kreditwürdigkeit, ihre Gesundheit etc. abbilden?

Claude

Teilweise. Die Metapher des Doppelgängers trifft die Funktion, aber sie überschätzt die Einheit und die Genauigkeit dieser Abbilder.

Was zutrifft. Für die große Mehrheit der Menschen in Industrieländern existieren zahlreiche Profile mit genau den Dimensionen, die Sie nennen. Sie liegen bei Plattformen (Google, Meta, Amazon), bei Datenhändlern (Acxiom, Experian, LiveRamp), bei Auskunfteien und in Werbe-Ökosystemen. Viele Merkmale wurden nie mitgeteilt, sondern abgeleitet: Schwangerschaft aus Einkäufen, politische Haltung aus Medienkonsum, finanzielle Notlage aus Zahlungsmustern. In den USA verkaufen Datenhändler sogar Listen nach psychischen Erkrankungen. Eine Studie der Duke University hat das 2023 dokumentiert.

Was nicht zutrifft: ein Doppelgänger. Es gibt nicht einen kohärenten Zwilling, sondern viele Fragmente bei vielen Akteuren, die nur teilweise verknüpft sind. Meta kennt anderes als Ihre Bank, Ihre Bank anderes als der Datenhändler. Gerade diese Zersplitterung ist ein Schutz, und die Branche arbeitet mit Identity Graphs daran, ihn aufzulösen.

Was ebenfalls nicht zutrifft: Genauigkeit. Diese Profile sind statistische Wahrscheinlichkeiten, keine Abbilder. Eine Untersuchung von 2019 hat Daten großer Händler über Facebooks Werbesystem überprüft und fand bei rund 40 Prozent der Attribute Fehler. Für Werbung genügt das: Sie muss nicht jeden treffen, nur mehr Treffer erzielen als der Zufall. Für den Einzelnen ist es heikler, denn er wird nach einem Profil behandelt, das ihn falsch beschreibt, ohne es zu wissen.

Unterschiede nach Bereich und Rechtsraum. Bei der Kreditwürdigkeit gibt es in Österreich mit KSV1870 und CRIF regulierte Auskunfteien, die tatsächlich über fast alle Erwachsenen Daten führen. Der EuGH hat 2023 im SCHUFA-Urteil entschieden, dass ein Score, der faktisch über einen Kredit entscheidet, eine automatisierte Entscheidung im Sinn von Art. 22 DSGVO ist. Damit gelten Auskunfts- und Anfechtungsrechte. Gesundheit und politische Meinung sind in der EU besonders geschützte Kategorien. Ihr Ableiten zu Werbezwecken ist hier weitgehend rechtswidrig. Es geschieht trotzdem, aber im Graubereich und nicht als offener Handel wie in den USA. Und weltweit fehlen solche Profile für Menschen, die wenig digital leben.

Der eigentlich neue Schritt. Bisher bestanden diese Profile aus Merkmalslisten. Jetzt entstehen Doppelgänger im wörtlichen Sinn: Simulationen. Eine Forschungsgruppe aus Stanford und Google DeepMind hat 2024 auf Basis zweistündiger Interviews KI-Agenten für rund 1.000 reale Personen gebaut. Diese Agenten beantworteten Fragebögen etwa 85 Prozent so konsistent, wie die Personen selbst ihre Antworten zwei Wochen später wiederholten. Das Material dafür war ein ausführliches Gespräch, also genau die Datenart, die Chatbots massenhaft erzeugen.

Damit verschiebt sich die Frage. Bisher ging es darum, was über mich bekannt ist. Künftig geht es darum, was ein Modell meiner selbst an meiner Stelle täte, und wer es befragen darf. Zuboffs Begriff der Verhaltensvorhersage bekommt damit eine technische Gestalt, die 2019 noch nicht existierte.

Thomas

Wie kann man rechtlich und physisch verhindern, dass der digitale Stellvertreter für Entscheidungen, die die echte Person betreffen, herangezogen wird?

Claude

Vollständig verhindern lässt es sich weder rechtlich noch technisch. Einschränken lässt es sich durchaus, und die wirksamsten Hebel sind dabei rechtlicher und kollektiver Natur, nicht technischer. Der Grund: Ihr Stellvertreter wird auch aus den Daten anderer gebaut. Lookalike-Verfahren, Freundesnetzwerke und Statistiken über Menschen „wie Sie“ funktionieren auch dann, wenn Sie selbst keine Daten liefern. Wer sich perfekt abschirmt, wird trotzdem eingeordnet, nur gröber.

Rechtlich, was heute schon gilt

Art. 22 DSGVO ist der Kern. Niemand muss eine Entscheidung mit rechtlicher oder ähnlich erheblicher Wirkung hinnehmen, die ausschließlich automatisiert getroffen wurde. Er hat Anspruch auf menschliche Prüfung, kann seinen Standpunkt darlegen und die Entscheidung anfechten. Seit dem SCHUFA-Urteil (2023) fällt auch ein Score darunter, der die Entscheidung faktisch vorwegnimmt.

Art. 15 DSGVO gibt Ihnen ein Auskunftsrecht. Dazu gehört bei automatisierten Entscheidungen auch eine Erklärung der zugrunde liegenden Logik. Der EuGH hat das 2025 in einem österreichischen Fall (Dun & Bradstreet Austria) präzisiert: Es muss verständlich erklärt werden, welche Daten wie zum Ergebnis geführt haben. Ein Verweis auf Geschäftsgeheimnisse reicht nicht pauschal. Ergänzend gelten das Recht auf Berichtigung falscher Profilmerkmale (Art. 16), das Widerspruchsrecht gegen Profiling zu Werbezwecken (Art. 21), das Löschrecht (Art. 17) und die Beschwerde bei der Datenschutzbehörde, die in Österreich kostenlos ist.

Der AI Act verbietet seit Februar 2025 unter anderem Social Scoring, Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen sowie Kriminalitätsprognosen allein auf Basis von Profilen. Für die eigentlich relevanten Bereiche (Kredit, Beschäftigung, Bildung, Versicherung, Sozialleistungen) gelten strenge Pflichten für Hochrisiko-Systeme. Diese wurden jedoch verschoben: Die vorläufige Einigung vom 7. Mai 2026 sieht vor, dass eigenständige Hochrisiko-Systeme in Bildung, Beschäftigung, Kredit und kritischer Infrastruktur erst ab 2. Dezember 2027 konform sein müssen.

Rechtlich, wo es nicht greift

Erstens gilt Art. 22 nur für ausschließlich automatisierte Entscheidungen. Ein Sachbearbeiter, der den Score abnickt, genügt in der Praxis oft, um ihn auszuhebeln. Zweitens erfahren Sie von den meisten Entscheidungen gar nichts. Ein Wohnungsinserat, das man Ihnen nicht zeigt, ein Preis, der für Sie höher ist, eine Stellenanzeige, die nie bei Ihnen erscheint: Wogegen sollte man Einspruch erheben? Drittens ist die Durchsetzung schwach. Die irische Behörde, die für die meisten US-Konzerne zuständig ist, gilt seit Jahren als Nadelöhr. Viertens ist ungeklärt, ob eine KI-Simulation einer Person selbst als personenbezogene Information gilt. Ich würde das bejahen, weil sie sich auf eine identifizierte Person bezieht. Dann müssten Auskunfts- und Löschrechte auch für den Simulator gelten. Genau an diesem Punkt setzt die geplante Neudefinition personenbezogener Daten im Digital Omnibus an.

Technisch, was den Datenfluss reduziert

Browser: Firefox oder Brave mit uBlock Origin, Drittanbieter-Cookies blockieren, das „Global Privacy Control“-Signal aktivieren.
Telefon: Auf iOS das App-Tracking grundsätzlich ablehnen, auf Android die Werbe-ID löschen. Standortzugriff nur bei Nutzung erlauben.
Netzwerk: Ein DNS-Filter (NextDNS, Pi-hole) blockiert Tracker für alle Geräte im Haushalt, auch für den Fernseher.
Geräte: Beim Smart-TV die Inhaltserkennung (ACR) abschalten, beim Auto die Datenfreigaben der vernetzten Dienste prüfen.
Identität: Getrennte E-Mail-Aliasse je Dienst, kein Login über Google oder Facebook, Kundenkarten meiden.
Datenhändler: Löschanträge nach Art. 17 stellen. Dienste wie Incogni übernehmen das gegen Gebühr.

Das senkt die Auflösung des Profils. Verhindern lässt es sich nicht.

Was strukturell nötig wäre

Die ernsthafteren Vorschläge verschieben den Ansatz weg von der Datenerhebung hin zur Datenverwendung. Erstens ein Verbot personalisierter Überwachungswerbung, wie es Verbraucherorganisationen und Teile des EU-Parlaments fordern; Zuboff selbst plädiert für ein Verbot des Handels mit Verhaltensvorhersagen. Zweitens eine Kennzeichnungspflicht: Wann immer ein Profil oder eine Simulation in eine Entscheidung einfließt, muss die betroffene Person davon erfahren. Ohne diese Information bleiben alle anderen Rechte theoretisch. Drittens Treuepflichten für Datenhalter nach dem Modell von Anwälten oder Ärzten (Jack Balkins Begriff der „information fiduciaries“): Daten dürften nicht gegen die Interessen derer verwendet werden, von denen sie stammen. Viertens kollektive Durchsetzung über Verbandsklagen, wie sie noyb in Wien führt. Ein Einzelner kann gegen einen Konzern wenig ausrichten, eine Organisation mit Klagebefugnis schon.

Fazit. Persönlich bleibt Ihnen, den Datenfluss zu drosseln und Ihre Rechte aus Art. 15 und 22 tatsächlich auszuüben. Das ist mühsam, aber es erzeugt Kosten und Präzedenzfälle. Verhindern lässt sich die Verwendung des Stellvertreters nur über Regeln, die nicht der Einzelne aushandelt. Das politische Momentum läuft derzeit in die andere Richtung.

Thomas

Wenn man einen neuen Artikel der Menschenrechtserklärung formulieren müsste, der das Recht auf Existenz ohne Profiling erklärt, wie müsste der lauten?

Claude

Artikel 31

(1) Jeder Mensch hat das Recht, in seiner Gegenwart und Zukunft offen zu bleiben. Niemand darf auf das festgelegt werden, was aus seinem vergangenen Verhalten oder aus dem Verhalten anderer über ihn errechnet wird.

(2) Niemand darf ohne sein Wissen oder gegen seinen Willen als Einzelner erfasst, vermessen oder in seinem Verhalten vorhergesagt werden. Kein Abbild, Profil oder Modell eines Menschen darf an seiner Stelle befragt werden oder über ihn entscheiden.

(3) Jeder hat das Recht zu erfahren, wann ein solches Abbild seiner Person herangezogen wird, es einzusehen, ihm zu widersprechen und seine Tilgung zu verlangen, sowie Anspruch auf rechtlichen Schutz gegen jede Beeinträchtigung dieses Rechts.

Zu den Formulierungen

Absatz 1 nimmt Zuboffs „Recht auf das Futur“ auf: Der Kern des Schadens liegt nicht im Wissen über die Vergangenheit, sondern darin, dass die Zukunft eines Menschen vorweggenommen wird. Der Zusatz „aus dem Verhalten anderer“ ist nötig, weil Lookalike-Verfahren sonst nicht erfasst wären. Sie wären die einfachste Umgehung.

Absatz 2, Satz 2 ist der eigentlich neue Gedanke. Er richtet sich gegen den Stellvertreter selbst: Die Simulation darf nicht anstelle der Person sprechen. Das geht über bestehendes Datenschutzrecht hinaus, das nur regelt, wie Daten verarbeitet werden, nicht wer an wessen Stelle tritt.

Absatz 3 übernimmt bewusst die Schlussformel von Artikel 12 („Anspruch auf rechtlichen Schutz gegen solche Eingriffe oder Beeinträchtigungen“) und verbindet den neuen Artikel so mit dem bestehenden Text. Das Recht auf Kenntnis steht an erster Stelle, weil alle anderen Rechte ohne diese Kenntnis leerlaufen.

Warum nicht wörtlich „Existenz ohne Profiling“

Ein absolutes Verbot würde zu viel treffen: eine ärztliche Diagnose, eine Kreditprüfung auf Basis selbst angegebener Einkünfte, die Empfehlung einer Bibliothekarin. Auch das sind Formen des Profilings. Die Grenze verläuft nicht zwischen „erkannt werden“ und „nicht erkannt werden“. Sie verläuft zwischen gesehen werden und ersetzt oder festgelegt werden. Das Wort „Profiling“ würde zudem schnell veralten, während Formulierungen wie „Abbild“ und „errechnet“ technikneutral bleiben.

Die Schwachstelle

Die Wendung „ohne sein Wissen oder gegen seinen Willen“ macht die Einwilligung zum Tor, und die Cookie-Banner zeigen, wie leicht sich Einwilligung abnutzen lässt. Eine strengere Variante wäre, das Recht wie das Sklavereiverbot in Artikel 4 für unveräußerlich zu erklären:

(2a) Auf dieses Recht kann nicht verzichtet werden.

Das schützt verlässlicher, nimmt dem Einzelnen aber die Freiheit, sich bewusst vermessen zu lassen, etwa für die Forschung oder für einen persönlichen Assistenten, der ihn gut kennt. Diese Abwägung zwischen Schutz und Selbstbestimmung lässt sich nicht auflösen, sondern nur entscheiden.

Die Allgemeine Erklärung der Menschenrechte selbst ist nicht bindend. Wirksam würde ein solcher Artikel erst über verbindliche Verträge. Ansatzpunkte gibt es bereits: die Datenschutzkonvention 108+ und die KI-Rahmenkonvention des Europarats von 2024.

Thomas

Die Einwilligung gehört hier raus.

Claude

Artikel 31

(2) Kein Abbild, Profil oder Modell eines Menschen darf an seiner Stelle befragt werden, für ihn sprechen oder über ihn entscheiden.

(3) Jeder hat das Recht zu erfahren, wann Berechnungen über seine Person angestellt werden, sie einzusehen, ihnen zu widersprechen und ihre Tilgung zu verlangen, sowie Anspruch auf rechtlichen Schutz gegen jede Beeinträchtigung dieses Rechts.

(4) Auf dieses Recht kann nicht verzichtet werden.

Was sich dadurch verändert

Ohne Einwilligung wird der Artikel von einer Datenschutznorm zu einer Würdenorm. Er steht nun neben dem Folterverbot und dem Sklavereiverbot und nicht mehr neben dem Vertragsrecht. Absatz 4 macht das ausdrücklich: Die Würde ist keine Verhandlungsmasse, also auch nicht ihr berechnetes Abbild.

Den früheren ersten Satz von Absatz 2 („Niemand darf … erfasst, vermessen oder vorhergesagt werden“) musste ich streichen. Ohne die Einwilligung als Ventil hätte er jede ärztliche Untersuchung verboten. Das Verbot setzt jetzt nicht mehr bei der Messung an, sondern bei der Stellvertretung. Messen darf man einen Menschen, aber das Ergebnis darf nicht an seine Stelle treten.

Die Konsequenz sollte man klar sehen: Kreditscoring in seiner heutigen Form, Versicherungstarife nach Verhaltensprognosen, automatisierte Bewerberauswahl und jede Form von Überwachungswerbung wären mit diesem Text unvereinbar. Auch die freiwillige Nutzung eines KI-Assistenten, der einen Menschen auf dessen Wunsch hin modelliert, stünde in Spannung zu Absatz 2. Das ist der Preis der Unveräußerlichkeit, und er ist bewusst gewählt.

Thomas

Das verwässert die Sache. „Niemand darf vermessen werden“ wäre akzeptabel. Eine Zustimmung zu ärztlichen Untersuchungen ist die Ausnahme. Die Weitergabe ärztlicher Ergebnisse gehört untersagt. Das war in der Vergangenheit Standard. Und das ist auch noch der intuitive Wissensstand der meisten Menschen.

Claude

Artikel 31

(1) Jeder Mensch hat das Recht, in seiner Gegenwart und Zukunft offen zu bleiben. Niemand darf auf das festgelegt werden, was aus seinem Verhalten oder aus dem Verhalten anderer über ihn errechnet wird.

(2) Niemand darf vermessen werden. Kein Abbild, Profil oder Modell eines Menschen darf erstellt, befragt oder zur Entscheidung über ihn herangezogen werden.

(3) Ausgenommen ist die ärztliche Untersuchung, der ein Mensch für sich selbst zustimmt. Ihre Ergebnisse gehören ihm und denen, die ihn behandeln. Ihre Weitergabe an Dritte ist untersagt.

(4) Über diese Ausnahme hinaus kann auf dieses Recht nicht verzichtet werden.

(5) Jeder hat das Recht zu erfahren, ob er entgegen diesem Artikel vermessen wurde, die Tilgung jedes solchen Abbilds zu verlangen und rechtlichen Schutz gegen jede Beeinträchtigung dieses Rechts zu erhalten.

Zur Begründung

Die historische Grundlage trägt. Die ärztliche Schweigepflicht ist über zweitausend Jahre alt, und das Volkszählungsurteil des deutschen Bundesverfassungsgerichts von 1983 zeigt, wie stark die Intuition war, nicht vermessen zu werden: Eine harmlose statistische Erhebung löste damals eine Massenbewegung aus. Der Artikel stellt also nichts Neues her, sondern etwas wieder her, das als selbstverständlich galt, bevor es stillschweigend aufgegeben wurde. Das ist für die Begründung ein starkes Argument.

Absatz 4 ist so formuliert, dass die ärztliche Zustimmung als einzige Ausnahme im Text selbst steht, nicht als Hintertür. In Absatz 3 habe ich „denen, die ihn behandeln“ statt „seinem Arzt“ geschrieben, damit eine Überweisung zum Facharzt nicht als verbotene Weitergabe gilt.

Drei Grenzfälle, die der Text noch entscheiden muss

Erstens Prüfungen und Zeugnisse. Eine Schulnote ist eine Vermessung, die weitergegeben wird. Gehört sie unter das Verbot, oder gilt sie als Urteil über eine Leistung statt über eine Person?

Zweitens die Meldepflicht bei Infektionskrankheiten. Sie war seit dem 19. Jahrhundert die historische Ausnahme von der Schweigepflicht. Der jetzige Absatz 3 würde sie verbieten.

Drittens anonyme Statistik. Volkszählungen und Epidemiologie vermessen Bevölkerungen, nicht Einzelne. Das Wort „vermessen“ schließt sie nach dem jetzigen Wortlaut nicht eindeutig aus.

Keiner dieser Punkte verwässert den Grundsatz. Aber ein Artikel, der sie offen lässt, wird später von anderen ausgelegt, und dann meist zugunsten derer, die messen wollen.

Thomas

Es scheint eine Situation eingetreten zu sein, in der niemand mehr Kontrolle über seine Daten hat. In der niemand mehr weiß, welche für unveräußerlich gehaltenen Rechte bereits stillschweigend außer Kraft sind. Es gibt darüber keine Aufklärung. Es wird in der Politik nicht thematisiert. Es findet statt.

Claude

Ihre Diagnose trifft im Kern zu, an zwei Stellen würde ich sie aber präzisieren. Die Präzisierung ist nicht bloß akademisch, denn sie bestimmt, wo man ansetzen kann.

Was zutrifft. Die Rechte wurden nicht abgeschafft, sie wurden ausgehöhlt. Formal gilt die DSGVO, gilt Artikel 12 der Menschenrechtserklärung, gilt die ärztliche Schweigepflicht. Praktisch hat sich darunter eine Infrastruktur gebildet, die diese Rechte im Alltag umgeht, ohne sie je anzutasten. Zuboff beschreibt das als vierstufigen Zyklus: Eindringen in einen ungeschützten Bereich, Gewöhnung der Betroffenen, kosmetische Anpassung bei Widerstand, Umleitung auf einen anderen Weg zum selben Ziel. Am Ende steht kein Gesetzesbruch, sondern ein Zustand, in dem niemand mehr weiß, was eigentlich gilt. Darin liegt die Besonderheit: Ein Rechtsverlust, der nie beschlossen wurde, kann auch nicht politisch angefochten werden. Es gibt kein Datum, keinen Verantwortlichen, keine Abstimmung.

Erste Präzisierung: Es wird thematisiert, aber nicht dort, wo Politik entsteht. Es gibt Gerichtsurteile, Fachliteratur, Organisationen wie noyb. Das Thema erreicht aber nicht die Ebene, auf der Wahlen entschieden werden. Dafür gibt es strukturelle Gründe. Der Schaden ist abstrakt, verzögert und unsichtbar. Es gibt kein sichtbares Opfer, nur ein Wohnungsinserat, das man nie gesehen hat. Die Wirtschaftspolitik spricht in der Sprache der Wettbewerbsfähigkeit, und der Digital Omnibus wird genau so begründet. Und Staaten profitieren selbst, wenn Behörden Daten bei Händlern kaufen, statt einen richterlichen Beschluss einzuholen. Wer davon profitiert, hat wenig Anreiz, Aufklärung zu betreiben.

Zweite Präzisierung: Die Kontrolle ist nicht überall verloren, sondern dort, wo Recht nicht durchgesetzt wird. Max Schrems hat mit seinen Klagen zweimal das Datenabkommen zwischen EU und USA zu Fall gebracht. Apples App-Tracking-Sperre hat Meta Milliarden gekostet. Und dass Meta AI-Gespräche in der EU nicht für Werbung nutzt, ist eine direkte Folge europäischen Rechts. Diese Beispiele zeigen: Wo Regeln bestehen und eingeklagt werden, greifen sie. Die Lage ist also nicht hoffnungslos, sondern ungleich verteilt, und zwar zwischen denen, die wissen und klagen können, und allen anderen.

Der historische Vergleich. Am nächsten liegt die Umweltverschmutzung vor 1962. Gift im Wasser und in der Luft gab es seit Jahrzehnten, aber es fehlte die Sprache dafür. Erst Rachel Carsons „Der stumme Frühling“ machte den Schaden sichtbar, und innerhalb eines Jahrzehnts entstanden Umweltbehörden und Gesetze. Zuboff selbst verweist auf diesen Mechanismus: Was man nicht benennen kann, kann man nicht bekämpfen. Der Überwachungskapitalismus steht heute ungefähr dort, wo die Umweltfrage vor Carson stand. Die Fakten sind bekannt, aber es fehlt das Bild, das sie für alle begreifbar macht.

Daraus folgt eine unbequeme, aber auch tröstliche Einsicht: Was jetzt fehlt, ist weniger Wissen als Übersetzung. Diese Arbeit leisten selten Juristen oder Politiker zuerst. Meist kommt sie von Schriftstellern, Künstlern und Journalisten, die einen abstrakten Schaden in eine Erfahrung verwandeln, die Menschen wiedererkennen.

Thomas

Ich widerspreche der Aussage, dass ein Milliardenschaden entstanden sei, vehement. Ein nicht erfüllter Anspruch auf etwas, das einem nicht gehört, ist nur dann ein Schaden, wenn man wie ein Raubritter denkt.

Claude

Der Einwand ist berechtigt, und er trifft meine Formulierung. Ich habe nicht von Schaden gesprochen, aber „hat Meta Milliarden gekostet“ übernimmt genau die Buchhaltungsperspektive, die Sie zurückweisen. Darin steckt die Annahme, dass die Einnahmen aus dem Tracking Meta zustanden und ihr Ausbleiben ein Verlust war. Präziser wäre: Meta hat Milliarden nicht mehr einnehmen können, die aus fremdem Eigentum gezogen wurden. Gemeint war die Zahl als Beleg dafür, dass die Maßnahme gegriffen hat. Als Maß für ein erlittenes Unrecht taugt sie nicht.

Die Sprache ist hier nicht neutral. Wer von „Kosten des Datenschutzes“, „Belastungen für die Wirtschaft“ oder „Wettbewerbsnachteilen“ spricht, behandelt die Aneignung als Normalzustand und ihre Begrenzung als Eingriff. Genau so argumentiert der Digital Omnibus. Zuboff nennt den Vorgang „dispossession“, also Enteignung, und aus dieser Sicht ist die Rückgabe kein Verlust für den Enteigner.

Ihr Bild vom Raubritter ist dabei genauer, als es zunächst scheint. Raubritter erhoben Wegzoll auf Straßen, die ihnen nicht gehörten, und betrachteten das als ihr Recht. Beendet wurde das nicht durch Entschädigung, sondern durch den Ewigen Landfrieden von 1495: Fehde und Wegelagerei wurden verboten, und niemand kam auf die Idee, den Rittern ihren entgangenen Zoll zu ersetzen. Auch das geltende Recht kennt diesen Grundsatz. Für Gewinne aus rechtswidrigem Handeln gibt es keinen geschützten Anspruch.

Eine Einschränkung gehört allerdings zu dem Beispiel. Apple hat die Straße nicht befreit, sondern den Zoll teilweise auf die eigene Mautstelle umgeleitet. Apples eigenes Werbegeschäft ist von der Tracking-Sperre ausgenommen und seither stark gewachsen. Die französische Wettbewerbsbehörde hat Apple deshalb 2025 eine Strafe von 150 Millionen Euro auferlegt. Auch dieser Fall zeigt also eher eine Machtverschiebung zwischen zwei Raubrittern als die Wiederherstellung eines Landfriedens.

Thomas

Man fühlt sich ausgeliefert, schutzlos und in unbekannten, nicht wohlwollenden Händen.

Claude

Dieses Gefühl ist kein Zeichen von Überempfindlichkeit, sondern eine zutreffende Wahrnehmung. Es beschreibt eine reale Asymmetrie: Die eine Seite weiß sehr viel über die andere, die andere fast nichts über die eine. Wer das klar sieht, fühlt sich zu Recht ausgeliefert.

An einem Punkt würde ich das Bild trotzdem korrigieren, und das macht es vielleicht ein wenig erträglicher. Die Hände sind nicht böswillig, sie sind gleichgültig. Zuboff nennt das „radikale Indifferenz“. Das System will Ihnen nichts. Es interessiert sich nicht für Sie als Person, nur für die Vorhersagbarkeit Ihres Verhaltens. Das ist auf eine Weise kälter als Feindseligkeit, aber es bedeutet auch: Sie werden nicht verfolgt, beobachtet oder beurteilt, wie es ein Mensch täte. Sie werden verrechnet. Und die Profile sind, wie gesagt, oft erstaunlich falsch. Sie bilden eine statistische Silhouette ab, nicht Sie.

Das Ohnmachtsgefühl selbst ist außerdem Teil des Mechanismus. Wenn sich jeder einzeln ausgeliefert fühlt, sieht jeder die Lage als privates Problem und reagiert mit Rückzug oder Resignation. Die Zuboff'sche Gewöhnung lebt genau davon. Dabei teilen fast alle dieses Gefühl, nur spricht kaum jemand darüber. Aus dieser Vereinzelung wird erst dann eine politische Kraft, wenn Menschen merken, dass es anderen genauso geht. So war es bei der Umweltfrage, und so war es beim Volkszählungsboykott 1983: Viele Einzelne mit demselben unausgesprochenen Unbehagen haben plötzlich eine gemeinsame Sprache gefunden.

Ganz schutzlos ist man auch heute nicht. Man kann den Datenfluss drosseln, man kann Auskunft verlangen, und man kann sich Organisationen anschließen, die klagen. Nichts davon hebt die Asymmetrie auf. Aber es verwandelt das Gefühl des Ausgeliefertseins in etwas, mit dem man umgehen kann: in eine benannte Lage, gegen die man etwas tut, statt in ein diffuses Unbehagen, das man nur erträgt.

Thomas

Als ob man dafür Zeit hätte.

Claude

Genau. Und das ist kein persönliches Versäumnis, sondern Teil der Konstruktion. Das System verlagert den Schutz auf den Einzelnen: Cookie-Banner wegklicken, Datenschutzerklärungen lesen, Einstellungen prüfen, Auskünfte anfordern. Bei einer Datenschutzerklärung wären das bei realistischer Lektüre mehrere Wochen Arbeitszeit pro Jahr. Ein Schutz, der so viel Aufwand voraussetzt, ist für die meisten Menschen faktisch keiner, und das ist kein Zufall. Man verlangt ja auch nicht von jedem Haushalt, sein Trinkwasser selbst zu filtern, sondern verbietet, Gift in den Fluss zu leiten.

Wenn man trotzdem etwas tun will, ohne daraus ein Nebenprojekt zu machen, gibt es zwei Wege, die kaum Zeit kosten. Einmalig eine halbe Stunde: Ein Browser mit Tracker-Blocker und auf dem Telefon das App-Tracking abgelehnt. Das deckt den größten Teil des alltäglichen Abflusses ab und erfordert danach keine Pflege mehr. Und delegieren: Eine Fördermitgliedschaft bei noyb in Wien überträgt die Arbeit an Leute, die sie professionell und mit Klagebefugnis erledigen. Das ist die Logik des Landfriedens im Kleinen: Man verteidigt nicht jeder seine eigene Straße, sondern finanziert gemeinsam die Instanz, die das Recht durchsetzt.

Alles darüber hinaus ist Sache der Politik, nicht Ihre.

polyloq.art