Online-Shops empfehlen uns Produkte, Streamingdienste passende Filme und soziale Netzwerke stellen individuelle Nachrichtenfeeds zusammen. Personalisierung ist längst Alltag. Doch mit KI, Wearables und persönlichen KI-Agenten erreicht sie eine neue Dimension, die als Hyperpersonalisierung bezeichnet wird.

Während bisher vor allem Suchanfragen, Klicks und Käufe ausgewertet wurden, können KI-Systeme zunehmend unseren Alltag begleiten, Gespräche verarbeiten, Situationen erkennen und daraus Rückschlüsse auf unsere Interessen, Bedürfnisse oder sogar unsere Stimmung ziehen. Informationen, die wir nie bewusst preisgegeben haben, können so zur Grundlage hochgradig personalisierter Angebote werden. KI könnte sogar erkennen, wann und mit welchen Argumenten wir uns besonders leicht beeinflussen lassen.

Was nach komfortabler Unterstützung klingt, wirft grundlegende Fragen zum Datenschutz und zur persönlichen Selbstbestimmung auf.

Wenn aus Nutzern Datensammler werden

Wearables wie Smartglasses, Smartwatches und Fitness-Tracker erfassen mithilfe von Kameras, Mikrofonen und Sensoren Informationen über unseren Körper, unser Verhalten und unsere Umgebung. In Kombination mit persönlichen KI-Agenten können diese Daten zu detaillierten Persönlichkeitsprofilen verknüpft werden.

Dabei werden möglicherweise nicht nur Daten der Nutzer erfasst, sondern auch Informationen über Freunde, Kollegen oder völlig Unbeteiligte. So können Menschen Teil einer Datensammlung werden, ohne selbst entsprechende Geräte zu verwenden oder davon zu wissen.

Dürfen Hersteller ihre Kunden faktisch dazu einsetzen, Informationen über Dritte zu sammeln? Und wer trägt die Verantwortung, wenn Geräte so gestaltet sind, dass andere Menschen die Datenerfassung kaum bemerken können?

Braucht Hyperpersonalisierung eine Hypereinwilligung?

Die DSGVO regelt bereits das sogenannte Profiling, also die automatisierte Analyse oder Vorhersage persönlicher Eigenschaften und Verhaltensweisen. Hyperpersonalisierung ist dagegen kein eigenständiger Rechtsbegriff. Neu sind vor allem Umfang, Herkunft und Auswertungsmöglichkeiten der Daten.

Doch können Menschen überhaupt noch informiert einwilligen, wenn sich kaum vorhersehen lässt, welche Erkenntnisse eine KI künftig aus ihren Daten ableiten wird? Und wie lässt sich eine Datenerfassung rechtfertigen, von der auch unbeteiligte Dritte betroffen sind?

Hinzu kommt, dass selbst eine wirksame Einwilligung nicht jede Verwendung personenbezogener Daten erlaubt. Auch die KI-Verordnung, der Digital Services Act und das Verbraucherrecht setzen Grenzen, etwa bei bestimmten manipulativen Praktiken.

Wie viel Personalisierung wollen wir selbst?

Allerdings ist Hyperpersonalisierung nicht grundsätzlich schlecht. Ein KI-Assistent, der unsere Gewohnheiten und Bedürfnisse kennt, kann passende Angebote finden, Informationen filtern und Entscheidungen erleichtern.

Sollten Menschen deshalb nicht selbst bestimmen dürfen, wie viel eine KI über sie weiß? Oder braucht es stärkere technische Schutzmaßnahmen, damit Datenschutz nicht allein von der Einwilligung und Eigenverantwortung der Nutzer abhängt?

Entscheidend ist schließlich nicht nur, welche Informationen eine KI sammelt, sondern auch, wer sie kontrolliert, wofür sie verwendet werden und ob sie gegen unsere Interessen eingesetzt werden können.

Vielen Dank und was denkt Ihr?

Über diese Themen sprechen wir in der neuen Folge der Rechtsbelehrung mit Dr. Markus Wünschelbaum, persönlicher Referent für Policy und Digitalstrategie beim Hamburgischen Beauftragten für Datenschutz und Informationsfreiheit.

Wir bedanken uns herzlich bei Dr. Wünschelbaum und wünschen Euch viel Vergnügen beim Zuhören!

Uns interessiert natürlich auch, wie Ihr zur Hyperpersonalisierung steht. Würdet Ihr einem KI-Assistenten möglichst viele Informationen über Euch anvertrauen, wenn er Euch dadurch besser unterstützen könnte? Oder wäre Euch das zu viel Überwachung? Wir freuen uns auf Eure Kommentare!

Kapitel

• 00:00:00 – Begrüßung unseres Gastes Dr. Markus Wünschelbaum und Einführung in das Thema Hyperpersonalisierung.
• 00:05:00 – Was ist Hyperpersonalisierung und was unterscheidet sie vom bisherigen Profiling?
• 00:19:30 – Wearables, Smartglasses und KI-Agenten: Wie verändert sich die Erfassung persönlicher Daten?
• 00:27:00 – Darf eine KI ständig mithören und dürfen Nutzer Daten über andere Menschen sammeln?
• 00:46:45 – Brauchen wir eine stärkere Herstellerhaftung für smarte Geräte?
• 00:57:30 – Ist Hyperpersonalisierung grundsätzlich problematisch oder sollten Nutzer selbst entscheiden dürfen?
• 01:19:00 – Tech-Konzerne regulieren oder Nutzer stärker in die Pflicht nehmen? Wo liegt die Verantwortung?