Digital Fairness Act Unpacked: Addictive Design

Was sind Addictive Designs?

Der Begriff „Addictive Designs“ ist bislang nicht offiziell rechtlich definiert. Im Gegensatz zum Begriff „Dark Patterns“ ist er auch nicht ausdrücklich in den Erwägungsgründen Europäischer Rechtsakte genannt. Während die öffentliche Konsultation zum DFA zwischen Dark Pattern und Addictive Designs differenziert, ist rechtlich ungeklärt, ob es sich bei Addictive Designs um ein Dark Pattern handelt, oder beide Praktiken voneinander abzugrenzen sind. Allerdings nennt die Europäische Kommission – im Gegensatz zu Dark Patterns – Minderjährige ausdrücklich als eine besonders gefährdete Gruppe.

Im Rahmen der Konsultation beschreibt die Europäische Kommission Addictive Designs als Funktionen, die dazu führen, dass Verbraucher:innen mehr Zeit online verbringen und mehr Geld ausgeben als von ihnen ursprünglich beabsichtigt.

Auch ohne offiziell rechtlich definiert zu sein werden einige Praktiken regelmäßig als Beispiele für Addictive Designs genannt. Die Europäische Kommission führt im Rahmen der DFA-Konsultation die folgenden Beispiele für Addictive Designs an:

• Unendliches Scrollen – Internetseiten, die ohne sichtbares Ende Inhalte nachladen;
• Ephemeral Stories – Inhalte mit kurzer Zugriffsdauer, bspw. auf Social Media Plattformen;
• Autoplay – Automatisches Abspielen von Videos oder Audio ohne aktive Handlung der Nutzer:innen;
• Strafen für geringe Beteiligung – wie beispielsweise das Durchbrechen von Streak-Mechaniken;
• Empfehlungssysteme – Systeme, die die Interaktion und das Engagement der Verbraucherinnen und Verbraucher gezielt erhöhen soll.

Wie ist die aktuelle Rechtslage bezüglich Addictive Designs?

Addictive Designs sind derzeit nicht ausdrücklich reguliert, was seine Ursache u.a. in der schwierigen Abgrenzbarkeit von zulässiger Nutzerbindung und verbraucherschutzrechtlich problematischen Funktionen finden dürfte.

Während die EU beispielsweise mit der Richtlinie über unlautere Geschäftspraktiken (UGP-Richtlinie), der Datenschutzgrundverordnung (DSGVO) oder dem Digital Services Act (DSA) verschiedene Rechtsinstrumente zur Verfügung hat, die zur Bekämpfung von Dark Patterns herangezogen werden können, sind diese Vorschriften nur sehr bedingt auf Addictive Designs anzuwenden. In der europäischen Regulierung richten sich die Vorschriften zu Dark Patterns bislang vor allem an unlautere bzw. unfaire Praktiken mit unmittelbarem wirtschaftlichem oder datenschutzrechtlichem Bezug. Addictive Designs hingegen zielen vorwiegend auf die dauerhafte Lenkung bzw. Bindung der Nutzeraufmerksamkeit ab, ohne zwingend Bezug zu konkret erfassbaren wirtschaftlichen Folgen oder (unrechtmäßigen) Datenerhebungen zu haben.

Im Einzelnen:

• Richtlinie über unlautere Geschäftspraktiken: Gemäß Artikel 5 bis 9 der UGP-Richtlinie sind insbesondere irreführende und aggressive Geschäftspraktiken unlauter und damit verboten. Allerdings nur dann, wenn diese das Verbraucherverhalten in Bezug auf eine geschäftliche Entscheidung negativ beeinflussen. Die UGP-Richtlinie greift daher nur bedingt bei Addictive Designs, da beispielsweise die reine Aufforderung zum längeren Online-Verbleib nicht unmittelbar als negative Beeinflussung des wirtschaftlichen Verhaltens bzw. Veranlassung zu einer geschäftlichen Entscheidung, die Verbraucher:innen andernfalls nicht getroffen hätten, gesehen wird. Sollte dies im konkreten Einzelfall doch der Fall sein, können Addictive Design-Funktionen als unlauter im Sinne der UGP-Richtlinie (bzw. den jeweiligen nationalen Umsetzungsgesetzen) eingeordnet werden. Dies bedarf jedoch immer einer konkreten Einzelfallprüfung.
• Digital Services Act: Addictive Designs können jedoch je nach konkretem Einzelfall basierend auf Art. 25 adressiert werden, der es Anbietern von Online-Plattformen verbietet, ihre Online-Schnittstellen so zu gestalten, dass Nutzer:innen in ihrer Fähigkeit freie und informierte Entscheidungen zu treffen maßgeblich beeinträchtigt oder behindert werden. Dies gilt jedoch nur für Praktiken, die nicht bereits durch die UGPRL oder die DSGVO reguliert sind. Zudem schreibt Art.  27 vor, dass „Empfehlungssysteme“, welche die Reihenfolge bestimmter Informationen für Nutzerinnen und Nutzer auf Online-Plattformen festlegen, transparenter gestaltet werden müssen. Abschließend verlangt die DSA von Online-Plattformen, Minderjährige online gezielt zu schützen (Art. 28). Diese Verpflichtung wurde in den kürzlich veröffentlichten Leitlinien zum Schutz Minderjähriger weiter präzisiert. Darin finden sich außerdem drei zentrale Empfehlungen, die als Maßnahmen gegen „addictive designs“ im Hinblick auf Minderjährige als besonders gefährdete Nutzergruppe betrachtet werden können:
  • Anpassung der Empfehlungsalgorithmen von Plattformen, um das Risiko zu verringern, dass Kinder mit schädlichen Inhalten in Kontakt kommen oder sich in „Rabbit Holes“ verlieren; hierzu wird unter anderem geraten, explizite Signale von Kindern stärker zu berücksichtigen als Verhaltenssignale und Kindern mehr Kontrolle über ihre Feeds zu ermöglichen;
  • Standardmäßige Deaktivierung von Funktionen, die zu exzessiver Nutzung beitragen, wie zum Beispiel Kommunikations-„Streaks“, flüchtige Inhalte, „Gelesen“-Bestätigungen, Autoplay oder Push-Benachrichtigungen, sowie das Entfernen von überredenden Designelementen, die vorrangig auf Engagement abzielen, und die Einrichtung von Schutzmechanismen für in Online-Plattformen integrierte KI-Chatbots;
  • Sicherstellung, dass das mangelnde kommerzielle Verständnis von Kindern nicht ausgenutzt wird und dass sie nicht kommerziellen Praktiken ausgesetzt sind, die manipulativ sein können, zu ungewollten Ausgaben oder zu suchtförderndem Verhalten führen können, etwa im Zusammenhang mit bestimmten virtuellen Währungen oder Lootboxen.
• KI-Verordnung: Art. 5(1)(a) und (b) der KI-Verordnung verbieten unterschwellige manipulative, täuschende oder die Schwachstellen bestimmter Personen ausnutzende Techniken, wenn diese (wahrscheinlich) zu erheblichem Schaden führen. Auch hier ist bei Addictive Designs eine Einzelfallprüfung vorzunehmen um zu klären, ob Addictive Design-Funktionen diese hohe Erheblichkeitsschwelle überschreiten können.
• Datenschutzgrundverordnung: Die DSGVO beinhaltet zwar die Datenschutzgrundsätze nach Art. 5(1), insbesondere zu Transparenz und Verarbeitung nach Treu und Glauben, sowie Art. 25 zu Datenschutz durch Technikgestaltung und datenschutzfreundliche Voreinstellungen, diese Vorschriften geraten jedoch nur ins Blickfeld, wenn sie zu einem Verstoß gegen Datenschutzstandards führen. Dies ist bei Addictive Designs jedoch selten der Fall, da beispielsweise ein automatisch abgespieltes Video die Zulässigkeit der Datenverarbeitung nicht tangiert. Sollte dies im konkreten Einzelfall doch der Fall sein, können Addictive Design-Funktionen natürlich auch mithilfe der DSGVO bekämpft werden. Dies bedarf jedoch einer konkreten Einzelfallprüfung und der Kern des Vorwurfs dürfte dann eher in der unzulässigen Datenverarbeitung, als in dem potenziellen Suchtcharakter liegen.

Was diskutiert die Europäische Kommission?

Der Teil der Konsultation, der sich mit Addictive Designs befasst, soll nun zunächst klären, ob aus öffentlicher Sicht bestehende Vorschriften des EU-Rechts Addictive Designs ausreichend regulieren, neue regulatorische oder nicht regulatorische Maßnahmen erforderlich sind oder eine wirksamere Durchsetzung bestehender Vorschriften sinnvoll ist.

Im Rahmen der Konsultation werden ausdrücklich folgende konkrete Regulierungsansätze zur Diskussion gestellt:

1. Kontrollmöglichkeiten: Nutzer:innen sollten mehr Kontrolle über diese Addictive Design-Funktionen erhalten, d.h. diese beispielsweise selbst deaktivieren (Opt-Out Option) oder die Kriterien für Empfehlungen, die sie online erhalten, anpassen können (bspw. wie Algorithmen ihnen Inhalte bereitstellen).
2. Voreinstellungen: Addictive Designs sollten standardmäßig deaktiviert sein und nur auf ausdrücklichen Wunsch aktiviert werden (Opt-in Option). Alternativ könnte diese standardmäßige Deaktivierung bei Nutzung Minderjähriger verwendet werden, denen dann die Möglichkeit eines Opt-Ins gegeben werden soll, gegebenenfalls kombiniert mit der Zustimmung der Erziehungsberechtigten.
3. Verbot bei Minderjährigen: Bestimmte Addictive Designs sollten für Kinder und Jugendliche grundsätzlich sogar verboten sein.

Einordnung der angedachten Regulierungsansätze

Bei der Einordnung der von der Kommission angedachten Regulierungsansätze ist eine differenzierte Betrachtung geboten. Viele der als potenziell süchtig machenden eingestuften Funktionen sind heute etablierter Bestandteil digitaler Nutzererlebnisse. Ein pauschales Verbot solcher Mechanismen würde zu kurz greifen, da es auch legitime Designstrategien unverhältnismäßig beschneiden und nicht zwangsläufig zu einem höheren Verbraucherschutzniveau führen würde.

Die in der Diskussion stehenden Addictive Designs fallen – sofern sie bestimmte Auswirkungen nach sich ziehen – bereits heute unter geltende Rechtsakte und können darüber sanktioniert werden. So kann ein Addictive Design eine unlautere Geschäftspraktik nach der UGP-Richtlinie sein, sofern sie die geschäftliche Entscheidung von Verbraucher:innen negativ beeinflusst. Oder ein Addictive Design kann zu DSGVO-Sanktionen führen, sofern es mit datenschutzwidriger Verarbeitung personenbezogener Daten einhergeht.

Statt neuer regulatorischer Verpflichtungen könnte der europäische Gesetzgeber zunächst auf nicht-legislative Maßnahmen setzen. Sektorale Leitlinien können zur Klärung beitragen, welche Gestaltungselemente unter welchen Voraussetzungen als unlauter, manipulierend oder schädlich einzustufen sind. Gleichzeitig würden solche Klarstellungen der Praxis Orientierung bieten, ohne in kreative oder wirtschaftliche Freiheiten unnötig einzugreifen. Auch eine präzisere Differenzierung zwischen Dark Patterns und Addictive Designs wäre im Rahmen solcher Leitlinien sinnvoll.

Die Einordnung von Addictive Designs verlangt eine sachliche, risikobasierte Bewertung. Pauschale Verbote sind nicht zielführend. Stattdessen sollte es auf eine konkrete Einzelfallprüfung ankommen, bei der Zielsetzung, Wirkung und Kontext der Gestaltung berücksichtigt werden. Wo Funktionen tatsächlich zu einer Beeinträchtigung der Entscheidungsfreiheit oder einem Verstoß gegen bestehende Rechtsnormen führen, stehen bereits heute geeignete Instrumente zur Verfügung. Eine konsequente Durchsetzung dieser Vorschriften sowie die Entwicklung klarer verbindlicher Orientierungshilfen bieten aus unserer Sicht den besseren Weg zu mehr digitaler Fairness.