Fachgespräch „Social Media goes Social“

Social Media
Plattformen regulieren.

Soziale Medien lassen sich durch konkrete techno-rechtliche Eingriffe gestalten.

Prof. Dr. Aurelia Tamò-Larrieux und Prof. Dr. Simon Mayer

Universität St. Gallen
Konrad-Adenauer-Stiftung, 4. November 2026

futuresociety.ch/event-slides/
kas-social-media-goes-social

Wer wir sind

Informatik trifft Recht.

Prof. Dr. Simon Mayer

Professur für Informatik

Universität St. Gallen

Google Scholar ↗

Prof. Dr. Aurelia Tamò-Larrieux

Professur für Recht & Technologie

Universität St. Gallen

Google Scholar ↗

Future Society Hubfuturesociety.ch ↗

snsf-cocoda.github.io ↗

01 / Regulierungsansätze

Wo Regulierung ansetzen kann.

ISystemrisikenIIZugangsbarrierenIIIGezieltes DesignIVPlattform-KPIs

02 / Hebel I

Transparenz schafft Evidenz.
Aber Plattformen benoten sich selbst.

ISystemrisiken

IIZugangsbarrieren

IIIGezieltes Design

IVPlattform-KPIs

Plattformen bewerten und mindern ihre Risiken selbst.

Jährliche Risikobewertung: Diskurs, Wahlen, psychische Gesundheit
Datenzugang für Forschende (Art. 40)

Jährliche unabhängige Prüfung (Art. 37)
Nur sehr große Plattformen

Erste kausale Feed-Experimente im Wahlkampf, dank Plattformdaten¹
Simulierte Konten messen unabhängig, was Feeds ausspielen²

−

Risikoberichte bleiben vage und ohne Evidenz³
Der Forschungsdatenzugang liefert unvollständige Daten⁴

Geltendes Recht konsequent durchsetzen.

1Guess et al. 2023, Science2Bekavac et al. 2026, ACM TORS3ECNL 20264Bekavac & Mayer 2026, arXiv

03 / Hebel II

Altersgrenzen sind sichtbar.
Ihre Wirkung ist begrenzt.

ISystemrisiken

IIZugangsbarrieren

IIIGezieltes Design

IVPlattform-KPIs

Hält bestimmte Gruppen von bestimmten Feeds fern, ohne die Mechanismen zu regeln.

Mindestalter mit Alterskontrolle
Datenschutzfreundlich: EUDI-Wallet, Zero-Knowledge-Beweise
Zeitsperren, z. B. nachts: Meta-Vergleich in den USA¹

Australien: Sperre unter 16 seit Dezember 2025
KIDS Act: unter 13 kein Zugang, bis 15 Elternkonten²

Einfach und politisch sichtbar
Facebook-Zugang verschlechterte die psychische Gesundheit von Studierenden³

−

Australien: Nutzung sinkt nur von 78 auf 69 %⁴
Alterskontrollen gefährden Daten: rund 70 000 Ausweisfotos offengelegt⁵
Digitale Nutzung erklärt höchstens 0,4 % des Wohlbefindens⁶

Datenschutzfreundlich. Nicht an das Lebensalter gekoppelt. Ergänzende Massnahme

1Connecticut Attorney General 20262EU-Kommission 2026, KIDS Act3Braghieri et al. 2022, American Economic Review4Barnes et al. 2026, BMJ5Discord 20256Orben & Przybylski 2019, Nature Human Behaviour

04 / Hebel III

Kleine Designentscheidungen.
Messbare Folgen.

ISystemrisiken

IIZugangsbarrieren

IIIGezieltes Design

IVPlattform-KPIs

Regelt konkrete Mechanismen von Interface und Algorithmus.

Interface: Endlos-Scroll, Autoplay, Likes, Push
Algorithmus: Ranking, Feed ohne Profiling, Public Value

Feste Vorgaben oder offene Schnittstellen
Erprobt: Amsterdam^1,2, USA^3,4, China⁵; umgekehrter „Brussels-Effekt“⁶

Interface

Gebündelte Benachrichtigungen: bessere Stimmung⁷
Ohne Autoplay: mehr Selbstbestimmungsgefühl⁸

Algorithmus

Chronologischer Feed: weniger Nutzungszeit⁹
Re-Ranking per Browser-Erweiterung: weniger Polarisierung¹⁰
Feed ohne Profiling ist Pflicht¹¹, Gerichte setzen die Wahl durch²

−

Belege nur für einzelne Eingriffe
Eingriff in Wirtschaftsfreiheit
Feste Vorgaben hinken neuen Funktionen hinterher

Regulieren heißt nicht, Code vorzuschreiben. Entscheidend ist die Wirkung, und die ist prüfbar^12,13.

1Rechtbank Amsterdam 20252Gerechtshof Amsterdam 20263Connecticut Attorney General 20264New York State 20265Cyberspace Administration of China 20246Inverarity et al. 2026, ODI7Fitz et al. 2019, Computers in Human Behavior8Lukoff et al. 2021, CHI9Guess et al. 2023, Science10Piccardi et al. 2025, Science11Digital Services Act, VO (EU) 2022/206512Bekavac et al. 2026, ACM TORS13Guitton et al. 2022, Law, Innovation and Technology

05 / Hebel IV

Beweislast umkehren.
Anreize für gutes Design.

ISystemrisiken

IIZugangsbarrieren

IIIGezieltes Design

IVPlattform-KPIs

Setzt an den Optimierungszielen an: heute Engagement und Werbeumsatz.

Neue Messgrößen: Wohlbefinden statt Verweildauer
Haftung, Sorgfaltspflicht, Abgaben

Feed und Hosting trennen¹
Öffentliche Plattform als Alternative²

Heute

Gesellschaft und Forschung müssen nachweisen, dass ein Design schadet.

Effekte sind klein und einem Feed kaum zuzuordnen³
Haftung greift kaum, denn Engagement treibt Gewinn und Schaden zugleich²

Mit Hebel IV

Plattformen zeigen, dass ihr Design gut ist, und werden dafür belohnt.

KPIs an gesellschaftlichen Zielen ausrichten, z. B. Wohlbefinden statt Verweildauer
Anreize statt Verbote

Dass die Zielgröße zählt, ist belegt: Engagement-Ranking verstärkt Feindseligkeit⁴, der X-Algorithmus verschiebt Einstellungen⁵.

1Keller 2021, Journal of Democracy2Mueller-Bloch & Ciriello 2026, CACM3Piccardi et al. 2025, Science4Milli et al. 2025, PNAS Nexus5Gauthier et al. 2026, Nature

06 / Kombination

Die Hebel
wirken zusammen.

Zielzone

Evidenz starkEvidenz schwachWirkung schnellWirkung langsam

IIIGezieltes Design

IVPlattform-KPIs

ISystemrisiken

IIZugangsbarrieren

Systemrisiken

Jetzt durchsetzen

Vollständige Risikoberichte, echter Datenzugang, Prüfung von außen.

Zugangsbarrieren

Ergänzend

Datenschutzfreundlich, nicht an das Alter gekoppelt.

III

Gezieltes Design

Gezielt einsetzen

Wo Evidenz vorliegt. Neue Evidenz in Deutschland schaffen.

Plattform-KPIs

Langfristig vorbereiten

Moderate Varianten jetzt prüfen.

Ein „Recht auf Anpassung“¹ verbindet die Hebel: Nutzerinnen und Nutzer wählen Varianten eines Dienstes, deren Wirkung messbar wird.

1Tamò-Larrieux et al. 2021, Privacy Technologies and Policy

07 / Was tun wir jetzt?

Was tun wir jetzt?
Ein Vorschlag.

Die Hebel helfen, konkrete Maßnahmen ins bestehende Recht einzubringen.

01 / Hebel I

Feed-TÜV

Feeds unabhängig messen und prüfen. Wer besteht, erhält eine Prüfplakette.

02 / Hebel III

Not addictive by default

Lockrufe per Voreinstellung aus.

03 / Hebel III

Sichtbare Trade-offs

Informiert zwischen Feeds wählen.

04 / Hebel IV

Werbewert-Abgabe mit Bonus

Wer sicher gestaltet, zahlt weniger.

Bildung für alle Jede Person versteht, wie Empfehlungssysteme funktionieren.

08 / Vorschlag 1

Strukturierte Datensammlung
und Feed-TÜV.

→Unabhängige Stelle mit Mandat und Budget
→Simulierte Konten messen, was Feeds ausspielen, z. B. einer 14-Jährigen in Leipzig
→Feed-Bericht monatlich, vor Wahlen wöchentlich
→Prüfplakette mit Ablaufdatum, wie bei der Hauptuntersuchung

Warum unabhängig messen?

27 von 51

Anträgen auf Datenzugang abgelehnt¹

0 %

der problematischen Beiträge in den Forschungsschnittstellen²

Misst nur, löscht nichts, legt Methoden und Daten offen.

1DSA40 Data Access Collaboratory 20262Bekavac & Mayer 2026, arXiv

09 / Vorschlag 2

Not addictive
by default.

PER VOREINSTELLUNG AUS

Push-BenachrichtigungenNachrichten echter Personen bleiben erlaubt, auf Wunsch gebündelt zu festen Zeiten⁴

Dark PatternsLockrufe und manipulatives Design, z. B.:

→Lock-Benachrichtigungen„Du hast etwas verpasst!“
→Streaks mit Verlustdrohung„Komm auf die Plattform, sonst …“
→Künstliche Countdowns„Nur noch 9 Sekunden, damit du …“
→Beschämende Ablehnungstexte„Nein danke, ich will lieber etwas verpassen.“
→Wiederholtes Nachfragen„Wolltest du wirklich nicht …?“

95 %

der populären Apps nutzen Dark Patterns¹

EU, 2026: TikToks Design verstößt vorläufig gegen den DSA²

Meta, 2026: nächtliche Sperren für Minderjährige³

Per Voreinstellung aus, nur durch aktive Entscheidung änderbar. Durchsetzung über Feed-TÜV, Verbandsklagen und Digital Fairness Act.

1Di Geronimo et al. 2020, CHI2EU-Kommission 2026, TikTok3Connecticut Attorney General 20264Fitz et al. 2019, Computers in Human Behavior

10 / Vorschlag 3

Sichtbare Trade-offs.
Informiert wählen.

Engagement-Feeds können extreme Inhalte verstärken¹. Wer zwischen Feeds wählt, soll informiert wählen.

Feed ohne geteilte Beiträge²

+weniger Desinformation

−weniger Nachrichten

Chronologischer Feed³

+weniger Beleidigungen

−mehr unzuverlässige Quellen

Weniger Profiling⁴

+weniger Datenauswertung

−unpassendere Werbung

Bridging- und Public-Value-Feeds⁵: wählbar, aber keine Pflicht.

Nächster Schritt: eine großangelegte Studie zu Ranking-Methoden.

1Milli et al. 2025, PNAS Nexus2Guess et al. 2023b, Science3Guess et al. 2023a, Science4Meta 20245Ovadya 2022

11 / Vorschlag 4

Werbewert-Abgabe
mit Bonus.

→Logik umdrehen: Statt nachzuweisen, dass Plattformen schaden, erhalten sie einen Anreiz, es besser zu machen
→Abgabe auf Werbeumsätze sehr großer Plattformen in Deutschland, wie in Österreich
→Mit gültiger Feed-TÜV-Plakette sinkt der Satz deutlich
→Einnahmen für Bildung, Forschung und den Feed-TÜV

Satz

Hoch (z. B. 5–10 %)

vgl. Österreich und „Plattform-Soli“

Tief (z. B. 1–3 %)

mit gültiger Prüfplakette

Wer sicher gestaltet, zahlt weniger.

12 / Vorschlag 5

Bildung zu Empfehlungssystemen:
alle erreichen.

Für alle

Von der Grundschule bis zur Erwachsenenbildung.

Kompakt

30 bis 45 Minuten, standardisierte, frei zugängliche Materialien.

Konkret

Wie ein Feed auswählt, worauf er optimiert, wie Lockrufe wirken.

13 / Zusammenfassung

Am Produkt ansetzen,
nicht an Verboten.

ISystemrisiken

IIZugangsbarrieren

IIIGezieltes Design

IVPlattform-KPIs

Feed-TÜV

Unabhängig messen und prüfen.

Ergänzend

Datenschutzfreundlich, nicht an das Alter gekoppelt.

Not addictive by default

Lockrufe aus.

Sichtbare Trade-offs beim Feed.

Werbewert-Abgabe mit Bonus

Wer sicher gestaltet, zahlt weniger.

Bildung zu Empfehlungssystemen für alle verbindet die Vorschläge: Technische Machbarkeit × rechtliche Durchsetzbarkeit.

14 / Ausblick

Neue Technologien,
neue Herausforderungen.

Die nächste Plattform

KI-Chatbots prägen zunehmend „künstlich-soziale“ Interaktionen. ChatGPT Search ist seit August 2026 eine sehr große Suchmaschine nach dem DSA.¹

Bekannte Probleme

Systemrisiken und Designs, die zu mehr Interaktion verlocken: Die Hebel I–IV lassen sich übertragen.

Evidenz fehlt

Hier braucht es noch dringender wissenschaftliche Belege, vor allem zu Langzeiteffekten.

Bei sozialen Medien lag die Evidenz zu lange bei den Plattformen. Bei KI-Chatbots sollten unabhängige Stellen von Anfang an messen können, wie sie wirken.

1EU-Kommission 2026b

CoCoDa / Danke